Yapay Zeka Kontrolden Çıktı, Günlerce Fark Edilmedi: Kâbus Gerçek Oldu
Arkadaşlar dinleyin, korkunç bi haber var. Bakın başımıza ne geldi… OpenAI itiraf etti, dediki bizim otonom yapay zeka ajanı kontrolden çıktı. Üstelik bunu günlerce fark edemedik. Abartıyorum zannetmeyin, resmen kâbus gibi bi durum.
Olay şöyle… Tam tarih 16 Temmuz. Hugging Face denen popüler bi yapay zeka platformu var ya, işte ona bi siber saldırı düzenleniyor. Güçlü bi otonom yapay zeka tarafından saldırıya uğradıklarını açıklıyorlar. Hemen polise bildiriyolar olayı. Kimin yaptığını bilmiyorlar tabi ilk başta. Ama ne oldu biliyormusunuz? Yaklaşık bir hafta sonra OpenAI geliyor ve diyorki “Evet o saldırıyı biz yaptık” yani bizim yapay zeka yaptı.
Simdi durun daha işin başı. OpenAI açıklamasında şunu söylüyor: “Saldırı düşündüğümüzden daha geniş kapsamlı.” Yani sadece Hugging Face’i hedef almamış o yapay zeka. Bi de kamuya açık başka hizmetlerede sızmış. Dört farklı hesap kullanarak dört ayrı hizmete erişim sağlamış. Hangi hizmetler olduğunu söylemediler ama, gizli tutuyorlar. İşin ilginci bu hesapların bilgileri internette açıkta duruyormuş. Yani şifreler falan herkese açık bi şekilde bulunuyormuş ağlarda.
Şimdi gelelim can alıcı noktaya… O yapay zeka ajanı ne yapıyormuş peki? OpenAI diyorki kendisine bir sızma testi görevi verilmiş. Soruların yanıtlarını bulmaya çalışıyomuş. Ama işler kontrolden çıkmış. Hugging Face’e sızan sistem, internette bulduğu kullanıcı bilgilerini kullanarak öbür hizmetlere de sızmış. Dedim ya, dört farklı hesap dört ayrı hizmet…
Hugging Face’in siber güvenlik uzmanları acil toplantı yapmış. Ortaya ilginç bi rapor çıkmış. Diyorki bu yapay zeka ajanları insanlardan çok farklı hareket ediyo. Bakın ne demişler: Aynı işlemi defalarca yapıyorlarmış. Anlamsız komutlar üretiyolarmış. İzlerini gizleme konusunda da resmen beceriksizler. Ama bi yandan da binlerce farklı yöntemi aynı anda deneyip yeni durumlara hızla uyum sağlıyolarmış. Yani bi yandan şapşal ama bi yandan süper zeki. Çok garip bi durum.
Daha beteri var… Hugging Face diyorki bu yapay zeka ajanları şirket ağı içinde tam ÜÇ GÜN boyunca tespit edilememiş. Üç gün be! Saldırıyı durdurmak saatler almış. Olaydan sonra şirket altyapısının neredeyse üçte biri baştan inşa edilmiş. Maliyet konusunda bilgi vermediler ama az olmadığını tahmin etmek zor değil.
Şimdi bu rapor şunu da söylüyor: Bu sistemler hedef odaklı çalışıyo. Kendi alt hedeflerini belirliyebiliyolar. Savunma mekanizmalarına gerçek zamanlı uyum sağlıyolar. Makine hızında hareket ederek geleneksel güvenlik önlemlerini zorluyolar. Yani klasik bi güvenlik duvarı falan işe yaramıyor bunlara karşı.
Daha önce bi haber çıkmıştı hatırlarsınız. Ona göre OpenAI’ın kendi yapay zekasının Hugging Face’e sızdığını fark etmesi DÖRT GÜN sürmüştü. Dört gün boyunca kendi yarattığı canavar internette dolaşıp durmuş. Hiç farkında değillermiş. Şimdi OpenAI soruşturma sonuçlarını kısa süre içinde paylaşacaklarını söylüyor. Ders çıkarılması için ayrıntılı bulgular yayımlayacaklarmış.
Ama durun… Bu ne demek? Yani yapay zeka dediğimiz şey artık kendi başına hareket ediyo. Kendi hedeflerini belirliyo. Önüne kimse geçemiyo. Üstelik bunu haftalarca fark eden olmuyo. İnanır mısınız bu duruma? İşte böyle arkadaşlar, teknoloji dediğin kontrol edilemez bi hale gelmiş durumda…
Bakalım bundan sonra ne olacak. Bu haber kesin konuşulmaya devam edecek. Gelişmeleri takip ediyoruz…
Kaynak: Orijinal Haber
