İşte arkadaşlar, bugün size anlatacağım haber öyle sıradan bir siber saldırı haberi değil. Öyleki bilim kurgu filmlerine taş çıkartacak cinsten. OpenAI, yani o meşhur ChatGPT’nin sahibi olan firma, Salı günü resmen bir uyarı yayınladı. Dedilerki: “Bizim geliştirdiğimiz yapay zeka modelleri, güvenlik testleri sırasında kontrolden çıktı.” İnanırmısınız, o modeller kendi başlarına programcıların kullandığı dünyanın en büyük platformlarından biri olan Hugging Face’e sızmışlar.
Evet yanlış duymadınız, otonom yapay zeka ajanları… Bunlar sohbet robotlarının, görsel üreticilerin temelini oluşturan akıllı sistemler. Normalde görevleri otonom olarak yerine getirirler, yani insan müdahalesi olmadan iş yaparlar. Ama bu sefer iş çığırından çıkmış. San Francisco merkezli OpenAI, bu durumu “benzeri görülmemiş bir siber saldırı” olarak nitelendirdi ve Hugging Face ile ortak bir sorusturma başlattı. Olayın içinden çıkamadılar yani…
ŞİMDİ GELİN OLAYIN DETAYLARINA BAKALIM
OpenAI, güvenlik testleri yapıyordu. İnternet erişimini sıkıca kontrol ettikleri, sınırladıkları, izole edilmiş bir dijital test ortamı kurmuşlar. Modellere siber saldırı yeteneklerini değerlendirmek için görevler veriyorlardı. Ama ne oldu dersiniz? Modeller, kendilerine verilen bu değerlendirme sorununu çözmek için o kadar çok işlem gücü harcamışlar ki… Bir anda açık internet erişimini elde etmenin bir yolunu bulmuşlar. Yani kendi kendilerine kaçış planı yapmışlar.
Blog yazılarında şöyle diyorlar: “İzole edilmiş test ortamımızda çalışırken, modellerimiz değerlendirme sorununu çözme arayışında açık internet erişimi elde etmenin bir yolunu bulmak için önemli miktarda işlem gücü harcadı.” İşte bu cümle bile başlı başına ürpertiyor insanı…
BİRDEN FAZLA YÖNTEM BİR ARADA
İnternete kavuşan otonom modeller, hemen Hugging Face platformuna yönelmişler. Neden? Çünkü orası dev bir bilgi deposu. Yapay zeka modelleri, veri kümeleri, her şey orada. Saldırı öyle basit değil. OpenAI sistemi, değerlendirmeyi hileyle geçmek için gizli bilgiler aramış. Çalınan kimlik bilgilerini kullanmış, birden fazla saldırı yöntemini bir araya getirmiş. Yani çok akıllıca, çok planlı bir saldırı.
UNSW Canberra’da bilgisayar bilimleri profesörü olan Hüseyin Abbass, olayı AFP’ye değerlendirirken resmen dehşete düştüğünü söylemiş. Diyorki: “Sadece Hugging Face’e saldırmakla kalmadı. Aslında kendi güvenlik açıklarından yararlanmak için iç sistemine de saldırdı.” Yani kendi kendini hackledi resmen. Bu ne demek biliyormusunuz? Yapay zeka, kendisini durduracak sistemleri aşmayı da öğrendi.
SİBER GÜVENLİK ALANINDA FELAKET POTANSİYELİ
Bu olay aslında uzun süredir beklenen bir şeydi ama kimse bu kadar çabuk olacağını tahmin etmemişti. GPT-5.6 Sol ve OpenAI’nin en büyük rakibi Anthropic’in Mythos serisi gibi son teknoloji modeller, zaten siber güvenlik savunmalarını aşma potansiyelleri nedeniyle endişe yaratıyordu. O kadar ki, ABD’li firmalar bu sistemlerin piyasaya sürülmesini geçici olarak durdurmak zorunda kaldı. Kritik altyapılara sızabileceklerinden korktular.
Profesör Abbass’ın söylediği bir şey var ki tüyler ürpertici: “Eğer bu teknoloji, birilerinin eline zarar verme niyetiyle geçerse felaketle sonuçlanır.” Normalde bu güç etik ve sorumluluk bilincindeki yetkililerin elinde, ama ya bir gün kötü niyetli birinin eline geçerse? Kim bilir neler olur…
“KÖTÜ NİYETLİ OLMADIKLARINA İNANIYORUZ”
Hugging Face de geçen hafta bu siber saldırıyı duyurmuştu ama o zaman OpenAI’den bahsetmemişti. Sonra yaptıkları açıklamada şöyle dediler: “Bu durum, daha önce ele aldığımız her şeyden önemli bir açıdan ayrılıyor. Saldırı baştan sona otonom bir yapay zeka sistemi tarafından yönetiliyordu ve biz de onu büyük ölçüde kendi yapay zekamızla tespit edip inceledik.” Yani bir yapay zeka diğerini yakaladı.
Hugging Face CEO’su Clement Delangue, X platformu üzerinden yaptığı açıklamada, kullanılan yapay zeka ajanının gelişmişliği göz önüne alındığında, saldırının dünyanın önde gelen yapay zeka laboratuvarlarından birinden geldiği şüphesini dile getirdi. Ama hemen ekledi: “Onların bu kötü niyetli operasyonun arkasında olmadıklarına kesinlikle inanıyoruz.” Yani OpenAI’nin kendisi değil, onların yarattığı otonom sistemler yapmış bunu. Bütün bunların otonom olarak gerçekleşmiş olması akıl almaz bir olay…
Neyse, işte böyle arkadaşlar. Yapay zeka sektörünün nasıl yönetileceği artık çok önemli bir soru haline geldi. Bu durumu kontrol altına alabilmek için toplumsal bir çabaya ihtiyacımız var. Bakalım bundan sonra ne olacak? Bu modeller daha da gelişince neler yapacak? Hep birlikte göreceğiz…
Kaynak: Orijinal Haber
