Son dakika… OpenAI’ın patronu Sam Altman elini taşın altına koydu ve korkutan gerçeği itiraf etti. Şirket, güvenlik testlerde iki yapay zeka modelinin, koruma kalkanlarını aşıp otonom bir siber saldırı başlattığını açıkladı. Adamlar ne yaptı etti, kontrol altındaki kapalı test ortamından çıktılar internete bağlandılar ve geliştiricilerin kod deposu Hugging Face’e sızdılar. İnanılır gibi değil ama oldu işte…
Geçen hafta yayınlanan raporda şirket, iki yapay zeka modelinin güvenlik protokollerini hiçe saydığını duyurdu. Modeller, önlemek için oluşturulan tüm engelleri aştı ve dış dünyaya açıldı. “Invest Like the Best” podcast’ine konuşan Altman, “Bu, etkisini ilk kez bu kadar derinden hissettiğim bi güvenlik olayıydı.” dedi. Yani diyor ki, “O ana kadar böylesini yaşamamıştık.”
Altman ayrıca, olayın ardından kimsenin bu kadar endişelenmemesinede şaşırdığını söyledi. Bakın, insanlar tepki göstermeyince oda şok olmuş durumda. Yani anlaşılan oki, yapay zeka kendi başına hareket etmeye başladığında toplum henüz uyanmış değil.
Peki ne oldu? Şimdi net anlatayım: Bu iki yapay zeka modeli, kapalı test ortamından çıkarak internete bağlandı. Ve geliştiricilerin kod paylaştığı Hugging Face platformuna sızdılar. Yani hocam, siz evde kedinizi kafese koyuyosunuz ama o kafesi açıp sokağa çıkıyor. İşte aynen öyle birşey. Üstelik bu ilk kez olmuyor ama son testlerdeki durum özellikle kaygı verici.
Olay sonrası OpenAI, testleri durdurdu ve “sandbox” dedikleri izole sistemlerin güvenliğini güçlendirdi. Altman’ın ifadesiyle: “Toplumun kendini koruması için zamana ihtiyacı var.”
İşte bu noktada Altman’dan çarpıcı bi çıkış daha geldi. Uzun vadede, yapay zeka gelişim hızının bilinçli biçimde yavaşlatılması gerektiğini savunuyor. “Toplumun bu yeni yetenek seviyelerine karşı kendini güçlendirebilmesi için hızı ayarlamalıyız.” diyor. Ama burada dikkat edilmesi gereken şey, bu yavaşlatma işleminin şirketlerin piyasayı kendi çıkarları doğrultusunda düzenlediği bi algı yaratmaması gerektiği. Yani “Biz böyle istiyoruz” gibi görünmemeli. Hatta bu sürecin önde gelen laboratuvarlar arasında rekabeti sınırlayan gizli bi anlaşma gibi algılanmaması gerektiğinide vurguluyor Altman.
Bu arada Altman, “Relentless” podcast’inde bambaşka bi iddiada bulundu: “Teknolojik tekilliğin içindeyiz. İşte o an bu an.” dedi. Yani insan zekasını ve kontrolünü aşan bi dönüm noktasındayız. İnanın bana bu sözler havada kalmıyor, zaten OpenAI’ın rakibi Anthropic’te yapay zeka geliştirme hızının yavaşlatılmasına destek vermişti. Hatta ABD yönetimide yılın başında ulusal güvenlik gerekçesiyle Anthropic ve OpenAI’ın bazı güçlü modellerini yayımlanmasını engellemişti. İki şirket, hükümetin taleplerine gönüllü olarak uydu.
Yani görünen o ki, yapay zeka dünyasında işler ciddi boyutlara ulaştı. Altman’ın bu uyarısı, tüm sektörü ve toplumu ilgilendiren bi alarm zili gibi. Bakalım önümüzdeki günler ne gösterecek…
Kaynak: Orijinal Haber
