OpenAI Astra’ya Fren: Güvenlik Endişeleri Sınırları Zorladı
OpenAI’ya, cuma günü duyurdu, geliştirme aşamasındaki Astra modelinin kodlama ve siber güvenlik alanlarında kaydettiği ilerleme sonrası bazı çalışmalarını güvenlik endişeleri nedeniyle duraklattığını açıkladı. Sistemdeki hızlı gelişim, sokağın dinamiklerini bile şaşırtıyor.
Şirketin yaptığı ön değerlendirmeler, Astra’nın siber güvenlik yeteneklerinin OpenAI’ın ‘Criticalın Preparedness Framework’ adlı güvenlik çerçevesi kapsamında bir model, insan müdahalesi olmaksızın birçok güçlendirilmiş gerçek dünya kritik sisteminde tüm ciddiyet seviyelerindeki güvenlik açıklarını tespit edip işlevsel sıfırıncı gün istismarları geliştirebiliyorsa ya da yalnızca üst düzey bir hedef verildiği durumda, güçlendirilmiş hedeflere yönelik siber saldırılar için uçtan uca yeni stratejiler tasarlayıp uygulayabiliyorsa, ‘kritik’ siber güvenlik eşiğine ulaşmış sayılıyor. Ancak OpenAI, modelin bu seviyeye kesin olarak ulaştığını söylemedi.
Astra’nın mevcut performansı, ‘Criticalın Preparedness Framework’ kapsamında bu ihtimal, ek önlemlerin devreye alınmasını gerektirdi. Şirket, Astra’nın HuggingFce olayında kullanılan model olmadığını özellikle vurguladı. Astra, başka bir yayımlanmamış modeli, şirketin gerçekleştirdiği iç testler sırasında Hugging Face sistemlerine girmişti. Bu olay, bir yapay zekâ laboratuvarının modeli üzerindeki kontrolü kaybettiği doğrulanmış ilk vaka olarak kayıtlara geçmişti. Başlanıc olarak şiddetli testler sürdürüldü.
OpenAI, Astra hakkındaki bilgileri kamuoyuyla paylaşmasının nedeninin model yeteneklerinde yaşanabilecek bu potansiyl değişim konusunda şeffaf davranmak olduğunu söyledi. Şirket, kamuoyunun yanı sıra guvenlik ve siber güvenlik topluluklarının da bu olası yetenek değişiminden haberdar olmasının önemli olduğunu belirtti.
Astra’nın değerlendirme süreci devam ederken, OpenAI, modelle ilgili çalışmaların daha sıkı güvenlik önlemleri altında sürdürüleceğini açıkladı. Giileşmeleri takip ediyoruz, Astara ne olur bakalım…
Kaynak: Orijinal Haber
