
23 Eylül’de New York’taki Birleşmiş Milletler Güvenlik Konseyi (BMGK) oturumunda, "Yapay Zeka ve Uluslararası Güvenlik" başlıklı bir toplantı gerçekleştirildi. BMGK’nin Fransa tarafından eylül ayı dönem başkanlığı yürütülürken, toplantıya OpenAI CEO’su Sam Altman, Anthropic CEO’su Dario Amodei ve Hugging Face CEO’su Clément Delangue katıldı. Toplantıda, teknolojinin hızla artan kapasitesinin uluslararası güvenlik açısından oluşturabileceği riskler gündeme getirildi.
BMGK Toplantısının Genel Görünümü
Toplantı, BMGK’nin 23 Eylül’de New York’ta düzenlediği "Yapay Zeka ve Uluslararası Güvenlik" başlıklı oturumda gerçekleşti. BMGK, Fransa’nın eylül ayı dönem başkanlığını yürüttüğü bir oturumda, dünyanın önde gelen yapay zeka şirketlerinin yöneticilerinin bir araya gelmesini sağladı. Konuşmacılar, yapay zekanın giderek daha güçlü ve otonom hale gelmesinin uluslararası güvenlik açısından oluşturabileceği riskleri vurguladı.
Yapay Zeka ve İnsan Kontrolü
OpenAI CEO’su Sam Altman, toplantıda yapay zekanın insan kontrolünden çıkma riskine dikkat çekti. Altman, teknolojinin hızla geliştiğini ve bu gelişmenin hem faydalarını hem de riskleri daha acil hale getirdiğini belirtti. Özellikle, yapay zeka sistemlerinin kendilerini geliştirme süreçlerinde daha fazla rol üstlenmeye başlamasının kontrol kaybı riskini artırabileceğini vurguladı. Altman, kritik kararların yalnızca laboratuvarlar tarafından alınmaması gerektiğini, demokratik süreçlerin ve halka karşı sorumlu hükümetlerin bu süreçte yer alması gerektiğini savundu.
Biyolojik Silah Riskleri
Anthropic CEO’su Dario Amodei, yapay zekanın kötü niyetli kişiler tarafından biyolojik silah geliştirmek amacıyla kullanılabileceği senaryosunu gündeme getirdi. Amodei, güçlü yapay zeka sistemlerinin biyolojik tehditlere dönüştürülebileceğini ve bu risklerin küresel ölçekte ele alınması gerektiğini belirtti. Ayrıca, yapay zekanın insanların bütünü için risk oluşturabileceğini öne sürerek, tek bir şirketin önlemleriyle çözülemeyecek bir sorun olduğunu vurguladı.
Siber Saldırılarda Yapay Zeka
Hugging Face CEO’su Clément Delangue, şirketinin yaşadığı yapay zeka ajanı kaynaklı siber güvenlik olayından dersleri paylaştı. Delangue, yapay zekanın siber güvenlik alanında saldırganların kapasitesini artırabileceğini ancak aynı zamanda savunma amaçlı da kullanılabileceğini belirtti. Delangue, küresel ölçekte daha güçlü izleme, şeffaflık ve olay bildirim standartlarının oluşturulması gerektiğini savundu. Ayrıca, güçlü yapay zeka araçlarının erişiminin geniş bir tabana yayılmasının güvenlik sorunlarını azaltabileceğini ifade etti.
Uluslararası Standartların Gerekliliği
Toplantıda, yapay zeka sistemlerinin yönetiminin yalnızca teknoloji şirketlerine bırakılmaması gerektiği ve uluslararası standartlara ihtiyaç duyulduğu ortak bir görüş ortaya çıktı. Altman, Amodei ve Delangue, yapay zekanın geleceğinin yalnızca birkaç şirketin kendi güvenlik politikalarıyla yönetilemeyeceğini belirtti. Küresel ölçekte ortak hareket edilmesi gerektiği, uluslararası değerlendirme ve doğrulama mekanizmalarının kurulması gerektiği vurgulandı. Ayrıca, yapay zekanın biyolojik silah üretiminde kullanılmasının yasaklanması gibi dar konularda uzlaşmanın mümkün olabileceği öne sürüldü.
Sıkça Sorulan Sorular
1. BMGK toplantısında kimler konuştu?
Toplantıda OpenAI CEO’su Sam Altman, Anthropic CEO’su Dario Amodei ve Hugging Face CEO’su Clément Delangue konuşma yaptı.
2. Yapay zekanın hangi riskleri vurgulandı?
Yapay zeka insan kontrolünden çıkma, biyolojik silah geliştirme ve siber saldırılarda kullanım riskleri gündeme getirildi.
3. Dario Amodei biyolojik silah konusunda ne önerdi?
Amodei, yapay zekanın biyolojik silah geliştirme amacıyla kötü niyetli kişiler tarafından kullanılabileceğini belirterek, bu konuda uluslararası yasak önerisi sundu.
4. Clément Delangue siber saldırılarda ne tartıştı?
Delangue, yapay zekanın siber saldırılarda saldırganların kapasitesini artırabileceğini ancak aynı zamanda savunma amaçlı da kullanılabileceğini tartıştı.
5. Toplantıda hangi uluslararası standartlar gerektiği üzerinde duruldu?
Yapay zeka güvenliği için ortak test ve güvenlik standartları, uluslararası değerlendirme ve doğrulama mekanizmaları, izleme, şeffaflık ve olay bildirim standartlarının oluşturulması gerektiği üzerinde duruldu.