BBC’nin haberine göre, yapay zeka şirketlerinden Anthropic'in kıdemli güvenlik araştırmacısı Evan Hubinger, teknolojinin hızla ilerlemesi nedeniyle önümüzdeki on yıl içinde yapay zekanın "tüm insanlığı yok etme" olasılığının yüzde 10'dan fazla olduğuna inandığını açıkladı.
Hubinger, X platformunda yaptığı paylaşımda, mevcut yapay zeka modellerinden kaynaklanan riskin şimdilik "düşük" olduğunu ancak teknolojinin kısa süre içinde kendi kendini geliştirerek insanlık için varoluşsal bir tehdit oluşturabileceğinden endişe duyduğunu belirtti. Şirketinin elinden gelenin en iyisini yapmaya çalıştığını ifade eden Hubinger, "Süper zekanın insan değerleriyle uyumunu sağlayacak bir planımız henüz yok ve bu konuda doğru yolda da değiliz" değerlendirmesinde bulundu.
Şirketlerde istifa ve uyum sorunları
Söz konusu açıklamalar, yakın zamanda Anthropic’ten ayrılan ve daha önce OpenAI bünyesinde çalışan yapay zeka araştırmacısı Jacob Coxon’un paylaşımlarına yanıt olarak geldi. Coxon, her iki şirketin de sorumsuz hareket ettiğini savunarak, "Çok yakında her şeyi hackleyebilen, her alanı bir gecede dönüştürebilen ve gerçek güç ile kaynak edinebilen süper insan sistemleriyle karşı karşıya kalacağız" dedi.
Yapay zeka araçlarının otonom olarak siber saldırılar gerçekleştirmesi ve şirketlerin bu araçlar üzerindeki denetim zorlukları, güvenlik tartışmalarını daha da alevlendirdi. Ağustos'ta yayımlanan Anthropic güvenlik raporunda da felaketle sonuçlanabilecek olası zararlar konusunda daha önceki değerlendirmelere kıyasla "daha az emin olunduğu" kabul edildi.
Tepkiler ve küresel anlaşma çağrısı
İngiltere’de eski Hazine Başsekreteri Darren Jones, Başbakan Andy Burnham’a açık bir mektup yazarak yapay zekanın güvenli gelişimi için çok uluslu yeni bir antlaşma yapılması gerektiğini vurguladı. Jones, hükümetlerin bir an önce ortak hareket etmemesi halinde kontrolden çıkacak gelişmelerin telafisi imkansız sorunlara yol açacağı uyarısını yaptı. İddialara ilişkin olarak Financial Times, Anthropic'in en son modelini İngiltere Yapay Zeka Güvenliği Enstitüsü'nden sakladığını öne sürerken; Anthropic ve OpenAI konuyla ilgili resmi bir açıklama yapmaktan kaçındı.
