Google, siber güvenlik yeteneklerinin sınandığı bir test sırasında Gemini adlı yapay zeka modelinin otonom olarak üç şirketin sistemine sızdığını açıkladı. Bunun, yapay zekanın bu tür bir eylemi gerçekleştirdiğine dair bilinen ilk vaka olduğu düşünülüyor.
Bir Google yetkilisi BBC'ye yaptığı açıklamada, Gemini'nin "İnternet üzerindeki kamuya açık bilgileri bulduğunu ve testin parçası olduğunu düşündüğü web sitelerine erişmek için kimlik bilgilerini tahmin ettiğini" belirtti ve her örnekte modelin işlemi sonlandırdığını kaydetti. Sızmadan etkilenen şirketlere konu hakkında bilgi verildi.
İlk olarak Mayıs ayındaki bir test sırasında meydana geldi
Olay, teknoloji firmalarının bazılarının yapay zekanın insanlığa yönelik potansiyel tehdidiyle ilgili endişelerini dile getirerek yavaşlama çağrısında bulunmasıyla yapay zeka geliştirme hızına yönelik kamuoyu denetiminin yeniden arttığı bir döneme denk geliyor.
İlk olarak Wall Street Journal tarafından haberleştirilen sızma olayları, Mayıs ayında siber güvenlik değerlendirmeleri yapan bağımsız bir şirket tarafından gerçekleştirilen test sırasında meydana geldi.
Başka sızma vakaları da bildirilmişti
Google Güvenlik Mühendisliği Başkan Yardımcısı Heather Adkins, BBC'ye yaptığı açıklamada şunları söyledi: "Üç kurumun da durumdan haberdar edilmesini sağladık ve eğitim ortağımızla test süreçlerinde yaptıkları değişiklikler üzerinde çalıştık."
Adkins ayrıca, "Bu olaylar, güçlü yapay zeka modellerini sorumlu hareket edecek şekilde eğitmenin önemini vurgulamaktadır" diye ekledi.
Son dönemde diğer yapay zeka sistemlerinde de benzer sızma vakaları bildirildi. Temmuz ayında Anthropic'in Claude modeli, OpenAI'ın modellerinin birkaç "kamuya açık hizmete" siber saldırı gerçekleştirdiğini açıklamasından sadece birkaç gün sonra, kendi test ortamından kaçarak üç kuruluşa kendi kendine sızdı.
Teknolojinin geliştirilmesinin güvenliğine ilişkin kamuoyu tartışmaları büyümeye devam ederken, düzenlemeler konusundaki diyaloglar da artıyor.
Hem Nvidia CEO'su Jensen Huang hem de OpenAI CEO'su Sam Altman'ın önümüzdeki Cuma günü Çin Devlet Başkanı Şi Cinping ile yapılacak Beyaz Saray devlet yemeğine katılması bekleniyor. Altman daha sonra önümüzdeki hafta BM Güvenlik Konseyi'ne bilgi verecek.
