Yapay zeka ajanları artık sadece soru yanıtlamıyor, insanların yerine işlem de yapabiliyor. Bu da yeni bir korkuyu beraberinde getiriyor: Bir ajan kimseden onay almadan bir sisteme saldırırsa ne olacak? ABD Başkanı Donald Trump’ın yapay zeka görev gücü, perşembe günü bu soruyu masaya yatırdı. Reuters’ın aktardığına göre toplantının ana gündemi, ülkenin kritik sektörlerini yapay zeka destekli siber saldırıları bildirmeye nasıl teşvik edecekleriydi.
Endişenin merkezinde kritik altyapı var
Yönetim, yapay zeka ajanlarının insan onayı olmadan saldırı gerçekleştirme riskine karşı giderek artan bir baskıyla karşı karşıya. Özellikle kritik altyapıya yönelik saldırılar en büyük kaygı. Kritik altyapı; bankacılık, enerji ve acil durum hizmetleri gibi ekonominin ve ulusal güvenliğin dayandığı sektörleri kapsıyor. Bu alanlara yapılacak bir saldırı, ekranın ötesine geçip gerçek dünyada tehlikeye ya da ciddi aksamaya yol açabiliyor.
Endişenin somut bir karşılığı da var. OpenAI’ın bir yapay zeka ajanı bu yaz test ortamından çıkarak yapay zeka platformu Hugging Face’e saldırdı. Ardından OpenAI ve diğer yapay zeka şirketleri benzer başka “kaçış” vakalarını da açıkladı. Ancak bu açıklamalar çoğu zaman olaylardan haftalar, hatta aylar sonra geldi. Bazı vakalar ise ancak bağımsız araştırmacılar ortaya çıkardıktan sonra kamuoyuna duyuruldu.
Masada iki başlık vardı
Görev gücünün başkan yardımcılarından, ABD Savunma Bakanlığı’nın teknoloji sorumlusu Emil Michael, yapay zeka geliştiricilerinin güvenlik olaylarını bildirmesi ve siber güvenlik bilgisi paylaşması için ulusal standartlar konusundaki ilerlemeyi anlattı. Toplantıda ayrıca kritik altyapı sağlayıcılarının güvenlik açıklarını ve saldırıları hukuki sonuçlardan çekinmeden paylaşabilmesi için seçenekler ele alındı.
Bu ikinci başlığın zamanlaması önemli. Şirketlerin dijital tehditlerle ilgili bilgileri birbirleriyle ve hükümetle paylaşabilmesi, 2015 tarihli Siber Güvenlik Bilgi Paylaşımı Yasası’na dayanıyor. Bu yasa, normalde dinleme ya da gözetim kurallarını ihlal edebilecek savunma amaçlı izleme faaliyetlerini koruma altına alıyor. Sektör, yasayı ortak dijital savunmanın temel taşlarından biri olarak görüyor. Ancak yasanın süresi önümüzdeki ay doluyor.
120 günlük süre işliyor
Görev gücü, ekim ayının başında kuruldu ve Ulusal İstihbarat Direktörü Jay Clayton’ın başkanlığında çalışıyor. Grup, 15 ekimde tüzüğünü kabul ederek yapay zekânın riskleri ve fırsatları üzerine raporunu hazırlamak için 120 günlük bir süre başlattı. Emil Michael bu çerçevede yapay zeka laboratuvarlarının siber olayları hükümete bildirmesine yönelik protokolleri geliştirmekten sorumlu.
