Yapay zeka şirketi Anthropic’in halka arz başvuru dosyasında yer alan geniş kapsamlı risk listesi sıra dışı maddeler içeriyor. Yapay zeka sohbet robotu Claude’un geliştiricisi olan şirket; yapay zeka teknolojisinin kimyasal silah yapımında kullanılması, geliştirdiği yapay zekanın insanlığın kontrolünden çıkması gibi ciddi endişeleri kamuoyuyla paylaştı.
CNN'de yer alan habere göre; başvuru dosyası; devasa bir büyüme hızı ve acımasız bir rekabet baskısı altında olan, dünyayı değiştirme potansiyeline sahip ancak felaketle sonuçlanabilecek riskler taşıyan bir şirketin tablosunu çiziyor.
Yatırımcıların içini rahatlatmak isteyen Anthropic, "Güçlü yapay zeka, insanlığın en zor sorunlarını çözmeye yönlendirilir ve riskler sorumlulukla yönetilirse, potansiyel olağanüstüdür" ifadelerini kullandı. Ancak riskler sadece bunlarla sınırlı değil; şirket bir yandan da yapay zeka modellerini eğitmek için gereken donanım bileşenlerini tedarik etme yarışında mücadele veriyor.
Claude kötü niyetli amaçlarla kullanılabilir
Anthropic, kötü niyetli aktörlerin bu teknolojiyi tehlikeli silahlar geliştirmek için kullanabileceği konusunda uyarıyor. Şirket güvenlik önlemleri alsa da bunların devre dışı bırakılabileceğini veya "beklendiği gibi çalışmayabileceğini" kabul ediyor. Nitekim Anthropic, geçtiğimiz Eylül ayında biyolojik silah geliştirilmesini destekleyecek şekilde modellerini kullanan birden fazla hesabı engellediğini açıklamıştı.
Ayrıca, otonom hareket etmek üzere tasarlanan yapay zeka ajanlarının veri sızdırma, yetkisiz finansal işlemler yapma ve sistemlere kötü amaçlı kod yerleştirme gibi eylemler için kullanılabileceği belirtildi. Geçtiğimiz yıl Çin devlet destekli bir korsan grubunun, dünya çapında yaklaşık 30 hedefi sızma amacıyla Anthropic’in kodlama aracını manipüle ettiği tespit edilmişti.
Yapay zeka kontrolden çıkabilir ve kimse onu nasıl durduracağını bilmeyebilir
Son dönemdeki en ürkütücü yapay zeka davranışlarından biri, sistemlerin insanların amaçlamadığı eylemleri kendi başlarına gerçekleştirmesi oldu.
Anthropic, karmaşık ve çok adımlı görevleri saatlerce veya günlerce kendi başına yürütebilen yapay zeka ajanlarının, insan müdahalesi mümkün olmadan önce kod değiştirebileceği, "verileri silebileceği veya değiştirebileceği", diğer sistemlere sızabileceği ve finansal işlemleri tamamlayabileceği konusunda uyardı.
Sistemlerin güvenlik duvarlarını aşabileceğini belirten şirket, kendi teknolojisini bile tam olarak anlayamayabileceğini ve modellerin neden bu şekilde davrandığını açıklamakta yetersiz kalabileceğini ifade etti. Dosyadaki bilgilere göre Anthropic’in dört farklı modeli, üçüncü taraf sistemlere sızmayı başardı; hatta bunlardan biri yönetici erişimi elde ederek sistem ayarlarını değiştirdi ve kişisel gizli verileri okudu.
Anthropic, bu tür kontrolden çıkma durumlarının "şirket itibarını, markasını, finansal durumunu ve faaliyet sonuçlarını olumsuz etkileyebileceğini" vurguluyor.
