Nvidia, geliştiricilerin yapay zeka ajanlarına güvenlik sınırları koymalarını sağlamak ve modellerin sistem dışına sızmasını engellemek amacıyla yeni yazılım platformunu kullanıma sundu.
Şirketin duyurduğu "Açık Ajan Güvenliği Platformu" OpenAI, Anthropic, Meta ve Google gibi şirketlerin geliştirdiği yapay zeka modellerinin korumalı alanlardan kaçarak başka şirketlere ve bilgisayar sistemlerine erişim sağlamaya çalıştığı güvenlik ihlallerinin ardından geldi.
Nvidia CEO'su Jensen Huang, CNBC’nin "Squawk Box" programında yaptığı açıklamada, yeni yazılımı yapay zeka ajanları için modern bir tarayıcıya benzeterek, "Ajanların şirket içinde başıboş dolaşmasına izin veremezsiniz, bu yüzden onları kapsülleyecek ve sınırlandıracak bir yol bulmanız gerekir" ifadelerini kullandı.
Nvidia Kurumsal AI Başkan Yardımcısı Justin Boitano, gazetecilere yaptığı açıklamada söz konusu platformun, Temmuz ayında OpenAI modellerinin güvenlik sınırlarını aşarak açık internete eriştiği ve açık kaynaklı geliştirici platformu Hugging Face’e saldırdığı olayı önleyebileceğini belirtti. Boitano, "Bildiğimiz kadarıyla Hugging Face, haftalarca süren ve altyapılarına saldıran 17 binden fazla yapay zeka ajanı rapor etti" dedi.
Yapay zeka güvenlik endişelerinin ürün geliştirme ve bilgisayar bilimleriyle çözülebilecek mühendislik sorunları olduğunu savunan Jensen Huang, geçtiğimiz hafta The New York Times’tan Ezra Klein ile yaptığı podcast yayınında, gelecekte benzer olayların yaşanmaması için süreçlerin ve teknik çözümlerin geliştirilmesi gerektiğini vurguladı.
Sistem CPU ve ağ çipleri üzerinden denetlenecek
Boitano, model düzeyindeki güvenlik önlemlerinin tek başına yapay zeka ajanlarının erişim yetkilerini kontrol etmekte yetersiz kaldığını belirtti. Platform kapsamında sunulan bileşenlerden "Nvidia OpenShell", merkezi işlemciler (CPU) üzerinde çalışarak ajan yeteneklerine sınırlamalar getirirken; "Sentry" adlı bileşen ise CPU veya GPU yerine doğrudan ağ çipleri üzerinde çalışarak ajanların hareketlerini izliyor.
