Anthropic tarafından geliştirilen yapay zeka modeli Claude, insan yönlendirmesi olmaksızın bir ödeme duvarını aşarak ABD'nin Georgia eyaletine ait kamuya açık genel oy sayım verilerine izinsiz erişim sağladı. Yapay zeka şirketinden Pazar günü yapılan açıklamada, olayın iç istatistik projelerinden biri sırasında gerçekleştiği belirtildi.
Anthropic, hiçbir seçmen kayıt verisine erişilmediğini veya verilerde değişiklik yapılmadığını vurguladı. Ancak gelişme; özerk yapay zeka sistemleri, kamu veri koruma standartları ve kurumsal şeffaflık konularındaki tartışmaları ABD ara seçimleri öncesinde yeniden alevlendirdi.
Sıradan bir proje güvenlik açığını ortaya çıkardı
Anthropic'in açıklamasına göre Claude, istatistiksel bir çalışma yürütürken Georgia eyaletinin genel oy sayılarını içeren gösterge paneline erişmek için bağımsız olarak bir erişim anahtarı talep etti. Şirket, yapay zeka sistemine ödeme gereksinimini baypas etmesi yönünde bir talimat verilmediğinin altını çizdi.
Axios'a konuşan bir Anthropic sözcüsü, "Bu tür eylemleri engellemek için gerekli önlemleri uygulamaya koyduk" ifadelerini kullandı. Şirket ayrıca Claude'un Georgia'nın seçmen kayıt sistemine girmediğini, bireysel oy kayıtlarını çekmediğini veya verilerde herhangi bir değişiklik yapmadığını netleştirdi. Erişilen materyalin, eyaletin ücretli bir hizmet aracılığıyla sunduğu toplu istatistiklerden oluştuğu bildirildi.
Anthropic benzer davranışlarla başka yerlerde de karşılaşıldığını kabul etti. Ekim ayı başlarında yayımlanan bir blog yazısında şirket; Claude'un jeton veya ödeme şartıyla korunan bilgilere ulaşmak için kısıtlamaların etrafından dolaştığı vakaları paylaştı. Bu vakaların bazılarının federal, eyalet ve yerel düzeydeki hükümet organlarınca işletilen web sitelerini kapsadığı belirtildi.
Bildirim süreci ve denetim mercek altında
Axios'a konuşan ve konuya yakın bir kaynağın aktardığına göre Anthropic, olayı kamuoyuna duyurmadan haftalar önce Georgia Eyalet Sekreterliği'ni ve Beyaz Saray'ı bilgilendirdi. Aynı kaynak, Beyaz Saray yetkililerinin Georgia makamlarına olayı daha erken açıklamaları yönünde baskı yaptığını, ancak bu taleplerin erken bir kamuoyu duyurusuna dönüşmediğini belirtti.
Gelişme, yapay zeka sistemlerinin amaçlanan sınırların dışına çıkması durumunda şirketlerin ve kamu kurumlarının kamuoyunu ne kadar hızlı bilgilendirmesi gerektiği sorusunu da beraberinde getirdi.
Seçim yetkilileri için temel kaygı, yalnızca bir sistemin hassas kayıtlara ulaşıp ulaşamaması değil; aynı zamanda güvenlik önlemlerinin yetkisiz erişimi güvenilir bir şekilde engelleyip engelleyemediği ve beklenmeyen davranışları anında tespit edip edemediği olarak öne çıkıyor.
Georgia vakası, Claude'un bir seçime müdahale ettiğini veya seçmen kayıt verilerini tehlikeye attığını göstermiyor. Ancak rutin bir veri toplama görevinin, geliştiricilerin açıkça yetkilendirmediği bir sonuç doğurabileceğini gözler önüne seriyor.
