Yapay zeka devi Anthropic’in kurucu ortağı Jack Clark, teknolojinin insan müdahalesi olmadan otonom bir şekilde gelişebileceği bir noktaya yaklaştığı uyarısında bulunarak, küresel liderleri acilen bir "fren pedalı" ve düzenleyici politikalar geliştirmeye çağırdı.
BBC Newsnight programına konuşan Clark, "Ayağınızı gazdan çekip frene basabilme seçeneğine sahip olmak istersiniz. Şu anda yapay zeka endüstrisi sanki bir gaz pedalına sahip ama fren pedalı yok" dedi.
Clark, insanların hükümet politikaları aracılığıyla, gelecekte sadece daha güçlü hale gelecek ve toplum üzerinde daha geniş etkilere sahip olacak yapay zeka sistemlerinin kontrolünü elinde tutması gerektiğini vurguladı.
"Dünyanın bu konuda biraz düşünmesi ve nihayetinde bu sistemlere güvenebilmemizi sağlayacak yeni düzenlemeler geliştirmemiz gerekiyor" ifadelerini kullandı.
Şimdiden Anthropic’in popüler sohbet robotu Claude, kodlarının %80’ini sistemin kendisinin yazdığı bir yazılımla çalışıyor. Clark, bu oranın iki yıl içinde %100’e ulaşmasının mümkün olduğunu ve bunun "devasa sonuçları olacağını" belirtti.
Clark, yapay zeka araştırma ve geliştirmeleri için bir "fren pedalının" nasıl oluşturulabileceğine dair kesin bir plan sunmadı; ancak yapay zeka ile geçen yüzyılın başındaki petrol patlaması ve petrol baronları arasında bir paralellik kurdu.
Clark, "Toplumun buna tepkisi; insanlara petrole ve petrolün dünyaya sağlayabileceği faydalara güven veren, aynı zamanda şirketlerin başındaki kişilerin karakterleri hakkında endişelenmenize gerek bırakmayan mantıklı bir politika ve düzenleyici çerçeve geliştirmek olmuştu. Burada da açıkça varacağımız yer burasıdır," dedi.
Buna rağmen Anthropic, bu hafta ABD Başkanı Donald Trump’ın şirketlere yönelik direktiflerinde nispeten müdahaleci olmayan (serbestlik tanıyan) yapay zeka kararnamesini memnuniyetle karşıladı. Söz konusu kararname, yapay zeka şirketlerinin hükümet tarafından güvenlik testlerine tabi tutulmasını zorunlu kılmıyor; bu durum şu an için gönüllülük esasına dayalı bir çaba olarak kalmaya devam ediyor.
Anthropic, OpenAI ve Google da dahil olmak üzere bu teknolojide ilerleme kaydeden büyük yapay zeka şirketleri, kendi araştırmalarını durduracaklarına dair bir açıklama yapmadı. Anthropic, beş yıl önceki kuruluşundan bu yana o kadar hızlı büyüdü ki, halka açık borsada ilk halka arzını yapmaya hazırlanıyor.
Özel yatırımcılar tarafından Anthropic’in değerinin yaklaşık 1 trilyon dolar olduğu tahmin edildiğinden, bu hamlenin yeni nesil bir yapay zeka firmasının ilk halka açılmalarından biri ve tarihteki en değerli hisse senedi listelerinden biri olması bekleniyor.
