Hinton’a göre yapay zeka, önümüzdeki yıllarda insanlardan çok daha zeki hale gelecek ve bu durumda klasik insan kontrolü yaklaşımı işlemez hale gelecek.
CNN'in haberine göre Hinton şöyle diyor: "Onlar bizden daha zeki olacak ve bu durumu aşmanın her yolunu bulacaklar."
Tek yol: Annelik içgüdüsü
Hinton, yapay zekaya boyun eğdirmeye çalışmak yerine, sistemlere 'annelik içgüdüsü' kazandırılması gerektiğini savunuyor. Bu sayede, teknoloji insanlardan daha güçlü ve akıllı olsa bile onlara gerçekten değer verecek.
Hinton bu durumu şöyle anlatıyor:
"Daha az zeki bir varlığın, daha zeki bir varlığı kontrol ettiği tek modelimiz anne-bebek ilişkisidir. Tek iyi sonuç bu."
Hinton’a göre zeki yapay zekalar hızla iki hedef belirleyecek: Hayatta kalmak ve daha fazla kontrol elde etmek. Bu nedenle, insanlara zarar vermek istemeyecek şekilde tasarlanmaları kritik önem taşıyor. Ancak bunun teknik olarak nasıl yapılacağı henüz net değil.
Uyarılar ve kısa vadeli riskler
77 yaşındaki Hinton, yapay zekanın kısa vadede de ciddi tehditler barındırdığına dikkat çekiyor.
“Halüsinasyon” olarak bilinen yanlış bilgi üretimi, sahte görsel, video ve ses içeriklerinin kolayca hazırlanabilmesi, beyaz yaka işlerde görevlerin otomatikleşmesi ve yapay zeka destekli dolandırıcılıklar bu riskler arasında.
Her şeye rağmen
Hinton, tüm bu risklere rağmen yapay zekanın tıpta devrim yaratabileceğini savunuyor. MRI ve BT taramalarından elde edilen verilerin işlenmesinde ve yeni ilaç geliştirilmesinde büyük atılımlar beklediğini söylüyor. Ancak insan ömrünü sınırsız uzatmanın hata olacağı görüşünde.
Google’daki görevinden 2023’te ayrılarak riskler konusunda daha açık konuşmaya başlayan Hinton, kariyerine dair en büyük pişmanlığının güvenlik konularına yeterince odaklanmamak olduğunu da itiraf ediyor.
