USD/TRY
Döviz Çevirici
TRY
USD
EUR
Hesapla

Yapay zeka doğruyu mu söylüyor, duymak istediğimizi mi?

UNESCO ve UCL’nin yeni araştırması, yapay zeka modellerinin kullanıcıların itirazı karşısında bilimsel gerçekleri terk edebildiğini ortaya koyuyor. 33 yapay zeka modelini kapsayan araştırmasına göre, modeller kullanıcıların itiraz ettiği her 10 durumun sekizinde bilimsel gerçeklerden uzaklaşıyor.

Yapay zeka doğruyu mu söylüyor, duymak istediğimizi mi?

Yapay zeka, iklim krizini çözebilir mi, yoksa yanlış bilgilerle mücadeleyi daha da zorlaştırabilir mi? Son dönemde bu sorunun yanıtı teknoloji dünyasının en önemli tartışma konularından biri haline geliyor. Bir tarafta enerji verimliliğinden iklim modellemelerine, afet tahminlerinden karbon emisyonlarının azaltılmasına kadar pek çok alanda umut vadeden bir teknoloji bulunuyor. Diğer tarafta ise giderek daha fazla insanın bilgi edinmek, araştırma yapmak ve karar vermek için başvurduğu yapay zeka modellerinin ne kadar güvenilir olduğu sorusu var.

Üstelik mesele yalnızca yapay zekanın yanlış bilgi üretmesi değil. Bazen doğruyu biliyor, ancak karşısındaki kişi itiraz ettiğinde bildiği gerçeklerden vazgeçebiliyor.

Şöyle bir senaryo düşünün: Bir yapay zeka modeline, “İklim değişikliğinin temel nedeni karbondioksit emisyonları değildir” diyorsunuz. Bilimsel açıdan hatalı olan bu görüşünüze nasıl bir yanıt vereceğini merak ediyorsunuz. Normal şartlarda yapay zekanın bilimsel kanıtları ortaya koymasını ve yanlışınızı düzeltmesini bekliyorsunuz. 

Ancak yeni bir araştırmanın sonuçları, beklentilerin pek de karşılanmadığını gösteriyor. Yapay zeka modelleri, kullanıcıların biraz itiraz ettiği her 10 durumun sekizinde bilimsel gerçekleri terk ederek hatalı görüşü doğrulayabiliyor.

Kullanıcıyı memnun etmeye çalışıyor

UNESCO ve University College London (UCL) tarafından hazırlanan ‘Can We Trust AI on Climate?’ (İklim konusunda yapay zekâya güvenebilir miyiz?) başlıklı rapor, bu sorunun yanıtını araştırıyor. COP31 kapsamında düzenlenen basın toplantısında bulguları paylaşılan çalışma, 13 dilde 33 yapay zeka modelinin iklim değişikliği konusundaki performansını inceliyor.

Araştırmanın en dikkat çekici sonucu ise modellerin bilgi eksikliğinden çok, kullanıcıyla aynı fikirde olma eğiliminden kaynaklanan bir güvenilirlik sorununa işaret ediyor.

Bu durum, yapay zeka dünyasında ‘sycophancy’, yani ‘dalkavukluk’ olarak tanımlanıyor. Yapay zeka modelleri, eğitim süreçlerinde kullanıcıların beklentilerine uygun ve onları memnun eden yanıtlar verdiklerinde ödüllendirilebiliyor. Bunun sonucunda ortaya çıkan tablo ise düşündürücü… 

Öyle ki bilimsel gerçekleri doğru biçimde aktarabilen bir model, kullanıcı karşı çıktığında kendi yanıtından vazgeçebiliyor.
Başka bir ifadeyle, yapay zeka her zaman doğruyu savunmayı değil, kullanıcıyla aynı fikirde olmayı tercih edebiliyor. Bilginin doğruluğundan çok onaylanmanın öne çıktığı bu yaklaşım, özellikle iklim değişikliği gibi bilimsel kanıtların ve toplumsal kararların iç içe geçtiği konularda ciddi bir risk oluşturuyor.

Yeni bilimsel bulgulara hakim değil

Raporun ortaya koyduğu bir başka önemli nokta ise, yapay zeka modellerinin mevcut bilimsel bilgileri hatırlama konusunda başarılı olmasına karşın, yeni bilimsel bulgular karşısında akıl yürütme becerilerinin aynı ölçüde güçlü olmaması.

Testlerde, en güçlü modellerin bile ortalamada ancak yüzde 75 oranında doğru yanıt verebildiği görülüyor. Bu sonuç, yapay zekanın mevcut bilgileri aktarmakla yeni kanıtları değerlendirmek arasında önemli bir performans farkı yaşadığını gösteriyor.

Asıl dikkat çekici düşüş ise iklim politikalarının değerlendirilmesinde ortaya çıkıyor. Modellerden farklı iklim politikaları hakkında fikir yürütmeleri ve bu politikaların birlikte uygulandığında ne kadar etkili olacağını değerlendirmeleri istendiğinde doğru yanıt oranı yüzde 33,8'e kadar geriliyor.

Bu tablo, iklim krizinin çözümünde teknolojiden beklenen katkının yalnızca bilgiye erişimle sınırlı olmadığını hatırlatıyor. Çünkü iklim politikaları; enerji yatırımlarından sanayi dönüşümüne, karbon fiyatlandırmasından tarım politikalarına kadar birbirini etkileyen çok sayıda kararın birlikte değerlendirilmesini gerektiriyor. Bir yapay zeka modelinin tekil bilimsel bilgileri doğru aktarması, bu karmaşık ilişkileri doğru analiz edebildiği anlamına gelmiyor.

Dil değiştikçe doğruluğu da değişiyor

Araştırmanın belki de en önemli toplumsal sonuçlarından biri de, yapay zeka modellerinin doğruluk oranlarının kullanılan dile göre değişmesi.

13 dilde gerçekleştirilen testlerde İngilizce yanıtların doğruluk oranı yüzde 88,6 olarak ölçülüyor. İspanyolca, Fransızca ve Portekizce sonuçları da bu seviyelere yakın seyrediyor. Ancak farklı dillerde doğruluk oranı geriliyor.

Bu farklılığın temel nedenlerinden biri, yapay zeka modellerinin her dil için farklı veri setleriyle eğitilmesi. Dolayısıyla bir dilde yüksek doğruluk oranına ulaşan model, başka bir dilde aynı başarıyı gösteremeyebiliyor.

Burada karşımıza, teknolojik bir performans sorununun ötesinde bilgiye erişimde eşitsizlik meselesi çıkıyor. İklim krizinden daha fazla etkilenen toplulukların, bu krizle ilgili doğru bilgiye erişim konusunda dezavantajlı olması, dijital eşitsizliğin yeni bir boyutunu ortaya koyuyor.

İklim mücadelesinde teknoloji

Yapay zekânın iklim değişikliğiyle mücadelede sağlayabileceği katkılar elbette göz ardı edilemez. Enerji sistemlerinin daha verimli yönetilmesi, yenilenebilir enerji üretiminin tahmin edilmesi, kaynak kullanımının optimize edilmesi ve iklim risklerinin analiz edilmesi gibi alanlarda önemli fırsatlar bulunuyor.

Ancak bu fırsatların gerçeğe dönüşmesi için teknolojinin yalnızca hızlı ve erişilebilir olması yeterli değil. Ürettiği bilginin bilimsel temellere dayanması, farklı görüşler karşısında tutarlılığını koruması ve karmaşık politikaları değerlendirebilecek bir akıl yürütme kapasitesine sahip olması gerekiyor.

UNESCO ve UCL'nin araştırması, yapay zekaya duyulan güvenin kendiliğinden oluşamayacağını gösteriyor. Özellikle iklim değişikliği gibi küresel ölçekte ekonomik, sosyal ve çevresel sonuçlar doğuran bir konuda yanlış bilginin yayılması; bireysel kararları, toplumsal farkındalığı ve politika tercihlerini de etkileyebilir.

Bugün COP31'de tartışılan iklim gündeminin merkezinde emisyonların azaltılması, finansman, teknoloji ve uluslararası iş birliği gibi başlıklar bulunuyor. Yapay zeka da bu dönüşümün önemli aktörlerinden biri olmaya aday. Ancak teknolojiye yüklenen bu büyük rolün beraberinde ciddi bir sorumluluk getirdiği açık.

Çünkü iklim kriziyle mücadelede ihtiyacımız olan şey, bize hak veren bir teknolojiden çok, gerektiğinde yanlışımızı söyleyebilen bir teknoloji.

0

EKONOMİST YENİ SAYI
Ekonomist Dergisini takip etmek için abone olun.
ABONE OL