Yapay zeka, insanlar tarafından anlaşılamayan bir dilde düşünmeye başlayabilir. Bu iddia, büyük bir endişe yarattı.
Yapay zeka alanındaki çalışmalarıyla yapay zekanın babası olarak anılan Nobel ödüllü bilim insanı Geoffrey Hinton, bu teknolojinin evrimiyle ilgili çarpıcı bir uyarıda bulundu. Hinton, yapay zekanın ne düşündüğünü anlayabildiğimiz günlerin sona ermek üzere olduğunu ve yakında bu sistemlerin insanlar tarafından anlaşılamayan bir dilde düşünmeye başlayabileceğini söyledi.
Yapay zeka, anlaşılamayan bir dilde düşünecek
Bugün kullanılan gelişmiş büyük dil modelleri, sorulara yanıt verirken İngilizce gibi insanların bildiği doğal dilleri kullanıyor. Bu, akıl yürütme süreçlerinin bir kısmının takip edilebilmesini mümkün kılıyor. Hangi adımların izlendiği ya da hangi kaynakların kullanıldığı, sistem dışarıya sonuç verdiğinde analiz edilebiliyor.
Ancak sistemin neden belirli tercihleri yaptığı, alternatif yolları neden seçmediği gibi sorulara kesin yanıtlar verilemiyor. Hinton, bu belirsizliğin daha da derinleşeceğine ve yapay zekanın zamanla tamamen kendi diline geçebileceğine inanıyor.
Bu olasılık daha önceki bazı örneklerde kendini göstermişti. Google’ın çeviri sistemleri yıllar önce kendi içinde bir ara dil geliştirmişti. 2017 yılında Facebook tarafından geliştirilen sohbet botları ise, araştırma sürecinde kendi aralarında anlamı çözülemeyen bir dil oluşturdukları için durdurulmuştu.
O sistemler bugünkü modellere kıyasla çok daha sınırlıydı. Bugün ise çok daha gelişmiş, öğrenme kapasitesi yüksek ve kendi karar süreçlerini sürekli genişleten yapay zekâ sistemleri üzerinde çalışılıyor.
Geoffrey Hinton, bu sistemlerin kendi dillerini geliştirerek düşünmeye başlaması durumunda insanlık için önemli bir risk oluşacağını söylüyor. Bu noktadan sonra sistemlerin düşünsel süreçlerine dair şeffaflık tamamen ortadan kalkabilir. Bu da yapay zekanın davranışlarını öngörmeyi ve gerektiğinde müdahale etmeyi neredeyse imkansız hale getirebilir.
