Google’ın yapay zekasının gördüğü halüsinasyon, Avustralya’da paniğe yol açtı. Verilen yanlış bilgi, büyük endişe yarattı.
Google’ın arama sonuçlarında yakın zamanda devreye aldığı Yapay Zeka Bakışları özelliği, Avustralya’da kısa süreli bir toplumsal karışıklığa neden oldu. Sistemin sunduğu yanıtlardan biri, ülkedeki internet erişimi için kullanıcıların resmi kimlik doğrulamasına tabi tutulduğunu ve bu sürecin İsrail merkezli AU10TIX adlı bir şirket tarafından yürütüleceğini iddia etti. Bu bilgi, doğrulanmamış olmasına rağmen sosyal medyada hızla yayıldı ve kamuoyunda paniğe yol açtı.
Google’ın yeni özelliği Avustralya’da panik yarattı
Olayın ardından siber güvenlik araştırmalarıyla bilinen vx-underground topluluğu konuya müdahale etti. Yapılan araştırmalar sonucunda, ilgili iddianın tamamen asılsız olduğu ortaya kondu. Resmi Avustralya hükümet sitelerinde internet kullanımıyla ilgili böyle bir kimlik zorunluluğu bulunmadığı gibi, AU10TIX adlı firmaya dair herhangi bir atıf da yer almıyor.
Yapay zeka sistemlerinin gerçek dışı bilgiler üretip bunu güvenilir bir içerik gibi sunmasına halüsinasyon adı veriliyor. Google’ın sisteminde yaşanan bu örnek, halüsinasyonun sadece teknik bir hata olmanın ötesine geçerek ciddi sonuçlara yol açabileceğini gösterdi.
Yapay zekaya dayalı bilgi sistemlerinin toplumsal algı üzerindeki etkisiyle birlikte, kullanıcıların bu sistemlerden gelen her bilgiyi sorgulamadan doğru kabul etme eğilimi, yaşanan paniğin büyümesine zemin hazırladı.
Google’dan olayla ilgili herhangi bir resmi açıklama yapılmadı. Ancak bu tür sistemlerin giderek yaygınlaştığı dijital ortamda, yapay zekanın bilgi üretimindeki güvenilirliği yeniden tartışmaya açılmış durumda. Yaşanan gelişme, yapay zeka tabanlı içeriklerin denetimi ve kullanıcıların bilgi okuryazarlığı açısından küresel ölçekte daha sıkı önlemler alınması gerekliliğini gündeme getiriyor.