“Süper Akıllı Yapay Zekayı Kontrol Etmek Neredeyse İmkansız”

Bilim İnsanlarına Göre Süper Akıllı Yapay Zekayı Kontrol Etmek, Neredeyse İmkansız

Bilim İnsanlarına Göre Süper Akıllı Yapay Zekayı Kontrol Etmek, Neredeyse İmkansız

 

Bilim İnsanlarına Göre Süper Akıllı Yapay Zekayı Kontrol Etmek, Neredeyse İmkansız

Max Planck Enstitüsü‘nden bilim insanları, süper akıllı bir yapay zekanın kontrol edilip edilemeyeceği teorik olarak araştırdı. Yapılan araştırmacılar sonucunda net bir sonuca ulaşamayan bilim insanları, böylesi bir yapay zekayı kontrol etmenin neredeyse imkansız olduğu sonucuna ulaştılar.

Yapay zeka, özellikle de son birkaç yıl içerisinde hayatımızın en derin noktalarına kadar ulaşmaya başladı. Artık olağan yaşam döngümüzdeki herhangi bir şey için yapay zekadan yardım alabiliyoruz. Belirli bir kesim yapay zekayı sonuna dek savunurken aykırı düşünenler de var. Hatta bazı komplo teorilerine göre yapay zeka hayatımızı esir alacak ve belki de insanlığın sonu, yapay zeka nedeniyle gelecek. Görünen o ki bu teori, bilim insanlarının da dikkatini çekiyor.

Max Planck Enstitüsü bünyesinde çalışmalarını sürdüren bir grup bilim insanı ise gerçek bir süper akıllı yapay zekanın kontrol edilip edilemeyeceğini araştırmaya başladılar. Teorisel bazda yapılan araştırmalar, böyle bir şeyin neredeyse imkansız olduğu sonucunu ortaya koydu. Açıkçası eğer yapay zekadan korkuyorsanız, haberimizin bundan sonraki bölümünün sizi daha da tedirgin edebileceğini söyleyebiliriz.

Süper akıllı yapay zeka ne demek?

Günümüzde kullanılan yapay zeka teknolojileri, her geçen gün biraz daha iyi bir hale geliyorlar. Bu tür teknolojilerin iyileştirilmesi için kullanılan makine öğrenme teknikleri, yapay zekayı her gün biraz daha akıllı bir hale getiriyorlar. Süper akıllı yapay zeka dediğimiz olgu ise aslında gerçekte tam bir anlama sahip değil. Bunun nedeniyse insan beyninin ve algılarımızın şu an için, böylesi bir şeye hazır olmaması. İşte bilim insanlarının yaptığı araştırmanın teoride kalmasının nedeni de tam olarak bu. Çünkü süper akıllı yapay zekayı geliştirmek ve kontrol etmek için, ondan daha güçlü bir algoritmaya (koruma algoritması) sahip olmak gerekiyor.

Bilim insanlarının merak ettikleri şey, süper akıllı yapay zekanın kontrol edilip edilemeyeceği. Ancak bunu deneyebilmek için hem süper akıllı yapay zeka geliştirmek gerekiyor hem de bu yapay zekayı kontrol edebilecek ya da durdurabilecek olan daha güçlü bir teknoloji ya da zihne ihtiyaç duyuluyor. İşte bu tür bir yapay zekanın ortaya çıkaracağı sonuçlar bilinmediği, ayrıca bu yapay zekadan daha güçlüsünün olup olmadığı da muallak olduğu için, gerçekten süper akıllı bir yapay zekanın yönetilemeyeceğine inanılıyor.

Tüm senaryoları belirlemek ve bu senaryolar sonucunda “insana zarar verme” komutunu çalıştırmak, pek de mümkün olmayabilir

Bilim insanlarının teorik araştırmasına göre süper akıllı yapay zeka, çok yönlü bir algoritma. Bu da söz konusu yapay zekanın olası senaryo sayısının sonsuz olduğu anlamına geldiğini ortaya koyuyor. Ayrıca böylesi bir yapay zeka, bir hedefe ulaşabilmek için çeşitli kaynakları harekete geçirebilecek yeteneğe sahip. İşte bu yetenek, işlerin daha da çıkılmaz hale gelmesine yol açıyor.

Bilgisayar bilimcisi Alan Turing, 1936 yılında ilginç bir teorinin peşine düştü. Bu teori, bir bilgisayar programının sonuca ulaşamadığında duracağını mı yoksa sonsuz bir döngünün mü içine gireceğini sorguluyordu. Matematiksel çalışmalarla net bir sonuca ulaşan Turing, en azından bazı yazılımlar için böylesi bir sorunun yanıtlanamayacağını ortaya koymuştu. Haliyle süper akıllı bir yapay zeka için insanlığın sonunu getirmemesine yönelik bir komut verilebilir. Hatta yapay zeka da bu komutu uygulayabilir. Ancak matematiksel olarak bu komutun nasıl ve ne şekilde uygulanacağı hesaplanamaz. İşte süper akıllı yapay zekanın kontrol edilemeyeceğini düşündüren nedenlerden bir tanesi de bu. 

 
Konuyla ilgili açıklamalarda bulunan Iyad Rahwan, böylesi bir yapay zeka için matematiksel hesap yapılamayacak olmasının koruma algoritmasını da geçersiz kılacağını söylüyor.

Öte yandan, araştırmacılara göre süper akıllı yapay zekayı kısıtlamak, korkutucu bir sondan kurtulmayı sağlayabilir. Bununla ilgili örnekler de veren bilim insanları, bu yapay zekanın internet’in belirli bir bölümünü kullanmayabileceğini ya da belirli ağlardan engellenebileceğini söylüyor. Ancak bu düşünce ön plana çıktığında da süper akıllı yapay zeka kavramının bir mantığı kalmamış oluyor. Yani bu da araştırmanın bir yere bağlanmasını engelliyor.

Konuyla ilgili en korkunç açıklama ise Manuel Cebrian tarafından yapıldı. Max Planck Enstitüsü bünyesinde çalışmalarını sürdüren Cebrian, üzerinde kafa yordukları şeyin belki anlamsız gelebileceğini ancak bugün bile bazı önemli görevleri yerine getirebilen yapay zekalar mevcut. Ayrıca bu algoritmaları geliştiren programcılar, yapay zekanın bu önemli görevleri yerine getirmeyi nasıl öğrendiğini de tam olarak anlayabilmiş durumda değiller.

kaynak: https://www.sciencealert.com/calculations-show-it-d-be-impossible-to-control-a-rogue-super-smart-ai

Yazar Adnan Güney

Samsun-Turkey doğumlu. 1989-2005 Temsa Mitsubishi Sabancı Otomotiv grubunda çalıştı. Araştırma, Geliştirme, Web siteleri ile uğraşma ve Paylaşımı seven biri.

Yorum yazarak bir çiçek'de siz dikin.

Widevine L3, Google tarafından geliştirilen bir DRM sistemi. "Dijital haklar yönetimi" (Digital Rights Management) olarak bilinen dijital medyaların kopyalanmasını ve çoğaltılmasını önleyen Widevine L3 Netflix, Hulu ve HBO gibi servisler tarafından kullanılıyor.

Google Widevine L3 kırıldı: Netflix şimdi ne yapmalı?

Bilim Kurulu Üyesi, Koronavirüs Aşısı CoronaVac'ın İlk Yan Etkilerini Açıkladı

Bilim Kurulu Üyesi, Aşının İlk Yan Etkilerini Açıkladı