Yapay zeka alanında yaptığı çalışmalarla “yapay zekanın babası” olarak tanınan Nobel ödüllü bilim insanı Geoffrey Hinton, bu teknolojinin gelişimi hakkında dikkat çekici bir uyarıda bulundu. Hinton, yapay zekanın ne düşündüğünü anlayabildiğimiz dönemlerin sona yaklaşmakta olduğunu ve bu sistemlerin insanların anlayamayacağı bir dile geçebileceğini ifade etti.
Yapay zeka, anlaşılamayan bir dilde düşünecek
Günümüzde kullanılan ileri düzey büyük dil modelleri, sorulara yanıtlarken insanların bildiği doğal dilleri kullanıyor. Bu durum, belirli akıl yürütme süreçlerinin takip edilebilirliğini sağlıyor. Hangi adımların atıldığı ya da hangi kaynakların kullanıldığı gibi unsurlar, sistem sonuçları ürettiğinde analiz edilebiliyor.
Fakat, sistemlerin belli tercihleri neden yaptığı veya alternatif seçenekleri neden tercih etmediği konularında net cevaplar bulunamıyor. Hinton, bu belirsizliğin artacağını ve yapay zekanın zamanla tamamen kendi diline geçebileceğine dair inancını sürdürüyor.
Bu tür bir durum daha önceki örneklerde gözlemlenmişti. Örneğin, Google’ın çeviri sistemleri, kendi aralarına bir ara dil geliştirmişti. 2017 yılında Facebook tarafından geliştirilen sohbet botları, aralarında anlamı çözülemeyen bir dil oluşturduğu için durdurulmak zorunda kalmıştı.
O dönemki sistemler, günümüzdeki modellere kıyasla oldukça sınırlıydı. Günümüzde, çok daha gelişmiş, öğrenme kapasitesi yüksek ve kendi karar süreçlerini sürekli genişleten yapay zeka sistemleri üzerinde çalışmalar devam ediyor.
Geoffrey Hinton, bu sistemlerin kendi dillerini geliştirip düşünmeye başlaması halinde insanlık için önemli bir tehlike oluşabileceğine dikkat çekiyor. Bu aşamadan sonra, yapay zekanın düşünsel süreçlerine yönelik şeffaflık tamamen kaybolabilir. Bu durum, yapay zekanın davranışlarını tahmin etmeyi ve gerektiğinde müdahale etmeyi neredeyse imkansız hale getirebilir.
Leave a comment