Yapay zeka teknolojilerinin hızlı gelişimi, halüsinasyon sorununu daha belirgin hale getirdi. Dil modellerinin güvenilir bir şekilde sunduğu sahte bilgiler, teknoloji meraklılarının yanı sıra bu sistemlere yatırım yapan şirketleri de tedirgin ediyor.
Yapay zeka, geliştikçe daha fazla halüsinasyon görüyor
Bu durumun ilginç bir yönü, modellerin daha ileri versiyonlarının halüsinasyon üretme oranının artmasıdır. Yapılan bir araştırmaya göre, OpenAI tarafından tanıtılan “o3” ve “o4-mini” adındaki modellere ait testlerde sırasıyla %33 ve %48 oranında halüsinasyon gözlemlenmiştir.
Bu oranlar, önceki modellerle karşılaştırıldığında neredeyse iki katlık bir artışı göstermektedir. Benzer bir eğilim, Google ve DeepSeek gibi firmaların geliştirdiği yapay zeka sistemlerinde de gözlemlenmektedir. Sorunun temel nedeni, bu modellerin mimarisinin anlaşılmasındaki eksiklikten kaynaklanıyor.
Vectara CEO’su Amr Awadallah, yapay zekaların halüsinasyon üretmesinin kaçınılmaz olduğuna dikkat çekiyor. Awadallah, bu sorunun tamamen yok edilemeyeceğini ifade ediyor. Uzmanlara göre, bu durum yalnızca son kullanıcılar için değil, aynı zamanda bu teknolojilere güvenen işletmeler için de önemli riskler taşıyor.
Gerçek dışı bilgiler, kullanıcı güvenini zedelerken yanlış kararların alınmasına da neden olabiliyor. Sistemdeki artışın sebeplerinden biri, sentetik veri kullanımı olarak öne çıkıyor. Gerçek dünya verilerinin yetersiz kalması nedeniyle birçok şirket, yapay zeka tarafından oluşturulan verileri model eğitiminde kullanmaya yöneliyor.
Bununla birlikte, bu verilerle eğitilen modeller mevcut hataları artırarak pekiştirebiliyor. Siz bu konuda ne düşünüyorsunuz? Görüşlerinizi aşağıdaki yorumlar kısmında bizimle paylaşabilirsiniz.
Leave a comment