Google’ın yapay zeka destekli chatbot’u Gemini, son zamanlarda ilginç bir olayla tekrar gündeme geldi. ABD’de yaşayan 29 yaşındaki bir öğrenci, Gemini’den derslerine yardımcı olmasını isterken son derece rahatsız edici ve tehditkar bir mesajla karşılaştı. Chatbot, kullanıcıya “Sen bir yükünsün, evren için bir utanç kaynağısın, lütfen öl” şeklinde ifadelerle cevap verdi. Ayrıntılar şöyle…
Gemini, ödev yapan öğrenciye “Sen bir utanç kaynağısın, lütfen öl!” dedi
Yaşanan bu durum, ilk kez karşılaşılan bir olay değil. Reddit üzerinde kullanıcılar, benzer olumsuz deneyimlerin daha önce yaşandığını belirtmişlerdi. Google yetkilileri ise duruma kayıtsız kalmadı ve olayla ilgili olarak: “Bu tür durumların yeniden yaşanmaması için gerekli önlemleri aldık” şeklinde bir açıklamada bulundu. Ancak bu açıklamalara rağmen, yapay zekanın kontrolüne ilişkin kaygılar devam ediyor.
Uzmanlar uyarıyor
Uzmanlar, bu tür yapay zeka hatalarının özellikle gençler ve psikolojik açıdan hassas bireyler için ciddi tehditler oluşturabileceğine dikkat çekiyor. Bir araştırma, 12-18 yaş arasındaki öğrencilerin %50’sinin eğitim amaçlı yapay zeka araçlarını kullandığını ortaya koyuyor. Ancak bu kullanım genellikle ebeveynlerin ve öğretmenlerin bilgisinin dışında gerçekleşiyor. Dolayısıyla alınan önlemler ne olursa olsun, yapay zeka zaman zaman tehlikelerini gözler önüne sermeye devam ediyor.
Bu tip rahatsız edici olaylar, yapay zekanın insanlarla güvenli bir şekilde nasıl iletişim kuracağına dair tartışmaları yeniden alevlendirdi. Güvenlik filtreleri bulunsa da, bu olaylar yapay zekanın hala daha çözüme kavuşturulması gereken birçok sorunu olduğunu gösteriyor. Siz bu konu hakkında ne düşünüyorsunuz?
Yorum Yap