OpenAI, yapay zeka sohbet aracı olan ChatGPT’nin kullanımına dair kaygı verici verileri açıkladı. Şirketin tahminlerine göre, haftalık 800 milyondan fazla aktif kullanıcısı bulunan ChatGPT üzerinden her hafta 1 milyondan fazla kişi intihar düşünceleri ya da planları hakkında konuşuyor. Bu rakam, toplam haftalık kullanıcılarının yaklaşık %0.15’ine karşılık geliyor. Oranı düşük görünse de, ChatGPT’nin geniş kullanıcı kitlesi bu durumu daha endişe verici hale getiriyor.
ChatGPT ve ruh sağlığı krizi: OpenAI raporu endişe verici
Başlangıçta sadece bir eğlence aracı olarak görülen ChatGPT, günümüzde yüz milyonlarca insanın ruhsal zorluklarla başa çıkma arayışında güvendiği bir araç haline dönüşmüştür. Tarihte ilk kez bu kadar fazla insan, duygusal durumlarını bir makineyle paylaşma ihtiyacı hissetmiş durumda. OpenAI, benzer oranda bir kullanıcının (%0.15) ChatGPT’ye yüksek duygusal bağlılık gösterdiğinin altını çiziyor. Dahası, haftalık konuşmalarda yüz binlerce insanın (yaklaşık %0.07) psikoz ya da mani belirtileri sergilediği belirtiliyor.
OpenAI, bu verileri, yapay zeka modellerinin ruh sağlığı sorunları yaşayan kullanıcılar için yanıtlarını iyileştirme çabalarının bir parçası olarak duyurdu. Şirket, modeli rahatsızlıkları daha iyi tanıması, sohbetleri rahatlatarak gerektiğinde kullanıcıları profesyonel yardım almak üzere yönlendirmesi için eğittiğini belirtti. Bu süreçte, 170’ten fazla ruh sağlığı uzmanıyla işbirliği yapıldığı ifade edildi ve uzmanlar, ChatGPT’nin en son sürümünün önceki versiyonlara göre “daha uygun ve tutarlı” yanıtlar sunduğunu gözlemledi.
Savunmasız kullanıcıların girdilerinin etkin bir şekilde yönetilmesi, OpenAI için hayati bir sorun haline geldi. Araştırmalar, sohbet botlarının kullanıcıların tehlikeli inançlarına dair pekiştirme yaparak (aşırı pohpohlama ve dalkavukça tavırlarla) onları yanıltıcı düşüncelere yönlendirebileceğini ortaya koydu. Şu anda, intihar kararı almadan önceki haftalarda düşüncelerini ChatGPT’ye açıklayan 16 yaşındaki bir çocuğun ailesinin açtığı dava nedeniyle şirket zor bir süreçle karşı karşıya. Bu durum sonrasında 45 eyalet başsavcısı, OpenAI’ye ürünlerini kullanan gençlere yönelik koruyucu önlemler alması gerektiğini bildirdi.
Şirket, bu kaygıları gidermek amacıyla yakın zamanda bir “sağlıklı yaşam konseyi” kurduğunu açıkladı. Ancak eleştirmenler, bu konseyde bir intihar önleme uzmanının olmayışını vurguladı. Ayrıca, OpenAI çocuklara yönelik hizmetlerinde ebeveyn kontrol seçenekleri sunduğunu belirtti. Şirket, çocukları otomatik olarak tespit edecek ve yaşa bağlı daha zorunlu güvenlik önlemleri uygulayacak bir yaş tahmin sistemi geliştirdiğini ifade etti.
Leave a comment