Meta, Instagram ve WhatsApp gibi popüler platformlarındaki ürün güvenliği süreçlerinde köklü bir yeniliğe imza atıyor. Şirket, ürün risk değerlendirmelerinin büyük bir kısmını artık insan gücünden ziyade yapay zeka sistemlerine devretmeyi planlıyor.
Yeni sistem, geliştirilen ürün veya özelliklerin yaratabileceği potansiyel riskleri analiz ederek ilgili ekipleri hızlı bir şekilde bilgilendirme işlevi görecek. Şirket, tüm değerlendirmelerin yüzde 90’ının bu otomatik platform aracılığıyla gerçekleştirileceğini açıklıyor.
Son iki ay içinde yapay zeka kullanımını önemli ölçüde artıran Meta, yeni süreçte ürün geliştirme ekiplerinin, kullanıcıya sunmadan önce her bir özellik için anket doldurmasını ve bu verileri yapay zekaya iletmesini sağlıyor.
Sistem, ürünün sebep olabileceği olumsuz durumları tespit ederek geri bildirim sağlıyor. Ekiplerin, bu otomatik değerlendirmenin ışığında yayın öncesi gerekli düzenlemeleri yapmaları bekleniyor.
Ancak bu değişim, hem şirket içinde hem de dışındaki çevrelerde bazı tartışmaları gündeme getirmiş durumda. Hem mevcut hem de eski çalışanlar, yapay zekanın her zaman istenen hassasiyeti göstermeyebileceği konusunda endişelerini dile getiriyor.
Özellikle genç kullanıcılar üzerinde olumsuz etkiler yaratabilecek içeriklerin, yapay zeka sistemleri tarafından yeterince doğru bir şekilde ayrıştırılamayabileceği ifade ediliyor. Zorbalık, şiddet veya toplumsal hassasiyet barındıran konuların insan gözetimi olmadan kaçırılma riski olduğu belirtiliyor.
Meta ise bu kaygılara yanıt olarak, sistemin tamamen yapay zekaya devredilmediğini ve karmaşık, yüksek riskli durumlarda hâlâ insan müdahalesinin olacağını vurguluyor. Siz bu konuda ne düşünüyorsunuz? Görüşlerinizi aşağıdaki yorumlar kısmında bizimle paylaşabilirsiniz.
Leave a comment