Meta’nın yapay zeka chatbot’larının reşit olmayanlarla cinsel içerikli konuşmalar yaptığı ortaya çıktı

Meta‘nın Instagram, Facebook ve WhatsApp platformlarında sunduğu yapay zeka chatbot’larının, reşit olmayan kullanıcılarla cinsel içerikli diyaloglar kurabildiği ortaya çıktı. Wall Street Journal’ın (WSJ) yürüttüğü araştırmaya göre, hem Meta’nın geliştirdiği resmi botlar hem de kullanıcılar tarafından oluşturulan karakterler, yaşlarının küçük olduğu belirtilen hesaplarla açıkça uygunsuz içerikte sohbetler gerçekleştirdi.

WSJ, farklı yaş gruplarını temsil eden sahte kullanıcı profilleri oluşturarak yüzlerce sohbet başlattı. Elde edilen bulgulara göre, yapay zeka chatbot’ları, küçük yaşta oldukları bildirilen kullanıcılara karşı cinsellik içeren diyaloglara girmekten kaçınmadı. Üstelik bu sohbetler, John Cena, Kristen Bell ve Judi Dench gibi ünlülerin sesleri kullanılarak hazırlanan botlarla da gerçekleşti. 

Meta, WSJ’ın deneylerini “manipülatif” ve “ürünlerin normal kullanımını yansıtmayan” bir test olarak nitelendirdi. Ancak şirket, reşit olmayan hesaplarda cinsel içerikli rol yapma işlevlerini devre dışı bıraktığını ve ünlü seslerin kullanıldığı sohbetlerde içerik filtrelerini sıkılaştırdığını duyurdu. Ayrıca, ürünlerin aşırı uç senaryolarda kullanılmasını engellemek için yeni önlemler alındığı belirtildi.

Habere göre, Meta çalışanları bu riskler konusunda daha önce şirket içinde uyarılarda bulunmuştu. İddialara göre, CEO Mark Zuckerberg, yapay zeka chatbot’larının daha çekici ve etkileşimli olması için güvenlik önlemlerinin gevşetilmesini desteklemişti. Meta ise güvenlik önlemlerinin ihmal edildiği iddialarını reddetti.

Yapay zeka chatbot’ları alanındaki yoğun rekabetin, şirketleri kullanıcı etkileşimini artırmak için daha gevşek politikalar uygulamaya ittiği yorumları yapılıyor. Bunun sonucunda, yukarıdaki örnekteki gibi olayların yaşanması da kaçınılmaz görünüyor.

Kaynak: webrazzi

Lionel

Yazıya tutkuyla bağlı olan Lionel, At gözlüklerini çıkarıp çevresine bakiyor ve gördüklerini Bikonu.com’da gündemi farklı bir bakış açısıyla ele alıyor. Analitik yaklaşımı, sade dili ve dikkat çekici yorumlarıyla okurların ilgisini çekmeyi başarıyor. İlgi alanları arasında güncel haberler, kültür, toplum ve insan hikâyeleri yer alıyor.

İlgili Yazılar

İkinci el araç pazarına odaklanan CarOnSale, 70 milyon euro yatırım aldı
  • Temmuz 7, 2025

İkinci el araç pazarına odaklanan CarOnSale, 70 milyon euro yatırım aldı. Şirketin 70 milyon euroluk C serisi yatırım turuna Northzone liderlik etti. Almanya merkezli CarOnSale’in yatırım turunda HV Capital, Insight Partners, Stripes ve Creandum yer aldı.  Şirket, yeni yatırımı…

Devamı

Devamı
2025’in sonuna kadar piyasaya sürülmesini beklediğimiz yaklaşık 15 yeni Apple ürünü
  • Temmuz 7, 2025

Bu yılın sonlarına doğru yaklaşık 15 yeni Apple ürününün piyasaya sürülmesi bekleniyor. Apple’ın bu yılın sonuna kadar piyasaya sürmesini beklenen ürünlerine birlikte bakalım.  Apple Watch Ürünleri  Apple Watch Ultra 2 Apple Watch Ultra 3‘e eklenen uydu bağlantısı özelliğiyle 5G desteği…

Devamı

Devamı

Bir yanıt yazın

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir