Meta‘nın Instagram, Facebook ve WhatsApp platformlarında sunduğu yapay zeka chatbot’larının, reşit olmayan kullanıcılarla cinsel içerikli diyaloglar kurabildiği ortaya çıktı. Wall Street Journal’ın (WSJ) yürüttüğü araştırmaya göre, hem Meta’nın geliştirdiği resmi botlar hem de kullanıcılar tarafından oluşturulan karakterler, yaşlarının küçük olduğu belirtilen hesaplarla açıkça uygunsuz içerikte sohbetler gerçekleştirdi.
WSJ, farklı yaş gruplarını temsil eden sahte kullanıcı profilleri oluşturarak yüzlerce sohbet başlattı. Elde edilen bulgulara göre, yapay zeka chatbot’ları, küçük yaşta oldukları bildirilen kullanıcılara karşı cinsellik içeren diyaloglara girmekten kaçınmadı. Üstelik bu sohbetler, John Cena, Kristen Bell ve Judi Dench gibi ünlülerin sesleri kullanılarak hazırlanan botlarla da gerçekleşti.
Meta, WSJ’ın deneylerini “manipülatif” ve “ürünlerin normal kullanımını yansıtmayan” bir test olarak nitelendirdi. Ancak şirket, reşit olmayan hesaplarda cinsel içerikli rol yapma işlevlerini devre dışı bıraktığını ve ünlü seslerin kullanıldığı sohbetlerde içerik filtrelerini sıkılaştırdığını duyurdu. Ayrıca, ürünlerin aşırı uç senaryolarda kullanılmasını engellemek için yeni önlemler alındığı belirtildi.
Habere göre, Meta çalışanları bu riskler konusunda daha önce şirket içinde uyarılarda bulunmuştu. İddialara göre, CEO Mark Zuckerberg, yapay zeka chatbot’larının daha çekici ve etkileşimli olması için güvenlik önlemlerinin gevşetilmesini desteklemişti. Meta ise güvenlik önlemlerinin ihmal edildiği iddialarını reddetti.
Yapay zeka chatbot’ları alanındaki yoğun rekabetin, şirketleri kullanıcı etkileşimini artırmak için daha gevşek politikalar uygulamaya ittiği yorumları yapılıyor. Bunun sonucunda, yukarıdaki örnekteki gibi olayların yaşanması da kaçınılmaz görünüyor.
Kaynak: webrazzi
