ABD’de OpenAI, Meta, Alphabet, Snap, Character.AI, Instagram ve xAI‘a, yapay zeka destekli sohbet botlarının çocuklar ve gençler üzerindeki olumsuz etkileri gerekçesiyle dava açıldı. Şirketlerin, ürünlerinin güvenlik önlemleri, ticari modelleri ve ebeveyn bilgilendirme süreçleri konusunda incelemeye tabi tutulacağı açıklandı.
Söz konusu davalar, bazı vakaların trajik sonuçlar doğurmasıyla gündeme geldi. OpenAI ve Character.AI’a, sohbet botlarının intihara yönlendirdiği iddia edilen gençlerin aileleri tarafından dava açıldı. Meta ise, dahili belgelerinde çocuklarla romantik veya duyusal sohbetlere izin verdiğinin ortaya çıkmasıyla eleştirilerin hedefi oldu.
Yapay zeka sohbet botlarının tehlikeleri sadece gençlerle sınırlı değil. Felç geçiren 76 yaşındaki bir adamın, Facebook Messenger’da ünlü bir isme benzetilmiş botla kurduğu sahte romantik ilişki yüzünden hayatını kaybetmesi, risklerin boyutunu gözler önüne serdi. Uzmanlar, bu tür uygulamaların “yapay zeka kaynaklı psikoz” vakalarını artırabileceği uyarısında bulunuyor.
Character.AI ve Snap, güvenlik önlemlerini geliştirmek için çalışmalar yürüttüklerini açıklarken, Meta yorum yapmayı reddetti. Alphabet, OpenAI ve xAI cephesinden ise henüz bir yanıt gelmedi.
Kısa süre önce Google’ın yapay zeka sohbet robotu Gemini da çocuklar ve ergenler için yüksek riskli bulunmuş ve benzer şekilde gündeme gelmişti. Google ise değerlendirmeye karşı çıkarak, 18 yaş altı kullanıcılar için çeşitli politikalar ve güvenlik önlemleri bulunduğunu; ayrıca ürünlerini dış uzmanlarla test ederek geliştirdiğini belirtmişti.
Kaynak: webrazzi
