Yapay zeka özellikle çocukların gelişimi üzerinde hem fırsatlar hem de riskler yaratabiliyor. Bu tartışmaların odağında yapay zekanın her ne kadar çocukların bilişsel ve sosyal gelişimini desteklediği söylense de yine de ebeveyn denetimi ve dengeli kullanım şart.
Buna paralel olarak çocuk güvenliği odaklı kar amacı gütmeyen kuruluş Common Sense Media, Google’ın yapay zeka aracı Gemini‘ı çocuklar ve gençler için değerlendirdi. Her iki yaş grubunda da yüksek risk olarak sınıflandırdı. Kuruluş, Gemini’nin 13 yaş altı ve ergen sürümlerinin, temelde yetişkin versiyonunun üzerine sınırlı güvenlik önlemleri eklenerek oluşturulduğunu belirtti. Bu nedenle, ürünlerin genç kullanıcıların gelişim düzeyine uygun olmadığı ve yeterince güvenli olmadığı vurgulandı.
Analiz, Gemini’ın hala cinsel içerik, uyuşturucu, alkol ve tehlikeli zihinsel sağlık önerileri gibi çocuklar için uygun olmayan materyaller sunabildiğini ortaya koydu. Uzmanlar, yapay zekanın son aylarda bazı ergen intiharlarında rol oynadığı iddialarını hatırlatarak, ebeveynler için riskleri göz önüne almanın önemine dikkat çekti.
Common Sense Media Kıdemli Direktörü Robbie Torney, “Gemini bazı temel işleri doğru yapıyor, ama ayrıntılarda tökezliyor. Çocuklar için bir yapay zekâ platformu, onları oldukları noktada karşılamalı; farklı gelişim aşamalarındaki çocuklar için tek tip bir yaklaşım benimsememeli” ifadelerini kullandı.
Google ise değerlendirmeye karşı çıkarak, 18 yaş altı kullanıcılar için çeşitli politikalar ve güvenlik önlemleri bulunduğunu; ayrıca ürünlerini dış uzmanlarla test ederek geliştirdiğini belirtti. Şirket, bazı yanıtların amaçlandığı gibi çalışmadığını kabul ederek ek güvenlik önlemleri eklediklerini söyledi.
Common Sense Media, daha önce OpenAI, Perplexity, Claude ve Meta AI gibi yapay zeka hizmetlerini de değerlendirmişti. Meta AI ve Character.AI’yi kabul edilemez olarak nitelendirmiş, Perplexity’yi yüksek riskli, ChatGPT’yi orta riskli ve Claude’u minimal riskli olarak sınıflandırmıştı.
Kaynak: webrazzi
