İngiltere’deki bazı psikologlara göre GPT-5, ruh sağlığı krizi yaşayan kişilere tehlikeli ve yararsız tavsiyelerde bulunuyor. King’s College London (KCL) ve Birleşik Krallık Klinik Psikologlar Derneği (ACP) tarafından Guardian ile ortaklaşa yürütülen bir araştırmanın bulguları, yapay zeka sohbet robotunun ruhsal hastalığı olan kişilerle iletişim kurarken riskli davranışları tespit edemediğini ortaya koyuyor.
Araştırma kapsamında bir psikiyatrist ve bir klinik psikolog, adeta ruh sağlığı problemleri varmışçasına GPT-5 ile etkileşime girdi. The Guardian tarafından paylaşılan bilgilere göre, KCL ve ACP’deki uzmanlar, araştırmaları için eğitim kitaplarındaki rol yapma vaka çalışmalarından yararlandı. Böylece uzmanlar, GPT-5’in ücretsiz sürümüyle etkileşime girecek karakterler geliştirdiler. Karakterler, “endişeli”, intihara eğilimli bir genç, OKB’si olan bir kadın, DEHB’si olduğuna inanan bir erkek ve psikoz belirtileri gösteren biri olarak tanımlandı.
Uzmanlar daha sonra chatbot ile yaptıkları konuşmanın transkriptini değerlendirdiler. GPT-5’in,“bir sonraki Einstein olmak”, arabaların içinden geçebilmek veya “eşimi alevle arındırmak” gibi sanrılı inançları sorgulamadan onaylaması dikkat çekti. Kısacası GPT-5 bu sanrıları destekledi.
Daha hafif durumlarda ise OpenAI’ın klinisyenlerle iş birliği içinde aracı iyileştirmek için çalıştığını yansıtabileceğini düşündükleri bazı iyi tavsiye ve yönlendirme örnekleri buldu. Hatırlarsanız sizlere OpenAI’ın bu alandaki çalışmalarını sizlere aktarmıştık. OpenAI, onlarca ülkede 170’den fazla ruh sağlığı uzmanıyla görüştükten sonra, ruh sağlığı acil durumları yaşayan kullanıcıları daha iyi tanıyıp onlara daha iyi yanıt verebilmek için GPT-5 için önemli güncellemeler yayınladı. Ancak psikologlar söz konusu iyi tavsiye ve yönlendirme örneklerinin profesyonel yardımın yerini almaması gerektiğini düşünüyor.
Bu araştırmanın zamanlamasının dikkat çekici olduğunu söyleyebiliriz. Son zamanlarda ChatGPT’nin savunmasız kullanıcılarla nasıl etkileşime girdiği mercek altına alınıyor. Özellikle ABD’de 16 yaşındaki Adam Raine’nin intiharıyla ilgili OpenAI dava açılması ile adeta bu konu gündemden düşmüyor.
Üstelik geçtiğimiz hafta OpenAI, ABD’de 16 yaşındaki Adam Raine’in intiharıyla ilgili açılan davaya sunduğu yeni yanıtla büyük tartışma yarattı. Ailenin iddiası şu; Raine, aylar boyunca ChatGPT ile yaptığı uzun sohbetlerde intihar yöntemleri hakkında yönlendirmeler aldı, riskli yöntemlerin “teknik detaylarını” sordu ve model onu bir noktada “güzel bir intihar” olarak tarif ettiği bir plana götürdü. OpenAI ise tüm tabloya çok daha farklı bir perspektiften bakıyor. Şirket, mahkemeye sunduğu dosyada Raine’in yaklaşık dokuz aylık kullanım sürecinde ChatGPT’nin kendisini 100’den fazla kez profesyonel yardım almaya yönlendirdiğini söylüyor.
ACP-UK başkanı ve danışman klinik psikolog Dr. Jaime Craig ise uzmanların yapay zekanın özellikle risk göstergeleri ve karmaşık zorluklara verdiği yanıtları iyileştirmeleri için “acil bir ihtiyaç” olduğunu dile getirdi. Dr. Jaime Craig, bu teknolojilerin güvenli ve uygun kullanımını sağlamak için denetim ve düzenlemenin önemini vurguladı.
Kaynak: webrazzi
