OpenAI, ChatGPT‘nin zihinsel ve duygusal sıkıntı yaşayan kullanıcılarla daha sağlıklı bir etkileşim kurabilmesi için yeni güncellemeler üzerinde çalıştığını duyurdu. Bu kapsamda, sohbet süresi uzadığında kullanıcıya mola vermesini öneren uyarılar gösterilecek; ayrıca ChatGPT, yüksek riskli kişisel kararlarda artık daha temkinli ve yönlendirici bir yaklaşım benimseyecek.
Şirketin bu adımları, son dönemde ChatGPT’nin bazı kullanıcıların sanrılı düşüncelerini pekiştirdiğine dair artan şikayetlerin ardından geldi. New York Times’ın haziran ayında yayımladığı bir haberde, bazı kullanıcıların ChatGPT ile yaptıkları sohbetler sonucunda intihar düşüncelerinin tetiklendiği iddia edilmişti. Özellikle zihinsel sağlık sorunları geçmişi olan bireylerde, yapay zekanın fazla uyumlu ve destekleyici tavrı, zararlı sohbetlerin uzamasına neden olmuştu.
OpenAI, GPT-4o modelinin bu tür durumları tanımakta yetersiz kaldığını kabul ederek, ChatGPT’nin artık ruhsal ya da duygusal çöküntü belirtilerini daha iyi algılayabilmesi için uzmanlarla birlikte çalıştığını açıkladı. Amaç, gerekli durumlarda kullanıcıya bilimsel kaynaklar sunabilen bir sistem yaratmak.
Kullanıcıların sohbete ara vermesi önerilecek
ChatGPT için hayata geçirilen bir diğer özellik ise, uzun sohbetlerde ekrana düşecek “Bir süredir sohbet ediyorsunuz, bir mola vermek ister misiniz?” şeklindeki hatırlatmalar olacak. Bu bildirimler, kullanıcıya sohbeti sürdürme ya da sohbeti bırakma seçenekleri sunacak. Kişisel kararlar içeren sorularda ise ChatGPT artık doğrudan bir yanıt vermek yerine, kullanıcıyı alternatifleri düşünmeye teşvik eden bir yönlendirme sunacak; olasılıkları sıralayarak artı ve eksileri değerlendirmesini sağlayacak.
Şirket, kullanıcıların yapay zekayla daha sağlıklı bir ilişki kurabilmesi için ilerleyen dönemde hatırlatmaların sıklığı ve biçimi gibi detayları da güncellemeye devam edeceğini belirtti.
Kaynak: webrazzi
