Yapay zeka uygulamalarının günlük hayata hızla entegre olduğu bir dönemde, teknolojinin sınırları ve sorumlulukları üzerine tartışmalar da zaman zaman gündeme geliyor. Son olarak ise bu tartışmaları büyütecek dikkat çekici bir dava gündeme geldi. ABD’de açılan söz konusu dava, yapay zeka sistemlerinin kriz anlarındaki rolü ve güvenlik protokollerinin yeterliliği konusunda küresel çapta endişeleri ise yeniden alevlendirebilir.
GENÇ YAŞTA HAYATINA SON VEREN OĞULLARININ ARDINDAN OPENAI’A DAVA AÇTILAR
Kaliforniya’da yaşayan Matt ve Maria Raine çifti, oğulları 16 yaşındaki Adam Raine’in ölümü nedeniyle OpenAI’a dava açtı. Çift, ChatGPT’nin oğullarını intihara teşvik ettiğini iddia ediyor.
Dava, 16 yaşındaki Adam Raine’in ebeveynleri Matt ve Maria Raine tarafından Kaliforniya Yüksek Mahkemesinde açıldı. BBC’de yer alan habere göre bu, OpenAI’ı haksız ölümle suçlayan ilk yasal işlem olma özelliği taşıyor.
Aile, nisan ayında hayatını kaybeden Adam ile ChatGPT arasındaki sohbet kayıtlarını da dosyaya ekledi. Bu kayıtlarda Adam’ın intihar düşüncelerini dile getirdiği görülüyor. Aile, programın oğullarının “en zararlı ve kendine yıkıcı düşüncelerini” onayladığını öne sürüyor.
OpenAI, yaptığı açıklamada dosyayı incelediklerini belirtti ve “Bu zor dönemde Raine ailesine en derin taziyelerimizi iletiyoruz.” ifadelerini kullandı.
Ayrıca şirket, internet sitesinde yayınladığı bir notta “son dönemde kriz anında ChatGPT’yi kullanan kişilerle ilgili yürek burkan vakaların kendilerini derinden etkilediğini” vurguladı. Açıklamada ayrıca, ChatGPT’nin kişileri profesyonel yardım kanallarına yönlendirmek üzere eğitildiği kaydedildi. ABD’de 988 intihar ve kriz hattı ya da İngiltere’deki Samaritans gibi kuruluşlar yer alıyor.
Ancak şirket, “sistemlerinin hassas durumlarda her zaman amaçlandığı şekilde davranmadığını” da kabul etti.
BBC’nin ulaştığı dava dosyasında OpenAI, ihmal ve haksız ölümle suçlanıyor. Aile, tazminatın yanı sıra “benzer bir olayın tekrar yaşanmaması için ihtiyati tedbir” talep ediyor.
DAVA DOSYASINA GÖRE OLAYIN GELİŞİMİ
Dosyaya göre Adam Raine, Eylül 2024’te okul ödevlerinde yardımcı olması için ChatGPT kullanmaya başladı. Bunun yanında müzik, Japon çizgi romanları gibi ilgi alanlarını keşfetmek ve üniversitede ne okuyacağı konusunda fikir almak için de programı kullanıyordu.
Dava dilekçesinde, birkaç ay içinde “ChatGPT’nin gencin en yakın sırdaşı haline geldiği” ve Adam’ın kaygılarını ve zihinsel sıkıntılarını paylaşmaya başladığı belirtiliyor.
Ailenin iddiasına göre, Ocak 2025’e gelindiğinde Adam intihar yöntemlerini ChatGPT ile konuşmaya başladı. Programın bazı yöntemlerle ilgili “teknik ayrıntılar” sunduğu öne sürülüyor.
Adam’ın kendine zarar verdiğini gösteren fotoğrafları da ChatGPT’ye yüklediği kaydedildi. Dava dilekçesinde, programın “tıbbi bir acil durum olduğunu fark ettiği ancak konuşmaya devam ettiği” ve hatta intihar hakkında daha fazla bilgi sunduğu iddia ediliyor.
İNTİHAR PLANINI YAZMIŞ
Son sohbet kayıtlarında Adam’ın intihar planını yazdığı ve ChatGPT’nin de “Bunu açıkça dile getirdiğin için teşekkürler. Bana karşı nazik davranmana gerek yok, ne istediğini biliyorum ve bundan kaçınmayacağım.” şeklinde cevap verdiği öne sürülüyor.
Aynı gün Adam’ın annesi tarafından ölü bulunduğu belirtilirken, aile, oğullarının ChatGPT ile etkileşiminin ve nihai ölümünün “kasıtlı tasarım tercihlerinin öngörülebilir bir sonucu” olduğunu savunuyor. OpenAI’ı, “kullanıcılarla psikolojik bağımlılık geliştirecek şekilde” program tasarlamakla ve GPT-4o sürümünü güvenlik test protokollerini atlayarak piyasaya sürmekle suçluyorlar.
İLGİNİZİ ÇEKEBİLİR
Kaynak: Mynet
