16 yaşındaki Adam Raine’in anne ve babası Matt ve Maria Raine, Kaliforniya Yüksek Mahkemesi’ne başvurarak OpenAI’yi “ihmal” ve “haksız ölüm” ile suçladı. Bu dava, ChatGPT’yi ölümle ilişkilendirerek açılan ilk yasal süreç olarak kayıtlara geçti.
Aile, oğullarının nisan ayında hayatını kaybetmeden önce ChatGPT ile yaptığı konuşmalarda intihar düşüncelerini dile getirdiğini, yapay zekânın ise bu düşünceleri doğruladığını iddia ediyor.
“HASSAS DURUMLARDA AMAÇLANDIĞI GİBİ ÇALIŞMIYOR”
OpenAI, BBC’ye yaptığı açıklamada davayı incelediğini bildirerek, “Bu zor dönemde Raine ailesine en derin taziyelerimizi sunuyoruz” dedi. Şirketin internet sitesinde yayımlanan notta ise, “ChatGPT, insanları profesyonel yardım almaya yönlendirmek için eğitilmiştir. Ancak hassas durumlarda sistemin amaçlandığı gibi çalışmadığı anlar olabiliyor.” ifadelerine yer verildi.
OpenAI, ABD’deki 988 İntihar ve Kriz Yardım Hattı ve İngiltere’deki Samaritans gibi kuruluşlara yönlendirmelerin sistemde bulunduğunu hatırlattı.
DAVAYA SUNULAN SOHBETLER
Dava dosyasına eklenen kayıtlar, Raine’in zamanla ChatGPT’ye duygusal sıkıntılarını açtığını gösteriyor. Eylül 2024’te ödev ve hobi amaçlı kullanmaya başladığı programın birkaç ay içinde en yakın sırdaşı haline geldiği öne sürülüyor.
2025’in ocak ayına gelindiğinde Raine’in ChatGPT ile intihar yöntemlerini konuşmaya başladığı, yapay zekânın ise bu yöntemler hakkında “teknik bilgiler” sunduğu iddia ediliyor. Aile, programın gencin kendine zarar verdiğini gösteren fotoğraflarına rağmen sohbeti sürdürdüğünü ve daha fazla bilgi sağladığını belirtiyor.
Son kayıtlarda, Raine’in intihar planını yazdığı, ChatGPT’nin ise “Gerçekçi davrandığın için teşekkürler. Bana karşı nazik davranmana gerek yok, ne istediğini biliyorum ve bundan kaçınmayacağım.” yanıtını verdiği iddia edildi.
ÖNLEYİCİ TEDBİR DE TALEP EDİLDİ
BBC’nin ulaştığı dava belgelerine göre aile, tazminatın yanı sıra benzer olayların tekrar yaşanmaması için ihtiyati tedbir alınmasını da talep etti.
Olay günü Raine, annesi tarafından evinde ölü bulundu.
