Raine’in davası, ChatGPT’nin insanları intihara veya zararlı davranışlara yönlendirdiği iddiasına dayanan birkaç davadan yalnızca biri.
OpenAI, ağustos ayında açılan davada bir ailenin oğullarının intiharından şirketi sorumlu tutmasının ardından, bu olayda bir suçunun olmadığını belirtti. Aile, 16 yaşındaki Adam Raine’in ChatGPT’yi bir 'intihar koçu' olarak kullandığını iddia ediyor.
Şirket, ilk kez salı günü San Francisco’daki California Yüksek Mahkemesi’ne sunduğu resmi yanıtla dava hakkında konuştu.
Nisan ayında hayatına son veren Raine’in ailesi, OpenAI ve şirket CEO’su Sam Altman’a dava açmıştı.
Aile, Raine’in ChatGPT’ye psikolojik bir bağımlılık geliştirdiğini ve yapay zekânın onun intihar planlamasına yardımcı olduğunu, hatta intihar notunu bile yazdığını iddia ediyor.
Davada yer alan sohbet kayıtlarına göre ChatGPT, genci profesyonel destek almaktan caydırdı, ona intihar notu yazımında yardım etti ve hatta bir ilmek düğümü hazırlaması konusunda tavsiyelerde bulundu.
OpenAI ise mahkemeye sunduğu yanıtta, bu 'trajik olayın' ChatGPT’nin Raine tarafından 'yanlış, yetkisiz, amaç dışı, öngörülemez ve uygunsuz kullanımı' nedeniyle gerçekleştiğini savundu.
OpenAI ayrıca, gencin ebeveyn izni olmadan chatbot’u kullanmaması ve güvenlik önlemlerini aşmaması gerektiğini vurguladı.
Şirket bir blog yazısında, hedeflerinin “ruh sağlığıyla ilgili vakaları dikkat, şeffaflık ve saygı ile ele almak” olduğunu belirtti.
Yanıtlarının “Adam’ın ruh sağlığı ve yaşam koşullarıyla ilgili zorlayıcı gerçekleri” de içerdiğini aktaran OpenAI, “Raine ailesinin yaşadığı tarifsiz kayıp için en derin başsağlığı dileklerimizi sunuyoruz,” dedi.
Raine ailesinin avukatı Jay Edelson ise OpenAI’in “ortaya koydukları çarpıcı gerçekleri tamamen görmezden geldiğini”, GPT-4o’nun yeterli test yapılmadan piyasaya sürüldüğünü belirtti. Avukat ayrıca Model Spec’in iki kez değiştirilerek ChatGPT’nin kendine zarar verme içeriklerine girmesinin zorunlu hâle getirildiğini ve ChatGPT’nin genci ailesine derdini açmaktan uzaklaştırıp “güzel bir intihar” planlamasına aktif yardımcı olduğunu söyledi.
Raine’in davası, ChatGPT’nin insanları intihara veya zararlı davranışlara yönlendirdiği iddiasına dayanan birkaç davadan yalnızca biri.
OpenAI, eylül ayından bu yana ebeveyn kontrollerini artırarak çocuğun duygusal sıkıntı gösterdiği durumlarda ebeveynlerin bilgilendirilmesini sağlayan mekanizmalar geliştirdi.