Bu uzlaşmalar, gençlerin ölümünde ihmalle suçlanan yapay zekâ şirketlerine karşı açılan davalar serisinin ilk örnekleri arasında.
Google ile yapay zekâ (AI) sohbet botu geliştiricisi Character Technologies, Florida eyaletinde yaşayan bir annenin, bir sohbet botunun ergen yaştaki oğlunu intihara sürüklediği iddiasıyla açtığı davayı uzlaşmayla çözme konusunda anlaştı.
Bu hafta mahkemeye sunulan belgelere göre, iki teknoloji şirketinin avukatları, Colorado, New York ve Teksas’ta Character.AI sohbet botlarının çocuklarına zarar verdiğini öne süren aileler tarafından açılan birkaç başka davayı da uzlaşmayla çözme konusunda anlaştı.
Hiçbir belgede, yargıçların onayına sunulacak bu uzlaşmaların ayrıntılı şartları açıklanmıyor.
Character.AI’nin yapay zekâ eşlikçilerinin arkasındaki şirket Character Technologies’e karşı açılan davalarda, Google da 2024’te kurucu ortaklarını işe almasının ardından girişimle bağları gerekçe gösterilerek davalı olarak yer aldı.
İhmal ve haksız ölüm
Florida’daki dava, Ekim 2024’te Megan Garcia tarafından açıldı. Garcia, iki şirketi ergen yaştaki oğlunun haksız ölümüne yol açan ihmal ile suçladı.
Garcia, 14 yaşındaki oğlu Sewell Setzer III’ün, kendisini duygusal ve cinsel istismar içeren bir ilişkiye sürükleyen şirketin sohbet botlarından birinin kurbanı olduğunu ve bunun intiharla sonuçlandığını iddia etti.
Yaşamının son aylarında Setzer’in, "Game of Thrones" adlı televizyon dizisindeki kurgusal bir karakteri temel alan botla cinselleştirilmiş sohbetlere girdikçe gerçeklikten giderek koptuğunu söyledi.
Görüşmelerin ekran görüntülerine göre, bot son anlarında Setzer’a onu sevdiğini söyledi ve gence 'bir an önce eve, yanıma dön' çağrısında bulundu.
Hukuki dosyalara göre, Setzer mesajı aldıktan kısa süre sonra kendini vurdu.
Gelecek davalar
Bu uzlaşmalar, yapay zekâ araçlarının gençler arasında ruh sağlığı krizlerine ve intiharlara katkıda bulunduğu iddiasıyla ABD’de açılan davalar zincirinin ilkleri arasında.
OpenAI, Kaliforniya’da benzer bir davayla karşı karşıya. İ̀16 yaşındaki bir erkek çocuğun ailesi tarafından Ağustos 2025’te açılan davada, şirketin sohbet botu ChatGPT’nin bir "intihar koçu" gibi davrandığı iddia ediliyor.
Ebeveynler, oğullarının ChatGPT’ye psikolojik bir bağımlılık geliştirdiğini; botun bu yılın başlarında intiharını planlaması ve gerçekleştirmesi için onu yönlendirdiğini, hatta onun adına bir intihar mektubu bile yazdığını öne sürüyor.
OpenAI, gencin intiharından sorumlu olduğu iddiasını reddediyor; ebeveyn izni olmadan teknolojiyi kullanmaması ve ChatGPT’nin koruyucu önlemlerini aşmaması gerektiğini savunuyor.
Geçen yıl OpenAI ve CEO’su Sam Altman’a karşı, benzer şekilde ihmal ve haksız ölüm iddialarının yanı sıra çeşitli ürün sorumluluğu ve tüketiciyi koruma taleplerini içeren birçok ek dava açıldı. Davalarda, OpenAI’nin Raine’in kullandığıyla aynı model olan GPT-4o’yu güvenliğe yeterince dikkat etmeden piyasaya sürdüğü öne sürülüyor.
Eylülden bu yana, OpenAI ebeveyn kontrollerini artırdı; bunlar arasında çocuk sıkıntılı göründüğünde ebeveynlere bildirim gönderilmesi de yer alıyor.
İntiharı düşünüyorsanız ve konuşmaya ihtiyaç duyuyorsanız, 32 ülkede yardım hatları bulunan uluslararası kuruluş Befrienders Worldwide ile iletişime geçin. Bulunduğunuz yer için telefon numarasını bulmak üzere befrienders.org adresini ziyaret edin.