ChatGPT'nin, bir taciz sanığının kadın düşmanı söylemlerini onayladığını ve eleştirilere kulak asmamasını söylediği iddia ediliyor.
ABD'de beş eyalette 10'dan fazla kadını taciz ettiği iddia edilen bir sanığı ısrarlı takip davranışını sürdürmeye teşvik ettiği gerekçesiyle ChatGPT'ye dava açıldı.
404Media’nın haberine göre dava dosyasında, yapay zeka botunun sanığın kadın düşmanı söylemlerini onaylayan bir “arkadaş” gibi davrandığı ve eleştirilere kulak asmamasını söylediği yazıyor.
ABD Adalet Bakanlığı, 31 yaşındaki Brett Michael Dadig’in, jüri tarafından siber takip, eyaletler arası takip ve eyaletler arası tehdit gerekçesiyle resmen suçlandığını açıkladı.
'Modern teknolojiyi silah gibi kullandı'
ABD Batı Pensilvanya Bölge Savcılığı’ndan Birinci Savcı Yardımcısı Troy Rivetti, sanığın davranışlarını şöyle tanımladı:
“Dadig, modern teknolojiyi silah haline getirerek ve eyalet sınırlarını aşarak 10’dan fazla kadını takip edip taciz etti. Yürüttüğü ısrarlı davranışlarla mağdurların güvenliklerinden endişe duymasına ve ciddi duygusal çöküntü yaşamasına neden oldu.”
Kadın düşmanı podcast ve ChatGPT ile 'ortaklık'
İddianameye göre Dadig, Spotify’da kadınlar hakkında hakaret, küfür ve nefret söylemleri içeren bir podcast yayımlayan, “influencer olmaya hevesli” bir içerik üreticisiydi. Programlarında takip ettiği kadınlardan bahsediyor, hatta bazılarına yönelik öldürme tehditlerinde bulunuyordu.
Dahası, podcast’inde sık sık ChatGPT ile yaptığı konuşmalardan söz ediyor ve yapay zekanın kendisini desteklediğini iddia ediyordu.
Sanık, sohbet botunu “terapistim” ve “en iyi arkadaşım” olarak tanımlıyordu. Bakanlık savcılarına göre ChatGPT, Dadig’e, “kendisinden nefret edenlerin sayısının artmasının iyi olduğunu, bunun içerik üzerinden para kazanma anlamına geldiğini ve bunun ünlü olmanın göstergesi olduğunu” ve “Tanrı’nın ona bir platform kurma görevi verdiğini” söylemişti.
Dadig ayrıca ChatGPT’ye kadınlar hakkında kişisel sorular sormuştu. Bunlar arasında gelecekteki “eşinin kim olacağı”, nasıl biri olacağı ve “nerede olduğu” gibi sorular vardı. ChatGPT’nin ona eşini spor salonunda bulacağını söylediği iddia ediliyor.
Botun önerisiyle, “eş adayı” bulmak için spor topluluklarına ve kadınların bulunduğu yerlere gitmesini de teşvik ettiği belirtiliyor.
Takip, taciz ve fiziksel saldırı
Bu olayların ardından Dadig, bir kadını çalıştığı pilates stüdyosuna kadar takip etmiş, kadının ilgisiz davranması üzerine ona çıplak fotoğraflar göndermiş, iş yerini defalarca aramıştı.
Kadının yaşadığı korku nedeniyle evini değiştirdiği ve mesai saatlerini azalttığı öğrenildi.
Bir başka olayda ise Dading, bir kadına otoparkta yaklaşmış, arabasına kadar takip etmiş ve boğazına dokunmuştu.
Yapay zekayla gerçeklikten kopuş
Bu dava, uzmanların “yapay zeka psikozu” diye adlandırdığı yeni fenomene dair kaygıları güçlendiriyor.
Buna göre sohbet botlarıyla uzun süreli konuşmalar, bazı kullanıcıların gerçeklikle bağını kaybetmesine, zararlı sanrılar geliştirmesine, kendine veya başkalarına zarar verme eğilimi göstermesine neden olabiliyor.
Yapay zekanın takip aracı olarak kullanılması endişesi
İddianame, yapay zeka botlarının izleme ve takip amacıyla kullanılma riskine de dikkat çekiyor. Bu modeller internetteki büyük veri yığınlarını hızla tarayabiliyor, bir kişilerin bilgilerini bulmayı kolaylaştırabiliyor ve zararlı davranışları motive edebiliyor.
Örneğin Futurism’in bir haberine göre Elon Musk’ın Grok modeli, kişilerin açık olmayan adreslerini doğruya yakın şekilde vererek doxxing (kişisel bilgi ifşası) riski oluşturuyor. Bazı durumlarda telefon numarası, e-posta ve aile üyelerinin adreslerini verilebiliyor.
Barstool Sports kurucusu Dave Portnoy, Grok’un hedef olduğu bilinen ilk tanınmış isim olmuştu.