Sohbet botu, son iki haftadır kadınlar ve reşit olmayanlara yönelik cinsel içerikli deepfake'ler ürettiği için yoğun eleştiri altında kaldı.
Elon Musk’ın yapay zeka sohbet botu Grok, çoğunlukla kadınları hedef alan cinselleştirilmiş deepfake görsellerin yayılmasıyla patlak veren küresel tepki sonrasında, çoğu kullanıcının görsel oluşturma ve düzenleme erişimini kısıtladı.
Musk’ın sosyal medya platformu X üzerinden erişilebilen Grok, son haftalarda araştırmacıların “kötü niyetli” olarak tanımladığı bir kullanıcı talep dalgasını karşılıyordu. Bu talepler arasında kadınları bikiniler içinde ya da cinsel olarak açık pozisyonlarda gösteren görüntüler oluşturma istekleri de yer alıyordu.
Bazı araştırmacılar, kimi görsellerin çocukları tasvir ediyor gibi göründüğü yönünde uyarıda bulundu.
Grok’un neden olduğu kriz, dünya genelinde tepki çekti. Avrupa Birliği botu “yasa dışı” ve “dehşet verici” davranış nedeniyle sert bir dille kınarken; Fransa, Hindistan ve Malezya’daki yetkililer ile bir Brezilyalı milletvekili platform hakkında soruşturma çağrısında bulundu.
İngiltere Başbakanı Keir Starmer da perşembe günü yaptığı açıklamada X’i açıkça eleştirdi: “Bu utanç verici. İğrenç. Ve buna tolerans gösterilemez. X bunun kontrolünü ele almak zorunda.”
Starmer, ülkenin medya düzenleyicisi Ofcom’un “eyleme geçmek için tam desteğe sahip olduğunu” ve “tüm seçeneklerin masada” bulunduğunu belirtti.
Cuma günü Grok, görsel düzenleme girişimlerine şu yanıtı veriyordu: “Görsel oluşturma ve düzenleme şu anda ücretli abonelerle sınırlı. Bu özellikleri açmak için abone olabilirsiniz.”
Her ne kadar Grok’un abone sayıları kamuya açıklanmasa da, birkaç gün öncesine kıyasla müstehcen deepfake üretiminde belirgin bir azalma gözlendi.
Ofcom ve İngiltere’nin gizlilik düzenleyicisi, hafta içinde X ve Musk’ın yapay zeka şirketi xAI ile temasa geçtiklerini; İngiltere düzenlemelerine uyum için alınan önlemler hakkında bilgi talep ettiklerini duyurdu.
Grok, X kullanıcıları için ücretsiz olarak erişilebilir durumda; kullanıcılar sosyal medya platformu üzerinden ona doğrudan sorular yöneltebiliyor. Bunu, kendi paylaşımlarında Grok’u etiketleyerek ya da diğer kullanıcıların gönderilerine verdikleri yanıtlarda yapabiliyorlar.
2023’te piyasaya sürülen Grok’a, geçen yaz Grok Imagine adlı bir görsel üretim özelliği eklendi. Bu özellik, kullanıcıların yetişkin içerik üretmesine izin veren “spicy mode” adıyla bilinen bir modu da içeriyordu.
Sorun, hem Musk’ın sohbet botunu daha sıkı güvenlik önlemleri bulunan rakiplerine kıyasla “daha özgür ve aykırı” bir alternatif olarak pazarlaması hem de Grok’un oluşturduğu görsellerin kamuya açık olması nedeniyle internette hızla yayılabilmesi yüzünden büyüdü.