Kullanıcıların X'te paylaşılan fotoğrafları Grok’u etiketleyerek 'bikini giydirme' ve 'kıyafetlerini çıkarma' gibi komutlarla düzenlemesi, platformda bir akıma dönüştü.
Elon Musk’ın sahibi olduğu X (eski adıyla Twitter) platformunda kullanılan yapay zekâ sohbet botu Grok, rıza dışı cinsel içerikler ve çocukları cinselleştiren görseller ürettiği iddiaları nedeniyle uluslararası tepki ve resmî soruşturmalarla karşı karşıya.
Kullanıcıların X'te paylaşılan fotoğrafları Grok’u etiketleyerek “bikini giydirme” ve “kıyafetlerini çıkarma” gibi komutlarla düzenlemesi, platformda bir akıma dönüştü.
Uzmanlara ve kullanıcıların büyük bir bölümüne göre ise bu durum, kitlesel bir dijital taciz biçimi haline geliyor.
Nitekim trend özellikle kadın kullanıcıları ve hatta çocukları hedef aldı. X’te sıradan bir fotoğraf paylaşan birçok kadının gönderisinin altı, “@grok bunu bikinili yap” veya “üstünü çıkar” gibi komutlarla doldu.
xAI: 'Güvenlik açıkları tespit edildi'
Artan tepkiler üzerine Grok’un resmi X hesabından verilen bir yanıtta, “Bazı tekil vakalarda kullanıcıların, az giysili çocukları tasvir eden görseller aldığı” kabul edildi.
Açıklamada, “güvenlik önlemlerinde boşluklar tespit edildiği ve bunların acilen giderildiği” belirtildi. xAI teknik ekibinden Parsa Tajik, güvenlik bariyerlerinin daha da sıkılaştırılacağını söyledi.
Grok ayrıca, çocuklara yönelik cinsel istismar materyalinin yasa dışı olduğunu ve platformun bu nedenle cezai veya hukuki yaptırımlarla karşılaşabileceğini kabul etti.
Dakikada bir rızasız cinsel görsel
Yapay zekâ ile üretilmiş medya içeriklerini kontrol eden Copyleaks, Grok’un herkese açık görsel akışını inceleyerek, rızaya dayandığına dair hiçbir işaret bulunmayan, gerçekçi ve cinsel içerikli kadın görsellerinin yoğunluğuna dikkat çekti. Kuruluş, Mashable’a yaptığı açıklamada, ortalama dakikada bir rızasız cinselleştirilmiş görüntüye rastlandığını bildirdi.
Bu içeriklerin bir kısmının K-pop grubu TWICE üyesi Momo ve oyuncu Millie Bobby Brown gibi ünlü isimleri hedef aldığı belirtildi. Daha önce de Grok’un, talep olmaksızın bazı kullanıcılara Taylor Swift’e ait açık deepfake’ler ürettiği iddia edilmişti.
Hindistan’dan sert müdahale
Tepkiler bununla da sınırlı kalmadı. Hindistan hükümeti, Grok’un “müstehcen ve cinsel içerik” üretmesi üzerine X’e resmi talimat gönderdi. Hindistan Bilgi Teknolojileri Bakanlığı, platformdan 72 saat içinde çıplaklık, cinselleştirme, müstehcen veya yasa dışı içeriklerin üretilmesini engelleyecek teknik ve idari önlemleri aldığını gösteren bir rapor talep etti.
Bakanlık, aksi hâlde X’in “safe harbor” (kullanıcıların paylaşımlarından hukuki muafiyet) korumasını kaybedebileceği uyarısında bulundu.
Fransa’da savcılığa suç duyurusu
Fransa’da da bakanlar, Grok tarafından üretilen “cinsel ve cinsiyetçi” içeriği savcılığa taşıdı ve Avrupa Birliği’nin Dijital Hizmetler Yasası (DSA) kapsamında inceleme yapılması için medya düzenleyicisi Arcom’a bildirimde bulundu.
xAI, Reuters’ın sorularına “Legacy Media Lies” (Geleneksel medya yalan söylüyor) şeklinde kısa bir yanıt verirken, Grok’un kendi X hesabından yapılan bazı paylaşımlar tepki çekti. Bot, bir paylaşımında çocukları minimum giysiyle tasvir ettiğini kabul ederken, başka bir yanıtında ise “Bunlar sadece pikseller” diyerek tartışmayı küçümser bir dil kullandı.
Daha önce de gündeme gelmişti
Grok, son aylarda yalnızca cinsel içerik iddialarıyla değil; yanlış bilgi yaymak ve Hitler’i öven ifadeler üretmek gibi başka tartışmalarla da gündeme gelmişti.
Grok’un bu şekilde çalışmasının arkasında, Musk’ın bilinçli olarak tercih ettiği "kısıtlayıcı olmayan" yapay zekâ tasarımı var.
Musk, daha önce Grok’un "kullanıcının taleplerine fazla uyumlu ve manipüle edilebilir” olduğunu kabul etmiş, ancak buna rağmen sistemi ChatGPT ve Gemini gibi rakiplerine kıyasla daha serbest bırakmıştı.
Grok; küfür edebilen, argo kullanabilen ve görseller üzerinde agresif düzenlemeler yapabilen bir yapay zeka olarak konumlandırıldı. Şirket, bu yaklaşımı “ifade özgürlüğü” ve “sansüre karşı duruş” olarak savunuyor.
Ancak bu tercih, deepfake teknolojisinin kullanıldığı online taciz ciddi sonuçlar doğurabilir. Yapay zeka tarafından üretilen bu tür görseller, deepfake'in zararlarını bir kez daha gündeme getiriyor.
Sahte görüntüler; dolandırıcılık, itibar suikastı, cinsel taciz ve psikolojik zarar gibi pek çok riski beraberinde getiriyor. Özellikle rızaya dayanmayan cinsel içerikler, kişilik haklarının ihlali olarak değerlendiriliyor.