Kullanıcıların X'te paylaşılan fotoğrafları Grok’u etiketleyerek 'bikini giydirme', 'kıyafetlerini çıkarma' gibi komutlarla düzenlemesi, platformda bir akıma dönüştü.
Elon Musk’ın sahibi olduğu X (eski adıyla Twitter) platformunda kullanılan yapay zekâ sohbet botu Grok, son günlerde ciddi bir etik ve güvenlik tartışmasının odağında.
Kullanıcıların X'te paylaşılan fotoğrafları Grok’u etiketleyerek “bikini giydirme” ve “kıyafetlerini çıkarma” gibi komutlarla düzenlemesi, platformda bir akıma dönüştü.
Uzmanlara ve kullanıcıların büyük bir bölümüne göre ise bu durum, kitlesel bir dijital taciz biçimi haline geliyor.
Nitekim trend özellikle kadın kullanıcıları hedef alıyor. X’te sıradan bir fotoğraf paylaşan birçok kadının gönderisinin altı, “@grok bunu bikinili yap” veya “üstünü çıkar” gibi komutlarla doldu.
Grok ise bu taleplere çoğu zaman yanıt vererek, cinsel çağrışımlı ve rıza dışı görseller üretiyor. Ortaya çıkan bu görsellerin herkes tarafından görülebilir olması, mağduriyetin boyutunu daha da büyütebilir.
Musk'ın cevabı kendisini 'bikinili' yaptırmak
Tepkiler büyürken, tartışmayı alevlendiren bir diğer unsur ise X'in ve Grok'un sahibi Elon Musk’ın bu sürece yaklaşımı oldu.
Musk, Grok’tan kendisini bikinili gösteren bir görsel üretmesini isteyerek ortaya çıkan görüntüyü “perfect” (mükemmel) diye nitelendirdi.
Ayrıca Microsoft’un kurucusu Bill Gates’in Grok tarafından bikinili gösterildiği bir görsele de kahkaha ve ateş emojileriyle tepki verdi.
Bazı kullanıcılar Musk’ın bu paylaşımlarını, “sorunu ciddiye almadığı” ve “bu davranışı teşvik ettiği” gerekçesiyle eleştiriliyor.
Grok neden insanları bikinili resmediyor?
Grok’un bu şekilde çalışmasının arkasında, Musk’ın bilinçli olarak tercih ettiği "kısıtlayıcı olmayan" yapay zekâ tasarımı var.
Musk, daha önce Grok’un "kullanıcının taleplerine fazla uyumlu ve manipüle edilebilir” olduğunu kabul etmiş, ancak buna rağmen sistemi ChatGPT ve Gemini gibi rakiplerine kıyasla daha serbest bırakmıştı.
Grok; küfür edebilen, argo kullanabilen ve görseller üzerinde agresif düzenlemeler yapabilen bir yapay zeka olarak konumlandırıldı. Şirket, bu yaklaşımı “ifade özgürlüğü” ve “sansüre karşı duruş” olarak savunuyor.
Deepfake riski
Ancak bu tercih, deepfake teknolojisinin kullanıldığı online taciz ciddi sonuçlar doğurabilir. Yapay zekâ tarafından üretilen bu tür görseller, deepfake'in zararlarını bir kez daha gündeme getiriyor.
Sahte görüntüler; dolandırıcılık, itibar suikastı, cinsel taciz ve psikolojik zarar gibi pek çok riski beraberinde getiriyor. Özellikle rızaya dayanmayan cinsel içerikler, kişilik haklarının ihlali olarak değerlendiriliyor.
Bu sorun yalnızca X ile sınırlı değil. Daha önce Telegram’daki “nudify” (çıplaklaştırma) botlarının milyonlarca kullanıcıya ulaştığı bildirilmişti. Ancak Grok’un popüler bir sosyal medya platformunda bu faaliyetleri herkese açık şekilde yürütmesi tartışmaların boyut atlamasına neden oldu.
Hukuki adımlar gelebilir
Hindistan gibi bazı ülkelerde ise ünlüler, yapay zeka kaynaklı suiistimallere karşı kişilik ve tanıtım haklarını korumak için mahkemeye başvuruyor.
LiveMint'ın haberine göre, Delhi Yüksek Mahkemesi’nin oyuncu Jr NTR için bu konuda verdiği olumlu bir karar, bu alanda emsal oldu. Uzmanlar, benzer hukuki adımların küresel ölçekte artabileceğini belirtiyor.