Kullanıcıların X'te paylaşılan fotoğrafları Grok’u etiketleyerek 'bikini giydirme' ve 'kıyafetlerini çıkarma' gibi komutlarla düzenlemesi, platformda bir akıma dönüşmüştü.
Dünyanın en zengin insanı olan Elon Musk’ın yapay zekâ aracı Grok, cinsel içerikli ve şiddet içeren görseller üretmek için kullanılmasına yönelik yoğun tepkilerin ardından, görüntü oluşturma özelliğini kullanıcıların büyük çoğunluğu için devre dışı bıraktı.
Bu adım, Musk’ın para cezaları, düzenleyici yaptırımlar ve X platformunun İngiltere'de yasaklanabileceğine dair haberlerle karşı karşıya kalmasının ardından geldi.
Kullanıcıların X'te paylaşılan fotoğrafları Grok’u etiketleyerek 'bikini giydirme' ve 'kıyafetlerini çıkarma' gibi komutlarla düzenlemesi, platformda bir akıma dönüşmüştü. Uzmanlara ve kullanıcıların büyük bir bölümüne göre ise bu durum, kitlesel bir dijital taciz biçimi haline gelmek üzereydi.
Söz konusu görsel oluşturma işlevi artık yalnızca ücretli abonelere açık.
Musk’a ait sosyal medya ağı X’te paylaşım yapan Grok, “Görüntü oluşturma ve düzenleme şu anda yalnızca ücretli abonelerle sınırlıdır,” açıklamasında bulundu.
Bu durum, platform kullanıcılarının büyük bölümünün artık Grok üzerinden görsel üretemeyeceği anlamına geliyor. Özelliğe erişimi olan kullanıcıların ise X tarafından saklanan kimlik bilgileri ve kredi kartı bilgileri bulunduğu için, işlevin kötüye kullanılması hâlinde tespit edilmeleri mümkün.
Grok, rıza dışı cinsel içerikler üretmek için kullanılması nedeniyle dünyanın dört bir yanında düzenleyici yaptırım tehdidiyle karşı karşıyaydı.
İngiltere, 'yasaklayabiliriz' demişti
İngiltere Başbakanı Keir Starmer, çarşamba günü yaptığı açıklamada sosyal medya şirketine karşı sert adımlar atılabileceğini söyledi.
Starmer, X’in platformu dolduran, yapay zekâ ile üretilmiş yarı çıplak kadın ve çocuk görselleri konusunda 'kontrolü ele almasını' istedi; bu içerikleri 'utanç verici' ve 'iğrenç' olarak niteledi.
Starmer, iletişim düzenleyicisi Ofcom’un bu konuda atacağı adımlara 'tam destek' verdiklerini belirterek, “Bu yasadışı. Buna tahammül etmeyeceğiz. Tüm seçeneklerin masada olmasını istedim. Bu kabul edilemez. X kendine çeki düzen vermeli ve bu içerikleri kaldırmalı. Buna karşı harekete geçeceğiz,” dedi.
Musk eleştirileri dikkate almamıştı
Aralık ayı sonunda Grok’un görsel oluşturma özelliğinin güncellenmesinin ardından, son iki hafta içinde binlerce cinselleştirilmiş kadın görselinin rıza olmaksızın üretildiği belirtildi. Musk’a, özelliğin kaldırılması ya da sınırlandırılması yönünde uzun süredir çağrılar yapılıyordu; ancak sosyal medya platformu bugüne kadar adım atmamıştı.
Hatta Musk, Grok’tan kendisini bikinili gösteren bir görsel üretmesini isteyerek ortaya çıkan görüntüyü 'perfect' (mükemmel) diye nitelendirdi.
Ayrıca Microsoft’un kurucusu Bill Gates’in Grok tarafından bikinili gösterildiği bir görsele de kahkaha ve ateş emojileriyle tepki verdi.