Kullanıcıların X'te paylaşılan fotoğrafları Grok’u etiketleyerek 'bikini giydirme' ve 'kıyafetlerini çıkarma' gibi komutlarla düzenlemesi, platformda bir akıma dönüşmüştü.
Malezya ve Endonezya, Elon Musk’ın şirketi xAI tarafından geliştirilen yapay zekâ sohbet botu Grok’u, rızaya dayanmayan ve cinsel içerikli görseller üretmekte kötüye kullanıldığı gerekçesiyle engelledi. İki ülke, bu adımı atan ilk devletler oldu.
Karar üretken yapay zekânın gerçekçi görüntü, ses ve metin üretebilmesine rağmen mevcut güvenlik önlemlerinin kötüye kullanımı engellemekte yetersiz kaldığı yönündeki küresel kaygıları da yansıtıyor.
Elon Musk’ın sahibi olduğu X platformu üzerinden erişilebilen Grok, daha önce kadınları bikiniyle ya da cinsel pozlarda gösteren manipüle edilmiş görseller ve çocukları içeren içerikler üretmesi nedeniyle eleştirilmişti. Güneydoğu Asya’daki düzenleyiciler, özellikle kadınlar ve çocukları hedef alan sahte pornografik içeriklerin üretilmesini ve yayılmasını mevcut denetim mekanizmalarının durduramadığını belirtti. Endonezya hükümeti Grok’a erişimi cumartesi günü geçici olarak engellerken, Malezya da pazar günü benzer bir karar aldı.
Endonezya İletişim ve Dijital İşler Bakanı Meutya Hafid, rızaya dayanmayan cinsel deepfake’lerin insan haklarına, insan onuruna ve vatandaşların dijital alandaki güvenliğine ciddi bir saldırı olduğunu söyledi. Bakanlık, alınan kararın kadınları, çocukları ve toplumu yapay zekâ ile üretilen sahte pornografik içeriklerden korumayı amaçladığını vurguladı.
Dijital alan denetiminden sorumlu yetkililer, ilk incelemelerin Grok’un Endonezyalı kişilere ait gerçek fotoğraflar üzerinden pornografik içerik üretilmesini ve yayılmasını önleyecek etkili güvenlik önlemlerinden yoksun olduğunu gösterdiğini açıkladı. Yetkililer, bu tür uygulamaların rıza olmaksızın yapılan manipülasyonlar nedeniyle mahremiyet ve görüntü haklarını ihlal ettiğini, psikolojik, toplumsal ve itibara yönelik zararlar doğurduğunu belirtti.
Malezya’da ise İletişim ve Multimedya Komisyonu, Grok’un “tekrar eden kötüye kullanımlar” yoluyla müstehcen, cinsel içerikli ve rızaya dayanmayan manipüle edilmiş görseller üretmesi üzerine geçici kısıtlama kararı aldı. Kurum, X ve xAI’ye bu ay gönderilen ve daha güçlü güvenlik önlemleri talep eden uyarıların, ağırlıklı olarak kullanıcı şikâyet mekanizmalarına dayanan yanıtlarla karşılandığını ifade etti. Açıklamada, kısıtlamanın devam eden hukuki ve düzenleyici süreçler tamamlanana kadar önleyici ve orantılı bir tedbir olarak uygulanacağı, etkili önlemler hayata geçirilmeden erişimin açılmayacağı kaydedildi.
2023’te kullanıma sunulan Grok, X platformunda ücretsiz olarak erişilebiliyor. Kullanıcılar sohbet botuna doğrudan sorular yöneltebiliyor ya da paylaşımlara etiketleyerek yanıt alabiliyor. Geçen yaz eklenen ve “Grok Imagine” adı verilen görsel üretme özelliği ise yetişkin içerik üretebilen “spicy mode” seçeneğini de içeriyordu.
Güneydoğu Asya’daki bu yasaklar, Grok’a yönelik Avrupa Birliği, Britanya, Hindistan ve Fransa dâhil olmak üzere birçok ülkede artan incelemelerin ortasında geldi. Grok, geçen hafta cinselleştirilmiş deepfake’lere yönelik küresel tepkinin ardından görsel üretme ve düzenleme özelliklerini yalnızca ücretli kullanıcılara sınırladı. Ancak eleştirmenler, bu adımın sorunu bütünüyle çözmediğini savunuyor.