Birçok ülke, rıza dışı cinsel içerikli 'deepfake'ler nedeniyle Grok'u kısıtlıyor ya da açıkça karşı çıkıyor.
Dünyanın dört bir yanında hükümetler, sahte ve cinsel açıdan müstehcen görüntüler ürettiğine dair artan endişeler arasında, Elon Musk’ın yapay zekâ sohbet robotu Grok’u dizginlemek için hızla harekete geçiyor.
Geçen yaz, Grok’un işletmecisi xAI, yetişkin içerik üretebilen 'spicy mode' adlı bir modu da içeren bir görsel üretim özelliği ekledi.
Son haftalarda Grok, kadınların görüntülerini "soyma" ve üzerlerine bikini giydirme yönündeki kullanıcı komutlarına yanıt vererek, hiçbir güvenlik önlemi olmadan yapay zekâ destekli 'deepfake’ler üretti.
Güneydoğu Asya’daki doğrudan yasaklardan Avrupa ve Avustralya’daki ceza soruşturmaları ile düzenleyici uyarılara kadar, yetkililer mevcut güvenlik önlemlerinin yetersiz kaldığını söylüyor.
Hangi ülkeler Grok’u yasakladı?
Endonezya
Endonezya, yapay zekâyla üretilen sahte pornografik içeriklerden kadınları, çocukları ve daha geniş toplumu korumak için Grok’a geçici erişimi engelleyen ilk ülke oldu.
ndonezya İletişim ve Dijital İşler Bakanı Meutya Hafid cumartesi günü yaptığı açıklamada, "Hükümet, rızaya dayanmayan cinsel deepfake’leri dijital alanda insan haklarının, onurun ve vatandaşların güvenliğinin ciddi ihlali olarak görüyor," dedi.
Endonezya Ulusal Polisi, kısıtlamaların yetkililer platformun güvenli olup olmadığını değerlendirirken "önleyici" bir adım olarak uygulandığını belirtti.
Endonezya Dijital Alan Denetimi Genel Müdürü Alexander Sabar’ın açıklamasına göre, ilk bulgular Grok’un, Endonezya vatandaşlarının gerçek fotoğrafları temel alınarak pornografik içerik üretilmesini ve yayılmasını engelleyecek etkin güvenlik önlemlerine sahip olmadığını gösterdi.
Sabar, bu tür uygulamaların fotoğraflar rıza olmaksızın manipüle edildiğinde ya da paylaşıldığında mahremiyetin ve görüntü hakkının ihlali riskini doğurduğunu, psikolojik, sosyal ve itibar zedelenmesine yol açtığını söyledi.
Malezya
Malezya İletişim ve Multimedya Komisyonu (MCMC), aracın müstehcen, cinsel içerikli ve rızaya aykırı manipüle edilmiş görüntüler üretmek için "tekrar tekrar kötüye kullanıldığı" gerekçesiyle pazar günü Grok’a geçici yasak getirilmesini emretti.
Düzenleyici kurum, bu ay X ve xAI’ye daha güçlü güvenlik önlemleri talep eden iki bildirim gönderdiğini açıkladı. X, verdiği yanıtlarda, Grok’un kötüye kullanım içeriğiyle ilgili şikayetlerin iletilmesi konusunda büyük ölçüde kullanıcılara dayandığını söyledi.
MCMC, X’in yapay zekâ platformunun tasarım ve işleyişindeki "doğası gereği var olan riskleri" ele almayı başaramadığı sonucuna vardı ve bunun Malezya yasaları bakımından yetersiz olduğunu belirtti.
"Kısıtlama, hukuki ve düzenleyici süreçler devam ederken önleyici ve orantılı bir tedbir olarak uygulanıyor" diyen kurum, etkili güvenlik önlemleri devreye girene kadar erişimin engelli kalacağını da ekledi.
Diğer ülkeler nasıl tepki verdi?
Avrupa Birliği
Avrupa Komisyonu, Grok tarafından üretilen, genç kızlara ait cinsel çağrışımlı ve açık görüntülerle ilgili vakaları incelediğini açıkladı.
Bir Komisyon sözcüsü geçen hafta Brüksel’de gazetecilere, "Komisyonun bu konuyu da son derece ciddiyetle ele aldığını bu kürsüden teyit edebilirim," dedi.
Reuters, Komisyonun, AB’nin kurallarına uyulup uyulmadığını değerlendirebilmek için X’ten yıl sonuna kadar Grok’la ilgili tüm belgeleri muhafaza etmesini istediğini bildirdi.
Sözcü, Reuters’a bunun resmî bir soruşturma başlatıldığı anlamına gelmediğini söyledi.
Avrupa Komisyonu Başkanı Ursula von der Leyen, İtalyan gazetesi Corriere della Sera’ya verdiği röportajda, "bir teknoloji platformunun kullanıcıların çevrimiçi ortamda kadınları ve çocukları dijital olarak soyabilmesine izin vermesinden öfke duyduğunu" belirtti.
X veya Grok’u doğrudan anmadan von der Leyen, Komisyonun "çocukların korunması ile rıza konusunu Silikon Vadisi’ne havale etmeyeceğini" açıkladı. "Onlar harekete geçmezse biz geçeceğiz," dedi.
İngiltere
İngiltere'nin medya düzenleyicisi, Grok’un cinsel içerikli ve rızaya aykırı görüntüler üretmek için kullanılmasına ilişkin olarak, xAI’nin ana şirketi ve Musk’ın sosyal medya platformu olan X hakkında soruşturma başlattı.
Ofcom, sohbet robotunun insanların soyulmuş görüntülerini ve "çocukların cinselleştirilmiş görüntülerini" oluşturmak ve paylaşmak için kullanıldığına dair "son derece endişe verici haberler" bulunduğunu belirtti.
Medya düzenleyicisi, X Ofcom’un gerekliliklerine uymazsa, internet servis sağlayıcılarına Grok’a erişimi engellettirmek için mahkeme kararı da talep edebilir.
X, dünya çapındaki gelirinin yüzde 10’una ya da 20 milyon euroya kadar para cezasıyla karşı karşıya kalabilir.
Teknoloji bakanı Liz Kendall, parlamentoya yaptığı konuşmada, _"_X’te dolaşan içerik iğrenç. Bu yalnızca düzgün toplum değerlerine bir hakaret değil, aynı zamanda yasa dışı," dedi.
Fransa
Paris Savcılığı, ocak ayı başında X hakkında yürütülen soruşturmayı Grok’u da kapsayacak şekilde genişlettiğini yerel medya bildirdi.
Geçen temmuz ayından beri süren ilk soruşturma, X’in bilişim sistemlerine örgütlü müdahale şüphesi ve verilerin yasa dışı yollardan elde edilmesine odaklanıyordu.
Fransız gazetesi Le Parisien’e göre, beş siyasetçinin platformu, içinde küçüklerin yer aldığı sahte cinsel içerikli videolar üretmek ve yaymakla suçlamasının ardından, soruşturmayı genişletme kararı bu hafta alındı.
Gazete, Fransa’nın Görsel-İşitsel ve Dijital İletişim Düzenleme Kurumu’nun (Arcom), dijital hizmetlere ilişkin Avrupa düzenlemesi olan Dijital Hizmetler Yasası’nın X tarafından olası ihlallerini soruşturduğunu da aktardı.
İtalya
8 Ocak’ta, İtalya Veri Koruma Otoritesi (Garante) uyardı: Grok veya diğer yapay zekâ platformlarını insanların kıyafetlerini kaldırmak için kullananlar ve bu görüntüleri yayanlar, cezaî yaptırımlarla karşı karşıya kalabilir.
Kuruma göre, fotoğraftaki kişinin izni olmaksızın bu araçların kullanılması, "ilgili kişilerin temel hak ve özgürlüklerinin ciddi bir ihlali" olarak değerlendirilebilir.
Kurum ayrıca Grok ve diğer yapay zekâ sağlayıcılarına, gizlilik düzenlemelerine uygun ürünleri tasarlamak, geliştirmek ve kullanıma sunmak zorunda olduklarını hatırlattı.
İtalyan düzenleyici, şirketin merkezinin İrlanda’da bulunması nedeniyle, X’in başlıca gizlilik otoritesi olan İrlanda Veri Koruma Komisyonu ile birlikte çalıştığını söyledi.
Ekim ayında İtalya’daki otorite, kıyafetleri kaldıran bir başka yapay zekâ tabanlı platform olan ClothOff’u engelledi. Platform, reşit olmayanlar da dahil olmak üzere herkesin gerçek kişileri çıplak ya da cinsel pozisyonlarda gösteren fotoğraf ve videolar oluşturmasına izin veriyordu.
Eylül ayında İtalya, yapay zekâ deepfake’lerini yayanları beş yıla kadar hapisle cezalandırmak için ceza kanununa yeni bir maddeekledi.
Almanya
Almanya, dijital şiddete karşı yeni bir yasa için yakında "somut bir öneri" sunacağını açıkladı.
Almanya Adalet Bakanlığı sözcüsü Anna-Lena Beckfeld, ocak ayında düzenlenen bir basın toplantısında, çıkarılması planlanan dijital şiddet yasasının bu "tür dijital şiddetin" mağdurlarını desteklemenin bir yolu olacağını, mağdurların "haklarının çevrimiçi ihlallerine karşı doğrudan harekete geçmesini daha kolay" kılmayı amaçladığını söyledi.
Grok’la ilgili özel olarak sorulduğunda Beckfeld, "kişisel hakların sistematik ihlali amacıyla geniş ölçekte manipülasyon kullanılmasının kabul edilemez" olduğunu belirtti.
"Bu nedenle, buna karşı ceza hukuku yoluyla daha güçlü önlemler alınmasını istiyoruz," diye ekledi.
2025’te Almanya’nın üç ana partisi, bir koalisyon anlaşmasına göre, siber suç yasasının reforme edilmesi ve yapay zekâ ile bağlantılı suçlar, örneğin yapay zekâ tarafından üretilen cinsel görüntüler için ceza kanunundaki "boşlukların" kapatılması konusunda uzlaştı.
Avustralya
Avustralya’nın E-Güvenlik Komiseri Ofisi, ocak ayında son birkaç hafta içinde Grok’un cinsel içerikli yapay zekâ çıktıları hakkında az sayıda ama artan ihbar aldığını açıkladı.
Komiserlik, içeriklerden herhangi biri ülkenin Çevrimiçi Güvenlik Yasası’nı ihlal ederse, bir sosyal medya sitesine sorunlu içeriği kaldırma emri verilmesini sağlayabilecek kaldırma bildirimi gibi yetkilerini kullanacağını belirtti.
Ofis, Grok’un cinsel içerikli hizmetinin kötüye kullanılmasına ilişkin olarak X’ten daha fazla bilgi talep ettiğini ve Avustralya’nın yeni sosyal medya yasasına uyup uymadığını değerlendirmek istediğini de bildirdi.
Ayrıca Grok’a, 9 Mart itibarıyla yapay zekâ şirketleri de dahil olmak üzere çevrimiçi hizmetlerin, çocukların cinsel, şiddet içeren ya da zararlı içeriklere erişimini engellemek zorunda olacağını hatırlattı.