Ofcom, Çevrimiçi Güvenlik Yasası uyarınca X'i soruşturuyor. "X'in yasaya uyup uymadığını belirlemek için soruşturma açtık," denildi.
Birleşik Krallık'ın medya düzenleyicisi, cinsel içerikli ve rızaya dayanmayan görseller üretmek için kötüye kullanıldığı gerekçesiyle mercek altında olan Grok yapay zekâ (YZ) sohbet botunun kullanımına ilişkin olarak Elon Musk'ın X adlı sosyal medya platformu hakkında soruşturma başlattı.
Ofcom, yaptığı açıklamada, sohbet botunun insanların çıplak görüntülerini üretmek ve paylaşmak için kullanıldığına ve "cinselleştirilmiş çocuk görüntülerine" ilişkin "son derece kaygı verici raporlar" bulunduğunu söyledi.
Yetkililerin rızaya dayanmayan cinsel içerikli deepfake'ler üretmek için kötüye kullanıldığını söylemesinin ardından, yapay zekâ platformu hafta sonu Malezya ve Endonezya'da engellendi.
"Ofcom'un X'e yönelik soruşturması bir dönüm noktası. Bu, zararlı içeriği barındırmakla ilgili değil. Bir platformla bağlantılı bir YZ aracının onu aktif olarak üretmesiyle ilgili," dedi siber güvenlik şirketi Check Point'in kurumsal birim başkanı Charlotte Wilson.
"Kendi teknolojiniz gerçek insanların 'çıplak' görüntülerini ve çocukların cinselleştirilmiş görsellerini üretebiliyorsa, artık tarafsız bir altyapı değilsiniz. Zarar zincirinin bir parçasısınız. Suçu kötü niyetli aktörlere atmak meseleyi ıskalıyor," diye ekledi.
2023'te kullanıma sunulan Grok, X'te ücretsiz olarak kullanılabiliyor. Kullanıcılar sosyal medya platformunda sohbet botuna sorular yöneltebiliyor ve doğrudan kendilerinin oluşturduğu gönderileri ya da diğer kullanıcıların paylaşımlarına verdikleri yanıtları etiketleyebiliyor.
Geçen yaz şirket, Grok Imagine adlı bir görsel oluşturma özelliği ekledi; bu özellik, yetişkin içerik üretebilen "spicy mode" olarak adlandırılan bir seçeneği içeriyordu.
X, Ofcom'un gerekliliklerine uymazsa, medya düzenleyicisi Birleşik Krallık'ta siteye erişimin tamamen engellenmesi için internet servis sağlayıcılarını zorlayacak bir mahkeme emri talep edebilir.
Ofcom, X'in yasaları ihlal ettiğinin tespiti halinde, küresel gelirinin yüzde 10'una veya 18 milyon sterline (20 milyon avro) kadar para cezası uygulayabilir.
Birleşik Krallık'ın teknoloji bakanı Liz Kendall, pazartesi öğleden sonra Grok hakkında konuşacak.