Grok, geçen ayın başlarında kadınlar ve çocukların cinsel içerikli deepfake görüntülerini üretmesi nedeniyle yoğun eleştiri aldı.
Birleşik Krallık'ın veri koruma kurumu, salı günü Elon Musk'ın şirketleri X ve xAI hakkında, yapay zeka sohbet robotu Grok'un cinselleştirilmiş deepfake'ler üretmesi sürecinde kişisel verilerin korunmasına ilişkin yasalara uyulup uyulmadığını incelemek üzere bir soruşturma başlattı.
Bu adım, kullanıcıların basit metin komutlarıyla kadınların ve çocukların cinselleştirilmiş görüntülerini oluşturup paylaşmasına izin verdiği için uluslararası tepki çeken Grok hakkında Birleşik Krallık’ta yürütülen daha kapsamlı bir soruşturmanın parçası.
“Grok ile ilgili haberler, insanların kişisel verilerinin, bilgileri ve rızaları olmadan mahrem veya cinselleştirilmiş görseller üretmek için nasıl kullanıldığına ve bunu önlemek için gerekli güvenlik önlemlerinin alınıp alınmadığına dair son derece kaygı verici soruları gündeme getiriyor” dedi, Bilgi Komiserliği Ofisi'nin düzenleyici risk ve yenilikten sorumlu icra direktörü William Malcolm yazılı açıklamasında.
“Kişisel veriler üzerindeki kontrolün bu şekilde kaybedilmesi, derhal ve ciddi zararlara yol açabilir. Bu durum özellikle çocukların söz konusu olduğu hallerde geçerli.”
Geçen ay Birleşik Krallık'ın bağımsız çevrimiçi güvenlik denetçisi Ofcom, insanları yasa dışı içerikten koruma yükümlülüklerine uyup uymadığını belirlemek için X hakkında resmi bir soruşturma başlattı.
Musk'ın sosyal medya platformu X üzerinden erişilebilen sohbet robotu, kullanıcıların çoğunluğu kadınlar ve reşit olmayanlardan oluşan kişilerin cinselleştirilmiş deepfake görüntülerini üretmesine olanak tanıdığı için geçen ay eleştiri yağmuruna tutulmuştu.
Dünyanın dört bir yanındaki hükümetler platformu kınadı ve hakkında soruşturmalar başlattı.
Geçen hafta Avrupa Komisyonu da bir soruşturma açarak sosyal medya platformunun, bu tür görsellerin oluşturulması ve yayılmasına ilişkin riski azaltmak için yeterli önlem alıp almadığını incelemeye başladı.