Grok, geçen ayın başlarında kadınlar ve çocukların cinsel içerikli deepfake görüntülerini üretmesi nedeniyle yoğun eleştiri aldı.
İngiltere'nin veri koruma kurumu, salı günü Elon Musk’ın şirketleri X ve xAI hakkında, yapay zeka (AI) sohbet robotu Grok’un cinselleştirilmiş deepfake’ler üretmesi sürecinde kişisel verilerin korunmasına ilişkin yasalara uyulup uyulmadığını incelemek üzere bir soruşturma başlattı.
REKLAM
REKLAM
Bu adım, kullanıcıların basit metin komutlarıyla kadınların ve çocukların cinselleştirilmiş görüntülerini oluşturup paylaşmasına imkân tanıdığı gerekçesiyle uluslararası tepki çeken Grok hakkında İngiltere'de yürütülen daha kapsamlı bir incelemenin parçası niteliğinde.
Bilgi Komiserliği Ofisi’nin (ICO) düzenleyici risk ve yenilikten sorumlu icra direktörü William Malcolm, yazılı açıklamasında şu ifadeleri kullandı: “Grok ile ilgili haberler, insanların kişisel verilerinin bilgileri ve rızaları olmaksızın mahrem ya da cinselleştirilmiş görseller üretmek için nasıl kullanıldığına ve bunu önlemek amacıyla gerekli güvenlik önlemlerinin alınıp alınmadığına dair son derece kaygı verici soruları gündeme getiriyor.”
Malcolm, “Kişisel veriler üzerindeki kontrolün bu şekilde kaybedilmesi, derhal ve ciddi zararlara yol açabilir. Bu durum, özellikle çocukların söz konusu olduğu hallerde daha da büyük bir risk teşkil ediyor,” dedi.
Geçen ay İngiltere'nin bağımsız çevrimiçi güvenlik düzenleyicisi Ofcom da, platformun insanları yasa dışı içerikten koruma yükümlülüklerine uyup uymadığını tespit etmek amacıyla X hakkında resmî bir soruşturma başlattı.
Musk’ın sosyal medya platformu X üzerinden erişilebilen sohbet robotu Grok, kullanıcıların —çoğunluğu kadınlar ve reşit olmayanlardan oluşan kişilere ait— cinselleştirilmiş deepfake görüntüler üretmesine olanak tanıdığı gerekçesiyle geçen ay yoğun eleştirilere maruz kalmıştı.
Dünyanın dört bir yanındaki hükümetler platformu kınarken, bazı ülkeler de Grok hakkında soruşturmalar başlattı.
Geçen hafta Avrupa Komisyonu da bir soruşturma açarak, sosyal medya platformunun bu tür görsellerin oluşturulması ve yayılmasına yönelik riskleri azaltmak için yeterli önlemleri alıp almadığını incelemeye başladı.