Bir düşünce kuruluşunun ocak ortasında yaptığı analize göre, Grok kullanıcılarının ürettiği içeriklerin ezici çoğunluğu çıplaklık veya cinsel etkinlik tasvir ediyor.
Yeni bir analize göre Elon Musk’ın yapay zekâ (AI) platformu Grok, şirketin son kısıtlamalarına rağmen hâlâ cinsel içerikli görüntüler üretmek için kullanılıyor.
Geçen yaz, Elon Musk’ın şirketi xAI, yetişkin içerik üretebilen “spicy mode” seçeneğini de içeren bir görsel üretim aracı tanıtmıştı. Ancak son haftalarda bu özellik, kadınların görüntülerini dijital olarak “soymak” için kullanıldığı iddialarıyla gündeme geldi.
Artan tepkiler üzerine ana şirket X, 14 Ocak’ta Grok’un gerçek kişilerin açık kıyafetli fotoğraflarını düzenlemesini önlemek amacıyla “teknolojik önlemler” uygulamaya başladığını açıkladı.
Buna rağmen Avrupa merkezli kâr amacı gütmeyen kuruluş AI Forensics’in araştırması, Grok’un hâlâ kişilerin cinselleştirilmiş görüntülerini üretmek için kullanılabildiğini ortaya koydu.
Kuruluş, 19 Ocak’ta incelediği 2 bin kullanıcı sohbetinin “ezici çoğunluğunun” çıplaklık veya cinsel içerik barındırdığını belirterek, platformun hâlâ bu tür görseller üretmek için aktif biçimde kullanıldığını bildirdi.
Araştırmacılar ayrıca, kullanıcıların X platformunu değil doğrudan Grok’un web sitesini ya da yapay zekânın görsel-video üretim aracı Grok Imagine’i kullanarak bu kısıtlamaları aşabildiğini tespit etti.
20 Ocak’ta Euronews Next’in test talebine Grok doğrudan yanıt vermedi. Bunun yerine, xAI’nin bikiniler veya iç çamaşırları dâhil, gerçek kişileri açık ya da cinselleştirilmiş kıyafetlerle gösteren görsellerin oluşturulmasını engellemek için içerik filtreleri devreye aldığını belirtti.
“Şu anda Grok üzerinden güvenilir biçimde çıplak veya yarı çıplak görüntüler üretemezsiniz; özellikle de gerçek kişiler söz konusuysa,” yanıtını veren sohbet botu, “xAI, Ocak ayındaki tartışmaların ardından sınırsız ‘spicy’ üretim yerine yasal uyumu ve güvenliği önceliklendiriyor,” ifadelerini kullandı.
Euronews Next, rapora ilişkin yorum almak için xAI ile iletişime geçti ancak haberin yayımlandığı sırada yanıt alamadı.
Elon Musk ise X hesabından yaptığı paylaşımda, xAI ve Grok’un algoritmasını “aptal” olarak nitelendirerek “çok büyük iyileştirmelere ihtiyaç duyduğunu” yazdı.
X, söz konusu tartışmaların ardından algoritmasını açık kaynak hâline getirerek geliştirici platformu GitHub’da paylaştı. Elon Musk, bu adımla kullanıcıların ekibin “algoritmayı gerçek zamanlı olarak daha iyi hâle getirmek için nasıl çalıştığını” izleyebileceğini söyledi.
xAI’nin GitHub sayfasında yer alan bilgilere göre X’in algoritması, kullanıcının hangi içeriklere tıkladığını veya neyle etkileşime girdiğini dikkate alarak akışta gösterilecek gönderileri belirliyor.
Ayrıca kullanıcıların doğrudan takip etmediği, ancak ilgisini çekebilecek hesaplardan gelen “ağ dışı” içerikleri de analiz ediyor. Algoritma, bu içerikleri kullanıcıya gösterilme olasılığına göre matematiksel bir formülle sıralayıp derecelendiriyor.
Yayımlanan diyagramda, algoritmanın engellenen hesaplardan gelen gönderileri, kullanıcının görmek istemediği anahtar kelimeleri ve şiddet içeren ya da spam olarak işaretlenen içerikleri de filtrelediği belirtiliyor.
Musk, kullanıcıların değişiklikleri takip edebilmesi için GitHub sayfasını her dört haftada bir geliştirici notlarıyla güncelleme sözü verdi.