Bu adım, X'in sahibi Elon Musk'ın Grok tarafından üretilmiş herhangi bir 'çıplak reşit olmayan görselinden' haberdar olmadığını söylemesinin hemen ardından geldi.
Elon Musk’ın yapay zekâ sohbet botu Grok, yasal olmadığı ülkelerde gerçek kişileri müstehcen kıyafetlerle tasvir edecek şekilde fotoğraf düzenlemesi yapamayacak. Açıklama, Musk’a ait sosyal medya platformu X’te paylaşılan bir bildiriyle duyuruldu.
Çarşamba gecesi yapılan açıklama, kadınlar ve çocuklara ait cinselleştirilmiş görüntüler nedeniyle dünya genelinde yükselen tepkilerin ardından geldi.
Bazı hükümetler bu tür içeriklere yönelik yasaklar ve uyarılar yayımlamıştı. Açıklama ayrıca, Musk’ın Grok tarafından üretilmiş herhangi bir “çıplak reşit olmayan görüntüsünden” haberdar olmadığını söylemesinden yalnızca saatler sonra yapıldı.
Tepkiler kapsamında, ABD’nin Kaliforniya eyaleti, Grok kullanılarak üretilen rıza dışı açık cinsel içeriklerin yayılması hakkında çarşamba günü bir soruşturma başlatıldığını duyurdu.
Başlangıçta medya kuruluşlarının yönelttiği sorulara yalnızca “ana akım medya yalan söylüyor” yanıtı verilmişti.
Musk’ın şirketi xAI, artık belirli bir yerdeki yasalara aykırı olması hâlinde içeriğin coğrafi olarak engelleneceğini (geoblocking) açıkladı.
Şirket açıklamasında, “Bikini, iç çamaşırı ve benzeri açık kıyafetler dâhil olmak üzere, gerçek kişilerin görüntülerinin bu şekilde düzenlenmesine izin verilmemesi için teknolojik önlemler uyguladık,” ifadeleri kullanıldı.
Bu kural, daha fazla özelliğe erişimi olan ücretli aboneler dâhil tüm kullanıcılar için geçerli olacak.
xAI ayrıca, görsel oluşturma ve düzenleme özelliklerini yalnızca ücretli abonelerle sınırlandırdı. Şirket, bunun amacının “Grok hesabını yasaları ya da şirket politikalarını ihlal edecek şekilde kötüye kullanmaya çalışan kişilerin hesap verebilir olmasını sağlamak” olduğunu belirtti.
Grok’un "baharatlı mod"u, kullanıcıların açık cinsel içerik üretmesine imkân tanımış ve bu durum dünya genelinde hükümetlerin tepkisine yol açmıştı.
Malezya ve Endonezya yasal adımlar atarak Grok’a erişimi engelledi. İngiltere ve Avrupa Birliği, çevrim içi güvenlik yasalarının ihlal edilip edilmediğini araştırmaya başladı.
Fransa ve Hindistan daha sıkı denetimler talep eden uyarılar yayımlarken, Brezilya Grok’un kötüye kullanımına ilişkin bir soruşturma çağrısı yaptı.
Kaliforniya’nın açıklamasında, Grok’un görsel düzenleme işlevlerinin, "X dâhil olmak üzere internet genelinde kadınları ve kız çocuklarını taciz etmek için kullanılan, rıza dışı mahrem deepfake görüntülerin büyük ölçekli üretimini kolaylaştırdığı" ifade edildi.
Açıklamada, Kaliforniya Başsavcısı Rob Bonta’nın şu sözlerine yer verildi:
"Son haftalarda xAI tarafından üretilip çevrim içi paylaşılan rıza dışı açık cinsel içeriklere dair raporların çığ gibi artması sarsıcı. Kadınları ve çocukları çıplak ve açık cinsel durumlarda gösteren bu materyaller, internet genelinde insanları taciz etmek için kullanıldı."
Bonta, “Yapay zekâ yoluyla rıza dışı mahrem görüntülerin ya da çocukların cinsel istismarına yönelik materyallerin üretilmesine ve yayılmasına sıfır tolerans gösteriyoruz,” dedi.