Amnesty International ve Avrupa Komisyonu gibi çok sayıda büyük küresel kuruluş, yapay zekâyla çıplaklaştırma araçlarının yasaklanmasını talep etti.
Yüzü aşkın büyük insani yardım ve çocuk koruma kuruluşu, yapay zekâ destekli çıplaklaştırma uygulama ve araçlarına karşı acil harekete geçilmesini talep ediyor. Koalisyonun bileşenleri arasında Uluslararası Af Örgütü, Avrupa Komisyonu, Interpol, Safe Online, Save the Children ile diğer çocuk koruma uzmanları ve insan hakları savunucuları yer alıyor.
Bu hareket, kullanıcıların Elon Musk’ın yapay zekâ sohbet botu Grok’tan dijital fotoğraflardan kadınların kıyafetlerini çıkarmasını istedikleri, Grok’un çıplaklaştırma özelliğine yönelik tepkilerin ardından geldi.
Her şey, fotoğrafları kadınları bikinili gösterecek şekilde dönüştüren “bikini giydir” akımıyla başladı ancak bu trend kısa sürede giderek daha cinsel içerikli görsellere dönüştü.
Bu rıza alınmadan ve sahte biçimde üretilen görseller daha sonra X adlı sosyal medya platformunda milyonlarca kişinin görebileceği şekilde açıkça paylaşıldı. Şimdiye kadar Grok’un yaklaşık üç milyon rızasız çıplak görsel ürettiği tahmin ediliyor.
Pek çok vakada, yapay zekâ ile çıplaklaştırma araçlarıyla oluşturulan görsellerin şantaj, zorlama ve çocuklara yönelik cinsel istismar materyaliyle bağlantılı olduğu tespit edildi; mağdurların büyük çoğunluğunu kadınlar ve çocuklar oluşturuyor.
Çocukların güvenliğine ve insan onuruna yönelik ciddi tehdit
Küresel koalisyon, bu çıplaklaştırma uygulama ve araçlarının çocukların güvenliği ile insan onuruna yönelik ciddi ve kabul edilemez bir tehdit oluşturduğuna dikkat çekiyor.
“Çıplaklaştırma araçları, çocuklarımız için eşi benzeri görülmemiş bir tehdit yarattı. İnsan potansiyelini geliştirmesi gereken yapay zekâ teknolojisi, çocuklara karşı bir silaha dönüştürülüyor” diye konuştu Safe Online Direktörü Marija Manojlovic.
“Buna ‘çevrimiçi’ diyerek, sanki fiziksel dünyada yaşananlardan daha az ciddiymiş gibi gösterip zararı küçümsüyoruz ama yaşanan travma son derece gerçek” diye ekledi.
Çoğu zaman “yetişkin” uygulamaları olarak pazarlansalar da, herhangi bir rıza, etkili koruma mekanizması ya da hesap verebilirlik olmaksızın çocuklara ait yasadışı cinsel içerikli görseller üretmek için giderek daha fazla kullanılıyorlar.
“Teknoloji şirketleri, çocuklara ait çıplaklaştırılmış içerikleri tespit edip engelleme kapasitesine sahip. Çocuklara yönelik cinsel istismar materyalinin yayılması her ülkede yasa dışı ve teknoloji platformları da diğer üretim ve dağıtım kanallarıyla aynı çizgiye getirilmeli” dedi Manojlovic.
“Bu platformlardan para kazanılması, ancak faillerin bildirilmesinin zorunlu olmaması ya da ödeme akışlarını kesmek için sektördeki diğer aktörlerle birlikte çalışmak zorunda bulunmamaları açıkçası şoke edici; bunlar gerçek dünyada kullanılan ve çevrimiçi platformlara da uygulanması gereken koruma mekanizmaları.”
Yapay zekâ ile çıplaklaştırma teknolojilerinin yasaklanması yönündeki baskı artıyor; savunucular, bu araçların hiçbir meşru amaca hizmet etmediğini savunuyor.
Bu nedenle koalisyon, söz konusu teknolojilerin engellenmesi ve geliştiriciler ile platformların sorumlu tutulması için baskı yapıyor.