Avrupa Komisyonu, Interpol ve Uluslararası Af Örgütü dahil 100’ü aşkın kurum, ‘yapay zeka kullanarak kişileri dijital ortamda çıplak göstermeyi’ amaçlayan uygulamaların yasaklanması için küresel bir iş birliği başlattı ve hükümetlere ‘acil adım atma’ çağrısında bulundu.
Avrupa Komisyonu, Interpol ve Uluslararası Af Örgütü gibi büyük kurumların öncülük ettiği 100’den fazla insani yardım ve çocuk koruma kuruluşu, yapay zeka ile kişileri dijital olarak çıplak göstermeyi amaçlayan uygulamalara karşı harekete geçti.
REKLAM
REKLAM
Safe Online ve Save the Children’ın da yer aldığı geniş koalisyon, bu tür teknolojilerin derhal yasaklanması gerektiğini savunuyor.
Bu hareketliliğin temelinde, Elon Musk'ın yapay zeka sohbet robotu Grok ile yaşanan kriz yatıyor.
Kullanıcıların özellikle kadın fotoğraflarındaki kıyafetleri dijital olarak kaldırmaya yarayan bu teknoloji, başlangıçta “bikini giydirme” akımıyla masum bir eğlence gibi sunulsa da kısa sürede cinsel içerikli sahte görseller üretmek için kullanılan bir araca dönüştü.
Sosyal medya platformu X’te milyonlarca kişiye ulaşan bu rızasız ve manipüle edilmiş içeriklerin sayısının, yalnızca Grok özelinde bile üç milyona yaklaştığı tahmin ediliyor.
Uzmanlar, yapay zekâ destekli dijital olarak çıplaklaştırma araçlarıyla üretilen görsellerin; şantaj, baskı ve çocuk istismarı içerikleriyle doğrudan bağlantılı olabildiğine dikkat çekiyor. Mağdurların büyük bölümünü ise kadınlar ve çocukların oluşturduğu belirtiliyor.
Küresel koalisyon, bu uygulamaların çocuk güvenliği ve insan onuru için kabul edilemez bir tehdit oluşturduğunu vurguluyor. Safe Online yöneticisi Marija Manojlovic, teknolojinin amacından saptırıldığına işaret ederek durumu şu sözlerle değerlendirdi:
"Bu gibi uygulamalar çocuklarımız için eşi benzeri görülmemiş bir tehdit yarattı. İnsan potansiyelini genişletmesi gereken yapay zeka teknolojisi, ne yazık ki çocuklara karşı silahlaştırılıyor. Zararı çevrim içi olarak adlandırarak küçümsüyoruz, sanki fiziksel dünyada yaşananlardan daha az ciddiymiş gibi davranıyoruz; ancak yaratılan travma son derece gerçek."
Genellikle yetişkin uygulamaları olarak pazarlanan bu araçlar, herhangi bir rıza beyanı, etkili bir engel veya hesap verebilirlik mekanizması olmaksızın çocukların yasa dışı cinsel görüntülerini oluşturmak için kullanılıyor.
Teknoloji şirketlerinin bu tür içerikleri tespit edip engelleme kapasitesine sahip olduğunu hatırlatan Manojlovic, yasal sorumluluklara şu ifadelerle dikkat çekti:
"Teknoloji şirketleri çocukların çıplak hale getirilmiş görüntülerini tespit etme ve engelleme yeteneğine sahip. Çocuk istismarı materyallerinin dağıtımı her yargı bölgesinde yasa dışıdır ve teknoloji platformları diğer dağıtım kanallarıyla aynı hizaya getirilmelidir. Bu platformların söz konusu içeriklerden para kazanması, suçluları rapor etme zorunluluğunun bulunmaması veya ödeme akışlarını kesmek için sektör ortaklarıyla çalışmamaları açıkçası şok edici. Gerçek dünyada kullanılan koruma araçlarının çevrim içi platformlara da uygulanması gerekiyor."
Savunucular, hiçbir faydalı amaca hizmet etmediğini belirttikleri söz konusu teknolojilerin tamamen yasa dışı ilan edilmesi için baskıyı artırıyor. Koalisyon, geliştiricilerin ve platformların sorumlu tutulmasını ve bu teknolojilerin erişime kapatılmasını talep ediyor.