İspanya'da en az 20 genç kıza yapay zekayla (deepfake) üretilmiş çıplak fotoğrafları gönderildi. Olay sonrası savcılık soruşturma başlatırken, ülkede mevcut yasalarla yapay zekanın cezalandırılıp cezalandırılamayacağı tartışması başladı.
REKLAMİspanya'da bir yapay zeka uygulaması olan derin sahtecilik (deepfake) yöntemiyle en az 20 genç kıza kendi rızaları ve haberleri olmadan sahte çıplak fotoğrafları servis edildi.
Olay sonrası ülkede yapay zeka ürünü bir eylemin ceza alıp alamayacağı tartışması başladı.
Ülkenin güney kesiminde bulunan Almendralejo şehrinde yaşanan bir olay, İspanya'da ilerleyen teknolojinin insanlığa karşı zararıyla ilgili yeni bir sorunu gündeme taşıdı.
Yaz tatilinden dönen en küçüğü 11 yaşında en az 20 genç kızın cep telefonuna bilinmeyen bir kaynaktan kendi yüzleri kullanılarak çıplak fotoğrafları gönderildi.
Söz konusu kızların suretlerinin Instagram hesaplarından alındığı ve bir yapay zeka uygulaması olan deepfake (derin sahtecilik) yöntemiyle pornogafiye varan görsellerle uygunsuz bir biçimde birleştirildiği ve söz konusu fotoğrafların daha sonra da şehirdeki bazı gençlere ait Whatsapp gruplarında paylaşıldığı kaydedildi.
Çoğunluğu reşit olmayan genç kızlar, suretlerinin kopyalandığı fotoğraflarda normal kıyafetleriyle yer alıyordu. Ancak yapay zekanın ürettiği ve servis ettiği sahte fotoğraflarda oluşturulan çıplaklık algısı gerçeğini aratmayacak benzerlikteydi.
Olay sonrası istismar edilen gençlerin aileleri harekete geçti ve savcılığa giderek soruşturma açtırmak istedi. Ancak ortada bir sorun vardı. Yapay zekanın yaptığı eylemin çocuk pornaografisi suçu kapsamına alınması ve cezanın kime uygulanacağı şimdilik soru işareti olarak kaldı.
Görüntüler Onlyfans ve porno sitelerine düştü iddiası
Kurbanlardan birinin annesi olan Miriam Al Adib kendi sosyal medya hesabında olayla ilgili olarak "Yapılan fotoğraf montajlarını gerçeğinden ayırmak neredeyse mümkün değil. Gerçekten de rahatsız edici ve oldukça da müstehcen." yorumunu yaptı.
Anne Al Adib, "Kızım bana büyük bir nefret duygusuyla gelip, 'anne bak bana ne yaptılar?' dedi ve olayı bu şekilde öğrendik." diye konuştu.
Al Adib ayrıca söz konusu sahte müstehcen fotoğrafların Onlyfans ve diğer pornografik içerik sağlayan internet sayfalarına da ulaştığını iddia etti.
"Olay şaka yollu başladıysa da ciddi sonuçları olabilir"
Olaya konu olan kız çocuklarından birinin annesi olan bir diğer isim Fatima Gomez, Extremadura TV'ye kızına şantaj yapıldığını açıkladı.
Kızının sosyal medyada bir çocukla görüştüğünü söyleyen Gomez, kimliği bilinmeyen çocuğun kızından para istediğini, kızı para vermeyi reddedince de kendisine çıplak fotoğraflarının gönderildiğini belirtti.
Olay sonrası aileler aralarında birlik olarak konuyu savcılığa taşıdı ve İspanyol polisi araştırma sonrası harekete geçti ve bazı operasyonlar düzenledi. Polisin reşit olmayan bazı kişilere ulaştığı ifade ediliyor.
Yerel bir devlet yetkilisiyse şantaj olayına karışan bazı isimlerin kız çocuklarının okuldaki sınıf arkadaşları olduğunu söyledi.
Dava Almendralejo şehri çocuk savcılığına intikal ederken kentin belediye başkanı diğer gençlere uyarıda bulunarak, "Bu olay şaka yapma şeklinde başlamış olabilir, ancak eldeki bulgular bunun çok daha ileri boyutta olduğunu ve bu fotoğrafları düzenleyenlerin ciddi sonuçlarla karşı karşıya kalacağını gösteriyor." diye konuştu.
10 euro karşılığında 25 "ücretsiz" çıplak fotoğraf
İnternetteki ismiyle deepfake (derin sahtecilik) olarak bilinen ileri düzeyde gerçeklik algısına sahip yapay zeka görselleri, bir uygulama ile hazırlanıyor.
Uygulamanın sloganı ise oldukça dikkat çekici ve tartışmaya açık: "İstediğiniz birini çıplak hale getirin, kızları bedava soyundurun!". Cep telefonu uygulaması, kişinin galerisindeki herhangi birinin fotoğrafını yüklemesi ve 10 euro ödemesi halinde, 25 farklı yapay zeka ürünü çıplak fotoğraf servis ediyor.
Söz konusu çıplaklık sahte olsa da gerçeğinden ayırt etmek neredeyse imkansız. Kurbanların anneleri, kız çocuklarının fotoğrafların sahte olduğunu bilmelerine rağmen gerçeklik algısının yüksek olması sebebiyle oldukça strese girdiklerini belirtiyor.
REKLAMİspanyol anne Al Adib sosyal medya hesabında, "Bunu yapan kişiler bu küçük kızlara ne kadar zarar verdiklerinin ve işledikleri suçun ne kadar korkunç olduğunun farkında değiller." diye bir not da ekledi.
Bir diğer anne ise, el Pais gazetesine verdiği röportajda "Kızım okuldaki bir erkek arkadaşının 'senin fotoğraflarını kullanıp bir şeyler yaptım' dediğini söyledi." ifadelerini kullandı.
Derin sahtecilik (deepfake) mevcut yasalarla cezalandırılabilir mi?
Euronews'e konuşan Madrid Autonomus Üniversitesi ceza hukuku profesörü Manuel Cancio eylemi yapan kişilerin bulunması halinde bile davayı açıklığa kavuşturmanın oldukça karmaşık olduğunu belirterek, "Sorulardan biri, eylemin cezalandırılması gerekip gerekmediği. Diğeri ise İspanya ve diğer Avrupa Birliği ülkelerindeki kanun taslağının suçları kapsama alanına göre cezalandırılıp cezalandırılamayacağı." ifadelerini kullandı.
Profesör Cancio, ceza hukukunda "reşit olmayanların yüzlerinin fotoğraflarda kullanılmasının mahremiyetlerini etkilemesi" konusunda yasal bir boşluk bulunduğunu, ancak mahrem görüntülerin dağıtıldığı suçlar söz konusu olduğunda 'kişisel mahremiyetin bir bütün olarak ihlal edildiği' hükmüne varılabileceğini belirtiyor.
"Müstehcen görseller Deepfake yöntemiyle oluşturulduğu için kurbanların gerçek mahremiyeti etkilenmez. Ancak burada devreye görsellerin mağdur üzerinde yarattığı etki giriyor. Çünkü görseller gerçek çıplak fotoğraflara çok benziyor. Yine de yasalar bu konuda eksik kalıyor."
REKLAMCancio, bu davada işe yarayabilecek yasal düzenlemenin eksik kalabileceğini ve bunun da ahlaki açıdan bir suç olduğunu belirtiyor ve ekliyor: "Olay, kimsenin nasıl ceza verileceğini bilmediği suçlar için bir saatli bomba."
Mart 2022'de Avrupa Komisyonu, siber suçlara ilişkin bir yasa teklifiyle bu tür eylemlerin suç sayılmasını önermişti. Profesöre Cancio'ya göre Avrupa'da bu eylemi adaletli bir şekilde cezalandırıp davayı çözebilecek tek yönetmelik Hollanda Ceza Kanunu.
Yapay zeka üretimi görseller 'çocuk pornosu' suçuna girer mi?
Hukukçular, eylemin daha yüksek ceza gerektiren 'çocuk pornografisi' kapsamında değerlendirilip olarak değerlendirilemeyeceği konusunda bölünmüş durumda. Bu sebeple savcılar konu üzerinde daha ihtiyatlı hareket ediyor.
Audens Hukuk Firması'nda 'yeni teknolojiler' konusunda uzmanlık yapan bir avukat olan Leandro Nunez için önemli olan fotoğrafın yüzde 100 gerçek olup olmadığı değil, öyle görünüp görünmediği.
Nunez konu hakkında Euronews'e şunları söyledi: "Bu tarz olaylarda en önemli şey insan suretinin, yüzünün teşhis edilebilir olup olmadığıdır. Bu sebeple bu eylemi, çocuk pornografisi, ahlaki bütünlüğe karşı işlenen suçlar veya kişinin rızası alınmadan cinsel içerikli görüntülerinin dağıtımı gibi suçlar kapsamına alabiliriz."
REKLAMİspanyol avukat, "Eylem ahlaki suç kapsamına alınırsa, verilecek ceza da azalacaktır. Daha hafif bir suç olarak değerlendirileceği için altı aydan iki yıla kadar daha az hapis cezası gerektirecektir." diye de ekliyor.
"Dijital hukuk" alanında uzmanlaşmış bir hukuk firması olan Font Advocats'ın avukatı Eloi Font gibi diğer uzmanlar ise, yapay zeka yani Deepfake ile üretilen görsellerin "küçüklerin cinsel görüntülerinin çoğaltılmasına benzer bir suç" olarak sınıflandırılabileceğini belirtiyor.
Bu durumda işlenen suç, beş ile dokuz yıl arasında hapis cezası alabilir.