Halihazırda bir gizli kamera pornografisi 'salgını' ile mücadele eden ülkede, şimdi de binlerce kişinin yapay zekayla sahte müstehcen görüntüler üretip yaydığı bir Telegram ağı ortaya çıkarıldı.
REKLAMGüney Kore, ülke genelinde özellikle gençler arasında giderek yaygınlaşan "deepfake pornografisi" krizi ile karşı karşıya.
Halihazırda bir gizli kamera pornografisi "salgınıyla" mücadele eden ülkede şimdi de binlerce kişinin yapay zekayla sahte müstehcen görüntüler üretip yaydığı bir Telegram ağı ortaya çıkarıldı.
Söz konusu görüntülerle hedef alınan kesimler arasında üniversite öğrencileri, öğretmenler ve hatta askeri personel de var.
Hükümet ise soruna ilişkin kamuoyunun ve siyasilerin tepkisini yatıştırmaya çalışıyor. Çarşamba günü yetkililer, Telegram ve diğer sosyal medya platformlarına, cinsel içerikli deepfake'leri silme ve engelleme konusunda birlikte çalışma çağrısında bulundu.
Kriz nasıl başladı?
Güney Kore'deki çevrimiçi taciz ve intikam pornolarıyla ilgili son tartışma, ilk olarak 22 Ağustos'ta yerel gazete Hankyoreh'in Telegram'daki en az 220 bin kişilik bir grubun deepfake araçlarıyla müstehcen görüntüler ürettiğini ortaya çıkarmasıyla başladı.
Hankyoreh muhabirleri, X (eski adıyla Twitter) üzerinden buldukları bir bağlantı aracılığıyla eriştikleri Telegram kanalında bir yapay zeka botu keşfetti. Bu bot, kanala yüklenen fotoğrafları otomatikman çıplak görsellere dönüştürüyordu.
Hankyoreh muhabirleri kanala girdiğinde, kullanıcılardan "beğendikleri bir kadının fotoğrafını yüklemesini" isteyen bir mesajla karşılaştı. Botu denediklerinde yüklenen herhangi bir görselin çıplak figürlü versiyonunun 5 saniye içinde üretilebildiğini gördüler. Üstelik yeni oluşturulan bu deepfake görselde çeşitli vücut bölgelerini özelleştirmeye de izin veriliyordu.
Kanalın bağlantısı X'te 'trend' olmuş
Muhabirlere göre, 21 Ağustos Çarşamba itibariyle bu Telegram kanalının yaklaşık 227.000 kullanıcısı bulunuyordu.
Hankyoreh'in kanalla ilgili incelemesindesöz konusu ağa erişimin ise son derece kolay olduğu vurgulanıyor: "X ve diğer sosyal medyalarda belirli terimlerle yapılan bir aramayla kanalın bağlantılarını bulduk. Hatta bağlantı içeren bir gönderi, X'te trend gönderi olarak bile etiketlenmişti."
Deepfake görüntülerden para kazanıyorlar
Kanalın ücretsiz olarak sadece iki adet deepfake görüntü ürettiği belirtiliyor. Bundan sonraki her bir fotoğraf 0,49 dolara (yaklaşık 650 won) mal oluyor. Ancak toplu ödemelerde indirimler yapılabiliyor ve arkadaşlarını kanala davet eden kullanıcılar bedava üretim hakları kazanabiliyor. Muhabirler, tüm bu harcamaların, muhtemelen belirli miktarda anonimlik sağlaması nedeniyle, sadece kripto parayla yapılabildiğini tespit etti.
Kore Cinsel Şiddet Yardım Merkezi müdürü Kim Hye-jung, yerel gazeteye verdiği röportajda, "Bir kâr yapısının olması, yüksek düzeyde talep olduğunu gösteriyor," ifadelerini kullandı.
Kore Kadın Avukatlar Derneği'nin insan hakları direktörü Seo Hye-jin de, "Bu görüntülerin üretildiği aşamada Telegram odasında 220.000'den fazla kişi varsa, dağıtım sonucunda oluşan hasar muhtemelen daha fazladır," diye ekledi.
Güney Kore'de çevrimiçi deepfake'lerde artış
İngiltere merkezli haber ajansı Reuters'ın Güney Kore polisinden edindiği bilgilere göre, ülkede deepfake kaynaklı çevrimiçi suçlar son yıllarda giderek arttı.
Polis teşkilatı 2024'ün ilk yedi ayında 297 vaka kaydetti. Geçen yılın aynı döneminde bu sayı 180 olarak belirlenmişti.
Güney Kore polisi bu suçla bağlantılı ihbarları 2021'de toplamaya başlamıştı. Bugün gelinen durum, çevrimiçi deepfake suçlarının neredeyse iki kat arttığını gösteriyor.
REKLAMSanıklar kimler?
Sanıkların çoğunun gençler ve 20'li yaşlardaki kişiler olduğu düşünülüyor.
Korea Times'ın haberine göre, yalnızca başkent Seul'de bu yılın ocak ve temmuz ayları arasında 14 yaş ve üzeri 10 genç, deepfake suçlarından gözaltına alındı. Polis verileri de geçen yıl deepfake görüntü ve video suçlarına karışan şüphelilerin yüzde 75,8'inin gençlerden oluştuğunu gösteriyor.
Mağdurlar kimler?
Mağdurlar arasında ise üniversite, lise ve ortaokul öğrencilerinin yanı sıra öğretmenler ve askerler de bulunuyor.
Yerel gazetelerin analizleri bu ağlarda üniversite, lise ve ortaokul öğrencilerine ait deepfake videoların paylaşıldığını ortaya koyuyor. Kore Öğretmenler ve Eğitim Çalışanları Sendikası, bu haftanın başlarında bazı okul öğrencilerinin cinsel içerikli deepfake videolarının mağduru olduğu bilgisini aldıklarını açıklamıştı.
REKLAMTelegram sohbet odalarında son dönemde, kadın askeri personele yönelik cinsel içerikli deepfake içerikler de bulundu. Örneğin, 900'den fazla üyeye sahip bir çevrimiçi sohbet odasında, kullanıcıların "mühimmat" olarak adlandırdığı kadın askerlerin deepfake videoları ve görsellerinin, aşağılayıcı ve küfürlü yorumlar eşliğinde dağıtıldığı ve paylaşıldığı keşfedildi.
Öte yandan, yetkililere göre, tüm bu olayların büyük kısmı, erkek öğrencilerin kız öğrencileri hedef almasının bir sonucu. Ancak deepfake suçları giderek tüm cinsiyetleri etkileyen bir okul şiddeti veya taciz biçimi olarak ortaya çıkıyor.
Örneğin basına demeç veren bir polis yetkilisi, "Sadece öğrencilerin değil, öğretmenlerin de, bilişim cihazlarında deneyimli gençler arasında hızla yayılan deepfake suçlarının kurbanı olması derin bir endişe kaynağı," diye konuştu.
Güney Koreli kadınlar kendilerini savunuyor
Son gelişmelerin üzerine Güney Koreli kadınlar da X'te bir araya gelerek, deepfake pornografinin hedefi olmamak için neler yapılabileceğini tartışmaya başladı.
REKLAM19 yaşındaki Bang Se-yoon, mağdurların en çok hangi bölgelerden ve okullardan olduğunu anlamaya çalışırken, kendi yaşadığı yerin de söz konusu grubun hedefinde olduğunu fark etti.
Hankyoreh'e konuşan genç kadın, "Ortaokuldan liseye, şu anki üniversiteme kadar gittiğim tüm okullardan bahsediyorlardı, bu yüzden hiçbir şey yapmadan öylece duramazdım," dedi.
Se-yoon ve arkadaşları farklı bölgelerde ve farklı okullarda bu suça karışan sohbet odalarının ekran görüntülerini almaya başladı. Söz konusu odaların takipçileri arasında ortaokul ve lise öğrencilerinden üniversite mezunlarına ve öğretmenlere kadar çok sayıda kişi olduğu göze çarpıyor.
Kore medyasına göre ise kadınların bu çabalarının arkasında çevrimiçi ortamda hızla yayılan intikam pornolarına karşı hükümetin yavaş tepki vermesi ve halkın yetkililere duyduğu güvensizlik yatıyor.
REKLAMTelegram'da cinsel şantaj şebekesi çökertilmişti
Ülkedeki son deepfake skandalı, Kore'de Telegram'ın adının karıştığı ilk cinsel suç olayı da değil.
Önceki yıllarda buradaki kanallarda örgütlendiği belirlenen bir cinsel şantaj şebekesinin ortaya çıkarılması ile Telegram'ın ülkedeki itibarı epey sarsılmıştı.
Çetenin lideri Cho Ju-bin, 2020'de 40 yıl hapis cezasına çarptırılmıştı.
Çete liderinin 16'sı genç olmak üzere en az 74 kadına kendilerine ait aşağılayıcı ve bazen şiddet içeren cinsel görüntüler göndermeleri için şantaj yaptığı bildirilmişti.
REKLAMKore'deki gizli kamera 'salgını'
Bu arada Güney Kore'de kadınlar, bir süredir halihazırda bir "gizli kamera pornosu" dalgası ile karşı karşıya.
İnsan Hakları İzleme Örgütü (HRW), bu yılın başında yürüttüğü bir araştırmada, kız çocukları ve kadınların rızaları olmadan gizlice çekilen görüntülerinin "kontrolsüz biçimde yayıldığı" uyarısında bulunmuştu.
HRW'nin "Benim Hayatım Senin Pornon Değil: Güney Kore'de Dijital Cinsel Suçlar" başlıklı bu araştırmasına göre, dijital cinsel suçlar Güney Kore'de o kadar yaygınlaştı ki artık tüm kadınların ve kız çocuklarının hayat kalitesini etkileyen bir durum haline geldi.
Veriler, 2008'de yüzde 4 olan yasadışı görüntü kaydı içeren cinsel suç soruşturmalarının oranının, 2017'de 11 kat artarak yüzde 20'ye yükseldiğini gösteriyor.
REKLAMÜlkede kamera sesi kapatılamıyor
Hacettepe Üniversitesi Bilişim ve Enformasyon Teknolojileri Ana Bilim Dalı Başkanı Prof. Dr. Mutlu Binark, Euronews Türkçe'ye yaptığı açıklamada, gizli kamerayla çekilen bu görüntülerin Güney Kore'de çok yaygın olduğunu vurguladı.
Binark, ülkedeki bazı grupların soyunma odalarında ve çeşitli alanlarda kadınların "etek altı" diye tabir edilen (Güney Kore'de buna "molka" adı veriliyor) gizli görüntülerinin yaygın olarak çekildiğini, hatta bazı bölgelerde uyarı levhalarının olduğunu belirtti.
Akademisyen bu yüzden Güney Kore'de akıllı telefonlardaki deklanşör sesinin kapatılamadığını da hatırlattı.
Güney Kore'de gizli kamera saldırılarının önüne geçmek için böyle bir düzenleme yürürlüğe girmişti. Ülkede fotoğraf deklanşör sesinin kapatılmasını yasaklayan yasa, akıllı telefon teknolojisinin ilk kez tanıtıldığı 2004 yılına kadar uzanıyor.
REKLAM'Burning Sun skandalını hatırlamak gerek'
Binark bu noktada 2019'da ortaya çıkan ve popüler K-pop idollerinden polis memurlarına kadar çok sayıda kişinin adının karıştığı Burning Sun skandalını da hatırlamak gerektiğini belirtiyor.
Skandal, 28 Ocak 2019 tarihinde bir kadının Gangnam'da bulunan ünlü bir gece kulübü olan Burning Sun'da saldırıya uğradığını basına açıklaması ile ayyuka çıkmıştı.
Fuhuş, uyuşturucu kaçakçılığı ve polis yolsuzluğuna karıştığı ortaya çıkan kulübün yöneticisi, ünlü K-pop grubu Big Bang'den Seungri'ydi.
Ayrıca bu skandal sırasında şarkıcı Jung Joon-young'un kadınlarla seks yaptığı ve bunları kayıt altına alıp onların rızası olmadan KakaoTalk sohbet odalarında paylaştığı iddia edilmişti. Şarkıcı iddiaları kabul ederek, 12 Martta eğlence sektöründen ayrıldığını açıklamıştı. Bir süre sonra bu sohbet grubunda Seungri'nin ve Highlight grubundan Yong Jun-hyung, FTISLAND grubundan Choi Jong-hoon ile CNBLUE üyesi Lee Jong-hyun'un da yer aldığı öğrenilmişti.
REKLAM"Kültürel Diplomasi ve Kore Dalgası: Hallyu" adlı kitabında K-pop ve K-drama endüstrisi üzerine tartışmalara ışık tutan Binark, bugün Kore'deki yasadışı pornografi krizinin izlerinin ülkenin endüstrisinde de açıkla görülebileceğinin altını çiziyor.
K-pop ikonlarının sömürülmeye açık olduğu ve sanatçı-hayran ilişkisinin de sömürü üzerinden kurulduğunu hatırlatan Binark, şöyle ekliyor: "Bu sorun, hükümetin atacağı kısa vadeli adımlarla çözülemez. Bu kültürel sorunun, kadınlara bakışın kökenine inilmeli."
Güney Kore hükümeti konuyu nasıl ele alıyor?
Hankyoreh'in haberinin hem Güney Kore'de hem de uluslararası kamuoyunda büyük yankı uyandırmasının ardından Güney Kore hükümeti üzerinde de ciddi bir kamuoyu baskısı oluştu.
Bunun ardından Devlet Başkanı Yoon Suk Yeol, dijital seks suçlarının kapsamlı bir şekilde araştırılması çağrısında bulundu. Yoon, 27 Ağustos'ta düzenlenen bir kabine toplantısında "Bu, anonimliğin korunmasına güvenerek teknolojinin sömürülmesidir. Bu açık bir suç eylemidir," ifadelerini kullandı.
REKLAMToplantıda genel olarak sosyal medya platformlarındaki cinsel suçlardan bahseden Yoon'un açıkça Telegram'ın adını vermemesi de dikkat çekti.
Aynı gün toplanan Kore İletişim Standartları Komisyonu ise Telegram ve diğer sosyal medya platformlarına, cinsel içerikli deepfake içerikleri silme ve engelleme konusunda açıkça işbirliği yapmaları çağrısında bulundu. Komisyon, Telegram'ın yanı sıra X ve Meta'dan da işbirliği talebinde bulunacaklarını vurguladı.
Komisyon ayrıca, mağdurlar için 24 saat hizmet veren bir yardım hattının kurulacağını ve dijital cinsel suçları izleyen düzenleyici personel sayısının 70'ten 140'a çıkarılacağını bildirdi.
Kore Ulusal Polis Teşkilatı da çevrimiçi cinsel suçlarla mücadele için yedi aylık bir çalışma başlatacağını duyurdu.
REKLAMÖte yandan, bu adımların ülkedeki yasadışı pornografi sorununa karşı ne denli etkili olacağı, kamuoyunda tartışılmaya devam ediyor.
Telegram'dan açıklama geldi
Bu gelişmeler üzerine Telegram'dan yapılan açıklamada, platformda yasadışı pornografi de dahil olmak üzere zararlı içeriklerin aktif olarak denetlendiği ifade edilerek, "Moderatörler, platformun herkese açık kısımlarının proaktif bir şekilde izlenmesi, gelişmiş yapay zeka araçları ve kullanıcı raporlarını kullanarak her gün milyonlarca zararlı içeriği kaldırıyor," denildi.
Durov, Fransa'da gözaltına alınmıştı
Güney Kore'deki son olaylar, Telegram'ın kurucusu ve İcra Kurulu Başkanı (CEO) Pavel Durov'un Fransa'da gözaltına alındığı döneme denk geldi.
Fransa'da savcılık, pazartesi günü, Durov'un gözaltına alınmasının Telegram'da çocuklara yönelik cinsel istismar görüntüleri, uyuşturucu kaçakçılığı ve dolandırıcılık işlemleriyle ilgili suçlara ilişkin soruşturmanın bir parçası olduğunu bildirmişti.
REKLAMGözaltı süresi dolan Durov çarşamba günü serbest bırakılmıştı.