İnternetteki çocuk cinsel istismarı materyallerini (CSAM) kaldırmaya adanmış İngiliz menşeli sivil toplum kuruluşu IWF, geçtiğimiz yıl kullanıcı raporlarından 8 binden fazla yapay zeka üretimi görsel ve video tespit etti.
İnternet Gözlem Vakfı (IWF) tarafından yayınlanan yeni bir rapora göre, yapay zeka (AI) tarafından üretilen içerikler, geçmişte görülen diğer çocuk pornografisi türlerinden çok daha müstehcen, uç noktada ve karmaşık bir yapıya sahip.
REKLAM
REKLAM
Rapora göre, çocukların cinsel istismarını tasvir eden yapay zeka üretimi görseller 2025 yılında yüzde 14 oranında arttı. Araştırmacılar, sentetik içerikleri gerçek fotoğraflardan ayırt etmenin giderek zorlaştığı konusunda uyarıyor.
İnternetteki çocuk cinsel istismarı materyallerini (CSAM) kaldırmaya adanmış İngiltere merkezli sivil toplum kuruluşu IWF, geçtiğimiz yıl kullanıcı raporlarından 8 binden fazla yapay zeka üretimi görsel ve video tespit etti. Kuruluş, bir içeriği şu durumlarda yapay zeka üretimi olarak sınıflandırıyor: görselde bariz teknik hatalar varsa, mağdur içeriğin yapay zeka olduğunu iddia ediyorsa, içeriği üreten kişi tarafından kullanılan teknolojiye dair bilgi paylaşılmışsa.
Yapay zeka içerikleri şimdilik internetteki toplam materyalin nispeten küçük bir kısmını oluştursa da, IWF artış hızının "alarm verici" olduğunu vurguluyor. Tespit edilen içeriklerin 3 bin 400'den fazlası, birden fazla kişinin etkileşime girebildiği, hiper-gerçekçi "tam hareketli" videolardan oluşuyor.
Bu videoların yüzde 65'inden fazlası; tecavüz, cinsel işkence ve hayvanlarla cinsel ilişki gibi İngiliz yasalarına göre en ağır kategoride yer alan istismar türlerini içeriyor. Yapay zeka ürünü olmayan içeriklerde bu oran yüzde 43'te kalırken, bu durum, suçluların yapay zekayı eskisinden çok daha uç ve karmaşık içerikler üretmek için kullandığını kanıtlıyor.
IWF CEO'su Kerry Smith, raporda şu ifadeleri kullandı: "Bugün, benzeri görülmemiş bir kolaylıkla 'sonsuz ihlal' üretebilen teknolojik bir manzara ile karşı karşıyayız."
Suçlular yapay zekayı nasıl kullanıyor?
Araştırma, suçluların bu araçları nasıl geliştirip paylaştığına da ışık tutuyor. Karanlık ağda (dark web) yapılan tartışmalarda, faillerin özel yapay zeka modelleri ve veritabanları geliştirmek için iş birliği yaptığı gözlemlendi. Hatta reşit olmayanların görsellerini üretmeyi öğreten "özel kurs" ilanlarına rastlandı.
Rapora göre, teknik uzmanlık gereksinimi ortadan kalktığı için suça giriş bariyeri ciddi şekilde düştü. Birçok model, istismar içeriği üretmek için sadece tek bir referans fotoğrafına ihtiyaç duyuyor.
AB genelinde yasak çağrısı
Rapor, istismar içeriklerinin yanı sıra bu içerikleri oluşturmak için kullanılan araçların da yasaklanması gerektiğini vurguluyor. Buna göre, getirilecek herhangi bir yasak, içerikler paylaşılmasa dahi kullanıcıların kendi kişisel içeriklerini üretmelerini de yasa dışı hale getirecek.
IWF CEO’su Smith, "Teknolojik gelişmeler asla bir çocuğun güvenliği ve refahı pahasına olmamalıdır," diyerek, böyle bir yasağın "hiçbir istisna olmaksızın asgari standart" olarak kabul edilmesi gerektiğini ekledi.
Bu rapor, Avrupalı yasa yapıcıların internet platformlarının çocuk cinsel istismarı içeriklerini (CSAM) tespit etmesine olanak tanıyan e-Gizlilik Direktifi'ndeki geçici uzatmayı onaylamasından kısa bir süre sonra yayınlandı.
3 Nisan'da sona ermesi planlanan bu uzatma, yasa yapıcılara internetteki çocuk cinsel istismarıyla mücadele konusunda uzun vadeli bir yasal çerçeve üzerinde anlaşmaları için zaman tanımayı amaçlıyor. Yapılan basın açıklamasında yasa yapıcılar, gelecekteki tüm önlemlerin "ölçülü" olması gerektiğini ve tüm şifreli konuşmaların gözetlenmesi yerine, yalnızca potansiyel istismar materyali olarak işaretlenmiş içeriklere uygulanması gerektiğini belirtti.
IWF ayrıca, çocuk cinsel istismarı içeriği üretmek için kullanılabilecek yapay zeka sistemlerinin "yüksek riskli" olarak sınıflandırılması için AB Yapay Zeka Yasası'nda (EU AI Act) değişiklik yapılmasını istiyor. Yasa kapsamında "yüksek risk" tanımı, bu sistemlerin AB’de kullanıma sunulmadan önce çok daha titiz testlerden geçirilmesi zorunluluğunu beraberinde getirecek.
Raporda, araçların daha kapsamlı bir denetime tabi tutulması sayesinde CSAM içeriklerinin azalacağı öngörülüyor. Çocukların cinsel istismarı ve çocuk pornografisi için yapay zeka kullanımı AB Yapay Zeka Yasası kapsamında hali hazırda yasa dışıdır ve mevzuat, bu amaca hizmet eden sistemlerin birlik genelinde erişilebilir olmasını engellemektedir.