Avrupa merkezli AI Forensics, Telegram üzerinde 'ölçekli istismar ekosistemi' tespit etti. Rapora göre kullanıcılar, platformun önleme çabalarına rağmen zararlı cinsel içerikleri sınır ötesi şekilde paylaşıyor ve satıyor.
Yaklaşık 25 bin kişilik büyük bir ağın, İspanya ve İtalya’da Telegram üzerinden rızasız cinsel içerik ve çocuk pornografisi paylaştığı belirlendi. Avrupa merkezli algoritma araştırma enstitüsü AI Forensics, 16 grup üzerinden altı hafta boyunca 2,8 milyon Telegram mesajını inceleyerek bu durumu “ölçekli istismar ekosistemi” olarak nitelendirdi.
REKLAM
REKLAM
Rapora göre, rızasız cinsel içerik paylaşan kullanıcıların çoğu genç, heteroseksüel erkeklerden oluşuyor ve içerikler genellikle partnerleri, eski partnerleri veya tanıdıkları kadınlara ait. En uç içeriklerde ise çocukların istismar ve ensest sahneleri yer alıyor.
Bu rapor, Avrupa Parlamentosu üyelerinin geçen ay, kişilerin rızası olmadan görüntülerinden kıyafet çıkararak sahte çıplak fotoğraflar oluşturan yapay zekâ (AI) sistemlerini yasaklayan kararı desteklemesinin ardından geldi. Avrupa Birliği’nde her üç kadından biri 15 yaşından itibaren cinsel şiddete maruz kaldığını ve bunun siber şiddeti de kapsadığını belirtiyor.
İçerikler nasıl yayılıyor?
Çalışma, genç erkeklerin genellikle materyalleri Instagram ve WhatsApp’taki özel mesajlaşmalar üzerinden elde ettiğini ortaya koydu.
İçerik sahipleri, kanallara ve arşivlere tam erişim için bir defalık 50 euroya kadar ücret talep ediyor. Bazı durumlarda ise aylık 5 euro abonelik ücreti de alınıyor. 'Nudifying' (çıplaklaştırma) botları, bu kanallarda rızasız içerik üretmek için araç olarak tanıtılıyor.
AI Forensics’in basın açıklamasına göre, bu yöntem suçluların içerik hacmini, hızını ve yayılma kolaylığını artırmasına olanak sağlıyor. Videolarda yer alan kadınlar sıklıkla isimleriyle etiketleniyor ve Telegram kanallarında paylaşılan profil linkleri üzerinden bulunabiliyor.
İçerik daha sonra TikTok ve Instagram gibi diğer platformlarda yeniden paylaşılıyor. Reddit ise kullanıcıları ücretli içerik kanallarına yönlendiren bir “yönlendirme kapısı” olarak kullanılıyor.
Araştırma, bu içeriklerin yaklaşık 52 bin kişiye ulaştığını, bunun 27 bininin İtalya, 25 bininin ise İspanya’da olduğunu ortaya koydu. AI Forensics, rızasız cinsel içeriklerin sosyal medyada yayılmasının ulusal sınırlar veya platform kısıtlarıyla sınırlı olmadığını ve bunun Avrupa çapında yapısal bir sorun olduğunu vurguladı.
Telegram kontrolü yetersiz
Telegram’ın bazı grupları kapattığı bildirildi, ancak aynı isimlerle birkaç saat içinde yeniden oluşturuldukları tespit edildi. AI Forensics, bunun platformun moderasyon uygulamalarının yetersiz olduğunu gösterdiğini belirtti.
Raporda, Telegram’da moderasyonun raporlama mekanizmalarını içermesi ve özellikle Premium abonelik modeli üzerinden içerik üretenlerin bu içerikleri para kazanmasını engelleyecek şekilde uygulanması gerektiği önerildi. Ayrıca, Avrupa Komisyonu’nun Telegram’ı Dijital Hizmetler Yasası kapsamında Çok Büyük Çevrimiçi Platform (VLOP) olarak sınıflandırması gerektiği belirtildi. Bu sınıflandırma, algoritma şeffaflığı ve zararlı içerik risk değerlendirmeleri gibi sıkı yükümlülükler getirecek.
Şubat ayında Telegram, AB’de VLOP sınıflandırması için kriter olan 45 milyon kullanıcı eşiğinin altında olduğunu iddia etmişti. AI Forensics ayrıca AB Yapay Zekâ Yasası kapsamında çocuk istismarı ve rızasız görüntülerin platformlardan daha kolay kaldırılmasını sağlayacak düzenlemeler yapılmasını talep ediyor.
Telegram’a rapor hakkında görüş soruldu, ancak hemen bir yanıt alınamadı. Platformun kullanım koşullarına göre çocuk cinsel içerikleri ve rızasız materyaller yasak. AI destekli içerik moderasyonu ve personel, kötüye kullanımla mücadele için görev yapıyor. Kullanıcılar, kuralları ihlal eden içerikleri bildirebiliyor.
Platform, ciddi ihlaller durumunda kullanıcıları, botları, gönderileri, kanalları ve grupları engelleyebiliyor veya silebiliyor.