TikTok’ta paylaşılan bazı videolarda, genç kızların cinsel içerikli kıyafetler giydiği ya da müstehcen pozlar verdiği görülüyor. Bu içeriklerin altındaki yorumlarda ise çocuk pornografisi içeren materyallerin paylaşıldığı Telegram gruplarına yönlendiren bağlantılar bulunuyor.
Yeni bir rapora göre, yapay zeka (AI) tarafından üretilen ve genç kızların açık saçık kıyafetler içinde veya müstehcen pozlarda tasvir edildiği videolar, bu tür içerikler yasak olmasına rağmen TikTok’ta milyonlarca beğeni ve paylaşım aldı.
İspanya merkezli teyit kuruluşu Maldita, platformda bikinili, okul üniformalı ya da dar kıyafetli genç kızların yer aldığı 5 bin 200’den fazla video paylaşan yaklaşık 20 hesap tespit etti. Bu hesapların toplamda 550 binden fazla takipçisi ve yaklaşık 6 milyon beğenisi bulunduğu belirtildi.
Analiz, söz konusu videoların yorumlarında çocuk pornografisi içeren içeriklerin paylaşıldığı Telegram topluluklarına yönlendiren bağlantıların yer aldığını ortaya koydu. Maldita, çalışması kapsamında tespit ettiği 12 Telegram grubunu İspanyol polisine bildirdiğini açıkladı.
Raporda ayrıca, bu hesapların TikTok’un abonelik sistemi aracılığıyla — kullanıcıların içerik üreticilerine aylık ücret ödeyerek özel içeriklere erişim sağladığı model üzerinden — yapay zeka ile oluşturulmuş video ve görselleri satarak gelir elde ettiği ifade edildi. Platform, içerik üreticileriyle yaptığı anlaşma gereği bu gelirlerin yaklaşık yüzde 50’sini alıyor.
Rapor, Avustralya, Danimarka ve Avrupa Birliği gibi birçok ülkenin 16 yaşın altındaki kullanıcılar için sosyal medya kısıtlamaları uyguladığı ya da gençleri çevrimiçi ortamda korumanın yollarını tartıştığı bir dönemde yayınlandı.
TikTok, yapay zeka kullanılarak oluşturulan videolarda içerik üreticilerinin bunu açıkça belirtmesini zorunlu kılıyor. Platformun topluluk kurallarına göre, “bireyler için zararlı” olduğu düşünülen içerikler kaldırılabiliyor.
Ancak Maldita’nın raporu, incelenen videoların çoğunda yapay zeka kullanıldığına dair herhangi bir filigran ya da tanımlayıcı işaret bulunmadığını ortaya koydu. Bazı videolarda ise hareketsiz görüntüleri videoya dönüştürmek için kullanılan “TikTok AI Alive” filigranına rastlandı.
Telegram ve TikTok, Euronews Next’e yaptıkları açıklamalarda, platformlarında çocuklara yönelik cinsel istismar materyallerini engelleme konusunda “tam bir kararlılık” içinde olduklarını belirtti.
Telegram, halka açık platformuna yüklenen tüm medyanın tarandığını ve daha önce kaldırılmış çocuk istismarı materyalleriyle karşılaştırıldığını açıkladı. Şirket, “Suçluların özel grupları ve başka platformların algoritmalarını kullanmak zorunda kalması, Telegram’ın kendi moderasyonunun etkinliğini gösteriyor,” ifadelerini kullandı.
Platform, 2025 yılı içinde çocuk istismarı içeriği barındıran 909 binden fazla grup ve kanalı kaldırdığını bildirdi.
TikTok ise küçükler için zararlı içeriklerin yüzde 99’unun otomatik olarak kaldırıldığını, yapay zeka tarafından üretilen rahatsız edici içeriklerin ise yüzde 97 oranında proaktif biçimde silindiğini açıkladı. Platform, çocuklara ait müstehcen içerikleri paylaşan hesapları hızla kapattığını ve ABD Ulusal Kayıp ve İstismara Uğramış Çocuklar Merkezi’ne (NCMEC) rapor ettiğini belirtti.
TikTok ayrıca, CNN’e, Nisan–Haziran 2025 döneminde 189 milyondan fazla videoyu kaldırdığını ve 108 milyondan fazla hesabı yasakladığını bildirdi.