The Cube’a paylaşılan verilere göre, yapay zeka ile üretilmiş yaklaşık 200 ICE videosu sosyal medyada milyonlarca izlenmeye ulaştı.
Alman kamu yayıncısı ZDF, şubat ayı sonunda ABD Göçmenlik ve Gümrük Muhafaza Dairesi (ICE) ajanlarına ilişkin bir haberde yapay zeka (AI) üretimi bir klibin kullanılması üzerine ABD muhabirini geri çağırdı.
REKLAM
REKLAM
Kurum, ICE ajanları tarafından gözaltına alınan bir annenin çocuklarının ona sarıldığını gösteren görüntü için özür diledi. Videoda, içeriğin OpenAI’ın video aracı Sora ile üretildiğini gösteren bir filigran bulunuyordu.
Euronews’ün doğrulama ekibi The Cube, bu videonun sosyal medyayı dolduran ve çoğu açık şekilde etiketlenmemiş binlerce yapay zeka üretimi ICE klibinden yalnızca biri olduğunu tespit etti. Bu içerikler toplu olarak milyonlarca izlenme aldı.
Tutarlı bir örüntü
Yapay zeka tespit firması TruthScan’in paylaştığı verilere göre, öğretmenler tarafından kovalanan, barlarda kavga eden ya da metroda New York City Police Department (NYPD) tarafından gözaltına alınan ICE ajanlarını gösteren 200’den fazla kısa video dolaşıma sokuldu.
TruthScan, tek bir Instagram hesabından 200’den fazla video topladığını açıkladı. Videolar kısa, dramatik ve duygusal yoğunluğu yüksek.
The Cube, söz konusu hesabın halen toplu şekilde yapay zekâ üretimi ICE videoları paylaşmaya devam ettiğini; bazılarının binlerce, bazılarının ise milyonlarca izlenmeye ulaştığını belirledi.
Videoların sahte olduğuna dair çeşitli ipuçları bulunuyor. Örneğin bir klipte, bir ICE ajanı ile bir kafe çalışanı arasındaki tartışma sırasında buharın katı bir yüzeyin içinden yükseldiği görülüyor — bu da görüntünün sentetik olduğuna işaret eden ince bir ayrıntı.
TruthScan’e göre, videoların her biri tam olarak 10 ya da 15 saniye uzunluğunda. Bu durum, içeriklerin OpenAI’nin Sora 2 modelinin sunduğu 10 ve 15 saniyelik video seçenekleri kullanılarak üretildiğini güçlü biçimde düşündürüyor.
Birçok yapay zeka videosunda filigran bulunmasına rağmen, söz konusu ICE kliplerinin büyük kısmında böyle bir işaret yer almıyor.
Geçen yıl kasımda 404 Media, Facebook kaynaklı yapay zekâ üretimi ICE videolarının viral olduğunu ve bunlardan birinin tek başına 4 milyon izlenmeye ulaştığını bildirmişti. Videolar daha sonra kaldırıldı.
Kamu güveni için daha geniş risk
Uzmanlara göre sorun yalnızca tekil videoların yanlış etiketlenmesi değil; hassas siyasi konularda sahte içeriklerin yaygınlaşması kamu güvenini zedeleyebilir.
Medya doğrulama şirketi OpenOrigins’in kurucu ortağı Ari Abelson, “Bu durum, kolluk kuvvetlerinin eylemlerine yönelik hem olumlu hem olumsuz toplumsal tepkiler açısından ciddi risk taşıyor,” dedi.
Abelson’a göre bu, güvenlerini korumak isteyen kolluk kuvvetleri için olduğu kadar, yetki aşımı durumunda onları hesap verebilir kılmak isteyen kurumlar için de önemli bir mesele.
ZDF örneğinde olduğu gibi, yapay zeka üretimi ICE içerikleri yalnızca anonim hesaplarla sınırlı değil, zaman zaman kamu yönetiminin en üst düzeylerine kadar ulaşabiliyor.
Ocak ayında White House, Minnesota’daki ICE karşıtı bir protestoda gözaltına alınan aktivist ve avukat Nekima Levy Armstrong’a ait dijital olarak değiştirilmiş bir görüntü paylaştı.
Yapılan analiz, düzenlenmiş görüntüde Armstrong’un ten renginin daha koyu gösterildiğini ve orijinal kareye kıyasla belirgin şekilde ağlarken tasvir edildiğini ortaya koydu.
Beyaz Saray, görüntüde oynama yapıldığı yönündeki sorulara, İletişim Direktör Yardımcısı Kaelan Dorr’un şu mesajıyla yanıt verdi: “Ülkemizdeki ağır suçların faillerini refleks olarak savunma ihtiyacı hissedenlere bir kez daha söylüyorum: Yasaların uygulanması sürecek. Memler de sürecek.”
Armstrong ise görüntünün paylaşılmasından “iğrendiğini” söyledi.
Abelson’a göre asıl sorun, içeriğin sahte olduğunu açıkça gösteren yeterli “güvenlik bariyerleri”nin bulunmaması.
“Siyasi karikatürler her zaman vardı ve bunlar da benzer şekilde kullanılıyor,” diyen Abelson, farkın videoların giderek aşırı derecede gerçekçi hâle gelmesi olduğunu vurguladı.
“Toplumsal ve bilgi alanlarının tek bir şeye ihtiyacı var: Bir fotoğraf ya da videonun gerçek olduğunu kanıtlayabilme yeteneği. Böylece sahte olanları kurgu olarak izleyebilir, gerçek olayların ağırlığını ise hissedebiliriz,” dedi.