Fransa'daki Ulusal Birlik (RN) de dahil olmak üzere Avrupa genelinde aşırı sağcı partilerin siyasi mesajlarını desteklemek için yapay zeka kullandığı iddia ediliyor.
REKLAMİki yeni rapor, Avrupa'da aşırı sağcı partilerin siyasi mesajlarını desteklemek için yapay zeka (artificial intelligence-AI) tarafından üretilen görseller kullandığını ortaya koydu. Ancak bu görsellerin son Fransa ve Avrupa Parlamentosu (AP) seçimlerini ne yönde etkilemiş olabileceği konusu tartışmalar sürüyor.
Kâr amacı gütmeyen AI Forensics kuruluşu, AP seçimleri ve Fransa'daki genel seçimlerin ilk turu için yürütülen kampanyalar sırasında, ülkedeki 31 siyasi partinin sosyal medya sayfalarını inceleyerek, 1 Mayıs'tan 28 Haziran'a kadar üretilen içeriklerdeki yapay zeka içeriğini belirlemeye çalıştı.
Ekip, bu görsellerin yapay zeka tarafından oluşturulduğunu doğrulamak için arama motorlarını kullandı.
Araştırma sonucunda partiler tarafından kullanılan içeriklerde 51 yapay zeka görüntüsü tespit edildi. Araştırmada en çok yapay zeka kullanan partiler arasında aşırı sağcı Ulusal Birlik (RN), Yeniden Fetih (Reconquête) ve Vatanseverler (Les Patriotes) bulunuyor.
AI Forensics'te araştırmacı olan Salvatore Romano, Euronews Next'e yaptığı açıklamada, "Bu seçim sürecinde yapay zekanın kullanılması yeni bir durum ancak gelecekte daha yaygın bir şekilde kullanılacağından eminiz," dedi.
Romano, "Eğer bu kadar küçük bir ölçekte bile yönetemezsek, teknoloji gerçek içerikten ayırt edilemez hale geldiğinde bu daha da zor olacak," diye de ekledi.
Fransa'da geçtiğimiz Pazar günü yapılan genel seçimlerin ilk turunda aşırı sağcı RN, oyların yüzde 33'ünü alarak birinci parti olurken, Haziran ayındaki AP seçimlerinde ise oyların yüzde 31,5'ini almayı başarmıştı.
Yapay zeka içeriği nerede yayınlandı
AI Forensics’in raporuna göre, Fransız partileri tarafından kullanılan ve yapay zeka tarafından üretilen kampanya görsellerinin çoğu; göç karşıtlığı, Fransa’daki güvenlik hissinin zayıflığı, ifade özgürlüğü kısıtlaması, çöken adalet sistemi gibi alt metinlerle dolu.
AI Forensics araştırmacısı Miazia Schüler, görüntülerin Fransa'nın AB içinde güvenli olmadığı ve toplumun savunmasız kesimlerini hedef aldığını belirterek, korku tacirliği tekniği olarak kullanıldıklarını ifade etti.
Schüler ayrıca, bu görüntülerin yapay zeka tarafından üretildiğinin hiper gerçekçi detaylarıyla genellikle açıkça görülebildiğini ifade etti.
Yeniden Fetih gibi aşırı sağcı bazı partiler, Fransa Cumhurbaşkanı Emmanuel Macron ve Avrupa Komisyonu Başkanı Ursula Von Der Leyen'in görüntülerini üretken yapay zeka kullanarak oluşturdu.
Atlantic Council'in Dijital Adli Araştırma Laboratuvarı (DFRLabs) tarafından yapılan bir araştırmaya göre, AP kampanyası sırasında RN, Macron ve Von Der Leyen'in liderlik pozisyonlarına benzer şekilde meydan okuyan "Onlarsız Avrupa" adlı bir web sitesi oluşturdu.
Rapora göre, hala aktif olan bu web sitesinde en az üç adet yapay zeka tarafından üretilmiş görsel bulunuyor. Bu görsellerde, AB'nin halkları hor görmesi, kitlesel göç ve başörtüsüne karşı dilekçeler ve mesajlar yer alıyor.
'Buzdağının sadece görünen kısmı'
Atlantic Council'de araştırmacı Valentin Chatelet, bu tür yapay zeka tarafından üretilen içeriğin RN'nin hem Avrupa Birliği (AB) hem de Fransa seçimlerindeki başarısı üzerinde olan etkisinin boyutunu belirlemenin "zor" olduğunu söyledi.
Chatelet, "Partinin, (Ulusal Birlik lideri Jordan) Bardella'nın bir konudaki özel duruşu gibi belirli bir fikri iletmek için kullandığı materyalleri olumlu yönde etkilediğini düşünüyorum," ifadelerini kullandı.
"(Yapay zeka tarafından üretilen) görüntüler aynı zamanda insanları şok etmek için de kullanılıyor... ta ki ana akım haline gelene kadar" diye ekledi.
Öte yandan, Ulusal Birlik (RN), Kimlik ve Demokrasi grubu, Vatanseverler ve Reconquete siyasi partilerinden raporlara ilişkin yorum gelmedi.
Ulusal Birlik adayları yapay zeka eğitimi aldı
Fransız yayın kuruluşu BFMTV'ye göre RN adayları, Ocak 2024'ten bu yana ChatGPT'nin nasıl kullanılacağı da dahil olmak üzere yapay zeka eğitimi aldı. Yayın kuruluşunun bildirdiğine göre, eğitim kitapçığında, kampanya afişleri oluşturmak ve tartışmalar için argümanlar bulmak gibi yapay zekanın siyasi adaylara nasıl yardımcı olabileceğine dair örnekler veriliyor.
REKLAMNe AI Forensics'in çalışması ne de Atlantik Konseyi'nin DFRLabs'ı adayların kişisel paylaşımlarını ya da parti taraftarları tarafından oluşturulan içeriği incelemedi.
Romano, sosyal medya platformlarında dolaşımda olan yapay zeka seçim içeriklerine dair çalışmanın sonuçlarının "buzdağının görünen kısmı" olduğunu düşünüyor.
Teknoloji şirketlerinin 'kritik ihmali'
AI Forensics raporu, yapay zeka tarafından üretilen görüntülerin hiçbirinin bu şekilde etiketlenmediğini tespit etti.
Raporda, "Bulgularımız, siyasi partilerin ve platformların her iki tarafında da siyasi kampanyalarında yapay zeka tarafından üretilen görüntüleri etiketleme taahhütlerine uyma konusunda ciddi ihmaller olduğunu ortaya koyuyor ve acil şeffaflık ihtiyacını vurguluyor," denildi.
Google, OpenAI, Meta ve TikTok gibi büyük teknoloji şirketleri geçtiğimiz Şubat ayında AP seçimleri öncesinde platformlarında "aldatıcı yapay zeka seçim içeriğinin nasıl yönetileceğine dair beklentileri belirleyen" açık bir teknoloji anlaşması imzaladı.
REKLAMTeknoloji şirketleri ayrıca, aldatıcı yapay zeka içeriği için "sunabilecekleri riskleri anlamak" adına modellerini gözden geçirme sözü vermişti.
Bazı siyasi partiler bu anlaşmanın kendi versiyonunu Avrupa Komisyonu ile imzalayarak, "yapay zeka kullanımı da dahil olmak üzere halkın kasıtlı olarak aldatılmasını önlemeye kararlı olduklarını" belirtti.
RN'nin de üyesi olduğu AP'nin Kimlik ve Demokrasi grubu (ID) bu davranış kurallarını imzalarken, diğer Fransız ulusal partileri ise imzalamadı.
Romano, AI Forensics'in raporunu Avrupa Komisyonu'na göndereceğini ve bu davranış kurallarını ihlal eden partilere karşı bir tür yaptırım uygulanacağını umduğunu söyledi.