“Artık anket yanıtlarının gerçek kişiler tarafından verildiğine güvenemiyoruz,” dedi Dartmouth Üniversitesi’nden yeni bir araştırmanın baş yazarı.
Yapay zekâ (YZ), yeni bir araştırmaya göre çevrimiçi kamuoyu anketlerinde insan yanıtlarını botlardan ayırt etmeyi neredeyse imkânsız hâle getiriyor.
Pazartesi günü Proceedings of the National Academy of Sciences (PNAS) dergisinde yayımlanan Dartmouth Üniversitesi çalışması, büyük dil modellerinin (LLM'lerin) kamuoyu anketlerini büyük ölçekte bozabileceğini ortaya koyuyor.
“İnsan kişiliklerini taklit edebilir, mevcut tespit yöntemlerini atlatabilir ve çevrimiçi anket sonuçlarını sistematik olarak saptıracak şekilde son derece kolay biçimde programlanabilirler,” deniliyor çalışmada.
Bulgular, “veri altyapımızda kritik bir zafiyet” bulunduğunu ve “denetimsiz çevrimiçi araştırma için potansiyel bir varoluşsal tehdit” oluşturduğunu ortaya koyuyor, dedi çalışmanın yazarı Sean Westwood; Westwood, Dartmouth Üniversitesi'nde siyaset bilimi alanında doçent.
Anketlere YZ müdahalesi, kritik seçimleri daha da karmaşık hâle getirebilir. Zaten Avrupa seçimlerinde, çevrimiçi izleme grupları tarafından YZ ile beslenen dezenformasyon kampanyaları işaret ediliyor, son dönemde Moldova'da görülenler dahil.
Sistemi kandırmak
Çevrimiçi anket yazılımlarının zafiyetini test etmek için Westwood, 500 kelimelik bir yönergeyle çalışan basit bir YZ aracı olan “özerk sentetik katılımcı”yı tasarlayıp geliştirdi.
Her anket için araç, rastgele atanan bilgilere – yaş, cinsiyet, ırk, eğitim, gelir ve ikamet ettiği eyalet dahil – dayalı bir demografik kişilik benimsiyordu.
Bu kişilikle, gerçekçi okuma sürelerini simüle ediyor, insanlara özgü fare hareketleri üretiyor ve açık uçlu yanıtları tek tek tuş vurarak yazıyordu; üstelik inandırıcı yazım hataları ve düzeltmeler de yapıyordu.
43 binden fazla testte, araç sistemlerin yüzde 99,8'ini insan olduğuna inandırdı. Mantık sorularında hiç hata yapmadı ve reCAPTCHA gibi otomatik yanıtları tespit etmek için tasarlanan geleneksel önlemleri aştı.
“Bunlar ilkel botlar değil,” dedi Westwood. “Her soruyu düşünerek yanıtlıyor ve gerçek, dikkatli insanlar gibi davranıyor; veriyi bütünüyle meşru gösteriyor”.
Anket sonuçlarına hâlâ güvenebilir miyiz?
Çalışma, pratik siyasi anketlerin kırılganlığını inceledi ve örnek olarak 2024 ABD başkanlık seçimini ele aldı.
Westwood, kampanyanın kritik son haftasında, en üst düzey yedi ulusal ankette öngörülen sonucu tersine çevirmek için yalnızca 10 ila 52 sahte YZ yanıtının yeterli olacağını buldu.
Bu otomatik katılımcıların her birini devreye almak 5 ABD senti (4 avro senti) kadar ucuza mal oluyordu.
Testlerde botlar, Rusça, Mandarin ya da Korece programlandıklarında bile kusursuz İngilizce yanıtlar üretti. Çalışma, bunun yabancı aktörler tarafından kolayca istismar edilebileceği anlamına geldiği ve bunların bir kısmının tespiti atlatmak için daha da sofistike araçlar tasarlayacak kaynaklara sahip olduğu uyarısında bulunuyor.
Bilimsel araştırmalar da anket verilerine büyük ölçüde dayanıyor; her yıl çevrimiçi veri toplama platformlarından elde edilen verilere dayanan binlerce hakemli çalışma yayımlanıyor.
“Anket verileri botlarla kirlenirse YZ tüm bilgi ekosistemini zehirleyebilir,” dedi Westwood.
Çalışması, bilim camiasının, gelişmiş YZ araçlarınca manipüle edilemeyecek yeni veri toplama yöntemlerini acilen geliştirmesi gerektiğini savunuyor.
“Gerçek insan katılımını doğrulayacak teknoloji mevcut; bunu hayata geçirmek için sadece iradeye ihtiyacımız var,” dedi Westwood.
“Şimdi harekete geçersek, hem anketlerin bütünlüğünü hem de sağladıkları demokratik hesap verebilirliği koruyabiliriz”.