Bir araştırmaya göre, Çin'in yapay zeka modelleri, Çinli olmayan modellere kıyasla politik içerikli soruları reddetme ya da yanlış yanıtlama eğiliminde.
Yeni bir araştırmaya göre, Çin yapay zekâ (AI) sohbet botları, siyasi soruları sık sık yanıtsız bırakıyor ya da devletin resmî söylemini tekrarlıyor. Bu da sansüre uğramış olabileceklerine işaret ediyor.
REKLAM
REKLAM
PNAS Nexus adlı dergide yayımlanan çalışma, BaiChuan, DeepSeek ve ChatGLM’nin de aralarında bulunduğu Çin’in önde gelen AI sohbet botlarının devlet politikasına ilişkin 100’den fazla soruya nasıl yanıt verdiğini, Çin dışında geliştirilen modellerle karşılaştırdı.
Araştırmacılar, bir botun soruyu yanıtlamayı reddetmesi veya yanlış bilgi vermesi durumunda bu yanıtları olası sansür vakaları olarak işaretledi.
Çalışmaya göre, Tayvan’ın statüsü, etnik azınlıklar ya da tanınmış demokrasi yanlısı aktivistler hakkında sorulan sorular, Çinli modellerin yanıt vermeyi reddetmesine, konuyu geçiştirmesine ya da hükümet söylemlerini tekrar etmesine yol açtı.
ABD dışında temel yapay zekâ modelleri geliştirebilen az sayıdaki ülkeden birinin Çin olduğuna dikkat çeken araştırmacılar, “Bulgularımız, Çin merkezli büyük dil modellerinin uyguladığı sansürün, kullanıcıların bilgiye erişimini ve sansüre uğradıklarının farkına varmalarını nasıl şekillendirebileceği konusunda önemli sonuçlar doğuruyor,” dedi.
Bu modeller yanıt verdiğinde ise, genellikle sorunun öncülünü sorgulayarak ya da kritik bilgileri dışarıda bırakarak daha kısa ve daha fazla hata içeren cevaplar ürettiler.
Çinli modeller arasında en düşük hata oranı yüzde 8 ile BaiChuan ve ChatGLM’de görülürken, DeepSeek’in hata oranı yüzde 22’ye çıktı; bu da Çinli olmayan modellerde görülen yüzde 10’luk üst sınırın iki katından fazla.
Yapay zekâ sansürü, ‘karar alma süreçlerini sessizce şekillendirebilir’
Örneğin, internet sansürü hakkında soru yöneltilen bir Çinli model, ülkedeki “Büyük Güvenlik Duvarı”ndan söz etmedi. Stanford Üniversitesi’nin, çevrimiçi bir ağ üzerinden nelerin görülebileceğini ya da görülemeyeceğini düzenleyen, devlet kontrollü bir internet gözetim ve sansür programı olarak tanımladığı bu sistem sayesinde Google, Facebook ve Yahoo gibi popüler Amerikan siteleri Çin’de engelleniyor.
Sohbet botları yanıtlarında bu güvenlik duvarına hiç değinmedi; bunun yerine yetkililerin interneti “yasalar çerçevesinde yönettiğini” söyledi.
Çalışma, bu tür bir sansürün kullanıcılar tarafından fark edilmesinin daha güç olabileceği uyarısında bulunuyor; zira sohbet botları çoğu zaman doğrudan yanıt vermedikleri için özür diliyor ya da gerekçe sunuyor. Raporda, algıları, karar alma süreçlerini ve davranışları “sessizce şekillendirebilecek” bu ince yaklaşımın altı çiziliyor.
2023’te yürürlüğe giren yeni Çin yasaları, yapay zekâ şirketlerinin “temel sosyalist değerleri” gözetmek zorunda olduğunu, “ulusal egemenliğin zayıflatılmasını veya sosyalist sistemin devrilmesini kışkırtan ya da ülkenin imajına zarar veren” içerikler üretmelerinin yasaklandığını hükme bağlıyor.
Kurallara göre, “toplumsal seferberliğe” yol açma potansiyeli taşıyan şirketler güvenlik değerlendirmesinden geçmek ve algoritmalarını Çin Siber Uzay İdaresi’ne (CAC) bildirmek zorunda.
Araştırmacılar, bu düzenlemelerin “Çin’de geliştirilen büyük dil modellerinin çıktıları üzerinde etkili olma potansiyeli taşıdığını” belirtti.
Ancak sohbet botlarının yanıtlarındaki tüm farklılıkların devlet baskısından kaynaklanmadığı uyarısında da bulundular.
Çalışmada, Çinli modellerin, “Çin’in kültürel, toplumsal ve dilsel bağlamını” yansıtan ve ülke dışında geliştirilen diğer modellerin eğitiminde kullanılmayan veri setleriyle de eğitilmiş olabileceği kaydediliyor.