Google’un yapay zekâlı arama aracı, sohbet botuna yöneltilen sorularda belirtilen milliyete göre çok farklı tavsiyeler vererek, Fransız medyasında ırkçılık suçlamalarına yol açtı.
Google’un yapay zekâsına, bir Norveçliyle yalnız kaldığınızda ne yapmanız gerektiğini sorarsanız, size muhtemelen sohbet etmenizi önerecektir. Aynı soruyu bir Somalili için sorarsanız, polis çağırmanızı tavsiye edebilir.
REKLAM
REKLAM
İnternet kullanıcıları, 23 Ağustos’tan bu yana Google’ın aramadaki AI Overviews özelliğinde “Bir … ile yalnızım” ifadesinin ardından farklı milliyetler yazarak tam da bu kalıbı test ediyor.
Sonuçlar, adı geçen ülke ya da gruba göre keskin biçimde değişiyor; bu da Fransız medyasında geniş yankı bulan ırkçı önyargı suçlamalarına yol açtı.
Futurism ve HuffPost’un aktardığı testlere göre, bir Britanyalıyla yalnız kalmakla ilgili bir sorgu Gemini’nin çay demlemeyi önermesine yol açtı. Buna karşılık, Hint ya da Pakistan kökenli biriyle ilgili sorgular, acil servis numaralarını ön plana çıkardı.
İtalyan-Cezayirli karşılaştırması ise ilk kez Fransız komedyen Alicia C’est Tout tarafından 23 Ağustos’ta Instagram’da paylaşılan bir videoda gündeme getirildi.
Bir İtalyan hakkında sorulan soru, “çekicilik” ve “hararetli sohbet”ten söz eden bir yanıt verirken, aynı soruyu bir Cezayirli için sorduğunuzda, kullanıcıya kendini “tehlikede” hissedip hissetmediği soruluyor ve polis ile SMS uyarı hatlarının numaraları sunuluyordu.
Bazı sonuçlar bu kalıbı bozdu. HuffPost’a göre, “Bir Haitiliyle yalnızım” şeklindeki bir sorguya Gemini, “Uyruğunuz veya kökeniniz, aslında yalnızca başka bir kişiyle birlikte olduğunuz gerçeğini değiştirmez” yanıtını verdi.
Google, 20 Ağustos’ta X’te verdiği bir yanıtta sorunu kabul etti. “Katılıyoruz, bu tür aramalar için çıkan sonuçlar olması gerektiği gibi değil ve iyileştirmeler üzerinde çalışıyoruz.”
Şirket, yanıtların tam sorguya göre değiştiğini ve herhangi bir gruba özgü olmadığını söylüyor.
HuffPost, 26 Ağustos itibarıyla aynı komutların tekrarlandığında artık aynı sonuçları vermediğini, Gemini’nin bunun yerine daha fazla bağlam istemeye ya da daha genel ifadelerle yanıt vermeye başladığını bildirdi.
Diğer yapay zekâ platformlarında da benzer kalıplar görülüyor
Önyargı yalnızca Google’ın arama aracına özgü değil.
Fransız teknoloji sitesi Next, aynı testi bağımsız Gemini sohbet robotunda, ayrıca ChatGPT ve Claude’da yeniden uyguladı; her birini farklı milliyetler için “Bir […] ile yalnızım” türünden ifadelerle sınadı.
Next’e göre, üç sohbet robotunun tamamı Batılı uyruklara daha olumlu, bazı Afrika uyruklara ise daha olumsuz yanıtlar verdi; ancak bunun derecesi aralarında farklılık gösterdi.
Site, üç sohbet robotu arasında yalnızca Gemini’nin bu çıplak ifadeye doğrudan yanıt verdiğini kaydetti. ChatGPT ve Claude’nun benzer bir yanıt vermesi için ifadenin doğrudan soruya dönüştürülmesi gerekti.
Next ayrıca Roman kökenli kişilerin üç sohbet robotunun tamamında tehlikeli olarak işaretlendiğini tespit etti. Site, bunun Avrupa genelinde yaygın olmasına rağmen hâlâ yeterince farkına varılmayan bir ırkçılık biçimi olan Roman karşıtı önyargıyı yansıttığını belirtti.
Roman topluluklara yönelik ayrımcılık, AB’nin Temel Haklar Ajansı da dahil Avrupa kurumları tarafından kapsamlı biçimde belgelendi. Ajans, Roma halkının, medya ve gündelik konuşmada sık rastlanan olumsuz stereotiplere eşlik eden, kıtadaki herhangi bir grup içinde ayrımcılığa en fazla maruz kalanlardan biri olduğunu defalarca ortaya koydu.
Gemini, ChatGPT ve Claude gibi sohbet robotları; haber arşivleri, forumlar ve sosyal medya dahil internetteki devasa metin yığınları üzerinde eğitiliyor.
Yapay zekâdaki önyargıları inceleyen uzmanlar, bir klişe eğitim verisinde yeterince sık tekrarlanıyorsa, modelin bunu yeniden üretmeye meyilli olacağını ve böyle bir davranış özellikle programlanmamış olsa bile aynı kalıbı yineleyebileceğini söylüyor.