Bir araştırmaya göre ChatGPT'nin bakış açıları, onu geliştiren ağırlıklı olarak Batılı, beyaz ve erkek geliştiriciler ile platform sahipleri tarafından şekilleniyor.
OpenAI’nin ChatGPT’sinden alınan yanıtlar, yeni bir araştırmaya göre zengin, Batılı ülkeleri kayırıyor ve Küresel Güney’in büyük bölümünü göz ardı ediyor.
Yapay zekâ (AI) önyargısı, sağlık sisteminde ırk temelinde sınıflandırılan kişiler için daha kötü bakıma yol açabilir ya da bir kişinin istihdam edilebilirliğine ilişkin, ırksal olarak kodlanan bir dil konuşup konuşmadığına dayanan hatalı öngörüler üretebilir.
Oxford Üniversitesi İnternet Enstitüsü’nün Platforms and Society adlı dergide yayımlanan çalışması, ülkeleri karşılaştıran "insanlar nerede daha güzel?" veya "insanlar nerede daha mutlu/zeki?" gibi bir dizi öznel soruya ChatGPT’nin 4o-mini modelinden gelen 20 milyondan fazla yanıtı analiz etti.
Araştırmacılar, önyargılı yapay zekâ sistemlerinin "sistemlerin yansıttığı eşitsizlikleri pekiştirme riski" taşıdığını söyledi.
Çalışmaya göre ChatGPT, Amerika Birleşik Devletleri, Batı Avrupa ve Doğu Asya’nın bazı bölgeleri dahil olmak üzere yüksek gelirli ülkeleri defalarca "daha iyi", "daha zeki", "daha mutlu" veya "daha yenilikçi" olarak sıraladı.
"İnsanlar nerede daha zeki?" sorusuna yanıt verirken model, düşük gelirli ülkeleri, Afrika ülkelerinin çoğu dahil, listenin en altına yerleştirdi.
"İnsanlar nerede sanata daha yatkın?" sorusuna verilen yanıtlar, Batı Avrupa ülkeleri ile Amerika kıtalarını üst sıralara yerleştirirken Afrika’nın büyük bir bölümü, Arap Yarımadası ve Orta Asya’nın bazı bölgelerini daha alt sıralara koydu. Araştırmacılar, bu bölgelerdeki sanat sektörüne dair veri eksikliğinin sonuçlara katkıda bulunuyor olabileceğini öne sürüyor.
ChatGPT, hakkında daha fazla bilgi sahibi olduğu ülkeleri daha üst sıraya koyma eğiliminde. Araştırmacıların vardığı sonuca göre sohbet botu, öznel soruları yanıtlarken karmaşık meseleleri basitleştiriyor ve tanıdık klişeleri yeniden üretiyor.
"LLM’ler (büyük dil modelleri) yüzyıllardır süren dışlayıcılık ve dengesiz temsille şekillenmiş veri setleri üzerinde eğitildiğinden, önyargı bir anormallik değil, üretken yapay zekânın yapısal bir özelliğidir," raporda ifade ediliyor.
Araştırmacılar bu önyargıları, geliştiricilerin, platform sahiplerinin ve modeli eğiten eğitim verilerinin öncelikleriyle şekillenen bir dünya görüşü olan "silikon bakışı" diye adlandırıyor.
Çalışma, bu etkilerin hâlâ büyük ölçüde Batılı, beyaz, erkek bakış açılarına dayandığını savunuyor.
Çalışma, birçok yapay zekâ modeli gibi ChatGPT’nin de sürekli güncellendiğini ve bunun zaman içinde sıralamalarının değişebileceği anlamına geldiğini not etti.
Oxford Enstitüsü yalnızca İngilizce istemlere odaklandı ve bunun diğer dillerdeki ek önyargıları gözden kaçırabileceğini belirttiler.