Son Dakika

Son Dakika

Avrupa Konseyi: Yapay zekada 'ayrımcılık' riski var

Avrupa Konseyi: Yapay zekada 'ayrımcılık' riski var
@ Copyright :
REUTERS/Darrin Zammit Lupi
Metin boyutu Aa Aa

Avrupa Konseyi, insan ve toplum hayatında hızla yaygınlaşan yapay zeka kullanımının risklerine dikkat çeken bir rapor yayımladı. Raporda, yapay zekanın yol açabileceği “ayrımcılık” riskine özellikle dikkat çekiliyor.

Hollanda'daki Nijmegen Radboud Üniversitesi Bilgisayar ve Bilgi Bilimleri Bölümü'nde Hukuk Profesörü olan Frederik Zuiderveen Borgesius tarafından Avrupa Konseyi Ayrımcılıkla Mücadele Birimi için hazırlanan 51 sayfalık rapor “Ayrımcılık, yapay zeka ve algoritmik karar verme” adını taşıyor.

Tüm yapay zeka türlerinin yol açabileceği endişelere ışık tutan rapor, “Yapay zeka; verimlilik, sağlık ve ekonomik büyüme gibi önemli amaçlara ulaşmada ilerleme sağlıyor ancak aynı zamanda yapay zekanın ayrımcılık yapan etkileri de olabilir.” tespitinde bulunuyor.

Yapay zekanın kamu ve özel sektördeki kurumlar tarafından insanları büyük ölçüde etkileyen kararların alınmasında kullanılabileceğini belirten rapor örnek olarak işsizlik, ev yardımı, emekli maaşı ödemesi gibi önemli karar verme süreçlerini buna örnek gösterdi. Rapor yine iş başvuruları ve banka kredi başvurularının değerlendirilmesinde de yapay zekanın artan rolüne dikkat çekiyor.

Araştırmayı yapan Prof. Borgesius, yapay zeka kaynaklı insanlar arasında her türlü ayrımcılığın risklerini azaltmakta en uygun araçların ayrımcılıkla mücadele ve kişisel verileri koruma kanunlarının olduğunu bildirdi. Borgesius “Etkili kullanıldığında bu araçlar yasa dışı ayrımcılıkla mücadeleye yardım edebilir.” dedi.

İnsan ırkına karşı ayrımcılık ortaya çıkabilir

Rapora göre karar verme süreçlerinde yapay zekanın kullanımının yol açabileceği riskler arasında insan ırkı ve yeni yapay sınıfların ortaya çıkması önemli yer tutuyor. Prof. Borgesius “Muhtemelen yapay zeka alanında insan haklarını ve adil olmayı korumak için ilave düzenlemelere ihtiyacımız var.” yorumunda bulundu.

5 farklı alanda ayrımcılık riski var

Rapora göre algoritmik karar verme sürecinde 5 ana risk bulunuyor. Bunların başında; “hedef değişken” ve “sınıf etiketi”nin nasıl tanımlandığı, eğitim verilerinin etiketlenmesi ve eğitim verilerin toplanması gibi sorunlar yer alıyor.

Türkçe çevirilerde cinsiyet sorunu var

Rapor, çevirilerde yapay zekanın kullanılmasının bazı dillerde cinsiyeti ortadan kaldırdığına ve yanlış tercümelere yol açtığını da gösteriyor. Buna örnek olarak ise Türkçe veriliyor. İngilizcede “he” erkekler için “o” anlamına gelirken, kadınlarda “o” için “she” kullanılıyor. “She” ve “he” Türkçe’ye tercüme edildiği zaman cinsiyet ortadan kalkarken aynı cümleler Türkçe’den İngilizceye çevrildiğinde ise erkek ve kadın yanlış kullanılıyor.

Toplumsal hayatta önemli tehditler barındırıyor

University College London Kıdemli Araştırmacısı ve Data for Policy (Politika için Veri) Direktörü Dr. Zeynep Engin Euronews’e yaptığı açıklamada olası riskler konusunda şunları söyledi: “Özellikle kişiler için büyük önem taşıyan kararlarda - iş başvuruları, kredi başvuruları, cezai yargılama ve karar süreçleri gibi - giderek artan yoğunlukta risk değerlendirme sistemlerinin kullanımı toplumsal eşitliği sağlama konusunda önemli tehditler barındırıyor”. Dr. Engin bu tehditleri şu örnekle açıklıyor: “Polisin bu tür sistemleri kullanarak müdahale edeceği bölgeleri belirlemesi önleyici tedbirler almak açısından önemli ve etkili olsa da aynı zamanda sosyoekonomik olarak halihazırda dezavantajlı olan bölgelerin daha fazla polis denetimine tabi tutulması ve bunun sonucunda tutuklanma ve cezalandırma oranının da daha yüksek olmasına da sebep olabiliyor. Bu verilerin tekrar sisteme girmesi ile de problem büyüyerek tekrarlanıyor.”

Şu aşamada film önerisi veya kişisel iletişim ağlarına yeni insanlar ekleme gibi görece riski düşük alanlarda önemli sorun görünmemesine rağmen Dr. Engin “Ancak örneğin kariyer planlaması yapan genç kadın ve erkekleri farklı kaynaklara ve seçeneklere yönlendirmenin uzun vadede önemli eşitsizliklerin doğmasına sebep olacağını öngörmek zor değil.” dedi.

WhatsApp'ta ücretsiz bültenimize abone olun, Türkiye ve dünya gündeminden seçtiğimiz haberler her gün telefonunuza gelsin! Abone olmak için tıklayın