Avrupa Birliği'nin (AB) 'Yapay Zeka Yasası', birliğin yapay zeka konusunda dünyanın ilk kurallarının ne olacağını belirlemesiyle büyük bir adım atacak ve muhtemelen dünyanın geri kalanı tarafından da evrensel standart olarak kabul edilecek.
REKLAMDünyada tüm gözetleme yetenekleri bir dereceye kadar insan haklarına müdahale eder. Konu yüz tanıma teknolojileri (FRT) olduğunda bu haklar üzerindeki olası olumsuz etkiyi azaltmak için etkili bir düzenleme yapılıp yapılamayacağı şimdi tartışma konusu.
Çünkü Avrupa Birliği'nin (AB) 'Yapay Zeka Yasası', birliğin yapay zeka konusunda dünyanın ilk kurallarının ne olacağını belirlemesiyle büyük bir adım atacak ve muhtemelen dünyanın geri kalanı tarafından da evrensel standart olarak kabul edilecek ancak yasa içindeki öneri FRT'nin tamamen yasaklanması yönünde.
Yüz tanıma teknolojilerine yönelik kapsamlı bir yasağın yakın gelecekte sadece suçlulara fayda sağlayacağı ileri sürülüyor.
Kanun uygulayıcı birimlerin kapasite ve yeteneklerinin çok önemli bir kısmını kaybedeceği düşünülüyor. Suç gruplarının cesaretleneceği ve böylece birçok hayatın riske gireceği endişesi yaşanıyor.
Tutturulması gereken denge
'Kişileri korumaya karşı mahremiyeti korumak' doğru şekilde sağlanması gereken bir denge. Kapsamlı bir yasak kolay ama sorumlu bir seçenek değil.
Avrupalı parlamenterler, ezici bir çoğunlukla, halka açık alanlarda canlı FRT kullanımının yasaklanması ve benzer bir şekilde, yargı kararı alınmadıkça "olaydan sonra" FRT kullanımının yasaklanması lehinde oy kullandı.
Şimdi dikkatler Avrupa Parlamentosu, Avrupa Konseyi ve üye devletler arasındaki hararetli üçlü müzakerelere çevrildi.
FRT, özünde, bir kişinin yüz özelliklerini analiz etmek için AI algoritmaları tarafından desteklenen kameraları kullanıyor. Yetkililerin, kişileri tanımlamak için önceden var olan görüntülerden oluşan bir veri tabanıyla eşleştirmesine olanak tanıyor.
Endişeler verilere mi dayalı?
Gizlilik taraftarlarının kulağa gerçekten endişe verici gelen kaygıları var ancak bu argümanların çoğu bilimsel verilere dayanmıyor. Hatta pek çoğu çürütüldü.
Bu kaygılardan birincisi, teknolojinin beyaz olmayan insanları orantısız bir şekilde dezavantajlı duruma düşürdüğü iddiası.
Bu durum, teknolojinin ilk modelleri için doğru olabilirdi ancak bugün kesinlikle değil. Zİra ABD Ulusal Standartlar ve Teknoloji Enstitüsü (NIST) bazı ürünleri yüzde 99,8'lik bir doğruluk oranıyla tescilledi.
Ayrıca 2020 NIST isimli bir başka rapor da FRT'nin ırksal ve diğer demografik gruplar arasında yaygın olarak bildirilenden çok daha etkili performans sergilediğini ve en doğru teknolojilerin gruplar arasında "tespit edilemeyen" farklılıklar gösterdiğini yazıyor.
FRT'nin etkisiz olduğu da iddia ediliyor fakat Interpol 2016-2021 arasında FRT kullanarak bin 500 teröristi, suçluyu, kaçağı, şüpheliyi ve kayıp kişiyi tespit edebildi. 2021'den bu yana da bu rakamın katlanarak arttığı tahmin ediliyor.
Londra Temyiz Mahkemesi de 2020'de görülen bir davada yüzleri taramanın ve bir eşleşme bulunamazsa verileri anında silmenin insan hakları üzerinde bir etkiye sahip olmadığına hükmetti.
Öte yandan, sıkı düzenlemelere uygun olarak kullanılırsa FRT, sayısız hayatı kurtarma, adaleti tesis etme ve suçluları cezalandırma kapasitesine sahip.
Daha iyi bir yol var mı?
Avrupalı yasa yapıcıların, faydaları kanıtlanmış bir teknolojiden yararlanmanın yollarını düşünmek zorunda kalacağı belli ancak bunun insan haklarına yönelik riskleri azaltacak bir şekilde olması için çaba sarf ediliyor.
Halka yönelik "önemli" bir riskin olduğu ve vatandaşları zarar görmekten korumak için meşru bir temelin olduğu her yerde FRT'nin bir operasyon aracı olarak tutulması gerektiğini düşünen çok kişi var ancak bu risklerin derecesine kim nasıl karar verecek ve buna ilişkin evrensel standartlar nasıl oluşturulacak bu hala soru işareti.
Buna yönelik olarak ortaya atılan öneri kullanım öncesi değil ama sonrasında yapılan uygulamanın daima titiz bir insan hakları değerlendirmesine tabi olması.
REKLAMBağımsız etik ve düzenleyici gözetim, merkezi bir denetim otoritesinin devreye girmesiyle birlikte uygulanırsa bu bir uzlaşı sağlayabilir. Ve önerilen kullanım şartlarının ayrıntılarını ortaya koyan net politikaların da oluşturulması gerektiği belirtiliyor.