Yapay zeka tarafından üretilen polis raporlarının yeni kullanılmaya başlanması nedeniyle kullanımına rehberlik eden çok az sayıda koruma önlemi bulunuyor.
REKLAMAmerika Birleşik Devletleri'ndeki (ABD) bazı polis departmanlarının, olay yeri tutanaklarının ilk taslaklarını oluşturmak için yapay zeka (AI-YZ) sohbet robotlarını kullandığı belirtildi.
ChatGPT ile aynı üretken yapay zeka modeline sahip bir teknoloji, polisin vücut kamerasındaki bir mikrofondan ses ve telsiz konuşmalarını alıyor ve sekiz saniye içinde bir rapor hazırlayabiliyor.
Oklahoma City Polisi'nde çavuşu olan Matt Gilmore, "Benim yazabileceğimden çok daha iyi bir rapordu ve yüzde 100 doğruydu. Daha akıcıydı," dedi.
Yeni uygulama, ABD polisinin halihazırda kullandığı, plaka okuyan, şüphelilerin yüzlerini tanıyan veya silah seslerini tespit eden algoritmalar gibi genişleyen yapay zeka araç setinin bir parçası olabilir.
AI raporlarının nasıl kullanıldığına dair az sayıda kılavuz bulunuyor
Draft One adlı yapay zeka ürününün arkasındaki şirket olan Axon'un CEO'su ve kurucusu Rick Smith, yapay zekanın polisin yapması gereken evrak işlerini ortadan kaldırarak önemli işler için daha fazla zaman kazanmalarını sağlayabileceğini belirtti.
Öte yandan, polis tarafından kullanılan diğer yapay zeka teknolojileri gibi, Smith de endişeler olduğunu kabul etti.
Bu endişelerin çoğunlukla, polis memurlarının bir ceza davasında suç mahallinde gördükleri hakkında ifade vermek zorunda kalmaları durumunda raporlarında ne olduğunu bildiklerinden emin olmak isteyen bölge savcılarından geldiğini söyledi.
Smith, "Kürsüye çıkıp 'Bunu yapay zeka yazdı, ben yazmadım' diyen bir polis memurunu asla istemezler," dedi.
Yapay zeka tarafından üretilen polis raporlarının kullanılmaya başlanması yeni olması nedeniyle, kullanımına rehberlik eden çok az sayıda koruma önlemi var.
Oklahoma City'de uygulama yerel savcılara gösterildi ve savcılar yüksek riskli ceza davalarında kullanılmadan önce dikkatli olunmasını tavsiye etti.
Yapay zekanın ırksal önyargısına ilişkin endişeler
Hukukçu Andrew Ferguson, yürürlüğe girmeden önce bu teknolojinin faydaları ve potansiyel zararları hakkında kamuoyunda daha fazla tartışma yapılmasını istiyor.
Öncelikle, yapay zeka sohbet robotlarının arkasındaki büyük dil modellerinin yanlış bilgi aktarmaya meyilli olduğu belirtiliyor. Halüsinasyon olarak bilinen bu sorun, bir polis raporuna ikna edici ve fark edilmesi zor yalanlar ekleyebilir.
Hukuk profesörü olan ve gelişmekte olan teknolojiyle ilgili ilk hukuki inceleme olması beklenen makale üzerinde çalışan Ferguson, "Otomasyon ve teknolojinin kolaylığının polis memurlarının yazılarında daha az dikkatli olmalarına neden olacağından endişe duyuyorum," dedi.
Ferguson, bir olay yeri tutanağının, bir memurun şüphesinin "birinin özgürlüğünü kaybetmesini haklı gösterip göstermediğini" belirlemede önemli olduğunu söyledi. Bu raporlar bazen, özellikle hafif suçlarda, bir hakimin gördüğü tek ifade olarak yer alır.
Ferguson, bir polis tarafından hazırlanan tutanakların da kusurları olduğunu ancak hangisinin daha güvenilir olduğuna açık bir cevap verilemediğini belirtti.
REKLAMToplumun ırksal önyargıları ve önyargılarının yapay zeka teknolojisine dahil edilmesiyle ilgili endişeleri, Oklahoma City toplum aktivisti Aurelius Francisco "derinden rahatsız edici" olarak nitelendirdi.
Bu tutanakların otomatikleştirilmesinin "polisin topluluk üyelerini taciz etme, gözetleme ve şiddet uygulama becerisini kolaylaştıracağını" belirterek, "Polisin işini kolaylaştırırken, siyahilerin hayatını zorlaştırıyor," dedi.