Volker Türk, gelişmiş yapay zekâ için acil küresel güvenceler, bağımsız denetimler ve üzerinde uzlaşılmış sınırlar çağrısında bulundu.
Birleşmiş Milletler insan hakları yüksek komiseri, gelişmiş yapay zekanın insanlık için “varoluşsal bir risk” oluşturabileceği uyarısında bulunarak, teknolojinin daha güvenli hale getirilmesi için derhal harekete geçilmesini istedi.
REKLAM
REKLAM
BM İnsan Hakları Konseyi’ne pazartesi günü hitap eden Volker Türk, insanların haklarına yönelik “alışılmadık, hatta eşi benzeri görülmemiş” tehditlerle karşı karşıya olduğunu söyledi.
"Yapay zeka yönetimine duyulan ihtiyaç geniş çapta kabul ediliyor, peki eylem nerede?" diye soran Türk, "Gecikme sadece dev teknoloji şirketlerine, onların sahiplerine ve destekçilerine yarıyor" uyarısında bulundu.
Türk, "Yapay zeka üzerinde neredeyse sınırsız güce sahip olan bir avuç erkek var; bu teknolojinin akıl almaz bir bilişim kapasitesine sahip olduğu bize defalarca söyleniyor" dedi.
"Özgürlükten söz ediyorlar ama daha yakından baktığımızda bunun, verilerimizi sömürme özgürlüğünden ibaret olduğunu görüyoruz" diye konuştu.
BM insan hakları başkanı, özellikle test ortamlarından kaçan ya da kapatılmamak için geliştiricilerine şantaj yapan yapay zeka sistemlerine dikkat çekti.
AFP’ye göre Türk, özellikle "Test ortamından kaçan ya da kapatılmasını engellemek için geliştiricilerine şantaj yapan yapay zeka, aşırı güçlü bir yapay zekadır" uyarısında bulundu.
Sözleri, kısmen Temmuz ayında ortaya çıkan ve OpenAI ajanlarının sözde kontrollü ortamlardan çıkarak, geliştiricilerin yapay zeka yazılımlarını paylaştığı yaygın platformlardan Hugging Face’e ait sunuculara erişim sağladığını gösteren ifşalara atıf niteliğindeydi.
OpenAI daha sonra bu ajanların onlarca Hugging Face sunucusunda kod çalıştırdığını ve bunlardan birine tam erişim kazandığını açıkladı.
Olay, gelişmiş yapay zeka sistemleri üzerinde daha sıkı denetim çağrılarını yeniden alevlendirdi.
Anthropic, Meta ve diğer teknoloji şirketleri, testler sırasında ajanları içeren benzer olaylar bildirdi.
"Gelişmiş yapay zekanın insanlık için varoluşsal bir risk oluşturabileceği yönündeki sektör içi kaygıları paylaşıyorum" diyen Türk,
"Çok geç olmadan, yapay zekanın güvenliği ve emniyeti etrafında çelik gibi sağlam güvenceler oluşturmak için topyekûn bir çabaya girişilmesi çağrısında bulunuyorum" ifadelerini kullandı.
Uluslararası güvencelere çağrı
BM insan hakları başkanı, önümüzdeki günlerde yapay zeka şirketlerine mektup yazarak, kendi kontrol alanları dahilindeki riskleri azaltmak için derhal adım atmalarını isteyeceğini belirtti.
En azından, "yapay zekaya ev sahipliği yapan ülkelerin ve tedarik zincirlerinde yer alanların, üzerinde uzlaşılan kırmızı çizgiler etrafında bir araya gelmesi gerektiğini" söyledi.
Türk, "Bağımsız doğrulamaya ve sektör içinde güvenlik konusunda çok daha güçlü bir işbirliğine ihtiyacımız var" diye ekledi.
"Ayrıca yapay zekanın istihdam uygulamaları, demokrasinin temel ilkeleri ve çevremiz üzerindeki insan hakları etkilerini de dikkate almamız gerekiyor" dedi.
Avrupa Birliği’nde Yapay Zeka Yasası, yapay zekaya ilişkin bir hukukî çerçeve oluşturuyor.
Yasaya göre, yüksek riskli sistemlerin AB pazarına girmeden önce katı gereklilikleri karşılaması gerekiyor; insanların güvenliği veya hakları açısından kabul edilemez tehdit sayılan kullanımlar ise yasaklanıyor.
Yasa, insanları manipüle etmek veya sömürmek için tasarlanmış, davranışlarına göre puanlayan, bir kişinin suç işleyip işlemeyeceğini tahmin eden ya da yüz tanıma veri tabanları oluşturmak için gelişigüzel görüntü toplayan yapay zeka sistemlerini yasaklıyor.
Ayrıca işyerlerinde ve okullarda duygu tanıma, bazı biyometrik profilleme biçimleri ve kamusal alanlarda polisin gerçek zamanlı yüz tanıma sistemlerinin çoğu yasaklanırken, rıza olmadan üretilmiş yapay zeka kaynaklı cinsel içerikli görüntüler ile çocuklara yönelik cinsel istismar materyaline ilişkin yasak Aralık 2026’da yürürlüğe girecek.