BM uzmanları uyardı: Yapay zekâyı denetleme fırsatı kaçtı, eşitsizlik artabilir

Birleşmiş Milletler'in yeni bir raporuna göre, yapay zekânın gelişimi küresel eşitsizliği daha da derinleştirebilir ve bunu gidermek için küresel yönetişimin önündeki fırsat penceresi hızla kapanıyor.

REKLAM

REKLAM

Bulgular, bu hafta yayımlanan ön raporu hazırlayan BM Bağımsız Uluslararası Yapay Zekâ Bilim Paneli'nden geliyor; Genel Kurul tarafından 2025'te kurulan bu yapı, dünyanın dört bir yanından 40 uzmandan oluşuyor.

BM Genel Sekreteri António Guterres, çarşamba günü düzenlediği basın toplantısında şunları söyledi: 'Yapay zekâ ortak kurallar olmadan ilerledikçe, hükümetlerin ve halkların sonuç üzerinde söz sahibi olma imkânı azalıyor.'

'Hükümetlere mesajımız net: beklemeyin... Bilim artık burada. Artık ne yaptığımızı bilmediğimizi iddia edemeyiz.'

Raporda hangi bulgulara yer verildi?

Raporda, sektörün olağanüstü bir hızla ilerlediği ve üretken yapay zekânın artık yazılım yazabildiği, dev veri setlerini analiz edebildiği, gerçeğe çok yakın görüntü ve videolar üretebildiği ve bilimsel keşiflere yardımcı olduğu belirtildi.

Yapay zekâ ajanlarının minimum insan müdahalesiyle karmaşık görevleri tamamlayabildiği ajan tabanlı yapay zekânın bunu daha da ileriye taşıdığı vurgulandı.

Panele göre, bu sistemlerin üstesinden gelebildiği görevlerin zorluk seviyesi birkaç ayda bir kabaca ikiye katlanıyor. Yapay zekâ daha özerk hale geldikçe, panel daha güçlü koruma önlemleri olmadan izlenmesinin ve kontrol edilmesinin giderek zorlaşacağı uyarısında bulunuyor.

Raporda, cinsel istismar içeren materyaller ile açık saçık derin sahte içerikler üretmek için yapay zekâ kullanılmasının da aralarında olduğu artan risklere dikkat çekildi; bu tür saldırılardan orantısız biçimde kadınların ve çocukların etkilendiği belirtildi.

Ayrıca yapay zekânın dezenformasyonu daha ikna edici ve tespit edilmesi zor hale getirdiği, bunun da kamuoyunun güvenini ve demokratik tartışma ortamını aşındırdığı ifade edildi.

Siber güvenlik de risk altında; suçlular dolandırıcılık ve sosyal mühendislik için yapay zekâdan yararlanırken, teknoloji kırılgan kullanıcıları zararlı düşüncelere sürükleyerek intihar da dahil olmak üzere ruh sağlığı krizlerine katkıda bulunabiliyor.

Raporda, yapay zekâyı çalıştıran veri merkezlerinin sera gazı emisyonlarının giderek büyüyen bir kaynağı haline geldiği de kaydedildi.

Yapay zekânın sunduğu faydalar

Ancak rapor sadece karanlık bir tablo çizmedi. Belirtilen bazı olumlu gelişmeler arasında, 200 milyondan fazla proteinin yapısını haritalayan yapay zekâ modelleri sayesinde ilaç keşfi, aşı araştırmaları ve antibiyotik direnciyle ilgili çalışmaların hızlanması yer alıyor.

Teknolojinin, gıda güvencesizliğini tam ölçekli bir krize dönüşmeden önce tespit etmeye yardımcı olduğu; eğitime, ruh sağlığı desteğine ve engelli bireyler için araçlara erişimi genişlettiği de vurgulandı.

Dengesiz bir rekabet zemini

Yapay zekâ aynı zamanda dünyaya eşit biçimde yayılmıyor. Rapora göre, dünyanın önde gelen yapay zekâ süper bilgisayarlarının arkasındaki hesaplama kapasitesinin yaklaşık dörtte üçü ABD'nin kontrolünde; Çin'in payı ise yaklaşık yüzde 15.

Bu da söz konusu kapasitenin yaklaşık yüzde 90'ının iki ülke arasında paylaşıldığı anlamına geliyor; en gelişmiş yapay zekâ modelleri yine bu iki ülkede merkezî olan şirketler tarafından geliştiriliyor.

Oysa gelişmekte olan ülkeler, kullandıkları yapay zekâ sistemlerini geliştirmek ya da denetlemek için gerekli yetenek havuzundan, altyapıdan ve finansmandan yoksun.

Panel, bu uçurumun kapatılması için çaba gösterilmezse yapay zekânın küresel eşitsizliği daha da artırma riski taşıdığı uyarısında bulundu.

Düzenleme çabalarındaki zorluklar

Yapay zekâyı düzenlemeye gelindiğinde, rapor bir 'kanıt ikilemi'nden söz ediyor: Yasama organları etkili kurallar yazmadan önce sağlam verilere ihtiyaç duyarken, yapay zekâ çoğu zaman bu veriler derlenmeden önce bile onların ötesine geçmiş oluyor.

Dünya genelinde artık 40'tan fazla yapay zekâ yönetişim çerçevesi bulunuyor; ancak panel bunları dağınık, tutarsız ve işe yarayıp yaramadıkları bakımından nadiren sınanmış olarak niteliyor.

Gerçekleştirilen güvenlik testlerinin önemli bir kısmı hâlâ teknolojiyi geliştiren aynı şirketler tarafından yürütülüyor; bu da sürecin bağımsızlığına ilişkin soru işaretleri doğuruyor.

Panel, daha güçlü üçüncü taraf denetimleri, daha fazla uluslararası koordinasyon ve ortak standartlar çağrısında bulunuyor; ayrıca ülkelerin yapay zekâyı kendi koşullarına göre yönetebilmeleri için gerekli uzmanlığı ve altyapıyı kurmalarına imkân verecek yatırımların artırılmasını istiyor.

Panelin bulguları, 6 Temmuz 2026'da Cenevre'de başlayacak BM Yapay Zekâ Yönetişimi Küresel Diyaloğu'na girdi sağlayacak; burada üye devletler teknolojiyi yönetmeye yönelik eşgüdümlü uluslararası yaklaşımları tartışacak.