Anthropic CEO'su Dario Amodei'ye göre, yapay zekâ düzenlenmezse, teknolojiyi kullanarak halkı bastıran otokratik rejimlere zemin hazırlanabilir.
Dünya, “tür olarak kim olduğumuz”u sınayan bir yapay zekâ (YZ) geliştirme evresine giriyor; Anthropic’in CEO’su kapsamlı bir makalesinde uyarıyor.
Dario Amodei, insanlığın, YZ’nin hukuk sistemleri, düzenleyici çerçeveler ve toplumun ayak uydurma hızından daha hızlı ilerlediği bir “teknolojik ergenlik” çağına girdiğini savunuyor.
Yalnızca iki yıl içinde, biyoloji, programlama, matematik, mühendislik ve yazı gibi ilgili alanların çoğunda YZ’nin “Nobel ödüllü birinden daha zeki” hale gelebileceğini öne sürüyor.
Bu YZ sistemleri birlikte çalıştığında, Amodei onları “veri merkezinde bir dâhiler ülkesi”ne benzetiyor; yazılım tasarımı, siber operasyon ve hatta ilişki kurma gibi alanlarda karmaşık görevleri insandan en az 10 kat hızlı tamamlayabileceklerini söylüyor.
İnsanı aşan zekâ, özerklik ve teknolojiyi kontrol etmenin güçlüğü kombinasyonunun “hem olası hem de varoluşsal tehlikenin formülü” olduğunu yazdı.
“İnsanlığın uyanması gerekiyor; bu makale de insanları sarsıp uyandırmaya yönelik bir girişim (belki nafile, ama denemeye değer),” dedi.
Amodei’nin makalesi, şirketinin geçen hafta Claude sohbet botu için 80 sayfalık bir “anayasa” yayımlamasının ardından geldi; belge, şirketin YZ’sinin güvenli ve etik davranmasına nasıl yardımcı olacağını ortaya koyuyor.
YZ’nin potansiyel tehlikeleri konusunda uyarıda bulunan tek kişi Amodei değil. 30 ülkenin desteklediği 2025 raporu, gelişmiş YZ sistemlerinin yaygın iş kayıpları, terör eylemlerini kolaylaştırma ya da teknoloji üzerindeki kontrolün yitirilmesi gibi son derece yeni riskler doğurabileceğini belirtti.
OpenAI’den Sam Altman ve Apple’ın kurucu ortağı Steve Wozniak da YZ’nin riskleri konusunda uyarılarda bulundu.
YZ ‘medeniyet ölçeğinde bir meydan okuma’
Amodei felaketin kaçınılmaz olduğunu söylemekten kaçınsa da YZ’nin ciddi bir “medeniyet ölçeğinde meydan okuma” olduğunu vurguluyor.
“YZ o kadar güçlü, o kadar cazip bir ödül ki, insan uygarlığının ona herhangi bir kısıtlama getirmesi son derece zor,” diye yazdı.
Amodei, güçlü YZ sistemlerinin hükümetlere, kurumlara veya bireylere jeopolitik, diplomasi ya da askeri planlama konularında danışmanlık vermek için kullanılabileceğini de ekledi.
En büyük tehlike, otokratların YZ’nin ürettiği bu tavsiyeleri kullanarak denetimleri altındaki yurttaşların özgürlüğünü “kalıcı biçimde çalması” ve “kaçışı olmayan bir totaliter düzen dayatması”, diye yazdı.
YZ’nin geniş çaplı biçimde gözetim için kullanılması insanlığa karşı suç kabul edilmeli, diye ekliyor.
Amodei, dünyanın, nüfusunu YZ ile izleyen ve baskılayan otokratik etki alanlarına bölünmesi riskinden söz etti.
“Milyonlarca insanın milyarlarca sohbetini tarayan güçlü bir YZ, kamuoyunun nabzını tutabilir, oluşan sadakatsizlik odaklarını tespit edip büyümeden bastırabilir,” diye okunuyor makalede.
Amodei, YZ alanındaki yetkinliği, otoriter yönetimi ve mevcut yüksek teknolojili gözetim altyapısının birleşimi nedeniyle asıl endişe kaynağı olarak Çin hükümetini işaret ediyor.
Amodei ayrıca, YZ’de rekabetçi olan demokrasilerin, büyük veri merkezlerine sahip demokratik olmayan ülkelerin ve bizzat YZ şirketlerinin, teknolojiyi kötüye kullanabilecek potansiyel aktörler olduğunu söyledi.
Çipler ‘en büyük darboğaz’
YZ modellerini eğitmekte kullanılan gelişmiş bilgisayar çiplerinin satışını kontrol etmek, karşı koymanın en etkili yolu, diye yazdı.
Amodei, demokrasilerin bu teknolojileri otoriter devletlere, özellikle YZ yarışında ABD’nin başlıca rakibi olarak görülen Çin’e, satmaması gerektiğini de ekledi.
“Çipler ve çip üretim araçları, güçlü YZ’ye giden yolda tek başına en büyük darboğaz; bunları engellemek basit ama son derece etkili bir önlem, belki de atabileceğimiz en önemli tek adım,” dedi.
İhracat kontrollerinin ötesinde, Amodei sektör genelinde koordinasyon ve toplumsal denetim çağrısı yaptı. YZ şirketlerini modellerinin davranışlarını nasıl yönlendirdiklerini açıklamaya zorlayan şeffaflık yasaları istedi.
Örnek olarak, Kaliforniya’da Sınır Yapay Zekâda Şeffaflık Yasası (TFAIA) olarak bilinen SB-53’ü gösteriyor.
Kaliforniya Valisi Gavin Newsom’a göre, yasa YZ şirketlerini, ulusal ve uluslararası en iyi uygulamalar ile standartları YZ modellerine nasıl dâhil ettiklerini anlatan çerçeveleri web sitelerinde yayımlamaya zorluyor.
Ancak Amodei, YZ’nin geleceği konusunda da iyimserdi.
“Kararlı ve dikkatli davranırsak risklerin aşılabileceğine inanıyorum; hatta şansımızın iyi olduğunu bile söyleyebilirim. Ötesinde çok daha iyi bir dünya var. Ama bunun ciddi bir medeniyet ölçeğinde meydan okuma olduğunu kavramamız gerekiyor,” dedi.