Anthropic CEO'su Dario Amodei'ye göre, yapay zekaya yönelik düzenlenmeler hayata geçirilmezse teknolojiyi kullanarak halkı bastıran otokratik rejimlere zemin hazırlanabilir.
Anthropic CEO’su Dario Amodei, insanlığın yapay zeka (AI) kullanımını düzenlemesi gerektiğini, aksi takdirde bu teknolojinin halkları bastırmak için kullanan otokratik hükümetlerin kurulmasına yol açabileceğini belirtti.
REKLAM
REKLAM
Yayınladığı kapsamlı makalede Amodei, dünyanın yapay zeka gelişiminde "tür olarak kim olduğumuzu" test eden bir aşamaya girdiğine dair uyarılarda bulundu. Amodei’ye göre insanlık, yapay zekanın hukuk sistemlerinden, düzenleyici çerçevelerden ve toplumun uyum sağlama hızından daha hızlı ilerlediği bir "teknolojik ergenlik" çağına giriyor.
CEO, sadece 2 yıl içinde yapay zekanın biyoloji, programlama, matematik, mühendislik ve yazarlık gibi ilgili çoğu alanda "bir Nobel Ödülü sahibinden daha zeki" hale gelebileceğini savunuyor. Amodei, bu sistemler birlikte çalıştığında ortaya çıkan tabloyu, yazılım tasarımı, siber operasyonlar ve hatta ilişki kurma gibi alanlarda bir insandan en az 10 kat daha hızlı çalışan "bir veri merkezindeki dahiler ülkesine" benzetiyor.
Üstün zeka, özerklik ve teknolojiyi kontrol etmenin zorluğu birleştiğinde, bunun hem "akla yatkın" hem de "varoluşsal bir tehlike reçetesi" olduğunu vurgulayan Amodei, "İnsanlığın uyanması gerekiyor; bu makale insanları sarsıp uyandırmak için yapılmış belki de nafile ama denemeye değer bir girişim," dedi.
Totaliter rejimlerin 'kalıcı özgürlük hırsızlığı'
Amodei, felaketin kaçınılmaz olduğunu söylemese de yapay zekayı ciddi bir "medeniyet sınavı" olarak nitelendiriyor. En büyük tehlikenin, otokratların yapay zeka destekli tavsiyeleri kullanarak vatandaşların özgürlüğünü "kalıcı olarak çalmaları" ve kaçışı olmayan totaliter devletler kurmaları olduğunu belirtiyor.
Amodei, "Milyonlarca insanın milyarlarca konuşmasını tarayan güçlü bir yapay zeka; kamuoyu nabzını ölçebilir, filizlenen sadakatsizlik odaklarını tespit edebilir ve bunlar büyümeden onları yok edebilir," ifadelerini kullandı.
Amodei, yapay zekanın gözetleme amaçlı geniş çaplı kullanımının bir "insanlık suçu" sayılması gerektiğini ekliyor. Ayrıca, yapay zeka kapasitesi, otokratik yönetimi ve mevcut yüksek teknolojili gözetleme altyapısı nedeniyle Çin hükümetini "birincil endişe kaynağı" olarak tanımlıyor.
En büyük engel: Mikroçipler
Güçlü yapay zekaya karşı en etkili mücadelenin, modelleri eğitmek için kullanılan gelişmiş bilgisayar çiplerinin satışını kontrol etmek olduğunu savunan Amodei, şu ifadeleri kullandı: "Çipler ve çip üretim araçları, güçlü yapay zekanın önündeki en büyük dar boğazdır. Bunları engellemek basit ama son derece etkili bir yöntemdir, belki de alabileceğimiz en önemli tek önlemdir."
Amodei, demokrasilerin bu teknolojileri otoriter devletlere, özellikle de AI yarışında ABD’nin başlıca rakibi olarak görülen Çin’e, satmaması gerektiğini de sözlerine ekledi.
“Çipler ve çip üretim araçları, güçlü AI'ya giden yolda tek başına en büyük engel. Bunları engellemek basit ama son derece etkili bir önlem, belki de atabileceğimiz en önemli tek adım."
İhracat kontrollerinin ötesinde, Amodei sektör genelinde koordinasyon ve toplumsal denetim çağrısı yaptı. AI şirketlerini modellerinin davranışlarını nasıl yönlendirdiklerini açıklamaya zorlayan şeffaflık yasaları istedi.
Örnek olarak, Kaliforniya’da Sınır Yapay Zekada Şeffaflık Yasası (TFAIA) olarak bilinen SB-53’ü gösteriyor.
Kaliforniya Valisi Gavin Newsom’a göre, yasa AI şirketlerini, ulusal ve uluslararası en iyi uygulamalar ile standartları AI modellerine nasıl dahil ettiklerini anlatan çerçeveleri web sitelerinde yayımlamaya zorluyor.
Ancak Amodei, AI'nın geleceği konusunda da iyimser: “Kararlı ve dikkatli davranırsak risklerin aşılabileceğine inanıyorum. Hatta şansımızın yüksek olduğunu bile söyleyebilirim. Ötesinde çok daha iyi bir dünya var. Ama bunun ciddi bir medeniyet ölçeğinde meydan okuma olduğunu kavramamız gerekiyor."