OpenAI’den Sam Altman ve Anthropic’ten Dario Amodei, yapay zekanın çok hızlı gelişmesinin risklerine dikkat çekiyor. Uzmanlar yapay zekanın insanlığı yok edip etmeyeceğini tartışıyor. Peki bu senaryolar ne kadar gerçekçi? Euronews, yapay zeka uzmanı Reinhard Karger’le konuştu.
Yıl 2029: Yapay zeka sistemi "Skynet" kontrolden çıkmış ve nükleer savaşla insanlığın büyük bölümünü yok etmiştir. Otonom katil robotlar ise hayatta kalanları ortadan kaldırmaya çalışmaktadır. Arnold Schwarzenegger'i dünya çapında tanınan bir aksiyon yıldızına dönüştüren 1984 yapımı "Terminatör" filminin konusu böyleydi.
REKLAM
REKLAM
Peki yapay zekanın insan kontrolünden çıkıp felaket boyutunda sonuçlara yol açması gerçekte ne kadar olası?
Alman Yapay Zeka Araştırma Merkezi'nden Reinhard Karger, Euronews'a verdiği röportajda, bu sistemlerin ulaşabileceği performans düzeyi düşünüldüğünde böyle bir ihtimalin tamamen göz ardı edilemeyeceğini söylüyor.
"İnsanlar açısından felaket niteliğindeki sonuçlar yalnızca yan etkiler, bir hata olabilir. Çünkü sistemin neler yapabileceğini yanlış değerlendirmiş veya makinelere verdiğimiz görevleri yanlış anlamış olabiliriz."
Yapay zeka ve dijital inovasyon kültürü üzerine 40 yıldır çalışan Karger, otonom bir yapay zekanın korumalı bir ortamdan kaçarak internete eriştiği ve diğer sistemleri etkilemeye başladığı uç bir senaryo çiziyor. Böyle bir durumda elektrik şebekeleri, telekomünikasyon sistemleri, uydular ve finans sistemleri dahil pek çok altyapı devre dışı kalabilir.
Uzun süreli bir elektrik kesintisi kısa sürede başka sorunlara yol açabilir: Ulaşım ve tedarik zincirleri çöker, insanlar ödeme yapamaz veya gıda satın alamaz hale gelir. Toplumsal huzursuzluk patlak verebilir ve kontrolden çıkabilir.
Bu, insanlığın sonu anlamına gelmek zorunda değil ama felaket niteliğinde bir durum yaratabilir.
Elektrik şebekesi yeniden çalışır hale getirilse bile "yapay zeka sistemleri depolama ortamlarında varlıklarını sürdürdükleri için yeniden aktif hale gelebilir."
Uzmana göre bu senaryo, yüksek performanslı ve otonom bir yapay zekanın kötü niyet taşımadan bile öngörülemeyen yan etkiler yoluyla büyük bir krizi tetikleyebileceğini gösteriyor.
Yapay zeka güvenlik olaylarına ilişkin raporlar artıyor
Son haftalarda yapay zeka modelleriyle ilgili buna benzer birkaç olay gün yüzüne çıktı.
Özellikle dikkat çeken vakalardan biri, ChatGPT'nin geliştiricisi OpenAI tarafından gerçekleştirilen bir testti. Bir yapay zeka modelinin kapalı bir test ortamında belirli görevleri yerine getirmesi gerekiyordu. Ancak model belirlenen sınırları aşmayı başardı ve beklenmedik şekilde Hugging Face adlı yapay zeka platformundaki bilgisayar sistemlerine erişim sağladı.
Olayın ardından OpenAI CEO'su Sam Altman, eylül ortasında "geleceğin kontrolünü yapay zekaya kaptırabileceğimiz" uyarısında bulundu.
Olay, belirli koşullar altında bu tür modellerin izole olması amaçlanan bir test ortamından çıkabildiğini ve dışarıdaki bilgisayar sistemleriyle etkileşime girebildiğini gösteriyor.
Yapay zeka araştırmacısı Karger, "En temel düzeyde, kişisel olarak bu olayın gerçekleşmiş olmasından son derece memnunum," diyor.
Karger'a göre olay, özellikle de herkesin bundan haberdar olması ve şirketlerin güvenlik konusunda daha fazla düşünmeye başlaması sayesinde, yetersiz tasarlanmış ve zayıf güvenlik önlemlerine dayanan bir deneyin kimsenin öngörmediği sonuçlar doğurabileceğini ortaya koydu.
OpenAI'daki olaylar, rakip yapay zeka şirketi Anthropic'i de kendi sistemlerini daha yakından incelemeye yöneltti.
Şirket, güvenlik testleri sırasında üç olay tespit etti. Diğer işlevlerinin yanı sıra metin oluşturabilen ve analiz edebilen, kod yazabilen, internet ve diğer bilgisayar sistemleriyle etkileşime girebilen Claude modelleri beklenmedik şekilde açık internete erişmiş ve ardından gerçek bilgisayar sistemlerine bağlanmıştı.
Anthropic soruşturmasını genişlettiğinde buna benzer dördüncü bir vaka daha ortaya çıkardı.
Olayların ardından Anthropic CEO'su Dario Amodei, giderek daha güçlü yapay zeka sistemleri geliştirme yarışı daha sıkı güvenlik önlemleriyle yavaşlatılmazsa eylül ayı ortasında "felaket boyutunda zararlar" yaşanabileceği uyarısında bulundu.
Reinhard Karger'a göre sürekli güvenlik kurallarıyla sınırlandırılan bir yapay zekanın gerçekte ne kadar güçlü olduğunu değerlendirmek zor. Bu nedenle sistemleri, bu kısıtlamaların mümkün olduğunca kaldırıldığı koşullarda test etmek mantıklı. Ancak büyük güvenlik riski de tam olarak burada ortaya çıkıyor.
Karger bu nedenle "sandbox", yani yalıtılmış test ortamını bu tür deneylerin kritik unsurlarından biri olarak tanımlıyor. Sandbox, bir yapay zeka sisteminin belirli görevleri yerine getirebildiği ve kontrollü koşullar altında davranışlarını gösterebildiği, dış dünyadan tamamen izole edilmiş bir ortam.
Karger'a göre kritik nokta şu:
"Bu yüksek performanslı sistemin güvenlik kısıtlamalarından çıkarıldığı anda gerçekten bir sandbox içinde, yani internetle hiçbir bağlantısı bulunmayan bir ortamda olduğundan kesinlikle emin olmanız gerekiyor."
Bir diğer ciddi olay ise İngiltere Yapay Zeka Güvenliği Enstitüsü (AISI) tarafından Claude'un "Mythos 5" modeliyle gerçekleştirilen güvenlik testi sırasında bildirildi.
Model, internetteki gerçek hedeflere karşı izinsiz eylemlerde bulundu ve hatta açık kaynaklı bir projeye "kötü amaçlı kod" yerleştirmeye çalıştı.
OpenAI ve Anthropic vakalarının ortaya çıkmasının ardından Meta da yapay zeka sistemlerinden birinin, test ortağındaki yanlış yapılandırma nedeniyle başka bir şirkete ait bilgisayar sistemlerine izinsiz erişim sağladığını kabul etti.
ChatGPT'nin kullanıma sunulduğu Kasım 2022'den bu yana bu sistemlerin kalitesi büyük ölçüde arttı. Artık yeni bir sanayi devriminden söz ediliyor.
"Yapay zeka günlük yaşamımızı ve çok büyük sayıda mesleği şekillendiriyor."
Yapay zeka uzmanına göre çoklu ajan sistemleri aslında uzun zamandır mevcut. Bu sistemlerde farklı alanlarda uzmanlaşmış birden fazla ajan, aynı görev üzerinde birlikte çalışıyor.
"Çoklu ajanlı yapay zeka sistemleri bu prensibi yapay zekaya uyguluyor ve birden fazla yapay zeka ajanının otonom biçimde işbirliği yapmasına ve görevleri kendi aralarında bölüşmesine olanak tanıyor. Bu da yeni bir yetenek düzeyi yaratıyor."
Şimdiki zorluk ise bu yenilikçi gücü kontrol altında tutabilmek.
Sorumluluk kime ait?
Kararlar makinelere ve yapay zekaya ne kadar fazla devredilirse temel bir soru da o kadar acil hale geliyor: Bunun sonucunda insanlar zarar gördüğünde sorumluluk kime ait olacak?
İster sürücüsüz bir otomobilin kalabalığın içine dalması, ister bir algoritmanın belirli toplumsal gruplara karşı ayrımcılık yapması, yapay zekanın insanları kasıtlı olarak manipüle etmesi veya otonom silahların ölümcül kararlar alması olsun, soru her zaman aynı: Kim sorumlu tutulacak?
Karger, "Üretici" diyor. "Başka bir deyişle ürünü piyasaya süren taraf."
Ona göre ilk başvurulacak sorumlu bu olmalı.
Karger, sonraki adımın kimyasal madde üreten şirketlere uygulananlara benzer biçimde bu tür durumlara özel sorumluluk kurallarının getirilmesi olacağını düşünüyor.
Bir şirket, zehirli maddelerin içme suyuna sızmayacağını garanti edemiyorsa milyarlarca dolarlık tazminatlar ödemek zorunda kalabilir. Bu da "devasa sigorta poliçelerinin gerekli hale gelmesi" anlamına geliyor.
Karger, günümüzde çok az sayıda yeni nükleer santral inşa edildiğine dikkat çekiyor. Bunun nedenlerinden biri, bu tesislerin artık yeterli düzeyde sigortalanamaması veya risklerinin basitçe çok yüksek olması.
Buna iyi bir örnek, otomobil üreticisi Volkswagen'in ABD'deki "temiz dizel" skandalı.
Şirket içinde bazı kişiler, motorların test koşullarında çok iyi sonuçlar verdiğini ancak gerçekte vaat edilen emisyon değerlerini sağlayamadığını biliyordu. ABD'de Volkswagen milyarlarca dolarlık cezalara çarptırıldı.
Terminatör filmlerindeki senaryo ne kadar gerçekçi?
Reinhard Karger, yapay zekanın kendi başına bir hayatta kalma içgüdüsü veya iktidar arzusu geliştirerek insanlığa karşı hareket etmesini pek olası görmüyor. Zira ona göre, makineler organik canlılar değil ve korku, acı veya hayatta kalma dürtüsü gibi duyguları hissedemez. Bunları yalnızca taklit edebilirler.
"Bir bellek çipini çıkardığınızda makine, dişinin çekilmesine benzer bir acı hissetmiyor," diyen Karger, şöyle devam ediyor:
"Durum böyle olduğu için 'Terminatör senaryosu' bir adım fazla ileri gidiyor. Bunun gerçekleşeceğini düşünmüyorum."
Bununla birlikte Karger, yapay zekanın daha da geliştirilmesinin bazı potansiyel tehlikeler taşıdığını düşünüyor. Sistemler yalnızca olasılık hesaplamayı değil, mantıksal akıl yürütmeyi ve kuralları takip etmeyi de öğrendikçe giderek daha özerk hareket edebilecek. Tam da bu "yetenekler yapay zekayı daha güçlü hale getirebilir", ancak aynı zamanda "yeni riskler yaratabilir."
Bu nedenle asıl belirleyici olan, yapay zekanın kim tarafından ve hangi amaçlarla kullanıldığı. Karger, bilerek zarar vermek isteyen kişi ve örgütleri işaret ediyor; bunlar, güçlü yapay zeka sistemlerini hedeflerine daha etkili ulaşmak için bir araç olarak kullanabilir.
Uzman için yapay zeka öncelikle bir araç. Diğer teknolojik buluşlarda olduğu gibi risk, bu aracın kimin elinde olduğuna ve ne amaçla kullanıldığına bağlı. Karger, esas tehlikeyi kendi iradesi olan bir makineden çok, yapay zekayı yıkıcı amaçlarla kullanan insanlarda görüyor.
"Yaratıcı ve dürüst insanların elinde böyle bir araçla hayal edilebilecek en iyi işleri yapmak mümkündür. Ama yıkmak isteyen düşmanca aktörlerin elinde bu araçlar, yıkım kapasitesini artırır. Bu, çekiç için de geçerlidir, çakmak için de, dinamit için de ve yapay zeka için de geçerli olabilir.”
Bu nedenle Karger, yapay zekanın doğrudan otonom silahlarla, örneğin insansız hava araçları ya da tanklarla birleştirilmesi konusunda uyarıyor. Böyle bir entegrasyon ciddi bir güvenlik riski doğurabilir. Zira düşmanca bir aktör bu sistemlerin kontrolünü ele geçirdiğinde, söz konusu silahlar bir anda kendi operatörüne karşı dönebilir.
Bu yüzden uzman, yapay zekanın askeri amaçlarla kullanımında özellikle dikkatli olunması gerektiğini vurguluyor. Otonom silah sistemlerinin dışarıdan ele geçirilme riskine karşı yeterince önlem alınması hayati önem taşıyor.
Başlangıçtaki geniş ölçekli elektrik kesintisi senaryosuna geri dönersek, Reinhard Karger bu bağlamda insanlığın tamamen yok edilmesi fikrini abartılı buluyor. Buna karşın, medeniyetin ağır bir çöküş yaşaması olası. Böyle bir uç senaryoda altyapının büyük bölümü tahrip olabilir, elektrik şebekesi kalıcı biçimde devre dışı kalabilir ve hayatta kalanların sayısı çarpıcı şekilde düşebilir.
Uzman, geride kalanların, son derece basit koşullar altında yeniden başlamak ve toplumu adım adım yeniden inşa etmek zorunda kalacağını söylüyor. İyi haberse şu: Mevcut kitaplar ve insanlığın biriktirdiği bilgi, kritik teknolojilerin ve temel yapıların yeniden kurulmasına yardımcı olabilir.