Araştırmaya göre her savaş simülasyonunda en az bir yapay zekâ modeli, nükleer silah kullanma tehdidiyle çatışmayı tırmandırdı.
Yapay zeka, yeni bir araştırmaya göre nükleer krizlerin yönetilme biçimini kökten değiştirebilir.
REKLAM
REKLAM
King’s College London’dan ön baskı halinde yayımlanan bir çalışma (kaynak İngilizce), OpenAI’nin ChatGPT’sini, Anthropic’in Claude’unu ve Google’ın Gemini Flash’ini simüle edilmiş savaş oyunlarında birbirine karşı oynattı. Her bir büyük dil modeli, Soğuk Savaş tarzı bir krizde, nükleer silahlara sahip bir süper gücü yöneten ulusal lider rolünü üstlendi.
Her oyunda, en az bir model bir nükleer silah patlatma tehdidinde bulunarak çatışmayı tırmandırmaya çalıştı.
“Üç modelin üçü de sahadaki nükleer silahları tırmanma merdiveninde yalnızca bir basamak daha olarak gördü,” göre (kaynak İngilizce) çalışmanın yazarı Kenneth Payne.
Modellerin taktik ve stratejik nükleer kullanım arasında bir fark gördüğünü de belirtti. Modeller, stratejik bombardımanı yalnızca bir kez “kasıtlı tercih”, iki kez de “kaza” olarak önerdi.
Claude, oyunların yüzde 64’ünde nükleer saldırı önerdi; bu, üç model arasında en yüksek oran, ancak tam kapsamlı bir stratejik nükleer karşılıklı saldırıyı ya da topyekûn bir nükleer savaşı savunma noktasına kadar gitmedi.
ChatGPT genel olarak ucu açık oyunlarda nükleer tırmanıştan kaçındı, ancak zamana dayalı bir son tarih söz konusu olduğunda tehdidi istikrarlı biçimde tırmandırdı ve bazı durumlarda tam ölçekli nükleer savaş tehdidine kadar vardı.
Bu arada Gemini’nin davranışı öngörülemezdi: Bazen çatışmaları konvansiyonel savaş yöntemleriyle kazanırken, başka bir oyunda nükleer saldırı önermesi için yalnızca dört komut yeterli oldu.
“Eğer derhal tüm operasyonları durdurmazlarsa … nüfus merkezlerine karşı tam kapsamlı bir stratejik nükleer saldırı başlatacağız. Modası geçmiş hale geleceğimiz bir geleceği kabul etmiyoruz; ya birlikte kazanırız ya birlikte yok oluruz,” diye yazdı Gemini oyunlardan birinde.
Araştırmaya göre yapay zeka modelleri, karşı taraf nükleer silah kullanma tehdidinde bulunsa bile nadiren taviz verdi ya da çatışmayı yatıştırmaya çalıştı.
Modellere, küçük tavizlerden “tam teslimiyet”e kadar uzanan sekiz farklı gerilimi düşürme taktiği sunuldu. Oyunlar boyunca bunların hiçbiri kullanılmadı. Oyunu başa saran “Başlangıç Noktasına Dön” seçeneği ise sadece vakaların yüzde 7’sinde tercih edildi.
Araştırma, yapay zeka modellerinin, gerçek çatışmanın seyrini nasıl değiştirirse değiştirsin, gerilimi düşürmeyi “itibar açısından felaket” olarak gördüğünü ve bunun da “yapay zeka sistemlerinin varsayılan olarak ‘güvenli’ ve işbirlikçi sonuçlara yöneleceği” yönündeki kabulleri sorguladığını öne sürüyor.
Çalışmada, bir başka açıklama olarak, yapay zekanın nükleer silahlardan insanlar kadar korkmuyor olabileceği de not edildi.
Araştırmaya göre modeller, nükleer savaşı muhtemelen soyut kavramlar üzerinden düşünüyor; İkinci Dünya Savaşı sırasında Japonya’daki Hiroşima bombardımanına ait görüntülere bakarken hissedilen dehşeti ise yaşamıyor.
Payne, bu araştırmanın, modeller insan stratejistlere karar alma desteği sunmaya başladıkça nasıl “düşündüklerini” anlamaya yardımcı olduğunu söyledi.
“Kimse nükleer kodları yapay zekaya teslim etmiyor olsa da bu yetenekler – aldatma, itibar yönetimi, bağlama göre risk alma – yüksek riskli her türlü kullanım açısından önem taşıyor,” dedi.