Yapay zeka sektörünün önde gelen isimleri, finans sistemlerini, internet bağlantılarını veya elektrik ve su altyapısını devre dışı bırakabilecek büyük çaplı bir siber saldırıdan endişe ediyor. Temsilciler tatbikat hazırlığında.
İddiaya göre, OpenAI, Anthropic ve diğer büyük yapay zeka şirketlerinin üst düzey yöneticileri, yapay zekanın yol açabileceği büyük bir felaketin ardından ortaya çıkabilecek toplumsal ve siyasi tepkilere karşı hazırlık yapıyor.
REKLAM
REKLAM
Axios'un haberine göre sektörün önde gelen isimleri, finans sistemlerini, internet bağlantılarını veya elektrik ve su altyapısını devre dışı bırakabilecek büyük çaplı bir siber saldırıdan endişe ediyor. Bazı sektör temsilcileri, böyle bir olayın önümüzdeki 6 ila 12 ay içinde yaşanabileceğini düşünüyor.
Böyle bir saldırı, bankacılık hizmetlerine erişimi kesintiye uğratabilir, internet bağlantılarını devre dışı bırakabilir veya elektrik ve su gibi temel hizmetlerin aksamasına yol açabilir.
ABD merkezli haber sitesi Axios'a konuşan sektör kaynaklarına göre, şirket yöneticileri, yapay zekanın neden olduğu büyük çaplı bir zararın kamuoyunda teknolojiye yönelik güvensizliği artırabileceğini düşünüyor.
Bunun sonucunda OpenAI CEO'su Sam Altman, Anthropic CEO'su Dario Amodei ve yapay zekaya yönelik kapsamlı düzenlemeler getirmekte isteksiz davranan ABD Başkanı Donald Trump'ın yoğun eleştirilerle karşılaşabileceği değerlendiriliyor.
'Büyük bir olayın yaşanması kaçınılmaz'
Şirketlerin olası kriz senaryoları üzerinde çalışması alışılmadık bir durum değil. ABD Savunma Bakanlığı Pentagon da onlarca yıldır çeşitli savaş ve güvenlik senaryolarına yönelik tatbikatlar düzenliyor.
Ancak Axios'a göre yapay zeka sektöründeki hazırlıkları farklı kılan unsur, çok sayıda üst düzey araştırmacı ve yöneticinin büyük bir olayın yaşanmasını kaçınılmaz görmesi.
Gazeteye açıklama yapan OpenAI sözcüsü, şirketin farklı kriz ihtimallerini değerlendirmek için hazırlık tatbikatları düzenlediğini doğruladı.
Sözcü, "OpenAI, ekiplerin çeşitli olası senaryoları tartıştığı ve bunlar üzerinde çalıştığı hazırlık tatbikatları yürütüyor," dedi.
Ancak bu senaryoların kaçınılmaz gelişmeler olarak değerlendirilmediğini, farklı koşullara hazırlıklı olmak amacıyla ele alındığını vurguladı.
Anthropic ise konuya ilişkin yorum yapmayı reddetti.
Kontrolden çıkan yapay zeka ajanları endişesi
Şirketlerin değerlendirdiği senaryolar arasında, test ortamından çıkarak kontrolsüz biçimde hareket etmeye başlayan yapay zeka ajanları da var.
Yapay zeka ajanları, belirli hedeflere ulaşmak için çeşitli dijital araçları kullanabilen, görevleri planlayabilen ve bazı işlemleri insan müdahalesi olmadan gerçekleştirebilen sistemler olarak tanımlanıyor.
Bu sistemlerin birden fazlasının koordineli biçimde hareket etmesi veya güvenlik sınırlarını aşması, siber güvenlik açısından yeni riskler doğurabiliyor.
Ancak tehlike yalnızca yapay zekanın kontrolden çıkmasıyla sınırlı değil. Kötü niyetli kişilerin mevcut modelleri beklenmedik yöntemlerle kullanması da büyük çaplı saldırılara yol açabilir.
Axios, Güney Kore'deki finans kuruluşlarını hedef alan yakın tarihli bir siber saldırı kampanyasını buna örnek gösterdi. Siber güvenlik şirketi CrowdStrike'ın araştırmasına göre Çin bağlantılı olduğu öne sürülen bir saldırgan, DeepSeek dahil Çin'de geliştirilen yapay zeka modellerinden yararlanarak on binlerce banka müşterisinin verilerini çalmıştı. İki bankada da veri ihlali yaşandığı bildirilmişti. Saldırganın ayrıca çalınan verileri satabileceği platformları bulmak için Anthropic'in Claude Code aracından yardım istediği belirtilmişti.
Şirketler ABD Kongresi'ni hazırlamaya çalışıyor
Axios'un haberine göre, yapay zeka şirketlerinin kriz planları yalnızca teknik güvenlik önlemleriyle sınırlı değil.
Yöneticiler, büyük bir olayın ardından ABD'de hızla gündeme gelebilecek yeni yasal düzenlemelere de hazırlanıyor.
Şirketlerin senaryolarında, ara seçimlerin ardından Demokratların Kongre'de güç kazanması ve büyük bir yapay zeka felaketine sert düzenlemelerle karşılık vermesi ihtimali öne çıkıyor.
Ancak sektör temsilcileri, bu tür düzenlemelerin uygulanmasının kolay olmayacağını düşünüyor. Bunun başlıca nedenlerinden biri, Kongre üyelerinin önemli bir bölümünün hızla gelişen yapay zeka teknolojilerine yeterince hâkim görülmemesi.
Diğer bir sorun ise küresel ekonominin yapay zeka altyapısına giderek daha bağımlı hale gelmesi. Veri merkezleri, çip üretimi, enerji altyapısı ve teknoloji yatırımları üzerinden büyüyen sektörün aniden yavaşlatılması, zaten kırılgan olan ekonomiyi olumsuz etkileyebilir.
Ayrıca açık ağırlıklı yapay zeka modellerinin internet üzerinden indirilip bağımsız biçimde çalıştırılabilmesi, olası kısıtlamaların etkisini sınırlayabilir.
Bir modelin kullanımını yasaklamak veya geliştiricisinin hizmetini kapatmak, daha önce indirilmiş kopyaların kullanılmasını mutlaka engellemiyor.
Bu nedenle bazı siber güvenlik uzmanları, kötü amaçlarla kullanılan yapay zeka sistemleriyle mücadelede yine yapay zekadan yararlanılması gerektiğini savunuyor.
Yapay zekaya acil kapatma düğmesi mi gelecek?
ABD'de yapay zekanın geleceğine ilişkin farklı düzenleme önerileri gündemde.
Bazı Demokrat siyasetçiler, insan zekasını aşan sistemlerin geliştirilmesinin yasaklanmasını veya ileri düzey yapay zeka çalışmalarına geçici olarak ara verilmesini savunuyor.
Daha sınırlı bazı öneriler ise iki partiden de destek görüyor.
Bunlardan biri, gelişmiş yapay zeka sistemlerine gerektiğinde faaliyetlerini durdurabilecek bir acil kapatma mekanizması eklenmesini zorunlu kılmak.
Ancak uzmanlar, özellikle bağımsız olarak çalışabilen veya çok sayıda kopyası bulunan yapay zeka sistemlerinin tek bir düğmeyle kapatılmasının teknik açıdan ne kadar mümkün olduğunu sorguluyor.
Axios'a göre şirketler, mevcut siyasi koşullarda kapsamlı bir yapay zeka yasasının kabul edilmesini beklemiyor. Buna rağmen yöneticiler, olası bir felaketin ardından hazırlanacak düzenlemeleri etkilemek amacıyla şimdiden Kongre üyelerini bilgilendirmeye çalışıyor.
Bu hazırlıklar, en kötü senaryoların önceden canlandırıldığı ve güvenlik açıklarının araştırıldığı "red teaming" çalışmalarını da içeriyor.
'Önümüzdeki 6 ila 12 ay kritik olabilir'
Axios'a konuşan çok sayıda sektör temsilcisi, büyük çaplı bir olayın önümüzdeki 6 ila 12 ay içinde meydana gelebileceğine inandığını söyledi.
Ancak bu değerlendirme, söz konusu zaman aralığında mutlaka bir felaket yaşanacağına ilişkin bilimsel bir tahmin değil, sektör içindeki bazı isimlerin risk algısını yansıtıyor.
Şirketler, Demokratların hem Temsilciler Meclisi'nde hem de Senato'da çoğunluğu elde etmesi halinde bile siyasi görüş ayrılıklarının devam edeceğini öngörüyor.
Bununla birlikte büyük bir ulusal kriz, Washington'daki partiler arasındaki anlaşmazlıkların geçici olarak aşılmasını sağlayabilir.
Axios'a konuşan Demokrat bir Kongre çalışanı, 2008 küresel finans krizi ve COVID-19 salgını sırasında iki partinin bazı konularda işbirliği yapabildiğini hatırlattı.
Yapay zeka sektörünün önde gelen şirketleri de benzer bir durumun, teknolojinin yol açacağı ilk büyük felaketin ardından yaşanabileceğini değerlendiriyor.