Anthropic tarafından geliştirilen bir yapay zekâ modeli, ABD’nin sınıflandırılmış sistemlerindeki güvenlik açıklarını haftalar yerine saatler içinde ortaya çıkardı.
Yapay zekâ (AI) şirketi Anthropic tarafından geliştirilen bir modelin, test çalışmaları sırasında ABD hükümetine ait son derece hassas bilgisayar sistemlerindeki güvenlik açıklarını ortaya çıkardığı bildirildi.
REKLAM
REKLAM
Associated Press’e konuşan ve isminin açıklanmasını istemeyen bir ABD’li yetkili, Anthropic’in istihbarat kurumlarıyla iş birliği yaparak şirketin Mythos adlı yapay zekâ modelini test ettiğini söyledi.
Yetkiliye göre model, bazı güvenlik açıklarını saatler içinde tespit etti. Ancak bu durum, söz konusu açıkların aynı süre içinde istismar edildiği anlamına gelmiyor.
Testler, Anthropic’in Project Glasswing adlı girişimi kapsamında yürütüldü. Teknoloji şirketlerini bir araya getiren proje, Mythos’un kamu güvenliği, ulusal güvenlik ve ekonomi üzerinde yaratabileceği “ciddi” risklere karşı kritik yazılımların korunmasını amaçlıyor.
Virginia Senatörü Mark Warner, 11 Haziran’da Senato Bankacılık, Konut ve Kentsel İşler Komitesi’nde düzenlenen oturumda testlere kısaca değinmişti.
Warner, açıklamasında, “Bu araç, gizli sistemlerimizin neredeyse tamamına haftalar içinde değil, saatler içinde girdi,” ifadelerini kullandı.
Senatör, bu bilginin National Security Agency (NSA) ve United States Cyber Command Başkanı General Joshua Rudd tarafından kendilerine aktarıldığını belirtti.
Artan gerilim
Anthropic ile ABD kurumları arasındaki iş birliğine rağmen, Kaliforniya merkezli şirket ile Trump yönetimi arasındaki gerilim tırmanıyor.
Anthropic, yapay zekâsının ABD ordusu tarafından nasıl kullanılacağına ilişkin kaygılarını dile getirirken, yönetim de bazı modellerinin kullanımını kısıtlama yoluna gitti.
Ayın başında yönetim, Anthropic'in Fable 5 ve Mythos 5 olarak bilinen en yeni modellerini yabancı uyruklu kişilerin kullanmasını engellemesini şart koşan bir talimat yayımladı.
Anthropic, bu ay Fable'ı geniş ölçekte kullanıma sundu. Bu model, şirketin siber güvenlik kaygıları nedeniyle erişimini sıkı biçimde kısıtladığı daha gelişmiş Mythos'un sınırlı bir sürümü.
Talimat, Başkan Donald Trump'ın, federal hükümete en gelişmiş yapay zekâ sistemlerinin kamuya açıklanmasından önce bir aya kadar ulusal güvenlik risklerini inceleme imkânı veren bir çerçeve oluşturan başkanlık kararnamesini imzalamasından 10 gün sonra geldi.
Kararnamede, yapay zekâ geliştiricilerinin bu sürece katılımının gönüllü olacağı belirtildi.
Anthropic, talimata uymak için söz konusu modelleri tüm müşteriler için devre dışı bıraktığını, ancak hükümetin attığı adımların, kendisinin dile getirdiği güvenlik endişesini haklı çıkaracak nitelikte olduğuna inanmadığını açıkladı.
Sektörden tepki
Aralarında Adobe ve Nvidia'nın da bulunduğu şirketlerden yöneticiler ile 100'den fazla siber güvenlik uzmanı, hükümete bir mektup yazarak talimatın kaldırılması çağrısında bulundu. Bu adımın, zarar vermekten çok ABD'nin hasımlarına fayda sağlayabileceği uyarısında bulundu.
Mektupta imzacılar, Anthropic'in Mythos modellerinin yazılım hatalarını bulma ve açıkları saldırı aracı hâline getirme konusunda 'oldukça iyi' olduğunu, ancak 'bu görevlerde benzersiz biçimde iyi' olmadığını belirtti.
Birçoğu, güvenlik denetimleri ve eğitimler için düzenli olarak başka temel ve açık kaynak modeller kullandıklarını, ABD'nin hasımlarının hızla ilerlediği bir dönemde, 'geçerli bir neden olmadan' en iyi siber savunma yeteneklerinin devre dışı bırakılmasının tehlikeli olduğu uyarısında bulundu.