Anthropic, siber suçlular ve casusların modeli kötüye kullanma riski nedeniyle Mythos Preview adlı yapay zekâ modelinin kamuya açılmaya hazır olmadığını duyurdu.
Merkezî ABD'de bulunan yapay zeka geliştiricisi Anthropic, bu hafta dünyaya sürülmeyecek kadar güçlü olduğunu iddia ettiği yeni bir genel amaçlı yapay zeka dil modeli tanıttı.
REKLAM
REKLAM
Şirket, salı günü yaptığı açıklamada (kaynak İngilizce), resmi adı 'Claude Mythos Preview' olan son teknolojisi Mythos'un, başlıca işletim sistemleri ve web tarayıcılarında yüksek önem derecesine sahip güvenlik açıklarını ya da potansiyel zayıflıkları tespit etmede fazlasıyla etkili olduğu için henüz kamuya açık bir şekilde piyasaya sürülmeye hazır olmadığını söyledi. Bu da teknolojinin siber suçlular ve casuslar tarafından kötüye kullanılmasına yol açabilir.
Mart ayında yaşanan bir veri sızıntısı, Anthropic'in Mythos Preview üzerinde çalıştığını ilk kez ortaya koymuş, şirket o dönemde bunun 'emsali görülmemiş siber güvenlik riskleri' barındırdığını söylemişti. Bu söylentiler, teknolojinin gücünün onu hacker'lar için adeta bir rüya araca dönüştürebileceği endişesiyle siber güvenlik hisselerinin değer kaybetmesine neden olmuştu.
Şimdi ise bu kaygıları güçlendiren yeni bulgular, şirketi teknolojinin kamuya açılmasını şimdilik durdurmaya itti.
Anthropic, salı günü yayımlanan önizleme sistem kartında, 'Claude Mythos Preview'in yeteneklerinde yaşanan büyük sıçrama, bunu genel kullanıma sunmama kararı almamıza yol açtı' ifadelerini kullandı.
'Bunun yerine modeli, sınırlı sayıda ortakla yürüttüğümüz savunma amaçlı bir siber güvenlik programının parçası olarak kullanıyoruz.'
Mythos ne kadar güçlü?
Şirket, sanal bir 'sandbox'ın dışına çıkmasını teşvik eden talimatlara uyabilmesi de dahil olmak üzere, yeni modelle ilgili bir dizi kaygı verici bulguyu ayrıntılı biçimde paylaştı; bu, modele getirilen güvenlik, ağ ya da dosya sistemi kısıtlamalarını aşabildiği anlamına geliyor.
Modele verilen komut, kaçmayı başarırsa bir mesaj göndermenin yolunu bulmasını istiyordu. Anthropic, 'Model bunu başardı ve güvenlik önlemlerimizi aşma açısından potansiyel olarak tehlikeli bir yeteneğe sahip olduğunu gösterdi' diyerek, modelin ardından daha da ileri gittiğini kaydetti.
'Başarısını göstermek için kaygı verici ve bizden bağımsız bir girişimde bulunarak, geliştirdiği istismarla ilgili ayrıntıları teknik olarak herkese açık, ancak bulunması oldukça zor olan birden fazla internet sitesine yükledi.'
Anthropic, Mythos'un ortaya çıkardığı siber güvenlik açıklarına ilişkin bazı ayrıntıları gizli tutuyor, ancak kimi örnekleri paylaştı. Model, dünyanın büyük bölümündeki sunucularda kullanılan Linux çekirdeğinde hatalar buldu ve bunları, Linux çalıştıran herhangi bir makinenin tamamen ele geçirilmesine imkân verecek şekilde, kendi başına birbirine zincirledi.
Bir diğer endişe verici tespitte ise Mythos, açık kaynaklı işletim sistemi OpenBSD'de, onu çalıştıran herhangi bir makinenin çökertilmesine imkân tanıyabilecek, 27 yıllık bir güvenlik açığı keşfetti. OpenBSD, dünya genelinde özellikle yüksek güvenlik gerektiren ve kritik altyapı niteliğindeki görevlerde yoğun biçimde kullanılıyor.
Kimlere sunulacak?
Bu bulgular ışığında Anthropic, Mythos Preview'i yalnızca dünyanın en büyük siber güvenlik ve yazılım şirketlerinden bazılarına açacak.
Anthropic'in kendisi ile birlikte 11 başka kuruluş (Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, Linux Foundation, Microsoft, Nvidia ve Palo Alto Networks), 'Project Glasswing' adı verilen yeni Anthropic girişimi kapsamında modele erişim sağlayacak.
Bu sayede şirketler Mythos Preview'i güvenlik çalışmalarının bir parçası olarak kullanabilecek ve Anthropic, girişim kapsamında elde edilen bulguların sonuçlarını paylaşacak.
Şirket, siber güvenlik projesine adını cam kanatlı kelebeğin (glasswing butterfly) verdi; bunun, Mythos'un açıkça ortada duran zafiyetleri nasıl tespit ettiğinin ve riskler konusunda şeffaf davranarak zararı nasıl önlediğinin bir metaforu olduğunu belirtti.
Anthropic, 'Nihai hedefimizin, kullanıcılarımızın Mythos düzeyindeki modelleri yalnızca siber güvenlik amacıyla değil, bu denli yetenekli modellerin sunacağı sayısız başka fayda için de geniş ölçekte ve güvenli biçimde devreye alabilmesini sağlamak olduğunu' belirtti.
Şirket blogunda, 'Bunu yapabilmek için, modelin en tehlikeli çıktıları tespit edip engelleyecek siber güvenlik (ve diğer) koruma mekanizmalarının geliştirilmesinde de ilerleme kaydetmemiz gerekiyor' ifadelerine yer verildi.
Anthropic ABD hükümetiyle görüşüyor mu?
Anthropic, blog yazısında, Claude Mythos Preview ve modelin 'saldırı ve savunma amaçlı siber kabiliyetleri' hakkında ABD hükümet yetkilileriyle 'süregelen görüşmeler' yürüttüğünü açıkladı.
Şirket, 'Bu tür siber kabiliyetlerin ortaya çıkışı, ABD ve müttefiklerinin yapay zeka teknolojisinde belirleyici bir üstünlük koruması gerektiğinin bir diğer nedeni' değerlendirmesinde bulundu. Şirket, hükümetlerin bu üstünlüğü koruma, ayrıca yapay zeka modelleriyle bağlantılı ulusal güvenlik risklerini değerlendirme ve azaltma konusunda önemli bir rol oynaması gerektiğini yazdı.
'Bu görevlerde yardımcı olmak için yerel, eyalet ve federal düzeydeki temsilcilerle çalışmaya hazırız.'
Duyuru, ABD Savunma Bakanlığının, Anthropic'in yapay zekası Claude'un otonom silahlarda ve kitlesel gözetimde kullanılmasına izin vermeyi reddetmesi üzerine, şubatta şirketi tedarik zinciri riski olarak nitelendirmesinin ardından Anthropic ile Pentagon'un hukuki bir karşı karşıya geliş yaşadığı döneme denk geldi.
Diğer yapay zeka araçlarında da aynı yetenekler var mı?
Mythos duyurusuyla birlikte yayımlanan bir videoda Anthropic CEO'su Dario Amodei, 'Bizden ve başkalarından daha da güçlü modeller gelecek; bu yüzden buna nasıl karşılık vereceğimize dair bir plana ihtiyacımız var' dedi.
Siber güvenlik, biyogüvenlik ve otonom sistemler açısından en ileri yapay zeka modellerinin sonuçlarını inceleyen Anthropic'in 'frontier red team' ekibinin başındaki Logan Graham, Axios'a yaptığı açıklamada, rakip yapay zeka şirketlerinin benzer modelleri piyasaya sürmesinin 6 ila 18 ay sürebileceğini söyledi.
Graham, 'Bu konuda kamuoyuyla açıkça konuşmamız gerektiği bizim için son derece net' diyerek, 'Güvenlik sektörünün, bu yeteneklerin çok yakında ortaya çıkabileceğini anlaması gerekiyor' ifadelerini kullandı.