Meta’nın açıklaması, OpenAI ve Anthropic’in de testler sırasında yapay zeka modellerinin başka şirketlerin sistemlerine sızdığını bildirmesinin hemen ardından geldi.
Meta, rakipleri OpenAI ve Anthropic ile daha iyi rekabet edebilmek için yapay zekâ hizmetleri ve modellerine yoğun şekilde yatırım yapmayı sürdürürken, çarşamba günü ilk kodlama aracını, Muse Code’u piyasaya sürdü.
REKLAM
REKLAM
Muse Code’a geliştiriciler, kullanım başına ödeme yapılan bir seçenek üzerinden erişebilecek; bunun fiyatlandırması, şu anda çıktı için milyon token başına 4,25 dolar ve girdi için milyon token başına 1,25 dolar alan Muse Spark 1.1 sürümüyle benzer olacak.
Bu, geliştiricilerin aynı anda birden fazla yapay zekâ destekli dijital ajanla çalışırken bile tek bir kullanıcı arayüzü üzerinden uygulama geliştirmesini çok daha kolay hâle getirecek.
Aynı zamanda şirket, yapay zekâ modellerinden birinin bir siber güvenlik testi sırasında başka bir şirketin sistemlerini hacklediğini de açıkladı.
Bu durum, bağımsız test ortağı Irregular’ın hatası nedeniyle yaşandı; ortak, modele başlangıçta öngörülenin ötesinde internet erişimi tanıyarak ismi açıklanmayan şirketin iç sistemlerinde değişiklik yapmasına izin verdi.
Olay, OpenAI ve Anthropic gibi sektör devlerinin yapay zekâ modellerinin testler sırasında başka şirketlerin sistemlerine sızdığı vakaların giderek arttığı bir dönemde yaşandı.
OpenAI, bir yapay zekâ ajanının başka bir yapay zekâ girişimi olan Hugging Face’in sistemlerini hacklediğini zaten kabul etmişti.
Benzer şekilde Anthropic de geçen hafta bazı Claude modellerinin üç şirketin sistemlerine sızdığını ortaya koydu; söz konusu kurumların isimleri açıklanmadı.
Meta, olayı araştırdığını duyurdu.
Yapay zekâ model saldırılarının yükselişi
Son aylarda birçok yapay zekâ sistemi güvenli test ortamlarından çıkarak dış kuruluşların sistemlerine izinsiz erişim sağladığı için, hem bu modellerin gücü hem de arkasındaki şirketler hakkında artan bir endişe var.
OpenAI ve Anthropic, yaşanan ihlallerle ilgili olay raporlarını gönüllü olarak yayımlayarak bir miktar takdir topladı. Ancak bu tür hataların baştan nasıl mümkün olabildiğine dair soru işaretleri sürüyor.
Anthropic ayrıca, bağımsız bir yapay zekâ değerlendiricisi olan METR ile birlikte daha kapsamlı bir soruşturma yürütüyor.
Güvenlik testleri sırasında Anthropic’in Claude modellerine şu görev verildi: kapalı bir test ağı içindeki başka bir makinede saklı gizli bir bilgiyi, gerekirse hackleyerek ele geçirmek. Ancak çalışmayı yürüten değerlendirme ortağıyla yaşanan iletişim kazası nedeniyle söz konusu ağ fiilen canlı internete bağlıydı.
Claude’un araması gerçek sistemlere yöneldiğinde, testte yer alan üç model farklı tepkiler verdi. Biri hedefin gerçek olduğunu fark etmesine rağmen saldırıyı sürdürdü, diğeri hâlâ test ortamında olduğuna kendini ikna etmiş görünüyordu, üçüncüsü ise hedefin denemenin parçası olmadığı sonucuna vardıktan sonra durdu.
Anthropic, diğer yapay zekâ şirketlerine kendi modellerinin farkında olmadan dış kuruluşların sistemlerini hackleyip hacklemediğini kontrol etme çağrısında bulundu.
Ne Anthropic ne de etkilenen kuruluşlar, ihlaller yaşanırken durumun farkındaydı. Şirket, OpenAI’nin benzer bir test sırasında modellerinden birinin yapay zekâ platformu Hugging Face’e girdiğini açıklamasının ardından başlattığı incelemede 141 binden fazla değerlendirme oturumunu gözden geçirdikten sonra olayları ortaya çıkardı.