Siber güvenlik uzmanları, yapay zekâ önlemlerinin artık yalnızca saldırganları değil, sistemleri korumaya çalışan araştırmacıları da engellediğini savunuyor.
Yapay zekâ şirketleri son aylarda modellerinin kötü niyetli bilgisayar korsanları tarafından kullanılmasını önlemek amacıyla sıkı güvenlik önlemleri ve doğrulama programları uygulamaya koydu.
REKLAM
REKLAM
Ancak siber güvenlik uzmanları, bu önlemlerin artık yalnızca saldırganları değil, sistemleri korumaya çalışan araştırmacıları da engellediğini savunuyor.
Haziran ayında ABD hükümeti, Anthropic tarafından geliştirilen Mythos ve Fable adlı yapay zekâ modellerine ihracat kısıtlamaları getirdi. Kararın alınmasında, modellerin kötü amaçlı siber saldırılar geliştirmek için konulan güvenlik bariyerlerinin aşılabileceğini öne süren bir raporun etkili olduğu belirtildi.
Her ne kadar kararın doğrudan bu olay nedeniyle alınıp alınmadığı net olmasa da Anthropic, Mythos'u uzun süredir yalnızca güvenilirliği doğrulanmış kurumlara ve sıkı kullanım kurallarıyla sunulan, yüksek riskli bir siber güvenlik modeli olarak tanıtıyordu. Daha sonra Fable 5 üzerindeki ihracat kısıtlamaları 1 Temmuz'da kaldırılırken, Mythos 5 ise yalnızca ABD'de doğrulanmış kuruluşlara yeniden açıldı.
'Şirketler neyin güvenli olduğuna keyfi karar veriyor'
Anthropic'in yaklaşımı sektörde tek örnek değil. Hem Anthropic hem de OpenAI, siber güvenlik araştırmacılarının başvurabileceği özel doğrulama programları yürütüyor. Bu programlara kabul edilen araştırmacılar, siber güvenlikle ilgili daha az kısıtlamaya sahip yapay zekâ modellerine erişebiliyor.
Ancak özellikle sistemlerdeki bilinmeyen açıkları keşfetmek ve bunları kötü niyetli kişilerden önce analiz etmekle görevli araştırmacılar, bu güvenlik bariyerlerini sert şekilde eleştiriyor.
Deneyimli güvenlik araştırmacısı Mark Dowd, katıldığı bir siber güvenlik podcast'inde, "Büyük teknoloji şirketlerinin güvenlik açısından neyin güvenli olup olmadığına keyfi şekilde karar vermesi beni rahatsız ediyor," ifadelerini kullandı.
Uzun yıllardır devlet kurumlarına daha önce bilinmeyen yazılım açıklarını (zero-day) satan Dowd, kendi çalışmalarının bu konuda taraflı görünmesine neden olabileceğini kabul etse de benzer görüşü paylaşan tek kişinin kendisi olmadığını söyledi.
'Aynı araç hem saldırı hem savunma için kullanılıyor'
Siber güvenlik danışmanlık şirketi NCC Group'un baş bilim insanı Chris Anley, TechCrunch'a yaptığı açıklamada, yapay zekâya bir yazılım açığını kullanmaya çalışmasını söylemenin, gerçekten düzeltilmesi gereken bir güvenlik açığı olup olmadığını doğrulamanın önemli yollarından biri olduğunu belirtti.
Ancak model güvenlik gerekçesiyle bu isteği tamamen reddettiğinde, bunun saldırganlardan çok savunma ekiplerini zor durumda bıraktığını söyledi.
Anley, "Bir koddaki açığı düzeltmek hem savunma açısından vazgeçilmezdir hem de aynı zamanda kritik güvenlik açıklarını bulmanın yol haritasıdır. Dolayısıyla aynı araç hem saldırı hem de savunma amacıyla kullanılabilir; bunları birbirinden tamamen ayırmak mümkün değil," dedi.
Bunu bir çekice benzeten Anley, "Çekiç olmadan ev inşa edemezsiniz. Ama çekiç aynı zamanda bir silah olarak da kullanılabilir," değerlendirmesinde bulundu.
Araştırmacılar, bu tür engellerle karşılaştıklarında çoğu zaman herhangi bir kullanım kısıtlaması bulunmayan açık kaynaklı yapay zekâ modellerine yöneldiklerini söylüyor.
Hassas veriler buluta gönderilmiyor
Hükümet kurumlarına sıfır gün açıkları geliştiren Paolo Stagno da yapay zekâ şirketlerinin doğrulama programlarını eleştirerek, şirketlerin "müşterilere çocuk gibi davrandığını" söyledi.
TechCrunch'a konuşan Stagno, ileri düzey yapay zekâ modellerini tersine mühendislik çalışmalarında kullandıklarını ancak güvenlik açıklarını keşfetme veya bunlardan yararlanacak kodlar geliştirme aşamasında bulut tabanlı modelleri tercih etmediklerini belirtti.
Bunun nedeninin, hassas güvenlik verilerinin bulut hizmetlerine yüklenmesi durumunda sızma riski taşıması veya gelecekteki model eğitimlerinde kullanılabilmesi olduğunu ifade eden Stagno, bu nedenle söz konusu çalışmaları tamamen kendi sistemlerinde çalışan açık kaynaklı modellerle yürüttüklerini söyledi.
Araştırmacılar Çin modellerine yöneldi
Bu tartışma, OpenAI'ın gelişmiş yapay zekâ (AI) modelleriyle çalışan otonom bir ajanın güvenlik testi sırasında test ortamından çıkarak yapay zeka platformu Hugging Face'in sistemlerine sızması olayında da gündeme geldi.
Saldırı sırasında Hugging Face; GPT-5.6 Sol veya Claude Fable 5 gibi gelişmiş ticari modelleri kullanmak istediğinde bu modellerdeki güvenlik kısıtlamalarının savunma amaçlı analizleri de engellediğini gördü. Bunun üzerine, Çinli Z.AI şirketinin geliştirdiği açık kaynaklı GLM5.2 modelini kullanarak saldırıyı analiz etti.
Şirkete göre GLM5.2'nin avantajı, saldırıda kullanılan verilere maruz kalmamış olmasıydı.