Anthropic'in en güçlü yeni yapay zekâ modeli Mythos'un halka sunulamayacak kadar tehlikeli olduğu, hükümetler ve finansal düzenleyicilerle acil temasları tetikledi.
Anthropic, şirketin kamuoyuna sunulamayacak kadar güçlü olduğunu ve "emsali görülmemiş siber güvenlik riskleri" barındırdığını söylediği yeni Mythos yapay zeka modeli konusunda ABD hükümetiyle görüşmeler yürütüyor.
REKLAM
REKLAM
Bankacılık sektörü de alarm veriyor.
"Hükümetin bunlardan haberdar olması gerekiyor," diyen Anthropic'in kurucu ortağı, pazartesi günü Washington'daki Semafor World Economy etkinliğinde konuştu.
"Elbette, onlarla Mythos hakkında konuşuyoruz ve sonraki modeller hakkında da konuşacağız," diye ekledi.
Şirketin geçen ay tedarik zinciri riski olarak etiketlenmesine yol açan hükümetle yaşanan aleni anlaşmazlığa atıfta bulunarak, "Ulusal güvenliği son derece önemsediğimiz gerçeğinin bunun gölgesinde kalmasını istemiyorum," dedi.
Tedarik zinciri riski olarak nitelendirilmesi, Anthropic'in ABD Savunma Bakanlığının yapay zeka modellerini nasıl kullanabileceğine sınırlamalar getirme çabalarına ilişkin müzakerelerin çökmesinin ardından geldi.
Bu adım, Hazine Bakanı Scott Bessent'in geçen hafta Washington'da, Mythos modelini görüşmek üzere üst düzey Amerikalı bankacılarla bir toplantı düzenlemesinin ardından geldi.
Toplantı, bankacılık yöneticilerini açıkları tespit etmek için Anthropic'in Mythos modelini kullanmaya teşvik etti, Bloomberg'in aktardığına göre (kaynak İngilizce).
Anthropic ayrıca yeni yapay zeka modelinin kullanımını birkaç teknoloji ve siber güvenlik şirketiyle sınırlayacağını açıkladı. Listede Amazon, Apple ve JP Morgan Chase de yer alıyor.
Bloomberg'in haberine göre Goldman Sachs, Citigroup, Bank of America ve Morgan Stanley'nin de Anthropic'in modelini test ettiği bildirildi.
Pazartesi günü Birleşik Krallık hükümetine bağlı Yapay Zeka Güvenliği Enstitüsü (AISI), Mythos'un oluşturduğu siber tehdit bakımından önceki modellere kıyasla "bir seviye yukarıda" olduğu uyarısında bulundu.
Öte yandan Financial Times, Birleşik Krallık'taki finansal düzenleyicilerin de Mythos'un potansiyel risklerini görüştüğünü bildirdi.