Yapay zeka şirketi Anthropic ile ABD Savunma Bakanlığı karşı karşıya. Bilmeniz gereken her şey burada.
ABD hükümeti, Anthropic'in yapay zeka teknolojisini kısıtsız askeri kullanıma açmadığı takdirde şirketle yapılan askeri sözleşmeleri sonlandırmakla tehdit ediyor.
REKLAM
REKLAM
Anthropic, Claude adlı sohbet robotunun geliştiricisi ve benzerleri arasında teknolojisini ABD ordusunun yeni iç ağına henüz sunmayan tek şirket.
Şirketin CEO'su Dario Amodei, tamamen otonom silahlı insansız hava araçlarının yaratabileceği tehlikeler ve muhalefeti izleyebilen yapay zeka destekli kitlesel gözetim de dahil olmak üzere, devletin denetimsiz yapay zeka kullanımına dair etik kaygılarını defalarca dile getirdi.
Anthropic'in açıklamasına göre şirket, geçen temmuzda ABD Savunma Bakanlığı'ndan, “ABD ulusal güvenliğini ilerletecek en ileri yapay zeka yeteneklerinin prototipini geliştirmek” üzere 200 milyon dolarlık (167 milyon avro) bir sözleşme aldı. Şirket, Claude'un ABD istihbarat yazılımlarına entegre edilmesi için 2024'te Palantir Technologies ile bir ortaklık (kaynak İngilizce) anlaşması imzaladı.
Haberlere göre Savunma Bakanı Pete Hegseth, salı günü Anthropic'in uyum sağlamaması halinde 200 milyon dolarlık (167 milyon avroluk) sözleşmeyi feshederek şirketi “tedarik zinciri riski” olarak ilan edeceğini söyledi.
Anthropic, ABD'nin kamu alımlarına ilişkin yasası (kaynak İngilizce) kapsamında tedarik zinciri riski olarak tanımlanırsa, hükümet şirketi ihalelerden dışlayabilecek, ürünlerini değerlendirme kapsamından çıkarabilecek ve ana yüklenicilere bu tedarikçiyi kullanmamaları talimatını verebilecek.
Anthropic'in CEO'su ve kurucu ortağı Dario Amodei ile Hegseth'in yaptığı görüşmeye ilişkin haberlerde, bakanın ayrıca şirketi hedef almak için Savunma Üretimi Yasası (kaynak İngilizce)'nı devreye sokmakla tehdit ettiği belirtildi. Bu yasa, ABD Başkanına, aralarında şirketlerin teknolojilerine erişimin de bulunduğu ulusal güvenlik ihtiyaçlarını öncelemeleri için özel şirketlere geniş yetkilerle talimat verme imkanı tanıyor.
Euronews Next, iddiaları doğrulatmak için Anthropic ve ABD hükümetinin Savunma Bakanlığı ile temasa geçti, ancak hemen yanıt alamadı.
Anthropic temel güvenlik taahhüdünden geri adım atıyor
Anthropic, kurucularının 2021'de OpenAI'den ayrılıp şirketi kurmasından bu yana, önde gelen yapay zeka şirketleri arasında kendini daha sorumlu ve güvenlik odaklı bir oyuncu olarak konumlandırıyordu.
Anthropic, salı günü Time dergisine verdiği bir röportajda, güvenlik önlemlerinin yeterli olduğunu garanti edemediği sürece bir yapay zeka sistemini piyasaya sürmeyeceğine dair güvenlik taahhüdünden vazgeçtiğini açıkladı.
Bunun yerine, felaket boyutundaki yapay zeka risklerini azaltmaya yönelik çerçevesini tanımlayan “sorumlu ölçeklendirme politikası”nın yeni bir versiyonunu yayımladı.
Anthropic'in baş bilim sorumlusu Jared Kaplan, dergiye yaptığı açıklamada, rakipleri hiçbir güvenlik önlemi olmadan hızla ilerlerken şirketin yeni modeller eğitmesini durdurmanın, yapay zeka yarışında onlara ayak uydurmalarına yardımcı olmayacağını söyledi.
“Bir yapay zeka geliştiricisi, güvenlik önlemlerini hayata geçirmek için geliştirmeye ara verirken diğerleri güçlü önlemler olmadan yapay zeka sistemlerini eğitip devreye sokmaya devam ederse, bunun sonucu daha az güvenli bir dünya olabilir,” Anthropic'in yeni politikasında deniyor.
“En zayıf korumalara sahip geliştiriciler tempoyu belirler ve sorumlu geliştiriciler güvenlik araştırması yapma ve kamu yararını ilerletme imkanını kaybeder.”
Politika, Anthropic'in sektöre güvenlik standartları getirme yönündeki umutlarını, şirket olarak kendi hedeflerinden ayırıyor; şirket için güvenlik hâlâ öncelik olmaya devam ediyor.
Anthropic, yeni politikanın, modelleri için “iddialı ama ulaşılabilir” güvenlik yol haritaları belirleyecekleri ve bir modelin piyasaya sürülmesinin ne ölçüde gerekçelendirilebileceğiyle birlikte öngörülen riskleri ortaya koyan risk raporları yayımlayacakları anlamına geldiğini bildirdi.