Pentagon’un Anthropic’in yapay zeka modeli Claude’a sınırsız erişim talebine karşı Google ve OpenAI çalışanlarının da aralarında bulunduğu yüzlerce kişi şirkete destek verdi.
ABD’de yapay zeka şirketi Anthropic ile Savunma Bakanlığı (Pentagon) arasında patlak veren kriz, teknoloji sektöründe eşi benzeri görülmemiş bir dayanışmayı ve etik tartışmasını tetikledi.
REKLAM
REKLAM
Pentagon’un Anthropic’in yapay zeka modeli Claude’a sınırsız erişim talebine karşı Google ve OpenAI çalışanlarının da aralarında bulunduğu yüzlerce kişi şirkete destek verdi.
Pentagon, Claude modelini “tüm yasal kullanım alanlarında herhangi bir kısıtlama olmadan” kullanmak istiyor. Savunma Bakanlığı, Anthropic'in bu talebi kabul etmesi için Türkiye saatiyle cumartesi 01:01'e kadar süre verdi.
Pentagon, talep reddedilirse üç önemli yaptırım tehdidinde bulundu. Bunlardan biri şirketin “tedarik zinciri riski” olarak sınıflandırılması. Eğer böyle sınıflandırılırsa Anthropic, ABD'de adeta yabancı şirket muamelesi görecek.
Ayrıca Pentagon ile 200 milyon dolarlık sözleşmenin iptal edilmesi de söz konusu.
Son olarak da Savunma Üretim Yasası kapsamında şirketin zorla işbirliğine zorlanması mümkün.
Savunma Bakanlığı Sözcüsü Sean Parnell, hükümetin yapay zeka araçlarını “tüm yasal amaçlar için kullanma hakkına sahip olduğunu” savunuyor.
Anthropic’in kırmızı çizgileri: Kitlesel gözetim ve otonom silahlar
Anthropic CEO’su Dario Amodei ise şirketin özellikle iki kullanım alanına kesin olarak karşı çıktığını açıkladı: ABD vatandaşlarına yönelik kitlesel gözetim ve insan denetimi olmadan çalışan otonom ölümcül silahlar.
Amodei, yapay zekanın demokrasileri savunmada önemli rol oynayabileceğini kabul etmekle birlikte, bazı kullanım biçimlerinin “demokratik değerleri zayıflatabileceğini” ve mevcut teknolojinin bu tür görevler için yeterince güvenli olmadığını söyledi.
“Bu tehditler pozisyonumuzu değiştirmiyor. Vicdanen bu talebi kabul edemeyiz,” diyen Amodei, buna rağmen Pentagon’un kararını yeniden gözden geçirmesini umduklarını belirtti.
Pentagon ise kitlesel gözetim veya otonom silah kullanımı planı olmadığını savundu, ancak bu tür sınırlamaları özel şirketlerin belirleyemeyeceğini vurguladı.
Google ve OpenAI çalışanlarından destek
Krizin büyümesiyle birlikte teknoloji sektöründe nadir görülen bir çalışan dayanışması ortaya çıktı.
Google ve OpenAI’dan 430’dan fazla çalışan, Anthropic’e destek veren açık mektubu imzaladı. Mektupta Pentagon’un şirketleri, daha önce reddettikleri koşulları kabul etmeye zorladığı belirtildi.
Çalışanlar, yapay zekanın “kitlesel gözetim ve insan denetimi olmadan öldüren sistemler” için kullanılmasına karşı çıktı.
Google’ın yapay zeka bölümü DeepMind’da çalışan 100’den fazla kişi de şirket yönetimine ayrı bir mektup göndererek Gemini modelinin askeri gözetim veya otonom silahlar için kullanılmasına izin verilmemesini istedi.
Çalışanlar mektupta, “Google’da çalışmayı seviyoruz ve yaptığımız işle gurur duymak istiyoruz. Bu temel kırmızı çizgileri aşan hiçbir anlaşmaya izin vermeyin,” ifadelerini kullandı.
OpenAI’da da yaklaşık 70 çalışan, “We Will Not Be Divided” başlıklı açık mektuba imza atarak Anthropic’e destek verdi.
Sam Altman: Anthropic’in sınırlarını destekliyoruz
OpenAI CEO’su Sam Altman, şirket içi bir yazışmada ve kamuoyuna yaptığı açıklamalarda Anthropic’in belirlediği sınırları desteklediğini söyledi.
Altman, yapay zekanın kitlesel gözetim için kullanılmaması, otonom ölümcül silahlar üretmemesi ve kritik kararlarda insan denetiminin korunması gerektiğini vurguladı.
Altman ayrıca OpenAI’ın Pentagon ile çalışmaya açık olduğunu, ancak bunun şirketin etik ilkeleri ve güvenlik standartlarıyla uyumlu olması gerektiğini belirtti.
Pentagon ve teknoloji şirketleri arasında güç mücadelesi
Krizin dikkat çekici yönlerinden biri, Pentagon’un aynı anda hem Anthropic’i “risk” olarak tanımlamakla tehdit etmesi hem de teknolojisine ihtiyaç duyduğunu belirtmesi oldu.
Uzmanlar bu durumu çelişkili buluyor. Center for a New American Security’den Geoffrey Gertz, NPR'a yaptığı açıklamada “Hem sistemden çıkarılması gerekecek kadar riskli hem de zorla sisteme dahil edilmesi gerekecek kadar kritik görüyorlar,” dedi.