Yaklaşık 600 Google çalışanı, şirketin Pentagon ile olası iş birliğine karşı çıkarak, yapay zekanın gizli askeri operasyonlarda kullanılmamasını talep etti.
Pazartesi günü yayınlanan bildiride, 600’den fazla Google çalışanı, şirketin yapay zeka (AI) teknolojisinin gizli askeri operasyonlarda kullanılmasına olanak tanıyacak olası bir Pentagon anlaşmasını reddetmesi çağrısında bulundu.
REKLAM
REKLAM
Google CEO'su Sundar Pichai'ye hitaben yazılan açık mektupta, "Yapay zekanın insanlık dışı veya son derece zararlı yollarla değil, insanlığın yararına kullanıldığını görmek istiyoruz," ifadeleri yer aldı.
Çalışanlar, teknolojinin Pentagon tarafından kitle imha amaçlı gözetleme faaliyetleri ve ölümcül otonom silah sistemleri gibi "insanlık dışı" yöntemlerle kullanılabileceği konusunda uyarıda bulundu. Mektupta, bu risklerin söz konusu sistemlerle sınırlı kalmayıp çok daha geniş bir alanı kapsadığı vurgulandı.
Google DeepMind, Cloud ve diğer birimlerden çalışanların imzaladığı mektup, teknoloji devinin Gemini adlı yapay zeka modelinin ABD Savunma Bakanlığı tarafından gizli ortamlarda kullanılmasına yönelik görüşmeler yürüttüğü bir dönemde geldi.
Mektuba 20’den fazla direktör, kıdemli direktör ve başkan yardımcısı da açık şekilde imza attı. İsmi açıklanmayan bir çalışan, “Gizli projeler doğası gereği şeffaf değil,” değerlendirmesinde bulundu.
Gelişme, teknoloji şirketlerinin yapay zeka araçlarının askeri ve istihbarat kurumları tarafından nasıl kullanılacağına ilişkin artan baskıyla karşı karşıya olduğu bir dönemde yaşandı.
Daha önce yapay zeka şirketi Anthropic, sistemlerinin kitlesel gözetim veya otonom savaşta kullanılmaması yönündeki talebinin ardından “tedarik zinciri riski” olarak etiketlenmesi üzerine ABD Savunma Bakanlığı’na dava açmıştı.
Anthropic CEO’su Dario Amodei, Pentagon’un şirketin yapay zeka sistemlerine sınırsız erişim talebini “vicdani olarak kabul edemeyeceğini” belirtmişti. Amodei, bazı durumlarda yapay zekânın demokratik değerleri korumak yerine zayıflatabileceğini ifade etmişti.
Bu kararın ardından ABD Başkanı Donald Trump, devlet kurumlarına Anthropic’in Claude adlı sohbet botunu kullanmayı bırakma talimatı verdi.
Google çalışanlarının mektubuna göre şirket, Gemini’nin yurt içinde kitlesel gözetim veya insan kontrolü olmadan otonom silahlarda kullanılmasını engelleyecek sözleşme maddeleri önerdi. Ancak Pentagon’un, “yasal olan tüm kullanımlar” şeklinde daha geniş bir çerçeve talep ettiği belirtildi.
Çalışanlar ise bu tür güvencelerin pratikte uygulanmasının zor olacağını savunarak, mevcut Pentagon politikalarının dış denetimi sınırladığına dikkat çekti.
Açık mektupta, “Araçlarımızın kamu denetimi dışında sivil özgürlükleri aşındırmak veya masum sivilleri hedef almak için kullanılmayacağını garanti etmenin bir yolu yok” ifadeleri yer aldı.
Açıklama, Google çalışanlarının 2018 yılında şirketin Pentagon’un 'drone' görüntülerini analiz etmeyi amaçlayan Project Maven programından çekilmesine yol açan protestolarını da hatırlattı.
Mektupta, “Google’ın savaş işinde yer almaması gerektiğine inanıyoruz” denilerek, şirketin askeri yapay zeka projelerinden tamamen çekilmesi çağrısı yapıldı.