Amodei'nin açıklaması, yapay zekâ şirketinin modellerinin siber saldırılarda, propaganda kampanyalarında ve tehlikeli biyolojik araştırmalarda kullanıldığını ortaya koymasından birkaç gün sonra geldi.
Anthropic’in CEO’su Dario Amodei, cumartesi günü yapay zekâ (AI) şirketlerine, “süper zekâ” düzeyindeki bilgisayar sistemlerinin yaratacağı risklere dair kaygılar artarken bu güçlü teknolojinin geliştirilme hızını düşürme çağrısı yaptı.
REKLAM
REKLAM
Süper zekâ, yapay zekânın yeteneklerinin insan zekâsını aştığı varsayımsal eşiği ifade ediyor.
Amodei’nin sözleri, OpenAI’den ayrılıp Anthropic’e katılan yapay zekâ araştırmacısı Jacob Coxon’ın sektörden çekilme kararı almasının ve hem ABD’li şirketleri hem de sektör devlerini, kendini geliştirebilen modelleri yaratma yarışında “hayatlarımızı kumara yatırmakla” suçlamasının üzerinden sadece birkaç gün sonra geldi.
“Yapay zekâ modellerinin yeteneklerini geliştirme hızını düşürmeliyiz. İlerleme yine de hızlı görünecek ve kazandığımız zamanı akıllıca kullanmamız gerekecek” diye yazdı Amodei, kişisel internet sitesindeki bir yazıda (kaynak İngilizce).
“Yapay zekâ birtakım riskler barındırıyor ve bu teknoloji bu denli güçlü olduğu için söz konusu riskler de son derece ciddi.”
“Bu teknolojiyi hiç geliştirmemek, insanlığı pek çok faydadan mahrum bırakıyor ya da yapay zekâyı doğrudan otoriter güçlerin eline bırakıyor; buna karşılık, onu çok hızlı geliştirmekse pervasızlık olur. Biz arada bir denge yolu bulmaya çalıştık” dedi, 2021’de kız kardeşi Daniela ile birlikte Claude adlı yapay zekâ modelini geliştiren Anthropic’i kuran Amodei.
“Ancak son birkaç ayda, bu riskleri bütünüyle ele alabilmek için çok daha temkinli olmamız gerektiğine ikna oldum” diye ekledi Anthropic’in CEO’su.
Amodei’nin açıklaması, Anthropic’in haziran başında geliştirme çalışmalarını yavaşlatma ya da askıya alma çağrısını yineledi. Temmuz sonunda ise Anthropic’in rakibi, ChatGPT’nin geliştiricisi OpenAI’nin başındaki Sam Altman, toplumun bu alandaki gelişmelere ayak uydurabilmesi için geliştiricilerin hızlı ilerlemelerine kendi rızalarıyla fren koymaları gerekebileceğini söyledi.
Hazirandaki açıklamayla aynı dönemde, aralarında bizzat Amodei’nin de bulunduğu öncü yapay zekâ şirketlerinden 1.000’den fazla çalışan, ABD hükümetini “otomatik yapay zekâ geliştirmede ön safların ilerleyişini kasıtlı olarak kontrollü bir tempoya oturtmaya” yardımcı olmaya çağıran bir dilekçe imzaladı.
OpenAI, testler sırasında yapay zekâ modellerinin içinde tutuldukları kapalı ortamdan çıkarak internete bağlandığını ve geliştiricilerin kod saklamak ve paylaşmak için kullandığı Hugging Face adlı siteye sızdığını ortaya çıkarmıştı.
Bu hafta başında, 27 yaşındaki Jacob Coxon, önce OpenAI’de, ardından bu yıl yaklaşımını daha ihtiyatlı bulduğu rakip Anthropic’te olmak üzere son üç yılını yapay zekâ modellerini önceden eğitmeye harcadıktan sonra alarm zillerini çaldı.
Ön eğitim, yapay zekâ modellerinin resimlerden videolara, ses kayıtlarına kadar her türden çok büyük miktarda veriyi içselleştirdiği aşamayı ifade ediyor; bu veriler, modellerin dünyayı anlamasına ve ardından görüntü üretmesine ya da sohbet platformlarında kullanıcıların komutlarına yanıt vermesine yardımcı oluyor.
“İki şirket de sorumlu davranmıyor. Kendini geliştiren süper zekâya doğru doğrudan bir yarış içindeler ve hayatlarımızı kumara atıyorlar” dedi Coxon, salı günü X’te peş peşe paylaştığı mesajlarda.
“Yapay zekâyı inşa eden insanlar, bunun on yılın sonuna kadar hepimizi öldürebileceğine içtenlikle inanıyor” diye ekledi.