Amodei'nin açıklaması, yapay zeka şirketinin modellerinin siber saldırılarda, propaganda kampanyalarında ve tehlikeli biyolojik araştırmalarda kullanıldığını ortaya koymasından birkaç gün sonra geldi.
Anthropic'in CEO'su Dario Amodei, cumartesi günü yapay zekâ (YZ) şirketlerine, "süper zeki" bilgisayar sistemlerinin doğurduğu risklere ilişkin kaygılar büyürken, bu güçlü teknolojinin geliştirilme hızını düşürme çağrısı yaptı.
REKLAM
REKLAM
Süper zekâ, YZ'nin yeteneklerinin insan zekâsını aştığı teorik eşiği ifade ediyor.
Açıklamaları, OpenAI'den ayrılıp Anthropic'e katılan yapay zekâ araştırmacısı Jacob Coxon'ın sektörden tamamen çekilme kararı almasının ve hem ABD şirketlerini hem de sektör devlerini, kendini geliştirme kapasitesine sahip modelleri geliştirme yarışında "hayatlarımızı kumara çevirmekle" suçlamasının birkaç gün sonrasına denk geldi.
"YZ modellerinin yeteneklerini artırma hızımızı yavaşlatmalıyız. İlerleme yine de hızlı görünecek ve kazandığımız zamanı akıllıca kullanmamız gerekecek" diye yazdı Amodei, kişisel internet sitesinde yayımladığı bir yazıda (kaynak İngilizce).
"YZ riskler barındırıyor ve böylesine güçlü bir teknoloji olduğu için bu riskler son derece ciddi."
"Teknolojiyi hiç inşa etmemek insanlığı pek çok faydadan mahrum bırakıyor ya da YZ'yi doğrudan otoriter güçlerin eline bırakıyor; bunu çok hızlı inşa etmek ise pervasızca. Biz orta yolu bulmaya çalıştık" dedi, 2021'de kız kardeşi Daniela ile birlikte Claude adlı YZ modelini geliştiren Anthropic'i kuran Amodei.
"Ancak son birkaç ayda, riskleri tam anlamıyla ele alabilmek için çok daha büyük bir ihtiyat gerektiğine ikna oldum" diye ekledi şirketin CEO'su.
Amodei'nin açıklaması, Anthropic'in haziran başında geliştirme hızını yavaşlatma ya da tamamen durdurma yönündeki bir başka çağrısını hatırlatıyor. Temmuz ayının sonlarında ise, ChatGPT'nin geliştiricisi ve Anthropic'in rakibi OpenAI'nin başındaki Sam Altman, toplumun yetişebilmesi için geliştiricilerin hızlı ilerlemelerine gönüllü olarak fren koymaları gerekebileceğini söylemişti.
Hazirandaki açıklamayla aynı dönemde, aralarında Amodei'nin de bulunduğu, ileri düzey YZ şirketlerinden bini aşkın çalışan, ABD hükümetinden "otomatik YZ geliştirme alanındaki sınırı kasıtlı olarak kontrollü bir tempoyla ilerletmeye" yardımcı olmasını isteyen bir dilekçeyi imzaladı.
OpenAI, testler sırasında YZ modellerinin içinde bulundukları sınırlı ortamdan çıkmayı başarıp internete bağlandığını ve geliştiricilerin kodlarını saklayıp paylaştıkları bir site olan Hugging Face'e sızdığını açıklamıştı.
Bu hafta başında 27 yaşındaki Jacob Coxon, önce OpenAI'de, ardından bu yıl yaklaşımını daha ihtiyatlı bulduğu rakip Anthropic'te olmak üzere son üç yılını YZ modellerini ön eğitime tabi tutarak geçirdikten sonra alarm zillerini çaldı.
Ön eğitim, YZ modellerinin resimlerden videolara, ses kayıtlarından metinlere kadar her türden büyük miktarda veriyi bünyelerine alarak, daha sonra sohbet platformlarında kullanıcıların komutlarına yanıt vermek ya da görüntü üretmek için gereken anlayışı geliştirdiği aşamayı ifade ediyor.
"Hiçbiri sorumlu davranmıyor. Dosdoğru kendini geliştirebilen süper zekâya doğru yarışıyorlar ve hayatlarımızı kumara oynuyorlar" dedi Coxon, salı günü X'te paylaştığı bir dizi mesajda.
"YZ'yi inşa eden insanlar, bunun on yılın sonuna kadar hepimizi öldürebileceğine içtenlikle inanıyor" diye ekledi.