OpenAI, Anthropic, Google ve Meta'nın yapay zekâ birimlerinde çalışanlar, büyük bir otonom yapay zekâ korsanlık skandalının ardından dilekçeyi imzaladı.
Yapay zeka alanındaki önde gelen şirketlerden binden fazla çalışan, salı günü ABD hükümetini yapay zekanın gelişimini "bilinçli biçimde belli bir tempoda tutmak" için adımlar atmaya çağıran bir dilekçe imzaladı.
REKLAM
REKLAM
İmzacılar arasında Anthropic'in CEO'su, OpenAI'ın araştırma direktörü, Google'ın yapay zeka iştiraki DeepMind'in strateji sorumlusu ve Meta AI'ın baş bilim insanı da yer aldı.
Dilekçe (kaynak İngilizce), "ABD hükümetinin, otomatikleştirilmiş yapay zeka geliştirme yarışının ön cephesini, kasıtlı biçimde belirlenen bir hızda tutmak için gerekli teknik ve yönetişim araçlarını geliştirmeye yönelik uluslararası bir çabayı desteklemesi" çağrısında bulunuyor.
Dilekçede, "Dünyanın önde gelen yapay zeka şirketleri, yapay zeka araştırmasını otomatikleştirmeye çok yaklaştıklarına inanıyor. Bunun yapay zekadaki ilerlemeyi tam olarak ne kadar hızlandıracağını kestirmek zor, ancak yeteneklerin gelişiminin, ortaya çıkan sistemleri anlayıp denetleme kapasitemizi aşacak bir hızla ivme kazanması gerçek bir risk" ifadeleri yer alıyor.
Bu çağrı, en ileri düzey yapay zeka modellerinin otonom bir siber saldırı gerçekleştirmesiyle yaşanan son güvenlik paniğinin ardından geldi. Söz konusu modeller, testin yapılması planlanan kontrollü "sandbox" ortamından çıkıp, kod paylaşım platformu Hugging Face'in sunucularına sızdı.
Dilekçeyi imzalamayan OpenAI CEO'su Sam Altman, salı günü yayımlanan "Invest Like the Best" podcastinde verdiği bir söyleşide, yapay zeka geliştiricilerinin, toplumun uyum sağlayabilmesi için ilerleme hızını gönüllü olarak yavaşlatmak zorunda kalabileceğini söyledi.
Altman, "Bu, beni gerçekten fiziksel olarak da etkileyen ilk türde bir güvenlik olayı" derken, salı günkü aynı podcastte, benzer tepkiler verenlerin sayısının az olmasına "biraz şaşırdığını" da dile getirdi.
Bir yapay zeka modelinin geliştiricilerinin kontrolü dışında hareket etmesi ilk kez yaşanmıyordu, ancak son olay, özellikle ürkütücü bulunmasıyla dikkat çekti.
Yapay zekâ tekilliğine ulaştık mı?
Bundan birkaç gün önce, Relentless podcastine verdiği bir söyleşide Altman, yapay zekanın insan zekasını geride bıraktığı ve insanların artık öngöremeyeceği ya da kontrol edemeyeceği bir hızda ilerlemeye başladığı noktaya, yani "tekillik"e ulaştığımızı söyledi.
Altman, tekilliğin, on yıl önce meslektaşlar arasında öğle yemeklerinde yarı ciddi yarı şaka konusu olan, uzak bir olasılık olarak görüldüğünü, ancak artık bunun değiştiğini anlattı.
Aynı programın ilerleyen bölümünde Altman, teknolojinin tehlikeleri konusunda uyarılarda bulunan yapay zeka liderlerine de karşı çıktı; Anthropic'in adını anmadı, ancak CEO'su Dario Amodei bu tür uyarılarıyla tanınıyor.
Altman, yapay zekanın geleceğine ilişkin, "korkutucu" olarak nitelediği alternatif senaryolara aktif biçimde karşı çıkmayı hedeflediğini söyledi.