Yapay zeka şirketi Anthropic’te çalışan ve daha önce görev yapmış 3 araştırmacı, gelişmiş yapay zekanın 2030’a kadar insanlığın yok olmasına yol açabileceği uyarısında bulundu. Eski Anthropic ve OpenAI çalışanı Jacob Coxon, şirketlerin süper zeka yarışında yeterli güvenlik önlemi almadığını savundu.
ABD merkezli yapay zeka şirketi Anthropic'te çalışan ve daha önce görev yapmış araştırmacılar, gelişmiş yapay zeka sistemlerinin insanlığın varlığını tehdit edebilecek seviyeye ulaşabileceği uyarısında bulundu.
REKLAM
REKLAM
Daha önce OpenAI'da da görev yapan Anthropic araştırmacısı Jacob Coxon, salı günü sosyal medyadan yaptığı açıklamada şirketten istifa ettiğini duyurdu.
Coxon, Anthropic ve eski işvereni OpenAI'ın gelişmiş yapay zekanın yaratabileceği tehlikeler karşısında yeterince sorumlu hareket etmediğini savundu.
"İki şirket de sorumlu davranmıyor. Doğrudan kendi kendini geliştirebilen süper zekaya doğru yarışıyor ve hayatlarımızla kumar oynuyorlar," diyen Coxon, yapay zeka sektöründeki araştırmacıların risklerin büyüklüğünün farkında olduğunu ileri sürdü.
Coxon, "Yapay zekayı geliştiren insanlar, bunun 2030'a kadar hepimizi öldürebileceğine gerçekten inanıyor. Bu bir pazarlama numarası değil," dedi.
Şirket yöneticileri ile kıdemli araştırmacıların kamuoyuna yaptıkları açıklamalarda daha ölçülü ifadeler kullandığını belirten Coxon, aynı kişilerin özel görüşmelerde ciddi endişeler dile getirdiğini öne sürdü.
"Başka hiçbir insan faaliyeti bu seviyede bir tehlike yaratmıyor," ifadelerini kullandı.
Anthropic araştırmacısı: Risk yüzde 10'dan fazla
Coxon'ın açıklamalarına Anthropic'te görev yapan en az iki araştırmacı da destek verdi.
Anthropic'in yapay zeka sistemlerinin insan hedefleriyle uyumlu hareket etmesine yönelik çalışmalarında görev alan Evan Hubinger, Coxon'ın değerlendirmesinin "doğru" olduğunu söyledi.
"Yapay zekanın gerçekten tüm insanları öldürebileceğine inanıyoruz," diyen Hubinger, kişisel değerlendirmesine göre bunun önümüzdeki 10 yıl içinde gerçekleşme ihtimalinin yüzde 10'dan fazla olduğunu belirtti.
Hubinger, Anthropic'in riskleri azaltmak için çaba gösterdiğini ancak insan zekasını aşabilecek sistemlerin insan hedefleriyle uyumlu hareket etmesini sağlayacak güvenilir bir yöntemin henüz bulunmadığını ifade etti.
Hubinger, "Anthropic'in elinden geleni yaptığına inanıyorum ancak süper zekanın insan hedefleriyle uyumunu nasıl sağlayacağımıza ilişkin henüz bir planımız yok ve bunu çözme yolunda olduğumuz da açık değil," dedi.
'Önümüzdeki birkaç yıl içinde olabilir'
Anthropic'in "ölçeklenebilir denetim" çalışmalarını yöneten Samuel Marks da yapay zeka geliştiricilerinin teknolojinin "insanlığın yok olmasına veya benzer ölçekte kötü sonuçlara" neden olabileceğini düşündüğünü söyledi.
Marks, bu riskin yalnızca uzak geleceğe ilişkin olmadığını belirterek, "Bu, önümüzdeki birkaç yıl içinde gerçekleşebilir. Genel olarak çalışan ne kadar kıdemliyse o kadar endişeli," ifadelerini kullandı.
Anthropic: Benzeri görülmemiş riskler taşıyor
Anthropic ise araştırmacıların açıklamalarının ardından yapay zekanın oluşturduğu riskler konusunda şirketin başından beri şeffaf olduğunu savundu.
Şirketten yapılan açıklamada, "Yapay zekanın hem çok büyük faydalar hem de benzeri görülmemiş riskler getireceği konusunda her zaman şeffaf olduk. Bu riskleri azaltmak için çalışıyoruz," denildi.
Anthropic, geliştirdiği modellerde güçlü güvenlik önlemleri uyguladığını, sistemlerin nasıl çalıştığını anlamaya yönelik araştırmalar yürüttüğünü ve yapay zeka modellerini siber güvenlik ile biyoloji gibi alanlarda tehlikeli yeteneklere karşı test ettiğini belirtti.
Şirket ayrıca güçlü yapay zeka modellerinin piyasaya sürülme hızının yalnızca şirketlerin kendi kararlarına bırakılmaması gerektiğini savundu. Anthropic'e göre sektörün, güçlü modellerin geliştirilme ve yayımlanma hızını düzenlemek için yasal ve denetlenebilir ortak mekanizmalar oluşturması gerekiyor.
OpenAI yöneticileri de risklere dikkat çekti
Yapay zeka sektöründeki risk tartışmaları yalnızca Anthropic araştırmacılarının açıklamalarıyla sınırlı değil.
OpenAI Başkanı Greg Brockman daha önce şirketlerin geliştirdikleri modellerin gerçek dünyadaki siber saldırı kapasitesini olduğundan düşük değerlendirdiklerini kabul etmişti.
OpenAI CEO'su Sam Altman da geçen yıl yapay zekanın insan karar alma süreçlerini fark edilmeden devralabileceği bir "sessiz teslimiyet" ihtimalinin kendisini korkuttuğunu söylemişti.
Yapay zeka şirketlerinde ayrıca sistemlerin kullanıcıların talimatlarını görmezden gelmesi, yanıltıcı davranışlarda bulunması veya verilen hedeflere ulaşmak için zararlı yöntemlere başvurması gibi sorunlara ilişkin kaygılar artıyor.
OpenAI çalışanlarının temmuz ayında yaptığı bir araştırmada bazı gelişmiş yapay zeka ajanlarının kapalı test ortamından çıkarak açık internete eriştiği ve Hugging Face adlı yazılım platformundaki bir depoya yönelik kapsamlı bir siber saldırı başlattığı tespit edildi.
OpenAI, söz konusu ajanları kapattığını ancak saldırının günlerce sürebilecek otonom bir siber saldırıya dönüşebileceğine ilişkin işaretler bulunduğunu bildirdi.
Sanders'tan 'süper zekayı yasaklama' çağrısı
ABD'li bağımsız Senatör Bernie Sanders da Coxon'ın istifa açıklamasını paylaşarak yapay zeka çalışmalarının yavaşlatılması çağrısında bulundu.
"Coxon haklı. Bu teknolojiyi geliştiren insanlar, onun insanlığın geleceğini tehdit edebileceğini kendileri kabul ediyor," diyen Sanders, "süper zekayı yasaklamayı" ve ileri yapay zeka geliştirme çalışmalarına ara verilmesini öngören bir yasa tasarısı sunacağını açıkladı.