Bize Ulaşın
Reklam

OpenAI yöneticisi: 'Yapay zeka bir yıl içinde insanları köleleştirebilir veya öldürebilir'

Arşiv görüntüsü
Arşiv görüntüsü -  ©  Copyright 2026 The Associated Press. All rights reserved
© Copyright 2026 The Associated Press. All rights reserved
By Cagla Uren
Yayınlanma Tarihi
Paylaş Yorumlar Google'da Euronews'ü takip edin
Paylaş Close Button

OpenAI Vakfı Yönetim Kurulu Üyesi Paul Christiano'ya göre, yapay zeka sistemlerinin mümkün olan en hızlı şekilde geliştirilmesi, insanlığın bu teknolojiler üzerindeki kontrolünü kaybetme ihtimalini yüzde 50'ye kadar çıkarabilir.

Yapay zekanın insanlık için oluşturabileceği varoluşsal risklere ilişkin tartışmalar sürerken, OpenAI Vakfı Yönetim Kurulu Üyesi ve yapay zeka güvenliği araştırmacısı Paul Christiano'dan dikkat çekici açıklamalar geldi.

REKLAM
REKLAM

Christiano, Nobel ödüllü bilgisayar bilimci Geoffrey Hinton'ın ev sahipliğinde düzenlenen Hinton Lectures 2026 etkinliğinde, yapay zeka sistemlerinin kontrol dışına çıkmasının yakın gelecekte insanlığın karşı karşıya kalabileceği en büyük tehlikelerden biri olduğunu savundu.

Yapay zeka güvenliği üzerine çalışmalarıyla tanınan Christiano, teknolojinin geliştirilme hızının riskleri önemli ölçüde artırabileceği uyarısında bulundu.

'Bu salondaki insanların en olası ölüm nedeni bir yapay zeka kazası olabilir'

Futurism'in haberine göre, Christiano'nun konuşmasındaki en çarpıcı ifadelerden biri, yapay zeka kaynaklı kazaların ölüm riskine ilişkin değerlendirmesiydi.

Etkinliğe katılanlara seslenen araştırmacı, "Bu salondaki insanların çoğu için en olası ölüm nedeni bir yapay zeka kazası olacak," dedi.

Christiano, yapay zeka sistemlerinin olabildiğince hızlı ve kolay yöntemlerle geliştirilmesi halinde insanlığın bu sistemler üzerindeki kontrolünü kaybetme ihtimalinin son derece yüksek olacağını ileri sürdü.

Araştırmacı, "Yapay zekayı mümkün olduğunca hızlı, mümkün olan en kolay şekilde geliştireceğimizi söylersek, yapay zekanın kontrolü ele geçirmesi konusunda yazı tura atmış oluruz," ifadelerini kullandı.

Bu değerlendirme, söz konusu senaryonun yaklaşık yüzde 50 olasılıkla gerçekleşebileceği anlamına geliyor.

Ancak Christiano'nun verdiği oran, gözlemlenmiş olaylardan hesaplanan istatistiksel bir sonuç değil, gelecekteki yapay zeka sistemlerinin oluşturabileceği risklere ilişkin kişisel değerlendirmesi.

'Bir yıl içinde ölüm veya köleleştirilme riski var'

Christiano, daha kısa vadeli bir senaryoya ilişkin de dikkat çekici bir tahminde bulundu.

Araştırmacı, yapay zeka sistemlerinin insan amaçlarıyla uyumlu davranmaması nedeniyle gelecek bir yıl içinde insanların normal yaşamlarını sürdüremeyecekleri bir durumun ortaya çıkma ihtimalini yaklaşık yüzde 20 olarak değerlendirdi.

Christiano, "Bir yıl içinde yapay zeka uyumsuzluğu sorunlarının, ölmüş olmanız, köleleştirilmeniz veya bunlarla bağlantılı ikincil zararlar nedeniyle normal hayatınıza devam etmenizi engellemesi konusunda çok gerçek bir olasılık bulunduğunu düşünüyorum. Belki yüzde 20," dedi.

Araştırmacıya göre gerçekçi siyasi ve düzenleyici önlemler alınsa bile risk son derece yüksek kalıyor.

Bununla birlikte Christiano, söz konusu senaryonun kesinlikle gerçekleşeceğini söylemiyor. Açıklamaları, yapay zeka gelişiminin olası sonuçlarına ilişkin oldukça kötümser bir risk tahminine dayanıyor.

Yapay zeka uyumsuzluğu nedir?

Christiano'nun uyarılarının merkezinde, yapay zeka araştırmalarında "AI misalignment" olarak adlandırılan "yapay zeka uyumsuzluğu" sorunu var.

Bu kavram, yapay zeka sistemlerinin hedeflerinin veya davranışlarının insanların amaçları, çıkarları ve güvenlik beklentileriyle örtüşmemesini ifade ediyor.

Özellikle gelecekte insanlardan çok daha yetenekli hale gelebilecek sistemlerin, kendilerine verilen görevleri yerine getirirken öngörülmeyen ve zararlı yöntemler kullanabileceği tartışılıyor.

Örneğin bir yapay zeka sistemi, kendisine verilen hedefi gerçekleştirmek için insan denetimini aşmaya veya kapatılmasını engellemeye çalışabilir.

Ancak bunlar gelecekteki gelişmiş sistemlere ilişkin teorik risk senaryoları. Günümüzdeki yapay zeka modellerinin insanlığı ele geçirebilecek kapasiteye ulaştığını gösteren bir kanıt yok.

Açıklamalar neden tartışma yarattı?

Christiano'nun açıklamaları, yalnızca öne sürdüğü yüksek risk oranları nedeniyle değil, OpenAI'daki görevi nedeniyle de dikkat çekti.

Araştırmacı, dünyanın önde gelen yapay zeka kuruluşlarından birinin vakıf yönetim kurulunda yer alıyor.

Bu nedenle yapay zeka gelişiminin insanlık için böylesine büyük bir tehlike oluşturabileceğini savunurken aynı zamanda bu teknolojinin geliştirilmesinde rol oynayan bir kuruluşun yönetiminde bulunması tartışma konusu oldu.

Christiano'nun açıklamaları, yapay zeka güvenliği alanındaki daha geniş bir görüş ayrılığını da yansıtıyor.

Bazı araştırmacılar, gelişmiş yapay zeka sistemlerinin kontrol edilememesi halinde insanlık için varoluşsal tehdit oluşturabileceğini savunuyor.

Diğerleri ise bu tür felaket senaryolarına ilişkin olasılık tahminlerinin büyük ölçüde belirsiz olduğunu ve henüz yeterli somut kanıta dayanmadığını belirtiyor.

Erişilebilirlik kısayollarına git
Paylaş Yorumlar Google'da Euronews'ü takip edin

Bu haberler de ilginizi çekebilir

Google tehdit raporu yayımlandı: Yapay zeka siber saldırıları nasıl dönüştürdü?

Anthropic'in Nasdaq halka arzı: yapay zekânın kârlılığı için büyük sınav

Dublin'de AB yapay zeka zirvesi: Liderler sektörü büyütmeyi ve riskleri tartıştı