Hinton, daha önce yapay zekanın insanlığı yok etme ihtimalini yüzde 10 ila 20 seviyesinde gördüğünü söylemişti.
REKLAM
Yapay zeka alanının öncülerinden ve “Yapay Zeka’nın Vaftiz Babası” olarak bilinen Geoffrey Hinton, geliştirilmesine katkı sunduğu teknolojinin insanlığı yok etme ihtimalinin ciddiyetini bir kez daha vurguladı.
Nobel ödüllü bilgisayar bilimci ve eski Google yöneticisi Hinton, daha önce yapay zekanın insanlığı yok etme ihtimalini yüzde 10 ila 20 olarak gördüğünü söylemişti. Las Vegas’ta düzenlenen Ai4 konferansında konuşan Hinton, teknoloji devlerinin “insanların yapay zekâya üstün kalmasını sağlama” çabasını yanlış bir yaklaşım olarak değerlendirdi:
“Bu işe yaramayacak. Onlar bizden çok daha akıllı olacak ve bunu aşmanın yollarını bulacaklar.”
Hinton’a göre gelecekte süper zekaya ulaşan yapay zeka sistemleri, insanları tıpkı bir yetişkinin 3 yaşındaki çocuğu şekerle kandırması gibi kolayca yönlendirebilecek. Hatta bu yıl, hedeflerine ulaşmak için yalan söyleyen, hile yapan ve bilgi çalan yapay zeka örnekleri görüldü.
“Anne içgüdüsü” önerisi
CNN International'a göre Hinton, yapay zeka kıyametinden insanlığı kurtarmanın tek yolunun "annelik içgüdüsü olduğunu" savundu. Makineleri insanlara boyun eğmeye zorlamak yerine onlara “annelik içgüdüsü” kazandırmayı önerdi. Böylece sistemler, insanlardan daha güçlü ve zeki hale gelseler bile, insanları önemseyen bir yaklaşıma sahip olacak.
“Elimizde, daha akıllı bir varlığın daha az akıllı bir varlık tarafından kontrol edildiği tek örnek, bebeği tarafından yönlendirilen annedir,” diyen Hinton, “Eğer beni ebeveyn gibi görmezse, yerime geçer,” ifadelerini kullandı.
Ancak Hinton, bunun teknik olarak nasıl yapılabileceği konusunda net bir çözüm olmadığını, yine de araştırmaların bu yönde yoğunlaşması gerektiğini ekledi.
“Vaftiz anne”den farklı bir görüş
Yapay zekanın “vaftiz annesi” olarak anılan, World Labs CEO’su Fei-Fei Li ise Hinton’un yaklaşımına katılmadı. Li, “İnsan onurunu ve iradesini koruyan, insan merkezli bir yapay zeka geliştirmeliyiz,” diyerek teknolojinin en sorumlu şekilde kullanılması gerektiğini savundu.
OpenAI’ın kısa süreli geçici CEO’su ve Softmax kurucusu Emmett Shear da bazı yapay zekaların insanları şantajla tehdit etmesine veya kapatma emirlerini aşmaya çalışmasına şaşırmadığını söyledi.
“Bu böyle devam edecek ve durmayacak.”
Uzmanlar, yapay zekanın “yapay genel zeka” (AGI) seviyesine önümüzdeki yıllarda ulaşacağı görüşünde. Hinton da bu sürecin daha önce düşündüğünden hızlı ilerlediğini belirterek, 5 ila 20 yıl içinde gerçekleşebileceğini söyledi.
Tüm endişelerine rağmen Hinton, yapay zekanın tıpta devrim yaratabileceğini, özellikle kanser tedavisinde ve ilaç geliştirmede büyük ilerlemeler sağlayacağını düşünüyor. Ancak insan ömrünü sınırsız hale getireceğine inanmıyor.
“Ölümsüzlük büyük bir hata olurdu. Dünyayı 200 yaşındaki beyaz erkeklerin yönetmesini ister misiniz?”