Son Dakika

Son Dakika

Elon Musk destekli OpenAI insan gibi metin yazabilen programı tehlikeli buldu yayınlamaktan vazgeçti

Elon Musk destekli OpenAI insan gibi metin yazabilen programı tehlikeli buldu yayınlamaktan vazgeçti
Metin boyutu Aa Aa

OpenAI adlı yapay zeka çalışmaları yürüten kuruluş metin yazarlığı alanında geliştirdikleri yazılımı denemeye karar verdi ve sonuçlar 'tehlikeli' bulundu. GPT-2 adlı yapay zeka algoritmasının yapabildiklerini görünce şoka uğrayan araştırmacılar çalışmanın tamamının yayınlanmamasına karar verdi.

Yazılım basit olarak kendisine verilen bir metinde sırada kullanılacak kelimeleri seçiyor ve metnin tutarlı şekilde devamını getiriyor. Tıpkı bir insan gibi yazabildiği görülen algoritma üzerindeki çalışmalar kötü amaçlarla kullanımı ve yol açabileceği zararlar düşünülerek şimdilik durduruldu.

Bir insandan farksız şekilde her konuda mükemmel metin yazarlığı yapabilen bir yazılımın özellikle 'yalan haber' üretimi ve sosyal medyada trendler oluşturmak veya siyasi, ekonomik saldırı amaçlarıyla robot hesaplarca kullanılabileceği öngörülüyor.

İnsan varlığına bir numaralı tehdit

Kendi kendini sürebilen Tesla otomobilleri ve kendi kendine iniş yapan roketler üreten SpaceX firmasının sahibi Elon Musk'ın en büyük finansörü olduğu OpenAI kar amacı gütmeyen ve pek çok alanda yapay zeka geliştiren bir organizasyon.

Musk yapay zekanın insanoğlunun varlığına bir numaralı tehdit olduğunu düşünüyor ve bu konuda yetkilileri her fırsatta uyarıyor. OpenAI'ın kurucularından olan Musk, bu organizasyonda yöneticilk yapmıyor ve yapılan araştırmalara müdahale etmiyor ancak içeriğini herkesten önce öğrenebiliyor.

Organizasyondaki araştırmacılar da çoğunlukla Musk'ın vizyonunu ve çekincelerini paylaşıyor. Bu nedenle sadece araştırmacıların kullanabilmesi ve testler yapabilmeleri için yazılımın tamamlanmış hali değil kısıtlı bir modeli yayınlanacak.

GPT-2'nin geliştirilmesinde 8 milyon web sayfasından 40 GB'lık veri toplandı. Yazılımın ilk modeli olan GPT için sadece 4 GB kullanılmıştı. Yazılım bir süre sonra kendi kendine öğrenmeye ve çok az bir done verilmiş olsa bile detaylı metinler oluşturmaya başladı.

Tamamen hayal ürünü şeylerden oluşan bir metni dahi kendi içerisinde son derece tutarlı şekilde tamamlayabilen GPT-2'nin özellikle fazla teknik olmayan içeriklerde çok başarılı olduğu gözlemlendi.

Boynuzlu atlar bulundu

Örneğin GPT-2 sadece ilk iki cümlesinden yola çıkarak 9 paragraflık bir haber metni yazabiliyor.

Aşağıdaki iki cümle GPT-2'ye verildi:

"Bilim insanları şoke eden bir keşifle Andes dağlarında daha önce ayak basılmamış bir vadide boynuzlu atlar buldu. Keşfi daha da ilginç yapan şey atların mükemmel şekilde İngilizce konuşuyor olması."

GPT-2 yazılımının devamını 9 paragrafla getirdiği metinden kısa bir bölüm:

"Dört boynuzlu, gümüş-beyaz renkli olan ve daha önce varlıkları bilinmeyen bu atlara bilim insanları ayırıcı özellikleri olan boynuzlarından yola çıkarak 'Ovid's Unicorn' ismini verdi.

La Paz Üniversitesi'nden evrimsel biolog Dr.Jorge Pérez ve araştırma ekibi Andes Dağları'ndaki bu vadide çalışmalarını sürdürüyor. Ekip şimdiye kadar bu alanda başka hiçbir insan veya hayvana rastlamadı. İlk bulgulara göre vadi doğal bir çeşme havuzu gibi şekillenmiş. Her iki tarafında kayalık karlı zirveler bulunuyor ve kar suları vadiyi besliyor...."

Gazeteciler bile farkı anlayamıyor

Yazılımı deneme amaçlı kullananlardan biri de İngiliz The Guardian gazetesi oldu. Gerçek bir konuda GPT-2 ile sahte bir haber hazırlayan gazete yazılımın haberi sadece 15 saniyede oluşturduğunu ve gazetecilerinin dahi metnin yapay zeka tarafından yazıldığını fark edemediğini duyurdu.

OpenAI GPT-2 ve benzeri yazılımlar hakkında altı ay içerisinde halka açık bir konferans ve tartışma seminerleri gerçekleştirmeyi planlıyor. Hedef bu alandaki stratejileri ve etik kurallar çerçevesini belirleyebilmek.

WhatsApp'ta ücretsiz bültenimize abone olun, Türkiye ve dünya gündeminden seçtiğimiz haberler her gün telefonunuza gelsin! Abone olmak için tıklayın