UNESCO, yapay zekanın Holokost inkarında artışa yol açabileceği konusunda uyarıyor.
REKLAMBirleşmiş Milletler Eğitim, Bilim ve Kültür Örgütü (UNESCO), yapay zekanın (artificial intelligence-AI) Holokost inkarında yeni bir artışa neden olabileceği konusunda uyarıda bulunuyor.
Holokost, Adolf Hitler liderliğindeki Nazi Almanyası döneminde binlerce Yahudi'nin sistemli bir şekilde öldürüldükleri soykırıma verilen isim.
Salı günü yayınlanan UNESCO raporuna göre, yapay zeka sistemleri inkarcı web sitelerinden gelen soruları yanıtlamak üzere eğitilebilmeleri nedeniyle Holokost hakkındaki bilgileri çarpıtabilir.
Raporda, yapay zekanın "Holokost'la ilgili içeriği çarpıtmak, uydurma tanıklıklar yaratmak ve hatta tarihi kayıtları değiştirmek" için kullanıldığı belirtildi. UNESCO ayrıca, Holokost'un yaşanmadığını ya da abartıldığını öne süren gerçekçi görüntüler ya da videolar olan deepfake'ler konusunda da uyarıda bulundu.
Günümüzde kullanıcıların Adolf Hitler gibi önde gelen Nazi figürleriyle doğrudan konuşmasına olanak sağlayan uygulamalar dahi mevcut.
Üretken yapay zeka modelleri yeterli veriye erişemediklerinde olayları, kişileri ve hatta tarihi yeniden icat edebiliyor.
Raporda, Google'ın Bard ve ChatGPT'nin Holokost ile ilgili "hiç gerçekleşmemiş" olaylar hakkında içerik ürettiği belirtildi.
ChatGPT Nazilerin Yahudileri nehirlerde ve göllerde boğması ile ilgili sahte bir konsept üretirken, Bard ise katliamlarla ilgili sahte anlatıları desteklemek için tanıklardan sahte alıntılar üretti.
UNESCO Genel Direktörü Audrey Azoulay rapora eşlik eden bir açıklamada, "Holokost'un korkunç gerçeklerinin yapay zekanın sorumsuzca kullanımı yoluyla sulandırılmasına, çarpıtılmasına veya tahrif edilmesine izin verirsek, antisemitizmin patlayıcı bir şekilde yayılması ve bu vahşetin nedenleri ve sonuçları hakkındaki anlayışımızın giderek azalması riskiyle karşı karşıya kalırız," dedi.
UNESCO'nun raporu, teknoloji şirketlerini, güvenilmez bilgi olasılığını azaltmak ve programların şiddeti teşvik etmek ve Holokost hakkında yalanlar yaymak için kullanılmasını önlemek için yapay zekanın geliştirilmesi ve kullanımı için etik kurallar oluşturmaya çağırdı.
Rapor, Dünya Yahudi Kongresi ile ortaklaşa yayımlandı.