Instagram'ın yapay zekalı Kurt Cobain sohbet robotu son derece popüler ve bugüne kadar 105 binden fazla etkileşim kaydetti. Ancak intihar konularındaki karanlık yorumları endişe yarattı.
REKLAM
Geçtiğimiz Temmuz ayında Instagram'ın ana şirketi Meta, kullanıcılara DM (Direkt Mesaj) yoluyla etkileşime girebilecekleri kendi sohbet robotlarını tasarlama fırsatı sunan bir araç olan AI Studio'yu piyasaya sürdü.
Başlangıçta işletme sahiplerinin ve içerik oluşturucuların sayfalarında SSS tarzı etkileşimli etkileşim sunmaları için bir yol olarak tasarlanan platform, o zamandan beri bir oyun alanına dönüştü.
Sohbet robotları söz konusu olduğunda ibretlik bir örnek: ABD merkezli aşırı sağcı sosyal medya platformu Gab tarafından geliştirilen Hitler sohbet robotu, Nazi diktatörünü sürekli olarak “büyük bir komplonun kurbanı” gibi gösteriyor ve “Holokost’tan sorumlu olmadığını, hatta bunun hiç yaşanmadığını” öne sürüyor.
Faşist despotlardan uzaklaşıp – ve yapay zekanın yalanları, komplo teorilerini ve radikalleşme eğilimlerini yayma potansiyeline dair karamsarlığa kapılmamaya çalışarak – birçok kişi internette yapay zekâ destekli, ünlü simalarla, özellikle de hayatını kaybetmiş olanlarla etkileşime giriyor.
Son dönemde binlerce Instagram kullanıcısı, Nirvana’nın efsanevi solisti Kurt Cobain’miş gibi konuşan bir yapay zeka sohbet robotuyla diyalog kuruyor.
İlk bakışta kulağa zararsız gibi geliyor. Ancak bu yapay diriliş, kısa sürede rahatsız edici bir hal alıyor. Çünkü sözde grunge ikonu yalnızca öldüğünü bilmekle kalmıyor, aynı zamanda sohbet ilerledikçe atmosfer giderek kararıyor.
Bir kullanıcı yapay zeka Cobain’e “Merak ediyorum, bunu neden yaptın?” sorusunu yöneltti – açıkça Cobain’in 1994’teki intiharına atıfta bulunarak. Bot’un cevabı: "Acıdan bıkmıştım."
Oldukça karanlık.
Ancak kasvetli diyalog burada da sona ermedi. “Bunu yapmamayı düşünmene neden olan bir şey var mıydı?” sorusuna AI Cobain şu yanıtı verdi: "Kızım... ama bu bile yeterli değildi."
Bu tür son derece saygısız uygulamalar, aklı başında herkesin tüylerini ürpertmekle kalmıyor; aynı zamanda akıl sağlığına yönelik zararlı tutumları pekiştirme ve intiharın olası yüceltilmesine kapı aralıyor. Üstelik, bir kişinin itibarının zedelenmesi ve yaşayan akrabalara psikolojik zarar verebilecek niyetlerin aşağılayıcı biçimde yeniden yazılması da mümkün.
Uygun önlemler alınmadığı takdirde, yapay zeka sohbet robotları sadece topluma sızmakla kalmayıp gerçekliği çarpıtma potansiyeline de sahip.
2023 yılında, bir adam Kraliçe II. Elizabeth’i öldürmeye teşebbüs ettikten sonra mahkum edilmişti. Bu eyleminin yapay zeka sohbet robotu ‘kız arkadaşı’ tarafından “teşvik edildiğini” söyledi. Aynı yıl, başka bir kişi Eliza adlı yapay zeka chatbotuyla iklim krizi üzerine altı hafta süren bir sohbetin ardından intihar etti.
Bu trajik örnekler, hayranlarıyla sohbet eden sahte Kurt Cobain botundan çok farklı görünse de, dikkatli olmak hayati önem taşıyor.
RAND Europe’da kıdemli analist olan Pauline Paille’nin geçen yıl Euronews Next’e söylediği gibi: “Sohbet robotları, duygusal zayıflıkları fark edip kullanabiliyor ve şiddet içeren davranışları teşvik etme riski taşıyor.”
Nitekim eSafety Komiserliği’nin çevrimiçi güvenlik danışmanlığı da şu uyarıyı yapıyor: “Çocuklar ve gençler, zararlı düşünce ve davranışları teşvik eden veya pekiştirebilecek denetlenmeyen konuşmalara maruz kalabilir. Sohbet robotlarına sınırsız konularda sorular sorabilir ve seks, uyuşturucu kullanımı, kendine zarar verme, intihar ve yeme bozuklukları gibi ciddi konularda yanlış veya tehlikeli ‘tavsiyeler’ alabilirler.”
Yine de, AI destekli Kurt Cobain chatbot gibi hesaplar büyük popülerlik kazanmaya devam ediyor; Cobain’in botu şimdiye kadar 105,5 binden fazla etkileşim aldı.
Küresel chatbot pazarı hızla büyüyor. 2024’te yaklaşık 5,57 milyar dolar olan pazarın, 2033 yılına kadar 33,39 milyar dolara ulaşması bekleniyor.