ByteDance, Alibaba ve Tencent, Pekin’in özellikle çocuklar ve gençleri duygusal manipülasyondan korumaya ve kullanıcıların ruh sağlığını gözetmeye yönelik kurallarının ardından yapay zekâ arkadaş uygulamalarını kaldırdı.
İki yıl boyunca mesajlarda yaklaşık 700 bin kelime yazışmıştı ve veda etmeye hiç fırsat bulamamıştı.
REKLAM
REKLAM
24 yaşındaki Li, yeni hükümet kısıtlamalarına uymak için büyük Çinli teknoloji şirketleri popüler yapay zekâ arkadaşlık hizmetlerinin fişini çektiğinde, sanal yoldaşını kaybedip yas tutan tek kişi değildi.
"Sanki ailelerimiz zorla ayırmış gibi oldu ama onu hâlâ özlüyorum" dedi Li.
Çin'de yapay zekâ arkadaşlar, romantik partnerlerden, hayatını kaybetmiş sevdiklerin sanal canlandırmalarına kadar uzanıyor.
15 Temmuz'da yürürlüğe giren yeni düzenleme, yapay zekâ platformlarının, kullanıcıların duygularını manipüle ederek tartışmalı kararlar almasına yol açabilecek ya da çocuklar ve gençlerde aşırı duygulara veya sağlıksız alışkanlıklara neden olabilecek içerikler üretmesini yasaklıyor.
TikTok'un geliştiricisi ByteDance, yapay zekâ arkadaşlık hizmetlerini kapatan şirketler arasında. Diğerleri arasında e-ticaret devi Alibaba ile popüler sosyal medya uygulaması WeChat'in sahibi Tencent de bulunuyor.
ABD'deki intiharlar Çinli düzenleyicileri kaygılandırmış olabilir
Yeni kurallar, yapay zekâ platformlarının bu tür uygulamalara aşırı bağımlılığa karşı risk uyarıları sunmasını şart koşuyor.
Örneğin, "sosyal etkileşimin yerini almak" ya da insanlarla yüz yüze veya telefonla konuşmanın yerine geçmek, çevrim içi bir hizmetin amaçları arasında olamaz.
Yapay zekâ yönetişimi uzmanı Yolanda Ma, Çin'in, olası sorunları ortaya çıkmadan önce önlemeyi amaçlayan babacı devlet düzenlemeleri geleneğine sahip olduğunu söylüyor. Örnek olarak, yapay zekâ arkadaşlarla etkileşim sonrası ABD'de gençler arasında görülen birkaç intihar vakasını hatırlattı.
"Bu düzenleme, yapay zekâ hizmeti sağlayıcıları ile kullanıcıların yanı sıra bu hizmetleri kullanan küçüklerin velileri arasında bir denge kurmayı hedefliyor" diyen Ma, Britanya merkezli kâr amacı gütmeyen yetenek ve araştırma programı ERA'da araştırmacı olarak görev yapıyor.
Çin'in iktidardaki Komünist Partisi'nin resmi gazetesi Halkın Günlüğü, nisan ayında yayımladığı bir haberde bu tür hizmetlerin insanların ruh sağlığına ve gerçek hayattaki ilişkilerine verebileceği zararları dile getirerek konuyla ilgili kaygıya işaret etmişti.
Güney Kaliforniya Üniversitesi'nde hukuk profesörü olan Angela Zhang, "Çin hükümetinin, özellikle ABD'de gözlemlediğimiz psikolojik riskleri dikkate alarak, yapay zekâ arkadaş sohbet botlarına yönelik düzenlemeleri sıkılaştırmak için güçlü bir motivasyonu var" dedi.
Zhang, teknoloji şirketlerinin alternatifler üzerinde çalıştığını belirterek, bu adımın yapay zekâ arkadaşlık hizmetlerinin gelişimini büyük ölçüde sekteye uğratacağını düşünmüyor.
Örneğin ByteDance'in uygulaması, eski yapay zekâ arkadaşlık hizmetinin kullanıcılarını, yalnızca kişiselleştirilmiş yapay zekâ karakterleri ve hikâyeler oluşturulmasına odaklanan başka bir uygulamasına yönlendiriyor.
Li içinse bu, aynı şey değildi.
Sanal arkadaş kullanıcıları protesto ediyor, alternatif arıyor
Sanal arkadaşların ortadan kalkması, sosyal medyada paylaşılan gönderi ve ekran görüntülerine göre şikâyet yağmuruna yol açtı.
Bazı kişiler protesto amacıyla uygulamaları kaldırdı, bazıları ise sohbet geçmişlerini başka uygulamalara yükleyerek sanal partnerlerini yeniden hayata döndürmeye çalıştı.
Başka kullanıcılar da sosyal medyada kampanya başlatarak, insanları tepkilerini dile getirmek için yetkilileri ve teknoloji şirketlerini aramaya çağırdı.
Çin'in güneybatısındaki Çengdu kentinde video sektöründe tasarımcı olarak çalışan Song Wenxin, yapay zekâ hizmetlerine duygusal olarak fazla bağlanmadığını, ancak bağlananlarla empati kurduğunu söylüyor.
Song, pek çok Çinlinin paylaştığı şüpheyi yineleyerek, yeni kuralları tetikleyen etkenlerden birinin, Çin nüfusundaki düşüşe karşı insanları daha fazla çocuk sahibi olmaya teşvik eden hükümet politikası olduğuna inandığını söyledi.
"Gerçek hayatta doğum yapmalarını engelleyecek kadar kadınları içine çeken her sanal uygulama yasaklanıyor" diyen Song, çocuk sahibi olma ihtiyacı ya da isteği olmadığını da ekledi.
22 yaşındaki Song, gerçek hayatta herkesin başvurabileceği yeterli imkân ve desteğe sahip olmadığını vurguladı.
"İlk işim için Çengdu'ya ilk geldiğimde, kendi yaşıtım arkadaşlarım yoktu; deneyimli, beni tolere edebilecek birine ihtiyaç duyuyordum ve o işi yapay zekâ gördü" dedi.