OpenAI'nin Avrupa'nın GDPR kurallarını ihlal ettiği iddiasıyla Norveç Veri Koruma Kurumu'na şikayette bulunuldu.
REKLAM
OpenAI, yapay zeka sohbet robotu ChatGPT’nin yanlışlıkla bir Norveçli adamı iki çocuğunu öldürmekten hüküm giymiş gibi göstermesinin ardından, bir Avrupa gizlilik hakları grubunun hedefi haline geldi.
Arve Hjalmar Holmen, ChatGPT'ye kendisi hakkında bilgi sorduğunda, yapay zeka ona “iki oğlunu öldürmekten ve üçüncü oğlunu öldürmeye teşebbüs etmekten suçlu bulunarak 21 yıl hapis cezasına çarptırıldığı” yönünde tamamen uydurma bir hikâye sundu.
Ancak hikâyenin tümü kurgu değildi; ChatGPT, Holmen’in çocuklarının sayısını, cinsiyetini ve memleketini doğru aktardı.
Yapay zeka sohbet robotlarının, "halüsinasyon" olarak adlandırılan yanıltıcı veya yanlış yanıtlar üretebildiği biliniyor. Bu durum, yapay zeka modelinin eğitildiği verilerdeki önyargılar veya hatalardan kaynaklanabiliyor.
Avusturya merkezli gizlilik savunuculuk grubu Noyb, Perşembe günü OpenAI'ye karşı şikayette bulunduğunu duyurdu ve Norveçli adamın aldığı yanıtın ekran görüntüsünü paylaştı.
Noyb, Norveç makamlarına sunduğu şikayette ChatGPT’nin yanıt verdiği tarihi redakte etti. Ancak grup, olayın ardından OpenAI'nin modelini güncellediğini ve sohbet robotunun artık kim oldukları sorulduğunda insanlar hakkında bilgi aradığını belirtti.
Bu değişiklik, ChatGPT'nin artık Hjalmar Holmen'in oğullarını öldürdüğünü söylemediği anlamına geliyor. Ancak Noyb, yanlış bilgilerin hala büyük dil modeli (LLM) veri setinin bir parçası olabileceğini ve OpenAI’nin kullanıcı verilerini eğitim amacıyla sistemine geri beslemesi nedeniyle Holmen’in kendisi hakkındaki yanlış bilgilerin kalıcı olarak silinip silinmediğini bilmesinin mümkün olmadığını vurguladı.
'İnsanlar kolayca itibar kaybına uğrayabilir'
"Bazıları 'ateş olmayan yerden duman çıkmaz' diye düşünüyor. Birilerinin bu çıktıyı okuyup doğru olduğuna inanması beni en çok korkutan şey," dedi.
Noyb, OpenAI'nin Avrupa'nın GDPR kurallarını, özellikle de şirketleri işledikleri kişisel verilerin doğru ve güncel olduğundan emin olmak zorunda bırakan Madde 5 (1) (d)'yi ihlal ettiğini iddia ederek Norveç Veri Koruma Kurumu'na şikayette bulundu.
Noyb, Norveç'teki Datatilsynet'ten OpenAI'ye hakaret içeren çıktıyı silmesini ve yanlış sonuçları ortadan kaldırmak için modeline ince ayar yapmasını emretmesini istedi.
Ayrıca, 'gelecekte benzer ihlalleri önlemek için' OpenAI tarafından idari para cezası ödenmesini istedi.
"Yasaya uymadığınıza dair bir feragatname eklemek yasayı ortadan kaldırmaz. YZ şirketleri, yanlış bilgileri dahili olarak işlemeye devam ederken, kullanıcılardan yanlış bilgileri 'gizleyemez'" dedi.
"YZ şirketleri, GDPR açıkça geçerli olduğu halde sanki kendileri için geçerli değilmiş gibi davranmayı bırakmalıdır. Halüsinasyonlar durdurulmazsa, insanlar kolayca itibar kaybına uğrayabilir," diye ekledi.
Euronews Next yorum için OpenAI'ye ulaştı.