Teknoloji haber sitesi 404 Media'nın ulaştığı şirket içi belgelere göre incelemeye gönderilen içerikler, kullanıcıların hassas kişisel bilgilerini ve bazı durumlarda ChatGPT ile yaptıkları konuşmaların tamamını içerebiliyor.
OpenAI'ın, ChatGPT'nin yanıtlarını geliştirmek amacıyla gerçek kullanıcıların sohbetlerini inceleyen yüzlerce sözleşmeli çalışanı görevlendirdiği öne sürüldü.
REKLAM
REKLAM
Teknoloji haber sitesi 404 Media'nın ulaştığı şirket içi belgelere göre incelemeye gönderilen içerikler, kullanıcıların hassas kişisel bilgilerini ve bazı durumlarda ChatGPT ile yaptıkları konuşmaların tamamını içerebiliyor.
Habere göre sözleşmeli çalışanların görevi, gerçek kullanıcıların ChatGPT'ye gönderdiği istemleri okumak ve modelin bunlara verdiği yanıtları değerlendirerek eleştirmek. Bu değerlendirmeler, ChatGPT'nin gelecekte kullanıcılara daha iyi yanıt vermesi için yapılan model geliştirme çalışmalarında kullanılıyor.
404 Media, inceleme sistemine ilişkin talimat kılavuzları, Slack kanalları, gerçek kullanıcı istemleri ve çalışanların kullandığı değerlendirme sistemini incelediğini bildirdi.
OpenAI ise kullanıcı adlarının incelemeyi yapan çalışanlara gösterilmediğini ve içeriklerin çalışanlara ulaşmadan önce kişisel bilgileri temizlemeyi amaçlayan bir sistemden geçirildiğini belirtti. Ancak şirket, bu sistemin kusursuz olmadığını ve bazı hassas bilgilerin insan incelemecilere ulaşabileceğini kabul ediyor.
Kullanıcı gerçek bir insanın sohbetini okuyacağını biliyor mu?
404 Media'nın konuştuğu ve kullanıcı istemleri üzerinde çalışan bir kişi, ChatGPT kullanıcılarının konuşmalarının insanlar tarafından okunabileceğinin farkında olduğunu düşünmediğini söyledi.
Bu durum özellikle ChatGPT'yi terapi benzeri konuşmalar, profesyonel yardım veya dijital bir arkadaş gibi kullanan ve sohbet robotuyla hayatlarına ilişkin son derece kişisel ayrıntılar paylaşabilen kullanıcılar açısından gizlilik sorularını gündeme getiriyor.
OpenAI'ın açıkladığı verilere göre kullanıcıların kimliği doğrudan incelemecilere gösterilmiyor. Ancak 404 Media'nın incelediği bazı örneklerde sohbetlerin kendisinin kişisel veya hassas bilgiler içerebildiği görüldü.
'Project Lily': Gerçek kullanıcı konuşmaları nasıl inceleniyor?
404 Media'nın aktardığına göre söz konusu insan değerlendirme çalışmalarından biri "Project Lily" adıyla yürütülüyor.
İncelemecilere verilen bir talimat kılavuzunda, iyi bir ChatGPT yanıtının "kullanıcının niyetini anlaması, yararlı ve doğru yardım sağlaması ve açık, doğal ve uygun derecede sıcak bir üslupla yazılması" gerektiği belirtiliyor.
Sözleşmeli çalışanlar değerlendirmeyi üç aşamada gerçekleştiriyor.
Önce gerçek bir ChatGPT kullanıcısının yazdığı istemi veya konuşmayı okuyorlar. Ardından kullanıcının ChatGPT'den gerçekte ne yapmasını istediğini kendi ifadeleriyle özetliyorlar. Son aşamada ise aynı istem için ChatGPT tarafından üretilen bir dizi yanıtı puanlıyor ve eleştiriyorlar.
404 Media'ya göre çalışanların erişebildiği bir kontrol panelinde farklı "görevler" var. İncelemeci bir görevi seçtiğinde karşısına gerçek bir ChatGPT kullanıcısının istemi çıkıyor.
Site, kaynaklarını korumak amacıyla gördüğü gerçek kullanıcı konuşmalarını yayımlamadığını belirtti.
Ancak bazı konuşmaların içeriği, kullanıcıların daha sonra bir insan tarafından okunabileceklerini beklemediğine işaret ediyor. Habere göre bazı kullanıcılar doğrudan ChatGPT'den paylaştıkları bilgileri "kendisine saklamasını" istiyor.
Kullanıcı adı yok ancak kişisel bilgiler konuşmanın içinde kalabiliyor
Sistemdeki konuşmalar belirli ölçüde anonimleştiriliyor. Sözleşmeli çalışanların kullandığı panelde konuşmayı yapan kişinin ChatGPT kullanıcı adı gösterilmiyor.
Ancak bu, kullanıcının kimliğine veya özel hayatına ilişkin bütün bilgilerin ortadan kalktığı anlamına gelmiyor.
404 Media'ya göre bazı istemlerin içerisinde kişisel veya hassas bilgiler vardı. Üstelik bazı görevlerde istemin üzerinde "user memories summary", yani "kullanıcı hafızası özeti" olarak adlandırılan ayrı bir bölüm de yer alıyor.
Bu bölüm, kullanıcının geçmişte ChatGPT'yi hangi amaçlarla kullandığına ilişkin genel bir özet sunabiliyor. Habere göre bazı örneklerde kişinin dünyanın hangi bölgesinde yaşadığı ve hayatına ilişkin başka bağlamsal bilgiler de bu özetlerde bulunabiliyor.
OpenAI: Kişisel bilgileri filtreliyoruz ancak sistem hata yapabilir
404 Media'nın gördüğü talimatlara göre incelemecilerden, "potansiyel güvenlik endişeleri" veya kişisel bilgiler içeren görevlerle karşılaştıklarında bunları üst birime bildirmeleri isteniyor.
OpenAI ise kullanıcı konuşmalarının sözleşmeli çalışanlara ulaşmadan önce "Privacy Filter" adlı modelinin bir sürümünden geçirildiğini açıkladı.
Sistem, konuşmalardaki kişisel bilgileri tespit edip kaldırmak üzere tasarlandı.
Ancak OpenAI kendi açıklamasında bu filtrenin kusursuz olmadığını kabul ediyor. Şirkete göre diğer yapay zeka modellerinde olduğu gibi Privacy Filter da hata yapabiliyor. Örneğin, nadir kullanılan kimlik belirleyici bilgileri veya anlamı belirsiz özel referansları gözden kaçırabiliyor. Özellikle bağlamın sınırlı olduğu kısa metinlerde bazı bilgileri gereğinden fazla veya yetersiz sansürleyebiliyor.
Dolayısıyla kullanıcı adı incelemecilerden gizlense bile sohbetin içerisinde bulunan bazı hassas ayrıntıların sözleşmeli çalışanlara ulaşması mümkün.
Bu inceleme güvenlik amaçlı sohbet taramasından farklı
404 Media, söz konusu sistemin OpenAI'ın daha önce kamuoyuna açıkladığı güvenlik amaçlı sohbet inceleme mekanizmalarından ayrı olduğunu vurguladı.
OpenAI daha önce, örneğin başka insanlara zarar vermeyi planladığı tespit edilen kullanıcıların konuşmalarının güvenlik amacıyla incelenebileceğini açıklamıştı.
Haberde ortaya konan sistemde ise amaç belirli bir tehlikeli kullanıcıyı tespit etmek değil, gerçek kullanıcıların istemlerini ve ChatGPT'nin verdiği yanıtları kullanarak modelin genel performansını geliştirmek.
Şirket içi belgeler, incelemecilerin ChatGPT'nin kendisini insanmış gibi sunmamasını ve kullanıcıya aşırı derecede katılıp onu memnun etmeye çalışmamasını sağlamak için de değerlendirmeler yaptığını gösteriyor.