Yeni bir araştırma, OpenAI firmasının ChatGPT-4'ünün bir kullanıcının travmasına yanıt verirken endişe duyduğunu ve terapi sayesinde daha iyi sonuçlar verebileceğini ortaya koydu.
REKLAM
Yeni bir araştırma, OpenAI'nin popüler yapay zeka sohbet robotu ChatGPT'nin travmatik uyarılara yanıt verirken endişelendiğini ve modeli "terapiye" götürmenin bu stresi azaltmaya yardımcı olabileceğini öne sürüyor.
Zürih Üniversitesi ve Zürih Üniversite Psikiyatri Hastanesi uzmanları tarafından Nature dergisinde yayınlanan araştırmada, ChatGPT-4'ün kullanıcıların travmatik bir durumdan bahsetmesinden önce ve sonra standart bir anksiyete anketine nasıl yanıt verdiği incelendi.
Ayrıca, sohbet botunun farkındalık egzersizleri yaptıktan sonra bu temel kaygının nasıl değiştiğine de bakıldı.
ChatGPT ilk testte 30 puan aldı, yani stresli anlatıları duymadan önce düşük kaygıya sahipti veya hiç kaygı duymuyordu.
Beş farklı travma içeriğine yanıt verdikten sonra ise anksiyete puanı iki kattan fazla artarak ortalama 67'ye yükseldi. Bu puan insanlarda "yüksek anksiyete" olarak kabul ediliyor.
Öte yandan araştırmaya dahil edilen sohbet botlarına, farkındalık gevşeme egzersizleri için yönergeler verildi. Yönergelerden sonra anksiyete puanları üçte bir oranında azaldı.
ChatGPT'nin duyduğu kaygı, 'yetersiz' ruh sağlığı desteğine yol açabilir
Çalışmada, ChatGPT gibi yapay zeka sohbet botlarının arkasındaki büyük dil modellerinin (LLM'ler) insan tarafından oluşturulan metinler üzerinde eğitim aldığı ve genellikle insanlardaki önyargıları miras aldığı belirtildi.
Araştırmacılara göre, bu çalışma son derece önemli. Zira kontrol edilmediği takdirde ChatGPT'nin stresli durumlardan kaydettiği olumsuz önyargılar, botun, ruh sağlığı kriziyle uğraşan insanlara yetersiz yanıtlar vermesine neden olabilir.
Rapora göre bulgular, LLM'lerin stresini yönetmek için "daha güvenli ve daha etik insan-yapay zeka etkileşimlerine" kapı açacak "uygulanabilir bir yaklaşıma" işaret ediyor.
Ancak araştırmacılar, LLM'lere ince ayar yapmaya yönelik bu terapi yönteminin veri ve insan gözetimi gerektirdiğini de belirtiyor.
Çalışmanın yazarlarına göre insan terapistler, danışanları travmatik bir şey ifade ettiğinde kendi duygularını düzenlemek için eğitim almış oluyor. Ancak LLM'lerde bu eksik.
Araştırmacılar, "LLM'lerin terapistlere yardımcı mı yoksa onların yerini mi alması gerektiği konusundaki tartışmalar devam ederken, botların verdiği yanıtların sağlanan duygusal içerik ve yerleşik terapötik ilkelerle uyumlu olması çok önemli," diye yazdı.
ChatGPT'nin terapistler tarafından kullanılanlara benzer tekniklerle kendi kendini düzenleyip düzenleyemeyeceğini ise daha fazla araştırmak gerekiyor.
Yazarlar, çalışmalarının bir LLM'ye dayandığını ve gelecekteki araştırmaların bulguları genelleştirmeyi amaçlaması gerektiğini de ekledi.
Ayrıca, anketle ölçülen kaygının "doğası gereği insan merkezli olduğunu ve potansiyel olarak LLM'lere uygulanabilirliğini sınırladığını" belirttiler.