The Guardian’ın yaptığı bir araştırma, Google’ın yapay zeka tarafından oluşturulan özetlerinin kullanıcılara hatalı sağlık bilgileri sunduğunu ortaya koydu.
Guardian gazetesinin, bazı bilgilerin yanıltıcı olduğunu ortaya koyan incelemesinin ardından Google’ın sağlıkla ilgili sorulara verilen bazı AI Overviews yanıtlarını kaldırdığı bildirildi.
AI Overviews, arama sonuçlarının en üstünde yer alan ve belirli bir konu ya da soruya yanıt olarak yapay zeka tarafından oluşturulan bilgi özetleridir.
Guardian’ın yaptığı inceleme, bu özetlerin bazılarının hatalı sağlık bilgileri içerdiğini ve kullanıcıları yanlış yönlendirme ya da zarar görme riskiyle karşı karşıya bırakabileceğini ortaya koydu.
Gazete, “karaciğer kan tahlillerinde normal aralık nedir?” ve “karaciğer fonksiyon testlerinde normal aralık nedir?” gibi sorulara verilen yanıtların bağlamdan kopuk, sayısal verilerle dolu olduğunu; ayrıca bu değerlerin uyruk, cinsiyet, etnik köken ve yaş gibi faktörlere göre değişebileceği gerçeğini göz ardı ettiğini tespit etti.
Guardian gazetesinin haberine göre Google, sağlıkla ilgili bazı sorular için arama sonuçlarının en üstünde kullanıcıya öne çıkan özetler gösterdi. Bu özetler, kullanıcının sorgusuyla en ilgili web sitesinden alınmış kısa paragraflardı.
Her iki durumda da Google, karaciğerde bulunan çeşitli maddelerin sağlıklı düzey aralıklarını listeledi. Örneğin, enerji üretimini düzenleyen alanin aminotransferaz (ALT), hasarlı kan hücrelerini tespit eden aspartat aminotransferaz (AST) ve proteinlerin parçalanmasına yardımcı olan alkalen fosfataz (ALP) değerleri bu özetlerde yer aldı.
Guardian’a göre, Google bu sayıları Yeni Delhi merkezli, kâr amacı güden bir Hint hastane zinciri olan Max Healthcare’den aldı.
Bu öne çıkan özetler, içerdikleri metin yapay zeka tarafından oluşturulmadığı için AI Overviews’ten farklı. Ancak Guardian’ın incelemesi, “[liver function test] lft reference range” veya “lft test reference range” gibi sorguların hâlâ yapay zeka özetleri ürettiğini gösterdi. Karaciğer fonksiyon testleri, karaciğerin işlevini değerlendirmek amacıyla protein ve enzim seviyelerini ölçen kan testleridir.
Ayrıca Google’ın, pankreas kanseri hastalarına yüksek yağlı yiyeceklerden kaçınmalarını önerdiği de bildirildi. Uzmanlar, bu tür bir tavsiyenin hastalıktan ölüm riskini artırabileceği uyarısında bulundu.
Guardian’ın soruşturması, uzmanların yapay zeka sohbet robotlarının “halüsinasyon” görmesi — yani doğru bilgi bulunmadığında uydurma yanıtlar üretmesi — konusunda uyarılar yaptığı bir dönemde geldi.
Euronews Next, Google’a bazı sağlık sorgularından AI Overviews’ü kaldırıp kaldırmadığını sordu ancak şirketten hemen bir yanıt alamadı.
Öte yandan Google, hafta sonu AI Overviews özelliğini e-posta hizmeti Gmail’e entegre ettiğini duyurdu. Yeni özellik, kullanıcıların e-postaları hakkında anahtar kelimeyle aramak yerine doğrudan sorular sorup yanıt almasına olanak tanıyor.