The Guardian'ın yaptığı bir araştırma, Google'ın yapay zekâ üretimi özetlerinin kullanıcılara yanlış sağlık bilgileri verdiğini ortaya koydu.
Guardian gazetesinin bazı bilgilerin yanıltıcı olduğunu ortaya koyan bir incelemesinin ardından, Google'ın sağlıkla ilgili sorular için bazı AI Overviews yanıtlarını kaldırdığı bildirildi.
AI Overviews, arama sonuçlarının en üstünde bir konuya ya da soruya yanıt olarak bilgi sunan, yapay zeka tarafından oluşturulan özetlerdir.
Guardian'ın yaptığı bir inceleme, bazı özetlerin hatalı sağlık bilgileri içerdiğini ve insanları zarar görme riskiyle karşı karşıya bıraktığını ortaya koydu.
Gazete, "karaciğer kan tahlillerinde normal aralık nedir?" ve "karaciğer fonksiyon testlerinde normal aralık nedir?" gibi sorulara yanıt olarak AI Overviews'ün bağlamdan yoksun yığınla rakam sunduğunu tespit etti. Yanıtlar ayrıca uyruk, cinsiyet, etnik köken veya yaşa göre değişebilecek farklılıkları da dikkate almıyordu.
Her iki soruda da Google arama sonuçlarının en üstünde, kullanıcının sorusuyla en ilgili web sitesinden alınmış bir paragraf olan öne çıkan özet gösterdi.
Her iki soru için de Google, özetinde karaciğerde bulunan çeşitli türdeki maddelerin sağlıklı düzey aralıklarını çıkardı; örneğin enerji üretimini düzenleyen alanin aminotransferaz (ALT), hasarlı kan hücrelerini tespit eden aspartat aminotransferaz (AST) ve proteinlerin parçalanmasına yardımcı olan alkalen fosfataz (ALP).
Guardian'a göre Google, sayıları Yeni Delhi merkezli, kâr amacı güden bir Hint hastane zinciri olan Max Healthcare'den çekti.
Öne çıkan özetler, içlerindeki metin yapay zeka tarafından üretilmediği için AI Overviews'ten farklıdır.
Guardian'ın incelemesi, "[liver function test] lft reference range" ya da "lft test reference range" gibi bu soruların farklı biçimlerinin de hâlâ yapay zeka özetleri ürettiğini ortaya koydu. Karaciğer fonksiyon testleri, karaciğerin ne kadar iyi çalıştığını anlamak için protein ve enzimleri ölçen kan testleridir.
Google'ın pankreas kanseri olan kişilere yüksek yağlı yiyeceklerden kaçınmalarını önerdiği de bildirildi; uzmanlar, bunun hastalıktan ölüm riskini artırabileceği için iyi bir tavsiye olmadığını Guardian'a söyledi.
Guardian'ın soruşturması, uzmanların yapay zeka sohbet robotlarının "halüsinasyon görmesi", yani doğru bilgi olmadığında uydurma yanıtlar üretmesi konusunda alarm verdiği bir dönemde geldi.
Euronews Next, bazı sağlık sorgularından AI Overviews'ü kaldırıp kaldırmadığını sormak için Google ile temasa geçti ancak hemen yanıt alamadı.
Google, bu hafta sonu AI Overviews'ü e-posta hizmeti Gmail'e eklediğini açıkladı.
Yeni özellik, kullanıcıların anahtar kelimeyle aramak yerine e-postaları hakkında sorular sorup yanıt almalarına imkan tanıyor.