Google, bazı yapay zeka sağlık özetlerini sistemden çıkardı.
Şirket, bir konu veya soru hakkında temel bilgilerin anlık görüntülerini sunmak için üretken yapay zekayı kullanan Yapay Zeka Genel Bakışları (AI Overviews) özelliğinin “faydalı” ve “güvenilir” olduğunu belirtmişti ancak arama sonuçlarının en üstünde beliren bu özetlerin bir kısmı, hatalı sağlık bilgileri sunarak kullanıcıları zarar görme riskiyle karşı karşıya bıraktı.
Uzmanların “tehlikeli” ve “endişe verici” olarak tanımladığı bir vakada Google, ciddi karaciğer hastalığı olan kişilerin kendilerini yanlış bir şekilde sağlıklı sanmalarına yol açabilecek, hayati önem taşıyan karaciğer fonksiyon testleri hakkında uydurma bilgiler sundu.
“Karaciğer kan testleri için normal aralık nedir?” yazıldığında sistemin çok sayıda sayısal veri sunduğu fakat bağlamın zayıf olduğu, hastaların uyruğu, cinsiyeti, etnik kökeni veya yaşı gibi faktörlerin ise hesaba katılmadığı tespit edildi.
Uzmanlara göre Google’ın yapay zekasının genellikle sunduğu değerler, tıbbi olarak kabul edilen gerçek referans aralıklarından ciddi şekilde sapabiliyor. Bu durum, durumu ağır olan hastaların test sonuçlarını yanlış yorumlamasına ve gerekli doktor kontrollerini ertelemesine yol açabilecek kadar riskli.
İncelemenin ardından şirket, “Karaciğer kan testleri için normal aralık nedir” ve “Karaciğer fonksiyon testleri için normal aralık nedir” terimleri için yapay zeka özetlerini kaldırdı.
Bir Google sözcüsü konuya dair şu açıklamayı yaptı: “Arama içindeki bireysel kaldırma işlemleri hakkında yorum yapmıyoruz. Yapay Zeka Genel Bakışlarının bazı bağlamları kaçırdığı durumlarda geniş kapsamlı iyileştirmeler yapmak için çalışıyoruz ve ayrıca politikalarımız kapsamında uygun olan yerlerde önlemler alıyoruz.”
Karaciğer sağlığı vakfı British Liver Trust’ın iletişim ve politika direktörü Vanessa Hebditch, “Bu gelişme mükemmel bir haber ve belirtilen durumlarda Google Yapay Zeka Genel Bakışlarının kaldırıldığını görmekten memnuniyet duyuyoruz” dedi.
Hebditch, “Yine de soru farklı bir şekilde sorulursa, potansiyel olarak yanıltıcı bir yapay zeka özeti hala verilebilir ve yapay zeka tarafından üretilen diğer sağlık bilgilerinin hatalı ve kafa karıştırıcı olabileceği konusundaki endişemiz devam ediyor”. diyerek uyarısını sürdürdü.
Araştırma, “lft referans aralığı” veya “lft test referans aralığı” gibi küçük kelime değişiklikleriyle yapılan aramalarda yapay zeka özetlerinin hâlâ devreye girdiğini de ortaya koydu. Hebditch, bunun büyük bir endişe kaynağı olduğunu vurguladı.
“Bir karaciğer fonksiyon testi veya LFT, farklı kan testlerinden oluşan bir bütündür. Sonuçları anlamak ve bir sonraki adımda ne yapılacağını bilmek karmaşıktır; bir dizi sayıyı karşılaştırmaktan çok daha fazlasını içerir ancak Yapay Zeka Genel Bakışları, testlerin listesini kalın puntolarla sunarak okuyucuların bahsedilen sayıların kendi testleri için doğru olmayabileceğini gözden kaçırmasını çok kolaylaştırıyor.
Ayrıca yapay zeka özetleri, birinin ciddi karaciğer hastalığı varken ve daha fazla tıbbi bakıma ihtiyacı varken söz konusu testlerden normal sonuçlar alabileceği konusunda uyarıda bulunmuyor. Bahsedilen hatalı güven telkin edici yaklaşım çok zararlı olabilir.”
Küresel arama motoru pazarında %91’lik bir paya sahip olan Google, kendisine sunulan yeni örnekleri incelediğini bildirdi.
Hebditch’e göre asıl sorun, Google’ın tek tek örnekleri kaldırmakla yetinmesi ve sağlıkla ilgili yapay zeka özetlerinin yarattığı daha büyük yapısal problemi ele almaması.
Kanıta dayalı sağlık bilgilerini teşvik eden Hasta Bilgilendirme Forumu Başkanı Sue Farrington, özetlerin kaldırılmasını olumlu karşılasa da endişelerinin baki olduğunu ifade etti:
“Bu durum iyi bir sonuç ancak Google’ın sağlıkla ilgili arama sonuçlarına olan güveni sürdürmek adına gerekenlerin yalnızca ilk adımıdır. Dışarıda hala Google Yapay Zeka Genel Bakışlarının insanlara hatalı sağlık bilgileri verdiği çok fazla örnek bulunuyor.”
Farrington, dünya genelinde milyonlarca yetişkinin güvenilir sağlık bilgilerine erişmekte zorlandığını dile getirdi. “İşte tam da bahsedilen nedenden dolayı Google’ın insanları sağlam, araştırılmış sağlık bilgilerine ve güvenilir sağlık kuruluşlarından gelen bakım tekliflerine yönlendirmesi çok önemlidir.”
Yapay zeka özetleri, başlangıçta Google’a vurgulanan diğer örnekler için hala görünmeye devam ediyor. Bunlar arasında uzmanların “tamamen yanlış” ve “gerçekten tehlikeli” olarak tanımladığı kanser ve ruh sağlığı hakkındaki bilgiler yer alıyor.
Özetlerin neden kaldırılmadığı sorulduğunda Google, bu içeriklerin saygın kaynaklara bağlantı verdiğini ve uzman tavsiyesi almanın önemli olduğu durumlarda insanları bilgilendirdiğini savundu.
Şirket sözcüsü, “Klinisyenlerden oluşan dahili ekibimiz bizimle paylaşılanları inceledi ve birçok durumda bilgilerin yanlış olmadığını, ayrıca yüksek kaliteli web siteleri tarafından desteklendiğini saptadı.” şeklinde konuştu.
Teknoloji web sitesi Futurism’in kıdemli editörü Victor Tangermann, inceleme sonuçlarının Google’ın “yapay zeka aracının tehlikeli sağlık dezenformasyonu yaymamasını sağlamak adına” daha fazla yol kat etmesi gerektiğini gösterdiğini belirtti.
Google ise yapay zeka özetlerinin yalnızca yüksek güven duyulan sorgularda gösterildiğini ve özetlerin kalitesini birçok farklı bilgi kategorisinde sürekli olarak ölçtüğünü, incelediğini savundu.
Kaynak: https://www.theguardian.com/technology/2026/jan/11/google-ai-overviews-health-guardian-investigation
