Yeni bir araştırma, tıbbi tavsiye aramak için yapay zeka sohbet robotlarını kullanmanın “tehlikeli” olabileceğini ortaya koydu.
Araştırma, tıbbi kararlar almak amacıyla yapay zeka kullanımının, sistemlerin “hatalı ve tutarsız bilgi sağlama eğilimi” nedeniyle hastalar için risk oluşturduğunu gösterdi.
Çalışma, Oxford Internet Institute ve Nuffield Department of Primary Care Health Sciences araştırmacıları tarafından yürütüldü ve bilimsel dergi Nature Medicine’da yayımlandı.
Çalışmanın eş yazarlarından Dr Rebecca Payne, bulguların “tüm abartıya rağmen, yapay zekanın bir hekimin rolünü üstlenmeye henüz hazır olmadığını” gösterdiğini söyledi.
Aynı zamanda bir pratisyen hekim (GP) olan Dr Payne, “Hastaların, semptomları hakkında büyük bir dil modeline soru sormanın tehlikeli olabileceğinin, yanlış teşhisler verebileceğinin ve acil yardım gerektiğini fark edemeyebileceğinin farkında olması gerekiyor.” diye ekledi.
Araştırmada, yaklaşık 1.300 katılımcıdan farklı senaryolar kullanılarak olası sağlık durumlarını belirlemeleri ve önerilen bir eylem planı sunmaları istendi.
Katılımcıların bir kısmı potansiyel bir teşhis ve sonraki adımları almak için büyük dil modeli (LLM) tabanlı yapay zeka yazılımlarını kullanırken, diğerleri bir pratisyen hekime görünmek gibi daha geleneksel yöntemleri tercih etti.
Araştırmacılar sonuçları değerlendirdi ve yapay zekanın çoğu zaman kullanıcıların ayırt etmekte zorlandığı “iyi ve kötü bilgilerin bir karışımını” sunduğunu buldu. Sohbet robotlarının artık “standartlaştırılmış tıbbi bilgi sınavlarında üstün başarı gösterdiğini” ancak tıbbi bir araç olarak kullanımının “kendi tıbbi semptomları için yardım arayan gerçek kullanıcılar açısından risk oluşturacağını” tespit ettiler.
Dr Payne, “Bu bulgular, sağlık gibi hassas ve yüksek riskli alanlarda insanları gerçekten destekleyebilecek yapay zeka sistemleri geliştirmenin zorluğunu ortaya koyuyor.” dedi.
Çalışmanın baş yazarı Andrew Bean, araştırmanın en yüksek performanslı LLM’ler için bile “insanlarla etkileşimin zorluk yarattığını” gösterdiğini ifade etti.
Bean, “Bu çalışmanın daha güvenli ve daha faydalı yapay zeka sistemlerinin geliştirilmesine katkı sağlamasını umuyoruz.” diye ekledi.
Kaynak: https://www.bbc.com/news/articles/cpd8l088x2xo
