内镜医生曹佳
26-05-09 14:07 微博认证:同济大学附属东方医院 消化内镜中心副主任

目前用AI看病的三大“黑洞”
2026年2月9日发表在《自然·医学》的一篇随机预注册研究,该研究探讨了大语言模型作为面向普通民众的医疗助手的可靠性。
单独测试大语言模型时,它可以准确识别94.9%的病例,平均能在56.3%的场景中给出正确的处理方案;但当真实参与者使用大语言模型提供的帮助时,仅能识别出不到34.5%的相关病症,给出正确处理方案的比例不到44.2%。
产生这么大差别的主要去以下三大原因
1.输入盲区
也就是说普通人给出的信息会不全,不够专业,缺少一些主要信息及关键细节
2.AI的顺从性人格
说的通俗点就是讨好型人格,如果在给它的信息中有某些倾向性说法,AI也会顺杆爬,给足情绪价值,但对于疾病的判断就会产生明显的偏差
3.AI的随机幻觉
也就是说,你问它一模一样的问题,它会给出不同的答案
更令我吃惊的是,研究结论中有一条是,用AI看病的准确性竟然还不如直接用搜索引擎,讲真,我个人觉得AI还是比BD靠谱的,但也许我是一名专业的医生,所以我问的问题还是出于专业的角度,提问也更专业吧。
所以,以目前的状况,我给出的建议,还是AI作为参考,有病还是看医生吧[抱一抱]
#医学 #人工智能 #人工智能看病 #医疗

发布于 安徽