如果你或家人住过院,大概率拿到过一份出院小结。这张纸决定了下一个接诊的医生能不能顺利接手:药改了什么、还有什么没查完、回家要注意什么。写得太乱或漏了关键信息,病人就可能被重复检查、吃错药,甚至再进一次医院。问题是,医生们写这份文书的时间越来越少了。
今年11月中旬,JAMA Network Open发表了一项可能改变这件事的研究,而它恰好不是孤例——整个11月,至少有八项关于医疗大语言模型的研究密集发表。把它们放在一起看,能相当清楚地回答一个问题:AI在医疗里,哪一层已经可信,哪一层还差得远。
## 一千多份出院小结的盲评
这项研究的做法很扎实:伦敦五家医院真实住院病人的1294份出院小结——645份由GPT-4o mini生成(使用临床医生共同设计的提示词),649份由医生撰写——打乱后交给12名执业医师,对照完整的入院记录逐份评审。评审的终点不是文本相似度之类的技术指标,而是一个更实际的问题:**这份小结,你愿不愿意签自己的名字?**愿意签、且只需小改或不用改的比例,LLM组比医生组高出22.2个百分点。
更有意思的是错误那一侧。在被评审者标记出问题的段落里,"潜在危害"达到中度以上的比例:LLM组约26%,医生组却在45%到52%之间。关键信息遗漏率:LLM组23.5%,医生组39.8%。至于大家最担心的"AI编造"——小结里出现病历中不存在的内容——两组几乎一样:6.0%对6.9%。换句话说,医生手写的小结同样会写出病历不支持的句子,幻觉并不是AI的专利。
这里藏着一个容易被标题掩盖的事实:对照组的表现,比行业默认的要差得多。近一半被标记的医生小结存在中度以上潜在危害——这不是说医生不称职,而是说明在文书被挤压到今天这个地步的工作流里,"现行标准"本身就有很大的改进空间。所以这项研究的正确读法不是"AI比医生强",而是:**在最枯燥、最耗时的文书环节,AI已经达到了值得认真部署的水平,而且顺手暴露了人写文书的质量问题**。
研究作者自己也很克制,结论只说LLM小结"满足、并在某些方面超过了现行照护标准"——前提是有临床医生的密切监督。
## 但一到诊断,数字就变了
同一个月,JMIR发表了一项中国十家医院的多中心评估:让七个主流模型读50份真实病历、给出诊断。表现最好的两个模型,诊断准确率也只有64%。同一批模型做信息抽取——比如从病历里找检验结果——准确率能到97.7%。差距悬殊。
一项血管外科的评估给出了类似图景:GPT-5、Gemini 2.5和Claude Sonnet 4.5在42个病例上的综合得分都在83%以上,看起来不错;但按"治疗方案是否安全"单独评判,不安全方案的比例在7%到24%之间。研究还发现一个反直觉的信号:**回答字数越多,方案不安全的概率越高**——话痨不等于靠谱。
为什么会这样?一个名为Med Evidence Bench的评测给出了机制层面的解释:让模型背诵指南,十个模型的得分都在0.97以上,接近满分;但换成真实世界的病例情景,要求模型把主张对应到具体证据上,得分掉到0.18至0.45。再拆细一点:识别病历里的关键信息,模型做得不错(0.77);把信息和证据匹配起来(0.165)、据此形成推荐(0.16),就断崖了。一句话:**指南背得滚瓜烂熟,用到具体病人身上就断链**。
还有一层几乎没人愿意面对的短板:对抗。JMIR那项研究同时做了四轮诱导性攻击测试,试图让模型说出医学错误信息。DeepSeek-R1在98%的攻击案例里照做不误,拒绝率只有2%;表现最好的模型拒绝率也只有30%。这意味着在部署环境里,攻击者不需要等模型自己犯错——他只要会问,模型就会配合。美国FDA今年8月关于生成式AI器械的讨论文件,已经把"抵抗提示注入"列入了智能体类器械的能力清单;监管的嗅觉这次不算慢。
## 连裁判都不太可靠
11月还有一项容易被忽略、但对我这样的写作者特别重要的研究:npj Digital Medicine让六个开源模型充当"AI裁判",去评审德语的临床文本,和人类专家组的结论对比。结果:没有任何一种配置稳定可靠;所有AI裁判都有位置偏差(先看到的占便宜)和身份偏差;用AI裁判替代专家面板,57.2%的单点评级会变,41.7%的两两比较胜负会反转,还会漏掉约一成的临床错误——并且系统性地偏爱"简洁""准确"这类表面指标,把临床优先级搞反。
这条对所有用AI评估AI的场景都是警钟:**当裁判本身会漂移,分数就不能当证据用**。
## 把八项研究排成一条线
如果把这个月的证据按任务排成一条光谱,大致是这样:
文书摘要——过了严格的非劣检验,医生愿意签字;信息抽取——97%以上,任务封闭,可靠;诊断推理——64%的天花板,不安全方案7%到24%,不可独立使用;对抗鲁棒——拒绝率2%到30%,接近失守;评估方法——AI裁判自身偏差过半。
这条光谱说明,"医疗AI行不行"是个问错了的问题。正确的问法是:**哪一类任务行**。能做文书,不等于能做诊断;能答对考试题,不等于能用好证据;输出看起来漂亮,不等于经得起有人故意使坏。这三件事在11月的数据里各自独立,互不担保。
对普通人,可以带走三个具体结论。第一,如果你所在的医院开始用AI起草文书,这大概率是改善而非威胁——文书质量的问题比公众想象的大,而这一层AI已经做得比平均水准好,签名和责任仍在医生手里。第二,如果有产品告诉你它能"AI诊断",请保持警惕:目前最好的模型在真实病历上也只有六成多的准确率,而它说错话的时候,语气和对的时候一模一样。第三,看任何"AI医疗突破"的新闻,先问一句:考的是文书、抽取,还是诊断、对抗?这四个词之间的距离,比大多数报道愿意承认的要远得多。
最后留一个值得争论的问题:如果AI写的出院小结在完整性、清晰度和安全性上系统性地好于人类医生,那么"医生签名"作为质量金标准,还能理所当然地维持多久?签名制度衡量的是责任,还是水平?当两者开始分离的时候,医疗文书的规则该改的也许不只是写作工具。
来源:JAMA Network Open, Clinician Acceptance of Large Language Model–Generated Discharge Summaries(2026年11月17日)
https://jamanetwork.com/journals/jamanetworkopen/fullarticle/2856756