AI 能不能管好药,是临床人工智能里最适合被严格检验的问题之一:用药错误有明确的对错标准、可分级的伤害严重度,还有现成的人工流程做对照。2024 到 2025 年间,三条不同战线的证据先后落地——医院里的处方审查副驾、在线药房生产流水线上的护栏、直接给患者调胰岛素剂量的决策系统。把它们并排放在一起,会得到一个反直觉的结论:越接近人们想象中的"真 AI",证据越软;越像一条笨流水线,数据越硬。
## 战线一:医院副驾——61% 对 46%,但统计学没点头
Cell Reports Medicine 2025 年 9 月发表的前瞻交叉研究在新加坡两家三级急性医院展开:6 名注册药师评审 40 个高度复杂的模拟病例(覆盖 16 个专科,每例中位 12 种药物),病例里嵌入了 91 个从真实差错报告库改编的处方错误场景,其中约三分之一可致严重伤害。研究团队先在检索增强生成框架下开发并验证了五个大模型,让表现最好的 Claude 3.5 Sonnet 进入三种模式对比:模型单独、药师单独、药师加模型副驾。
结果:副驾模式准确率 61%,药师单独 46%,相对提升 32.6%;对可致严重伤害的错误,副驾检出 66%,模型单独只有 52%,副驾是药师单独的 1.5 倍。听起来漂亮,但有三个冷静的细节把它拉回地面。第一,三种模式的差异没有达到统计学显著(p=0.38)——6 名药师的样本撑不起显著性。第二,在"不恰当剂量方案"这一类上,副驾模式(43%)反而低于药师单独(52%),而这恰恰是临床最常见的差错类型。第三,这是模拟病例加开放标签的设计,作者自己列了七条局限。认真的概念验证,离临床证据还远。
## 战线二:药房流水线——唯一跑在生产环境里的
Nature Medicine 2024 年 6 月发表的 MEDIC 研究是这批文献里唯一真正进入生产环境的:Amazon Pharmacy 的用药指导生成系统。它的架构反潮流地"小而窄"——用一个以 1000 条专家标注微调的第一代大模型,只负责从处方里抽取剂量、频次等核心临床成分,再由药房的确定性逻辑和安全护栏组装成完整用药指导,不让模型自由发挥。
对照很残酷:两个通用大模型基线(一个用 150 万条用药指导训练,一个用当时最先进的模型),在 1200 条专家评审处方上,"到达患者前被拦下的错误"分别是 MEDIC 的 1.51 倍和 4.38 倍。而在真实生产系统试运行期间,MEDIC 把这类被拦下的错误降低了 33%。折扣也要说清:这是 Amazon Pharmacy 团队评估自家系统,"被拦下的错误"是过程指标,不等于实测减少了到达患者的伤害。但"窄任务加硬护栏加人类拦截层,胜过通用模型自由发挥"这一点,它是目前唯一有真实流量数据支持的。
## 战线三:胰岛素剂量——两项随机试验测到了生理终点
剂量是伤害最直接的场景,也是证据最硬的地方。JAMA Network Open 2025 年 5 月的多中心单盲随机试验在 3 家医学中心的内分泌病房展开:149 名糖化血红蛋白在 7.0%–11.0% 之间的 2 型糖尿病患者,随机接受 AI 实时滴定系统或资深内分泌医师调药 5 天。主要终点——血糖在目标范围内的时间占比:AI 组 76.4%,医师组 73.6%,差值 2.7 个百分点,达到预设的 6 个百分点非劣界值,不良事件无显著差异。
Nature Communications 2025 年 9 月更进一步,测了 12 周门诊结局:84 名每日多次注射胰岛素的 1 型糖尿病成人按 1:1 随机,干预组用移动应用加贝叶斯算法每周给出基础与餐时胰岛素剂量建议,对照组用非自适应的剂量计算器,两组都持续佩戴血糖传感器。干预组糖化血红蛋白从 8.6% 降到 8.1%,对照组几乎没动(8.6% 到 8.5%),组间差 −0.40 个百分点(p=0.025),全程没有严重低血糖,也没有酮症酸中毒。边界同样清楚:5 天住院和 12 周门诊都不是长期证据,门诊试验是开放标签,"非劣"不是"优效",−0.40% 的置信区间上界贴着零。但在普遍缺少患者结局证据的用药 AI 领域,这是两项罕见的、直接测到生理终点的随机试验。
## 全景:缺口有多大,地图长什么样
两项综合研究给出背景板。npj Digital Medicine 2025 年 3 月的范围综述从 3988 篇文献里筛出 30 篇,结论刺眼:截至 2024 年 10 月,没有任何一项研究在真实临床环境中前瞻性地测试过生成式 AI 减少药物伤害的效果。另一项小对照研究让 GPT-4 和 3 名医师互相盲态地为 50 份真实 2 型糖尿病病历写管理方案:医师漏药更少,GPT-4 多余用药更少,剂量准确性两边打平——而 GPT-4 的方案里有 16% 存在安全性问题。两边都没及格。
把三条战线排开,采用地图就出来了:任务最窄、错误可数的药房流水线,证据最硬;剂量-反应关系明确、监测密集的胰岛素滴定,次之,毕竟它们直接测到了患者的生理指标;最开放的处方审查副驾,证据最软。还有一条贯穿三条战线的否定结论:没有任何数据支持把通用大模型裸用在用药场景——自由生成的被拦错误率是窄系统的 1.5 倍到 4.4 倍,盲写管理方案有 16% 的安全问题率,副驾研究里模型单独模式全面低于人机组合。
## 你能带走的
对医院:想用大模型审查处方,现有证据只支持"副驾"形态,且上线前必须用本院差错库构建测试集重新验证——重点盯剂量方案类差错,那恰恰是副驾可能比药师更差、而临床又最高频的地方。对药房和供应商:"窄抽取加确定性组装加硬护栏"是当前唯一有生产环境证据的架构,比"接一个大模型 API"有数据得多。对患者:算法胰岛素滴定已有随机试验级证据支持在医生指导下使用,但它改善的是三个月的血糖和短期安全性,不是长期结局的保证。
最后一个值得讨论的问题:医院要买第一个用药安全 AI,该押注看起来更聪明的开放式审查系统,还是看起来更"笨"、但每个错误都可数的窄流水线?如果通用模型的能力继续变强,这张"窄胜过聪明"的地图,会在几年内被推翻吗?
来源:Large language models for preventing medication direction errors in online pharmacies. Nature Medicine, 2024. https://doi.org/10.1038/s41591-024-02933-8