给你读片、判读心电图的AI软件,可能去年换过一次"大脑"——算法更新了,而你多半不会收到任何专门通知。这本来不是问题:软件就该持续改进。问题是,当有人第一次系统地去翻美国食品药品监督管理局(FDA)的公开记录时,发现这些更新留下的痕迹,薄得惊人——对医院和患者来说,这意味着2018年放行时通过FDA审查的那个软件,和今天实际在跑的,可能只剩下名字相同。
先补一个背景。FDA已经通过"510(k)"为主的通道放行了超过1000个AI或机器学习医疗器械,而这个通道本身,决定了公开证据的成色:厂商不需要用新的临床研究证明自己更好,只需要证明新产品与某个已上市的"前代器械"**实质性等同**——大致相当于"它和那台已经合法在卖的机器是一类东西"。这条通道换来了速度,代价是:公开记录里的证据,从一开始就不是"疗效证明"。
## 三分之一更新过,更新的四分之三改了用途
11月5日发表在《JAMA网络开放》上的一封研究快报,清点了这条通道放行的一批AI器械后来发生了什么。研究者追踪了163台在2015到2021年间首次放行、明确使用AI或机器学习的器械(其中89%用于医学影像),把FDA数据库里相关的352条记录一直查到2025年3月底。
结果:**56台(34.4%)在放行后至少更新过一次算法**,总共106次更新,单台最多改了13次,首次更新的中位时间是放行后1.8年。更新的性质更值得注意:42台(75%)的更新**改变了器械的用途**,其中多数涉及算法输入的改变——比如喂给模型的图像类型或数据来源变了;只有9台(16.1%)的更新是单纯提升算法性能。换句话说,"更新"多半不是把同一件事做得更好,而是悄悄改变了它做的事——在FDA那里,这已不是小修小补:正因动了用途,厂商才必须重新递交申报;说白了,是器械的"工作说明"被改写了。需要说明:这163台是一个此前已识别、明确标注AI的队列,不是全部1000多台器械;但作为对需向FDA申报的上市后更新的第一次系统清点,样本足以说明问题的形状。
## 获益记录:85.7%一片空白
那么,更新之后效果如何?公开记录的回答是:基本没有回答。56台更新过的器械里,**42.9%在任何一条更新记录里都找不到评估所用受试者的信息,26.8%没有样本量,14.3%连性能指标或结果都没有**;而报告了任何临床或组织层面获益——比如病人结局更好、流程更快——的只有8台,**85.7%一片空白**。
两个限定必须说清楚。第一,这是小样本研究,只依据FDA公开文档,研究者自己提醒可能存在误分类。第二,**"没报告获益"不等于"没有获益"**——它只说明公开记录里查不到;这些器械也完全可能在医院内部评估里表现更好,只是没有出现在这份档案里。还有一类更新这项研究根本看不见:2024年12月,FDA定稿了"预定变更控制计划"(PCCP)指南文件,允许厂商预先声明算法将怎么改、怎么验证,之后按计划变更就不必每次重新申报——本研究追踪的器械都早于这个规则时代,而按PCCP走的变更,公开记录里可能连条目都不会有。
## 准入那一端,证据同样薄
更新记录空白,还可以归咎于"迭代太快、规则没跟上"。但把时间倒回器械上市那一刻,公开证据同样单薄。去年九月发表在《JAMA健康论坛》上的一项横断面研究,检视了截至2023年放行的**全部691台**AI/机器学习器械的决策摘要(FDA写明放行依据的公开文件;其中36.8%即254台是2021年起放行的——透明度在一些方面有改善,但安全评估的报告反而更少了:13.4%,对2021年以前的36.8%):46.7%没写研究设计,53.3%没写训练样本量,**95.5%没有人口学信息**——模型是在什么人身上训练和测试的,几乎无从查起;只有6台(1.6%)报告过随机临床试验数据,53台(7.7%)有前瞻研究;写了患者结局的只有3台,不到1%;报告特异度(没病的人被正确排除的比例)的只有22.0%,比敏感度还少。安全性方面,28.2%报告了安全评估,只有6.1%讨论了对健康的风险。研究者还链接了不良事件(机构和企业向FDA报告的故障与伤害事件)与召回数据库:36台器械(5.2%)牵涉489起不良事件——458起故障、30起伤害、1起死亡;40台(5.8%)累计被召回113次(召回=厂商对已售产品采取的移除或纠正行动),主因是软件问题——对一个本体就是代码的器械类别,这个数字值得咀嚼。
## 最近的放行,等价链也没拧紧
第三方对近期放行的近距离观察,补充了一些质感。一家监管咨询公司11月发布了对9月底到10月底FDA放行的25件AI器械的逐件细读(需要说明:细读窗口内包含该公司自己客户的放行)。在这个窗口里,FDA数据库共有327项决定,其中322件有公开文档可查。细读发现:截至11月中已公布的22件510(k)摘要里,有一件的阅片试验(让医生对比有无AI辅助的读片表现)**没有达到主要终点**(试验预先设定的核心成功标准);有一件的敏感度只是数值上刚好过线(点估计),没算上统计误差;还有**四件引用的"前代器械"是为不同器官或不同影像模态构建的**——等同的对象本身就不太对位。另有四件带着PCCP放行,其中一件的摘要把PCCP列为它与前代器械的**唯一差异**。
## 两头都漏的档案
把这批证据拼起来,我的判断是:第一,510(k)的监管契约是"以等同换速度"——不证明更好,只证明类似。这对不怎么变的硬件说得通,但软件是会持续变化的对象,放行那一刻的"实质性等同",成了一张对着移动靶拍的快照。而且等同是沿着链条传递的:新器械像前代,前代再像它的前代;前面那番细读显示,链条上有的环节连器官或模态都对不齐——链尾在性能上离起点漂多远,没人系统量过。第二,准入端的证据薄,加上更新端的记录空白,意味着一台AI器械**全生命周期的公开档案,回答不了那个最朴素的问题:现在跑在医院里的这版算法,还是不是当年被放行、被验证过的那个?**第三,85.7%的空白不是"无效"的证明,而是"无法核验"的证明——但对采购设备的医院和被读片的患者来说,无法核验和不知道,几乎是同一件事。第四,PCCP让合规的迭代更顺滑,这在工程上是进步;它的可见度,取决于披露规则能不能跟上变更的速度——研究者的呼吁也因此更好理解:"标准化报告要求+部署后监测"。留给读者的问题:医院采购AI时,该不该强制要求厂商提供算法的版本历史和每次更新的获益证据?作为患者,如果给你读片的软件在你上次检查之后更新过,你该不该被告知?