2025 年 11 月,机器学习顶级会议 ICLR 的评审季出了一件事。研究者 Micah Goldblum 在社交媒体上曝光:一篇完全由大模型生成的投稿,塞满了行话和凭空捏造的参考文献,平均分却排进了全部投稿的前 17%,拿到了两个 8 分——所幸有一位真正看了论文的评审,给出了 0 分。另一位研究者补充:同一篇论文换着标题至少投了四次。ICLR 官方账号随后确认:该文已被直接拒稿,并通知了其他版本的评审人。几天后的 11 月 19 日,ICLR 程序主席发布声明,宣布了两件事:用 LLM 检测工具筛查投稿和评审;以及一条罕见的对称惩罚——写出低质 AI 评审的人,可能连同自己投的论文一起被直接拒稿。
这件事值得所有关心科学的人停下来想一想:出问题的不是某个环节,而是科学赖以运转的整套信任机制——它正被 AI 从两端同时击穿。
## 生产端:造一篇论文,快要不需要人了
先看出事的那一端:论文的生产。这不是 2025 年才有的新问题。2023 年,全球撤稿的研究论文首次突破 10,000 篇,创下历史纪录——Nature 的报道用词是"打碎年度纪录",原因是出版商们疲于清理假论文和同行评审造假。其中仅 Hindawi 一家就撤了超过 8,000 篇;据 Retraction Watch 说,这比此前所有出版商任何一年的合计都多。这一年里,Hindawi 有四本期刊因被论文工厂淹没而关停,近 20 本期刊被主要索引除名。论文工厂——工业化代写代投、操纵评审的灰色产业——在 LLM 出现之前就攻破了同行评审;LLM 出现之后,"生产一篇像样的论文"的边际成本被进一步压向零。
更直接的信号来自 AI 公司 Sakana。2025 年 3 月,它宣布其 AI Scientist-v2 系统端到端生成的论文——从研究假设、实验代码、跑实验、数据分析到全文写作——通过了 ICLR 2025 一个 workshop 的双盲评审,平均分略高于接收线。Sakana 称之为"据我们所知,第一篇通过与人类科学家相同评审流程的全 AI 生成论文"。
水分也要说清楚:这是 workshop 而非主会(workshop 接收率通常远高于主会);实验本身是与会议组织者事先约定的,录用即撤回;Sakana 自己承认三篇投稿都达不到主会水平;Sakana 团队自查也发现系统会犯引用错误——把 LSTM 错归到一条 2016 年的引文,而 LSTM 原始论文 1997 年就已发表。但里程碑仍然是里程碑:评审流程没有认出这是一篇机器写的论文。生产端,已经被攻破了。
## 审查端:免疫系统自己感染了
真正麻烦的是另一端。科学的免疫系统——同行评审——建立在一条没人明说的假设上:评审是稀缺的人类注意力。如今这份注意力正在被外包给 AI。
ICLR 危机期间,AI 文本检测公司 Pangram 对当季全部投稿和评审做了分析(厂商自报口径,须打折看待):21% 的评审显示出 AI 生成迹象,超过一半的评审存在某种程度的 AI 参与;AI 参与度高的论文得分更低,而 AI 写的评审反而打分更高、篇幅更长。ICLR 程序主席在复盘里没有给出全量比例,但承认了规模问题:本届 76,139 份评审,"仅靠人类判断无法一致地排查",他们只能跑两个检测器,把双双判定为全 AI 生成的评审通报给领域主席。
评审为什么外包?结构原因大于道德原因:评审无偿、超载,一届顶会要动员上万名评审人(ICLR 2026 是 18,054 名)。Science 主编早在 2023 年就说过一句更根本的话:期刊处理的多数学术不端,"源于人类注意力的不足"。当外包工具出现,外包就是经济冲动,不是个别堕落。
## 制度在补漏,但都是在追赶
期刊和会议的反应很快,方向一致。2023 年 1 月,Nature 宣布 LLM 不得署名,理由干净利落:署名意味着对作品负责,而 AI 无法承担责任;Science 更进一步,AI 生成的文本一律不得使用,违规视同改图造假和抄袭级别的学术不端。Science 的现行政策还规定:评审不得把稿件的任何部分输入 LLM——这是保密义务。ICLR 的政策则写明:哪怕整项研究都是 LLM 做的,也必须有人类作者来担责。
执行端最有意思的是 ICLR 的幻觉引用流水线:自动抽取每篇投稿的参考文献,与多个文献数据库和网页搜索比对;机器误报率不低(把非英文标题的翻译版当成假引用),所以要经领域主席复核、程序主席逐条亲自看——每篇被标记的论文至少经过三个人类,确认造假的直接拒稿,另设申诉通道。官方复盘承认,这套流程"部分解释了今年偏高的直接拒稿率":19,525 份有效投稿里拒了 779 份,另有五千多份中途撤稿,最终接收率 27.4%。
但这些全是堵漏。Nature 在 2023 年自问自答过:编辑和出版商能检测出 LLM 文本吗?"现阶段,答案是'也许'。"而且"LLM 会进步,很快"。ICLR 的复盘同样承认检测器精度"远非完美",他们不敢处罚只是用 AI 润色、判断本身合理的评审。披露靠自觉,检测靠军备竞赛,惩罚靠事后追查——三条防线都在追赶,没有一条跑在前面。
## 我的三个判断
第一,论文是科学的信任信号,不是科学的产品;产品是可靠的知识。信号之所以可信,因为有两个担保:生产很贵(做实验写论文要以年计),审查很稀缺(同行认真读过)。AI 把两个担保同时归零了——文本可以无限量产,审查可以外包。信号贬值不是道德事故,是经济必然。撤稿破万只是账面的滞后反映。
第二,评审危机与其说是道德危机,不如说是定价危机。同行评审是一场运行多年的礼物经济:审一篇论文要花几个小时,报酬是零,靠的是学术共同体的互惠规范。LLM 出现后,这份"礼物"第一次有了零成本的替代品。指望自觉守住防线等于没有防线;ICLR 的对称惩罚——你糊弄评审,你自己的论文被拒——本质是把违约价格一次性打上去了。这比任何倡议都有效,也解释了为什么它一宣布就成了新闻。
第三,治本的方向不是抓 AI 文本,而是把信任的锚从文本移向工件。文本成本归零的时代,信任要锚在成本无法归零的东西上:可运行的代码、原始数据、可复现的流程、事前注册的假设、可逐条核验的引用。ICLR 的幻觉引用流水线就是工件核验的雏形——引用是论文里少数可以被机器对着数据库硬碰硬检查的部分。让步也要说清楚:不是所有学科都有可执行工件(纯数学只有证明),工件评审同样消耗稀缺注意力。这是方向,不是万能药。
## 四个带走的东西
第一,如果你做研究:披露 AI 使用不会让你的工作贬值,不披露才会——它已被写进伦理准则;评审不要外包,保密和责任都是硬约束,违约的代价现在有了实价。
第二,如果你读论文:论文不等于真相。查它有没有被撤稿,看数据和代码是否公开,留意有没有事前注册。文本异常顺滑而内容空洞的论文,多一分警惕——Nature 早就提醒过,LLM 的文字"平淡而通用"。
第三,如果你只是科学的旁观者:科学的自我纠错从来不是自动的,它由成千上万匿名评审的注意力付费。撤稿创新高不是科学的丑闻,而是纠错机制还在运转的证据——只是这套机制正在承受前所未有的负载。
第四,对所有人:这不是科学一个行业的事。凡是以文本为信任载体的制度——论文、新闻、简历、财报、判决书——都面临同构的冲击:当"写出一段可信的文字"不再需要人,可信就必须来自文字之外的东西。科学只是第一个被迫给出答案的行业。
ICLR 这一季的故事里,最锋利的细节是那个 0 分:一篇骗过了平均分的论文,被一位真正读了它的评审拦了下来。制度的未来,可能就藏在愿意花那几个小时的评审身上。你读到过"顺滑但空洞"的 AI 味文本吗?评论区聊聊。
来源:https://blog.iclr.cc/2026-03-31/a-retrospective-on-the-iclr-2026-review-process/