训练大模型要靠海量文本,而公开网络上可用的文本,很快大部分都可能已被消耗殆尽。与此同时,AI生成的内容正在淹没互联网——有业界机构2022年预测,到2030年,大多数可用的新训练数据可能是机器生成的(这是预测,不是实测)。机器产的文字回流进机器的训练锅,这个闭环有个让人不安的名字:**模型崩溃**——模型反复学自己的(或同类的)输出,一代比一代差。
"AI吃自己会越吃越笨",这个故事你多半听过。但近一年来密集出现的一批新研究,把粗糙的老故事换成了精细得多的图景:崩溃不是一起变暗,而是**一层一层发生的**——每一层有自己的坏法,也有自己的解药。
## 第一层:理论说清了"何时吃了没事"
今年七月的国际机器学习大会(ICML)上,一项工作第一次给模型崩溃装上了学习理论的透镜。研究者在"极限中生成"框架(一套判断模型能否最终学会一门语言的数学框架)里引入了一个**重放对手**:专门把模型自己过去的输出掺回训练样本流,看模型还能不能学好。
结论出人意料地分层:对最严格的"均匀生成"标准(不管目标是哪门语言,都要求用一套统一的样本量上限学会),重放是**无害的**;可一旦放宽到更实际的非均匀标准、乃至最弱的"极限中生成"标准,重放就**可证明地制造出鸿沟**——有自喂和没自喂之间,出现原理上跨不过去的差距。更妙的是,论文证明"没事"的那些情形,恰好对应业界一直在用的土办法:数据清洗、给AI内容打水印、过滤输出;而"出事"的情形,精确指出了这些招数什么时候会失灵。换句话说,理论没有推翻实践,而是给"什么时候能吃自己的粮"画出了边界。
## 第二层:崩溃来得比"训练"更早
十月挂上arXiv的一项理论工作发现,崩溃甚至等不到模型训练那一步。在候选变量成百上千的建模任务里,正式拟合之前常有一个**变量筛选**环节——先挑出值得进模型的变量。筛选对着什么挑?对着目标变量。而递归自喂的设定下,每一代模型都在为下一代标注数据,筛选器对着的就不再是真实结果,而是上一代打的**伪标签**。
代际传递中,伪标签目标会漂移,"该留的变量"和"该丢的变量"之间的得分差距可能被一点点侵蚀,甚至反转——干净数据下本该保留的变量被提前丢掉。作者称之为**筛选崩溃**,并证明了最坏情形下的不可能性结果:递归到足够多代之后,任何筛选方法都无法保证还能挑回该留的变量。更麻烦的是,被丢掉变量造成的损失,之后任何只在剩余变量上做的重拟合都补不回来——筛选崩溃因此**可能先于并叠加**普通的模型崩溃。解药有两条:保住固定比例的真实标签(但能达到的分辨精度是固定的),或者让数据只增不换地累积——前提是汇总后的数据仍能拉开"该留"与"该丢"变量之间的正间隔,且增长的样本足以分辨它;光是样本变多,救不回已经反转的排序。数值实验在基因表达数据上印证了理论。
## 第三层:强的更强,弱的更弱
七月挂上arXiv的另一项工作,盯着当下很常见的自喂场景之一:指令微调里的合成数据自我改进(模型生成新题和解法,标注后加回训练集,一轮轮迭代)。他们发现,这个场景下的崩溃**不只是**"均匀变笨"——它可能表现为**能力极化**:合成训练会把模型已经强的技能进一步强化,同时把它弱的技能拖得更弱。
这个诊断很扎心:自喂像是让一个学生只刷自己会做的题——总分可能还在涨,偏科却越来越严重,而总分掩盖了弱项的塌陷。作者对应的解药叫KITE:先用"失败引导"找出模型的知识边界,专挑它做不好的地方生成数据,再按不确定性筛选;在多个开源模型上跑了五轮迭代、四个推理基准,比强基线提升得更稳,连没见过的竞赛题上也涨了。
## 第四层:请了老师,老师就成了天花板
自喂会崩,那请个把关的行不行?一项2025年10月挂上arXiv、今年7月更新到第三版的理论研究给出了有条件的"行":在合成重训的循环里注入一个**外部验证器**——一个人,或者一个更强的模型——给合成数据把关,崩溃确实可以避免。
但代价写得很清楚:理论上,验证器引导的训练短期会进步,**长期却会把模型驱向验证器自己的"知识中心"**;除非验证器完全可靠,否则早期收益终将停滞,甚至可能反转。白话就是:跟老师学不会饿死,但你的上限就是老师的水平。在线性回归、图像生成和小语言模型摘要任务三组实验里,这个预言都得到了印证。
## 工程上的止血带
理论划界的同时,工程端已经拿出了止血带。七月发表在《npj人工智能》上的工作抓住了一个巧妙的事实:自回归模型(逐词预测下一个词的模型,当今主流)倾向于生成它**高置信度**的文本——所以训练数据里那些"模型读起来特别顺、特别自信"的词元,恰恰最可能是机器生成的痕迹。
于是他们的置信度感知损失(CAL)反着来:训练时**调低高置信词元的权重**,等于一边学习一边把疑似机器痕迹滤出去。效果:用了这种损失的模型,在崩溃开始之前能容忍**超过2.3倍**的合成数据;作者还开源了一个混合数据下崩溃动力学的基准。
## 把这四层拼起来
这批2026年的证据合起来,给出几个判断。其一,模型崩溃是一种**症候群**,不是单一的病:筛选层、能力层、验证层、生成理论层,各有各的坏法——"AI吃自己会变笨"这句话,粗得几乎没用。其二,所有解药指向同一个共同点:**保住独立的外部信息**——固定比例的真实标签、可靠的外部验证器、专挑弱项生成的新数据、只增不换的累积;真正有毒的不是合成数据本身,而是真实信号彻底退出训练池的纯自喂闭环。其三,验证器悖论最耐人寻味:为了防止崩溃请来的老师,最终会成为学生的天花板——把关者的质量和偏见,决定了自喂循环能走多远。其四,理论与实践罕见地合拍:ICML证明"没事"的情形恰好是业界清洗、水印、过滤这些土办法覆盖的情形——行业先摸到了答案,理论补上了边界和失效条件。留给读者的问题:如果未来互联网上大多数新内容都出自机器,给合成数据打标、溯源,该不该像食品成分标签一样成为基础设施?企业用合成数据训练模型时,该不该披露配比和来源?