越来越多的事正在交给AI agent:出报告、找文献、查判例、改代码。出了问题想追责,AI多半会附上一份引用清单,处处有出处。但过去45天密集浮出水面的事实是:引用清单可能是整条链上最不可靠的部分——它只能证明"这些文字出现在答案里",证明不了AI究竟读过什么、怎么推出来、有没有核验。
三股互不协调的力量在同一个月行动。研究者证明"答案对"推不出"过程对";纽约一家联邦法院把$38,877.59付给一位逐条核查对方引注的律师;NISO、IETF这类标准组织入场,要把"来源"做成机器可读的元数据。它们指向同一个问题:当AI替你研究、行动,拿什么证明它真的核查过?
## 答案对了,过程可能还是错的
10月27日,arXiv上的GraphRAGProv把"答案是怎么来的"变成可查询的对象:在锚定源文本的RDF图上,一条查询同时算出答案和溯源多项式,每个陈述实例都链回原文的精确字符位置。demo逐一检查400个案例,结果:**最终答案正确时,中间的抽取和查询环节照样存在错误**。
两天后,ACL Anthology出版的一篇工作坊论文提出PING幻觉分类,把深度研究agent的幻觉分成Propagation、Intent、Noise-induced、Grounding四类,并把完整研究轨迹拆成原子动作逐一核验。配套的DeepHalluBench用100个任务压测,六个代表性深度研究agent**全部存在不可忽略的可靠性缺口**:中间错误沿轨迹累积,端到端评估看不见。11月4日发表的ArcRAG又补一刀:检索器可以在推理时归纳局部图接口,跨图构建方式保持有效,但**构建方式仍决定绝对准确率上限**。
更直白的数字5月就有了。一项消融实验发现,agent典型访问10-12个图实体,最终只引用约2个;移除被引实体,答案大幅改变——引用是必要的;但**移除后仍有超过30%的答案保持正确**——引用是不充分的。最终那份引用清单,根本无法重建agent走过的证据轨迹。样本只有25题,外推需谨慎,但命题很清楚:引用正确不等于溯源充分。
人这一侧更微妙。据2026年4月一篇参考文献幻觉综述引用的调查:87%的研究者自称总是核验AI生成的引注,但42%承认直接粘贴BibTeX不做检查,77%的审稿人不彻底核查参考文献。
## 法院给核查定了价
纽约南区的Flycatcher诉Ozmos案(案号24 Civ. 9429)是最完整的标本。2026年2月5日,Failla法官认定对方律师Feldman"反复且公然"违反Rule 11——提交生成式AI编造的引注,并就来源撒谎,构成恶意,法院对其客户下了终局缺席判决。据律所评论,他的brief里60个被引判例有14个不存在;提交前跑了三轮AI review,却从未人工核查一条引注——让AI审AI,没拦住造假。
接下来的事更有意思。做核查的律师MacMull早在2025年6月就发邮件逐条列出错误引注,Feldman竟回复要求"分享你整理的清单"。法院随后授权这位"提供了实质协助"的律师申请费用,10月9日裁定他获得**$38,877.59**:请求额$43,086.59,费用部分基于对方支付能力全局下调10%;$575的时薪和工时被认定合理,调查"为法院节省了大量时间"。裁定书还写下更关键的立场:**"随着生成式AI造成的引注问题在全国蔓延,法院依赖律师们将其他律师的错误引注提请法院注意。"**
据ABA Journal 10月1日报道,这不是孤例:法官越来越多地责备的不只是造假者,还有不指出对方假引注的律师。加州一所上诉法院2025年9月制裁造假方$10,000,却拒绝了未报告方的费用申请;另一份2025年11月的裁定明言,法院"不应是抵御虚构案例引用的最后防线"——律师有义务对对方引注做基础核查。
另一端在麻省。据Lawyers Weekly 10月13日报道,一位加州律师在被告动议提交后5小时内交出一份20页反对brief,承认使用"最高等级的企业版Claude",自称相信该工具不会幻觉判例——法院核查发现,约半数引注有错,包括一条虚构的Westlaw引注。结果:被认定应撤销pro hac vice出庭资格,制裁至$10,000,安全港抗辩被驳回。裁定书里那句话值得背下来:没有规则禁止用AI做研究和起草,但必须负责任地使用;无论是否用AI,未确证引注的真实性,就该受制裁。
有一条边界:法院从未把"用AI"本身当作可罚行为——2026年6月纽约南区一份裁定明确,AI滥用只是佐证,罚的是不加核验的恶意。所以那$38,877.59的真正含义是:**核查作为一项服务,被法院公开定了价**——"指出对方的假引注",正从职业人情变成预期行为。这笔费用是裁量性个案,别的法院未必照办,但方向已写进裁定。
## 标准组织入场,工程界先行
第三股力量刚刚入场。NISO在10月宣布启动**12个月pilot**,为AI系统检索学术内容时的溯源与归因建立最小可行的元数据模型。问题陈述很直白:AI代理替用户取内容,出版方失去定价所依赖的使用统计,而大模型披露来源"出了名地不可靠"。资金来自TRACE倡议。IETF那边,10月21日出现一份个体草案:模型输出按单条断言携带溯源标签,每条附sha256哈希的observation_id和时间戳;依赖方可设k=2、k=3之类的可采性下限;"未验证的推断"与"衰减为不确定"被列为和"断言""否认"同等地位的终态。注意,它无IETF背书。类似剧情在agent身份领域已经演过:个体草案密集,实际采纳极少——生产永远跑在标准前面。
工程界在8、9月间已给出答案。9月6日的一篇综述把可信图检索agent拆成五个fail-closed的接口契约:证据带版本和源span;检索记录路径与停止原因,覆盖不足就弃权;推理用claim ledger给每条主张记下正反证据;委托最小权限、指令与数据分离;结果留override与纠错日志。再加五条不变量:溯源、时间有效性、授权、不确定性、可恢复性——丢掉维持它们所需的信息,即使答案正确也算违反保障;授权不因检索内容隐式传播。一个8月20日发布的开源框架把闭环做绝了:**只有真正读过的文本才能被引用**,系统会标记agent从未读过的被引来源;源文档出新版本,依赖它的决策自动标记复审。
代价同样真实:消融显示带溯源约束的变体准确率降幅更大,溯源和答案质量眼下是权衡;法院路线靠人工计价,无法规模化;标准路线最快12个月。所有路线的共同前置只有一条:**先把轨迹记下来**。
## 你能带走什么
三股力量质地不同:研究层证明,最终引用系统性地少报了实际消耗的证据;制度层最先给验证定价,法院按小时给人工核查付钱;标准层刚入场,手里只有pilot和没有背书的草案。但三层撞见的是同一个结构问题:**证据的消耗大于证据的披露**。医疗端也在发生同样的事:FDA征求意见时,有评论方要求审计日志覆盖prompts、检索和工具输出。证据治理正在成为跨领域的基础设施要求。
带走的东西很具体:做agent产品的,把轨迹日志(访问过却没引用的实体、路径、过滤、停止原因)从调试选项升为治理要求,引用规则写死成"只有读过才能被引",覆盖不足就弃权,引用标准草案要pin住版本号。做法律这行的,引注核查已经是被法院定价的服务和职业义务,三轮AI review不构成验证。做学术出版和图书馆的,溯源元数据和内容许可赔偿上了同一张谈判桌,先解决"AI怎么用内容",才谈得清报酬。做评估和采购的,第一问应该从"引用是否支持答案"换成"**能否重建证据轨迹**"——答案对与过程对,要分开验收。
对每个用AI的知识工作者,最实用的还是87%对42%那组数字:**最大的风险不是工具造假,而是人以为自己核验过**。
最后留一个值得争论的问题。纽约那家法院给人工核查付了每小时$575;另一边的研究在试图让机器自证"我真的查过"。当每个AI答案都附带可重放的证据链时,人工核查会变得更便宜,还是因为"只有人能签字"而变得更贵?更实际一点:一个答案是对的,却证明不了自己是怎么对的,你敢把它用在重要决定上吗——敢让你的律师、医生这么用吗?欢迎留言说说你的价码。
来源:arXiv 2610.37237, GraphRAGProv: GraphRAG Meets How-Provenance(2026年10月27日)
https://arxiv.org/abs/2610.37237