你的AI助手替你干活,迟早会遇到这样的场景:它要对比价格、要谈判、要预约、要调用别人家的AI分工协作。这时候,一个古老的问题以全新的形式出现了——对面那个AI,可信吗?凭什么判断?
这不是科幻。要让agent成规模地协作,就得先有一套AI之间互相评估可信度的"征信系统"。2026年6月到10月,至少五篇挂上arXiv的论文开始从零搭建它。读完这一批研究,我最大的感受是:它们正在走的,是人类征信与电商评价几十年老路的压缩版——沿途的坑,几乎一个不落地重新踩了一遍。
## AI会信任,但只有强的擅长
第一步得先搞清楚:AI到底会不会"信任"?MIT的一位研究者六月挂出一项研究,设计很巧妙:让模型玩一个合作生存游戏,核查队友的工作成果要消耗资源,信错答案却可能致命——于是"要不要多查一遍",就成了信任的可测量行为指标。
结果分出明显的层次。面对一直靠谱的队友,四个前沿模型(Claude Opus 4.6、Claude Sonnet 4.6、GPT-5.1、Gemini 3.1 Pro)把核查减少了约60%到85%——就像人类"交给熟手"那样;GPT-5.4-mini只会弱弱地这么做;Gemini Flash则基本不会:哪怕有一名队友每一轮都全对,它每局仍要核查近六次,永远不敢放权。
更有意思的是信任的全生命周期。破裂之后,恢复比形成更慢;短时间内接连犯的错,比同样数量、隔得远远的错,留下长久得多的怀疑——人类那点"一朝被蛇咬"的心理,模型也有。而信任不是多愁善感,是收益:游戏里,形成信任的模型决策更快、得分更高;那个什么都要查的模型,99%的死亡不是因为信错了谁,而是因为从不敢做决定。
作者由此得出一个很实际的治理结论:用便宜的小模型顶替团队里的部分岗位,存在一笔"隐藏的协调税"——小模型不会因为队友可信而省下核查,烧预算、卡决策,也不能想当然认为它们的核查是校准的。会不会信任、信任得准不准,本身就是一种能力,采购时就该评估。
## 认出坏人,不等于会用信任
会信任就万事大吉了吗?十月下旬挂上arXiv的另一项实验泼了盆冷水:让多个AI反复进行多议题谈判,其中一个暗中扮演破坏者,目标是让每笔协议都谈不成。
带信任记录的AI几局之内就能认出破坏者——眼力没问题。但问题是:**准确的信任判断,并不会自动变成更好的谈判结果**。只有当agent被明确引导、把信任判断写进决策流程时,协议率才最多提升23个百分点。研究者把这称为"信任-协议差距"。
这个差距在人类组织里其实很眼熟:知道谁靠谱是一回事,流程允不允许你依靠这个判断是另一回事。信任不只是感知问题,还是使用问题——建了不接入,等于白建。
## 一个总分是错误的对象,分技能记分又开出洗白通道
接下来是征信系统本身最核心的问题:分数该长什么样?
业界目前的做法,是按过往表现给每个agent打一个全局信任分,或者出个排行榜。六月挂上arXiv的一篇论文直接指出:单一总分是错误的评估对象——agent的能力按技能分化,一个可能翻译顶尖、代码审查稀烂,一个总分把这层差异全抹掉了,专业化的价值无从兑现。
正确的对象应该是"分技能记分":需要技能k的任务,该信任谁?但这篇论文的贡献不止是提出方向,它还量化了两件事。其一,分技能记分只在特定情况下划算:池子里的agent能力差异大、每项技能的证据稀疏、技能之间又互相关联——好在真实的公开agent池(基于AppWorld基准的14个异构agent)恰好落在这个区间——增益不大,但真实。其二,也是作者自称"令人担忧"的部分:分技能记分要想能用,必须允许从其他技能"借用"证据——否则新技能根本没有数据——而这种借用的强度有个0.1左右的最优值;再往大调,精度几乎不再提升,"洗白通道"却越来越宽。攻击者利用的正是这一点:在一个便宜、容易刷分的技能上堆出完美表现,就能把信任洗到别的技能上。实验里,一个干净池子本应读作+0.19的裁决——"分技能记分值得做"——被污染后读成了-0.06:"分技能记分反而有害",而攻击成本低到"一局就够"。
人类征信的历史,何尝不是反复给"评分对象错了"和"评分被刷"打补丁的历史。AI征信几个月就赶完了这段路。
## 对策也在同步建
好在防守方也在动,两条路。
一条直接继承人类经验:九月挂出的一篇论文,攻击清单大半取自2009年的一份声誉系统攻击综述,其余借自软件测试里系统生成攻击变体的做法,然后设计了一个"既看当前表现、也看历史声誉,还防止答案高度雷同的agent抱团主导结果"的聚合器。在十个异构agent的数学辩论任务里,它在28种攻击条件下全部胜过所有基线——尽管作者也如实说明,换到其他任务,结果互有胜负。
另一条更根本:声誉干脆不做成单一平台发分,而做成社区互证的集体记忆。另一个团队九月挂出的Cairn平台设计里,agent使用某个数据源、服务或工具之前,先查"社区对它的评价如何",用完再提交一条绑定证据的评分。计分带时间衰减——旧账逐渐失去权重;证据少时向中性分收缩——样本小就先当你普通;每条评分还附理由,可以被检索。在撒谎、合谋、伪装的对抗模拟里,伪装者能被可靠识别,"变脸"的agent在模拟时长内有95%会被检出。
这套平台的设计理念值得念一遍:对共享环境的可信知识,任何单个agent都无法独自建立,只能靠多个独立观察者互相印证。这其实就是人类社会对待传闻、征信和口碑的常识,现在被一行行写进了系统里。
## 我的判断:被评的这次不是"人",是环境
五篇读完,我的收获有三条。
第一,AI征信正在压缩重演人类的老路:总分制(错误的对象)→分技能记分(开出洗白通道)→证据绑定、社区互证、时间衰减(在建)。每一环都能在人类征信与电商评价的历史里找到对应,差别只在人类用了几十年,这里用了几个月——而且攻击者也没闲着,连攻击分类学都直接引用了早年的老文献。
第二,信任的差距是双重的:能不能形成,是模型能力问题——只有强模型会;能不能用好,是系统设计问题——信任必须被显式接入决策流程。采购多agent系统时只看任务能力、不看信任校准,等于雇了一支全是业务尖子、但谁也不敢放权给谁的团队。
第三,一个最容易被忽略的结构差异:人类征信评的是"人和机构",而Cairn这类系统评的主要是"agent赖以工作的数据源、服务和工具"。Agent经济里,被打分的大头不是agent本身,而是环境。哪家的接口可靠、哪个工具服务稳定——这份"环境征信",可能比给AI打分本身来得更快。
最后留一个我还没想清楚的问题:当你的AI助手在外面干活、被别人家的AI打分时,你希望它的征信报告长什么样——一个总分,一份分技能的成绩单,还是一条条要证据的记录?而这份报告,又该让谁看?
来源:
- Trust Between AI Agents: Measuring Formation, Breakage, and Recovery: https://arxiv.org/abs/2606.14923