你的车险保费、你房子的税评估,越来越多是算法说了算。监管机构也开始要求公司自证:你的定价系统没有歧视。但今年发布的四项研究接连发现,这套"自证清白"的体系比想象中脆弱——审计用的统计工具本身有结构性缺陷,补救手段要拿预测性能做交换,公平性还会在两次更新之间悄悄漂移,而消费者个人连一份"该改什么才能降价"的可靠解释都很难拿到。
## 标准审计,从根上就错了
五月挂上arXiv的一篇论文,把矛头对准了审计工具本身。目前通行的做法是:把定价输出对"受保护属性"(比如种族、性别)和合法的评级因子一起做回归,然后检验受保护属性的系数是否为零——再拿普通最小二乘法的标准误,去判断这个系数是不是显著。
问题在于:**定价算法通常是确定性的**。同一个客户画像、同一时刻,报出来的价格永远一样;回归残差反映的是模型的近似误差,而不是统计教科书假设的"抽样波动"。拿为标准误设计的公式去量它,论文的措辞是:方向和幅度都不对。作者为此推导了修正的方差估计公式,以及代理歧视检验的正确版本——所谓代理歧视,就是算法没直接用种族,却用了邮编、职业、信用分类这些在统计上替代种族的"中性"变量。
在伊利诺伊州34家车险公司的公开报价数据上:**每一家都不通过"同等风险、保费无群体差异"的检验——少数族裔占比高的邮编区,在控制了风险和地区因素之后,每年仍要多付34到158美元**。不过这一层的差距足够大,修正前后都检得出来,修正改变的主要是精度。真正天差地别的是代理歧视检验:标准公式标记出**零家**公司,修正后的公式判定34家全部统计显著,其中16家超过了实质性歧视的门槛。要知道,科罗拉多州和纽约州已经先后出台监管要求,让公司证明定价系统不歧视——如果检验工具本身失灵,这些合规要求要到的是一纸什么样的证明,就得打个问号。
作者自己划了边界:这份数据是邮编级的、保护属性也是代理的,结果是对方法的演示,不构成对任何一家公司的最终裁定。但方法的问题是普遍的:论文指出,任何确定性算法系统——信用评分、按揭定价、招聘筛选——只要用回归做公平检验,都踩在同一个坑里。
## 补救要付代价,而且堵不死
工具修好了,数据里的歪呢?美国精算师协会研究所在十月发布的一份报告,盯的是更上游的问题:**观测到的保险数据,可能根本没有干净地测量"想测的风险"**。邮编、信用类分数、违章记录、就医利用率,既可能是风险信号,也可能混着测量差异、行政流程、获取服务的壁垒和社会地理模式——模型把它们当纯风险来学,学到的就可能是扭曲。
报告在五组合成应用里测试了一种补救:对抗神经网络——训练时额外加一个目标,让模型学到的表征里"难以恢复出"某个间接关联变量。结果:它大体上确实能压低可恢复的间接关联信息和群体间的差异,但改善幅度因场景而异,而且**对抗力度越强,预测性能可能掉得越多**——公平补救和预测精度之间,有一条要自己权衡的交换曲线。
这份报告的姿态值得注意:它明确说,不认定每一个测得的群体差异都是不公平;合成实验是机制演示,不是法律结论。报告还给出了实操建议:模型验证别只看平均准确率,要问"模型学到的是不是我想保的那个风险",并且要在真正触发决策的头部区间(比如风险最高的1%、2%、5%)做分群体体检。
## 公平会在两次更新之间漂移
就算工具有效、模型也校正过,还有时间这个变量。十一月挂上arXiv的一份预印本,研究的是房产税评估——算法定价的邻域场景。库克县长期对便宜住宅估值偏高,于是换上了更强的算法模型,全县按三年一轮重估:芝加哥2021年、北郊2022年、南郊2023年。
改革在芝加哥是成功的:便宜住宅被相对高估的程度**砍掉一半**,同等价位住宅的评估值与社区种族构成的关联也减弱了。但郊区的故事完全不同:北郊的旧评估本来就准,没什么可改;南郊的便宜社区在评估冻结的年份里房价涨得更快——**市场自己修正了一部分扭曲**;可到了重估之年,这些社区的涨势恰好停滞,按近期高点定出来的新评估值反而偏高了,准确性没有改善。作者的结论一针见血:**公平性会在两次更新之间随市场漂移;只测一次的评估,可能把市场做的事记在算法头上,或者反过来**。
## 个人该拿到一份"能行动"的解释
最后一块拼图在个体层面。十月底挂上arXiv的一份预印本提出:给投保人的算法解释,必须同时满足三个条件——**有效**(照做之后,按模型确实会降价)、**可行动**(只建议改你控制得了的事,而不是"换个出生邮编")、**可靠**(在数据稀疏、模型没把握的区域,承诺也要大概率兑现)。他们给四种主流的"反事实解释"算法——回答"改什么、改多少,才能拿到更低保费"的那类——加了一道"保形预测"约束——统计上给不可靠率设了上界——在5.7万多条真实的佛州洪水保险索赔,和约9.8万份合成的、带驾驶行为记录的车险保单上测试:在论文的演示中,对高风险投保人,受约束的建议反而更可靠、预测的风险降幅更大。
## 我的判断
四项研究拼起来,我的判断是:
第一,"公平"不是一纸证书,而是一个过程。审计工具的统计缺陷、补救措施的性能代价、市场漂移带来的时效性、个体解释的可靠性——四个环节各有各的失效方式,任何"通过一次审查"的叙事都撑不住。
第二,确定性这个特点被严重低估了。定价算法是确定性函数,这让整套建立在抽样假设上的回归审计失去效力——代理歧视检验上,标准公式零标记、修正公式34家全显著,差距不在数据,在统计。监管把"提交公平性证明"写进义务时,得先问一句:证明用的方法,统计上站得住吗?
第三,数据里的扭曲是根子上的问题。邮编和信用分数既是风险信号也是社会模式的代理,两者在数据里本来就长在一起。精算报告的立场是对的:不预设所有群体差异都是歧视,但要在真正做决策的头部区间里,分群体把账算清楚。
第四,对普通人来说,最实在的进步可能不是"算法更公平了",而是"你有权拿到一份能行动、敢兑现的解释"——这比抽象的公平声明更可验证,也更能倒逼公司把模型管住。
留给读者的问题:如果一个州(或国家)的定价公平审计还在用被证明失灵的统计公式,那些"已通过审计"的结论该不该重审?以及,"照做就能降价"的解释,该不该成为算法定价的法定配套?