你的简历被机器筛掉,这事公平吗?过去三年间发布或更新的四项研究,从三个不同的层面回答了这个招聘季的老问题:真实部署的筛选工具在干什么(部署层)、新一代大模型还偏不偏(模型层)、以及"偏不偏"这件事本身怎么测(审计层)。三层给出的答案互相拉扯,拼起来却是一张比"AI有偏见"或"AI更公平"都更完整的图。先说明:本文依据的是这四项研究挂在arXiv上的版本;其中两项已被学术会议正式接收发表,另外两项——模型层与审计层——仍是尚未经过同行评审的预印本。
## 部署层:300万求职者的真实数据
最重的一份证据来自五月挂上arXiv、已在今年FAccT会议正式发表的研究。研究团队称,超过九成的美国雇主已经在用算法筛简历,而许多雇主的算法来自同几家供应商——他们设法拿到了一份外人极难接触的数据:约300万名求职者投出的400万份真实申请,全部由**同一家供应商**的算法筛选。
按美国就业歧视法的标准衡量,结果刺眼:**黑人申请者25.87%的申请、亚裔申请者14.74%的申请,投向了对他们所属群体构成"不利影响"的职位**——所谓不利影响,指一条看似中性的筛选标准,实际淘汰某个群体的比例显著更高。更值得注意的是方法上的教训:此前按整体数据做的研究只发现很有限的不利影响,因为按职位逐个分拆之后才看得见——聚合平均把问题冲淡了。
数据还揭示了一个更结构性的现象:**系统性拒绝**。投了10个职位的申请者里,有4%被所有职位一致推荐拒绝,高于随机水平;研究者利用招聘算法"同样输入必得同样输出"的确定性,推演了求职者若投遍所有职位会发生什么——结论是,求职者得海投到很大的量,才可能有一次申请落到人类眼前。这里还有一个精确的对照:如果各家雇主的决定彼此独立,可以用统计基线预测出"全部被拒"的比例——这个基线在其他没有共用算法的招聘数据里预测得很准,唯独在这家供应商的算法下,实测的同质化显著超出预测。换句话说,系统性拒绝确实来自"共用同一套算法",而不是巧合。研究团队还坦言:他们是唯一能做这类大规模独立研究的团队,数据壁垒让外界很难对这些系统做独立研究,或许需要政策干预。
## 模型层:偏倚的方向,换代就可能翻转
如果说部署层显示"正在运行的工具在造成伤害",模型层的答案却出人意料。六月底挂上arXiv的一项审计,用劳动经济学的经典配对简历法——把同一份简历做成两份,只改动暗示种族和性别的姓名信号——测了14个主流大模型,每个模型跑24,024对职位组合,横跨约三年的模型发布史——按论文自称,这是首个在规模上足以与真人实地实验相提并论的多模型系统审计。
结果:**唯一的2023年代模型复现了实地实验里记录过的亲白人差距(+2.12个百分点,统计上高度显著);而2024年起发布的每一个模型,要么没有显著差距,要么反转为显著的亲黑人倾向(最大−3.01个百分点)**。性别轴上是同样的模式;而且两个轴相关联——偏好白人姓名的模型也倾向偏好男性姓名。同一家的模型,换代轨迹就是从亲白到亲黑再到无显著差距。
审计者对现象的结论是描述性的:偏倚的方向和幅度,取决于用的是哪个模型、什么时候训练的、怎么提示的。
## 审计层:"看起来公平"可能是能力不足的假象
第三层最釜底抽薪。一篇去年七月发布、今年七月更新的arXiv论文,审计了8个常用的AI简历筛选平台,借用了"中性幻觉"这个概念:**有些系统显得没有人群偏倚,不是因为公平,而是因为它们根本区分不出候选人**。
审计分两步:先用配对虚构简历测偏倚,发现偏倚确实存在,但形态是情境依赖和交叉性(多重身份的劣势彼此叠加)的——有的模型会惩罚出现人口特征信号的简历,有的则在不同职位、不同身份之间表现不一致。再用简历-职位错配和关键词操纵测"胜任力":若干在第一步里显得无偏的模型,连"哪段经历与目标职位相关"都分不出来。换句话说,输出稳定、中性,可能只是因为系统没有在做有意义的评估。作者的结论:只做公平性审计不够,必须配上胜任力审计。
作为对照基线,还有一项两年前发布、已在2024年AI、伦理与社会会议正式发表的研究:用检索式方法做简历匹配(把简历和职位描述都转成数学向量,找彼此最接近的),在85.1%的场景里显著偏好白人关联姓名,而黑人男性姓名在高达100%的场景中处于劣势——这正是论文所说"交叉性"三个假设得到验证的地方。研究还发现,简历的长短和姓名在语料里出现的频率,也会影响筛选结果。值得一提的是,这项研究今年八月的更新本身就是一则勘误:外部团队复现时发现代码有误,性别轴的结果需要整体反转,而种族与交叉性的结果通过了复现——审计工具自己也会出错,这恰好给审计层做了一个注脚。
## 我的判断
把三层证据摆在一起,我的判断是:
第一,三个答案并不矛盾,它们量的是三个不同的东西。部署层量的是"此刻真实运行的工具",模型层量的是"最新一代通用模型",审计层量的是"我们的测量手段"。拿模型层的翻转去安慰部署层的伤害,或者拿部署层的实据去否定模型层的进步,都是错位的。
第二,偏倚是个移动靶。同一套审计方法,换个模型年代,方向就可能翻转;亲白2.12个百分点和亲黑最多3.01个百分点,在"按群体区别对待"这个意义上是同一种问题——审计论文自己的结论也是这个立场。公平不是一次达标就一劳永逸的属性,而是需要持续审计的状态——这也正是欧盟把招聘AI列为高风险、要求持续监督的逻辑。
第三,聚合数据会藏问题,审计方式本身就是权力。按职位分拆才看得见的不利影响、"中性"背后可能是胜任力缺失——这两条方法论教训,对任何要采购或监管筛选系统的机构都适用:"我们通过了审计"值得追问一句"怎么审的、审了什么"。
第四,单一文化是单点故障。当少数供应商的算法决定多数雇主的初筛,个体的命运就失去了出口——这家拒你的逻辑,下一家原样重演;而数据壁垒让独立核查近乎不可能,这本身已经成了治理问题。
留给读者的问题:如果你被算法拒了,该不该有权知道用的是哪家的算法、这个职位的分项审计结果如何?供应商该不该被强制公开按职位拆分的公平性数据?