AI 并不会消除人类偏见，只会将其放大。

人们常把 AI 描述为让决策更加客观的一种方式：照这种说法，只要去除人的判断，就能消除人类偏见。但越来越多的研究驳斥了这一观点。

AI 系统从人类历史中学习。它们以我们的决策、语言、制度，以及不可避免的盲点为训练基础。当这些系统用于筛选候选人、分配医疗资源或评估员工时，就可能以任何个体都无法企及的规模和速度重现这些偏见。

更大的问题在于，这些决策看起来中立。一个分数出现在眼前，一份排名随之生成，一条建议也被给出。支撑这些结果的假设没有留下任何明显痕迹，而在场的人也未必觉得自己要为结果负责。

这就是为什么 AI 偏见主要不是模型问题，而是治理问题。模型可以重新训练，但更棘手的问题关乎组织：谁对每项决策负责，系统的优化目标是什么，以及谁有资格提出质疑。

人类偏见进入 AI，又以机器的速度卷土重来

其作用机制并不神秘。模型会拟合训练数据中的统计规律；如果历史结果（谁获得了录用、谁得到了医疗服务）已经带有歧视，那么模型学习预测的目标从一开始就存在偏斜。近期研究显示，这种情况在不同供应商和任务中都很容易发生：

• 大规模招聘。 斯坦福大学对 400 万份真实求职申请进行的一项分析发现，26% 的黑人申请者和 15% 的亚裔申请者申请的职位，其 AI 系统会歧视他们所属的族群。这些模型从数十年来人类的招聘决策中习得了这种偏见。
• 简历排序。 华盛顿大学的研究人员评估了 550 多份真实简历，并使用当前的语言模型进行测试。他们发现，带有白人联想的姓名有 85% 的情况下更受青睐，而黑人男性姓名则很少得到优先选择。
• 职场沟通。 约翰斯·霍普金斯大学今年早些时候发布的一项研究发现，当提示中包含更常与女性相关联的语言模式时，GPT-4、Llama、Gemma 和 Mistral 生成的工作邮件显得不够成熟，正式程度也较低。

这类系统一经部署，这些模式就不再只是训练数据的特征，而会成为日常决策的一部分。

真正的危险在于规模与沉默

带有偏见的人类招聘人员一年可能筛选数百份简历。带有偏见的筛选系统一夜之间就能处理数百万份申请，并对每一份申请套用同一套有缺陷的逻辑。人的偏见决策往往只是孤立事件；模型的偏见决策却可能迅速演变为政策。

医疗领域提供了最鲜明的例子之一。一种广泛使用的算法影响了数百万名患者，其设计目的是找出哪些人会从额外护理中受益。它给病情同样严重的黑人患者打出的健康分数，却高于白人患者。没有人写下一条带有种族主义色彩的规则。该算法把医疗支出作为医疗需求的替代指标；由于黑人患者历史上获得的医疗服务较少，因此医疗支出也较低，算法便将较低支出解读为健康状况较好。根据研究人员在 Science 上发表的分析，只要纠正这一项设计选择，被标记为需要额外帮助的黑人患者比例就会从 17.7% 上升至 46.5%。

AI 系统反映的不只是我们赋予它们的指标，也包括这些指标背后的假设。人类偏见同样真实存在，只是更难被发现和检验。因此，解决之道在于完善治理，而不是放弃自动化。

让问责机制融入决策

AI 实施的标准做法是：选择一个模型，将其整合进工作流程，监测性能，并随着时间推移不断改进。但如果系统的输出会影响人们，这些做法还不够。

我把另一种做法称为“融入优先于部署”：让负有责任的人类决策者直接参与决策，并赋予其真正改变决策的权力，而不是事后每季度查看一次仪表盘。这种做法从三个步骤开始：

1. 梳理每一项决策，列出 AI 目前会筛选、评分或批准的所有事项，并为每一项指定一名明确负责的人。
2. 审查历史数据，在这些历史数据成为政策依据之前，先检查输入模型的数据。
3. 让人们能够安全地推翻模型的决定，并追踪推翻模型决定的比率。

第三步最为关键。如果员工认为不同意机器会被视为犯错，他们就会停止提出异议；即使名义上仍有一个人“参与其中”，AI 实际上也会成为决策者。问题不在于人类是否拥有最终决定权，而在于那个人是否拥有相应的权力、信息和心理安全感，能够说出：“机器错了。”

重新训练有所帮助，但偏见是通过决策渗入系统的：模型的优化目标是什么、哪些数据算数、谁来检查输出结果。应该从这些方面着手。此外，还需要 AI 领域的领导者能够追问系统为何以某种方式对事物进行排序，并有权依据答案采取行动。

干预率之所以有参考价值，是因为它的含义并不明确。如果人们几乎从不推翻系统的决定，可能只是因为系统确实准确；也可能是他们已经学会，提出异议并不安全。如果只有资深员工会推翻系统的决定，初级员工可能已经学会保持沉默，尽管他们往往最了解系统输出和受其影响的人。目标不是让干预次数归零，而是营造一种氛围：有充分依据的干预，意味着系统正在发挥作用。有人推翻模型的判断，事后证明自己是对的，就应该广泛讲述这个故事。这或许是贵公司能制作出的最好的 AI 培训材料。

检验结果，而非意图

组织无需等到重大失误发生后才开始识别偏见。现在就可以开展三项测试：

1. 受控对照。执行同一项任务，只改变人口统计特征信号，例如简历上的姓名或提示词中的方言。其他所有因素都保持不变，包括提示词模板和输入顺序。由于模型每次运行的输出可能不同，因此应将每组配对测试重复数次，并使用足够多的配对，以免差异被当作随机噪声而忽略。这基本上就是研究人员发现简历排名和自动生成的职场沟通内容中存在差异的方法，内部团队也可以在一个下午内完成初步测试。
2. 代理指标审查。对于系统优化的每一项指标，都要问两个问题：这个数字实际衡量的是什么？它可能漏算了哪些人？那个医疗保健算法并非无法准确预测自己选定的指标；它很擅长预测成本。问题在于，成本被当成了医疗需求的替代指标。一个系统按照自身指标衡量或许很准确，但对受其影响的人来说，仍可能大错特错。
3. 结果对比。比较系统投入实际运行后不同群体的入选率或获批率。美国就业实践中常用的五分之四经验法则，会将比率低于最高群体比率80%的群体标记出来，是一项常见的初步筛查方法。还应结合上文所述的干预监测。

这些测试也有局限。替换姓名可以发现明确的人口统计特征信号，却无法捕捉邮政编码、就读学校或就业空档等代理指标，因此结果对比也很重要。技术层面的缓解措施（重新调整训练数据的权重、加入公平性约束、调整决策阈值）可以缩小差距，但也迫使人们作出取舍。Kleinberg、Mullainathan 和 Raghavan 的研究，以及 Chouldechova 的另一项研究表明，当不同群体的基准率不同时，模型通常无法同时满足校准要求和错误率相等的要求。优先采用哪种公平定义，不是模型能够回答的问题，而是必须由某个人承担责任并记录在案的决定；这又将问题带回了治理层面。

在审查准确性的同时审查公平性

公平性往往被视为一项独立工作，交由人力资源或法务部门在技术团队评估准确性、效率和成本之后再行审查。这种割裂本身就是问题的一部分。审查公平性应与评估准确性和成本在同一场会议上进行，并落实同等程度的问责，同时指定明确的负责人。

这场讨论应有 HR 和法务部门参与，也应纳入曾被此类系统误判的人。那些曾被低估的人往往最先看出系统遗漏了什么。这是我的著作《The Bias Advantage》的核心观点：组织历来忽视的视角，一旦纳入决策过程，就会成为重要的洞见来源。

目标并不是打造一个永不出错的 AI 系统——这并不现实。真正的目标是让组织能够识别 AI 何时出错、理解出错原因，并在错误成为他人不得不承受的现实之前介入。