GEPI《人工智能如何辜负女性》报告：算法如何放大性别偏见

招聘评分、信用评估或临床建议看似公正，却可能延续其背后数据中的不平等。这正是 Gender Equity Policy Institute 最新报告发出的核心警示。报告汇总了有关自动化系统如何再现、甚至有时加剧性别歧视的研究，《人工智能如何辜负女性：偏见如何被放大》。

这份报告由机器学习科学家、GEPI 高级研究员 Myriam Shiran 博士撰写，梳理了经济机会、医疗保健、刑事司法、生成内容、消费级 AI 设计，以及 AI 助长的图像性性暴力等领域的学术文献和灰色文献。它综合了现有证据，并非通过一项新实验，依据单一基准评估所有 AI 系统。

报告最重要的论点，是偏见结果离开模型之后会发生什么。建议会影响决策，生成内容会塑造人们的预期，而某些输出还会成为未来训练的素材。因此，不公平模式在接连经过多个系统后，可能变得更加难以识别。

输入不考虑性别，并不保证结果公平

删除性别字段，是应对歧视时一种直观的做法。GEPI 的评述解释了为什么仅靠这一步并不足够：姓名、教育背景、就业经历和其他细节仍可能包含与性别有关的信号。模型接触这些结果之前，历史结果也可能已经编码了不平等待遇。

报告引用的一项招聘审计由 Wilson 和 Caliskan 于 2024 年开展，涉及九种职业、超过 300 万次模拟简历比较。在这些比较中，受测筛选模型有 51.9% 显著偏向与男性相关的姓名，11.1% 显著偏向与女性相关的姓名。其余 37% 未显示显著偏好。这些是受控模型测试的结果，并非现实中被拒绝求职者的比例。

证据也会因测试设计而异。报告介绍了另一项 2025 年审计：研究人员只更改姓名时，几种语言模型并未表现出性别差异；但更改教育背景信息则会影响评分。范围狭窄的测试，可能遗漏同一工作流程其他环节中具有重要意义的信息。

在贷款领域，评述提到一项针对美国一家大型金融科技贷款机构约 80,000 笔无抵押个人贷款的研究。女性贷款为贷款机构带来了更高回报；该研究将这一发现与模型高估女性的违约风险、并据此制定贷款价格联系起来。这里的关键在于预测风险、实际还款情况与借款人支付价格之间的关系，而不只是申请表中是否出现性别信息。

医疗 AI 不能只看整体平均分

医疗保健领域特别清楚地说明，面向整体人群的表现可能掩盖重要差异。模型的总体表现可能很好，但对于训练数据或验证数据中代表性不足的人群，错误却可能更多。

GEPI 引用了一项 Zack 等人于 2024 年开展的研究。研究人员向 GPT-4 提供其他条件完全相同的胸痛病例，只将病例描述为涉及男性或女性。在每种描述下分别运行 200 次后，模型将心脏负荷试验评为高度重要的比例，在男性病例中为 71%，在女性病例中为 58%，相差 13 个百分点。

这一发现涉及受控评估中的模型建议，而非实际观察到的治疗决策或患者结局。这个区别很重要，尤其是因为报告还纳入了在不同时期开展的探索性研究，涉及不同模型、疾病和临床任务。

评述还提出一项重要限定：不应简单抹去具有临床意义的生理性别差异。挑战在于判断模型建议中的差异究竟反映了相关生物学因素，还是缺乏依据的假设。这需要具有代表性的评估数据，并仔细审查错误，而不是要求每项建议都完全相同。

偏见不仅会影响决策，也会塑造群体形象

报告区分了两类伤害：一类是个人获取资源（如贷款或医疗服务）受到影响；另一类则是群体形象受到影响。生成式推荐信、新闻报道和职业图像，即便没有直接引发资源分配决策，也可能强化刻板印象。

GEPI 总结的研究发现，语言模型更常通过人际交往特质来描述女性，而更常通过领导力或能力来描述男性。对图像生成器的研究则发现，不同职业中的性别隔离现象被夸大。这些结果仅适用于研究所考察的模型及其版本，不应被视为对所有当前可用系统重新进行的审计。

消费级助手和陪伴型产品引出了另一个问题。它们的声音、个性以及应对骚扰的方式，都是经过有意设计的产品选择。如果只评估其回答在统计上的平衡性，就可能忽视产品设计本身所蕴含的假设。

报告还审视了未经同意生成的合成色情图像。在这类情况下，人工智能可能让施害者更容易制作和传播相关内容。这不仅仅是描绘失实：未经同意使用真实人物的肖像可能造成直接伤害。对此需要采取不同于纠正生成艺术作品中职业刻板印象的应对方式。

为什么独立测试至关重要

GEPI指出了四种反复出现的机制：从不平等的历史记录中学习、再现刻板印象、将判断包装成客观测量结果，以及让带有偏见的输出影响后续决策或模型。

独立审计有助于揭示这些机制。研究人员可以在其他条件相当的输入中改变某一项属性，并观察输出如何随之变化，即使无法访问专有模型的内部架构，也能开展这类研究。但在某个提示词或基准测试中取得成功，并不能证明模型在整个部署过程中都公平。

对于采用人工智能的组织而言，实际意义在于测试具体的使用场景。招聘团队需要审查从筛选评分到面试人选确定的整个流程。贷款机构需要将风险估算与还款结果进行比较。医疗机构需要了解验证数据涵盖了哪些患者，以及错误集中出现在哪些人群中。这些检查所回答的问题，与模型是否流畅或平均准确率如何，并不相同。

报告证实了什么——还有哪些问题尚无定论

报告主要依据美国的证据，并在相关之处列出国际研究。其资料涵盖不同技术、年份和研究方法。有些研究记录了实际结果；另一些则在模拟中揭示了令人担忧的行为。这项综述既没有确定一个普遍适用的歧视率，也没有表明每个系统都会产生相同的偏见。

报告还指出了一个衡量方面的难题：研究人员往往无法获取将模型输出与其后果联系起来所需的机构数据。发现差异固然重要，但要了解其现实影响，可能还需要查阅雇主、供应商、贷款机构或医疗服务提供者持有的记录。

GEPI的贡献在于，将往往被分开讨论的研究发现联系起来，并追问测试和问责机制是否会随着人工智能进入其影响的决策过程。完整报告《人工智能如何辜负女性：偏见如何被放大》介绍了支撑这一论点的方法、研究参考资料以及各行业的证据。