人工智能
AI偏见与文化刻板印象：影响、局限性和缓解
人工智能（AI），尤其是生成式AI，继续以其理解和模拟人类认知和智能的能力超出预期。然而，在许多情况下，AI系统的结果或预测可能反映出各种类型的AI偏见，例如文化和种族偏见。
Buzzfeed的“世界各地的芭比”博客（现已删除）明显体现了这些文化偏见和不准确性。这些“芭比”是使用Midjourney创建的，Midjourney是一款领先的AI图像生成器，用于探索世界各地的芭比会是什么样子。我们稍后会详细讨论这个话题。
但这并不是AI第一次表现出“种族主义”或产生不准确的结果。例如，2022年，苹果公司因苹果手表的血氧传感器对有色人种有偏见而被起诉。在另一个报道的案例中，推特用户发现，推特的自动图像裁剪AI更喜欢白人面孔而不是黑人和女性面孔。这些是关键的挑战，解决这些挑战非常困难。
在本文中，我们将探讨什么是AI偏见，它如何影响我们的社会，并简要讨论从业者如何减轻它，以应对文化刻板印象等挑战。
什么是AI偏见？
AI偏见发生在AI模型产生歧视性结果时，针对某些人群。有几种偏见可以进入AI系统并产生不正确的结果。其中一些AI偏见是：
- 刻板印象偏见： 刻板印象偏见是指AI模型的结果包含刻板印象或对某些人群的看法。
- 种族偏见： AI中的种族偏见发生在AI模型的结果是歧视性和不公平的，基于个人的种族或族裔。
- 文化偏见： 文化偏见发生在AI模型的结果偏向某种文化而不是其他文化。
除了偏见之外，其他问题也可能阻碍AI系统的结果，例如：
- 不准确性： 不准确性发生在AI模型产生的结果不正确，因为训练数据不一致。
- 幻觉： 幻觉发生在AI模型产生虚构和虚假的结果，这些结果不基于事实数据。
AI偏见对社会的影响
AI偏见对社会的影响可能是有害的。有偏见的AI系统可以产生不准确的结果，这些结果可以放大社会中已经存在的偏见。这些结果可以增加歧视和权利侵犯，影响招聘过程，并降低对AI技术的信任。
此外，偏见的AI结果往往会导致不准确的预测，这些预测可能对无辜个体产生严重后果。例如，2020年8月，罗伯特·麦克丹尼尔成为芝加哥警察局预测性执法算法标记为“感兴趣人”的目标。
同样，偏见的医疗AI系统可能会对患者产生严重的后果。2019年，科学发现，一种在美国广泛使用的医疗算法对有色人种有种族偏见，这导致黑人患者获得的高风险护理管理较少。
世界各地的芭比
2023年7月，Buzzfeed发表了一篇博客，包含194个使用AI生成的芭比娃娃，来自世界各地。该帖子在推特上迅速传播。尽管Buzzfeed写了一份免责声明，但这并没有阻止网民指出种族和文化不准确性。例如，AI生成的德国芭比娃娃穿着党卫军将军的制服。
同样，AI生成的南苏丹芭比娃娃被描绘成在身边握着一把枪，反映了AI算法中深深的偏见。
除了这些之外，许多其他图像显示了文化不准确性，例如卡塔尔芭比娃娃戴着传统的阿拉伯男士头饰。
这篇博客文章因文化刻板印象和偏见而受到大量批评。伦敦跨学科学校（LIS）称这是表现性伤害，必须通过施加质量标准和建立AI监督机构来控制。
AI模型的局限性
AI有潜力革命性地改变许多行业。但是，如果像上面提到的情况继续发生，它可能会导致人们对AI技术的普遍采用率下降，从而错失机会。这种情况通常是由于AI系统的重大局限性，例如：
- 缺乏创造力： 由于AI只能根据给定的训练数据做出决定，因此它缺乏跳出思维定势的创造力，这阻碍了创造性问题解决。
- 缺乏语境理解： AI系统难以理解特定地区的语境细微差别或语言表达，这通常导致结果错误。
- 训练偏见： AI依赖于历史数据，这些数据可能包含各种歧视性样本。在训练过程中，模型可以轻松地学习歧视性模式，以产生不公平和有偏见的结果。
如何减少AI模型中的偏见
专家估计，到2026年，90%的在线内容可能是合成生成的。因此，快速减少生成式AI技术中的问题至关重要。
可以实施几种关键策略来减少AI模型中的偏见。其中一些策略是：
- 确保数据质量： 向AI模型输入完整、准确和干净的数据，可以帮助减少偏见并产生更准确的结果。
- 多样化数据集： 将多样化的数据集引入AI系统可以帮助减轻偏见，因为AI系统变得更加包容。
- 反馈循环： 通过持续的反馈和学习循环，AI模型可以逐渐改进其结果
- 增加监管： 全球AI监管对于维护AI系统的质量至关重要。因此，国际组织必须共同努力，以确保AI标准化。
- 增加负责任的AI采用： 负责任的AI策略有助于减轻AI偏见，促进AI系统的公平性和准确性，并确保它们服务于多样化的用户群体，同时不断改进。
通过整合多样化的数据集、道德责任和开放的沟通渠道，我们可以确保AI成为全球积极变革的源泉。
如果您想了解更多关于偏见和人工智能在我们社会中的作用，请阅读以下博客。
