人工智能
人工智能偏见与文化刻板印象：影响、局限性和缓解
人工智能（AI），尤其是生成式AI，继续以其理解和模拟人类认知和智力的能力超出我们的期望。然而，在许多情况下，AI系统的结果或预测可能反映出各种类型的AI偏见，例如文化和种族偏见。
Buzzfeed的“世界各地的芭比娃娃”博客（现在已删除）明显体现了这些文化偏见和不准确性。这些“芭比娃娃”是使用Midjourney——一款领先的AI图像生成器，创建的，以便了解世界各地的芭比娃娃会是什么样子。我们稍后会详细讨论这个话题。
但这并不是AI第一次表现出“种族主义”或产生不准确的结果。例如，2022年，苹果公司因其Apple Watch血氧传感器对有色人种有偏见而被起诉。在另一个报道的案例中，推特用户发现，推特的自动图像裁剪AI更喜欢白人的脸而不是黑人和女性而不是男性。这些是关键挑战，解决这些挑战非常具有挑战性。
在这篇文章中，我们将探讨什么是AI偏见，它如何影响我们的社会，并简要讨论从业者如何缓解它，以解决文化刻板印象等挑战。
什么是AI偏见？
AI偏见发生在AI模型对某些人群产生歧视性结果时。有几种类型的偏见可以进入AI系统并产生不正确的结果。这些AI偏见包括：
- 刻板印象偏见： 刻板印象偏见是指AI模型的结果包含对某些人群的刻板印象或固有观念。
- 种族偏见： AI中的种族偏见发生在AI模型的结果对某个个体或群体基于其种族或民族而产生歧视性和不公平的结果时。
- 文化偏见： 文化偏见发生在AI模型的结果偏向某种文化而不是其他文化时。
除了偏见之外，其他问题也可能阻碍AI系统的结果，例如：
- 不准确性： 不准确性发生在AI模型产生的结果由于不一致的训练数据而不正确时。
- 幻觉： 幻觉发生在AI模型产生虚构和虚假的结果，这些结果不是基于事实数据的。
AI偏见对社会的影响
AI偏见对社会的影响可能是有害的。有偏见的AI系统可以产生不准确的结果，这些结果可以放大社会中已经存在的偏见。这些结果可以增加歧视和侵犯权利，影响招聘过程，并降低对AI技术的信任。
此外，偏见的AI结果往往导致不准确的预测，这些预测可能对无辜的个人产生严重的后果。例如，2020年8月，罗伯特·麦克丹尼尔成为芝加哥警察局预测性执法算法将其标记为“感兴趣的人”的目标。
类似地，偏见的医疗AI系统可以对患者产生严重的后果。2019年，科学发现，一种在美国广泛使用的医疗风险算法对有色人种有种族偏见，这导致黑人患者获得的高风险护理管理较少。
世界各地的芭比娃娃
2023年7月，Buzzfeed发表了一篇博客，其中包括194个由AI生成的芭比娃娃，来自世界各地。该帖子在推特上迅速传播。尽管Buzzfeed写了一份免责声明，但这并没有阻止网民指出种族和文化的不准确性。例如，AI生成的德国芭比娃娃穿着党卫军纳粹将军的制服。
类似地，AI生成的南苏丹芭比娃娃被显示在她身边握着一把枪，反映了AI算法中深刻的偏见。
除了这些以外，许多其他图像显示了文化不准确性，例如卡塔尔芭比娃娃戴着格特拉，这是阿拉伯男人传统的头饰。
该博客文章因文化刻板印象和偏见而受到大量批评。 伦敦跨学科学校（LIS） 将其称为代表性伤害，必须通过施加质量标准和建立AI监督机构来控制它。
AI模型的局限性
AI有潜力革命性地改变许多行业。但是，如果像上面提到的场景频繁发生，它可能会导致人们对AI的普遍采用率下降，导致错失机会。这种情况通常是由于AI系统存在重大局限性，例如：
- 缺乏创造力： 由于AI只能根据给定的训练数据做出决定，因此它缺乏跳出思维定势的创造力，这阻碍了创造性问题解决。
- 缺乏语境理解： AI系统难以理解某个地区的语境细微差别或语言表达，这通常导致结果错误。
- 训练偏见： AI依赖于历史数据，这些数据可能包含各种歧视性样本。在训练过程中，模型可以轻松地学习歧视性模式，产生不公平和有偏见的结果。
如何减少AI模型中的偏见
专家估计，到2026年，90％的在线内容可能是合成生成的。因此，快速减少生成式AI技术中的问题至关重要。
可以实施几种关键策略来减少AI模型中的偏见。其中一些策略包括：
- 确保数据质量： 将完整、准确和干净的数据输入到AI模型中，可以帮助减少偏见并产生更准确的结果。
- 多样化数据集： 将多样化的数据集引入到AI系统中，可以随着时间的推移帮助减少偏见，因为AI系统变得更加包容。
- 反馈循环： 通过不断的反馈和学习循环，AI模型可以逐渐改进其结果
- 增加监管： 全球AI监管对于维护AI系统在各国边界内的质量至关重要。因此，国际组织必须共同努力，以确保AI标准化。
- 增加负责任的AI采用： 负责任的AI策略有助于减轻AI偏见，促进AI系统的公平性和准确性，并确保它们为多样化的用户群体提供服务，同时不断改进。
通过整合多样化的数据集、道德责任和开放的沟通渠道，我们可以确保AI成为全球积极变化的源泉。
如果您想了解更多关于偏见和人工智能在我们社会中的作用的信息，请阅读以下博客。
