人工智能：由人民、为人民、属于人民

作者：Balakrishna (Bali) D R，Infosys 高级副总裁，服务产品负责人 – ECS，人工智能和自动化。

我们很幸运生活在技术时代，人工智能努力使我们的生活更容易——我们的手机现在可以识别我们并解锁，当我们“看到”它们时，我们有可以帮助我们找到最短、最不拥挤的路径到达我们想要去的地方的语音地图，智能设备可以在我们说出之前预热和冷却我们的家，智能应用程序可以预测和防止欺诈，等等。

然而，我们也遇到过这些智能人工智能系统从公平和伦理角度失败的例子。例如，一家与我们合作的著名银行怀疑他们用于评估信用价值的人工智能模型可能存在偏见，并要求我们帮助他们。另一方面，一家机械制造商与我们合作分析保修索赔模式，以消除数据集和过程中的偏见，然后重新设计和自动化他们的索赔批准流程。招聘相关的人工智能模型，我们经常发现，它们的数据集中存在年龄、性别、种族，甚至邮政编码的偏见——如果不加控制，会产生不公平的结果。

由于人工智能偏见对整个企业可能产生巨大的影响，人工智能系统的开发、实施和使用中，伦理问题已成为焦点。人工智能系统是许多人类决策的集合，这些决策本身也基于人类偏见。保护员工自主权和隐私，偏见影响职业成长和机会的风险，基于皮肤颜色、种族或性别的歧视，人工智能解决方案的不可解释性，以及因此的人工智能决策的责任，在讨论人工智能及其优点时，正在被热烈讨论。

创建负责任的人工智能

人工智能偏见可能会在整个组织中产生连锁反应。因此，IT 领导者必须确保他们以符合员工的道德方式部署人工智能。为此，组织应在其人工智能部署中包括以下内容。

数据治理： 人工智能的道德使用也取决于数据的良好治理，从数据的来源开始，需要以透明和合乎道德的方式进行。为此，IT 领导者应建立一个明确的治理框架，以确保数据安全、完整性和隐私，以及防止数据腐败和丢失——所有这些都是必要的。

责任： 机器学习模型需要公平、无偏见、平等对待所有人，并在所有属性（如种族、宗教、性别等）中公平分享利益（类似的接受和拒绝率）。它们需要在整体数字上实现可接受的准确性，并且需要在概述结果的过程中做到可解释。例如，能够解释为什么模型拒绝了申请人 A 的贷款申请，但批准了申请人 B 的相同申请。开发人工智能解决方案的 IT 领导者需要使驱动这些决策的底层逻辑清晰地呈现给业务利益相关者，以便在整个企业中实现更大的透明度。

对抗性鲁棒性：整个人工智能生态系统需要同意人工智能模型的必要性，即通过模拟测试潜在的不利结果。例如，IT 领导者可以使用以下测试来检查他们的人工智能系统并为潜在的障碍做好准备。

• 修改数据：直接修改用于训练的数据集，通过数据注入、修改和逻辑腐败
• 修改模型：测试置信度降低和误分类
• 辅助工具：使用工具来影响或腐败结果

人工智能中的人类： 人工智能模型需要通过在所有关键决策点都有人类介入，并且有有效的备份机制或替代路径，如果人工智能系统需要被撤回。

开发人工智能的社会共识

除了这些指南外，我们还需要在整个企业的所有领导者之间促进关于任何大规模人工智能部署的利益、利益、成本和后果的包容性讨论和辩论。只有这样包容的过程，涉及所有利益相关者，讨论和决定可接受的结果，并权衡风险和利益，才能使人工智能技术在整个企业中获得运营许可。
ross 企业，关于任何大规模人工智能部署的利益、利益、成本和后果。只有这样包容的过程，涉及所有利益相关者，讨论和决定可接受的结果，并权衡风险和利益，才能使人工智能技术在整个企业中获得运营许可。