5 个基础支柱，确保负责任的人工智能

我们正在见证人工智能/机器学习系统的迅速增长，这些系统处理着新数字经济中产生的海量数据。然而，随着这种增长，我们需要认真考虑人工智能的伦理和法律影响。

当我们将越来越复杂和重要的任务交给人工智能系统时，例如自动贷款审批，我们必须绝对确保这些系统是负责任和值得信赖的。减少人工智能中的偏见已经成为许多研究人员关注的重要领域，并且具有巨大的伦理影响，因为我们给予这些系统的自治权也很重要。

负责任的人工智能的概念是一个重要的框架，可以帮助建立对人工智能部署的信任。有五个核心的基础支柱，构成了负责任的人工智能。本文将探讨这些支柱，以帮助您建立更好的系统。

1. 可复制性

软件开发世界中有一个老话：“嘿，它在我的机器上工作。”在机器学习和人工智能中，这句话可以改为：“嘿，它在我的数据集上工作。”这意味着，机器学习模型往往是一个黑盒。许多训练数据集可能具有内在的偏见，例如采样偏见或确认偏见，这会降低最终产品的准确性。

为了使人工智能/机器学习系统更加可复制，从而更加准确和值得信赖，第一步是标准化 MLOps 流水线。即使是最聪明的数据科学家也都有他们喜欢的技术和库，这意味着特征工程和生成的模型在不同的人之间并不统一。通过使用诸如 MLflow 之类的工具，您可以标准化 MLOps 流水线并减少这些差异。

使人工智能/机器学习系统更加可复制的另一种方法是使用所谓的“金标准数据集”。这些是代表性的数据集，基本上作为新模型发布之前的测试和验证。

2. 透明度

如前所述，许多机器学习模型，特别是神经网络，是黑盒。为了使它们更加可解释，我们需要使它们更加透明。对于简单的系统，例如决策树，理解系统如何和为什么做出某个决定很容易，但随着人工智能系统的准确性和复杂性的增加，其可解释性往往会降低。

有一种新的研究领域叫做“可解释性”，它正试图使复杂的人工智能系统，例如神经网络和深度学习，更加透明。这些使用代理模型来复制神经网络的性能，但它们也尝试提供关于哪些特征重要的有效解释。

这都与公平性有关；您希望知道为什么做出某个决定，并确保该决定是公平的。您还希望确保不适当的特征不会被考虑，以免偏见进入您的模型。

3. 责任

也许负责任的人工智能最重要的方面是责任。关于这个话题有很多讨论，甚至在政府部门，也与驱动人工智能结果的政策有关。这种政策驱动的方法决定了人类应该在什么阶段介入。

责任需要强大的监控和指标来帮助政策制定者和控制人工智能/机器学习系统。责任实际上将可复制性和透明度联系在一起，但它需要有效的监督，以人工智能伦理委员会的形式。这些委员会可以处理政策决策，决定什么是重要的指标，并进行公平性审查。

4. 安全性

人工智能安全性关注数据的机密性和完整性。当系统处理数据时，您希望它们处于安全的环境中。您希望数据在数据库中休息时和通过管道调用时都被加密，但在将其作为纯文本输入机器学习模型时仍然存在漏洞。诸如同态加密之类的技术可以解决这个问题，允许机器学习训练在加密环境中进行。

另一个方面是模型本身的安全性。例如，模型逆转攻击允许黑客学习用于构建模型的训练数据。还有模型中毒攻击，它们在模型训练期间插入有害数据并完全损害其性能。测试您的模型以抵御此类对抗性攻击可以使其保持安全。

5. 隐私

谷歌和 OpenMined 是两个最近优先考虑人工智能隐私的组织，OpenMined 主办了一场关于这个话题的会议。随着新的法规，如 GDPR 和 CCPA，以及可能即将出台的更多法规，隐私将在我们训练机器学习模型的方式中发挥核心作用。

确保您以隐私意识的方式处理客户数据的一种方法是使用联邦学习。这种机器学习的去中心化方法在本地训练不同的模型，然后在中心枢纽中聚合每个模型，同时保持数据的安全、安全和私密。另一种方法是引入统计噪声，以便客户的个别值不会泄露。这使您能够处理汇总数据，因此个人的数据保持完整且不对算法可用。

保持人工智能的责任

 最终，保持人工智能的责任取决于每个设计人工智能/机器学习系统的组织。通过在每个负责人工智能的五个方面内故意追求技术，您不仅可以从人工智能的力量中受益，还可以以一种值得信赖和直接的方式做到这一点，这将使您的组织、客户和监管机构放心。每个组织通过设计负责任的人工智能/机器学习系统，可以从人工智能的力量中受益，并以一种值得信赖和直接的方式做到这一点，这将使您的组织、客户和监管机构放心。