引入人工智能的新透明度水平 – 思想领袖

作者：Balakrishna D R，Infosys公司服务产品负责人，能源、通信、服务和人工智能自动化服务高级副总裁。Infosys。

2020年1月9日，世界卫生组织向公众通报了中国的冠状病毒爆发。三天前，美国疾病控制和预防中心已经发布了通知。但是，一个加拿大的健康监测平台已经比他们更早地做出了反应，在2019年12月31日就向其客户发送了爆发的警告！这个平台BlueDot使用人工智能驱动的算法来扫描外语新闻报道、动物和植物疾病网络以及官方声明，以便为其客户提供提前警告，避免危险区域如武汉。

在过去的几年中，人工智能已经成为当今快速变化的经济中变革、破坏和竞争优势的关键来源。从疫情追踪到国防、医疗保健、自动驾驶汽车等，人工智能正在得到广泛的应用。 普华永道预测，到2030年，人工智能可能为全球经济贡献高达15.7万亿美元，按照当前的增长率计算。

然而，尽管人工智能带来了希望，但它仍然存在未解答的问题，尤其是在透明度和可靠性方面。了解、预测和信任人工智能系统的决策能力在关键领域尤为重要，例如生命、死亡和个人健康。

进入未知领域

当自动推理系统首次被引入以支持决策时，它们依赖于手工制定的规则。虽然这使得它们容易被解释和修改，但它们不具备可扩展性。基于机器学习的模型出现以满足后者的需求；它们不需要人工干预，可以从数据中学习——数据越多越好。虽然深度学习模型在建模能力和适用范围方面无与伦比，但它们大多是黑盒子，这引发了人们对其真实性、可靠性和偏见的担忧，特别是在其被广泛使用的背景下。

目前，没有直接的机制可以追踪深度学习模型中隐含的推理过程。对于具有黑盒性质的机器学习模型，主要的可解释性类型是事后可解释性，这意味着解释是从模型生成的输出的性质和特征中推导出来的。早期从神经网络（即深度学习的早期名称）中提取规则的尝试已经不再被追求，因为网络已经变得太大、太多样化，无法进行可行的规则提取。因此，迫切需要将可解释性和透明度引入人工智能建模的基础中。

从黑夜到光明

这种担忧已经导致了对机器学习透明度的需求，从而促进了可解释人工智能（XAI）的发展。 XAI旨在解决人工智能决策的主要问题，包括偏见和透明度。这个新的人工智能领域旨在确保人工智能能够为所有相关人员带来更好的结果，并对其决策负责。

XAI将在帮助人工智能系统和算法中固有的偏见方面发挥关键作用，这些偏见是由开发人工智能系统的人的背景和经验无意中造成的。例如，不想要的偏见，如对某个国籍或民族的歧视，可能会因为系统基于真实数据而产生价值判断。例如，如果典型的贷款违约者来自某个特定的民族背景，基于此实施限制性政策可能不公平。错误的数据也是偏见的另一个原因。例如，如果某个面部识别扫描仪由于肤色或面部照明而5%的时间不准确，这可能会引入偏见。最后，如果您的样本数据不能代表整个人口，偏见就不可避免。

XAI旨在解决人工智能系统如何做出黑盒决策的问题。它检查并尝试理解决策中涉及的步骤和模型。它回答诸如以下的问题：人工智能系统为什么做出特定的预测或决策？人工智能系统为什么没有做其他事情？人工智能系统何时成功或失败？人工智能系统何时对其决策充满信心，以至于您可以信任它？人工智能系统如何纠正错误？

可解释、可预测和可追溯的人工智能

一种实现人工智能系统可解释性的方法是使用具有内在可解释性的机器学习算法。例如，较简单的机器学习形式，如决策树、贝叶斯分类器和其他具有可追溯性和透明度的算法，可以在不牺牲太多性能或准确性的情况下提供必要的可见性，特别是在对人工智能系统的决策至关重要的领域。

美国国防高级研究计划局（DARPA）已经认识到为深度学习和其他更复杂的算法方法提供可解释性的必要性，并正在通过多项资助研究计划来推动可解释人工智能解决方案的开发。 DARPA将人工智能可解释性描述为三个部分，包括：预测准确性，即模型将解释如何得出结论，以改善未来的决策；决策理解和来自人类用户和操作员的信任，以及人工智能系统采取的行动的检查和可追溯性。

可追溯性将使人类能够进入人工智能决策循环，并在需要时停止或控制其任务。人工智能系统不仅需要执行特定任务或施加决策，还需要提供明确的报告，说明其决策的理由和支持依据。

目前尚不可能标准化算法或XAI方法，但可以标准化透明度水平或可解释性水平。标准化组织正在尝试制定透明度水平的共同标准，以便于用户和技术供应商之间的沟通。

随着政府、机构、企业和公众越来越依赖人工智能系统，通过决策过程的透明度来赢得他们的信任至关重要。首次全球会议专门致力于XAI，即国际人工智能联合会议：可解释人工智能研讨会的启动，是XAI时代到来的进一步证明。