Google 创建新的可解释 AI 程序以增强透明度和调试能力

刚刚，Google 宣布创建一个新的云平台，旨在让人们更容易地了解 AI 程序如何做出决定，使得调试程序变得更容易，并增强透明度。据 The Register 报道，这个云平台被称为可解释 AI，它标志着 Google 在 AI 可解释性方面的重大投资。

人工神经网络被广泛应用于许多，甚至大多数，当前使用的主要 AI 系统中。运行主要 AI 应用的神经网络可以非常复杂和庞大，随着系统的复杂性增加，很难直观地了解为什么系统做出了特定的决定。正如 Google 在其白皮书中解释的那样，随着 AI 系统变得更加强大，它们也变得更加复杂和难以调试。透明度也会在此过程中丧失，这意味着偏见算法很难被识别和解决。

复杂系统的推理如此难以解释，往往会产生严重的后果。除了使得打击 AI 偏见变得困难外，它还使得区分虚假相关性和真正重要和有趣的相关性变得极为困难。

许多公司和研究小组正在探索如何解决 AI 的“黑盒子”问题，并创建一个能够充分解释 AI 为什么做出某些决定的系统。Google 的可解释 AI 平台代表了其自身解决这一挑战的尝试。可解释 AI 由三个不同的工具组成。第一个工具是一个系统，它描述了 AI 选择的特征，并显示一个归因分数，表示特定特征对最终预测的影响。Google 的工具报告给出了一个预测自行车骑行时间的例子，基于像降雨、当前温度、星期几和开始时间等变量。在网络做出决定后，反馈显示了哪些特征对预测产生了最大的影响。

这个工具如何在图像数据的情况下提供此类反馈？在这种情况下，工具会生成一个覆盖层，突出显示图像中对做出决定有最重要影响的区域。

工具包中的另一个工具是“假设”工具，它显示了模型性能在个别属性被操纵时的潜在波动。最后，最后一个工具可以设置为定期向人类审查员提供示例结果。

Google 的 AI 和机器学习首席科学家 Andrew Moore 描述了该项目的灵感。Moore 解释说，大约五年前，学术界开始担心 AI 使用的有害副产品，Google 想要确保其系统仅以道德方式使用。Moore 描述了一个事件，其中公司试图设计一个计算机视觉程序来提醒建筑工人是否没有戴安全帽，但他们担心监控可能会被过度扩展并变得非人化。Moore 说，有一个类似的原因，Google 决定不发布通用面部识别 API，因为公司想要对其技术的使用有更多的控制，并确保它仅以道德方式使用。

Moore 还强调了 为什么 AI 的决策需要可解释性：

“如果你有一个安全关键系统或一个具有意外后果的社会重要系统，如果你认为你的模型犯了一个错误，你必须能够诊断它。我们希望仔细解释可解释性可以和不能做什么。它不是万能药。”