使用富有表现力的布尔公式的可解释人工智能

人工智能 (AI) 和机器学习应用的爆炸式增长几乎渗透到每个行业和生活的方方面面。

但它的增长并非没有讽刺意义。 虽然人工智能的存在是为了简化和/或加速决策或工作流程，但这样做的方法通常非常复杂。 事实上，一些“黑匣子”机器学习算法是如此复杂和多方面，以至于无法简单解释，即使是创建它们的计算机科学家也是如此。

当某些用例（例如在金融和医学领域）是由行业最佳实践或政府法规定义的，需要对人工智能解决方案的内部运作进行透明解释时，这可能会产生很大的问题。 如果这些应用程序的表达能力不足以满足可解释性要求，那么无论其整体功效如何，它们都可能变得毫无用处。

为了解决这个难题，我们的团队 富达应用技术中心 (FCAT) — 与 Amazon Quantum Solutions Lab 合作 — 基于富有表现力的布尔公式，提出并实现了可解释 AI (XAI) 的可解释机器学习模型。 这种方法可以包括可应用于一个或多个布尔变量的任何运算符，从而与更严格的基于规则和基于树的方法相比提供更高的表达能力。

您可以阅读 全文 此处了解有关该项目的全面详细信息。

我们的假设是，由于模型（例如决策树）可能会变得深入且难以解释，因此需要找到复杂度低但准确度高的表达规则，这是一个需要解决的棘手优化问题。 此外，通过这种先进的 XAI 方法简化模型，我们可以获得额外的好处，例如暴露在道德和负责任地使用 ML 的背景下很重要的偏见； 同时也使模型的维护和改进变得更加容易。

我们提出了一种基于富有表现力的布尔公式的方法，因为它们定义了具有可调复杂性（或可解释性）的规则，根据这些规则对输入数据进行分类。 这样的公式可以包括可应用于一个或多个布尔变量的任何运算符（例如 And 或 AtLeast），从而与更严格的基于规则和基于树的方法相比提供更高的表达能力。

在这个问题中，我们有两个相互竞争的目标：最大化算法的性能，同时最小化其复杂性。 因此，我们没有采用应用两种优化方法之一的典型方法（将多个目标合并为一个目标或限制其中一个目标），而是选择将这两种方法都包含在我们的公式中。 在这样做时，在不失一般性的情况下，我们主要使用平衡准确性作为我们的总体性能指标。

此外，通过加入像 AtLeast 这样的运营商，我们的想法是满足高度可解释的检查表的需求，例如表示特定情况的医疗症状列表。 可以想象，将通过使用这样的症状清单来做出决定，其中必须存在最少数量才能做出阳性诊断。 类似地，在金融领域，银行可以根据较大列表中的某些因素的存在来决定是否向客户提供信贷。

我们成功实施了 XAI 模型，并在一些公共数据集上对信用、客户行为和医疗状况进行了基准测试。 我们发现我们的模型总体上与其他众所周知的替代方案具有竞争力。 我们还发现，我们的 XAI 模型可能由专用硬件或量子设备提供支持，用于解决快速整数线性规划 (ILP) 或二次无约束二元优化 (QUBO)。 QUBO 求解器的添加减少了迭代次数，从而通过快速提出非局部移动来加速。

如前所述，使用布尔公式的可解释人工智能模型可以在医疗保健和富达金融领域有许多应用（例如信用评分或评估为什么某些客户可能选择了产品而其他客户没有选择）。 通过创建这些可解释的规则，我们可以获得更高水平的洞察力，从而促进未来产品开发或改进的改进，以及优化营销活动。

根据我们的发现，我们确定使用富有表现力的布尔公式的可解释人工智能对于那些需要进一步解释性的用例来说既合适又理想。 此外，随着量子计算的不断发展，我们预计有机会通过使用它和其他专用硬件加速器来获得潜在的加速。

未来的工作可能集中于将这些分类器应用到其他数据集、引入新的运算符或将这些概念应用到其他用例。