使用表达性布尔公式的可解释人工智能

人工智能（AI）和机器学习应用的爆发式增长正在渗透到几乎每个行业和生活领域。

但其增长并非毫无讽刺。虽然人工智能旨在简化和/或加速决策或工作流程，但实现这一目的的方法往往极其复杂。确实，一些“黑盒”机器学习算法如此复杂和多面，甚至连创造它们的计算机科学家也难以简单地解释它们。

这在某些用例中可能会带来问题，例如在金融和医学领域，行业最佳实践或政府法规要求对人工智能解决方案的内部工作原理提供透明的解释。如果这些应用程序不够表达性以满足可解释性要求，即使它们在整体有效性方面非常有效，也可能变得毫无用处。

为了解决这一难题，我们的团队在 Fidelity Center for Applied Technology (FCAT) 与 Amazon Quantum Solutions Lab 合作，提出了并实施了一种基于表达性布尔公式的可解释机器学习模型，用于可解释人工智能（XAI）。这种方法可以包括可以应用于一个或多个布尔变量的任何运算符，从而与更僵化的基于规则和基于树的方法相比提供更高的表达性。

您可以在 这里 阅读完整的论文以获取有关该项目的综合详细信息。

我们的假设是，由于模型（例如决策树）可能变得深奥且难以解释，因此找到一个具有低复杂性但高准确性的表达性规则是一个需要解决的不可约化优化问题。另外，通过这种先进的 XAI 方法简化模型，我们可以实现额外的好处，例如暴露重要的偏见，这对于使用机器学习的道德和责任至关重要；同时也使得维护和改进模型变得更加容易。

我们提出了基于表达性布尔公式的方法，因为它们根据输入数据被分类，定义具有可调节复杂性（或可解释性）的规则。这种公式可以包括可以应用于一个或多个布尔变量（例如 And 或 AtLeast）的任何运算符，从而与更僵化的基于规则和基于树的方法相比提供更高的表达性。

在这个问题中，我们有两个相互竞争的目标：最大化算法的性能，同时最小化其复杂性。因此，我们选择同时包含这两个目标，而不是采用典型的方法，即将多个目标合并为一个或限制一个目标。这样做，我们主要使用平衡准确性作为我们的主要性能指标。

另外，通过包含运算符，如 AtLeast，我们的动机是解决需要高度可解释的清单的需求，例如一份医疗症状的清单，表明某种特定的情况。可以想象，使用这样的症状清单来做出决定，需要至少有某些症状存在才能做出积极的诊断。同样，在金融领域，银行可能会根据客户是否具备某些因素来决定是否向其提供信用。

我们成功地实现了我们的 XAI 模型，并在一些用于信用、客户行为和医疗条件的公共数据集上进行了基准测试。我们发现我们的模型通常与其他知名的替代方案具有竞争力。我们还发现我们的 XAI 模型可以潜在地由特殊用途的硬件或量子设备提供支持，以解决快速的整数线性编程（ILP）或二元无约束优化（QUBO）。QUBO 求解器的添加减少了迭代次数，从而通过快速提议非本地移动来实现加速。

如前所述，使用布尔公式的可解释人工智能模型可以在医疗保健和金融领域（例如信用评分或评估某些客户为什么选择某些产品而其他客户没有选择）有许多应用。通过创建这些可解释的规则，我们可以获得更高的洞察力，这可以带来未来的产品开发或改进，以及优化营销活动。

根据我们的发现，我们已经确定使用表达性布尔公式的可解释人工智能对于需要更多可解释性的用例来说是合适和理想的。另外，随着量子计算的发展，我们预见到使用它和其他特殊用途的硬件加速器来获得潜在的加速机会。

未来的工作可能集中在将这些分类器应用于其他数据集，引入新的运算符，或将这些概念应用于其他用例。