可解释性：保险和银行业人工智能的下一个前沿

作者：Ori Katz博士，Earnix公司分析研究科学家。

“任何先进的技术都与魔法无异”，科幻作家阿瑟·克拉克如是说。确实，先进的技术，如新的机器学习算法，似乎具有魔幻的特性。机器学习的应用，包括图像分类、语音识别和在保险和银行行业的应用，似乎具有超凡的特性。

许多公司对改变传统的分析模型持谨慎态度，这是正确的。魔法是危险的，特别是如果它不被很好地理解。神经网络和树集成算法是“黑盒”，其内部结构可能非常复杂。同时，几项研究[1]已经表明，神经网络和树基算法可以比传统的保险风险模型更好地预测结果，这些模型是由经验丰富的精算师精心调优的。这是因为新的算法可以自动识别数据中的隐藏结构。神经网络和树基算法的神秘性和有用性是相互对立的。有一个内在的权衡，即分析模型的准确性和其“可解释性”的水平。我们如何信任模型，如果我们无法理解它们如何得出结论？我们应该放弃对控制和理解的需求，仅仅为了准确性而接受魔法吗？

管理者和分析师并不是唯一关心这个权衡的人。过去几年，监管机构开始探索“黑盒”模型的黑暗面，以增加他们监控这些行业的能力。银行和保险行业在许多方面都受到严格监管，当前的监管趋势涉及更密切地审查用于预测的模型。例如，欧洲通用数据保护条例（GDPR）第71条规定，客户应该有权在自动决策做出后获得解释。自该条例出台以来，这一方面一直是学术界争论的焦点。

对“黑盒”分析模型的解释需求的迫切需要导致了一个新的研究领域的出现：可解释人工智能。专家们正在开发工具，使我们能够窥视“黑盒”并揭示其中的一些魔力。研究人员已经开发了两种类型的工具，包括“全局可解释性”工具，可以帮助我们理解驱动模型预测的关键特征，以及“局部可解释性”工具，旨在解释特定的预测。

以下图表是局部可解释性的一个例子。它基于诺贝尔奖获得者劳埃德·沙普利开发的博弈论方法，该方法用于计算多个玩家在同一任务中合作的贡献。在可解释人工智能中，“玩家”是模型特征，而“任务”是模型预测。描述每个特征贡献的数字称为“沙普利值”。最近，研究人员开发了快速估计沙普利值的方法[2]，使我们能够公平地将预测分配给不同的特征。

使用沙普利值解释特定客户的预测续保需求

该图基于模拟数据，显示了预测汽车保险单续保概率的需求模型的结果。这是对特定客户的局部解释。需求模型基于复杂的决策树集成，但图表显示了每个特征对最终预测的单独贡献。在这个例子中，模型预测平均个体在数据中将以0.64的概率续保单。但是，对于这个特定客户，预测的概率要高得多，达到0.72。图表允许您看到这种差异的原因。

虽然我们无法完全理解这个复杂模型的内部结构，但沙普利值使我们能够看到最重要的特征，并揭示魔力的一部分。平均个体沙普利值可以让我们看到哪些特征对于模型预测最重要，并获得全局可解释性。其他流行的可解释性工具包括“特征重要性排列”，局部拟合的简单替代模型和对比事例等[3]。

新的可解释性工具是机器学习演进的必要下一步。它们可以使保险公司和银行能够理解和信任他们的机器学习模型，遵守新的法规，并为客户提供有价值的信息。我们现在可以部分克服准确性和可解释性之间的权衡，并在减少对“黑盒”性质的担忧的同时享受新的机器学习模型的优势。

在我们快速数字化的世界中，成为完全数据驱动的企业是保险公司和银行的基本生存标准。这一能力一直很重要，但2020年带来的市场条件使其变得至关重要。保险公司和银行需要更智能的分析来模拟复杂的新现实，并以此为基础做出商业决策和更好地服务客户。可解释性工具可以使保险公司和银行实现这一目标。随着时间的推移，我们将达到一个点，即机器学习模型不再被视为魔法，而是任何数据驱动型企业的核心工具箱中的必备工具。

来源：

[1] Bärtl, M., & Krummaker, S. (2020). 出口信用融资中的索赔预测：四种机器学习技术的比较。风险，8(1)，22。

Noll, A., Salzmann, R., & Wuthrich, M. V. (2020). 案例研究：法国机动车第三方责任索赔。可在SSRN 3164764获取。

Fauzan, M. A., & Murfi, H. (2018). 保险索赔预测中的XGBoost准确性。国际高级软计算应用杂志，10(2)。

Weerasinghe, K. P. M. L. P., & Wijegunasekara, M. C. (2016). 数据挖掘算法在预测汽车保险索赔中的比较研究。欧洲国际科学与技术杂志，5(1)，47-54。

[2] Lundberg, S. M., & Lee, S. I. (2017). 解释模型预测的统一方法。在神经信息处理系统进展中（第4765-4774页）。

[3] 请参阅此处的更多详细信息：https://christophm.github.io/interpretable-ml-book/index.html