説明可能性：保険と銀行における人工知能の次のフロンティア

Dr. Ori Katz、Analytical Research Scientist、Earnix。

「十分に発達した技術は、魔法と区別がつかない」というアーサー・C・クラークの言葉が、機械学習アルゴリズムの進化を表している。画像認識、音声認識、保険と銀行業界での応用など、機械学習の応用は、魔法のような特性を持っている。

多くの企業は、伝統的な分析モデルを変更することに慎重である。魔法は、よく理解されていないと危険である。ニューラルネットワークとツリー・アンサンブル・アルゴリズムは「ブラックボックス」であり、その内部構造は非常に複雑である。一方で、複数の研究[1]は、ニューラルネットワークとツリー・ベースのアルゴリズムが、伝統的な保険リスクモデルを上回ることができることを示している。これは、新しいアルゴリズムがデータの中に隠れた構造を自動的に特定できるためである。ニューラルネットワークとツリー・ベースのアルゴリズムの神秘性と有用性は、対比的なものである。分析モデルの精度と「説明可能性」の間には、トレードオフがある。どうすれば、モデルがどのように結論に達するのかわからない場合に、モデルを信頼できるのか。精度を犠牲にして、説明可能性を優先するべきか。

マネージャーとアナリストだけが、このトレードオフについて心配しているのではない。過去数年間、規制当局は、魔法の暗い側面を探り始め、業界のモニタリング能力を高めている。銀行と保険業界は、多くの側面で厳しく規制されており、現在の規制トレンドは、予測を行うモデルをより詳細に調査することである。欧州の一般データ保護規則（GDPR）の第71条では、顧客は、自動化された決定が行われた後に、その説明を得る権利を持っていることが述べられている。この規則は、学術的な議論の中心となっている。

「ブラックボックス」分析モデルの説明の必要性は、説明可能な人工知能（Explainable Artificial Intelligence）という新しい研究分野の出現につながった。専門家は、ブラックボックスの中をのぞき、少なくとも一部の魔法を解明するツールを開発している。研究者が作成したツールの2つのタイプには、「グローバル・エクスプレイナビリティ」ツールと「ローカル・エクスプレイナビリティ」ツールがある。前者は、全体的なモデル予測を駆り立てる主要な特徴を理解するのに役立つ。後者は、特定の予測を説明するために使用される。

以下のプロットは、ローカル・エクスプレイナビリティの例である。これは、ノーベル経済学賞受賞者のロイド・シャープレーが、複数のプレイヤーが同じタスクに協力する際の貢献度を計算するためのゲーム理論的手法を開発したことに基づいている。説明可能な人工知能では、「プレイヤー」はモデル特徴であり、「タスク」はモデル予測である。各特徴の貢献度を示す数字は「シャープレー値」と呼ばれる。研究者は最近、シャープレー値の高速推定方法[2]を開発し、予測をさまざまな特徴に公平に分配できるようになった。

シャープレー値を使用して、特定の顧客の更新需要の予測を説明する

プロットは、シミュレートされたデータに基づいており、自動車保険ポリシーの更新需要を予測する需要モデルの結果を示している。これは、特定の顧客に対するローカルな説明である。需要モデルは複雑な決定木のアンサンブルに基づいているが、プロットは各特徴の個別の貢献度を示している。この例では、モデルは平均的な個人がポリシーを更新する確率を0.64と予測している。しかし、この特定の顧客に対しては、予測確率は0.72と高い。プロットにより、差異の原因を確認できる。

複雑なモデルの内部構造を完全に理解することはできないが、シャープレー値により、特定の予測に対する最も重要な特徴を確認できる。個々のシャープレー値を集団で平均化すると、モデル全体のグローバルな説明可能性を得ることができる。他の一般的な説明可能性ツールには、「パーミューテーション・フィーチャー・インポータンス」、「ローカルなサロゲート・モデル」、「カウンターファクチュアル・エクサンプル」などがある[3]。

新しい説明可能性ツールは、機械学習の進化の必要な次のステップである。これらにより、保険会社と銀行は、機械学習モデルを理解し、信頼し、新しい規制に準拠し、顧客に有価な情報を提供できる。精度と説明可能性のトレードオフを部分的に克服し、黒い箱のような性質について心配することなく、新しい機械学習モデルの利点を享受できるようになる。

急速にデジタル化している世界では、完全に分析駆動型になることが、保険会社と銀行の生存基準となっている。これは常に重要であったが、2020年にもたらされた市場の変化により、より重要になった。保険会社と銀行は、ビジネス上の決定を下し、顧客に迅速にサービスを提供するために、複雑な新しい現実をモデル化するためのスマートな分析が必要である。説明可能性ツールにより、保険会社と銀行はそれを達成できる。時間の経過とともに、機械学習モデルは魔法ではなく、データ駆動型ビジネスの重要なツールとみなされるようになるだろう。

出典：

[1] Bärtl, M., & Krummaker, S. (2020). Prediction of claims in export credit finance: A comparison of four machine learning techniques. Risks, 8(1), 22.

Noll, A., Salzmann, R., & Wuthrich, M. V. (2020). Case study: French motor third-party liability claims. Available at SSRN 3164764.

Fauzan, M. A., & Murfi, H. (2018). The accuracy of XGBoost for insurance claim prediction. Int. J. Adv. Soft Comput. Appl, 10(2).

Weerasinghe, K. P. M. L. P., & Wijegunasekara, M. C. (2016). A comparative study of data mining algorithms in the prediction of auto insurance claims. European International Journal of Science and Technology, 5(1), 47-54.

[2] Lundberg, S. M., & Lee, S. I. (2017). A unified approach to interpreting model predictions. In Advances in neural information processing systems (pp. 4765-4774).

[3] 詳細はこちら：https://christophm.github.io/interpretable-ml-book/index.html