表現力の高いブール式を用いた説明可能なAI

人工知能（AI）と機械学習の応用は、ほぼすべての業界と生活の場に浸透しています。

しかし、その成長は、アイロニーや矛盾を伴うものです。AIは、意思決定やワークフローを簡素化または加速するために存在しますが、その方法論は、非常に複雑なものになることがあります。実際、一部の「ブラックボックス」型の機械学習アルゴリズムは、作成したコンピュータ科学者自身によっても、簡単に説明することができないほど、複雑で多面的なものになることがあります。

これは、金融や医療などの分野で、業界のベストプラクティスや政府の規制によって、AIソリューションの内部動作について透明性のある説明が求められるようなユースケースでは、特に問題となることがあります。もし、これらのアプリケーションが説明可能性の要件を満たすのに十分な表現力を持っていない場合、それらの有効性に関係なく、無用になる可能性があります。

この矛盾を解決するために、私たちのチームは、Fidelity Center for Applied Technology (FCAT)とAmazon Quantum Solutions Labのコラボレーションにおいて、表現力の高いブール式に基づく解釈可能な機械学習モデルを提案し、実装しました。このアプローチでは、1つ以上のブール変数に適用できる任意の演算子を含むことができ、より制約の強いルールベースやツリーベースのアプローチに比べて、より高い表現力を持つことができます。

このプロジェクトの詳細については、こちらの論文を参照してください。

私たちの仮説は、決定木などのモデルが深くなり、解釈するのが難しくなることがあり、低い複雑性で高い精度の表現的なルールを見つける必要がある、解決すべき困難な最適化問題であるというものでした。さらに、この高度なXAIアプローチを通じてモデルを簡素化することで、倫理的かつ責任あるMLの使用の文脈で重要なバイアスを暴露することや、モデルを維持および改善することを容易にするなどの追加の利点を得ることができると考えました。

私たちは、入力データが分類されるルールを、複雑性（または解釈可能性）を調整可能なものとして定義できるため、表現力の高いブール式に基づくアプローチを提案しました。このような式では、AndやAtLeastなどの演算子を1つ以上のブール変数に適用することができ、より制約の強いルールベースやツリーベースの方法論に比べて、より高い表現力を持つことができます。

この問題では、2つの競合する目標があります。アルゴリズムのパフォーマンスを最大化することと、複雑性を最小化することです。したがって、通常のアプローチである、複数の目標を1つに結合するか、1つの目標を制約するのではなく、両方を含めることを選択しました。そうすることで、一般性を失うことなく、主に均衡正解率（balanced accuracy）を包括的なパフォーマンスメトリックとして使用しました。

また、AtLeastなどの演算子を含めることで、医療における特定の状態を示す症状のリストなどの、高度に解釈可能なチェックリストの必要性に対処しようとしました。陽性と診断するために、リストの症状のうち一定数以上が認められる必要があるというような、チェックリストを使用して決定を行うことが考えられます。同様に、金融では、銀行が顧客に信用を提供するかどうかを決定するために、より大きなリストにある条件のうち、一定数を満たすかどうかに基づいて判断することがあります。

私たちは、XAIモデルを成功裏に実装し、クレジット、顧客行動、医療条件に関する公開データセットでベンチマークしました。私たちのモデルは、他の有名な代替手法と比較して一般的に競合力があることがわかりました。さらに、特殊なハードウェアや量子デバイスを使用して、高速な整数線形計画（ILP）または二次制約なし二値最適化（QUBO）を解くことで、モデルを強化することができる可能性があることもわかりました。QUBOソルバーを追加すると、非局所的な移動を素早く提案できるため、反復回数が減り、処理の高速化につながります。

注目すべきは、ブール式を使用した説明可能なAIモデルは、ヘルスケアやファイナンスなどの分野で多くの応用を持つ可能性があることです。ファイナンスの分野では、クレジットスコアリングや、顧客が特定の製品を選択した理由を評価するために、解釈可能なルールを作成することで、将来的に製品開発や改良、またはマーケティングキャンペーンの最適化に役立つ、より深い洞察を得ることができます。

私たちの調査結果に基づいて、表現力の高いブール式を用いた説明可能なAIは、説明可能性をさらに求めるようなユースケースに適切で望ましいものであると判断しました。さらに、量子コンピューティングが進化するにつれて、特殊なハードウェアアクセラレーターや量子デバイスを使用することで、潜在的な高速化の機会を期待することができます。

将来的には、これらの分類器を他のデータセットに適用したり、新しい演算子を導入したり、他のユースケースにこれらの概念を適用したりすることが中心となる可能性があります。