説明可能なAIによる表現豊かなブール式

人工知能（AI）と機械学習の応用は、ほぼすべての業界と生活の場に浸透しています。

しかし、その成長は、アイロニーや矛盾を伴うものです。AIは、意思決定やワークフローを簡素化または加速するために存在しますが、その方法論は、非常に複雑なものになることがあります。実際、 einige「ブラックボックス」型の機械学習アルゴリズムは、作成したコンピュータ科学者自身によっても、簡単に説明することができないほど、複雑で多面的なものになることがあります。

これは、金融や医療などの分野で、業界のベストプラクティスや政府の規制によって、AIソリューションの内部動作について透明性のある説明が求められるようなユースケースでは、特に問題となることがあります。もし、これらのアプリケーションが説明可能性の要件を満たすのに十分な表現力を持っていない場合、それらの有効性に関係なく、無用になる可能性があります。

この矛盾を解決するために、私たちのチームは、Fidelity Center for Applied Technology (FCAT)とAmazon Quantum Solutions Labのコラボレーションにおいて、表現豊かなブール式に基づく解釈可能な機械学習モデルを提案し、実装しました。这种アプローチでは、1つ以上のブール変数に適用できる任意の演算子を含むことができ、より柔軟なルールベースやツリーベースのアプローチに比べて、より高い表現力を持つことができます。

このプロジェクトの詳細については、こちらの論文を参照してください。

私たちの仮説は、決定木などのモデルが深くなり、解釈するのが難しくなることがあり、低い複雑性で高い精度の表現的なルールを見つける必要がある、解決すべき困難な最適化問題であるというものでした。さらに、この高度なXAIアプローチを通じてモデルを簡素化することで、倫理的かつ責任あるMLの使用の文脈で重要なバイアスを暴露することや、モデルを維持および改善することを容易にするなどの追加の利点を得ることができると考えました。

私たちは、入力データが分類されるルールを、解釈可能性（または複雑性）を調整可能なものとして定義できるため、表現豊かなブール式に基づくアプローチを提案しました。这种式では、AndやAtLeastなどの演算子を1つ以上のブール変数に適用することができ、より柔軟なルールベースやツリーベースの方法論に比べて、より高い表現力を持つことができます。

この問題では、2つの競合する目標があります。アルゴリズムのパフォーマンスを最大化することと、複雑性を最小化することです。したがって、通常のアプローチである、複数の目標を1つに結合するか、1つの目標を制約するのではなく、両方を含めることを選択しました。そうすることで、一般性を失うことなく、主にバランスの取れた精度を包括的なパフォーマンスメトリックとして使用しました。

また、AtLeastなどの演算子を含めることで、医療における特定の状態を示す症状のリストなどの、高度に解釈可能なチェックリストの必要性に対処しようとしました。診断のために、症状のリストから最低限度の症状が存在する必要があるような、チェックリストを使用して決定を行うことが考えられます。同様に、金融では、銀行が顧客に信用を提供するかどうかを決定するために、より大きなリストから特定の要素の存在に基づいて決定を行うことがあります。

私たちは、XAIモデルを成功裏に実装し、クレジット、顧客行動、医療条件に関する公開データセットでベンチマークしました。私たちのモデルは、他の有名な代替手法と比較して一般的に競合力があることがわかりました。さらに、特殊なハードウェアや量子デバイスを使用して、高速な整数線形計画（ILP）または二次無制限二進最適化（QUBO）を解くことで、モデルを強化することができる可能性があることもわかりました。QUBOソルバーの追加により、イテレーションの数が減り、高速な提案による非局所的な動きが可能になります。

注目すべきは、ブール式を使用した説明可能なAIモデルは、ヘルスケアやファイナンスなどの分野で多くの応用を持つ可能性があることです。ファイナンスの分野では、クレジットスコアリングや、顧客が特定の製品を選択した理由を評価するために、解釈可能なルールを作成することで、将来的に製品開発や改良、またはマーケティングキャンペーンの最適化に役立つ、より深い洞察を得ることができます。

私たちの調査結果に基づいて、説明可能なAIを使用した表現豊かなブール式は、説明可能性をさらに求めるようなユースケースに適切で望ましいものであると判断しました。さらに、量子コンピューティングが進化するにつれて、特殊なハードウェアアクセラレーターや量子デバイスを使用することで、潜在的な高速化の機会を期待することができます。

将来的には、これらの分類器を他のデータセットに適用したり、新しい演算子を導入したり、他のユースケースにこれらの概念を適用したりすることが中心となる可能性があります。