新しい透明性の時代を迎えるAI – 思考のリーダー

著者：Balakrishna D R、インフォシス・エネルギー・コミュニケーションズ・サービスおよびAIおよび自動化サービス担当シニア・バイス・プレジデント

2020年1月9日、世界保健機関は中国でのコロナウイルス感染症の発生を公表した。3日前に、アメリカ疾病対策センターはすでに情報を公開していた。しかし、カナダのヘルスモニタリング・プラットフォーム「BlueDot」は、2019年12月31日に顧客に感染症の発生を通知していた。このプラットフォームは、外国語のニュース記事、動物・植物の疾病ネットワーク、公式の声明を分析するAI駆動型アルゴリズムを使用して、顧客に危険区域を避けるための警告を提供している。

過去数年間、人工知能は急速に変化する経済において、変革、破壊、競争上の優位性の重要な源となっている。疫病の追跡から防衛、ヘルスケア、自動運転車まで、人工知能は幅広い分野で採用されている。PwCによると、人工知能は2030年までに、現在の成長率で、世界経済に最大15.7兆ドルを貢献する可能性がある。

しかし、人工知能がもたらす希望とともに、透明性と信頼性に関する未解決の疑問も存在する。人工知能システムの意思決定能力を理解し、予測し、信頼する必要性は、特に人命、死亡、個人の健康に関わる分野において重要である。

未知の領域へ

自動推論システムが最初に導入されたとき、意思決定を支援するために手作業で作成されたルールに頼っていた。ただし、これらのシステムはスケーラブルではなかった。機械学習ベースのモデルが登場し、人間の介入を必要とせず、データから学習できるようになった。ディープラーニング・モデルはモデリング能力と適用範囲において優れており、しかし、これらのモデルは大部分がブラックボックスであるため、真実性、信頼性、偏りの問題が生じる。

現在、ディープラーニング・モデルが使用する推論を直接追跡するメカニズムは存在しない。ブラックボックス型の機械学習モデルでは、説明可能性は主に事後的なものであり、モデルが生成する出力の特性と性質から導かれる。ニューラルネットワーク（ディープラーニングの前身）からルールを抽出する初期の試みは、現在はネットワークが大きく多様化し、ルール抽出が扱いにくくなったため、追求されていない。したがって、人工知能モデリングの基盤に解釈可能性と透明性を導入する必要性がある。

夜の終わり、光の始まり

この懸念は、機械学習における透明性の必要性を生み出し、説明可能な人工知能（XAI）の成長につながっている。XAIは、人工知能の意思決定プロセスにおける偏りや透明性の問題に対処することを目指している。この新しい人工知能分野は、人工知能が社会に利益をもたらし、関係者全員にとってより良い結果をもたらすことを保証する責任をもたらす。

XAIは、人工知能システムやアルゴリズムに生じる偏りを解決するのに重要である。人工知能システムは、人間によってプログラムされており、人間の背景や経験が無意識的に偏った人工知能システムの開発につながる可能性がある。たとえば、ローンの不良債権者が特定の民族や人種出身であることが多い場合、システムはこれに基づいて価値を付ける可能性があるが、これは公平性の原則に反する可能性がある。また、データの不正確さも偏りの原因となる。たとえば、特定の顔認識スキャナーが、肌の色や光の当たり方によって5%の確率で不正確な場合、偏りが生じる可能性がある。さらに、サンプルデータが全人口を代表していない場合、偏りは避けられない。

XAIは、人工知能システムのブラックボックス型の意思決定プロセスを解明することを目指している。XAIは、意思決定プロセスにおけるステップやモデルを調査し、理解しようとする。XAIは、次のような重要な質問に答える：人工知能システムはなぜ特定の予測や決定を下したのか？人工知能システムはなぜ他の選択肢を選ばなかったのか？人工知能システムはいつ成功し、いつ失敗したのか？人工知能システムはいつ信頼できる決定を下し、どのようにしてエラーを修正するのか？

説明可能、予測可能、追跡可能な人工知能

人工知能システムに説明可能性をもたらす一つの方法は、説明可能な機械学習アルゴリズムを使用することである。たとえば、決定木、ベイジアン・クラシファイア、または他のアルゴリズムは、決定プロセスに透明性と追跡可能性を持たせることができる。これらのアルゴリズムは、重要な人工知能システムに必要な可視性を提供することができ、パフォーマンスや精度を大幅に損なうことはない。

説明可能なディープラーニングや他の複雑なアルゴリズムの必要性に応じて、アメリカ国防総省の先端技術研究機関（DARPA）は、説明可能な人工知能ソリューションを開発するための研究プロジェクトを推進している。DARPAは、説明可能な人工知能を三つの部分に分けている：予測の精度、つまりモデルが将来の意思決定を改善するために結論に至ったプロセスを説明すること；意思決定の理解と信頼、つまり人間のユーザーやオペレーターが人工知能システムの行動を理解し、信頼できること；および人工知能システムの行動の検査と追跡、つまり人工知能システムが行った行動を追跡し、必要に応じて停止または制御する能力を提供すること。

追跡可能性は、人間が人工知能の意思決定プロセスに介入し、必要に応じて停止または制御できるようにする。人工知能システムは、特定のタスクを実行したり、決定を下したりするだけでなく、透明性のあるレポートを提供し、特定の決定を下した理由と根拠を示す必要がある。

アルゴリズムやXAIアプローチの標準化は現在不可能であるが、透明性のレベルや説明可能性のレベルを標準化することは可能である。標準化団体は、エンドユーザーとテクノロジー・ベンダーの間でのコミュニケーションを容易にするために、これらの透明性のレベルについて共通の理解を確立しようとしている。

政府、機関、企業、一般大衆が人工知能ベースのシステムに依存するにつれて、意思決定プロセスの透明性を高めることで信頼を獲得することが基本的な要素となる。説明可能な人工知能（XAI）に関する最初のグローバル・カンファレンスの開催は、XAIの時代が到来したことを示す証拠である。