Google、透明性とデバッグ性を高めるための新しい説明可能なAIプログラムを作成

最近、Googleは、AIプログラムがどのように決定を下すかを理解することを容易にし、プログラムのデバッグを容易にし、透明性を高めることを目的とした新しいクラウドプラットフォームの作成を発表しました。The Registerによると、このクラウドプラットフォームはExplainable AIと呼ばれ、GoogleがAIの説明可能性に投資する大きな試みです。

人工ニューラルネットワークは、今日使用されている多くの、またはほとんどの、主要なAIシステムで使用されています。主要なAIアプリケーションを実行するニューラルネットワークは、非常に複雑で大規模になる可能性があり、システムの複雑さが増加するにつれて、特定の決定がなぜ下されたのかを理解することがますます困難になります。Googleの白書によると、AIシステムがより強力になるにつれて、より複雑になり、そしてデバッグすることがより困難になります。透明性も失われ、偏ったアルゴリズムを認識して対処することが困難になります。

複雑なシステムの動作を駆り立てる理由が解釈することが非常に難しいことは、しばしば深刻な結果をもたらします。AIの偏りに対処することを困難にするだけでなく、誤った相関関係と真正の重要で興味深い相関関係を区別することを非常に困難にすることがあります。

多くの企業や研究グループは、AIの「ブラックボックス」問題に対処し、AIがなぜ特定の決定を下したのかを適切に説明するシステムを作成する方法を探しています。GoogleのExplainable AIプラットフォームは、この課題に対処するためのGoogleの取り組みです。Explainable AIは、3つの異なるツールで構成されています。最初のツールは、AIによって選択された機能を説明し、また最終的な予測に与える特定の機能の影響を表す帰属スコアも表示します。Googleのツールのレポートでは、雨量、現在の温度、曜日、開始時間などの変数に基づいて、自転車の乗車時間を予測する例を示しています。ネットワークが決定を下した後、予測に最も影響を与えた機能を表示するフィードバックが提供されます。

画像データの場合、このツールは、決定を下した画像の領域を強調表示するオーバーレイを生成します。

ツールキットには、「What-If」ツールもあり、個々の属性を操作した場合のモデルパフォーマンスの潜在的な変動を表示します。最後のツールは、人間のレビューアーにサンプル結果を定期的に提供するように設定できます。

GoogleのAIおよび機械学習のチーフサイエンティストであるAndrew Moore博士は、このプロジェクトの背景について説明しました。Moore博士は、約5年前、学術コミュニティがAIの使用による有害な副産物について心配し始め、Googleは自社のシステムが倫理的な方法で使用されることを保証したいと考えていたと述べました。Moore博士は、建設作業員がヘルメットを着用していない場合に警告するコンピュータビジョンプログラムを設計しようとしたが、監視が過度に進み、非人間化される可能性があると心配したという事例を挙げました。Moore博士は、Googleが一般的な顔認識APIを公開しなかった理由も同様であると述べました。会社は自社のテクノロジーが倫理的な方法で使用されることを保証したいと考えていたためです。

Moore博士は、AIの決定が説明可能であることが重要である理由についても説明しました。

「安全性の重要なシステムまたは社会的に重要なものがあって、モデルが間違いを犯した場合に予期せぬ結果をもたらす可能性がある場合は、診断する必要があります。説明可能性が何ができるか、できないかを慎重に説明したいと思います。万能薬ではありません。」