説明可能性は、すべての業界のAIの問題：透明性の欠如に対処することができる

著者：ミゲル・ジェット、VP of R&D Speech、Rev。

AIの初期段階では、新しさの功名で十分だったかもしれない。機械学習がゆっくり学習し、平均的な消費者が理解できないような不透明なプロセスを維持することは問題なかった。しかし、それは変わっている。医療、金融、刑事司法システムなどの業界が、人々の生活に実際的な影響を与える方法でAIを利用し始めているため、より多くの人々が、アルゴリズムがどのように使用されているか、データがどのように収集されているか、そしてその能力がどの程度正確かを知りたいと思っている。企業が市場での革新の最前線に留まるためには、顧客が信頼するAIに頼る必要がある。AIの説明可能性は、その関係を深めるための重要な要素である。

AIの説明可能性は、標準的なAI手順と異なり、人々が機械学習アルゴリズムがどのように出力を作成するかを理解できる方法を提供する。説明可能なAIは、潜在的な結果と限界を人々に提供できるシステムである。人々が欲する、公平性、説明責任、プライバシーへの配慮という、非常に人間的な欲求を満たすことができる、機械学習システムである。説明可能なAIは、企業が消費者との信頼を築くために不可欠である。

AIが拡大するにつれて、AI提供者は、ブラックボックスモデルは機能しないことを理解する必要がある。ブラックボックスモデルは、直接データから作成され、開発者がアルゴリズムを作成した場合でも、機械が学習した習慣を特定できないことがある。しかし、良心的な消費者は、説明責任を負うことができないほど不透明なものと関わろうとはしない。人々は、AIアルゴリズムが特定の結果に到達する方法を、入力と出力の謎なく理解したい。特に、AIの誤計算は、機械の偏見によるものであることが多い。AIが進化するにつれて、人々は、アルゴリズムが特定の結果に到達する方法を理解するために、機械学習プロセスにアクセスしたいと考えている。各業界のリーダーは、人々がこれを要求するようになることを理解する必要がある。

音声認識システム（ASR）などの音声入力可能なアシスタント、音声認識技術、テキストへの変換サービスは、特に偏見に悩まされている。安全対策で使用される場合、発音、アクセント、年齢、背景による違いによる間違いは、深刻な結果をもたらす可能性があるため、この問題は深刻である。ASRは、警察のボディカメラで自動的に記録して音声をテキスト化するために使用でき、正確にテキスト化された場合、命を救うことができる。説明可能性の実践は、AIが単に購入したデータセットに頼るのではなく、エラーの原因となる可能性のある入力音の特性を理解する必要がある。音響プロファイルは何か。背景にノイズがあるか。話者は英語を第一言語としない国からのものか。あるいは、AIがまだ学習していない語彙を使用する世代からのものか。機械学習は、これらの変数を考慮して、より迅速に学習する必要がある。

必要性は明らかになってきているが、この方法論を実装する道は常に容易な解決策ではなくなり得る。伝統的な解決策は、より多くのデータを追加することであるが、より洗練された解決策が必要になるだろう。特に、企業が使用する購入データセットは、内在的に偏っていることが多いからである。歴史的に、AIが下した特定の決定を説明することは難しかった。エンドツーエンドのモデルは複雑であるためである。しかし、人々がAIに信頼を失う原因を理解することで、改善が可能になる。人々がAIに信頼を失う原因を理解することで、改善が可能になる。

AIは必ずしも間違いを犯す。企業は、潜在的な欠点を認識し、問題が発生している場所を特定し、より強力なAIモデルを構築するための継続的な解決策を開発する必要がある。次のような方法で実現できる：

1. 何かが間違ったとき、開発者は何が起こったのかを説明し、改善計画を立てる必要がある。
2. AIが正しいかどうかを判断するには、フィードバックループを開発する必要がある。そうすれば、AIは自分の限界を学び、進化できる。
3. ASRが信頼を築く別の方法は、信頼度スコアを提供するシステムを作成することである。さらに、AIが信頼度が低い理由を示すことができる。たとえば、企業は通常、0から100までのスコアを生成して、AIの不完全性を反映し、顧客との透明性を確保する。将来的には、システムは、音声の難易度の高い理由を示すために、音響レベルや理解度の低いアクセントなどのメタデータを提供することができる。

さらに透明性を提供することで、AIのトレーニングとパフォーマンスに対する人間の監視が向上する。改善が必要な点を公開することで、改善に取り組む責任を負うことができる。たとえば、研究者は、誤ったテキストが出力された理由を知りたいので、その問題を軽減することができる。同様に、音声認識者は、ASRが入力を誤って解釈した理由を知りたいので、その有効性を評価することができる。人間をループに含めることで、AIが未チェックのままになることによる最も明らかな問題を軽減することができる。また、AIがエラーを検出して修正するまでの時間を短縮することができる。

AIは人々の生活を改善する能力を持っているが、人間が適切に構築する必要がある。システムだけでなく、革新の背後にある人々にも説明責任を負わせる必要がある。将来のAIシステムは、人々によって定められた原則に従うことが期待される。そうすることで、人々が信頼できるシステムを得ることができる。基盤を築き、現在からそれらの原則を目指す時間である。最終的には、人間が自分自身に奉仕しているのである。