企業が責任ある透明性のあるAIを作成する方法 – 思想リーダー

著者：エリック・パテルノスター、インフォシス・パブリック・サービス CEO

アルファベット（Googleの親会社）のCEOであるスンダー・ピチャイは、AIの進展を「火や電気よりも深遠なもの」と表現しています。さらに、COVID-19の影響により、この技術の潜在能力を解き放つ必要性が新たに高まっています。現在、AIの応用はCOVID-19の治療を改善し、潜在的なCOVID-19感染者を追跡し、需要に苦労する小売サイトのユーザーにリアルタイムチャットボットを提供することで、注目を集めています。これらの応用は、AIが企業の耐久性を高め、より広い社会に利益をもたらすことを示しています。

「クラウドネイティブ」と並んで、先々のキーワードは「AIファースト変革」であると考えられます。これは、業界の実践者がCOVID-19が終わった後でも真実であると信じている用語です。多くの企業にとって、コストの低減（例：需要と供給を一致させるサプライチェーンアルゴリズム）と生産性の向上（例：銀行がリアルタイムで文書と身分証明を使用する場合）の約束は、無視できないものです。

なぜAIファースト変革なのか？

AIファースト変革では、企業はAIを北極星として使用し、賢くだけでなく、人間、プロセス、システムの決定に影響を与える方法で使用しようとします。これにより、企業は従業員、パートナー、顧客の間の変化するダイナミクスに調整され、変化する需要に迅速に対応し、長期的な競争優位性を確立できます。

しかし、すべての企業が同じレベルのAI成熟度を持っているわけではありません。ある企業は「従来のAIグループ」またはH1と呼ばれます。これらの企業は、経験と投資が少なく、古典的なアルゴリズム（例：250年前に開発されたナイーブベイズまたは1995年にティン・カム・ホーによって開発されたランダムフォレスト）を使用して、既存のシステム内で断片的な知能を強化します。AIの使用法は、厳密にルールベースで硬直的であり、発見したルールから一般化する能力が欠けているため、透明性が欠けています。次に、「ディープラーニンググループ」またはH2と呼ばれる企業があります。これらの企業は、より複雑なAI、包括的な機械翻訳、トランスクリプションベースのシステムを使用して、会話の洞察を抽出します。ただし、これらのシステムは、より強力ですが、行ったことの理由を簡単に説明できず、透明性もありません。これら2つのグループでは、使用されるAIは信頼性が低く、偏った決定を下し、企業に政府機関、規制機関、一般大衆からの悪評をもたらす可能性があります。

これらの企業は、AIの実装を次のステップに進める必要があります。つまり、AIが自己学習型で生成可能な第三のキャンプ（H3）に到達することです。この段階では、AIシステムは半教師ありまたは教師なしで動作します。透明性があり、多タスク学習を通じて「共通の感覚」を達成します。これらのシステムは、豊富な知能を提供し、リアルタイムのアクション可能な洞察を提供します。これは、管理された、ガバナンスされたAIを通じて、解釈可能で説明可能なAIを使用することで実現します。

より責任ある透明性のあるAIに向けて努力する方法

AIは、学校、職場、その他の公共の施設を管理するために使用されることが増えています。これらの環境では、AIが公平で透明性があることが重要です。しかし、AIの採用が急速に進む中で、規制機関はAI技術の適切な開発と展開に関するガイダンスを提供していません。したがって、企業が主導権を取り、初期の断片的なAIの実装を、効率的で創造的で責任ある透明性のある知能型エコシステムに変えるために、より広範なテクノロジー業界が資金と人材を投入する必要があります。この空間に入るために、企業は次の4つのことを行う必要があります：

• ヒューマン・イン・ザ・ループを維持する：AIモデルは、人間の関与なしに動作するように設計されることがよくあります。しかし、多くの場合、人間の要素は非常に重要です。人間は、AIプロジェクトを妨げることが多い偏見やミスのある決定をレビューし、回避する必要があります。2つのユースケースは、不正検出と法執行機関が関与する場合です。企業は、AIの第一主義の旅に先んじて、AIの実践者を徐々にしかし一貫して採用することをお勧めします。
• 偏ったデータセットを排除する：偏りのないデータセットは、信頼性の高い、公平で、差別のないAIモデルを作成するための重要な前提条件です。重要性を理解するために、AIは、履歴書のショートリスト作成や銀行の信用スコアリングに使用されており、さらには一部の司法制度にも使用されています。このような状況では、チェックされていない偏見は、非常に現実的な影響を及ぼしています。
• 決定が説明可能であることを保証する：この機能は、多くの主要なニュース媒体によって取り上げられており、正当に取り上げられています。XAIは、AIシステムが特定の決定を下した理由を説明するのに役立ちます。ディープラーニングモデルで使用される機能の重要性を明らかにし、決定がどのように下されたかを正当化することができます。特徴の重要性を理解し、決定がどのように下されたかを正当化することは、自律走行車や医療用バイオプシーのコンピュータビジョンを使用する場合などのユースケースに不可欠です。
• 結果を信頼性高く再現する：研究プロジェクトでは一般的な必要性ですが、AIモデルは時間の経過とともに一貫した予測を提供する必要があります。新しいデータが提示されても、モデルは不安定にならないはずです。

これら4つのステップにより、透明性のある知能型エコシステムが作成され、我々が「生きた企業」と呼ぶものに向けて進化します。ここでは、偏りのない、説明可能な決定がほぼリアルタイムで下され、企業全体が人間によって統治される知的有機体として機能します。詳細については、インフォシス・ナレッジ・インスティテュートのホワイトペーパーを参照してください。