ソートリーダー
AIの信頼性を優先する
Unite.AI を Google の優先ソースに追加
社会は、人工知能（AI）と機械学習（ML）アプリケーションに依存することが増えており、情報の消費方法を再定義しています。AIを搭載したチャットボットから、大規模言語モデル（LLM）によって生成された情報の総合まで、社会は今までにないほど多くの情報と深い洞察にアクセスできるようになっています。しかし、テクノロジー企業がAIを自社の価値鍵に導入する競争が激化する中、重要な質問が浮上しています。AIソリューションの出力を信頼できるでしょうか？
不確実性量化なしにAIの出力を信頼できるか
特定の入力に対して、モデルは他の同等に妥当な出力を生成する可能性があります。これは、十分なトレーニングデータがないこと、トレーニングデータのバリエーション、またはその他の要因によるものかもしれません。モデルを展開する際、組織は不確実性量化を使用して、エンドユーザーがAI/MLモデルの出力をどれだけ信頼できるかをより明確に理解できるようにすることができます。不確実性量化とは、他の出力が何である可能性があるかを推定するプロセスです。
明日の最高気温を予測するモデルを想像してみましょう。モデルは21℃という出力を生成するかもしれませんが、不確実性量化を適用すると、モデルは12℃、15℃、または16℃という出力を生成する可能性もあることがわかります。この知識を得た後、20℃という予測だけにどれだけの信頼を寄せることができますか。信頼を育む可能性や注意を促す可能性があるにもかかわらず、不確実性量化をスキップする組織が多くあります。追加の作業や計算リソース、推論速度への要件が理由です。
ヒューマン・イン・ザ・ループシステム、たとえば医療診断と予後システム、には意思決定プロセスに人間が関与します。ヘルスケア専門家がヘルスケアAI/MLソリューションのデータを盲目的に信頼すると、患者の誤診につながり、健康状態の低下や悪化につながる可能性があります。不確実性量化により、ヘルスケア専門家は、AIの出力をどれだけ信頼できるか、またどれだけ注意する必要があるかを数量的に判断できます。同様に、自動運転車のような完全自動システムでは、障害物の距離を推定するモデルの出力が、不確実性量化の距離推定の存在下で避けられた可能性のあるクラッシュにつながる可能性があります。
AI/MLモデルに信頼性をもたらすためのモンテカルロ法の活用の課題
モンテカルロ法は、不確実性量化を実行するための堅牢な方法であり、曼哈頓計画の際に開発されました。これらは、アルゴリズムを繰り返し実行し、わずかに異なる入力で実行し、さらに繰り返しを実行しても出力に大きな違いがない状態に達するまで繰り返します。このような状態に達したとき、収束したと言われます。モンテカルロ法の欠点の1つは、通常、遅く、計算に多くのリソースを必要とし、収束した出力を得るにはその構成要素の計算を繰り返し実行する必要があることです。また、モンテカルロ法はランダムな数値生成器の出力を使用するため、同じパラメータで繰り返し実行すると、結果が変化する可能性があります。
AI/MLモデルの信頼性への道
従来のサーバーとAI専用アクセラレータとは異なり、新しいタイプのコンピューティングプラットフォームが開発されており、経験的確率分布を直接処理することができます。従来のコンピューティングプラットフォームが整数や浮動小数点値を処理するのと同様に、これらのプラットフォームを使用すると、組織は事前トレーニング済みモデルに不確実性量化を自動的に実装し、モンテカルロ法を使用して従来実行していた他の計算タスク、たとえば金融におけるVaR計算を高速化することができます。特に、VaRシナリオでは、これらのプラットフォームを使用すると、組織はランダムな数値生成器によって生成されたサンプルで近似されるのではなく、実際の市場データから直接構築された経験的分布を使用して作業できるため、より正確な分析と高速な結果が可能になります。
最近のコンピューティングのブレークスルーにより、不確実性量化の障壁が大幅に低減しました。私の同僚と私が最近、NeurIPS 2024のMachine Learning With New Compute Paradigmsワークショップで発表した研究論文では、私たちが開発した次世代コンピューティングプラットフォームを使用すると、不確実性量化分析を従来のモンテカルロ法に基づく分析よりも100倍以上高速に実行できることを強調しています。こうした進歩により、AIソリューションを展開する組織は、不確実性量化を容易に実装し、低いオーバーヘッドで実行できるようになります。
AI/MLの信頼性の将来は、先進的な次世代コンピューティングに依存する
組織が社会にAIソリューションを統合するにつれて、AI/MLの信頼性は最優先事項となります。企業は、AIモデル出力に対する懐疑的な扱いを促すメカニズムを実装することを妥協することはできません。説明可能性と不確実性量化の需要は明らかで、約4人に3人が、適切な保証メカニズムが整備されれば、AIシステムを信頼する可能性が高くなることを示しています。
新しいコンピューティング技術により、不確実性量化の実装と展開が容易になります。業界や規制機関が、社会でAIを展開することに関連する他の課題に取り組む一方で、不確実性量化をAI展開の標準とすることで、人間が必要とする信頼を育む機会があります。
