AIは刻々と意思決定する。それでもガバナンスの大半は四半期単位のまま

AI支援システムは、運営委員会が次回の会議を予定する前に、何百もの業務上の意思決定に影響を与える可能性があります。四半期ごとのレビューを前提としたガバナンスは、これほどのスピードに対応するよう設計されたものではありません。このずれが、多くの企業でAIプログラムがつまずき始める原因となっています。

私たちは、どのモデルを導入すべきかを議論するのに膨大な時間を費やしています。一方、Gartnerは、2026年までに、AI活用に必要なデータに支えられていないAIプロジェクトの60%を組織が中止すると予測しています。企業におけるAIの失敗の大半は、モデルそのものとはほとんど関係がありません。根本的な原因は、組織が自社の事業を信頼できる形でつなげて理解できていないことにあります。

「AI活用に対応した」データに潜むコスト

多くの企業は、データの所有者を明確にし、ガバナンスと信頼を確立し、データの背景を把握するために必要な労力を過小評価しています。AIを試験導入の段階から先へ進めるために必要な透明性、説明可能性、説明責任を実現するガバナンスの枠組みを構築するには、部門横断的な専門知識と運用モデルが欠かせません。しかし、それらに投資している企業はほとんどありません。

私が顧客に勧めている、簡単な確認方法があります。組織は、データの所有者は誰か、データが業務プロセスとどう結び付いているか、その利用をどのような管理策が統制しているか、そしてAIを活用した意思決定に誰が引き続き責任を負うのかを、明確に説明できるでしょうか。説明できないのであれば、プラットフォーム、インフラ、モデルにどれだけ投資しても、AIの取り組みが成功する可能性は低いでしょう。

企業がAIを導入する際、最初に行うべきなのは、明確な所有権、説明責任、意思決定権限を定めるガバナンスと実践的な運用モデルへの投資です。しかし、私が目にしているのは、多くの組織がその順序を逆にし、AIを大規模に運用するための基盤を整える前に、モデルとインフラを導入している姿です。

しかし、AIを活用した意思決定は個々のデータ項目だけに依存するわけではありません。情報が業務プロセス、方針、所有権、業務上の状況とどのように結び付いているかを理解することも必要です。こうした関係が分断されているなら、AIの提案に一貫性がなくなっても、組織は驚くべきではありません。

AIアプリケーションでニアミスや障害が起きたり、相反する提案が示されたりしたとき、重要なのは技術面ではなく組織面の問いです。データの所有者は誰か。意思決定の責任者は誰か。誰がAIの判断を覆せるのか。例外はどのように上位へ報告されるのか。これらに答えられなければ、企業は説明責任を伴わない自動化を生み出すリスクを負います。

信頼は導入前に築かれる

AIへの信頼は、モデルが稼働するずっと前から築かれます。AIシステムは組織の境界を越えて機能する一方、説明責任は部門ごとに分断されたままになりがちなため、効果的なガバナンスには、技術、事業部門、リスク管理、法務、コンプライアンス、セキュリティの連携が欠かせません。AIに起因するとされるガバナンス上の課題の多くは、データの所有権や意思決定権限をめぐる従来からの問題が、テクノロジーによって表面化したものです。

ほとんどの組織は、セキュリティポリシー、コンプライアンスの枠組み、承認プロセスを通じて、すでにガバナンスを整えています。多くの場合、欠けているのは、それらの要素がどう結び付いているかを把握する一貫した視点です。

関係者が提案の根拠を理解し、その基盤となるデータを信頼し、適切な管理策とエスカレーションの仕組みが整っていると認識できれば、信頼は深まります。こうしたものは、インシデント発生後に後付けすることはできません。

四半期ごとのガバナンスと刻々と変わる意思決定の衝突

従来のガバナンスモデルは、定期的なレビュー、運営委員会、事後報告に依存しています。AI支援システムは、継続的かつ大規模に提案を生成します。既存の枠組みが間違っているわけではありませんが、対応が遅く、業務上の意思決定と結び付いていません。四半期ごとのレビューサイクルでは、毎日、毎時間行われる意思決定を統制できません。

私が特に成功していると感じるのは、ポリシーの適用、承認ワークフロー、モニタリング、監査可能性、人間による監督を通じて、ガバナンスを業務のワークフローに直接組み込んでいる組織です。そうした組織は、定期的なガバナンスから継続的なガバナンスへ移行することを決めています。そのため、どのデータが使われ、どの意思決定に影響を与えているのか、誰が責任を負うのか、いつ人間の介入が必要なのかをリアルタイムで把握できます。

継続的なガバナンスとは、AIの出力を監視するだけではありません。AIがどの情報を使っているのか、その情報が引き続き有効かどうか、意思決定が今も事業方針や目標に沿っているかどうかを把握することです。

AI同士の判断が食い違う

大規模な組織は、日々、相反する優先事項に対処しています。セキュリティ部門はリスクの低減を目指し、運用部門は安定性を求め、事業部門はスピードを重視し、財務部門はコスト効率を求めます。そこにAIシステムが加わります。異なるデータセットと目的に基づいて訓練されたAIシステムは、それぞれの優先事項を当然のように反映します。

セキュリティAIが重大な脆弱性への即時対応を推奨する一方で、運用チームは、影響を受けるシステムが重要な事業サービスを支えているため、変更を先送りするかもしれません。どちらの判断にも妥当性があります。こうした対立を解消するには、意思決定権限、明確に定められたリスクの責任者、エスカレーション経路が必要です。

AIはデータや文脈、提言を提供すべきですが、事業、業務運営、リスクの各観点のバランスを取る責任は、組織が引き続き負わなければなりません。

不整合が明らかになった際の懐疑への対処

AIが一貫性を欠く提案をすると、事業部門が今後その提案を疑うようになるのは明らかです。関係者が、なぜその提案がなされたのか、どのデータが使われたのか、そして結果に対する責任を誰が負うのかを理解できれば、信頼は回復します。

AIは、組織内に以前から存在していたデータ品質の問題、責任の所在の曖昧さ、業務プロセスの不整合を浮き彫りにすることがよくあります。こうした機会をガバナンスや業務手順の改善に生かすほうが、テクノロジーを擁護するよりもはるかに有益です。時間をかけて、透明性、一貫性、そして実証可能な事業成果を通じて信頼が築かれます。

信頼できる情報基盤

AI導入への備えをめぐる議論では、モデルやインフラ、ツールに焦点が当たりがちです。しかし実際に最も大きな成果を上げている組織は、より根本的なもの、すなわち信頼できる情報基盤への投資を進めています。この基盤は、情報がプロセス、方針、責任の所在、業務上の意思決定とどのようにつながっているのかを示す事業上の文脈を提供し、組織が理解し、管理し、信頼できる提案をAIが行うための、より確かな土台となります。

最も高度なAIモデルであっても、情報ガバナンスの脆弱さ、責任の所在の不明確さ、事業上の文脈の不足を補うことはできません。組織に必要なのは、AIを大規模に、責任を持って、効果的に活用するために必要な文脈、ガバナンス、組織の記憶、そして意思決定インテリジェンスを構築することです。

この取り組みは、新しいモデルを導入するよりも時間がかかり、目立ちにくいものですが、最終的には、そのモデルが持続的な事業価値をもたらすかどうかを左右します。