企業向けAIが自律性を発揮するには、継続的に蓄積される文脈が必要

四半期予測会議まであと数時間という、月曜の朝を想像してみてください。財務部門の責任者がAIエージェントに尋ねます。「売上総利益率が低下したのはなぜか。どの前提を見直す必要があるのか。そして、会社は次に何をすべきか」。エージェントは数秒のうちに複数のシステムから情報を集め、いくつかの要因を特定し、裁量的支出の削減や採用計画の見直しを提案します。回答は明快で、詳細かつもっともらしいものです。明らかに間違っていると思える点は、どこにもありません。

だからこそ、非常に危険なのです。

詳しく調べると、いくつもの重要な情報が抜け落ちていることがわかります。エージェントは、誤ったバージョンの予測を使っていました。前四半期に承認された会計上の調整を見落としていました。また、ある地域では異なる業務ルールが適用されることも考慮していませんでした。基礎となるデータ自体が間違っていたとは限りません。エージェントは、組織がそのデータをどう解釈しているか、また各要素がどう結びついているかを把握していなかっただけです。別のモデルに替えれば簡単に解決するような問題ではありません。モデルがこの会社のことを知らない、というのが問題なのです。

企業向けAIの開発では、モデルの能力向上とエージェントの自律性に重点が置かれてきました。しかし、組織が数値をどう定義し、それを事業の運営方法とどう結びつけているかをモデルが理解しなければ、その企業に即した信頼できる結論を導き出すことはできません。

欠けているのは、蓄積されるビジネスコンテキスト、すなわち企業データが何を意味するのかについて、ガバナンスのもとで培われる理解です。そこには、データの定義や相互関係、前提、計算方法、ワークフロー、例外、そして時間とともに積み重なる意思決定が含まれます。

こうした文脈は、計画策定、予測、シナリオモデリング、差異分析、修正、フィードバック、決算業務、承認済みの意思決定を通じて形成されます。これがなければ、組織は、責任を確実に果たすのに十分な業務理解を与えないまま、AIにより大きな責任を負わせることになりかねません。

AIの能力向上に企業の準備が追いついていない

Stanfordの「2026 AI Index」によると、調査対象となった組織の88％が2025年にAIを利用していました。一方、ほぼすべての業務機能で、エージェントの導入率は1桁台にとどまりました。

これらの統計から、企業はAIの機能を利用できるものの、重要な業務をAIに任せる準備が整っていない企業が多いことがわかります。リーダーたちはAIを活用して事業を構築する必要性を認識していますが、課題のどの層に取り組むべきかは、まだ見極めなければなりません。

モデルはデータを読めても、ビジネスを理解できるとは限らない

基盤モデルは、パターン認識、情報の統合、自然言語での対話、大規模データセットの探索に優れています。いずれも大きな進歩ですが、モデルそのものは、他との差別化要因ではなくなりつつあります。

企業にとってより難しい課題は、社内の情報が何を意味するのか、そして重要なことに、それが意思決定や分析でどう使われるのかをAIに教えることです。

AIガバナンスをめぐる議論の多くは、データのクレンジングに焦点を当ててきました。これは必要な取り組みですが、企業全体へのAI導入を拡大するには不十分です。データセットがどちらもクレンジング済みでも、定義や対象期間、業務ルールが異なる場合があります。

IBMの「2025 CEO Study」では、AIイニシアチブの25％が期待した投資収益率を達成し、企業全体に展開できたのはわずか16％でした。この傾向は、より広範な導入上の課題と一致しています。モデルやデータを利用できても、情報の適切な使い方を定める組織内のルールをAIシステムが調整できるとは限りません。

より高性能なモデルは容易に調達できます。一方、各社固有の理解は、築き上げなければなりません。

検索時に取得する文脈は、蓄積される文脈とは異なる

企業向けAIで「コンテキスト」と呼ばれるものの多くは、依頼を受けた時点で検索によって取得されています。システムは関連する文書、レコード、データポイントを見つけ、それを使って回答を生成すると、次の質問を受けたときにはまた最初からやり直します。

検索による情報取得は有用ですが、それだけでは組織の記憶が蓄積されません。過去の情報がほとんど引き継がれないため、AIは新たなやり取りのたびに、そのビジネスを初めて知るかのように対応することがあります。

毎朝、極めて優秀な新任アナリストを迎えるようなものです。そのアナリストは財務に精通し、データセットを詳しく分析する方法も知っています。それでも、この会社が指標をどう定義しているのか、どの予測が正式なものなのか、なぜ例外が承認されたのか、どの前提が繰り返し誤りだと判明しているのかを学ぶ必要があります。

蓄積される文脈は、これとは異なる役割を果たします。プロンプトや計画サイクルのたびにリセットされるのではなく、時間とともに積み重なっていきます。調査、シナリオ、修正、承認、意思決定のそれぞれが、組織の運営方法についてガバナンスのもとで培われる理解に寄与します。そのため、後続のサイクルでは、プロンプトのたびに同じ関係性やロジック、業務の進め方を改めて見つけ出すのではなく、先行するサイクルで明らかになったことを土台にできます。

これは、あらゆる情報をいつまでも保持すべきだという意味ではない。企業で役立つコンテキストは、対象範囲を意図的に定め、修正できるようにし、権限を考慮したうえで、情報源までたどれるようにしておく必要がある。組織は重要な情報を保持すると同時に、古くなった前提、一時的な例外、誤った解釈を特定し、時間の経過に応じて変更できるようにしなければならない。

モデルの下支えとなる信頼性

モデルはAIシステムのなかで最も目につく部分だが、企業がその結果を信頼できるかどうかを左右するのは、たいていモデルそのものではない。

高性能なモデルは、差異の原因を調べ、考えられる説明を検討し、対応策を提案できる。企業がその提案を信頼できるかどうかは、モデルを取り巻くアーキテクチャにかかっている。

Gartnerの調査によると、AIの取り組みで成功を報告する組織は、最大4倍多く投資しており、その投資先は、収益に占める割合で見て、データ品質、ガバナンス、AI対応人材、チェンジマネジメントなどの基盤である。これは、成果が芳しくない組織との比較である。

統制されたコンテキスト層もこうした基盤の一部であり、ソースシステム、モデル、ビジネス上のアクションの間に位置する。

ここでは、知能と決定論を切り分ける必要もある。AIは調査し、草案を作成し、提案できる。アクションのレビューと承認が済んだら、実行は統制された計算、権限の確認、書き戻し制御、監査証跡を通じて行うべきだ。探索に役立つモデルの柔軟性も、ビジネスに変更を加える際には必ずしも適切とは限らない。

モデルは何をすべきかを提案できる。人による承認やシステム制御を含む周辺のアーキテクチャが、実際に許可されることを決める。

エージェントを有用にする制約

エージェントを取り巻く統制の整備よりも、導入のほうが速いペースで進んでいる。KPMGによると、少なくとも一部のAIエージェントを導入している組織の割合は、2025年第1四半期の11％から、第3四半期までに42％へ増加した。一方、Gartnerの報告では、組織のわずか13％が、適切なエージェントガバナンス体制を整えていると強く同意した。

この隔たりが重要なのは、能力と権限が別々の設計上の決定事項だからだ。システムは技術的には、データベースへのアクセス、予測の修正、ワークフローの起動が可能かもしれない。しかし、それらを独立して実行する許可を与えるべきだということにはならない。

組織は、重要な業務を委ねる前に、3つの制約を設けるべきだ。

• 共通の意味を確立する

エージェントが一貫して横断的な推論を行えるようにするには、定義、指標、階層、会計カレンダー、計算ルールを事前に整合させなければならない。

組織自体が解決していない意見の不一致を、AIが暗黙のうちに解消することを期待すべきではない。共通の意味がなければ、互いに矛盾する定義を同じものとして扱い、筋は通っていても業務上は誤った回答を出すおそれがある。

• 何を引き継ぐかを決める

組織は、どの修正、承認、決定、結果を再利用可能なコンテキストとして引き継ぐのかを定めなければならない。また、保持、アクセス、修正を規定するポリシーも必要だ。

有用な記憶は、無差別に蓄積するのではなく、選別して統制するものだ。そうしなければ、古くなった前提や一度限りの例外が、将来の提案を知らぬ間に変えてしまう可能性がある。

• 提案と実行の確約を分ける

分析、提案、変更案、人の承認を得た実行、範囲を限定した自律実行は、それぞれ権限の異なる段階だ。エージェントには、各段階に応じたIDと権限を与えるべきである。

評価では、一連のアクション全体も対象にしなければならない。どの情報を取得したか、どのコンテキストを使ったか、どのツールを呼び出したか、何が変更されたか、そしてその変更を元に戻せるかを確認する必要がある。

最終的な回答だけをテストしても、エージェントを使ったワークフローが失敗する多くの原因を見落とす。

能力とはエージェントに何ができるかを示し、ガバナンスとは何を許可されているかを定めるものだ。

自律性には能力以上のものが必要

冒頭のマージンに関するシナリオでは、システムがどの予測を正式なものとするか、どの例外が承認されたか、どのアクションを実行できるか、そして誰が引き続き責任を負うのかも把握していて初めて、スピードが役に立つ。

企業向けAIが信頼を得るのは、適切なコンテキストを引き継ぎ、重大な結果に至った経緯を示せる場合に限られると、私は考えている。

組織はエージェントの自律性を拡大する前に、こうしたコンテキストと制御のレイヤーを構築すべきだ。業務のあり方は変わっても、説明責任は変わらない。