ソートリーダー
AIエージェントを拡大する前に、何を知らないのかを問う

要点エージェントが古い申請日や会計暦の違いなどの文脈を省略すると、自信のある回答は失敗する。
もっと見る
- エージェントが古い申請日や会計暦の違いなどの文脈を省略すると、自信のある回答は失敗する。
- 約6割の企業が、自信はあるが誤ったAIの回答を、欠落または不完全なビジネス文脈に起因すると特定した。
- 正しいデータであっても誤って共有されれば規制に違反し得るため、人によるレビューはリスクの大きさに応じて拡大する必要がある。
こうした場面を想像してみてください。CFOが、大手機関投資家との会議に向けて準備を進めています。準備を支援するため、IRチームはAIツールに、相手企業との前回の会議の日付、相手が示した優先事項、保有株式数などの背景情報を集めるよう依頼します。
ツールは、自信たっぷりに投資家の保有株式数は250万株だと答えます。誰も疑問を抱かず、CFOはこの重要な対話に向けて、そのまま準備を進めます。
しかし、問題がありました。AIは、前四半期末時点の保有状況を報告するForm 13Fの提出書類から、その数値を取得していたのです。報告当時は正確な情報でしたが……今となっては数カ月前のものです。その間に投資家はひそかに200万株を売却し、保有株式数を大幅に減らしていました。会議の議題(そして場合によっては会議そのものも!)は、もはや意味をなさないように思われます。
何が問題だったのでしょうか。この例では、AIは幻覚を起こしたわけでも、数値を捏造したわけでもありません。信頼できる情報を取得したものの、その情報に条件を付したり、限界を説明したりできなかったのです。
この場合の結果は気まずい会話や機会損失にとどまるかもしれませんが、別の状況では、重要な文脈を欠いたまま断定的に示される回答が、さらに大きなリスクをもたらす可能性があります。
モデルの性能向上だけでは解決しない
基盤モデルの性能はますます向上しています。それなのに、業界を問わず企業が直面しているように、自信に満ちているのに誤った回答が以前にも増して現れるように思えるのは、なぜでしょうか。
まず、生成AI(GenAI)は完全に普及しました。McKinseyのレポート「2026年のAIの現状」によると、ビジネスパーソンの約10人に9人が、自社では少なくとも1つの業務機能でAIを日常的に利用していると答えています。
また、組織が実験段階を脱し、日常業務や意思決定でAIに頼る場面が増えるにつれて、こうしたツールが持つ知識や理解の限界にも直面するようになっています。
最近の業界調査は、問題の根本にあるものを示しています。過去6カ月だけでも、企業の約10社に6社(57%)が、自信に満ちているのに誤ったAIエージェントの回答の原因は、ビジネスの文脈情報の欠如または不足にあると突き止めました。
AIが利用できるデータの多さを考えると、意外に思えるかもしれません。しかし、重要な違いがあります。文脈はデータと同じものではありません。
文脈とは何か、何ではないのか
文脈には、組織に蓄積された知識、規則の例外、関係性、業務の進め方に関するプロセスや期待などが含まれます。こうした細かな事情は、企業ごとに異なることが少なくありません。
私はIRチームと仕事をする中で、こうした違いがいかに重要かを目の当たりにしています。一見すると単純な例をいくつか考えてみましょう。
- 会計年度:ある企業の第1四半期は暦年の第1四半期と一致する一方、別の企業では9月に始まることがあります。その文脈がなければ、AIエージェントは誤った報告期間の業績を比較しかねません。
- 財務指標:企業はGAAPベースと非GAAPベースの1株当たり利益を両方報告する場合があります。どちらを、いつ引用すべきか理解していないエージェントは、企業の業績を誤って伝えるおそれがあります。
- 企業のメッセージ:企業が何を強調し、何を取り上げないかについて意図的に決定する中で、その発信内容は時間とともに変化します。その経緯や理由を理解していないAIエージェントは、慎重に練り上げられたメッセージを損なうコンテンツを生成しかねません。
こうした事情を踏まえると、同じ基盤モデルでも、利用できる文脈や専門知識によって、企業ごとに大きく異なる結果を出すのは当然です。
特定の目的や業界に特化して構築された「垂直型」AIは、その分野固有の知識や業務の流れ、細かな事情を認識し、こうしたギャップの一部を埋めるのに役立ちます。しかし、どれほど高度な技術でも、組織が持つ知識をすべて把握することはできません。そのため、人間にも果たすべき役割があります。
AIがあなたのビジネスについて知らないこと
しかし、人間がいつまでも会社にとどまるとは限りません。経験豊富なIR担当役員(IRO)が、たとえば5年勤務した後に退職する場合を考えてみましょう。その人は、投資候補先の特定と選定、株主の動向分析、関係構築、決算発表への準備、経営幹部の準備支援など、ほかにも数多くの業務に時間を費やしてきたはずです。
企業には決算説明会の台本やプレゼンテーション資料、その他のファイルが残ります。しかし、それらを支える組織に蓄積された知識はどうでしょうか。特に、IROの10人にほぼ8人(78%)は後任者が決まっていないことを考えると、その知識の多くも一緒に失われてしまいます。
だからこそ組織は、AIシステムが活用できる形で、知識や理解を保存するために取り組む必要があります。AIエージェントを共有ドライブに接続するだけでは、多くの場合不十分です。
重要な知識や業務フロー、たとえば重要な意思決定の背景にある理由、関係性の経緯、正式な文書に記録されなかったその他の事業継続に不可欠な情報を、体系的に記録する手段を持つことは、あらゆる業界の企業にとって重要です。
そうしたナレッジベースを機能させるには、人の力が必要です。情報を記録するためにも、その情報に判断を加えるためにも、人が欠かせません。AIは知識の整理を支援できますが、テクノロジーが見落としがちな重要な背景情報を提供するのは従業員です。
重大なリスクを伴う環境では、文脈の不足が深刻な問題を招く
AIが誤った回答をした場合に何が起きるかについては、これまで説明してきました。しかし、AIエージェントが正確で最新かつ関連性の高い正しい情報を取得していても、それでも、誤った状況でその情報を共有すれば問題を引き起こすことがあります。
規制の厳しい業界では、こうした過ちが特に大きな損失につながります。
たとえば投資家向け広報では、未公表の業績などの重要な未公開情報(MNPI)をアナリストや投資家に共有すると、米国証券取引委員会(SEC)の公正開示規則(Reg FD)に違反する可能性があり、金銭的な制裁や評判の毀損につながりかねません。
医療、金融サービス、法律サービスなどの業界も同様の規制リスクに直面しており、AIエージェントが機密情報にアクセスできる場合には、制御策が必要であることが浮き彫りになっています。
このことからも、人間が引き続き重要な役割を担い、伝達される内容の確認と承認に不可欠であることがわかります。企業は、リスクの大きさに応じて人による確認の程度を調整し、AIを使ったワークフローの種類ごとに自律性のレベルを変えることを検討できます。
AIエージェントを拡大する前に確認すべき3つの質問
仕事でも日常生活でも、自分が何を知らないのかさえわからない状況に遭遇したことは、おそらく誰にでもあるでしょう。重大な結果を招かない場合もあれば、より深刻な事態につながる場合もあります。
今日のAIが利用できるデータセットは膨大で、AIモデルは以前よりはるかに多くのことを把握しています……それでも、情報に欠落があれば「声を上げる」必要があります。企業がAIを活用して、より戦略的な優先事項や業務フローに取り組むようになるなか、導入を拡大する前に、次の点を確認することが重要です。
- エージェントは、回答の情報源と、その情報が最後に更新された時期を示せるか。尋ねられなくても、この情報を提示できるか。
- エージェントは、依頼を解釈して応答するために必要な業務上の背景情報を備えているか。自らの限界を明示するか。
- 確認と承認のために人間が介入すべきタイミングを把握しているか。どのような状況で介入が必要になり、確認プロセスはどのように開始されるのか。
AIを避けることが答えではない
はっきりさせておきたいのですが、私はAIに大きな期待を寄せています。仕事で毎日使っており、現在と将来のメリットを実感しています。そして、さまざまな意味で、私たちはまだAIの可能性のほんの一端に触れたにすぎないと考えています。AIを避ける企業も、体系的かつ効果的に導入できない企業も、後れを取る現実的なリスクを抱えていることに疑いはありません。
しかし、AIを導入することは、汎用モデルに企業データへのアクセスを与え、好き勝手に動かせばよいという意味ではありません。
現時点で、私の見る限り、完全自律型AIがすべての業務や意思決定に適しているわけではありません。組織は、AIが独立して対応できる領域、追加の文脈情報を必要とする領域、そして人間の判断が不可欠な領域を理解する必要があります。
ですから、AIエージェントが何を知っているかを尋ねる前に、何を知らないのかを尋ねてください。その答えによって、導入方法や任せる業務、そして成果を上げられるように整える方法が決まります。












