ワークプレイスの次のフロンティアはガバナンスされたAIである

私たちは10年間、影のITと戦ってきた。承認されていないSaaSアプリ。無許可のスプレッドシート。承認されていないDropboxアカウント。ITリーダーはこの問題に対するコンプライアンス・プログラムを構築し、ほとんどの組織がそれに失敗した。 Reco AIの2025年のShadow AIレポートによると、平均的なエンタープライズ内のSaaSアプリケーションの47%のみが正式に承認されており、平均的な組織は現在490のアプリケーションを管理している。

それが古い問題だった。新しい問題はより深刻だ。

影のAI問題は今回は違う

従業員が承認されていないプロジェクト管理ツールにサインアップすると、被害は限定される。チームのタスクは間違った場所にある。もしかしたら何かのデータが漏洩する。データ漏洩の種類はかなり予測可能だ。

AIは異なる。従業員は今、AIツールを使用して顧客向けのコミュニケーションを作成し、財務レポートを生成し、機密会議の要約を作成し、自動ワークフローを構築し、誰にも知らせずにそれを行っている。 マイクロソフトの2024年のワーク・トレンド・インデックスによると、AIユーザーの78%が仕事にAIツールを持ち込んでいる。悪意を持ってではなく、ツールが本当に有用であり、パフォーマンスを向上させる圧力に直面しているからだ。ただし、組織はプロセス、手順、ツールを提供するのが遅い。

ここでの問題は出力だ。AIツールが顧客契約を下書きしたり、法的電話を要約したり、四半期の取締役会報告書を生成したりした場合、リスクは「どのツールを使用したか」を知らないことだけではない。データの取り扱い、精度、出力に埋め込まれた意思決定が組織にとって完全に不可視であることだ。誰もプロンプトを確認しなかった。誰も結果を検証しなかった。誰もそれが起こったことを知らない。AIは多くの場合、自信を持って結果を提示するため、ユーザーは情報源を確認せずに結果を受け入れることになる。

KPMGの2025年の影のAI分析によると、職場でAIを使用する従業員の44%が会社のポリシーとガイドラインに違反する方法でAIを使用している。従業員のほとんどが会社のルールに違反していることになる。

自動エージェントがより困難（そして優れた）ものにする理由

ここで話が面白くなる。従業員がChatGPTにテキストを貼り付けるのをやめて、AIエージェントの時代に入っている。AIエージェントとは、継続的に実行できる、複数のタスクを実行できる、エンタープライズツールに接続できる、毎回の決定に人間が関与しなくても動作できる自律システムだ。

デロイトの2025年のテクノロジー・トレンド・レポートでは、これを「シリコンベースのワークフォースへの移行」と表現し、多くの初期のエージェントAI実装が人間用に設計された既存のプロセスを自動化しようとして失敗していることを指摘している。

ここが分岐点だ。自動AIは2つの方向に進むことができる。

パス1: 影のITがさらに悪化する。従業員が個人アカウントを使用してエージェントをスピンアップし、会社のITで実行し、会社のツールに個人APIキーを使用して接続し、チームの他のメンバーが見ることができない出力を生成する。エージェントが毎日のレポートを実行する。レポートが間違っている。誰もが存在に気付かないため、誰もそれを数週間捕まえることができない。現実的だ。これは、AIの採用を個人の生産性のプレイとして扱う組織で現在起こっていることだ。

パス2: ガバナンスされた自律性。同じエージェントが同じ毎日のレポートを実行するが、チームが何をしているか、どのデータにアクセスしているか、誰がセットアップしたか、どのような出力を生成したかを確認できる環境の中で。エージェントは共有されているので、シロハンではない。出力は可視化されている。権限はスコープされている。何かが間違っている場合、トレイルがある。

これらの2つのパスの違いは技術ではない。環境にある。

実践におけるガバナンスされたAIの実際

ガバナンスは、ビルダーが嫌がる言葉だ。通常、「遅い」という意味だ。承認が増える。プロセスが増える。仕事をする人とリスクを管理する人との間で摩擦が生じる。

しかし、ガバナンスされたAIは必ずしもそうではない。私が見た最も優れた実装は、いくつかの特徴を共有している。

デフォルトで可視化される。すべてのAI生成出力 — すべてのレポート、すべてのアラート、すべてのドラフト — はチームに可視化されるので、誰かの個人チャット履歴に埋もれていない。監視ではなく、共有されたコンテキストについてだ。エージェントが毎週の競合分析を生成した場合、チーム全員がそれを見て、質問して、さらに開発できるはずだ。

権限は、ブランケットアクセスではなくスコープされている。エラーログを監視するエージェントは、CRMにアクセスする必要はない。ソーシャルコンテンツをドラフトするエージェントは、財務データにアクセスする必要はない。最小特権の原則は新しいものではない。ただし、AIシステムに適用されることは稀だ。

実際に存在する監査トレイル。 McKinseyのエージェントAIセキュリティのプレイブックでは、自律エージェントが「新しい、複雑なリスクと脆弱性を提示し、現在注意と行動を必要とする」と強調している。最も基本的なものの1つは、エージェントが何をしたか、どのデータにアクセスしたか、どのような決定をしたかを追跡できない場合、エージェントをガバナンスできないことだ。全てのストップ。

チームレベルのコントロール、ITレベルのコントロールだけではない。これが最もガバナンス・フレームワークが間違っている部分だ。AIのコントロールをすべてITまたはセキュリティに集中させてしまうと、影のAIを生み出すボトルネックが生じる。ガバナンスを正しく行っている組織は、ITがマイクロマネージメントする必要がないガードレールの中で、チームが使用するエージェントの構成、スコープ、監視をマネージャーとチームリーダーに許可している。

組織が正しいことを行っている場所

AIエージェントをうまく展開している会社は、最も高度なモデルを持っているのではない。明確な運用境界を持っているのである。

私は3つの分野で最も強い成果を見ている。

レポートと監視。チームチャンネルに直接レポートを配信する、スケジュールされたレポートを実行するエージェント — 毎日のスタンドアップ、毎週のメトリクスサマリー、エラーログのダイジェスト。ここでの価値は自動化だけではない。一貫性がある。レポートは毎朝実行される。誰かがデータを取得することを忘れない限り、そしてチームがそれを見た場合、エラーはより迅速に捕捉される。

コンテンツとコミュニケーションのワークフロー。公開ではなく、ドラフト。内部アップデート、会議のサマリー、またはアウトバウンドコンテンツの最初のドラフトを生成し、それらを人間のレビューのために提示するエージェント。ガバナンスの部分は、出力が顧客向けではなく内部Slackチャンネル向けである場合、品質のバーが異なるため重要だ。

分析とアラート。ダッシュボードを監視し、異常をフラグし、メトリクスが予想範囲を超えた場合にアラートをプッシュするエージェント。これは、毎週末に生産問題に気付かなかったチームが直面する「誰かがこれを監視しているはず」という問題を置き換える。

組織がまだ間違っていること

最大の間違いは、AIガバナンスを政策問題として扱うことではなく、インフラストラクチャ問題として扱うことだ。

あなたはどれだけの使用可能なポリシーを書いても、従業員が承認された、使いやすい環境でAIを展開できる環境がなければ、従業員はポリシーを迂回するだろう。那は人々の問題ではない。設計上の問題だ。

IDCの影のAI分析は、この点を明確にしている。ステルスAIの生産性は「エンタープライズAIの採用を絞めている」ということだ。組織は利点を望みながらリスクを恐れており、結果は不作為になる。最悪の結果だ。制御されていない採用を保証するからだ。

2番目の間違いは、ガバナンスと速度を反対するものとして扱うことだ。そうではない。最もガバナンスされたAI環境は、チームがすでに存在する作業を再作成したり、見えないエージェントをデバッグしたり、従業員が退職して個人アカウントが一緒に消えたためにワークフローが壊れたりする時間を費やさないため、最も速いものだ。

フロンティアはモデルではなく環境である

業界の注目はモデル能力に固定されている。より大きなコンテキストウィンドウ。より優れた推論。マルチモーダル入力。重要だ。しかし、仕事をしようとしているほとんどのチームにとって、ボトルネックはモデルではない。環境にある。

チームは何が起こっているかを見ることができるか。チームはアクセスできるものを制御できるか。チームは生成物を共有できるか。チームはそれが正しいデータと正しい制約で動作していることを信頼できるか。

これらはインフラストラクチャの質問だ。モデルに関する質問ではない。これらが、AIから実際的で持続可能な価値を得る組織と、単に別の層の影のITを追加する組織を区別することになる。

フロンティアは、より賢いモデルを構築することではない。スマートなモデルが実際に信頼して動作する環境を構築することだ。