ソートリーダー
April 2, 2026
シャドウAIは、AIガバナンスのより大きな失敗を明らかにしている
数年間、内部リスクは、最悪のシナリオで説明されてきた：悪意のある従業員、データの盗難、事実後に発見された損害。しかしその説明は常に不完全だった。AIの時代に、説明は積極的に役に立たないものになっている。ほとんどの内部リスクは、悪意から始まらない。日常的な仕事から始まる：文書の要約、顧客への回答、ワークフローの高速化、コードの迅速な出荷。日常的な決定は、ますます多くAIを利用している。そのため、シャドウAIは重要である。広く定義すると、シャドウAIは、企業の監視の外側でAIツール、エージェント、または自動化を使用することである。ほとんどの場合、従業員はポリシーを回避しようとしていない。彼らは仕事を完了しようとしている。実際の問題は、ガバナンスが仕事の変化に追いついていないことである。そのギャップは今測定可能である。新しいPonemonの調査によると、92%の組織は、生成的なAIが従業員が情報にアクセスして共有する方法を変えたと述べている。しかし、AIガバナンスを内部リスクプログラムに完全に統合した組織は18%のみである。AIはすでに日常的な仕事に埋め込まれている。監視はまだ追いついている。シャドウAIは1つの問題ではない組織が犯す最大の間違いの一つは、シャドウAIを単一の、均一なリスクとして扱うことである。それはそうではない。公開された研究を要約するためにAIを使用すること、内部契約を承認されていないアシスタントに貼付けること、またはAIエージェントが企業システム全体でデータを取得または操作することを許可することの間には、意味のある違いがある。リスクは、データの機密性、関与する自律性のレベル、システムに与えられた権限によって異なる。そのため、全面的な禁止はほとんど効果がない。従業員の行動をより見えにくいところに追いやってしまうだけで、従業員が最初にそのような行動をとった理由に対処できていない。過度に寛大なポリシーも効果がない。すべてが許可されている場合、ガバナンスは紙上でのみの行為になる。より効果的なアプローチは、以下を区別することである： 低リスクの支援、AIが限定された公開で日常的な仕事を支援する 高リスクのデータ処理、機密情報が入力、変換、または共有される 委任された権限、AIシステムが接続された環境でデータを取得、調整、または操作することを許可される 最後のカテゴリが実際の変化を示す。AIがコンテンツ生成からデータの取得、調整、実行に移行するにつれて、セキュリティの質問も変化する。問題は、承認されていないツールが使用されたかどうかだけではなく、システムに与えられた権限、システムがアクセスできるデータ、システムがそのアクセスを使用して何をするかである。AIエージェントは、より信頼され、より接続され、より独立して行動する能力が高まっている。これが、従来の内部リスクモデルが限界を示し始める理由である。なぜシャドウAIが委任された権限を持つとリスクモデルが変わるのかほとんどの内部リスクモデルは、人間の行動を評価するために構築された：怠慢、誤用、妥協、または悪意のある意図。従業員の行動はまだ重要である。ただし、従業員の行動だけでは全体像を捉えることができなくなっている。これは特に、シャドウAIの場合に明らかである。ここで、ツールまたはエージェントは必ずしも制限された、中央で管理された、または組織に可視化されたものではない。従業員がAIを使用しているというだけでなく、従業員がビジネスが完全に理解していないアクセス、自律性、または統合を持つユーザー制御システムを使用している可能性がある。今日、従業員は正当なアクセス権を持っており、通常の指示を出すかもしれない。しかし、シャドウAIのシナリオでは、その指示は承認されていないアシスタント、プラグイン、エージェント、またはワークフローに渡される可能性があり、従業員が意図したよりも迅速に、幅広く、または遠くまで進む可能性がある。これが、委任された権限の実際の結果である。人間が意図、接触、またはプロンプトを提供する。AIシステムは速度、スケール、持続性で実行する。共に、人間は過去に制御されていた方法でミスを増幅することができる。懸念は、AIシステムが悪意を持っていることではない。AIシステムが、不完全な指示、弱い判断、または安全でないワークフローを機械の速度で実行できる可能性があることである。承認された監視の外側にあるシステムの場合、組織は、システムがどのデータにアクセスしたか、データはどこに行ったか、どのような行動が取られたか、または何が間違っている場合に介入する方法を知ることができない。これが、シャドウAI内の委任された権限が、通常の承認されていないツールの使用とは何が異なるのかを示す。問題は、従業員が機密データを間違ったインターフェイスに貼付けることだけに限定されていない。問題は、承認されていないシステムが情報を取得し、タスクを連鎖させ、企業アプリケーションに接続し、ユーザーの代理で行動し、承認された環境では通常実行されるガードレールなしで行われる。これが、セキュリティチームが内部リスクのためのより正確なモデルが必要な理由である。従業員の行動だけではなく、人間の意図と機械の実行の相互作用を考慮に入れたモデルである。シャドウAIのコストはすでに明らかであるこれは将来の問題ではない。コストは現在の内部リスクトレンドにすでに現れている。Ponemonの2026年の調査によると、怠慢に関連する内部リスクコストは、年間1,700万ドルへの対して17%増加し、総内部リスクコストは1億9,500万ドルとなった。報告書は、シャドウAIを、通常の生産性の行動を永続的なデータ漏洩の源とする主要な要因として特定している。機密情報が公開された、または承認されていないAIツールに入力されている。AIのノートテイカーが機密の会議を記録している。エージェントツールは、設計時にこのレベルの自律的な相互作用を想定していない環境で、制限された可視性で動作している。これらは通常、悪意のある行為ではない。システムのガードレールが弱く、監視が不完全なシステムで通常の職場の行動が展開している。これが、シャドウAIが重要な理由である。シャドウAIは、新しいリスクカテゴリを単に導入するのではなく、怠慢によって引き起こされるミスのスケール、速度、コストを増加させ、ミスを繰り返しやすく、検出するのがより困難にする。なぜAIツールを禁止することは答えではないのかAIツールは、日常的な仕事に埋め込まれており、非常に役に立つため、禁止のみで管理することはできない。組織が禁止のみに頼るとき、使用はより見えにくいチャネルに追いやられることが多い。より良い対応は、可視性から始まる。セキュリティチームは、使用されているAIツール、ツールに流れ込むデータ、生成される出力、ユーザーの代理で行動することを許可されたシステムを理解する必要がある。同様に重要なのは、ガバナンスが実際に仕事が行われている方法を反映することである。従業員とAIシステムの両方が情報にアクセスし、変換し、移動させている場合、同じ可視性、説明責任、コントロールのモデルの中に含める必要がある。この問題を正しく解決する組織は、最も多くのツールを禁止する組織ではありません。責任ある実験がどこで終了し、物質的な露出がどこから始まるかを明確に区別できる組織である。シャドウAIは、一時的なガバナンスの厄介事ではありません。仕事が監視よりも速く変化したことの初期の警告です。課題は、ビジネスを遅くすることではありません。人間の判断と機械の実行がますます側によって働く新しい運用の現実に、内部リスク管理を改善したのと同じ規律を適用することです。
