Kevin Paige, CISO, ConductorOne Kevin Paige CISO, ConductorOne

シャドウAIはデザインの失敗であり、人為的な問題ではない

この記事で1つのことを覚えておいてください。もし他のことを忘れても、このことを覚えておいてください：シャドウAIは、安全なパスを遅くすることの直接的な結果です。これは、熱い意見ではありません。これは、25年間で毎回見たパターンです — シャドウIT、BYOD、クラウドスプローからAIまで、すべてのセキュリティドメインで同じことが起こっています。あなたを夜中に目覚めさせるべきギャップマイクロソフトとLinkedInの2024年ワークトレンド指数は、セキュリティリーダーがすでに直感的に感じていたことを数字で示しました：75%のナレッジワーカーが仕事でAIツールを使用しています、そして78%のワーカーが自身のAIツールを持ち込みます。これは、実験ではありません。これは、ITが追いつかないのを待たなかったワークフォースです。そして、痛みを与える部分は、ガバナンスが追いついていないことです。2025年のCheckmarx調査では、AI支援コード生成をカバーするガバナンスポリシーを持つ組織は18%のみであることがわかりました — 専門のエンジニアリングチームがすでに毎日これらのツールを使用しているにもかかわらず。コードのギャップがこれほど広い場合、チームが実行している他のAI駆動ワークフローについてはどうなっているのでしょうか。採用はガバナンスを待っていません。採用はガバナンスを追い越しています。あなたの従業員は、無謀なことをしています。彼らは、合理的なことをしています。彼らは、自分たちを速くするツールを見つけました。安全に使用するための公式のパスには、Pythonをインストールし、GCPプロジェクトを作成し、サービスアカウントを生成し、JSON資格情報をノートパソコンにダウンロードし、ローカルのMCPサーバーを構成することが含まれます。本当の話。本当の結果：その人は3つのステップで諦めました。私が見る失敗モードパターンを具体的に説明しましょう。私は、数十の組織でこのパターンのバリエーションを見てきました。マーケティングディレクターがブログ記事を読みます：Google Analytics MCPサーバーにAIアシスタントを接続し、秒単位でSEOレポートを実行します。素晴らしいアイデアです。彼女はそれを行いたいと思います。そこで彼女は管理されていないパスに進み始めます。依存関係をインストールします。クラウドプロジェクトを作成します。サービスアカウントを生成します。ノートパソコンに資格情報ファイルをダウンロードします。ローカルで統合を構成します。彼女は諦めます。3つのステップで。フリクションが多すぎます。間違ったツールを間違った人に使わせています。今、私が言ったことを聞いてください。問題は、マーケティングディレクターではありません。彼女は賢いです。彼女は動機があります。彼女は、AIツールを採用したいと思っている、まさにそのような人です。問題は、安全なパスが、安全でないパスよりも遅かったということです。これは、私が見たすべてのレガシーアクセスプログラムの失敗モードです。管理されたパスが、管理されていないパスよりも難しい場合、人は管理されていないパスを見つけます。毎回です。そして、あなたは、侵害が発生した後にそれについて知ることになります。侵害が発生する前にではありません。5つの墓私は、組織がこの問題を5つの異なる方法で解決しようとしたのを見てきました。各アプローチは、同じ根本的な理由で失敗しました：フリクションを追加することなく、速度を追加することなく。最初の試みは、各チームが自身のAIツールを選択できるようにすることです。結果は、14の重複するサブスクリプションと、監査トレイルのないものです。あなたは採用を民主化しましたが、中央集権化は何もしませんでした。2番目の試みは、すべてをSSOの後ろに置くことです。SSOはログインを解決します。SSOはアクションを解決しません。エージェントが認証された後、SSOレイヤーは次に何が起こるかを知ることができません。3番目の試みは、エージェント間でサービスアカウントを共有することです。1つのインシデントが発生した後、あなたはゼロの帰属を持ちます。何かが間違ったときに、どのエージェントが何をしたのかを判断することができません。4番目の試みは、AIポリシーを作成し、ウィキに配置することです。私は、組織が6週間をかけて包括的なAI使用許可ポリシーを作成し、全員に配布した後、3か月後に従業員の3分の1しか文書を開いていないことがわかったのを見ました。誰もが文書を読みません。人はデフォルトを読みます。何が簡単かが何が行われるかです — ウィキページは簡単ではありません。5番目の試みは、すべてのAIプロジェクトのための中央レビューボードを設立することです。あなたは責任を持っていると思っています。しかし、あなたはボトルネックになっています。1クォーター以内に、チームはあなたの周りを迂回しています — あなたは、防ごうとしていたシャドウAIの問題を、まさに作り出しています。これらのすべての墓には、同じ墓碑銘があります：ノートパソコンに散在する資格情報、監査トレイルのないもの、そして多くの交差する指です。実際に機能する逆転修復には、さらにフリクションを加える必要はありません。逆転する必要があります。伝統的なセキュリティは、悪い行動を防ぐためにフリクションを構築します。ユーザーはそれを迂回します。シャドウAIが現れます。あなたは侵害が発生した後にそれについて知ることになります。逆転します。プロビジョニングされたパスを、管理されていないパスよりも速くします。実践では、どのように見えますか？同じマーケティングディレクター — Pythonやサービスアカウントとの格闘ではなく — Google Analyticsへのアクセスを、AIアシスタント内から要求します。要求はポリシーエンジンに当てはまります。リスクが低く、ツールが既知で、ユーザーが既知の場合 — 自動承認されます。資格情報は、ボールトされ、スコープされ、短期間で有効期限が切れます。ノートパソコンには触れません。すべてのクエリはログに記録されます。彼女は1分以内にレポートを実行しています。同じ人。同じ結果が欲しかった。時間の小さな部分。完全な監査トレイル。異なるインセンティブ。異なる結果。これが、AIアクセス管理が正しく構築されたときの見え方です。最も速いパスが最も安全なパスになります。ITの周りを迂回するインセンティブが消えます — コンプライアンスをより厳しく強制したからではありません。コンプライアンスが、代替案よりも簡単になったからです。管理されたパスが、管理されていないパスよりも真正に速い場合、シャドウAIは、問題を自分で解決し始めます。何が重要かを測定する消えることのないメトリックがあります：管理されたパスは、管理されていないパスよりも速いですか？管理されていないパスが管理されたパスよりも速い瞬間、シャドウAIが戻り、あなたは最初からやり直すことになります。これは、一度だけの測定ではありません。これは、継続的なシグナルです。毎回、ステップを追加したり、レビューを追加したり、承認を追加したりするたびに、管理されていないパスをより魅力的にしたのではないかと問いましょう。セルフサービスは、生産性の機能ではありません。セキュリティ機能です。那線は、セキュリティチームがアクセス管理について考える方法を逆転させます。これが、私が提供できる最も重要な再構成です。フリクションは、毎回リスクを生み出します。あなたが望む行動がある場合、それをデフォルトにします。あなたが望まない行動がある場合、それを代替案よりも難しくします。その原則に基づいて構築し、あなたのシャドウAIの問題のほとんどは、自ら解決します。