Yair Finzi, カノピー・セキュリティ CEO & コーファウンダー Yair Finzi カノピー・セキュリティ CEO & コーファウンダー

シャドウAIジャングル：プラットフォームの承認とセキュリティの違い

企業のAI導入は、摩擦のないものではありません。データの管理、規制への対応、セキュリティに関する懸念は、旅のすべての段階で伴っています。しかし、Microsoft 、Salesforce 、ServiceNowなどの主要プラットフォーム上で運用を拡大するにつれて、最も難しいガバナンスの質問は、少なくとも部分的に解決されているという認識が広がっています。企業契約は締結されています。セキュリティレビューは完了しています。プラットフォームは承認されています。しかし、その自信は別の質問を見落としています。プラットフォームがセキュアであるかどうかではなく、誰が何を構築しているかということです。業界横断的に、非技術的な従業員が企業のAIプラットフォームを使用して、オートノマスエージェント、自動化されたワークフロー、データ接続アプリケーションを構築しています。これらは、伝統的な開発のタイムラインや制限なしに、数分で構築できます。従業員は、これらのツールを使用して、組織の効率性を高めています。しかし、これらのツールは、セキュリティチームによってレビューされません。多くの場合、セキュリティチームはこれらのツールの存在を知りません。これらのツールは、アプリ、エージェント、または自動化と呼ばれることがありますが、シャドウAIと呼ばれる問題の一部です。これは、過去10年で企業リスクに最も大きな変化をもたらしたものです。なぜなら、脅威が内部に移動したからです。元のシャドウIT問題は比較的単純でした。従業員が外部からの非承認ツールを使用しており、セキュリティの役割はそれらを見つけてブロックすることでした。シャドウAIは別の課題です。ツールはあなたが承認したプラットフォーム内にあります。構築する人はあなたの従業員です。使用するアクセスは正当です。セキュリティプロセスは、問題が生産環境に到達する前にそれらを検出するように設計されていますが、ツールはそれらを通過しません。これを解決するのは、スケールの問題です。ほとんどのセキュリティリーダーは、自分の環境内で構築されているものの量を大幅に低く見積もっています。200以上の企業のCISOとセキュリティリーダーからの最近の調査によると、平均的な企業のセキュリティチームは、ビジネスユーザーが作成したAIエージェント、自動化、アプリケーションの44%しか説明できません。那はギャップではありません。それはほとんどのものが実行されていることをカバーする盲点です。理由は簡単です。ビジネスユーザーは、一部の組織では10対1の割合でプロフェッショナルデベロッパーを上回っています。彼らは、構築を容易にするように設計されたプラットフォーム上で、毎日、すべての部門で構築しています。セキュリティチームは、デベロッパーのパイプラインとコードリポジトリを中心に構築されています。彼らはこれを監視するように設計されていません。最も一般的な誤解は、プラットフォームの承認がセキュリティ問題を解決するというものです。そうではありません。それは問題を移動させるだけです。企業がMicrosoft 、Salesforce 、UiPath と契約を締結すると、プラットフォームプロバイダーはインフラストラクチャをセキュアにします。従業員がそれの上に構築するものと、それをどのように構成するかは、企業の責任です。問題は、ビジネスユーザーが作成するツールが、従来のセキュリティシステムではソフトウェアのように見えないことです。スキャンするコードはありません。監視するリポジトリはありません。検査するパイプラインはありません。HRマネージャーがメニューとテキストプロンプトのシリーズを使用して構築したAIエージェントは、ほとんどのセキュリティツールの観点から見えません。しかし、これらのツールは、軽微なものではありません。調査によると、CISOの半数以上が、ビジネス構築アプリケーションがビジネスクリティカルなプロセスをサポートし、機密会社データにアクセスできることを確認しました。賭けは本物です。監視は追いついていません。ゼロから災害へユースケースは、数多くあり、ほとんどの部門から来ています。セキュリティチームが気づくことのない部門です。例えば、マーケティングコーディネーターは、製品に関する質問に答えるために、完全に承認されたプラットフォーム上で、顧客向けのAIエージェントを構築します。数分で、アプリは実行されます。しかし、セキュリティトレーニングを受けていないため、2つの小さな構成ミスが見落とされ、エージェントは会社の全データベースに直接アクセスでき、取得できるデータに制限はありません。実行中、ユーザーはエージェントに従業員レコードを取得するように指示します。エージェントはそれを実行します。エージェントにはメール機能もあるため、ユーザーはそのデータを個人用アドレスに送信するように指示します。全シーケンスは60秒以内で完了します。承認されていないアクセスはありません。プラットフォームの侵害はありません。セキュリティアラートはありません。これは、洗練された攻撃ではありません。これは、ガバナンスがオプションであるプラットフォームで構築されたものを完全に理解していない、善意の従業員の予測可能な結果です。誰も価格をつけていないガバナンスギャップほとんどの組織にとって、シャドウAIの問題は、何かが間違ったときまで抽象的です。しかし、ビジネスリスクは、侵害への対応を超えています。ビジネス構築エージェントが機密データを漏らすと、取締役会が尋ねる質問は「どのようにして構成ミスが発生したのか？」ではありません。それは「誰もツールが実行されていることを知らなかったのか？」です。外部攻撃者によって引き起こされた侵害と内部ツールによって引き起こされた侵害を区別しません。個人データが公開され、組織が実行中のツールへの可視性がなかった場合、監視の欠如はそれ自体が責任です。「従業員が承認されたプラットフォームで構築しました」は、防御ではありません。それはギャップの説明です。緊急性は本物ですが、意図と実行は同じではありません。ほとんどの企業にとって、間隔は広く開いています。答えは、誰が構築できるかを制限することではありません。シチズンデベロップメントをロックダウンすることは、真正の生産性の利益を犠牲にすることになります。また、実践的には機能しません。従業員は回避策を見つけるでしょう。答えは、実行中のものを可視化し、リスクが実際に発生するポイントでそれを管理することです。ランタイムです。それは、エージェントが存在するだけでなく、どのように動作するか、どのデータにアクセスするか、どのシステムに触れるか、また、構築者の意図した境界内に残るかどうかを理解することを意味します。組織レベルで、構成のポイントだけでなく、ガードレールを設定することを意味します。セキュリティチームが、環境内のエージェントについて最も基本的な質問に答えることができる場所に到達することを意味します。誰がそれを構築したのか、どのようなアクセス権を持っているのか、それが設計どおりに動作しているのか。ほとんどの企業は、今日、答えることができません。最初に到達する企業は、実行中のものが何であるかを知っているため、自信を持ってAIの導入を拡大できる企業です。