AIリスクの見落とされたデータ漏洩の危険性

企業におけるAIリスクについて議論する際、多くの場合、従業員が顧客データをチャットボットに貼り付けることから始まります。プライバシーと規制違反の懸念がヘッドラインや取締役会議で議論され、デロイトの調査によると、データプライバシーとセキュリティは企業が心配するAIリスクの上位に位置しています。

しかし、実際の企業でのAIの使用状況から得られるデータは、異なる話を語っています。AIツールに流入する最も共通の機密情報は、個人データではありません。それは、シークレットと資格情報です。

APIキー、トークン、ウェブフック、および認証アーティファクトは、現在、AIプロンプトで観察される機密データ漏洩の最大のシェアを占めています。これらの漏洩は、通常、無神経さや悪意の結果ではなく、デバッグ、自動化のテスト、コードのトラブルシューティング、または顧客の問題の解決などの日常的な作業から生じます。AIが日常のワークフローに埋め込まれるにつれて、これらの瞬間は頻繁に発生し、伝統的なセキュリティコントロールの可視性の外側で発生することがよくあります。

結果は明らかです。AIの採用が拡大するにつれて、組織は実際にリスクが発生する場所についてより正確な理解を得ており、ガバナンスはそれらを対処するために進化しなければなりません。

見落とされたAIデータ漏洩リスクは明らかである

最近のAI使用状況分析では、Nudge Securityは、企業環境を横断して匿名化されたテレメトリを調査し、職場でのAIツールの実際の使用方法を理解しました。調査は、アンケートや自己報告ではなく、観測されたAIアクティビティ、統合、およびプロンプトの動作を分析しました。

調査結果は、企業でのAIリスクが実際にどこで発生しているかについて新しい洞察を提供しています。AIプロンプトでの機密データ漏洩は、運用資格情報によって支配されています。シークレットと資格情報は、検出された機密データイベントの約48パーセントを占め、金融データは36パーセント、健康関連情報は16パーセントです。これらのパターンは、最も重要なAIデータ漏洩課題はプライバシーの漏洩ではなく、シークレットの拡散であることを示唆しています。

同様の調査では、AIの採用は実験を超えて拡大しています。AIツールはワークフローに埋め込まれ、コアビジネスプラットフォームに統合され、自律的なアクションをとる能力が向上しています。主要な大規模言語モデルプロバイダは、ほぼ普遍的に存在し、OpenAIは96パーセントの組織で、Anthropicは78パーセントの組織で存在しています。

マッキンゼーの調査によると、88パーセントの組織は、少なくとも1つのビジネス機能で定期的にAIを使用しており、1年前は78パーセントでした。会議インテリジェンスツール、AI支援コーディングプラットフォーム、プレゼンテーションジェネレーター、ボイステクノロジーは広く展開されており、AIがチャットインターフェイスから日常のワークフローに拡大していることを反映しています。この拡大は重要です。リスクは使用に従います。AIが開発者環境、コラボレーションプラットフォーム、顧客サポートワークフローに埋め込まれるにつれて、機密システムと運用データに近づきます。

採用は、下からのドライブでも推進されています。KPMGの最近の調査によると、44パーセントの従業員は、雇用主が承認していない方法でAIツールを使用しており、AIツールが日常のタスクを加速するためにどのように迅速にワークフローに入るかを示しています。従業員は、ブラウザーエクステンションをインストールし、助手を接続し、統合を実験して、日常のタスクを加速します。セキュリティアナリストは、このパターンを「シャドウAI」と表現し、ツールがブラウザーとSaaSワークフロー内で伝統的なITの可視性を超えて動作することを指しています。これらのツールは、瞬時に展開でき、技術的なセットアップがほとんど不要であるため、ベンダーの承認プロセスと使用承認ポリシーに基づいて構築されたガバナンスプログラムは、企業全体でAIがどのように導入され、使用されるかを追跡するのに苦労します。

漏洩したシークレットが即時の運用リスクを生み出す理由

個人データは依然として機密であり、規制されていますが、シークレットは即時の運用的影響をもたらします。漏洩したAPIキーは、生産システムへのアクセスを提供できます。妥協されたトークンは、リポジトリを公開できます。ウェブフックURLは、承認されていない自動化を可能にします。資格情報は、ルーチンワークフロー中にAIプロンプトで頻繁に現れます。開発者は、認証の失敗をトラブルシューティングするときにトークンをチャットインターフェイスに貼り付けます。エンジニアは、統合の問題を診断するために構成スニペットを共有することがあります。これらのアクションは異常ではありません。シークレットは、技術的なワークフローに埋め込まれており、ログ、スクリプト、構成ファイル、および自動化の出力に現れます。チームが問題を迅速に解決するために圧力をかけられている場合、機密データを含む可能性のあるこれらのアーティファクトを共有することなく、停止することなく共有することがあります。

AIインターフェイスは、この動作を増幅します。プロンプトはコンテキストの共有を促します。ファイルのアップロードは、トラブルシューティングをサポートします。統合ワークフローは、システム間でデータを移動することを容易にします。Nudge Securityの調査によると、17パーセントのプロンプトには、コピーとペーストのアクティビティまたはファイルのアップロードが含まれています。この環境では、機密資格情報が数秒で漏洩する可能性があります。

従来のガバナンスは行動リスクを見落とす

AIガバナンスプログラムは、通常、正式なコントロール、たとえばポリシーと承認されたツールに焦点を当てています。このアプローチは、リスクが誤用またはモデル動作から生じることを前提としています。実際には、最も重要な漏洩は、善意の従業員によって実行されるルーチンワークフロー中に発生します。

AIランドスケープは急速に進化しており、新しいテクノロジーが毎日リリースされています。従業員が最新のツールに手を伸ばすにつれて、彼らは伝統的なネットワークコントロールアプローチをバイパスできます。ブラウザーは、コンテキストの動作の直接観察を可能にし、現代の仕事の急速に変化するランドスケープに対応するために必要な柔軟性を提供します。

この断絶は、組織が強力なポリシーを実施していても、依然として機密データ漏洩を経験する理由を説明しています。ポリシーは期待を設定します。行動は結果を決定します。効果的なガバナンスには、AIツールが実際にどのように使用されているかを可視化し、データが共有される瞬間に安全な決定を導くガイドレールが必要です。

統合とエージェントが漏洩の範囲を拡大する

AIツールのリスクプロファイルは、ツールがアクセスできるものによって形成されます。統合はシステム間の信頼できるパスを作成します。OAuthグラント、APIトークン、およびサービスアカウントは、AIツールがドキュメントを取得したり、チケットを更新したり、コードリポジトリとやり取りしたりすることを可能にします。企業でのAI採用に関する調査は、統合が実際に漏洩の範囲を定義することを強調しています。許可の不正な設定やトークンの妥協は、ドキュメントリポジトリや開発環境を公開する可能性があります。なぜなら、信頼できる接続はマシンのスピードでデータの移動を可能にするからです。

エージェントベースのAIは、追加の複雑さを導入します。初期の展開は、最小特権よりも機能を優先することがよくあります。実験中に許可された許可は、初期の使用例が進化した後も長期間にわたって継続する可能性があります。時間の経過とともに、これらの累積された許可は静的なリスクを作成します。セキュリティチームは、統合とエージェントの許可を、一時的な便宜ではなく、耐久性のあるアクセス決定として扱う必要があります。

セキュリティチームが今すぐにするべきこと

AIワークフローでのシークレット漏洩を減らすには、反応的なコントロールから、実際の仕事の進行に基づいたガバナンスへの変更が必要です。セキュリティリーダーは、可視性を高め、安全な行動を促し、生産性を低下させることなく漏洩を減らすための実用的なステップから始めることができます:

• AIの相互作用が発生する場所をマッピングします。
  データがAIツールに入力される環境、ブラウザーエクステンション、開発環境、自動化プラットフォーム、およびチャットインターフェイスを特定します。連続的な可視性は、効果的なガバナンスの基盤を提供します。
• 決定が下される瞬間に介入します。
  シークレットスキャニング、プロンプトの削除、および資格情報または機密アーティファクトが共有される前にユーザーに警告するためのタイムリーなガイダンスを実装します。タイムリーなガイダンスは、ワークフローの速度を維持しながら、偶発的な漏洩を減らします。
• 統合ガバナンスをOAuthアプリと同じ厳格さで適用します。
  AIツールが接続されている電子メール、ドキュメント、チケットシステム、およびリポジトリを確認します。最小特権スコープを適用し、定期的な許可レビューを実施して、長期的な漏洩リスクを減らします。
• トラブルシューティングとサポートのための安全なワークフローを作成します。
  チームがライブ資格情報を公開せずにAIを使用して問題を解決できるように、削除されたテンプレート、セキュアコネクター、およびログまたは構成ファイルの分析用の内部ツールを提供します。
• エージェントベースの自動化のためのガイドレールを確立します。
  重要なアクションには人間の承認を要求し、エージェントのアクティビティを中央でログし、スコープ付きのアクセストークンを使用して許可の拡散と予期しない自動化を防ぎます。
• トレーニングを実際のワークフローに根づかせます。
  教育は、統合のデバッグ、ログのレビュー、ファイルのアップロードなどの共通タスクを反映する場合に最も効果的です。実践的な例は、従業員がリスクを認識するのに役立ちます。

これらの措置は、ガバナンスを日常の仕事と一致させ、組織がシークレット漏洩を減らすと同時に、AI採用の生産性向上をサポートすることを可能にします。

AIポリシーからAI行動ガバナンスへ

AIは、生産性ツールから運用レイヤーへと進化しています。AIエージェントは、企業のワークフローに埋め込まれており、タスク固有のエージェントは、将来、多くの企業アプリケーションに存在すると予測されています。採用が深まるにつれて、主なリスクは、プライバシーの違反やモデル誤用を超えて、人、許可、プラットフォームが実際のワークフローで交差する方法から生じます。

AIプロンプトでのシークレット漏洩は、このより広範な変換の可視的な兆候です。周辺ベースのコントロールとポリシーのみのガバナンスの限界を強調し、決定が下される場所で動作するガイドレールの必要性を強調しています。適応する組織は、反応的なコントロールから、実際の行動に基づいたガバナンスモデルへと移行します。統合と許可を耐久性のあるアクセス関係として扱い、従業員を行動の瞬間に導きます。従業員は、ポリシーの施行のみに頼るのではなく、行動の瞬間に従業員を導きます。

AIは、現代の仕事においてツールからコラボレーターへと移行しています。コラボレーションを保護するには、ガバナンスがそのペースを保つ必要があり、重要なデータを保護し、より安全な決定を導き、AIが可能にする速度と効率を維持します。