AIがデータ漏洩の新たな要因になった方法

企業のリーダーたちは、生産性とイノベーションを加速させるために、AIツールに数十億ドルを投資しました。しかし、最新のデータは、多くの組織が予期していなかった重大なリスクを明らかにしています。従業員がより迅速に作業できるようにするために使用される同じAIプラットフォームは、機密データの最大の漏洩源となり、企業環境から脱出しています。最近の調査によると、77%の従業員がデータを生成的なAIツールに貼り付けていることがわかりました。また、40%のアップロードされたファイルには、個人情報または支払いカードデータが含まれています。これは、適切なセキュリティ対策を講じていると考えている企業で現在進行形で起こっています。これは、企業がAIの使用方法についてどう考えているかと、従業員がこれらのツールと日常的にやり取りする方法の間にある根本的な断絶を示しています。この変化を理解することは、新しい現実に合わせたセキュリティ戦略を構築するための第一歩です。

AIが新たなデータ漏洩の要因になった方法

2年前、企業のワークフローでは、生成的なAIはほとんど存在しませんでした。今日、45%のすべての企業従業員が積極的にAIプラットフォームを使用しており、11%のすべての企業活動がこれらのツールで行われています。ChatGPTだけが、43%の従業員に到達しました。これは、他のコミュニケーションプラットフォームが数十年かけて達成したレベルです。

この採用のスピードにより、セキュリティの空白が生じました。従来のデータ漏洩防止システムは、ファイル転送、電子メール添付、ネットワークトラフィックのために構築されました。これらは、従業員がプロンプトボックスに何を入力するか、チャットインターフェイスに何を貼り付けるかを監視するために設計されませんでした。この盲点は、機密情報の主な脱出ルートとなりました。

生成的なAIは現在、企業から個人アカウントへのデータ移動の32%を占めています。これにより、データ漏洩の最大のチャネルとなり、ファイル共有、電子メール、その他のセキュリティチームが数年間で保護しようとしてきたすべてのチャネルを超えています。問題は、量だけでなく、漏洩の性質にもあります。誰かがファイルサーバーにドキュメントをアップロードすると、レコードが残りますが、誰かがAIプロンプトに顧客データを貼り付けた場合、その転送は、ログまたは監視システムの外で行われることがよくあります。

個人アカウントの問題

問題はAIツールの使用ではなく、従業員がこれらのツールにアクセスする方法にあります。企業セキュリティモデルは、従業員がシングルサインオン認証、ログ、監視のある企業アカウントを使用することを前提としています。しかし、データはこの仮定が誤りであることを示しています。約67%のAIの使用は、管理されていない個人アカウントを介して行われています。これらは、Gmailアドレス、個人Microsoftアカウント、または企業のアイデンティティシステムを完全にバイパスする直接サインアップです。誰かが個人用メールでChatGPTにログインすると、会社は質問の内容、共有されるデータ、または回答に表示される可能性のある機密情報についての可視性を持ちません。

従業員が企業アカウントを使用する場合でも、資格情報は連邦化されていないことがよくあります。ERPログインの83%とCRMログインの71%はシングルサインオンなしで行われます。これは、企業ログインが個人アカウントよりもほとんどセキュリティや可視性を提供しないことを意味します。ユーザー名には会社ドメインが含まれるかもしれませんが、認証のバイパスにより、同じ不可視なデータフローが発生します。

コピー＆ペースト：見えないデータ漏洩

従来のデータ漏洩防止（DLP）戦略は、ファイルシステムに焦点を当てて構築されました。これらは、アップロード、ダウンロード、アタッチメントを監視します。しかし、データは、実際のデータ漏洩の源がファイルではないことを示しています。それはコピー＆ペーストです。77%の従業員がデータを生成的なAIツールに貼り付けます。この活動の82%は、管理されていない個人アカウントから来ています。平均して、各従業員は1日あたり15回のペーストを行いますが、そのうち少なくとも4回は機密の個人情報または支払いカード情報を含んでいます。

これは、機密情報がファイルアップロードのみを介して移動するのではなく、直接プロンプト、チャットウィンドウ、テキストフィールドに注入されていることを意味します。これらのファイルレス転送は、従来のDLPソリューションにとってほぼ不可視です。これらは、高頻度で、複数のプラットフォームを横断して、企業の監視の外で発生します。

結果として、機密情報は、検出が困難な方法で組織を外部に流れ続けています。コピー＆ペーストは、新しい漏洩チャネルとなり、AIツールは最大の目的地となっています。

許可されていない目的地にある機密ファイル

ファイルアップロードは、企業のワークフローの中核部分のままです。しかし、目的地は変化しました。従業員は、ファイルを承認されたストレージまたは電子メールに限定するのではなく、生成的なAIツール、消費者アプリ、影のSaaSプラットフォームにファイルを移動しています。

データは、40%の生成的なAIツールにアップロードされたファイルに個人または財務データが含まれていることを示しています。ファイルストレージプラットフォームにアップロードされたファイルの41%にも同じことが当てはまります。これらのアップロードのほぼ4分の3は、個人アカウントを介して行われます。

これは、企業が可視性や管理権を持ちていない環境に機密データが流れていることを意味します。ファイルが個人用Google Drive、WhatsAppチャット、またはAIプロンプトにアップロードされると、実質的に企業の境界外にあります。そこでは、ファイルを追跡、制限、または削除することはできません。

目的地は多様です。EgnyteやZendeskのような企業ツールは、Canva、LinkedIn、WhatsAppのような消費者プラットフォームと並んでいます。企業と消費者のエコシステムの境界が曖昧になることで、企業データが存在する場所の境界が曖昧になります。また、許可されたチャネルと集中管理のために設計された従来のDLPの限界も明らかになります。

企業セキュリティへの影響

従来のセキュリティ境界は崩壊しました。ネットワークを管理し、エンドポイントをセキュアにし、許可されたアプリケーションを監視することで、データを制御できるはずでした。そのモデルは、作業が企業システム内で行われ、時折制御されたチャネルを介して外部プラットフォームを使用することを前提としています。

現実は、作業がブラウザで行われ、数十のアプリケーションを横断し、企業アカウントと個人アカウントの両方を使用し、監査ログを残さない方法で行われていることです。従業員が顧客の問題を調査する場合、内部システムを検索し、ChatGPTに要約を依頼し、その要約をSlackにコピーして同僚と共有し、後で確認するために個人用メールで転送する可能性があります。各ステップでは、従来のツールでは見えないチャネルを介して機密データが移動します。

ブラウザは主な作業場所となりましたが、セキュリティ制御はそれに追いついていません。従業員はアプリケーションを移動し、データは企業と個人ツールの区別をほとんど示しません。従業員は、どれが機能するか、どれが便利か、ITの承認を待たなくてもいいかを使用します。これにより、機密情報が不可視なチャネルを介して外部に流れ続ける環境が生まれます。

AI時代の企業セキュリティの再考

解決策は、AIツールをブロックしたり、個人アカウントを完全に禁止したりすることではありません。これらのアプローチは、従業員が実際にどのように作業するかを無視しているため、失敗します。これらのツールは、従業員がより生産的に作業できるようにするために存在します。個人アカウントは、企業のプロビジョニングが遅く、制限的であるため、普及しています。現実を無視するセキュリティは、単にバイパスされるだけです。

有効な保護には、実際に作業が行われるブラウザレベルでの可視性が必要です。これは、ファイルアップロードだけでなく、ペースト操作、フォーム送信、プロンプトのやり取り、システム間でデータが移動するその他の方法を監視することを意味します。また、企業アカウントと個人アカウントを区別するポリシーを施行する必要があります。どのアプリケーションを使用するかに関係なくです。

組織は、ファイルレス転送を含むデータ漏洩防止をファイルの範囲を超えて拡大する必要があります。ChatGPTに提出されたプロンプトは、電子メール添付と同じレベルのスクラッチに値します。Slackへのペースト操作は、Google (GOOGL ) Driveへのアップロードと同じチェックをトリガーする必要があります。転送方法は、セキュリティが適用されるかどうかを決定するべきではありません。

アイデンティティ制御は、実際に施行される必要があります。シングルサインオンを提供するだけで、従業員が個人アカウントを介してビジネスアプリケーションにアクセスできる場合、十分ではありません。機密データを扱うすべてのアプリケーションに対して、連邦認証は必須で、任意ではありません。連邦化されていない企業ログインは、実際のセキュリティリスクとして扱われる必要があります。

結論

AIは、企業ソフトウェアで最も急成長しているカテゴリとなりました。また、データ漏洩の最大のチャネルともなりました。77%の従業員がデータをAIツールに貼り付け、40%のアップロードには機密情報が含まれています。これらの活動のほとんどは、管理されていないアカウントを介して行われます。従来のセキュリティ境界は存在しません。ほとんどの作業はブラウザで行われ、テキストを貼り付けるなどの単純なアクションでもセキュリティ侵害につながる可能性があります。この新しい現実に対応していないセキュリティ戦略を持たない企業は、最も貴重なデータの管理をすでに失っています。