シャドウAIの隠れたリスクを暴く

企業では、従業員がGenerative AI（GenAI）を広く使用するようになったのは、時間の問題でした。しかし、GenAIのリスクについて言えば、組織内で知られているツールではなく、知られていないツールの方が心配です。知らないツールが、夜更けに目を覚まさないでください。

ChatGPT、Copilot、Gemini、PerplexityなどのGenAIツールや、多数の専門化されたSaaSベースのアシスタントの急速な拡大により、従業員はこれらのツールを採用するペースが、セキュリティチームが追いつくことができないほど速くなっています。この使用は、急速に増加する盲点であるシャドウAIを生み出しています。

シャドウAIという用語は、職場での承認されていないツールやサービスを記述するために使用される「シャドウIT」という用語から借用されています。しかし、シャドウAIの場合、賭けはさらに高くなります。rogueファイル共有アプリではなく、シャドウAIは、機密データをチャットボットのプロンプトに貼り付けたり、外部モデルに取り込んだり、第三者システムに意図せず公開したりする可能性があります。

シャドウAIは、現在の企業データセキュリティで最も見えにくいが最も緊急な脅威の1つを表しています。

シャドウAIとは何か？

シャドウAIは、ITまたはセキュリティチームの知識や承認なしに従業員によって使用される、特にGenAIの未承認使用を指します。組織内では、従業員はマーケティングチームが大規模言語モデル（LLM）でブログ投稿を起草したり、法務チームがAIツールで契約言語を調査したり、エンジニアが無料のGPTラッパーでコードをデバッグしたりすることができます。

しかし、その実験は無害に見えるかもしれませんが、共有されるものはそうではないかもしれません。機密戦略スライドや顧客情報である可能性があります。このデータは最終的に、暗号化されていないプロンプトに入力され、管理や追跡の方法はありません。

シャドウAIはなぜ問題なのか？

シャドウAIの問題は、従業員がChatGPTを使用してデータセキュリティリスクを生み出すことができるため、問題です。ハッカーとは異なり、シャドウAIは悪意的ではありませんが、それが危険性を低くするわけではありません。機密データがプロンプトに入力されるたびに、モデル、ベンダー、ログにアクセスできる誰かによって公開される可能性があります。別のユーザーのプロンプトへの回答として再現する可能性もあります。最悪のことは、誰も気づかないことです。

シャドウAIの5つの重要なリスクを以下に示します。

1. プロンプト入力によるデータ漏洩 – プロンプトフィールドはデータセキュリティのブラックホールです。ソースコード、M&A文書、給与詳細などの機密情報がGenAIツールと共有されると、制御不能になります。AIベンダーがデータを保持しないと約束したとしても、実施は不明確であり、トレーニングまたはテレメトリに関する保証はほとんどありません。

2. アクセス制御または監査ログの欠如 – 承認されたエンタープライズアプリとは異なり、ほとんどのGenAIツールには、ロールベースのアクセス制御、細粒的な権限、またはアクティビティログがありません。これは、セキュリティチームが誰が何のデータにアクセスしたか、いつアクセスしたかを把握できないことを意味します。インシデントが発生すると、調査するものは何もありません。

3. コンプライアンス違反 – 組織が遵守しなければならない数多くのコンプライアンス規制が、規制対象データを特定の方法で保存、処理、访问することを義務付けます。外部AIモデルにこのデータを入力すると、これらの規則に違反し、法的リスク、罰金、義務的な侵害通知にさらされる可能性があります。

4. 古いまたは偏った情報の流布 – GenAIツールは、間違った情報を自信を持って事実として提示することがよくあります。検証せずにこれらの出力を顧客向けメッセージ、コンプライアンスサマリー、または財務レポートに使用すると、不正確なデータに基づいたビジネス上の決定につながる可能性があります。幻覚は頻繁に発生し、LLMが賢くなるにつれても消え去ることはありません。

5. シャドウAIがシャドウデータになる – GenAIツールからの出力、サマリー、ドラフト、回答は、保存、共有、再利用され、フォーマルなワークフロー外で作成されるため、追跡、分類、保護されないシャドウデータになります。

ほとんどの場合、シャドウAIの場合、セキュリティチームは侵害が発生したことを知ることができません。これらの現実世界の例は、おそらくあなたの組織で発生しています:

• ジュニアソフトウェアエンジニアがプロプライエタリコードを無料のGPTベースのデバッガーに貼り付けます。
• セールス担当者が先月の顧客リストをAIメールライターにフィードしてアップセルピッチを生成します。
• 人事担当者が外部AIツールを使用して従業員満足度調査の回答を分析します。
• 財務アナリストがChatGPTに機密収益予測の言語を簡素化するよう依頼します。
• 弁護士がGenAIに顧客契約の機密条項を使用して契約を書き直すよう依頼します。

伝統的なセキュリティツールがシャドウAIを見逃す理由

レガシーセキュリティスタックは、GenAIプロンプトベースの脅威に対応するように設計されていません。たとえば、ファイアウォールはブラウザベースのAIツールをブロックできません。CASBはチャットウィンドウに何が入力されているかを見えません。SIEMは、誰が機密IPをLLMに要約するよう依頼したかについてアラートを表示しません。

シャドウAIは、アプリケーションレイヤーで動作し、可視性が最も弱いブラウザに存在します。従業員は個人デバイスも使用します。プラグインで止めることはできず、漏洩したデータを追跡するためのウォーターマークもありません。データが境界を越えたときに、アラートもありません。DLPアラートが表示される場合は、データがすでに公開されているときです。

シャドウAIリスクの特定と緩和方法

見えていないものを制御することはできません。GenAIの場合、ほとんどの組織は盲目で飛行しています。従来のツールは、プロンプトベースのやり取りを理解したり、ユーザーが「Enter」をクリックした後のことを追跡したりするように設計されていません。

しかし、新しいAI駆動型セキュリティアプローチは、組織がシャドウGenAIを暗闇から引き出すのを支援するために、課題に適しています。以下は、先進的なソリューションが提供するいくつかのセーフガードです:

シャドウAIの検出 – これらのツールは、従来のコントロールをバイパスするブラウザベースのものを含む、どのGenAIアプリケーションをユーザーが使用しているかを識別します。データの移動、访问パターン、コンテキストを分析して、エンドポイントエージェントや侵入的な監視を必要とせずに違反を検出します。

機密データの分類 – モダンソリューションは、コンテキストを認識するAIを使用して、データのコンテンツとコンテキストの両方を理解します。つまり、PowerPointスライドに埋め込まれた収益予測や、電子メールドラフトに含まれる顧客データなどのリスクをフラグできます。従業員は、2番目の考えなしにこれらのデータをGenAIにフィードする可能性があります。

リスクのあるプロンプト動作の防止 – 機密データが検出され、その場所が特定されると、AIデータセキュリティは、それが公開されるのを防ぎます。これらのツールは、組織を離れる前に、リスクのあるプロンプト入力をフラグ、消去、またはブロックします。

シャドウデータのクリーンアップ – GenAIプロンプトは、サマリー、ドラフト、回答などの新しいファイルの波を生成し、保存、共有、忘れられます。先進的なデータセキュリティプラットフォームは、これらのダウンストリームアーティファクトを識別し、公開リスク（過度なアクセス許可または不適切な保存など）を検出して、データ損失がヘッドラインになる前にそれらを緩和します。

シャドウAIは理論的なリスクではありません。現実的であり、増加しており、現在あなたの環境で発生しています。GenAIツールを禁止することは現実的ではありませんが、目を瞑ることは非常にリスキーです。組織は、GenAIの使用について、出力のみではなく、入力についても、可視性、制御、インテリジェンスが必要です。

リスクのある動作を暴露し、意図しない公開を防ぎ、AIとシャドウAIが残すデータの混乱を片付ける新しいアプローチが利用可能です。