GenAIの急速な採用による新しいセキュリティ漏洩を組織が考慮すべきこと

ジェネレーティブAI（GenAI）は、企業テクノロジーの中で、好奇心から中央的な力まで一気に飛躍しました。テキスト、コード、画像、インサイトを要求に応じて生成する能力により、従業員は複雑さを切り抜け、生産性を高めるために不可欠なツールとなりました。しかし、このイノベーションと効率性は、巨大なリスクへの露出をもたらします。

業界横断的な幹部やAIガバナンスリーダーとの会話では、常に一つのテーマが浮かび上がってきます：データセキュリティは、重要な懸念から戦略の焦点となり、現在はAI採用の決定的な課題となっています。従来のソフトウェアや過去の機械学習の波とは異なり、GenAIは組織内でのデータのセキュリティ確保プロセスを根本的に変更します。

最近のMIT研究では、企業のGenAIパイロットプロジェクトの95%が失敗していることがわかりました。これは、技術が弱いからではありません。企業がGenAIを適切に、責任を持って運用するためのガバナンスとセキュリティフレームワークが不足しているからです。別のMIT研究では、企業リーダーはデータセキュリティを、ビジネスとセキュリティリスクのトップとして挙げ、AI採用を妨げていると述べています。また、「影のAI」と呼ばれる、従業員による公認外のツールの使用は、企業の管理外でデータリスクを高める要因として広く認識されています。

最小特権アクセスは、エンティティ（ユーザー、プログラム、プロセス）が、必要な機能を実行するために必要な最小限のアクセスと権限のみを与えられるセキュリティモデルです。しかし、GenAIはこのパラダイムを覆します。最小特権自体が、GenAIシステムの設計と運用方法との矛盾を生み出す制約となります。これは、企業のGenAIツールが、より多くのビジネスデータとビジネスコンテキストにアクセスできるほど、生産性の向上をもたらすからです。

GenAIの採用が進むにつれ、ユーザーは、上向きから計画されたビジネス駆動型計画ではなく、有機的な実験と好奇心から生まれる、新しいGenAIの応用を見つけることが続いています。エンティティが、GenAIを使用するタスクや、必要なデータの種類を定義できない場合、最小特権アクセス権限を設定することは不可能になります。また、ユーザーがデータセットに適切なアクセス権限を持っていて、GenAIツールにデータを入力したとしても、データはユーザーの元の権限に束縛されません。代わりに、モデルに吸収され、将来の出力で表面化したり、同じツールを使用する他のユーザーに公開される可能性があります。GenAIがデータのアクセス制御を継承しないため、最小特権は実行不能となります。

GenAIの露出を考慮する

GenAIは、複雑に結びついた方法で、企業のデータガバナンスとセキュリティを複雑にし、広大なデータサーフェスを生み出します。これには以下が含まれます。

入力漏洩 – GenAIは、テキスト、画像、オーディオ、ビデオ、構造化データなどの生の形式でデータを取り込みます。エンドユーザーは、最小限の努力や専門知識で、GenAIツールを新しいデータセットに導くことができます。慎重にキュレーションされた、構造化されたテーブル、定義されたスキーマや関係を持たないデータセットに限定されず、セールスコールレコーディング、CRMメールノート、カスタマーサービストランスクрипトなどが含まれます。実践では、従業員は、顧客のPII、知的財産、財務予測、さらにはソースコードなどの高度に機密性の高いビジネス情報でプロンプトをフィードしています。

出力露出 – 生成モデルは、消費のみならず、合成も行います。プロンプトは、意図せずに複数のデータセットからインサイトを引き出し、適切なクリアランスなしにユーザーに公開する可能性があります。場合によっては、出力は、実在の高度に機密性の高いトレーニング資料の断片を含む、妥当なデータを「妄想」することもあります。

GenAIツールは、タスクのコンテキストがあると、より優れています。その結果、GenAIは既存の情報を取り込み、ビジネスコンテキスト、内部プロセス、その他の機密性の高い、またはビジネスクリティカルな情報を文書化する詳細なプロンプトを作成することで、新しいデータも生成します。

監視なしのアクセス – 従来の企業システムでは、ベンダーのオンボーディングとITのプロビジョニングが必要でした。現在、GenAIはMicrosoft Officeスイート、ブラウザ、チャットツール、SaaSプラットフォームに埋め込まれています。従業員は瞬時にそれを採用でき、ガバナンスを完全に回避できます。この摩擦のないアクセスは、「影のAI」を促進し、公認外のGenAIの使用はすべて、企業のガバナンスの境界外で、不可視に、規模で起こる潜在的なデータ流出イベントです。

2次的なサプライチェーンリスク – ベンダーはセキュアに見えるかもしれませんが、クラウドホスト、注釈サービス、またはサードパーティのAIラボなどのサブコントラクトに依存しています。各サブコントラクトは独自のEULA（エンドユーザーライセンス契約）とポリシーを持っています。機密性の高い企業データは、複数の見えない手によって波及し、責任は企業に残ります。たとえば、企業がオンボーディングプロセスを完了したベンダーを持っている場合でも、そのベンダーは、企業のデータをトレーニングデータとして使用できるGenAIツールを使用している可能性があり、下流への重大な影響が生じる可能性があります。

トレーニングデータのガバナンスギャップ – データがAIモデルに入ると、制御は実質的に終了します。企業は、情報がどのように使用されているかを簡単に取り消したり、管理したりすることはできません。独自の知識は、出力で長期間後に再現される可能性があり、その後もその元の情報源が忘れ去られても、残り続ける可能性があります。GenAIツールが、GDPR（一般データ保護規則）やCCPA（カリフォルニア州消費者プライバシー法）などのプライバシー規制で見られるように、取り込んだ情報を削除する要求に対応することは、まだ見つけることができません。規制が変化するまで、このようなプロセスの実装は実現しそうにありません。

アプリケーションコードリスク – AIは、企業システムの基盤となるコードを書くことが増えています。Microsoft CopilotなどのGenAIツールを使用してコードを生成する開発者は、意図せずして、セキュリティの脆弱性を持ち込んだり、不適切なオープンソースライセンスのコードを埋め込んだりする可能性があります。デプロイされると、これらの弱点はソフトウェアサプライチェーンに埋め込まれることになります。

GenAIリスクへの対処

GenAIはすでに企業のワークフローに埋め込まれています。企業にとっての質問は、GenAIを採用するかどうかではなく、責任を持って採用する方法です。ガバナンスなしでGenAIを採用することは、高額なセキュリティ侵害、規制による罰金、評判の損害につながります。しかし、GenAIをブロックすることは、従業員が公認外のソリューションを使用することだけを促進します。前進する唯一の方法は、可視性と制御を伴う有効化です。

GenAIのガバナンスには、企業が持つデータ、データの保存場所、誰がアクセスできるかへのコンテキスト駆動型の可視性が必要です。さらに、どのツールがアクセスされているか、どのようなプロンプトが入力されているか、機密性の高いデータが環境から出ていないかを確認する必要があります。その後、企業は、プロンプトと出力をリアルタイムで監視し、リスクの高いセッションや異常なデータフローをフラグ付け、公認外のツールをブロックし、プロンプトから出る前に機密性の高いデータをフィルタリングし、プロンプトに入力される前に機密性の高いデータを匿名化し、AI駆動型のインサイトに役割ベースの制限を適用するための適切な制御を適用できます。

GenAIは、企業のリスクと機会の新たな層を表します。GenAIを管理するには、セキュリティがイノベーションのブレーキではなく、安全性を実現する基盤であるという認識が必要です。