ドクター・シャシャンカは、Concentricのチーフサイエンティスト兼共同創設者です。Concentricに入社する前は、チャールズシュワーブのデータサイエンスおよびマシンラーニングチームのマネージングディレクターを務めました。彼は、PetaSecureの共同創設者兼チーフサイエンティストでもあり、Niaraによる買収前にその役割を務めました。
GenAIと影のGenAIのデータセキュリティリスクを管理し、把握しようとしているだけでも十分な課題ですが、新しい課題が現れました。GenAIのセキュリティを確保するための規制と法的要求が増加しており、組織はそれに関連するリスクをどのように処理するかを示す必要があります。EUのArtificial Intelligence Act（EU AI Act）は、最も早い明確な兆候です。特定のAIアプリケーションを「高リスク」と明示的にラベル付けし、透明性、説明責任、人間の監視に関する厳格な要件を課します。違反に対する罰金は、全球収益の割合として計算されるため、多国籍企業にとって、AIガバナンスはベストプラクティスから法的義務へと移行し、違反に対する重大な結果をもたらします。アメリカ合衆国では、連邦取引委員会（FTC）は、AIの使用を「不公正または欺瞞的な行為」を防止するための義務の下で調査することを明確にしました。つまり、企業は技術的な複雑さを隠れ家にできないということです。顧客または従業員がデータの管理方法について欺かれたり、AIが開示されていないリスクをもたらしたりした場合、経営陣は責任を問われる可能性があります。初期の強制措置は、適切なコントロールなしに迅速に行動する企業に対して、規制当局が例を示す用意があることを既に示しています。たとえば、FTCは、AIツールを「ロボット弁護士」として宣伝し、有効な法的文書と専門家の法的ガイダンスを生成できるというDoNotPay社に対して措置を講じました。FTCは、同社のAIの能力に関する主張が、FTC法第5条に違反する誤りまたは欺瞞であると判断しました。別の例では、FTCは、Everalbum社に対して、顧客の写真を適切な同意なしに収集してAIモデルとアルゴリズムを構築したため、同社にこれらのモデルとアルゴリズムを破壊することを要求しました。これは、ユーザーの同意と法的期待から逸脱したデータの使用に対する直接的な罰です。州レベルでは、カリフォルニア州とニューヨーク州は、既存の枠組みに基づくAIとプライバシーの法律の波を先導しています。たとえば、カリフォルニア州消費者プライバシー法（CCPA）です。これらの法律は、より広範なプライバシー要件と一致し、企業はAIガバナンスとデータプライバシーを単一の統合プログラムとして扱うことを要求しています。衝突はすでに明らかです。今日、消費者はGDPRまたはCCPAの下で、企業のシステムから個人情報を削除するよう要求できます。ただし、データがGenAIモデルに取り込まれた後、それを削除するための同等のプロセスはありません。「モデルから私のデータを削除してください」というオプションがないことは、規制当局と企業の間で争点となるでしょう。今回のコンプライアンスが難しい理由一見すると、AIを規制することは、以前のコンプライアンスの課題とあまり異なりません。しかし、GenAIガバナンスには新しい複雑さが導入されます。予測不可能性です。無害と有害の境界は常に明確ではありません。単一のプロンプトで機密情報が開示され、1つの出力で機密コンテンツが不適切な場所に流出する可能性があります。伝統的なコントロール、たとえばDLPやパーミッションの監査は、このレベルの速度や複雑さに対応するように設計されていません。GDPRコンプライアンスの場合、焦点はプライバシーにありました。タスクは明確でした。個人データを特定し、コントロールを実施し、コンプライアンスを文書化します。GenAIは、データ自体ではなく、データがどのように変換され、リミックスされ、予期せず開示されるかについてです。組織は、CopilotがSharePointに保存された機密スプレッドシートを公開したり、従業員がChatGPTにコードを貼付けてスクリプトをデバッグしたり、AI生成の出力が機密情報を漏らしたりするリスクに直面しています。伝統的なツールは、GenAIのセキュリティリスクやコンプライアンスの問題に対処するように設計されていません。DLPルールはニュアンスを無視します。パーミッションの監査はコラボレーションを追いつかないでいます。影のAIは、承認されたツールの外で活動が発生することを意味します。セキュリティリーダーが今できること予測される規制の課題は、圧倒的なものに感じられますが、必ずしもそうである必要はありません。最初のステップは、問題を再定義することです。GenAIは、新しいリスクカテゴリではありません。既存の問題を増幅させるブースターです。データアクセス権限の過剰、分類の不十分さ、可視性の限界などです。これらのリスクに対処することで、GenAIコンプライアンス要件を満たすことができます。CISOは、将来の規制要件をよりよく満たすために、完璧なポリシーよりも堅固な基礎を優先する必要があります。これには、AIの使用状況の可視性を得ること、コンテキストを考慮したデータ分類の適用、セキュリティと生産性のバランスをとる適応型ポリシーの作成が含まれます。成功する組織は、規則書や戒めが最も多い組織ではありません。何かが起こっていることを理解し、コンプライアンス要件を満たす保護を持っている組織です。以下は、従うべき重要なステップです: 可視性を評価する。 影のGenAIを含む、GenAIが使用されている場所を特定します。ChatGPTに財務が予測を貼付していることをインシデントで発見するのを待たないでください。 コンテキストを使用して分類する。 正規表現やファイル名を超えてください。セマンティック分類は、plan_final.docxが無害か高感度かどうかを判断するのに役立ちます。 アクセス権限を絞り込む。 最小権限は任意ではありません。コンプライアンスを維持し、Copilotが機密の取締役会議事録をインターンに公開しないようにするには、必須です。共有フォルダはリスクの一般的な源であり、将来のコンプライアンス違反の源となります。 出力を入力と同様に扱う。 AI生成テキストは、プロンプトと同様に簡単に漏洩する可能性があります。共有方法を監査し、監視します。 適応型コンプライアンス戦略を開発する。 今日書かれたポリシーは6か月以内に無効になる可能性があります。 経営陣にとって、メッセージは明確です。規制圧力は、多くの人々が予想するよりも速く進んでいます。規格が落ち着くまで待つことは、実行可能な計画ではありません。ガバナンスフレームワークは、リスクを軽減するだけでなく、AIの採用が故意で責任あるものであることを規制当局、顧客、取締役会に示すために、今すぐ設けられる必要があります。
ジェネレーティブAI（GenAI）は、企業テクノロジーの中で、好奇心から中央的な力まで一気に飛躍しました。テキスト、コード、画像、インサイトを要求に応じて生成する能力により、従業員は複雑さを切り抜け、生産性を高めるために不可欠なツールとなりました。しかし、このイノベーションと効率性は、巨大なリスクへの露出をもたらします。業界横断的な幹部やAIガバナンスリーダーとの会話では、常に一つのテーマが浮かび上がってきます：データセキュリティは、重要な懸念から戦略の焦点となり、現在はAI採用の決定的な課題となっています。従来のソフトウェアや過去の機械学習の波とは異なり、GenAIは組織内でのデータのセキュリティ確保プロセスを根本的に変更します。最近のMIT研究では、企業のGenAIパイロットプロジェクトの95%が失敗していることがわかりました。これは、技術が弱いからではありません。企業がGenAIを適切に、責任を持って運用するためのガバナンスとセキュリティフレームワークが不足しているからです。別のMIT研究では、企業リーダーはデータセキュリティを、ビジネスとセキュリティリスクのトップとして挙げ、AI採用を妨げていると述べています。また、「影のAI」と呼ばれる、従業員による公認外のツールの使用は、企業の管理外でデータリスクを高める要因として広く認識されています。最小特権アクセスは、エンティティ（ユーザー、プログラム、プロセス）が、必要な機能を実行するために必要な最小限のアクセスと権限のみを与えられるセキュリティモデルです。しかし、GenAIはこのパラダイムを覆します。最小特権自体が、GenAIシステムの設計と運用方法との矛盾を生み出す制約となります。これは、企業のGenAIツールが、より多くのビジネスデータとビジネスコンテキストにアクセスできるほど、生産性の向上をもたらすからです。GenAIの採用が進むにつれ、ユーザーは、上向きから計画されたビジネス駆動型計画ではなく、有機的な実験と好奇心から生まれる、新しいGenAIの応用を見つけることが続いています。エンティティが、GenAIを使用するタスクや、必要なデータの種類を定義できない場合、最小特権アクセス権限を設定することは不可能になります。また、ユーザーがデータセットに適切なアクセス権限を持っていて、GenAIツールにデータを入力したとしても、データはユーザーの元の権限に束縛されません。代わりに、モデルに吸収され、将来の出力で表面化したり、同じツールを使用する他のユーザーに公開される可能性があります。GenAIがデータのアクセス制御を継承しないため、最小特権は実行不能となります。GenAIの露出を考慮するGenAIは、複雑に結びついた方法で、企業のデータガバナンスとセキュリティを複雑にし、広大なデータサーフェスを生み出します。これには以下が含まれます。入力漏洩 – GenAIは、テキスト、画像、オーディオ、ビデオ、構造化データなどの生の形式でデータを取り込みます。エンドユーザーは、最小限の努力や専門知識で、GenAIツールを新しいデータセットに導くことができます。慎重にキュレーションされた、構造化されたテーブル、定義されたスキーマや関係を持たないデータセットに限定されず、セールスコールレコーディング、CRMメールノート、カスタマーサービストランスクрипトなどが含まれます。実践では、従業員は、顧客のPII、知的財産、財務予測、さらにはソースコードなどの高度に機密性の高いビジネス情報でプロンプトをフィードしています。出力露出 – 生成モデルは、消費のみならず、合成も行います。プロンプトは、意図せずに複数のデータセットからインサイトを引き出し、適切なクリアランスなしにユーザーに公開する可能性があります。場合によっては、出力は、実在の高度に機密性の高いトレーニング資料の断片を含む、妥当なデータを「妄想」することもあります。GenAIツールは、タスクのコンテキストがあると、より優れています。その結果、GenAIは既存の情報を取り込み、ビジネスコンテキスト、内部プロセス、その他の機密性の高い、またはビジネスクリティカルな情報を文書化する詳細なプロンプトを作成することで、新しいデータも生成します。監視なしのアクセス – 従来の企業システムでは、ベンダーのオンボーディングとITのプロビジョニングが必要でした。現在、GenAIはMicrosoft Officeスイート、ブラウザ、チャットツール、SaaSプラットフォームに埋め込まれています。従業員は瞬時にそれを採用でき、ガバナンスを完全に回避できます。この摩擦のないアクセスは、「影のAI」を促進し、公認外のGenAIの使用はすべて、企業のガバナンスの境界外で、不可視に、規模で起こる潜在的なデータ流出イベントです。2次的なサプライチェーンリスク – ベンダーはセキュアに見えるかもしれませんが、クラウドホスト、注釈サービス、またはサードパーティのAIラボなどのサブコントラクトに依存しています。各サブコントラクトは独自のEULA（エンドユーザーライセンス契約）とポリシーを持っています。機密性の高い企業データは、複数の見えない手によって波及し、責任は企業に残ります。たとえば、企業がオンボーディングプロセスを完了したベンダーを持っている場合でも、そのベンダーは、企業のデータをトレーニングデータとして使用できるGenAIツールを使用している可能性があり、下流への重大な影響が生じる可能性があります。トレーニングデータのガバナンスギャップ – データがAIモデルに入ると、制御は実質的に終了します。企業は、情報がどのように使用されているかを簡単に取り消したり、管理したりすることはできません。独自の知識は、出力で長期間後に再現される可能性があり、その後もその元の情報源が忘れ去られても、残り続ける可能性があります。GenAIツールが、GDPR（一般データ保護規則）やCCPA（カリフォルニア州消費者プライバシー法）などのプライバシー規制で見られるように、取り込んだ情報を削除する要求に対応することは、まだ見つけることができません。規制が変化するまで、このようなプロセスの実装は実現しそうにありません。アプリケーションコードリスク – AIは、企業システムの基盤となるコードを書くことが増えています。Microsoft CopilotなどのGenAIツールを使用してコードを生成する開発者は、意図せずして、セキュリティの脆弱性を持ち込んだり、不適切なオープンソースライセンスのコードを埋め込んだりする可能性があります。デプロイされると、これらの弱点はソフトウェアサプライチェーンに埋め込まれることになります。GenAIリスクへの対処GenAIはすでに企業のワークフローに埋め込まれています。企業にとっての質問は、GenAIを採用するかどうかではなく、責任を持って採用する方法です。ガバナンスなしでGenAIを採用することは、高額なセキュリティ侵害、規制による罰金、評判の損害につながります。しかし、GenAIをブロックすることは、従業員が公認外のソリューションを使用することだけを促進します。前進する唯一の方法は、可視性と制御を伴う有効化です。GenAIのガバナンスには、企業が持つデータ、データの保存場所、誰がアクセスできるかへのコンテキスト駆動型の可視性が必要です。さらに、どのツールがアクセスされているか、どのようなプロンプトが入力されているか、機密性の高いデータが環境から出ていないかを確認する必要があります。その後、企業は、プロンプトと出力をリアルタイムで監視し、リスクの高いセッションや異常なデータフローをフラグ付け、公認外のツールをブロックし、プロンプトから出る前に機密性の高いデータをフィルタリングし、プロンプトに入力される前に機密性の高いデータを匿名化し、AI駆動型のインサイトに役割ベースの制限を適用するための適切な制御を適用できます。GenAIは、企業のリスクと機会の新たな層を表します。GenAIを管理するには、セキュリティがイノベーションのブレーキではなく、安全性を実現する基盤であるという認識が必要です。
