あなたのAIはあまりにも多くを知っている：機密AIはもう選択肢ではありません

生成モデルは、研究ラボから通常のビジネスプロセスへと移行しつつありますが、その背後には、静かに構造的な弱点が生じています。

例えば、Microsoft Copilotは、2025年上半期に、組織あたり約300万件の機密レコードにアクセスしました。こうした数字は、AIのアプローチにシステム的な問題があることを示しています。企業はデータを処理するための強力なエンジンを構築しましたが、使用するデータを保護するための十分な保護策を講じていません。

大規模な言語モデルやアシスタントツールは、ハードウェアベースの保護なしで、文書、メッセージ、データベースを計算します。このギャップは、推論中に「使用中のデータ」を明らかにし、プライバシー、コンプライアンス、顧客の信頼を優先するビジネスに直接脅威を与えます。

ここで、機密コンピューティングが登場します。機密コンピューティングは、ハードウェア支援された信頼できる実行環境（TEEs）を使用して、コードとデータを使用中に安全に保ちます。これらのTEEsは、ホストオペレーティングシステムとハイパーバイザから保護された、分離されたメモリ領域です。

この保護により、セキュリティモデルが変わり、シークレットを公開せずに処理できます。Microsoftや他のクラウドプロバイダは、プライベート推論と、TEEs内に推論を統合した仮想マシン（VM）を提供しています。

ルールとガバナンスのためのプライバシーの重要性

従来の暗号化は、通常、データを保護しますが、データがアクティブに処理されている場合、同じレベルの保護が提供されません。生成モデルは、プライベート入力と最も多く相互作用する場所で、そこで最も多く保護されません。

今年の初め、コーネル大学の研究者による信頼できるコンピュートユニットに関する研究は、ハードウェア支援された分離と認証が、当事者間の信頼の必要性をどのように減らすことができるかを明らかにしました。さらに、昨年、分析家は、プライベートコンピューティングインフラの価値が13億ドルを超え、2032年までに350.04億ドルまで急成長することを予測しました。

単純に言えば、多くの人がこのテクノロジーを使用しているため、規制当局やコンプライアンスチームは、以前よりもAIシステムに多くの関心を持っています。したがって、保護された実行中にモデルクエリに対する機密データが決して公開されないことを保証するフレームワークは、監査トレイルを簡単に追跡できるようにし、法的問題のリスクを軽減します。

ただし、ランタイム保護が標準にならない場合、規制当局が厳格に規制された分野でのAIの受け入れを遅らせる可能性があります。

プライバシーが必須な現実の状況

企業シナリオは、機密AIが贅沢ではなく、必須であることを示しています。

例えば、金融では、顧客の取引履歴に対して詐欺検出とリスクモデルを実行する必要がある機関がありますが、生のレコードへのアクセスは外部モデルオペレータに許可されません。

医療では、診断モデルが保護された臨床データで動作し、患者のプライバシーを保護し、厳格な規制要件を満たす必要がある場合があります。さらに、政府や国防機関は、第三者クラウドで機密ワークロードを実行するために、認証された実行を必要とします。

複数のソースからのデータセットを組み合わせる研究パイプラインもあり、参加者が計算中に入力を読み取れないことを確信できるフェデレーテッドヘルス研究が進められています。

医療ワークフローに機密実行を組み合わせるプライバシー保護MLアプローチに関する学術研究と産業研究も続けています。

機密実行がデータを保護する方法

機密実行は、2つの関連システムに依存しています。ハードウェア分離と認証です。ハードウェア分離は、セキュアエンクレーブ外のソフトウェアがエンクレーブメモリを読み取るのを防ぎます。

認証は、エンクレーブ内で実行されるコードとエンクレーブ自体が本物であることを検証する方法です。これらの機能により、モデル所有者は、モデルが検証された環境で入力とともに動作し、出力はエンクレーブのルールに従った後に出力されることを示すことができます。

結果として、データ所有者、モデルオペレータ、クラウドプロバイダの間で、法的な問題を回避する必要性が減り、ポリシーの複雑さが軽減されます。

現実的な限界と障害

当然、機密AIの採用には独自の課題があります。認証とエンクレーブで動作できるハードウェアは、デプロイをより複雑にし、従来のモデル提供ツールとエンクレーブ対応ランタイムの間のエコシステムギャップを生み出します。エンクレーブランタイムの一部は、重いオーバーヘッドを課し、実行コストを10倍に高める可能性があり、パフォーマンスにもトレードオフが生じる可能性があります。

さらに、コストは、従来のクラウド推論よりも高くなり、企業が数値を理解することを難しくします。互換性標準の変更もあり、初期の採用者はベンダーに縛られるリスクにさらされる可能性があります。

しかし、これらの問題は、一時的なエンジニアリング上の問題であり、解決可能です。クラウドプロバイダやチップメーカーは、新製品をリリースし続けており、ソフトウェアプロジェクトは、現在のMLスタックとTEEsを接続するミドルウェアを作成しています。

これらの問題よりも、標準的な暗号化とアクセス制御だけを十分と考える企業は、モデルが多くの機密レコードを処理する場合に脆弱性を抱えることになります。

企業慣行の変化の呼びかけ

リスク管理チームは、AIの購入と使用に関するルールを変更する必要があります。データ分類とガバナンスは重要ですが、使用中には技術的な保証が必要です。

第三者モデルプロバイダとの契約には、認証の証明を要求する必要があります。調達チームは、認証されたオプションとパフォーマンスベースラインを要求する必要があります。レッドチーム演習には、エンクレーブ対応テストを含める必要があります。これらのステップにより、規制が強化され、コンプライアンスが向上します。

これらのルールにより、将来の侵害が減り、業界が法的問題を心配せずにイノベーションできるようになります。これにより、金融、医療、公共部門のワークフローが、新しいモデルを使用できます。

機密性を標準とする

生成AIは、プライベート情報を扱うビジネスにとって、有用なツールになりました。この現実は、機密実行がもうニッチな選択肢ではなく、規制された、独自の、または個人のデータを扱うAIシステムの標準的な慣行であることを意味します。

すでに、TEEs、認証サービス、プライベートVMオファーなどのツールが利用可能であり、経済的メリットも急速に改善されています。他の選択肢は、機密資産を推論時間の漏洩にさらすことですが、これは、法的、財務的、評判上の影響を企業がもう負担できません。例えば、IBMの2025年データ漏洩コストレポートによると、平均的な世界的な漏洩コストは約500万ドルに達し、GDPRなどの規制は、深刻な漏洩に対して2000万ユーロの罰金を課します。

企業がAIガバナンスでプライバシーを優先する企業は、優位性を得ます。徹底的な、コンプライアントなテストを実行し、外部のイノベーションが以前は制限されていた分野でモデルを使用できます。簡単に言えば、モデルが実行中のデータを保護することは、採用の障壁ではなく、ビジネスと政府での責任ある、スケーラブルなAIの基盤です。