Cohere、Model Vaultでの機密コンピューティングをパブリックベータとして提供開始

Cohereは2026年10月22日、機密データを処理する企業向けに、Microsoft Azure上のNVIDIA H100 GPUで稼働する専用のフルマネージド型モデル推論プラットフォーム「Cohere Model Vault」で、機密コンピューティングのパブリックベータを発表した。

今回の提供により、Model Vaultで臨床記録、財務情報、機密文書、知的財産、独自のソースコードを扱うワークロードに対応する。Cohereによると、マネージドAIの機能と運用の手軽さを企業が活用しながら、機密データを平文のままサービスを稼働させるインフラからアクセスできない状態に保つことが狙いだ。同社は、金融サービスにおける不正調査、法務チーム向けの機密文書検索とデューデリジェンス、機密性の高い公共部門の情報、特許や研究資料、独自のエンジニアリング文書やインターフェース設計文書、独自のソースコードを対象とする検索・分析を、想定される用途として挙げている。

ベータ版では役割が分担されており、基盤となる機密コンピューティングインフラはMicrosoft Azureが提供し、NVIDIA Confidential Computingがその保護をH100 GPUに適用する。CohereはModel Vaultを通じて、マネージド型のモデルサービング、暗号化されたリクエスト経路、リモートアテステーション、顧客側での検証を提供する。同社によると、顧客はModel Vaultを通じて暗号化されたボルトを設定・管理し、同じCohere APIで接続できる。利用はvault.cohere.comから開始できる。

機密性を確保した実行環境と暗号化されたリクエスト経路

機密コンピューティングが保護するのは「使用中のデータ」、つまりモデルが実際に処理している最中の情報だ。これは、従来の暗号化が対象としてきた保存中および転送中のデータに続く、第三の状態にあたる。Model Vaultでは、オペレーティングシステム、ドライバー、推論サーバーを含むモデルサービングスタックが機密仮想マシン内で稼働する。ハードウェアに支えられた隔離機能によってホスト環境からメモリーが保護され、ポリシーによって実行環境は承認済みソフトウェアに限定される。また、稼働中のワークロードに運用担当者が対話的にアクセスする手段はないと、Cohereが提供開始にあわせて公開した技術解説で説明されている。NVIDIA Confidential ComputingはGPUメモリーを保護し、CPUとGPU間の通信を暗号化する。そのため、機密性を保つ境界は、処理を調整するCPUで終わるのではなく、推論を実行するアクセラレーターまで及ぶ。

リクエスト自体も別途保護される。Model VaultはOblivious HTTP（OHTTP）を使用し、アテステーション済みの機密環境にひも付けられた公開鍵で、リクエスト内の機密情報を暗号化する。暗号化されたメッセージは暗号文として中継インフラを通過し、対応する秘密鍵を保持するのは環境内のOHTTPゲートウェイだけだ。応答も返送時に同様の保護を受ける。Cohereによると、これにより、プラットフォームを運用する役割と、顧客が送信した内容を読み取る能力とが分離される。中継設備は平文のペイロードを見ることなく、トラフィックを転送できるためだ。アプリケーションでは引き続きModel Vault APIと使い慣れたリクエスト形式を利用でき、ペイロードを再設計する必要はない。保護機能はクライアント層とインフラ層に実装されている。

能動的な制御としてのリモートアテステーション

保護されたリクエストを送信する前に、機密環境はハードウェア、ファームウェア、実行環境、アプリケーションソフトウェアの測定値とセキュリティに関わる特性を記録した、暗号学的に署名された証拠を生成する。顧客側のソフトウェアは、その証拠を承認済みポリシーと照合する。証拠は実際に稼働している環境を記録し、ポリシーはその環境にデータを預けてよいかどうかを定める。たとえば、ソフトウェアの測定値が変更されている場合や、GPUが想定された機密モードになっていない場合など、必須の特性が一致しなければ、クライアントは検証に失敗し、ペイロードの送信を拒否するため、リクエストは顧客自身の環境内にとどまる。この証拠は頻繁に更新され、保護されたリクエストの送信を続ける前に、その都度クライアントが新しい測定値とセキュリティ状態を承認済みポリシーと照合する。Cohereは、これによりアテステーションが監査用に保管する記録から、保護対象データを開示するかどうかを能動的に判断する制御へと変わると説明している。

Cohereの発表で、CTOのPhil Blunsomは次のように述べた。「ハードウェアアテステーションにより、顧客はワークロードが安全な機密コンピューティング環境で稼働していることを暗号学的に証明できるだけでなく、Cohereでさえ不正にデータへアクセスできないことを検証できます。」MicrosoftでAzure Confidential Computingのプロダクト責任者を務めるVikas Bhatiaは、Cohereとの取り組みは、マネージドAIの手軽さと、独立して検証可能な技術的制御を機密コンピューティングが両立できることを示していると述べた。NVIDIAのエンタープライズソフトウェア担当バイスプレジデントであるJohn Fanelliは、同社GPU上のNVIDIA Confidential Computingがハードウェアに支えられた保護を提供し、Model Vaultのようなプラットフォームが企業のワークロードに機密性の高いAI推論を提供できるよう支援すると述べた。

脅威モデル、明示された制限、オープンソース化の計画

明示された脅威モデルの範囲内では、処理中のプロンプト、文書、応答、モデルの実行が保護され、クラウドプロバイダー、ホストOS、ハイパーバイザー、インフラ管理者、Cohere自身の運用担当者は、保護対象ワークロードのメモリを読み取れないようになっています。一方、信頼の基点には、Confidential Computingの基盤となるハードウェアとファームウェア、環境内で実行される測定対象ソフトウェア、承認済み構成を定義する基準測定値、証拠を評価して署名するアテステーション基盤が引き続き含まれます。Cohereによると、この設計では、信頼が必要な対象を、測定・検証可能な証拠を生成する明示的なコンポーネント群に絞り込んでいます。

Cohereは、この保護範囲に含まれないものについても明確に説明しています。タイミングや、共有ハードウェアのその他の挙動から情報を推測するような物理攻撃やサイドチャネル攻撃は対象外です。また、ワークロードを読み取れない運用者であっても、その実行を停止、遅延、または阻止できるため、この設計だけでは可用性は保証されません。ソフトウェアをConfidential Computing対応ハードウェア内に配置しても、プロンプトインジェクション、安全でないツールの使用、認可エラー、その他のソフトウェア脆弱性といったアプリケーションレベルのリスクは解決されません。

観測可能なメタデータも保護範囲の対象外です。ペイロードの内容は暗号化されますが、メッセージサイズ、リクエストのタイミング、トラフィック量、ルーティングの詳細は引き続き可視のままです。また、現行のアーキテクチャでは、API認証情報とモデル識別子もOHTTPで保護されたペイロードの外に置かれています。同社によると、Confidential Computingはアプリケーションセキュリティの代替ではなく、データレジデンシーを実現する仕組みでも、コンプライアンスや契約上の管理策の代わりでもありません。また、モデルは保護された環境内で引き続き平文データを処理するため、準同型暗号でもありません。

この実装は、オープンソースのKata ContainersプロジェクトとConfidential Containersプロジェクトを基盤としています。Cohereは、機密推論スタックをオープンソースとして公開する計画を明らかにしました。これにより、顧客やセキュリティ研究者はコードを調査し、どのポリシーが適用されるかを確認し、検証測定を独自に再現できるようになります。ベータ版は現在、Microsoft Azure上のNVIDIA H100 GPUで稼働しており、Cohereによると、一般提供に向けて、NVIDIA Blackwell基盤（B200 GPUを含む）への対応を進めています。