コンフィデントセキュリティーのジョナサン・モーティンセン氏、CEO兼創設者 – インタビューシリーズ

ジョナサン・モーティンセン氏は、コンフィデントセキュリティーの創設者兼CEOであり、現在、厳格なセキュリティとコンプライアンス要件を持つ業界向けのプライベートAIシステムの開発を主導しています。また、サウスパークコモンズの創設フェローとしても活動し、AIコンピューティング、メモリ、プライバシー、所有権の未来を探究しています。コンフィデントセキュリティーを立ち上げる前に、データブリックスのスタッフソフトウェアエンジニアとして、bit.ioのテクノロジーをデータプラットフォームに統合し、多テナントセキュリティ、IAM/ACL、VPC分離、暗号化、データ所有権に焦点を当てていました。以前は、bit.ioの創設者兼CTOとして、数百万のセキュアデータベースをサポートするマルチクラウド、マルチリージョンサーバーレスPostgreSQLサービスを構築し、後にデータブリックスによって買収されました。

コンフィデントセキュリティーは、企業が機密情報を公開せずにAIワークフローを実行できるインフラストラクチャを構築しています。同社のプラットフォームは、プロンプト、データ、モデル出力が完全にプライベートで、ログや再利用ができないように設計されており、企業がAIを採用しながら厳格な規制およびコンプライアンス基準を満たすためのセキュアな方法を提供しています。

コンフィデントセキュリティーを2024年に立ち上げる前に、bit.ioを構築し、データブリックスで働いていました。AIのプライバシーに根本的に異なるアプローチが必要であることを認識するきっかけとなったのは何でしたか。

データインフラストラクチャを構築する経験から、機密情報をシステムに入力する場合は、信頼だけでは十分ではないことがわかりました。顧客がデータを所有し、データが正しいことを検証できる方法を提供しました。

LLMを使用する企業を見ると、プライバシーに対する証明が存在しないことがわかりました。従業員は、ソースコード、法的文書、患者記録を、検証できない第三者のモデルに貼り付けていました。プライベートな会話がオンラインで偶然にインデックスされ、ポリシーの変更によって会話がデフォルトでトレーニングデータになるという事例もありました。これは、現在のプライバシーモデルが脆弱であることを示しています。

AIが世界で最も機密性の高い情報を扱う場合、ベンダーの内部的な約束に依存しない保証が必要です。これが、私がコンフィデントセキュリティーを設立した理由です。

OpenPCCは「AIのSignal」として説明されています。プライバシーレイヤーがオープンで、検証可能で、相互運用可能であることを重要視した理由は何ですか。

エンドツーエンド暗号化は、標準として採用されるまで普及しませんでした。私たちは、AIのプライバシーにも同様のことが起こることを望んでいます。もし、プライバシー保証を提供できる会社がわずか数社だけである場合、プライバシーはスケールしません。

OpenPCCはApache 2.0の下でオープンソースであり、誰でもビルドしたり検査したりできます。秘密の信頼要件はありません。ハードウェアの検証によって、実行中のコードと場所についてcryptographicな証明が提供されます。また、どこでも動作します。どのクラウドでも、どのモデルプロバイダーでも、どの開発スタックでも。

一貫性と普遍性のあるプライバシーレイヤーには大きな価値があります。OpenPCCを使用すると、データがモデルプロバイダー、規制当局、または私たちに表示されないことを確認できます。標準は、エコシステム全体が参加できる場合にのみ機能します。したがって、最初から可能な限り包括的に設計しました。

以前、多テナント、暗号化、データ所有権のための大規模システムを構築しました。OpenPCCのアーキテクチャーをどのように形作りましたか。

これらのシステムは、2つの真実を強化しました。システムがデータを保持できる場合、最終的には保持します。ログ、誤構成、または法的要求によってです。信頼はプライバシーモデルではありません。ユーザーは可視性と制御を必要とします。

OpenPCCはステートレスモードで実行され、プロンプトは処理後に消去されます。検証によって、ユーザーはデータがどこに行き、どのコードが実行されているかを確認できます。制御とデータを分離することで、OpenPCCはプライベート入力が実行可能な命令として扱われることを防ぎます。

これらの制約は、企業が待ち望んでいたものです。データが予期せず再現されることを保証しないものです。

「プライベートAI」ソリューションのほとんどは、不透明なシステムへの信頼に依存していると主張しています。独立した検証が真のプライバシーに不可欠な理由は何ですか。

現在のプライバシーの言語は基本的に「私たちを信頼してください」というものです。国家安全保障や規制されたヘルスケアデータが関わる場合、これでは十分ではありません。ユーザーが主張を検証できない場合、それは保証ではなく、マーケティングです。

検証可能なプライバシーは異なります。オペレーターの意図を信頼しません。ハードウェア、ソフトウェアイメージ、データ処理保証を検証します。暗号化によって境界が強制されます。ログは誰かが偶然に漏らしたり召還したりすることはありません。

ユーザーがプライバシーを監査できる場合、根本的に安全なシステムを作成します。これは、数学に根ざした説明責任です。

Googleの「プライベートAI」発表は、OpenPCCの発表後にありました。独立したテストのためのTPUを提供するようGoogleに公に呼びかけたのは何が理由でしたか。何を見つけることを期待していますか。

プライバシー保証を主張する場合、コミュニティがそれを検証できるようにする必要があります。NVIDIA (NVDA ) はすでにH100 GPUでの外部検証を許可しており、採用を促進するためにその検証ライブラリのGoバージョンをオープンソース化しました。

GoogleがTPUで同様の約束を行う場合、ブログ投稿で読むのではなく、それを測定して検証できるはずです。私たちが期待するのは、厳格なデータ保持境界、監査可能な検証、ログやテレメトリが逃げる秘密のパスがないことです。プライバシーに関する主張は、検証に耐えられる必要があります。

メカニクスに不明な読者にとって、OpenPCCの完全に暗号化されたチャネルは、従来のクライアント側の暗号化や機密コンピューティングとどう異なりますか。

クライアント側の暗号化はデータを入力中に保護し、機密コンピューティングは処理中に保護しますが、オペレーターまたは攻撃者が機密情報にアクセスできるギャップがまだあります。

OpenPCCはこれらのギャップを閉じます。クライアントとモデル間の完全に暗号化されたエンドツーエンドパスを作成し、プロンプト、応答、ユーザーのID、そして意図を明らかにする可能性のあるメタデータやタイミング信号を保護します。オペレーターは何も復号化できません。ログや保持はありません。侵害条件下でも。

プライバシーは、プロバイダーが裏で正しいことを行うことを希望することには依存しない必要があります。cryptographic的に強制される必要があります。

検証可能なプライバシーは、金融、ヘルスケア、国防のような規制された業界の状況をどのように変えますか。

規制された業界は、AIから最も多くを得る可能性がありますが、漏洩した場合に最も多くを失う可能性もあります。現在、従業員の78%が内部データをAIツールに貼り付けていて、5件中1件は規制情報 such as PHIまたはPCIを含んでいます。既に漏洩のリスクがあります。

検証可能なプライバシーは、最大の障害を除去します。機密情報は、モデルプロバイダーの環境内で平文として存在しません。トレーニングに使用されることはありません。合法的な要求でも、システム自体が見ることができないものにはアクセスできません。

リスクとコンプライアンスチームは、デフォルトで「はい」となるパスを見つけることができます。

クラウドエイジャントなプライバシーレイヤーを設計する際の最大のエンジニアリング課題は何でしたか。どのように解決しましたか。

機密コンピューティングとリモート検証はまだ初期段階です。各クラウドプロバイダーとベアメタルプロバイダーは、少し異なることを行います。AWSのようなプロバイダーは、実行するための必要なハードウェアを持っていません。私たちが追加する各機能は、1000の切り傷とタイトロープを歩くようなものですが、オープン標準になる必要があるため、誰かのクラウドでも動作するようにする必要があります。オープンソースなので、さらに多くのプラットフォームと構成を追加することを奨励しています。

デフォルトで検証可能な暗号化を持つ世界はどのように見えますか。企業、クラウドベンダー、モデルプロバイダー間の力関係をどのように変えますか。

企業は、最も貴重な資産であるデータを保持します。モデルプロバイダーは、独自の情報を蓄積するのではなく、パフォーマンスとコストで競争します。クラウドは、プライバシーを可能にするのではなく、プライバシーを観察するのではなく、プライバシーをサポートします。

これは、より健康的な力関係です。セキュリティが基盤に組み込まれている場合、全エコシステムが勝者になります。

AIが普遍的になり、厳しく規制される未来では、検証可能なプライバシーは企業、クラウドプロバイダー、モデル開発者の競争環境をどのように変えますか。

規制当局は、ユーザーデータの保存と使用方法について疑問を抱いています。信頼に基づくプライバシーは、長期的には彼らを満足させません。ユーザーは、現在メッセージングアプリで期待しているように、プライバシー保証を期待します。

勝者は、ユーザーに妥協を求めない企業になります。如果 you can prove privacy、you earn the trust of the organizations that have the most valuable data in the world. Data becomes usable in places it’s been locked away.

素晴らしいインタビュー、詳しく知りたい読者はConfident Securityを訪問してください。