チェスター・レング、OPAQUEの共同創設者兼AIプラットフォーム責任者 – インタビュー・シリーズ

チェスター・レングは、OPAQUEの共同創設者兼プラットフォーム・アーキテクチャ責任者です。OPAQUEは、機密データとAIプラットフォームを構築するシリーズAのスタートアップで、企業はデータ・パイプラインを機密層で拡張できるようにし、迅速な洞察と検証可能なプライバシーとコントロールを実現しています。

以前、チェスターはカリフォルニア大学バークレー校のコンピューターサイエンスの大学院生でした。そこでは、トップ会議で査読付き論文を発表し、また、セキュアな共同分析と機械学習のためのオープンソースのMC2プロジェクトのリードメンテナーとしても活動しました。

あなたは、UCバークレーのRISELabでの期間の後、OPAQUEを共同創設しました。企業のデータインフラストラクチャーにあなたが見た具体的なギャップは何でしたか？また、あなたの学術的な経験は、会社の方向性をどのように形成しましたか？

当時、特定のユースケースでの機械学習の活用に対する焦点が、学術界と産業界の両方で非常に高まっていました。研究室では、企業のスポンサーが多くいて、研究者が企業内の組織で直面しているよりプレスする問題を解決するように研究を形作ることができました。私たちのグループは特に、テクノロジー、銀行、金融サービス、保険（BFSI）企業と密接に協力して、機密データの使用に関するプライバシー問題を解決する機会を持っていました。機械学習は、貴重でロバストな洞察を生み出すために、多量の高品質なデータに依存します。

アマゾン、スコシアバンク、アント・グループ（当時アント・フィナンシャル）などのチームと協力している間、同じパターンが繰り返し出てきました。彼らの機械学習を活用したプロジェクトは、機密データの使用に関する懸念により、プロダクションに到達する前に停滞しました。言い換えれば、これらのチームは、企業にとって価値を生み出すことができるプロジェクトでAIを使用できませんでした。技術的な問題ではなく、正しいデータにアクセスできないことが理由でした。

OPAQUEでは、同様の問題を解決しています。チームが正しいデータにアクセスできるようにし、AIの能力を解放またはアップセルできるように支援しています。研究時代からの唯一の変化は、問題の緊急性です。AIの採用と統合が、企業全体の戦略的課題となっています。

推論モデルやエージェントAIへの投資が増加する中で、企業にとってセキュアなデータ・パイプラインがなぜ今より重要なのか説明してください。

セキュアなデータ・パイプラインは、企業が推論モデルやエージェントAIを構築するための基盤です。推論モデルをトレーニングしたり、エージェントAIをデプロイしたりするすべてのプロセスは、機密データとセキュアなデータ・パイプラインに依存しています。

例えば、業界では、高品質なデータを生成するための投資が増えています。いくつかの報告書は、データ生成のためのコンピューティング投資が、モデルをトレーニングするためのコンピューティング投資を上回ることが近い将来にあると予測しています。データ生成は、パイプラインによって生成される企業の最も貴重な知的財産である、高品質なドメイン固有のデータを生成するための多段階のプロセスです。このデータは、企業を競合他社と区別するための重要な要素となります。企業は、このパイプラインをセキュアにするために一切の努力を払う必要があります。

OPAQUEの機密コンピューティング・プラットフォームは、暗号化されたデータでの分析を可能にします。企業環境でスケーラブルで開発者に優しいものにするための核心的な技術的な課題は何ですか？

私たちの機密AIプラットフォームは、暗号化されたデータでの分析、機械学習、生成AIを可能にし、さらに、データが予想どおりに使用されたことを検証可能な証拠を提供します。

スケーラビリティ、開発、管理における核心的な課題は、ワークロードのオーケストレーションをセキュアで検証可能なものにすることです。特に、多くの企業はスケーラビリティが必要な場合、管理されたクラウドサービスを使用しています。これはコスト効率が良く便利ですが、クラウドプロバイダーが管理するソフトウェアの一部が存在します。企業は、管理されていないソフトウェアをセキュアで検証可能なものにする方法を見つける必要があります。

あなたは、セキュア・バイ・デザインのアーキテクチャが持続可能な競争優位性を提供することができると述べています。企業のAIチームにとって、実際にどのように機能するのか説明してください。

2つの観点から見ることができます。製品の観点とエンジニアリングの観点です。

製品の観点から見ると、すべての企業はデータが放射能を持つ、企業の独自性を担うものであることを理解しています。企業は、データのプライバシー、セキュリティ、主権性を評価するための成熟度が高まっています。したがって、企業データを処理するすべての製品は、処理されたデータが承認されたパーティーやエンティティのみに表示され、使用されることを保証する必要があります。セキュア・バイ・デザインのアーキテクチャは、データのプライバシー、セキュリティ、主権性が製品設計の第一の考慮事項であったことを保証し、製品がこれらの保証を提供できるようにします。

エンジニアリングの観点から見ると、セキュア・バイ・デザインのアーキテクチャは、拡張性と将来への対応性が高いです。法務、リスク、コンプライアンスチームは、新たなリスクと規制に対応して厳格さを増しています。したがって、エンジニアリング組織は、セキュアなエンタープライズAIシステムを最初から構築する必要があります。そうしないと、システムが不十分にセキュアであることがわかると、再構築やパッチ適用が必要になり、貴重なエンジニアリング・バンド幅を浪費することになります。

自律的なAIシステムが進化する中で、企業はデータの役割を、リソースとしてだけでなく、守り得る優位性としてどう見直すべきですか？

業界では、データが企業の唯一の優位性となる可能性が高まっています。研究開発の才能と、優れた技術や製品が企業間を移籍することが増えています。結果として、多くの企業が同じ製品を、同じ技術でバックアップしたものを提供できるようになっています。

しかし、企業から企業へ簡単に転移できないものは、企業のデータです。データが漏洩しない限りです。さらに、データが製品を競合他社よりも魅力的にすることができます。よりパーソナライズされた、カスタマイズされた、ドメイン固有のものにすることができます。企業は、データをセキュアにすることで、データを競争上の優位性として活用できるようにする必要があります。

実践の中で、堅牢なAIパイプラインとはどのようなものですか？また、企業がAIの展開を拡大する際に、隠れたコストやリスクを避けるにはどうすればよいですか？

堅牢なAIパイプラインは、信頼性が高く、障害に強く、検証可能なセキュリティを備えたものです。処理前に、企業はパイプライン自体と、パイプラインに入力されるデータを検証して、パイプラインがデータを誤用する可能性がないことを確認する必要があります。処理中、AIパイプラインは改ざんに対して安全でなければなりません。データの盗難や、提供する洞察の歪曲を防ぐ必要があります。処理後、AIパイプラインは検証可能な監査性を備えている必要があります。チームは、AIパイプラインの意思決定と軌跡を観察して説明し、何かが間違ったときに何が行われたのかを確認できる必要があります。

企業のデータや独自のモデルが漏洩したり、AIパイプラインが不正確だったりすることによる影響を考慮することが重要です。さらに重要なことは、企業がAIの展開をより重要なユースケースに拡大するにつれて、セキュアでないAIパイプラインのリスクが指数関数的に増大することです。ローンの決定や採用の決定がすでにAIによって支援されている世界では、AIパイプラインの故意または不注意によるエラーが、個人の生活に劇的な影響を与える可能性があります。

多くの企業はモデル精度や待ち時間に焦点を当てています。データの完全性と長期的な運用リスクについて、どれだけの点が見過ごされているのか説明してください。

多くの企業はモデルやAI技術に焦点を当てていますが、私は長い間、データがAIの展開における根本的なボトルネックであると信じています。

ユーザーが気にしないトピックについて、モデルが迅速に正確な回答を生成することは、価値を生み出すことはありません。企業は、モデルとモデルが支える製品が、高品質な関連データでトレーニングされていることを保証する必要があります。入力データの品質が低いと、データの汚染や漏洩が生じる可能性があり、モデルの一貫性が損なわれる可能性があります。

OPAQUEは既存のクラウド・スタックに統合されます。企業の展開において、採用の容易さと強力なセキュリティ保証のバランスを取る上で、どのような教訓を得ましたか？

私たちは、研究時代からこの問題に取り組んできました。エンタープライズ環境におけるAIシステムの検証可能なセキュリティは、非常に難しい問題です。システム、セキュリティ、暗号理論、AIの専門知識が必要です。私たちが見つけた多くのシステムは、根本的にセキュアではありませんでした。セキュリティの実装が非常に難しいからです。

OPAQUEでは、両方の世界の最良のものを提供する製品を構築しました。根本的に検証可能なセキュリティを備えているが、クラウド・マーケットプレイスを通じて簡単にデプロイでき、AIアプリケーションに統合するのに十分に柔軟性があります。

AIパイプラインやデータ共有の周りに、企業のリーダーがまだ十分に理解していない脅威や脆弱性は何ですか？

AIエージェントの採用が急速に進む中で、多くのシステムの記録にアクセスするエージェントが、意図的にまたは意図せずにデータを誤用するリスクがあります。企業のリーダーは、データへのアクセス権を持つAIエージェントを信頼できるか、常に疑問視する必要があります。

AI規制が世界的に形作られつつあります。次の数年で、セキュアなデータインフラストラクチャー、モデルアカウンタビリティ、コンプライアンスの相互作用はどのように進化するでしょうか？

検証可能なセキュアなデータインフラストラクチャーは、モデルやエージェントのアカウンタビリティを可能にします。特に、エージェントやモデルの意思決定やツールの使用について検証可能な証拠がない場合、責任を追及することはできません。AIが私たちの日常生活にさらに統合されるにつれて、AIに説明可能性と観察可能性を求める必要があります。しかし、AIが人間よりも速く動作する場合、悪意のあるAIは、偽の履歴を構築して人間を欺くことができます。AIに責任を負わせるには、検証可能性が必要です。

私にとって、規制コンプライアンスは反応的なものです。規制の開発と制定は、技術革新のペースよりも遅いものです。AIが革新のペースを高めるにつれて、これはますます真実となるでしょう。コンプライアンスは最終的に遅れlaggersをセキュアなデータインフラストラクチャーに導くでしょう。しかし、早期採用者や早期多数派は、コンプライアンスが義務付けられる前に、AIの安全性のためにそれを採用することを理解しています。彼らは、エージェントのアカウンタビリティが、セキュアなデータインフラストラクチャーによって可能になることを認識しています。これは、自社のAIを搭載した製品の採用に不可欠です。

素晴らしいインタビュー、詳しく知りたい読者はOPAQUEを訪れてください。