ルマイのPhillip Burr – インタビュー・シリーズ

Phillip Burrは、ルマイの製品責任者であり、25年以上のグローバル製品管理、市場参入、リーダーシップの経験を持つ、半導体およびテクノロジー企業のトップ企業で、製品およびサービスを構築して拡大させる実績があります。

ルマイは、イギリスを拠点とするディープテック企業で、3D光学コンピューティングプロセッサを開発して人工知能ワークロードを高速化しています。光のビームを使用して3次元で行列ベクトル乗算を行うことで、従来のシリコンベースのアクセラレータよりも最大50倍のパフォーマンスと90%の低消費電力を実現します。これは、特に大規模言語モデルを含むAI推論タスクに適しており、エネルギー費用と環境への影響を大幅に削減します。

ルマイの創設に何がインスパイアしたのか、そのアイデアはオックスフォード大学の研究からどのように商業ベンチャーに進化したのか。

最初の火花は、ルマイの創設者の一人であるDr. Xianxin Guoがオックスフォード大学で1851 Research Fellowshipを授与されたときに点けられました。インタビュアーは光学コンピューティングの可能性を理解し、Xianxinに研究が成功した場合、特許を取得し、会社を設立することを検討するよう求めました。これにより、Xianxinの創造的な心が活発になり、Dr. James Spallとともに、光を使用してAIの核となる計算を行うことで、AIのパフォーマンスを大幅に向上させ、エネルギーを削減できることを証明したとき、舞台は整いました。彼らは、既存のシリコンのみのAIハードウェアが（そしてまだ）パフォーマンスを向上させるために大幅な電力とコストの増加を必要としていることを理解し、光学コンピューティングを使用してこの問題を解決できれば、顧客が欲しい製品を作成できることを理解しました。彼らはこのアイデアをVCに提示し、ルマイを設立するために支援されました。ルマイは最近2回目の資金調達を完了し、1000万ドル以上を調達し、追加の投資家を迎えました。彼らもまた、光学コンピューティングがAIのパフォーマンス需要を満たすために拡大し続けることができると信じています。

あなたはArm、indie Semiconductor (INDI ) などで印象的なキャリアを積んでいます。ルマイに参加するきっかけは何でしたか。

簡単に言うと、チームとテクノロジーです。ルマイには、光学、機械学習、データセンターの専門家が集まっています。彼らはMeta、Intel (INTC ) 、Altera、Maxeler、Seagate、IBM（およびArm、indie、Mentor Graphics、Motorolaでの私の経験）からの経験を持ちます。我々は、AI推論のコストを削減することに集中した、優れたチームがすごいことを成し遂げることができると考えました。

私は、AIの将来は、新しい革新的なブレークスルーを必要とすることを強く信じています。50倍のAIコンピューティングパフォーマンスを提供し、AI推論のコストを10分の1に削減するという約束は、見過ごすことができません。

創設チームは、研究ブレークスルーから製品準備会社へのスケーリングで、どのような初期の技術的またはビジネス上の課題に直面しましたか。

研究ブレークスルーは、光学を使用して高速で効率的な行列ベクトル乗算を行うことを証明しました。技術的なブレークスルーにもかかわらず、最大の課題は、光学コンピューティングスタートアップが失敗した場所でルマイが成功できることを人々に納得させることでした。我々は、ルマイのアプローチが非常に異なることを説明するために時間を費やし、2Dチップではなく3D光学を使用してスケールと効率性を達成することを強調しました。研究室の研究から、大規模に展開できるテクノロジーまで、多くのステップがあります。我々は、早期から、製品を大量に開発し、大規模なデータセンターで製品を開発した経験を持つエンジニアを迎えることが成功の鍵であることを認識しました。もう1つの重要な分野はソフトウェアです。標準的なAIフレームワークとモデルがルマイのプロセッサから利点を得ることができ、AIソフトウェアエンジニアのためにシームレスなツールとフレームワークを提供することが不可欠です。

ルマイのテクノロジーは3D光学行列ベクトル乗算を使用するということですが、一般の人々に簡単に説明できますか。

AIシステムは、行列ベクトル乗算と呼ばれる多くの数学的計算を行う必要があります。これらの計算は、AIのエンジンを動かすものです。ルマイでは、電気ではなく光を使用してこれを行います。ここでは、どのように機能するかを説明します：

1. 情報を光のビームにエンコードします
2. これらの光のビームは3D空間を通過します
3. 光はレンズや特殊材料と相互作用します
4. これらの相互作用により、数学的演算が完了します

3D空間のすべての次元を使用することで、各光のビームでより多くの情報を処理できます。これにより、非常に効率的なアプローチとなり、AIシステムを実行するために必要なエネルギー、時間、およびコストが削減されます。

光学コンピューティングの主な利点は、従来のシリコンベースのGPUや統合光子工学と比較して何ですか。

シリコン技術の進歩の速度が大幅に低下したため、シリコンのみのAIプロセッサ（たとえばGPU）のパフォーマンスを向上させるたびに、電力の増加が大きくなります。シリコンのみのソリューションは大量の電力を消費し、複雑で高価なものになります。光学を使用する利点は、光学ドメイン内ではほとんど電力が消費されないことです。光学ドメインに入るためにエネルギーを使用しますが、たとえばルマイのプロセッサでは、各サイクルで1,000回の計算操作を実行できます。つまり、非常に効率的です。統合光子工学では、物理的なサイズの制限と信号ノイズの両方のため、このような拡張性は達成できません。シリコン光子ソリューションの計算操作は、ルマイが現在達成できるものの1/8にすぎません。

ルマイのプロセッサは、ほぼゼロの待機時間の推論をどのように実現しますか。現代のAIワークロードでは、これが重要な要素である理由を説明してください。

ルマイのプロセッサは、正確にゼロ待機時間の推論を提供するわけではありませんが、1サイクルで非常に大きな（1024 x 1024）行列ベクトル乗算を実行します。シリコンのみのソリューションは、行列を小さな行列に分割し、個別に処理してから結果を組み合わせます。これには時間がかかり、メモリとエネルギーが多く使用されます。AI処理の時間、エネルギー、コストを削減することは、より多くのビジネスがAIの利点を得ることができるようにする上で非常に重要です。また、AIを最も持続可能な方法で実現する上でも重要です。

PCIe互換フォームファクタが既存のデータセンターインフラストラクチャとどのように統合されるかについて説明してください。

ルマイのプロセッサは、標準的なCPUとともに、PCIeフォームファクターカードを使用します。すべてが標準の4Uシェルフ内に収まります。我々は、データセンターのラック設備サプライヤーと協力して、ルマイのプロセッサが彼らの設備と統合できるようにしています。我々は、標準的なネットワークインターフェース、標準的なソフトウェアなどを使用しているため、外部から見ると、ルマイのプロセッサは、他のデータセンターのプロセッサと同じように見えます。
データセンターのエネルギー使用量は、世界的な懸念事項として増加しています。ルマイは、AIコンピューティングの持続可能なソリューションとして、どのように位置付けられていますか。

データセンターのエネルギー消費量は、驚くべき速度で増加しています。ローレンス・バークレー国立研究所の報告書によると、米国のデータセンターの電力使用量は2028年までに3倍になる可能性があり、国の電力の12%を消費する可能性があります。いくつかのデータセンター運営者は、必要なエネルギーを提供するために原子力発電所を設置することを検討しています。業界は、AIに対する別のアプローチを見つける必要があります。我々は、光学がエネルギー危機の解決策であると信じています。

ルマイのアーキテクチャは、現在のシリコンおよび光子工学アプローチのスケーラビリティのボトルネックをどのように回避していますか。

ルマイの最初のプロセッサのパフォーマンスは、達成可能なことの始まりにすぎません。我々は、光学クロック速度とベクトル幅を増加させることで、巨大なパフォーマンスの飛躍を提供し続けることを期待しています。すべてが、エネルギーの増加なしで実現します。他のソリューションはこれを達成できません。標準的なデジタルシリコンのみのアプローチは、パフォーマンスの向上ごとにコストと電力の増加を必要とします。シリコン光子工学では、必要なベクトル幅を達成できません。したがって、データセンターのコンピューティングのための統合光子工学を検討していた会社は、データセンターの他の部分、たとえば光インターコネクトや光スイッチングに注力しています。

光学コンピューティングは、AIの将来と、より広い意味でのコンピューティングにおいてどのような役割を果たすと思いますか。

光学全体が、データセンターで重要な役割を果たすことになります。光インターコネクト、光ネットワーキング、光スイッチング、および光AI処理が含まれます。AIがデータセンターに課す要求が、この光への移行の主な原動力です。光インターコネクトは、大規模なAIモデルに必要な、AIプロセッサ間の高速接続を可能にします。光スイッチングは、より効率的なネットワーキングを可能にします。光コンピューティングは、より高速で、低消費電力で、低コストのAI処理を可能にします。集団的に、これらは、コンピューティング側のシリコンスケーリングの低下と、インターコネクト側の銅の速度制限の課題を克服することで、さらに高度なAIを可能にするでしょう。entと低コストのAI処理。集団的に、これらは、コンピューティング側のシリコンスケーリングの低下と、インターコネクト側の銅の速度制限の課題を克服することで、さらに高度なAIを可能にするでしょう。entと低コストのAI処理。集団的に、これらは、コンピューティング側のシリコンスケーリングの低下と、インターコネクト側の銅の速度制限の課題を克服することで、さらに高度なAIを可能にするでしょう。

素晴らしいインタビュー、ありがとうございます。詳細については、ルマイを訪れてください。