Phillip Burr, Lumaiの製品責任者 – インタビューシリーズ

Phillip Burrは、Lumaiの製品責任者で、世界的な製品管理、市場戦略、リーダーシップ役職における25年以上の経験を持つ。また、製品やサービスを構築し、拡大させる実績もある。

Lumaiは、イギリスに拠点を置くディープテック企業で、3D光学コンピューティングプロセッサを開発し、人工知能ワークロードの高速化を図っている。光のビームを使用して3次元で行列ベクトル乗算を行うことで、従来のシリコンベースのアクセラレータよりも最大50倍の性能と90%の電力消費量の削減を実現している。これにより、AI推論タスク、特に大規模言語モデルに適しており、エネルギー費用と環境への影響を大幅に削減できる。

Lumaiの創設に何がインスピレーションとなったのか、そのアイデアはオックスフォード大学の研究からどのように商業ベンチャーへと進化したのか。

最初の火花は、Lumaiの創設者の一人であるDr. Xianxin Guoがオックスフォード大学で1851 Research Fellowshipを授与されたときに点火された。インタビュアーは光学コンピューティングの潜在性を理解し、Xianxinに研究が成功した場合、特許を取得し、会社を設立することを検討するように求めた。これにより、Xianxinの創造的な心が活発になり、もう一人の共同創設者であるDr. James Spallとともに、光を使用してAIの核となる計算を行うことで、AIのパフォーマンスを大幅に向上させ、エネルギーを削減できることを証明した。彼らは、既存のシリコンのみのAIハードウェアが（そしてまだ）パフォーマンスを向上させるために大幅な電力とコストの増加に苦労していることを知っていた。したがって、光学コンピューティングを使用してこの問題を解決することで、顧客が求める製品を作成できることを知っていた。彼らはこのアイデアをVCに持ち込み、Lumaiを設立するためにバックアップされた。Lumaiは最近、2回目の資金調達ラウンドを終え、1,000万ドル以上を調達し、追加の投資家も参加した。投資家は、光学コンピューティングがAIのパフォーマンス需要に応えながらスケールアップし、電力消費量を増やさないことを信じている。

あなたはArm、indie Semiconductorなどで印象的なキャリアを積んだ後、Lumaiに参加することを決めたのはどうしたのか。

簡単に言うと、チームとテクノロジーである。Lumaiには、Meta、Intel、Altera、Maxeler、Seagate、IBM（およびArm、indie、Mentor Graphics、Motorolaでの私の経験）出身の光学、機械学習、データセンターの専門家が集まっている。私には、AI推論のコストを削減することに焦点を当てた、優れた人々のチームが素晴らしいことを成し遂げることができるという信念があった。

私は、AIの将来は、新しい革新的なブレークスルーをコンピューティングに必要とするということを強く信じている。50倍のAIコンピューティングパフォーマンスを提供し、AI推論のコストを10分の1に削減するという約束は、見逃せない機会であった。

創設チームは、研究のブレークスルーから製品対応会社へのスケーリングにおいて、どのような初期の技術的またはビジネス上の課題に直面したのか。

研究のブレークスルーにより、光学が高速で非常に効率的な行列ベクトル乗算に使用できることが証明された。技術的なブレークスルーにもかかわらず、最大の課題は、光学コンピューティングのスタートアップが失敗した場所でLumaiが成功できることを人々に納得させることであった。私たちは、Lumaiのアプローチが非常に異なることを説明するために時間を費やし、単一の2Dチップではなく、3D光学を使用してスケールと効率性を達成することを伝えた。ラボの研究からデータセンターで展開可能なテクノロジーに至るまで、多くのステップがある。私たちは、早い段階で、高容量でデータセンターで製品を開発する経験を持つエンジニアを雇用することが成功の鍵であることを認識した。もう一つの重要な分野はソフトウェアである。標準的なAIフレームワークとモデルがLumaiのプロセッサの利点を得られるようにし、AIソフトウェアエンジニアにとってこれをできるだけシームレスに実行するためのツールとフレームワークを提供することが不可欠である。

Lumaiのテクノロジーは、3D光学行列ベクトル乗算を使用するということですが、一般的な聴衆向けに簡単に説明できますか。

AIシステムは、行列ベクトル乗算と呼ばれる多くの数学的計算を実行する必要がある。これらの計算は、AIの応答を動かすエンジンである。Lumaiでは、電気代わりに光を使用してこれを行う。

1. 情報を光のビームに符号化する
2. これらの光のビームが3D空間を通過する
3. 光がレンズや特殊材料と相互作用する
4. これらの相互作用により、数学的演算が完了する

空間の3次元すべてを使用することで、各光のビームでより多くの情報を処理できる。これにより、私たちのアプローチは非常に効率的になり、AIシステムを実行するために必要なエネルギー、時間、コストが削減される。

光学コンピューティングの主な利点は、従来のシリコンベースのGPUや統合光子工学よりも何ですか。

シリコンテクノロジーの進歩の速度が大幅に低下しているため、シリコンのみのAIプロセッサ（たとえばGPU）のパフォーマンスの各ステップアップは、電力の著しい増加につながる。シリコンのみのソリューションは大量の電力を消費し、減少するリターンを追求しているため、非常に複雑で高価になる。光学を使用する利点は、光学ドメイン内ではほとんど電力が消費されないことである。光学ドメインに入るためにエネルギーが使用されるが、たとえばLumaiのプロセッサでは、1サイクルごとに各光のビームで1,000を超える演算操作を実行できるため、非常に効率的である。これは、統合光子工学では、物理的なサイズの制約と信号ノイズの両方により実現できないスケーラビリティである。シリコン光子ソリューションの演算操作数は、Lumaiが現在達成できるものの1/8にすぎない。

Lumaiのプロセッサはほぼゼロの待機時間で推論を実行するのはどうしてですか。また、これは現代のAIワークロードにとってどれほど重要な要素ですか。

私たちは、Lumaiプロセッサがゼロ待機時間を提供することを主張しませんが、大きな（1024 x 1024）行列ベクトル乗算を1サイクルで実行します。シリコンのみのソリューションは、行列を小さな行列に分割し、個別に処理してから結果を組み合わせる必要がある。これには時間がかかり、メモリとエネルギーがさらに使用される。AI処理の時間、エネルギー、コストを削減することは、より多くの企業がAIの利点を享受できるようにし、最も持続可能な方法で高度なAIを実現するために不可欠である。

PCIe対応フォームファクタが既存のデータセンターインフラストラクチャとどのように統合されるかについて説明できますか。

Lumaiプロセッサは、標準のCPUとともにPCIeフォームファクターカードを使用し、標準の4Uシェルフ内に配置される。私たちは、データセンターラック機器のサプライヤーと協力して、Lumaiプロセッサが彼らの機器と統合されるようにしている。私たちは、標準のネットワークインターフェイス、標準のソフトウェアなどを使用しているため、外部から見ると、Lumaiプロセッサは他のデータセンター処理装置と同じように見える。

データセンターのエネルギー使用量は、世界的な懸念事項です。Lumaiは、AIコンピューティングの持続可能なソリューションとしてどのように位置づけられているのか。

データセンターのエネルギー消費量は、驚くほどの速度で増加しています。ローレンス・バークレー国立研究所の報告書によると、2028年までに米国のデータセンターの電力使用量は3倍になる可能性があり、国全体の電力の12%を占めることになる。いくつかのデータセンター運営者は、必要なエネルギーを提供するために原子力発電所を設置することを検討している。業界は、AIに対する異なるアプローチを検討する必要があり、私たちは、光学がこのエネルギー危機の解決策であると信じている。

Lumaiのアーキテクチャは、現在のシリコンと光子工学アプローチのスケーラビリティのボトルネックをどのように回避するのか。

最初のLumaiプロセッサのパフォーマンスは、達成可能なものの始まりにすぎない。私たちは、期待されるように、光学クロック速度とベクトル幅の増加によって、巨大なパフォーマンスの飛躍を提供し続けることになる。エネルギー消費量の増加なしに。これは、他のソリューションでは達成できない。標準的なデジタルシリコンのみのアプローチは、パフォーマンスの各増加に伴って、コストと電力の消費量が大幅に増加する。シリコンフォトニクスでは、必要なベクトル幅を達成できないため、データセンターのコンピューティングの他の部分、たとえば光インターコネクト、光スイッチングに注力する会社もある。

光学コンピューティングは、AIの将来と、より広い意味でのコンピューティングにおいてどのような役割を果たすと思いますか。

光学全体は、将来的にデータセンターで大きな役割を果たすことになる。光インターコネクト、光ネットワーキング、光スイッチング、そしてもちろん光AI処理である。AIがデータセンターに課す要求が、この光への移行の主な原動力である。光インターコネクトは、AIプロセッサ間のより高速な接続を可能にし、大規模なAIモデルに不可欠である。光スイッチングは、より効率的なネットワーキングを可能にし、光コンピューティングは、より高速で、電力効率が高く、低コストのAI処理を可能にする。まとめると、より高度なAIを可能にし、コンピューティング側のシリコンのスケーラビリティの低下とインターコネクト側の銅線の速度制限の課題を克服するのに役立つ。

素晴らしいインタビュー、詳細についてはLumaiを訪問してください。