ルマイ、光学AIサーバーを発表 – 次世代の推論を支える

ルマイは、大きな進歩を発表しました。光学コンピューティングシステムは、実時間で大規模な言語モデルを実行できるというものです。この新しいシステム、アイリスノヴァは、従来のシリコンベースの処理から根本的に異なるアプローチ、光を使用したものへの移行を示しています。

この発表は、AI業界がモデル訓練から大規模な展開への移行を急ぐ中、既存のコンピューティングインフラストラクチャーに前例のない圧力がかかっている時期に来ました。

シリコンの制約を超えて

長年、AIの進歩はシリコンチップ、特にGPUの進歩に大きく依存してきました。しかし、このモデルは限界を示し始めています。消費電力は急激に増加し、コストとエネルギー要件を大幅に増やさない限り、パフォーマンスの向上は難しくなっています。

ルマイのアプローチは、電子を光子に置き換えています。計算は電気信号ではなく、光を使用してデータを処理します。これにより、巨大な並列性が可能になり、数百万の操作が三次元空間で同時に実行できます。

同社によると、このアーキテクチャは、従来のシステムと比較して、90％までエネルギー消費を削減しながら、著しく高いスループットを提供できます。

データセンターへの増大する圧力

この発表は、業界全体の課題を反映しています。AIワークロードは急速に拡大し、特に推論で、訓練されたモデルを実世界のアプリケーションで実行する必要があります。

データセンターは、電力の入手可能性によってますます制約を受けています。世界のデータセンターのエネルギー需要は、10年末までに倍増すると予測されており、運営者は専用の発電や代替エネルギー源などの非従来的な解決策を探すようになっています。

同時に、従来のハードウェアのスケーリングは、効率が低下しています。シリコンの新しい世代は、_INCREMENTALな改善をもたらしますが、多くの場合、不釣り合いなほど多くのエネルギーと冷却が必要になります。

ルマイは、光学コンピューティングを、これらの制限を完全に回避する方法として位置付けているのではなく、逐次的に改善する方法としています。

アイリスノヴァの仕組み

アイリスノヴァシステムは、光学とデジタルコンポーネントを組み合わせたハイブリッドアーキテクチャを使用しています。光学エンジンは、AIモデルを動かす核心的な数学演算を処理し、従来のデジタルシステムはソフトウェアと制御機能を管理します。

この設計により、システムは既存のデータセンター環境に統合できますが、インフラストラクチャーの完全な改修は必要ありません。

システムは特に、「prefill」段階の推論を最適化しています。ここでは、モデルが大量の入力データを処理して応答を生成する前に、システムは全体的なスループットと効率を向上させることを目指しています。

ルマイによると、アイリスノヴァは、Llama 8Bや70Bなどのモデルを実時間で実行でき、実験的なユースケースだけでなく、実稼動レベルのワークロードにも対応できることを示しています。

推論時代への移行

この発表は、AIの優先事項のより広い移行を反映しています。モデルを訓練することが注目されてきた一方で、AIの実世界での影響は、効率的にモデルを展開してスケールできるかどうかによって決まってきます。

この移行は、訓練段階では目立たなかったボトルネックを明らかにしています。推論ワークロードは連続的であり、遅延に敏感であり、エネルギーを大量に消費するため、効率が重要な要素となっています。

ルマイのシステムは、特にこの段階に焦点を当てて設計されています。生み出される計算能力だけではなく、1ワットあたりのスループットに重点を置いています。

早期アクセスと業界への影響

アイリスノーバサーバーは、ハイパースケーラー、企業、研究機関向けに評価用として利用可能になりました。アイリスファミリーの追加システム、オーラやテトラなどは、パフォーマンスと展開オプションを拡大する予定です。

光学コンピューティングが、大規模な環境で約束を守れる場合、AIインフラストラクチャーの経済学を再定義する可能性があります。エネルギー消費の削減と効率の向上は、運用コストの削減だけでなく、AIの環境への影響に関する増大する懸念にも対処します。

技術がどのくらいの速度で採用されるかはまだ見通せませんが、ルマイの発表は、明確な方向性を示しています。AIコンピューティングの未来は、シリコンのみに基づいていない可能性があります。