Lumai、光AIサーバーを発表し、次世代の推論を加速する

Lumaiは、発表したとおり、AIインフラストラクチャーにおける大きな進歩であると説明している光コンピューティングシステムは、リアルタイムで10億パラメータの大規模言語モデルを実行できる。この新しいシステム、Iris Novaは、従来のシリコンベースの処理から根本的に異なるアプローチである光を基盤としたアプローチへの移行を示唆している。

この発表は、AI業界が急速にモデルトレーニングから大規模なデプロイメントへの移行を図っている時期に来ている。既存のコンピューティングインフラストラクチャーに前例のない負担がかかっている。

シリコンの制約を超える

長年、AIの進歩はシリコンチップ、特にGPUの進歩に大きく依存してきた。しかし、このモデルは限界を示し始めている。消費電力は急激に増加し、コストとエネルギー要件を大幅に増やすことなく、パフォーマンスの向上を達成することは困難になっている。

Lumaiのアプローチは、電子を光子に置き換える。計算を電気信号で行うのではなく、システムはデータを処理するために光を使用する。これにより、巨大な並列性が可能になり、数百万の操作が3次元空間で同時に実行されることができる。

会社によると、このアーキテクチャは、従来のシステムと比較して最大90%のエネルギー消費量を削減しながら、実質的に高いスループットを提供できる。

データセンターへの圧力の増大

このローンチのタイミングは、業界全体の課題を反映している。特に推論におけるAIワークロードが急速に拡大している。推論とは、トレーニングされたモデルをリアルワールドアプリケーションで実行することを指す。

データセンターは、電力の入手可能性によってますます制約されるようになっている。世界的なデータセンターのエネルギー需要は、10年末までに倍増することが予想されており、運営者は専用の発電や代替エネルギー源などの非伝統的な解決策を探るようになっている。

同時に、従来のハードウェアのスケーリングは、効率が低下している。シリコンの各新世代は漸進的な改善をもたらすが、通常、エネルギーと冷却の要件を不釣り合いなほど増やす必要がある。

Lumaiは、光コンピューティングをこれらの制限を完全に回避する方法として、漸進的に改善するのではなく、位置付けている。

Iris Novaの仕組み

Iris Novaシステムは、光学とデジタルコンポーネントを組み合わせたハイブリッドアーキテクチャを使用する。光エンジンは、AIモデルを動かす核となる数学演算を処理し、従来のデジタルシステムはソフトウェアと制御機能を管理する。

この設計により、システムはインフラストラクチャーの完全なオーバーホールを必要とせずに、既存のデータセンター環境に統合できる。

システムが特に最適化されているのは、「prefill」段階の推論で、モデルが大量の入力データを処理してから応答を生成する段階である。この段階を高速化することで、システムは全体的なスループットと効率を向上させることを目指している。

Lumaiによると、Iris Novaは、Llama 8Bや70Bなどのモデルをリアルタイムで実行できるため、実験的なユースケースだけでなく、実稼動スケールのワークロードにも対応できることを示唆している。

推論時代への移行

このローンチは、AIの優先順位のより広範なシフトを反映している。モデルをトレーニングすることがこれまでの主な焦点であったが、AIのリアルワールドでの影響は、モデルをどのくらい効率的にデプロイしてスケールできるかによって定義されるようになっている。

このシフトは、トレーニング段階ではあまり目立たなかったボトルネックを明らかにしている。推論ワークロードは連続的であり、遅延に敏感であり、エネルギーを大量に消費するため、効率が重要な要素となっている。

Lumaiのシステムは、特にこの段階に焦点を当てて設計されており、生のコンピューティングパワーだけでなく、1ワットあたりのスループットに重点を置いている。

早期アクセスと業界への影響

Iris Novaサーバーは、ハイパースケーラー、エンタープライズ、研究機関向けに評価用として利用可能になっている。Irisファミリーの追加システム、例えばAuraやTetraは、パフォーマンスと展開オプションを拡大する予定である。

光コンピューティングが大規模な環境で約束を守ることができれば、AIインフラストラクチャーの経済を再定義する可能性がある。エネルギー消費量の削減と効率の向上は、運用コストの削減だけでなく、AIの環境への影響に関する増大する懸念にも対処することになる。

この技術がどのくらいのスピードで採用されるかはまだ見通せないが、Lumaiの発表は、明確な方向性を示唆している。AIコンピューティングの将来は、シリコンだけに基づいていない可能性がある。