AIモデルとプラットフォーム

Lumai、推論の新時代を支える光学AIサーバーを発表

Antoine Tardif
Unite.AI を Google の優先ソースに追加
要点光コンピューティングは、シリコンチップの高まる限界を回避するために、電子を光子に置き換える。
もっと見る
  • 光コンピューティングは、シリコンチップの高まる限界を回避するために、電子を光子に置き換える。
  • Lumaiが推論を狙うのは、現在ではモデルの訓練よりも展開の方がデータセンターに大きな負荷をかけているからだ。
  • Iris Novaは光学部品とデジタル部品を組み合わせることで、既存の施設が作り直すことなく導入できるようにする。

ルマイは、AIインフラの大きな前進と同社が説明する光学計算システムを発表しました。数十億パラメータ規模の大規模言語モデルをリアルタイムで実行できるというものです。この新しいシステム、アイリスノヴァは、従来のシリコンベースの処理から根本的に異なるアプローチ、光を使用したものへの移行を示しています。

この発表は、AI業界がモデル訓練から大規模な展開への移行を急ぐ中、既存のコンピューティングインフラストラクチャーに前例のない圧力がかかっている時期に来ました。

シリコンの制約を超えて

長年、AIの進歩はシリコンチップ、特にGPUの進歩に大きく依存してきました。しかし、このモデルは限界を示し始めています。消費電力は急激に増加し、コストとエネルギー要件を大幅に増やさない限り、パフォーマンスの向上は難しくなっています。

ルマイのアプローチは、電子を光子に置き換えています。計算は電気信号ではなく、光を使用してデータを処理します。これにより、巨大な並列性が可能になり、数百万の操作が平面的なシリコン表面ではなく三次元空間で同時に実行できます。

同社によると、このアーキテクチャは、従来のシステムと比較して、最大90%エネルギー消費を削減しながら、著しく高いスループットを提供できます。

データセンターへの増大する圧力

この発表は、業界全体の課題を反映しています。AIワークロードは急速に拡大し、特に推論で、訓練されたモデルを実世界のアプリケーションで実行する必要があります。

データセンターは、電力の入手可能性によってますます制約を受けています。世界のデータセンターのエネルギー需要は、今の10年間の終わりまでに倍増すると予測されており、運営者は専用の発電や代替エネルギー源などの非従来的な解決策を探すようになっています。

同時に、従来のハードウェアのスケーリングは、効率が低下しています。シリコンの新しい世代は、段階的な改善をもたらしますが、多くの場合、不釣り合いなほど多くのエネルギーと冷却が必要になります。

ルマイは光学コンピューティングを、これらの制約を少しずつ改善するのではなく、全面的に回避する方法として位置付けています。

アイリスノヴァの仕組み

アイリスノヴァシステムは、光学とデジタルコンポーネントを組み合わせたハイブリッドアーキテクチャを使用しています。光学エンジンは、AIモデルを動かす核心的な数学演算を処理し、従来のデジタルシステムはソフトウェアと制御機能を管理します。

この設計により、システムは既存のデータセンター環境に統合できますが、インフラストラクチャーの完全な改修は必要ありません。

システムは特に、「prefill」段階の推論を最適化しています。この段階では、モデルが応答を生成する前に大量の入力データを処理します。システムはこの段階を高速化し、全体のスループットと効率を向上させることを目指しています。

ルマイによると、アイリスノヴァは、Llama 8Bや70Bなどのモデルを実時間で実行でき、実験的なユースケースだけでなく、実稼動レベルのワークロードにも対応できることを示唆しています。

推論時代への移行

この発表は、AIの優先事項のより広い移行を反映しています。ますます大規模なモデルの訓練が注目されてきた一方で、AIの実世界での影響は、効率的にモデルを展開してスケールできるかどうかによって決まってきます。

この移行は、訓練段階では目立たなかったボトルネックを明らかにしています。推論ワークロードは連続的であり、遅延に敏感であり、エネルギーを大量に消費するため、効率が重要な要素となっています。

ルマイのシステムは、特にこの段階に焦点を当てて設計されています。生み出される計算能力だけではなく、1ワットあたりのスループットに重点を置いています。

早期アクセスと業界への影響

アイリスノヴァサーバーは、ハイパースケーラー、企業、研究機関向けに評価用として利用可能になりました。アイリスファミリーの追加システム、オーラやテトラなどは、今後登場し、性能と導入方法の選択肢を広げると見込まれています。

光学コンピューティングが、大規模な環境で約束を守れる場合、AIインフラストラクチャーの経済学を再定義する可能性があります。エネルギー消費の削減と効率の向上は、運用コストの削減だけでなく、AIの環境への影響に関する増大する懸念にも対処します。

技術がどのくらいの速度で採用されるかはまだ見通せませんが、ルマイの発表は、明確な方向性を示しています。AIコンピューティングの未来は、シリコンのみに基づいていない可能性があります。

アントワーヌは、先見の明を持つリーダーであり、Unite.AIの創業パートナーです。AIとロボティクスの未来を形作り、その発展を促すことに揺るぎない情熱を注いでいます。複数の企業を立ち上げてきた起業家として、AIは電気と同じほど社会を大きく変えると考えており、革新的な技術や汎用人工知能(AGI)の可能性について熱く語ることがよくあります。

未来を展望するフューチャリストとして、こうした革新が世界をどのように形作るかを探究しています。また、未来を再定義し、業界全体を変革する最先端技術への投資に焦点を当てたプラットフォーム、Securities.ioの創設者でもあります。