CornelisがCN6000を発表：800GネットワーキングがAIとスーパーコンピューターにもたらすもの

Cornelisは、AIアクセラレーターやスーパーコンピューターがデータを待つ時間を短縮することを目的とした、800ギガビットのネットワーク製品群「CN6000」を発表しました。特に注目されるのは、Omni-Path SuperNICで毎秒最大16億件のメッセージを処理できるという主張です。ただし、その意味を理解するには、ネットワーク性能を示す3つの異なる指標、すなわち帯域幅、メッセージ処理率、レイテンシーを区別する必要があります。

11月12日の発表では、Omni-PathおよびEthernetアダプターと、Omni-Pathスイッチが紹介されました。Cornelisによると、評価用および初期導入向けのハードウェアはすでに提供可能で、パートナー各社のシステムは2027年第1四半期に登場する見込みです。

商業面での狙いは明快です。ネットワークが高価なプロセッサーの処理速度に追いつけば、プロセッサーはより多くの有用な処理を実行できます。別のマシンから結果が届くのを待っている間は、GPUが高速でも分散処理の所要時間はほとんど短縮されません。

800Gと16億件のメッセージが実際に意味すること

AIクラスターとは、接続された複数のコンピューターが連携して動作する構成です。ネットワークは、大量のモデルデータから小さな調整用メッセージまで、あらゆる情報を伝送します。その性能には、いくつかの側面があります。

800Gは、毎秒800ギガビットを意味します。これを8で割ると、公称値で毎秒100ギガバイトとなりますが、プロトコルのオーバーヘッドやその他の実運用上の制約は考慮されていません。これはデータ伝送容量を示すものであり、チャットボットがどれだけ速く文章を生成するかを示すものではありません。

メッセージ処理率は、別のボトルネックを測る指標です。小さな情報を多数送信する場合、それらがリンクの帯域幅を使い切らない場合でも、アダプターは個々の処理を数多く実行する必要があります。CornelisのOmni-Path製品概要では、毎秒16億件というメッセージ処理率は双方向の値とされています。これは集約的な処理能力であり、単一のアプリケーションが毎秒その数の逐次リクエストを完了するという主張ではありません。

次の計算がメッセージの到着を待つ必要がある場合、レイテンシーが重要になります。Cornelis社内で実施した8バイトのIntel MPI ping-pongテストでは、CN6000のレイテンシーは0.95マイクロ秒でした。一方、800GでのNVIDIA InfiniBand XDRは1.2マイクロ秒で、CN6000は約21％低い値でした。MPI（Message Passing Interface、メッセージ・パッシング・インターフェース）は、並列科学計算プログラムが通信するための標準的な方式です。

このテストで測定されるのは、特定の小規模なメッセージ交換です。学習処理、シミュレーション、推論サービスが21％速く完了することを示すものではありません。結果は、アプリケーションの通信頻度、転送データのサイズ、ネットワークの混雑状況、その他システムの要素によって異なります。

SuperNIC、スイッチ、ファブリックを解説

ネットワークインターフェースカード（NIC）は、サーバーをネットワークに接続します。「SuperNIC」は、Cornelisが高性能な専用アダプターに用いる製品用語です。スイッチはサーバーの接続をまとめ、それらの間でデータを転送します。アダプター、スイッチ、リンク、通信ソフトウェアを組み合わせた構成全体は、一般にファブリックと呼ばれます。

クラスターを購入する際には、この違いが重要です。高性能なアダプターを設置しても、その通信が経由するすべてのスイッチ、ケーブル、ソフトウェア経路が自動的にアップグレードされるわけではありません。

CN6000では、2種類のファブリックを選択できます。Omni-Pathは、並列コンピューティング向けにCornelisが専用設計した相互接続技術です。Ethernetは、データセンターの運用担当者になじみのある、広く使われているネットワーク基盤です。Ethernetアダプターは、既存のEthernetスイッチング設備との互換性を保ちながら、高性能な通信を求める顧客を対象としています。ベンチマーク比較に使われたInfiniBandも、コンピューティング向けの別の専用ファブリックです。InfiniBandのスイッチは、Omni-Pathのスイッチと互換性がありません。

したがって、CN6000プラットフォームが示すのは、さまざまなコンポーネントと導入方法からなる製品群であり、どのようなネットワーク機器の組み合わせでも同じ結果が得られるという保証ではありません。

RoCEがプロセッサーの負荷を抑えてデータを転送する仕組み

Ethernet SuperNICは、RoCEv2（Remote Direct Memory Access over Converged Ethernet version two）を実装しています。その基盤となるRDMAでは、ネットワークハードウェアが、従来のネットワーク経路を通じてホストCPUにすべてのペイロードをコピーさせることなく、異なるマシン上の許可されたメモリー領域間でデータを移動できます。

許可された2つの場所の間で直接データを届けるように手配し、仲介役に内容を何度も受信・コピーさせない方法だと考えてください。通信の確立と管理には、引き続きCPUの処理が必要です。この方式の利点は、データ移動そのものにCPUが関与する度合いを減らせることです。

NVIDIAのRoCEに関するドキュメントでは、バージョン2はIPヘッダーとUDPヘッダーを使ってRDMAトラフィックを伝送するため、ルーティングされたIPネットワークを通過できると説明されています。効率的な導入には、イーサネットコネクターの有無だけでなく、ネットワーク構成や輻輳時の挙動も影響します。

Cornelisのイーサネット製品概要では、ハードウェアオフロード、多数の操作を同時に実行する機能、優先度フロー制御について説明しています。このフロー制御の仕組みでは、パケット損失を防ぐため、特定のトラフィッククラスを一時停止できます。発表によると、Ultra Ethernetへの対応はソフトウェア更新で提供される予定です。購入者は、この今後予定されている機能と、初期提供時のRoCEv2を区別する必要があります。

AI推論で作業メモリーの移動が必要な理由

AI推論とは、学習済みモデルを使って回答を生成するプロセスです。言語モデルの場合、プロンプトを処理するプリフィルと、トークンを1つずつ生成して応答を作るデコードが含まれます。

一部のサービングシステムでは、これらの段階を別々のプロセッサー群で実行し、それぞれの役割に応じて各群の規模を調整します。これは分離型推論と呼ばれます。処理を分けることで、引き継ぎが発生します。プロンプトの読み取り中に計算された情報を、回答を生成するプロセッサーに渡さなければなりません。

その情報にはキー・バリューキャッシュ（通常、KVキャッシュと略されます）が含まれます。これは中間的なアテンションデータを保存し、モデルが以前の処理を再利用できるようにするものです。モデルの重み全体ではなく、単に保存されたテキストの記録でもありません。

NVIDIAのDynamoに関するドキュメントでは、プロンプトを処理し、そのKVキャッシュを転送した後、デコードワーカーでトークンを生成するという手順が説明されています。転送が高速になれば、処理を分けることがより現実的になります。ただし、キャッシュの移動自体にも追加の処理が必要です。そのため、スケジューリングとハードウェアによる利点が引き継ぎのコストを上回る場合に、分離型推論が有効になります。

リンクが混雑してもトラフィックを流し続ける

Omni-Pathでは、CN6000はクレジットベースのフロー制御を採用しています。送信側は、受信側で利用できる容量に応じてデータを送信します。アダプティブルーティングは利用可能な経路にトラフィックを分散でき、複数のネットワークプレーンによってファブリック内に独立した経路が確保されます。

Omni-Pathの概要資料によると、独立した400Gのデータ経路を2つ備え、合計で800Gの帯域幅を提供します。一方のプレーンの保守が必要になった場合でも、もう一方は引き続き利用できます。ただし、ネットワークの一部を失っても、当初の全容量が維持されるわけではありません。

このプラットフォームには、ハードウェアの信頼の起点、セキュアブート、デバイス認証も含まれます。これらの機能は、ファームウェアとデバイスの識別情報が信頼できるものであることを確認するのに役立ちます。耐量子計算機暗号のデジタル署名を採用しているのは、認証と完全性のためです。ネットワーク上のすべてのペイロードが暗号化されるという包括的な主張と解釈すべきではありません。

導入を検討する際はピーク速度だけでは判断できない

CN6000は、Cornelisがこれまで取り組んできたスケールアウトネットワーキングの延長線上にあり、科学計算分野におけるAMDとの協業拡大もその一環です。高性能インターコネクトと、より幅広いプロセッサーやネットワーク環境の選択肢を組み合わせている点が魅力です。

購入者にとって有用な比較基準は、自社のワークロードを完了するのに必要な時間とコストです。小規模な更新を繰り返しやり取りするシミュレーションでは、レイテンシーの低下やメッセージレートの向上が役立つ可能性があります。大容量のキャッシュを移動するサービスでは、持続的な転送速度や輻輳のほうが重要になることがあります。どちらの場合も、適切なファブリック、正常に機能するソフトウェアサポート、認定済みのサーバー構成が必要です。

CN6000の発表により、こうしたシステムを構築するための選択肢がまた1つ加わりました。ピーク性能の数値は、検証する価値のある能力を示しています。実用面での利点は、実際のアプリケーションを実行する間、より多くの計算リソースを有効に稼働させられることです。