パートナーシップ
Supermicro、SambaNovaのAI推論システムを製造・販売へ
Unite.AI を Google の優先ソースに追加
SambaNovaとSupermicroは2026年11月3日に発表し、SupermicroがNVIDIA GPUとSambaNovaのSN50再構成可能データフローユニット（RDU）に処理を分担させるAI推論システムを製造、販売、サポートすると明らかにした。両社は当初、SN50チップ1万個を計画している。
これらのシステムは、SupermicroのData Center Building Block Solutionsポートフォリオに加わる。Supermicroは、オンサイトサービスを含め、システムの統合、テスト、納入、サポートを担う。一方、SambaNovaのエンジニアはSN50上でモデルを稼働させ、調整するとともに、顧客への導入を支援する。この取り組みでは、サーバーの製造・サービス網と、異種アクセラレーターの導入に必要なモデルエンジニアリングを組み合わせる。
推論処理をGPUとRDUに分ける理由
このアーキテクチャでは、推論を2つのフェーズに分ける。プリフィルでは、計算負荷の高い処理として、NVIDIA GPUが入力プロンプトを処理する。SN50 RDUはデコードを担う。デコードはメモリー負荷の高い処理で、1トークンずつ応答を生成する。SambaNovaによると、各フェーズに適したハードウェアを割り当てることで、どちらか一方の種類のハードウェアだけを使う場合よりも、推論を高速かつ効率的に実行できる。
SambaNovaの付随する発表では、エージェント型AIを主なユースケースに据えている。エージェントは大規模言語モデルを数千回呼び出すことがあり、各呼び出しに数分かかる場合もある。また、エージェント型ワークロードは処理時間の大半をデコードに費やす。そのため、トークン生成はエージェントの次の行動を左右する重要な処理となる。こうした背景から、両社はデコードを独立したインフラ課題として捉えている。追加のRDUで応答を高速化する一方、GPUは引き続きプロンプト処理を担う。
SN50の設計を詳しく見る
SN50は、SambaNovaの第5世代RDUだ。公式データシートによると、TSMCの5ナノメートルプロセスを採用し、チップ上に432 MBのSRAM、64 GBのHBM2Eを搭載するほか、第3のメモリー層としてDDR5を備える。このチップはSambaNovaのReconfigurable Dataflow Architectureを採用し、汎用的なアクセラレーター処理ではなく、メモリー負荷の高いデコード向けに設計されている。
SambaNovaの製品ドキュメントでは、この設計により推論の高速化、スループットの向上、エネルギー効率の改善が実現するとしている。処理を連続したデータフローとして連結することで、メモリー転送の繰り返しや、各段階で処理を再起動する際のオーバーヘッドを抑える。各メモリー層にはそれぞれ異なる役割がある。SRAMは頻繁に使うローカルデータを演算装置の近くに保持し、HBM2Eは稼働中のモデルの重みと頻繁に使うKVキャッシュを保持する。DDR5はプロンプトキャッシュ、大規模なモデルプール、使用頻度の低いKVキャッシュに対応する。
SambaNovaによると、SN50は複数のラックにまたがって最大256基のRDUまで拡張でき、対話型エージェント、コーディングアシスタントなど、複数段階の推論を行うワークロード向けに設計されている。複数のモデルを切り替えて使うアプリケーションも対象となる。複数ラックにまたがる設計は、ラック単位での導入を目指す両社の協業計画にも沿う。SupermicroはRDUとGPUをシステムに統合し、検証とサポートを行う。
販売網の展開とデータセンターの制約
顧客はSupermicroを通じて、ほかのAIインフラと同じ販売チャネルで、GPUとともにSN50 RDUを購入できるようになる。まずNeoCloudやソブリンクラウドで展開を始め、その後、自社データセンターでAIを運用する企業へ広げる。この段階的な展開では、まずクラウド事業者に導入し、次にGPUとRDUを組み合わせた同じアーキテクチャを企業の施設にも導入する。
導入にあたっては、電力と冷却が重要な要素となる。両社によると、SN50はラックの電力密度を極端に高めることなく、大規模モデルを高速かつ高スループットで処理できるため、既存のデータセンターにも導入しやすい。この電力特性は、既存施設への後付け導入を目指す両社の計画を支える。RDUは、事業者がすでに運用している施設に処理能力を追加することを想定している。
両社はまた、デコード用のRDUを追加すれば、電力や冷却の制約から新たな施設の建設を待つことなく推論能力を高め、既存GPUの有効利用期間も延ばせるとしている。この提案は、事業者がすでに保有する施設とGPUを活用して処理能力を増やすことを目指すものだ。
SambaNovaとSupermicroは、この協業により、2027年には他の方法では実現できないほど大幅に高い高性能推論能力を提供できると見込んでいる。この計画の意義は、デコード専用ハードウェアとSupermicroの導入網を組み合わせる点にある。電力や冷却の制約に直面する事業者にとっては、計画されているRDUの導入によって、両社が見込む規模の推論能力を既存施設内で実際に追加できるかどうかが、今後の焦点となる。
