Modal、サンドボックス向けにNVIDIA Veraを展開する計画、初のArm採用へ

Modalは2026年10月19日付の企業ブログ記事で、Modal Sandboxesを稼働させるため、NVIDIAのArmベースCPU「Vera」のサポートを導入する計画を明らかにした。同社が公開したベンチマーク結果では、負荷がかかった状態で、同等のx86マシンと比べてタスク処理量が最大2倍に達した。Modalにとって、全機材をx86で構成してきた体制からの初の転換となる。

Modalによると、発表の前週、NVIDIAはVera CPUを搭載した最初のサーバーをModalのサンフランシスコオフィスに直接届けた。VeraはNVIDIAのArm互換プロセッサで、Vera Rubin GPUプラットフォーム向けに開発された一方、単体のCPUサーバーとしても提供されている。Armを機材に導入するには、Modalのインフラ全体とイメージのビルドシステムに変更を加える必要がある。同社は、長年にわたってx86マシンのみを運用してきた後の大きな変化だと説明した。

マルチテナント環境のノイズとバースト対応力

Sandbox製品をオーケストレーションするには、各クラウドホスト上で数百のコンテナと仮想マシンを同時に稼働させる必要があり、その結果生じるマルチテナントクラスターにはノイズが多いとModalは述べた。リソース使用量は極端に変動する場合がある。サンドボックスは言語モデルの応答を待つ間、ほとんどアイドル状態になる一方、npmのインストールや負荷の高いgrepコマンドによって、CPU使用率が通常の10倍に跳ね上がることもある。各ワークロードの特性が判明するのは実行時であるため、必要なリソースの見積もりはしばしば推測に頼る。また、特性の異なるテナントを単一のコンピューティングプールに詰め込むことで、ある顧客の利用状況が別の顧客のパフォーマンスを低下させる「うるさい隣人」問題が生じる。

最大使用量に合わせた固定の予約を必須とするのではなく、Modal Sandboxesはバーストに対応している。これにより、ユーザーはP50の使用量に対して保証された容量を予約し、ホストノード内の余裕分で一時的な急増を吸収できる。Modalによれば、この方式によってユーザーは数百万ドルを節約してきた。一方で、厳格な制限を設ければ回避できる「うるさい隣人」の影響を受けやすくなることも認めている。

Modalは、Sandboxの代表的な用途として、バックグラウンドエージェントと強化学習のロールアウトの2つを挙げた。前者の例として、Ramp InspectやNiteshift上で稼働するエージェントを紹介した。同社によると、ほとんどのトレーニング環境は依然として同期型であり、アイドル状態のGPUが次のステップに進むには、CPU負荷の高いロールアウトを並行して実行する一群がすべて完了しなければならない。そのため、CPUで短縮した時間はGPUでも短縮される。バックグラウンドエージェントについては、実行が速くなれば回答も速くなり、CPU時間も短縮され、売上原価の低下につながると同社は述べた。

エージェントレス・エージェントベンチマーク

Veraの性能を測定するため、Modalはエージェントレス・エージェントベンチマークを構築して公開した。これは、ネットワーク呼び出しをすべて取り除いたTerminal-Benchのオラクル解と検証器を50組集め、Dockerコンテナを同時に起動する前にウォームアップしたものだ。Modalによると、エージェント型のベンチマークを構築するのは難しい。サンドボックスサーバーで行われる作業の大半はCPU負荷が高くないためだ。そこで同社は、エージェントや強化学習プロセスが実際にCPU上で行うタスクを集め、同時実行される多様な構成にした。タスクには、コンパイル、ファイル内の文字列検索、git操作、デバイスエミュレーションが含まれる。公開リポジトリによると、このベンチマークはterminal-bench-2.1のタスクデータセットを基に構築され、Arm互換となるようDockerfileが移植されている。また、タスク検証器に合格した場合に限り、実行完了として数えられる。

負荷のかかっていないマシンで逐次テストを行い、タスクごとの単純な処理時間を測定したところ、VeraはIntel GNR、AMD Zen 5、AWS Graviton 4および5など、テスト対象の他のプロセッサより速い場合が多かった。ただし、常に速かったわけではなく、差も特に大きいものではなかった。記事の著者は、当初、結果を疑っていたと述べている。

Modalによると、負荷をかけた状態では結果に差が現れた。スループットテストでは、マシン上で同時に稼働させるコンテナの数を増やし、一定時間内に検証済みタスクをできるだけ多く完了させる。初期のベンチマークでは、Veraは同等のx86 GNRマシンと比べて、タスク処理量が最大2倍に達した。一方、個々のタスクの処理時間は、x86と同等かそれより短かったという。多くのシステムでは、搭載密度が高まってCPUが飽和するにつれて、スループットと処理時間はトレードオフの関係になる。しかしModalによれば、Veraはジョブが増えても速度が落ちず、当初のペースでタスクを完了し続けた。

Modalによると、論理CPU数が増えるにつれてVeraの性能は向上し続けた一方、テスト対象となった他のプロセッサは早い段階でスループットの伸びが頭打ちになった。テストしたマシンの物理コア数は、Intel GNRが128、GravitonとGNR仮想マシンが96、Veraが88だった。他のプロセッサは早期に頭打ちになったため、Modalは、利用できたベンチマーク用ノード1台での結果から、Veraの性能をさらに引き出せる可能性があると述べた。

同社は、競合状態でVeraが優位に立つ理由として、メモリー帯域幅の広さを挙げている。これにより、CPUのスロットリングを起こさずに、各コアに大幅に多くのコンテナワークロードを集約できるという。Modalのスケジューラーにとっては、搭載密度を高め、バースト時の保護に余裕を持たせられることを意味する。Sandboxのユーザーにとっては、処理時間を犠牲にせず、絶対的な規模とスループットを高められると同社は述べた。

Veraの設計と生産状況

NVIDIAは、GTCカンファレンスで2026年3月16日にVeraを発表し、エージェント型AIと強化学習に特化して設計されたプロセッサーと説明した。このチップには、NVIDIAが独自に設計したOlympusコアが88基搭載されており、それぞれがNVIDIAの「Spatial Multithreading」と呼ぶ機能によって2つのタスクを実行できる。また、LPDDR5Xを採用した第2世代の低消費電力メモリーサブシステムを備え、最大1.2 TB/sの帯域幅を実現する。NVIDIAによると、Veraは従来のCPUより2倍の効率で、50%高速に処理結果を出す。

発表に際してNVIDIAは、液冷式CPUを256基搭載したVera CPUラックも披露した。同社によると、このラックは同時に22,500を超えるCPU環境を維持でき、それぞれが独立して最大性能で動作する。NVIDIAはVeraが本格生産に入っており、2026年後半にパートナー各社への提供を開始すると述べた。また、同CPUの導入を計画しているクラウドプロバイダーとして、Alibaba Cloud、ByteDance、CoreWeave、Lambda、Nebius、Nscale、Oracle Cloud Infrastructureを挙げた。

Modalは、展開が進むのに合わせてVeraの導入規模を拡大するため、NVIDIAやクラウドプロバイダーと緊密に連携していく意向を示した。