CoreWeave collega centinaia di GPU Rubin in un unico cluster multi-rack

CoreWeave, il 16 settembre 2026, annunciato l’avvio di multi-rack NVIDIA Vera Rubin NVL72 su CoreWeave Cloud, collocando centinaia di GPU NVIDIA Rubin in un unico cluster scalabile per l’AI agentica. L’azienda ha inoltre introdotto due nuove funzionalità in CoreWeave AI Object Storage: accelerazione di scrittura cross-region e un nuovo livello Archive.

Chen Goldberg, vicepresidente esecutivo di prodotto e ingegneria di CoreWeave, ha dichiarato che CoreWeave è stato il primo provider di cloud AI a convalidare e avviare una Vera Rubin NVL72 e a dimostrare che l’architettura rack-scale può operare come un servizio cloud affidabile e ad alte prestazioni. “Con Vera Rubin multi-rack, stiamo collegando centinaia di GPU Rubin in un unico cluster scalabile”, ha detto Goldberg, aggiungendo che per i clienti che costruiscono AI agentica ciò significa maggiore scala, iterazioni più rapide e maggiore produttività, poiché modelli e agenti apprendono e migliorano continuamente.

Architettura Multi-Rack e Avvio

Un singolo rack Vera Rubin NVL72 accoppia 72 GPU Rubin con 36 CPU Vera, NVIDIA NVLink 6, ConnectX-9 SuperNIC e BlueField-4 DPU. Con Vera Rubin NVL72 multi-rack, CoreWeave unifica rack contenenti centinaia di acceleratori utilizzando la rete Ethernet NVIDIA Spectrum-X in un unico cluster scalabile. CoreWeave ha dichiarato che il sistema offre la capacità di addestrare modelli più grandi, gestire carichi di lavoro di inferenza più impegnativi e eseguire reinforcement learning su larga scala.

Secondo l’azienda, eseguire lavori di addestramento e inferenza su centinaia di GPU Rubin è fondamentale per carichi di lavoro agentici multi-step, che sono sensibili alla latenza di accesso ai dati poiché i ritardi possono accumularsi attraverso chiamate ripetute al modello e all’uso degli strumenti.

CoreWeave ha affermato di attivare più rack come un unico sistema tramite il controllo automatizzato del ciclo di vita dei rack, la validazione a livello di sistema e la scalabilità della rete. CoreWeave Mission Control automatizza l’installazione dei rack mediante il Rack LifeCycle Controller, con attività di configurazione che includono rilevamento hardware, aggiornamenti firmware, validazione, alimentazione e raffreddamento; Racky gestisce il controllo a livello di rack mentre Valvey esegue le operazioni di raffreddamento. Prima che un rack entri in produzione, CoreWeave combina le diagnosi sul campo di NVIDIA con test di carico completi su tutto il rack e confronta ogni risultato, e solo i rack che superano questo criterio come sistema passano alla produzione.

Dal lato rete, ogni GPU Rubin è dotata di due ConnectX-9 SuperNIC, fornendo 1.6 Tb/s di connettività scalabile per GPU attraverso percorsi multiplano e multirail. CoreWeave ha dichiarato che il design supporta circa 128,000 GPU per rail in un tessuto non bloccante, e che la topologia modulare consente di aggiungere rack senza dover ridisegnare il tessuto ad ogni espansione.

Archiviazione Oggetti AI tra Regioni

CoreWeave AI Object Storage avvicina i dati ai carichi di lavoro tramite LOTA (Local Object Transport Accelerator), che applica una cache gestita su ogni nodo CoreWeave Kubernetes Service. CoreWeave ha dichiarato che LOTA offre letture alle velocità NVMe locali, riduce la latenza di 8 volte rispetto alla lettura da un tradizionale cluster di storage e fornisce fino a 7 GB/s di larghezza di banda per GPU, scalando linearmente con la crescita dei cluster.

La nuova accelerazione di scrittura cross-region consente di scrivere i checkpoint localmente all’interno di una regione, con latenza locale, mentre i dati migrano in background verso una seconda regione remota. Poiché l’applicazione vede un unico bucket, non sono necessarie modifiche al codice, e i permessi e le regole di conservazione funzionano allo stesso modo indipendentemente dalla regione di origine della scrittura. CoreWeave ha affermato che la funzionalità minimizza le pause di addestramento e elimina la necessità di copiare o spostare manualmente i dati tra regioni.

La seconda aggiunta, Archive, è un livello di archiviazione a costo inferiore senza costi per il recupero dei dati, senza costi per l’eliminazione anticipata e senza costi per la lettura dal livello. CoreWeave lo descrive come progettato per dati che i team altrimenti cancellerebbero, come un checkpoint di un’esecuzione quasi riuscita, un dataset necessario per riprodurre un risultato o una versione di modello di cui qualcuno potrebbe chiedere tra sei mesi.

“I nostri dataset si estendono su più regioni e non possiamo permetterci che il nostro programma di addestramento sia dettato da ritardi di recupero cross-region”, ha dichiarato Cécile Robert-Michon, direttrice dell’infrastruttura interna presso Cohere. “CoreWeave AI Object Storage ci offre un’impronta dataset unificata tra le regioni con letture cache localmente, così nulla resta in attesa sulla rete.”

Specifiche NVIDIA Vera Rubin NVL72

La pagina del prodotto Vera Rubin NVL72 di NVIDIA descrive il sistema come un supercomputer AI agentico a scala rack basato sul design del rack MGX NVL72 di terza generazione, ora in piena produzione. Le specifiche pubblicate da NVIDIA elencano 20.7 TB di memoria GPU HBM4 con 1,400 TB/s di larghezza di banda, 216 TB/s di larghezza di banda NVLink di sesta generazione e 3,600 PFLOPS di calcolo di inferenza NVFP4 sparso per rack. I 36 CPU Vera del rack forniscono 3,168 core Olympus personalizzati e fino a 54 TB di memoria LPDDR5X.

NVIDIA afferma che Vera Rubin NVL72 addestra modelli mixture-of-experts con un quarto del numero di GPU rispetto al suo GB200 NVL72, e fornisce inferenza a un decimo del costo per milione di token per AI agentica altamente interattiva e di ragionamento profondo, con fino a 10 volte più token per megawatt. Le note a piè di pagina sulla pagina indicano che i valori di inferenza sono soggetti a variazioni e che il confronto di addestramento è una performance prevista.

Nell’annuncio, CoreWeave ha anche evidenziato il suo record di prestazioni, citando risultati record del benchmark MLPerf in inferenza e addestramento e la sua posizione come unico cloud AI a ottenere la classificazione Platinum più alta sia in SemiAnalysis ClusterMAX 1.0 che 2.0. L’azienda ha inoltre citato le classifiche n. 1 per velocità di inferenza e rapporto prezzo‑prestazione per i modelli Kimi K2.6 e Kimi K2.7 Code di Moonshot AI, in benchmark di inferenza indipendenti condotti da Artificial Analysis.