CoreWeave skal køre NVIDIA Vera CPU på bare metal i rack‑skala

CoreWeave meddelte den 30. september 2026, at de vil udvide deres compute‑portefølje med NVIDIA Vera CPU, som de beskrev som den første CPU designet til AI‑agenter, og vil køre processoren på bare metal i rack‑skala for agentisk AI og forstærkningslærings‑arbejdsbelastninger.

Nyheden blev delt på Fully Connected, CoreWeaves AI‑cloud‑konference i San Francisco, som virksomheden siger samler mere end 4.500 kunder, partnere, udviklere og AI‑ledere. Fully Connected 2026 afholdes 29. september til 1. oktober 2026 i Moscone South, 747 Howard Street.

CPU‑arbejdet bag agentisk AI

CoreWeave beskrev agentisk AI som at operere gennem en kontinuerlig løkke af kør, observer, kurér, forbedr og evaluer. Inden for den løkke håndterer GPU’er modeltræning og ræsonnement, mens CPU’er udfører arbejdet omkring hvert trin: isolerede sandkasser, forstærkningslærings‑miljøer, værktøjskald, kodeeksekvering og datapipelines.

CoreWeave kaldte efterspørgslen efter datapreprocesserings‑pipelines og forstærkningslærings‑trænings‑episoder for bursty og svær at forudsige: et enkelt trin i løkken kan kræve tusindvis af miljøer i en time, og derefter næsten ingen indtil næste kørsel. Efterhånden som efter‑trænings‑ og agent‑arbejdsbelastninger vokser, sagde virksomheden, at dette CPU‑intensive arbejde i stigende grad sætter tempoet for AI‑løkken, og at infrastrukturen både har brug for den nødvendige tæthed og fleksibilitet til at skalere efter efterspørgslen.

Virksomheden sagde, at Vera CPU kører på samme måde som resten af deres flåde på CoreWeave: bare metal, under den samme platform, forbrugsmodeller og økonomi.

Rack‑skala implementering og CoreWeave Sandboxes

CoreWeave sagde, at et kritisk præstationsmål for agentisk AI er antallet af isolerede agent‑miljøer, et team kan køre samtidigt, samt om per‑sandbox‑præstationen forbliver konsistent, efterhånden som dette tal stiger. Deres rack‑skala Vera‑implementering passer 128 CPU’er og 11.264 kerner i et enkelt rack, med BlueField‑4 DPU’er og Spectrum‑X Ethernet‑switching, der forbinder Vera‑noderne; virksomheden sagde, at dette giver kapacitet til mere end 11.000 samtidige miljøer.

CoreWeave sagde, at deres Sandboxes‑produkt implementerer disse agenter med fuld hardware‑isolering, placeret direkte ved siden af de træningsjobs, de understøtter. I deres test rapporterede virksomheden, at opstartstider for agent‑sandkasser på NVIDIA Vera CPU var mere end 3‑gange hurtigere end på en x86‑CPU.

“Generelt anvendelig infrastruktur er flaskehals for agentisk AI; Vera er den første CPU, der er udtrykkeligt designet til at accelerere den,” Chen Goldberg, eksekutiv vicepræsident for produkt og engineering hos CoreWeave, sagde i firmaets meddelelse. Goldberg sagde, at CoreWeave’s platform understøtter Vera naturligt gennem produkter som CoreWeave Sandboxes, hvilket gør det muligt for teams straks at oprette tusindvis af isolerede miljøer uden ekstra operationel friktion.

Ryan Shrout, president og general manager hos Signal65, sagde, at en voksende andel af hver agent‑cyklus er CPU‑arbejde, og at andelen kun vil stige, efterhånden som efter‑trænings‑ og agent‑implementeringer skalerer. Han sagde, at den omkringliggende platform bestemmer, om teams faktisk kan udnytte den kapacitet, og at forskellen i drift skyldes at køre CPU‑arbejdet på bare metal ved siden af træningsflåden under den allerede eksisterende orkestrering.

CoreWeave introducerede CoreWeave Sandboxes den 14. maj 2026 som et eksekveringslag, der leverer sikre, isolerede miljøer, hvor AI‑forskere og platform‑teams kører forstærkningslæring, agent‑værktøjsbrug og model‑evaluering. Det er tilgængeligt på en kundes egen CoreWeave‑infrastruktur via CoreWeave Kubernetes Service eller som en serverløs runtime via Weights & Biases, med et Python‑SDK der inkluderer sessionsstyring, lagringsintegration og overvågningsværktøjer. CoreWeave angiver, at som standard opererer hver sandkasse i et fuldt isoleret virtuelt miljø for sig, så en fejl eller en løbsk proces i én ikke kan sprede sig til en anden.

CoreWeave pegede også på sine MLPerf‑benchmarkresultater inden for inferens og træning samt sin position som den eneste AI‑cloud, der tre gange i træk har opnået den højeste Platinum‑rangering i SemiAnalysis ClusterMAX.

NVIDIA Vera CPU-specifikationer

NVIDIA’s Vera CPU-produktside beskriver processoren som bygget til CPU‑arbejdet bag agentisk AI og forstærkningslæring: kodeeksekvering, værktøjsbrug, sandboxing, analyse, datapipelines og orkestrering ud over modellen. Ifølge NVIDIA har Vera 88 specialtilpassede Olympus‑kerner, og dens Spatial Multithreading skaber 176 tråde med partitionerede kerneressourcer.

Hukommelsesbåndbredden når op til 1,2 terabyte per sekund på LPDDR5X, med op til 1,5 TB hukommelseskapacitet, oplyser NVIDIA. Et anden‑generations NVIDIA Scalable Coherency Fabric forbinder alle 88 kerner, cache, hukommelse, IO og NVLink‑C2C på en enkelt compute‑die med 3,4 TB/s bisectional båndbredde, og NVLink‑C2C leverer op til 1,8 TB/s koherent båndbredde mellem Vera‑CPU’er og NVIDIA‑GPU’er, ifølge virksomheden.

NVIDIA siger, at Vera kører kompilering, kodeanalyse og Python‑værktøjskæde‑arbejdsbelastninger i en agents ræsonnementsløkke op til 1,8 gange hurtigere end førende x86‑CPU’er, og at dens LPDDR5X‑hukommelsessubsystem leverer 2 gange båndbredde og 3 gange båndbredde pr. kerne i forhold til førende x86‑CPU’er med DDR5. Produktsiden bemærker, at disse relative præstationsmålinger er baseret på målte data, benchmarket mod den seneste generation af x86‑CPU’er, og kan ændre sig.

NVIDIA positionerer Vera både som en vært‑CPU til accelererede systemer, herunder Vera Rubin NVL72 og HGX Vera Rubin NVL8‑platforme, samt som en selvstændig CPU til agentisk AI, forstærkningslæring, databehandling og analyse. Vera CPU Rack, bygget på NVIDIA MGX, indeholder op til 256 Vera‑CPU’er og kører mere end 22,5 k samtidige miljøer, ifølge virksomheden. Vera Rubin NVL72 kombinerer 72 Rubin‑GPU’er, 36 Vera‑CPU’er, ConnectX‑9 SuperNIC’er og BlueField‑4 DPU’er i én rack‑skala platform.