NVIDIA zet de Vera-CPU tegenover x86 op het gebied van agentsnelheid en capaciteit per watt

NVIDIA maakte nieuwe resultaten bekend voor de Vera-CPU op 5 november 2026. Volgens het bedrijf liet een vergelijking in een datacenter van 100 megawatt zien dat agents 2 keer sneller waren dan op de meest energiezuinige x86-CPU en dat er 1,6 keer zoveel agents per watt draaiden als op de snelste x86-CPU.

Die cijfers hebben betrekking op verschillende operationele beperkingen. Agenttaken schakelen herhaaldelijk over van redeneren op de GPU naar uitvoering op de CPU, bijvoorbeeld voor zoekopdrachten, databasequery’s, het schrijven en testen van code en andere handelingen. Beheerders hebben daarom zowel responsieve afzonderlijke agents nodig als voldoende capaciteit om gelijktijdig agents te draaien en een stroombeperkte faciliteit productief te houden. NVIDIA positioneert Vera als één processor voor beide behoeften, in plaats van een combinatie van snelle en compacte x86-processors.

Productietests meten snelheid en gelijktijdige capaciteit

Perplexity meldde dat vroege tests met Vera workflows in Computer-stijl ongeveer 1,5 keer sneller uitvoerden dan de huidige productiereferentie van het bedrijf en gelijktijdige sandboxomgevingen tot 1,9 keer sneller opstartten. Het resultaat diende ook als backendtest voor SPACE, het sandboxplatform van Perplexity. Dat platform gebruikt wegwerpomgevingen voor afzonderlijke taken en sessies, waarin langer werk kan worden gepauzeerd, hervat of vertakt. NVIDIA zegt dat Perplexity van plan is Vera in een aankomend productiesysteem in te zetten.

Bij de tests van 21 juli 2026 speelde DeepInfra vastgelegde verkeersgegevens van zijn productieagent in een vast tempo opnieuw af en werden er geen tokens van een live model gegenereerd, zodat de willekeurigheid van modellen geen rol speelde in de vergelijking. Vera, AMD Zen 5, Intel Granite Rapids en Intel Sapphire Rapids waren beperkt tot identieke partities met 20 fysieke cores, één NUMA-node en één thread per core. Runs die de limiet voor het aantal cores overschreden, werden buiten beschouwing gelaten.

DeepInfra mat voor orkestratiestappen op bare metal 29 milliseconden op Vera, tegenover 35 milliseconden op AMD Zen 5, 51 op Granite Rapids en 64 op Sapphire Rapids. Daarmee was Vera de snelste van de vier en 1,2 keer sneller dan het beste x86-resultaat. In beveiligde micro-VM’s hield Vera 256 gelijktijdige agents draaiende, met een responstijdlimiet van zes seconden op het 99e percentiel en de eis dat er geen fouten optraden. De bestaande systemen hielden 160 agents draaiende, hoewel Granite Rapids tijdens zijn beste run 192 haalde.

Dezelfde tests brachten een kostenpost aan het licht die geen enkele chip wist te vermijden. Het gebruik van beveiligde micro-VM’s als sandbox voegde bij gangbare werkzaamheden een vertraging van 1,5–2 keer toe en bij het starten van processen ongeveer 5–13,5 keer, ongeacht de architectuur. DeepInfra stelde vast dat Vera met deze softwarestack het beste presteerde, maar wees de isolatielaag zelf aan als de resterende mogelijkheid om niet-vertrouwde agents met meerdere tenants efficiënter te hosten.

Daytona meldde op 7 oktober 2026 dat Vera 1.000 sandboxomgevingen in 10,8 seconden klaarzette, tegenover 32,3 seconden voor AMD’s EPYC 9575F en 88,4 seconden voor de EPYC 9755. Voor 2.000 sandboxomgevingen had Vera 27,4 seconden nodig. Met 2.000 gelijktijdige sandboxomgevingen die dezelfde taak voor een codeeragent uitvoerden, voltooide het systeem 12,7 agenttaken per seconde, tegenover 10,9 op de EPYC 9755 en 8,1 op de EPYC 9575F.

Databaseresultaten laten zien waar de schaalbaarheid ophoudt

ClickHouse meldde op 21 oktober 2026 dat de standaardbinaire versie, zonder specifieke optimalisaties voor Vera, de toppositie behaalde op het hardwareklassement van ClickBench op een Vera-systeem met twee sockets, 176 fysieke cores en 352 hardwarethreads. De rekenintensievere tests voor filteren, aggregatie en joins schaalden bijna evenredig met het aantal fysieke cores. Een eenvoudiger filter op deelreeksen leverde na 64 threads nauwelijks nog winst op, toen de geheugendoorvoer de bandbreedtelimiet van het systeem naderde. Dit verschil laat zien waarom het aantal cores alleen geen betrouwbare voorspelling is van de capaciteit voor agents: rekenintensief werk kan de beschikbare parallelle verwerkingscapaciteit benutten, terwijl geheugenbegrensd werk geen voordeel meer heeft van extra threads.

DuckDB meldde op 16 oktober 2026 dat Vera in de vermogenstest 1,53–1,61 keer sneller was en in de doorvoertest 1,37–1,41 keer sneller dan een Intel Xeon 6-basissysteem. DuckDB gebruikte één Vera-socket met 88 threads en configureerde het Xeon-systeem met 96 threads. De afgeleide workload met schaalfactor 1.000 voldeed niet aan alle TPC-H-vereisten en is niet vergelijkbaar met gepubliceerde TPC-H-resultaten.

De architectuur van Vera is ontworpen voor beide functies

Volgens de specificaties van Vera van NVIDIA heeft elke CPU 88 aangepaste Olympus-cores, met Spatial Multithreading voor 176 threads, en maximaal 1,2 TB/s aan LPDDR5X-geheugenbandbreedte en maximaal 1,5 TB geheugen. De Scalable Coherency Fabric van de tweede generatie verbindt de cores, cache, het geheugen, de I/O en NVLink-C2C op één rekendie met een bisectiebandbreedte van 3,4 TB/s. NVLink-C2C biedt maximaal 1,8 TB/s aan coherente bandbreedte tussen Vera-CPU’s en NVIDIA-GPU’s.

Vera kan in Vera Rubin-systemen als host-CPU functioneren of als zelfstandige processor worden ingezet voor agentische AI, versterkend leren, gegevensverwerking en analytics. De inzetmogelijkheden omvatten standaard systemen met één of twee sockets en een dicht, vloeistofgekoeld rack.

Voor beheerders van infrastructuur betekent dit in de praktijk dat de capaciteit voor agents niet alleen kan worden afgeleid uit het aantal cores of één enkele snelheidsverhouding. De resultaten wijzen erop dat de mogelijke winst met Vera afhangt van rekenkracht, geheugen en connectiviteit. De tests van partners laten echter ook zien dat sandboxisolatie en geheugenbegrensde workloads kunnen bepalen hoeveel van dat potentieel in productie behouden blijft.