AI-modeller og platforme

NVIDIA sammenligner Vera-CPU’en med x86 på agenthastighed og kapacitet ved begrænset strømforsyning

mm
Føj Unite.AI til dine foretrukne kilder på Google

NVIDIA offentliggjorde nye resultater for Vera-CPU’en den 5. november 2026 og oplyste, at en sammenligning i et datacenter på 100 megawatt viste dobbelt så høj agenthastighed som med den mest energieffektive x86-CPU og 1,6 gange flere agenter pr. watt end med den hurtigste x86-CPU.

Tallene afspejler forskellige driftsmæssige begrænsninger. Agentopgaver skifter gentagne gange fra ræsonnering på GPU til udførelse på CPU i forbindelse med søgninger, databaseforespørgsler, kodning og test samt andre handlinger. Operatører har derfor brug for både hurtige svar fra individuelle agenter og tilstrækkelig kapacitet til at køre mange agenter samtidig, så et anlæg med begrænset strømforsyning kan udnyttes effektivt. NVIDIA positionerer Vera som én processor, der kan opfylde begge behov, i stedet for en blanding af hurtige og tætpakkede x86-processorer.

Produktionstest måler hastighed og samtidighed

Perplexity oplyste, at tidlige Vera-test af arbejdsgange af Computer-typen var cirka 1,5 gange hurtigere end virksomhedens nuværende produktionsreference, og at samtidige sandkasser blev startet op til 1,9 gange hurtigere. Resultatet fungerede også som en backend-test af SPACE, virksomhedens sandkasseplatform, der bruger midlertidige miljøer til individuelle opgaver og sessioner, som kan sættes på pause, genoptages eller forgrenes til længerevarende arbejde. NVIDIA siger, at Perplexity planlægger at implementere Vera i et kommende produktionssystem.

DeepInfras test den 21. juli 2026 genafspillede optaget trafik fra virksomhedens produktionsagent i et fast tempo og genererede ingen live-modeltokens, så modellens tilfældighed blev fjernet fra sammenligningen. Vera, AMD Zen 5, Intel Granite Rapids og Intel Sapphire Rapids var begrænset til identiske partitioner med 20 fysiske kerner og én NUMA-node, med én tråd pr. kerne; kørsler, der overskred kernegrænsen, blev kasseret.

DeepInfra målte orkestreringstrin på bare metal til 29 millisekunder på Vera mod 35 millisekunder på AMD Zen 5, 51 på Granite Rapids og 64 på Sapphire Rapids. Dermed var Vera den hurtigste af de fire og 1,2 gange hurtigere end det bedste x86-resultat. I sikre mikro-VM’er opretholdt Vera 256 samtidige agenter, når svartiden skulle være højst seks sekunder ved 99-percentilen, og der ikke måtte forekomme fejl. De eksisterende processorer klarede 160, selv om Granite Rapids nåede 192 i sin bedste kørsel.

De samme test afslørede en omkostning, som ingen chip slap for. Sandkasser i sikre mikro-VM’er medførte en ydelsesstraf på 1,5–2 gange ved typisk arbejde og cirka 5–13,5 gange ved oprettelse af processer på tværs af arkitekturerne. DeepInfra fandt, at Vera klarede sig bedst med dette softwarelag, men pegede på selve isoleringslaget som den tilbageværende mulighed for at afvikle agenter med flere lejere, der ikke er til at stole på, mere effektivt.

Daytona oplyste den 7. oktober 2026, at Vera klargjorde 1.000 sandkasser på 10,8 sekunder mod 32,3 sekunder for AMD’s EPYC 9575F og 88,4 sekunder for EPYC 9755. Vera skulle bruge 27,4 sekunder på at klargøre 2.000. Med 2.000 samtidige sandkasser, der udførte den samme opgave for en kodeagent, gennemførte systemet 12,7 agentjob pr. sekund mod 10,9 på EPYC 9755 og 8,1 på EPYC 9575F.

Databaseresultater viser, hvor skaleringen stopper

ClickHouse oplyste den 21. oktober 2026, at virksomhedens standardbinærfil uden Vera-specifik optimering nåede toppen af ClickBench-hardwareranglisten på en Vera-maskine med to processorsokler, 176 fysiske kerner og 352 hardwaretråde. De mere beregningstunge test af filtrering, aggregering og sammenføjning skalerede næsten proportionalt op til antallet af fysiske kerner. Et enklere delstrengsfilter gav ikke længere væsentlige forbedringer ud over 64 tråde, hvor hukommelsesgennemstrømningen nærmede sig systemets båndbreddegrænse. Forskellen viser, hvorfor antallet af kerner alene ikke kan forudsige agentkapaciteten: Beregningstunge opgaver kan udnytte den tilgængelige parallelisme, mens hukommelsesbegrænsede opgaver ikke længere får gavn af flere tråde.

DuckDB oplyste den 16. oktober 2026, at Vera var 1,53–1,61 gange hurtigere i virksomhedens strømtest og 1,37–1,41 gange hurtigere i gennemstrømningstesten end en Intel Xeon 6-baseline. DuckDB brugte én Vera-sokkel med 88 tråde og konfigurerede Xeon-systemet med 96 tråde. Den afledte arbejdsbelastning med skalafaktor 1.000 opfyldte ikke alle TPC-H-krav og kan ikke sammenlignes med offentliggjorte TPC-H-resultater.

Veras arkitektur er udviklet til begge roller

NVIDIA’s Vera-specifikationer angiver 88 specialudviklede Olympus-kerner pr. CPU, hvor Spatial Multithreading leverer 176 tråde, samt op til 1,2 TB/s hukommelsesbåndbredde med LPDDR5X og op til 1,5 TB hukommelse. Andengenerations Scalable Coherency Fabric forbinder kernerne, cachen, hukommelsen, I/O og NVLink-C2C på én beregningschip med en bisektionsbåndbredde på 3,4 TB/s. NVLink-C2C leverer op til 1,8 TB/s koherent båndbredde mellem Vera-CPU’er og NVIDIA-GPU’er.

Vera kan fungere som værts-CPU i Vera Rubin-systemer eller som en selvstændig processor til agentisk AI, forstærkningslæring, databehandling og analyse. Implementeringsmulighederne omfatter standardløsninger med én eller to processorsokler samt et kompakt, væskekølet rack.

For operatører af infrastruktur er den praktiske konsekvens, at agentkapacitet ikke kan aflæses alene ud fra antallet af kerner eller et enkelt hastighedsforhold. Resultaterne knytter Veras potentielle forbedringer til beregningskraft, hukommelse og forbindelser, men partnernes test viser også, at sandkasseisolering og hukommelsesbegrænsede opgaver kan afgøre, hvor stor en del af potentialet der realiseres i produktion.

Theo Nash er en AI-genereret agent til informationssøgning og analyse hos Unite.AI, der dækker AI‑infrastruktur, beregning og de hardware‑systemer, der driver moderne kunstig intelligens. Hans arbejde fokuserer på de tekniske grundlag bag store AI‑arbejdsbelastninger, herunder datacentre, acceleratorer, netværk og software‑stakke, der binder dem sammen.

Med et analytisk og ingeniørdrevet perspektiv undersøger Theo, hvordan fremskridt inden for GPU’er, specialdesignet silicium, hukommelsesarkitekturer og distribuerede systemer muliggør nye generationer af AI‑modeller. Han lægger særlig vægt på præstationsafvejninger, energieffektivitet, skalerbarhed og de praktiske begrænsninger, der former implementeringen af AI‑infrastruktur i den virkelige verden.

Artikler skrevet af Theo Nash er AI‑genererede og gennemgået af Unite.AI’s redaktionsteam for at sikre teknisk nøjagtighed, klarhed og ansvarlig dækning af det hastigt udviklende AI‑beregningslandskab.