AMD lanserer Zen 6 EPYC-prosessorer for tettere distribusjoner av KI-agenter

AMD kunngjorde at sjette generasjon EPYC SP7-serverprosessorer ble allment tilgjengelige 10. november 2026. Systemer sendes fra serverleverandører, og instanser hos Microsoft Azure og Oracle Cloud Infrastructure ventes snart. Zen 6-serien med 10 modeller er rettet mot kjøring av KI-agenter, GPU-vertsnoder og bedriftsapplikasjoner.

Kunngjøringen handler først og fremst om CPU-arbeidet rundt KI-modeller. Én agentbasert arbeidsflyt kan koordinere agenter, kalle opp modeller, hente informasjon, kjøre kode og koble seg til eksisterende bedriftsdatabaser og applikasjoner. AMD deler den resulterende infrastrukturen inn i tjenester for generell bruk, GPU-vertsnoder og sandkasser for agenter. Prosessorfrekvens, tetthet, båndbredde og effektivitet varierer etter oppgave, samtidig som et felles x86-grunnlag for programvare, sikkerhet og drift beholdes.

Frekvens og tetthet på tvers av SP7-serien

EPYC 9006 SP7-serien spenner fra 64 til 256 kjerner og fra 128 til 512 tråder. Samtidig flertråding gjør at hver kjerne kan kjøre to tråder, mens Zen 6- og Zen 6c-kjernene balanserer ytelse ved høy frekvens for KI-vertsnoder mot høyere tetthet for parallell kjøring av agenter. Plattformen støtter også PCIe Gen 6.

I øvre ende av serien har EPYC 9996 og 9956 hver 1 024 MB L3-hurtigminne. EPYC 9996 har en grunnfrekvens på 2,55 GHz, kan øke frekvensen til 4,1 GHz og har en standard prosessoreffekt på 600 W, som kan konfigureres fra 400 W til 600 W. Standard prosessoreffekt måler forbruket på tvers av prosessorens beregnings- og I/O-brikker ved et angitt ytelsesmål. EPYC 9686F og 9586F prioriterer i stedet frekvens, med grunnfrekvenser på 4,05 GHz og økningsfrekvenser på opptil 5,3 GHz.

Prosessorene brukes ikke bare i enkeltstående servere, men også i AMDs Helion-rackløsninger, som ble introdusert i oktober 2026. Helion Liquid er beregnet på storskala distribusjoner, Helion Air er rettet mot eksisterende luftkjølte datasentre, og Helion Air Inference kombinerer CPU-kjøring med lokal GPU-inferens. AMD opplyser at enkelte Helion-konfigurasjoner når 73 728 tråder i ett rack.

Ytelsesestimater og effektgrenser

For GPU-vertsnoder oppgir AMD opptil 1,8 ganger høyere utdata gjennomstrømning for store språkmodeller enn med forrige generasjons EPYC-prosessorer, i en sammenligning der modellvekter avlastes til CPU-en. Tallet bygger på målinger over en PCIe Gen 5-vertsforbindelse, beregnet ut fra Gen 6-båndbredde. Testingen viste at det var PCIe-forbindelsen, ikke vertsminnet, som begrenset gjennomstrømningen i denne arbeidsbelastningen.

For sandkasser for agenter anslår AMD omtrent 3,3 ganger så mange agenter per CPU-watt som med Nvidia Vera og 2,5 ganger så mange som med Intel Xeon 6980P. I stedet for å telle agenter i en faktisk distribusjon omregner sammenligningen tilgjengelige CPU-tråder til en anslått kapasitet under en felles teoretisk arbeidsbelastning. Den faktiske kapasiteten og gjennomstrømningen avhenger av arbeidsbelastningen, modellen, minnet, programvaren, orkestreringen og systemkonfigurasjonen.

AMDs rackmodell anslår at en EPYC 9996-konfigurasjon kan støtte omtrent 1,18 ganger så mange agenter i et rack på 35 kilowatt som med standard effektinnstillinger, dersom den samlede effektgrensen for prosessor og minne per sokkel reduseres med 15 %. Den økte kapasiteten skyldes at flere servere får plass innenfor den samme effektrammen. Den anslåtte gjennomsnittlige ytelsesreduksjonen per server er 1 %, basert på separat testing av en EPYC-prosessor av femte generasjon.

Microsoft åpner forhåndsversjonen av Azure HDv2

Microsoft åpnet for påmelding 10. november til en forhåndsversjon av den virtuelle maskinen Azure HDv2, som er bygget med EPYC-prosessorer av sjette generasjon med kodenavnet Venice. Hver virtuell maskin har mer enn 500 fysiske Zen 6-kjerner, 3,8 terabyte DDR5-8800-minne, 30 TB PCIe Gen 5 NVMe-lagring og Azure Boost Networking på 400 Gb.

Microsoft opplyser at én HDv2-virtuell maskin kan kjøre omtrent dobbelt så mange sandkasser for agenter parallelt som det nest beste alternativet på markedet, og levere opptil 1,7 ganger høyere gjennomstrømning for agentbaserte oppgaver. Diagrammene merker målingene som foreløpige og med forbehold om endringer. De bruker SPEC CPU 2026 Integer Rate som en tilnærmet målestokk for gjennomstrømning i agentbaserte oppgaver og oppgaver innen forsterkende læring. Hver gang en agent kjører kode eller kaller et verktøy, skjer det i en isolert CPU-sandkasse. Hvis det ikke er nok kjerner tilgjengelig, kan GPU-ene derfor bli stående ubrukt mens de styrer agentene.

OpenAI har samarbeidet med Microsoft om HDv2 og knyttet balansen mellom kjerner og minne til både forsknings- og programmeringsoppgaver. «Når vi klargjør store datasett for KI-forskning, gjør flere CPU-kjerner det mulig å fordele arbeidet på flere jobber, forutsatt at hver jobb har nok minne. Den samme balansen er viktig når mange programmeringsagenter utvikler programvare og kjører tester samtidig», sa Rafael Dietrich, OpenAIs leder for kapasitetsplanlegging for CPU og lagring.

Når HDv2 blir allment tilgjengelig, planlegger Microsoft å tilby tjenesten gjennom Azure Kubernetes Service, Azure Databricks og Azure CycleCloud, samt partnerplattformer som Rescale og Synopsys. Tilgjengeligheten kan variere mellom tjenestene og plattformene.

Lanseringen gjør prosessortetthet, minnetildeling og rackeffekt til sentrale faktorer for kapasiteten til agenter, i tillegg til utnyttelsen av akseleratorer. Den praktiske prøven for disse konfigurasjonene er hvor mye samtidig agentarbeid de kan håndtere innenfor faste effektbudsjetter uten at GPU-ene blir stående ubrukt.