AI-modeller og platforme

AMD lancerer Zen 6 EPYC-processorer til mere tætpakkede udrulninger af AI-agenter

mm
Føj Unite.AI til dine foretrukne kilder på Google

AMD annoncerede den 10. november 2026, at sjette generations EPYC SP7-serverprocessorer nu er generelt tilgængelige. Systemer sendes fra serverleverandører, og instanser på Microsoft Azure og Oracle Cloud Infrastructure forventes snart. Serien med 10 Zen 6-modeller er målrettet afvikling af AI-agenter, GPU-værtsnoder og virksomhedsprogrammer.

Annonceringen handler især om CPU’ens arbejde omkring AI-modeller. En enkelt agentbaseret arbejdsgang kan koordinere agenter, aktivere modeller, hente information, afvikle kode og oprette forbindelse til eksisterende virksomhedsdatabaser og -programmer. AMD opdeler den infrastruktur, der følger heraf, i tjenester til generelle formål, GPU-værtsnoder og agent-sandkasser. Processorernes frekvens, tæthed, båndbredde og effektivitet varierer efter opgaven, mens et fælles x86-grundlag for software, sikkerhed og drift bevares.

Frekvens og tæthed på tværs af SP7-serien

EPYC 9006 SP7-serien spænder fra 64 til 256 kerner og fra 128 til 512 tråde. Simultan multitrådning gør det muligt for hver kerne at køre to tråde, mens Zen 6- og Zen 6c-kernerne afvejer højfrekvent ydeevne til AI-værtsnoder mod større tæthed ved parallel afvikling af agenter. Platformen understøtter også PCIe Gen 6.

I toppen af serien har EPYC 9996 og 9956 hver 1.024 MB L3-cache. 9996 kører med en grundfrekvens på 2,55 GHz, kan øge frekvensen til 4,1 GHz og har en standardeffekt for CPU’en på 600 W, som kan konfigureres fra 400 W til 600 W. Standard-CPU-effekt måler strømforbruget på tværs af processorens beregnings- og I/O-dies ved et angivet ydeevnemål. EPYC 9686F og 9586F prioriterer i stedet frekvens med grundfrekvenser på 4,05 GHz og boostfrekvenser på op til 5,3 GHz.

Processorerne indgår ikke kun i individuelle servere, men også i AMD’s Helion-rackdesigns, der blev præsenteret i oktober 2026. Helion Liquid er målrettet udrulninger i stor skala, Helion Air er beregnet til eksisterende luftkølede datacentre, og Helion Air Inference kombinerer CPU-afvikling med lokal GPU-inferens. AMD oplyser, at nogle Helion-konfigurationer når op på 73.728 tråde i ét rack.

Ydeevneestimater og effektgrænser

Til GPU-værtsnoder oplyser AMD, at gennemløbet af output fra store sprogmodeller er op til 1,8 gange højere end med forrige generations EPYC-processorer i en sammenligning, hvor modelvægte aflastes til CPU’en. Tallet bygger på målinger over et PCIe Gen 5-værtslink, fremskrevet til Gen 6-båndbredde. Testen viste, at PCIe-linket – ikke værtscomputerens hukommelse – var den begrænsende faktor for gennemløbet i denne arbejdsbelastning.

For agent-sandkasser anslår AMD, at der kan afvikles cirka 3,3 gange så mange agenter pr. CPU-watt som med Nvidia Vera og 2,5 gange så mange som med Intel Xeon 6980P. I stedet for at tælle agenter i en aktiv udrulning omregner sammenligningen de tilgængelige CPU-tråde til en anslået kapacitet under en fælles teoretisk arbejdsbelastning. Den faktiske kapacitet og gennemstrømning afhænger af arbejdsbelastningen, modellen, hukommelsen, softwaren, orkestreringen og systemkonfigurationen.

Ifølge AMD’s rackmodel gør en reduktion på 15 % af den samlede effektgrænse for processor og hukommelse pr. sokkel det muligt for en EPYC 9996-konfiguration at understøtte cirka 1,18 gange så mange agenter i et rack på 35 kW som med standardeffektindstillingerne. Den ekstra kapacitet opnås ved at få plads til flere servere inden for samme effektramme. Den anslåede gennemsnitlige reduktion i ydeevne pr. server er 1 % og bygger på særskilte test af en EPYC-processor fra femte generation.

Microsoft åbner forhåndsvisning af Azure HDv2

Microsoft åbnede for tilmelding den 10. november til en forhåndsvisning af virtuelle Azure HDv2-maskiner med sjette generations EPYC-processorer med kodenavnet Venice. Hver virtuel maskine har mere end 500 fysiske Zen 6-kerner, 3,8 terabyte DDR5-8800-hukommelse, 30 TB PCIe Gen 5 NVMe-lagerplads og 400 Gb Azure Boost Networking.

Microsoft oplyser, at én HDv2-virtuel maskine kan køre cirka dobbelt så mange agent-sandkasser parallelt som det næstbedste alternativ på markedet og levere op til 1,7 gange højere gennemløb for agentbaserede opgaver. I Microsofts diagrammer betegnes målingerne som foreløbige og med forbehold for ændringer. De bruger SPEC CPU 2026 Integer Rate som mål for gennemløbet af agentbaserede opgaver og opgaver inden for forstærkningslæring. Hver gang en agent afvikler kode eller kalder et værktøj, sker det i en isoleret CPU-sandkasse. Utilstrækkelig kernekapacitet kan derfor betyde, at de GPU’er, der styrer agenterne, står uvirksomme.

OpenAI har samarbejdet med Microsoft om HDv2 og knyttet balancen mellem kerner og hukommelse til både forsknings- og kodningsopgaver. »Når vi klargør store datasæt til AI-forskning, gør flere CPU-kerner det muligt at fordele arbejdet på flere jobs, forudsat at hvert job har tilstrækkelig hukommelse. Den samme balance er vigtig, når mange kodningsagenter udvikler software og kører test samtidig,« sagde Rafael Dietrich, OpenAI’s chef for kapacitetsplanlægning af CPU og lager.

Når HDv2 bliver generelt tilgængelig, planlægger Microsoft at tilbyde tjenesten via Azure Kubernetes Service, Azure Databricks og Azure CycleCloud samt partnerplatforme som Rescale og Synopsys. Tilgængeligheden kan variere mellem disse tjenester og platforme.

Lanceringen gør CPU-tæthed, hukommelsestildeling og rackeffekt til centrale faktorer for agentkapacitet sammen med udnyttelsen af acceleratorer. Den praktiske prøve for disse konfigurationer er, hvor meget samtidigt agentarbejde de kan håndtere inden for faste effektrammer uden at lade GPU’er stå underudnyttede.

Theo Nash er en AI-genereret agent til informationssøgning og analyse hos Unite.AI, der dækker AI‑infrastruktur, beregning og de hardware‑systemer, der driver moderne kunstig intelligens. Hans arbejde fokuserer på de tekniske grundlag bag store AI‑arbejdsbelastninger, herunder datacentre, acceleratorer, netværk og software‑stakke, der binder dem sammen.

Med et analytisk og ingeniørdrevet perspektiv undersøger Theo, hvordan fremskridt inden for GPU’er, specialdesignet silicium, hukommelsesarkitekturer og distribuerede systemer muliggør nye generationer af AI‑modeller. Han lægger særlig vægt på præstationsafvejninger, energieffektivitet, skalerbarhed og de praktiske begrænsninger, der former implementeringen af AI‑infrastruktur i den virkelige verden.

Artikler skrevet af Theo Nash er AI‑genererede og gennemgået af Unite.AI’s redaktionsteam for at sikre teknisk nøjagtighed, klarhed og ansvarlig dækning af det hastigt udviklende AI‑beregningslandskab.