AI-modeller och plattformar
AMD lanserar Zen 6 EPYC-processorer för tätare driftsättning av AI-agenter
Lägg till Unite.AI bland dina föredragna källor på Google
AMD tillkännagav den 10 november 2026 att sjätte generationens EPYC SP7-serverprocessorer nu är allmänt tillgängliga. System från serverleverantörer levereras och instanser hos Microsoft Azure och Oracle Cloud Infrastructure väntas bli tillgängliga inom kort. Produktserien med 10 Zen 6-modeller är avsedd för körning av AI-agenter, GPU-värdnoder och företagsapplikationer.
Tillkännagivandet fokuserar på CPU-arbetet kring AI-modeller. Ett enda agentbaserat arbetsflöde kan samordna agenter, anropa modeller, hämta information, köra kod och ansluta till befintliga företagsdatabaser och applikationer. AMD delar in den resulterande infrastrukturen i tjänster för allmänna ändamål, GPU-värdnoder och agentbaserade sandlådor. Processorernas frekvens, densitet, bandbredd och effektivitet anpassas efter uppgiften, samtidigt som en gemensam x86-grund för programvara, säkerhet och drift bibehålls.
Frekvens och densitet i hela SP7-serien
EPYC 9006 SP7-serien omfattar modeller med 64 till 256 kärnor och 128 till 512 trådar. Samtidig multitrådning gör att varje kärna kan köra två trådar, medan Zen 6- och Zen 6c-kärnorna balanserar högfrekvent prestanda för AI-värdnoder mot högre densitet för parallell körning av agenter. Plattformen har också stöd för PCIe Gen 6.
I den övre delen av serien har EPYC 9996 och 9956 vardera 1 024 MB L3-cache. EPYC 9996 har en basklockfrekvens på 2,55 GHz, kan nå 4,1 GHz i boostläge och har en angiven standardeffekt för processorn på 600 W, som kan konfigureras till mellan 400 W och 600 W. Standardeffekten för processorn mäter förbrukningen i processorns beräknings- och I/O-kretsar vid en angiven prestandanivå. EPYC 9686F och 9586F prioriterar i stället frekvens, med basklockfrekvenser på 4,05 GHz och boostfrekvenser på upp till 5,3 GHz.
Utöver enskilda servrar ingår processorerna även i AMD:s Helion-racklösningar, som presenterades i oktober 2026. Helion Liquid är avsedd för storskaliga driftsättningar, Helion Air riktar sig till befintliga luftkylda datacenter och Helion Air Inference kombinerar CPU-körning med lokal GPU-inferens. AMD uppger att vissa Helion-konfigurationer når 73 728 trådar i ett enda rack.
Prestandaestimat och effektbegränsningar
För GPU-värdnoder uppger AMD att genomströmningen för utdata från stora språkmodeller är upp till 1,8 gånger högre än med föregående generations EPYC-processorer i en jämförelse där modellvikter flyttas över till CPU:n. Siffran bygger på mätningar via en PCIe Gen 5-värdlänk, beräknade utifrån Gen 6-bandbredd. Testerna visade att PCIe-länken, snarare än värdminnet, begränsade genomströmningen i den aktuella arbetsbelastningen.
För agentbaserade sandlådor uppskattar AMD att antalet agenter per CPU-watt är cirka 3,3 gånger högre än med Nvidia Vera och 2,5 gånger högre än med Intel Xeon 6980P. I stället för att räkna agenter i en driftsättning i realtid omvandlar jämförelsen de tillgängliga CPU-trådarna till en uppskattad kapacitet under en gemensam teoretisk arbetsbelastning. Den faktiska kapaciteten och genomströmningen beror på arbetsbelastning, modell, minne, programvara, orkestrering och systemkonfiguration.
Enligt AMD:s rackmodell gör en sänkning med 15 % av den sammanlagda effektgränsen för processor och minne per sockel att en konfiguration med EPYC 9996 kan hantera omkring 1,18 gånger så många agenter i ett rack på 35 kilowatt som med standardinställningarna för effekt. Den ökade kapaciteten uppnås genom att fler servrar ryms inom samma effektbudget. Den uppskattade genomsnittliga prestandasänkningen per server är 1 %, baserat på separata tester av en EPYC-processor från femte generationen.
Microsoft öppnar förhandsversionen av Azure HDv2
Microsoft öppnade registreringen den 10 november för en förhandsversion av virtuella Azure HDv2-datorer, baserad på sjätte generationens EPYC-processorer med kodnamnet Venice. Varje virtuell dator har över 500 fysiska Zen 6-kärnor, 3,8 terabyte DDR5-8800-minne, 30 TB PCIe Gen 5 NVMe-lagring och Azure Boost Networking på 400 Gb.
Microsoft uppger att en HDv2-virtuell dator kan köra omkring dubbelt så många agentbaserade sandlådor parallellt som det näst bästa tillgängliga alternativet på marknaden och leverera upp till 1,7 gånger högre genomströmning för agentbaserade uppgifter. Diagrammen anger att mätningarna är preliminära och kan komma att ändras. Som mått på genomströmningen för agentbaserade uppgifter och förstärkningsinlärning används SPEC CPU 2026 Integer Rate. Varje gång en agent kör kod eller anropar ett verktyg gör den det i en isolerad CPU-sandlåda. Om kärnkapaciteten inte räcker till kan GPU:erna därför bli stående utan arbete medan de väntar på agenterna.
OpenAI har samarbetat med Microsoft kring HDv2 och kopplat balansen mellan kärnor och minne till både forsknings- och kodningsarbetsbelastningar. ”När vi förbereder stora datamängder för AI-forskning gör fler CPU-kärnor att vi kan dela upp arbetet på fler jobb, förutsatt att varje jobb har tillräckligt med minne. Samma balans är viktig när många kodningsagenter utvecklar programvara och kör tester samtidigt”, säger Rafael Dietrich, OpenAI:s chef för kapacitetsplanering för CPU och lagring.
När HDv2 blir allmänt tillgängligt planerar Microsoft att erbjuda det via Azure Kubernetes Service, Azure Databricks och Azure CycleCloud samt partnerplattformar, däribland Rescale och Synopsys. Tillgängligheten kan variera mellan tjänsterna och plattformarna.
Lanseringen gör processortäthet, minnestilldelning och rackets effektbudget till centrala faktorer för agentkapaciteten, vid sidan av acceleratorutnyttjandet. Det praktiska testet för dessa konfigurationer är hur mycket agentarbete de kan hantera samtidigt inom fasta effektbudgetar utan att GPU:erna står outnyttjade.
