AMD brengt Zen 6 EPYC-chips uit voor AI-agentimplementaties met een hogere dichtheid

AMD maakte bekend dat zijn zesde generatie EPYC SP7-serverprocessors vanaf 10 november 2026 algemeen beschikbaar zijn. Servers van fabrikanten en instanties op Microsoft Azure en Oracle Cloud Infrastructure worden binnenkort verwacht. De Zen 6-reeks met 10 modellen is bedoeld voor de uitvoering van AI-agenten, GPU-hostnodes en bedrijfsapplicaties.

De aankondiging draait om de CPU-taken rond AI-modellen. Eén agentgestuurde workflow kan agenten coördineren, modellen aanroepen, informatie ophalen, code uitvoeren en verbinding maken met bestaande bedrijfsdatabases en -applicaties. AMD verdeelt de infrastructuur hiervoor in services voor algemeen gebruik, GPU-hostnodes en agent-sandboxomgevingen. Per taak variëren de processorfrequentie, dichtheid, bandbreedte en efficiëntie, terwijl de gemeenschappelijke x86-basis voor software, beveiliging en beheer behouden blijft.

Frequentie en dichtheid in de SP7-reeks

De EPYC 9006 SP7-reeks omvat processors met 64 tot 256 cores en 128 tot 512 threads. Dankzij simultane multithreading kan elke core twee threads uitvoeren. De Zen 6- en Zen 6c-cores bieden een balans tussen hoge frequenties voor AI-hostnodes en een hogere dichtheid voor de parallelle uitvoering van agenten. Het platform ondersteunt ook PCIe Gen 6.

Bovenaan deze reeks hebben de EPYC 9996 en 9956 elk 1.024 MB L3-cache. De 9996 heeft een basiskloksnelheid van 2,55 GHz, een maximale boostkloksnelheid van 4,1 GHz en een standaard CPU-vermogen van 600 W, instelbaar van 400 W tot 600 W. Het standaard CPU-vermogen meet het verbruik van de reken- en I/O-dies van de processor bij een opgegeven prestatiedoel. De EPYC 9686F en 9586F zijn juist gericht op hoge frequenties, met basiskloksnelheden van 4,05 GHz en boostkloksnelheden tot 5,3 GHz.

De processors zijn niet alleen bedoeld voor afzonderlijke servers, maar ook voor AMD’s Helion-rackontwerpen, die in oktober 2026 werden geïntroduceerd. Helion Liquid is bedoeld voor grootschalige implementaties, Helion Air voor bestaande datacenters met luchtkoeling en Helion Air Inference combineert CPU-uitvoering met lokale GPU-inferentie. Volgens AMD kunnen sommige Helion-configuraties in één rack 73.728 threads bereiken.

Prestatieprognoses en vermogenslimieten

Voor GPU-hostnodes meldt AMD dat de uitvoerdoorvoer van grote taalmodellen tot 1,8x hoger ligt dan bij EPYC-processors van de vorige generatie, in een vergelijking waarbij modelgewichten naar de CPU worden verplaatst. Dit cijfer is gebaseerd op metingen via een PCIe Gen 5-hostverbinding, geprojecteerd naar de bandbreedte van Gen 6. Uit tests bleek dat in deze workload de PCIe-verbinding, en niet het hostgeheugen, de doorvoer beperkte.

Voor agent-sandboxomgevingen schat AMD dat het aantal agenten per watt CPU-vermogen ongeveer 3,3x zo hoog ligt als bij Nvidia Vera en 2,5x zo hoog als bij Intel Xeon 6980P. In plaats van agenten in een live-implementatie te tellen, zet de vergelijking het aantal beschikbare CPU-threads om in een geschatte capaciteit bij een gemeenschappelijke theoretische workload. De werkelijke capaciteit en doorvoer zijn afhankelijk van de workload, het model, het geheugen, de software, de orkestratie en de systeemconfiguratie.

Volgens AMD’s rackmodel kan een verlaging van de gecombineerde vermogenslimiet voor processor en geheugen per socket met 15% ervoor zorgen dat een EPYC 9996-configuratie binnen een rack van 35 kilowatt ongeveer 1,18x zoveel agenten ondersteunt als bij de standaardvermogensinstellingen. Die extra capaciteit ontstaat doordat er meer servers binnen hetzelfde vermogensbudget passen. De geschatte gemiddelde prestatiedaling per server bedraagt 1%, op basis van afzonderlijke tests met een EPYC-processor van de vijfde generatie.

Microsoft opent de preview van Azure HDv2

Microsoft opende op 10 november de registratie voor een preview van virtuele Azure HDv2-machines, gebouwd met EPYC-processors van de zesde generatie met de codenaam Venice. Elke VM biedt meer dan 500 fysieke Zen 6-cores, 3,8 terabyte DDR5-8800-geheugen, 30 TB PCIe Gen 5 NVMe-opslag en 400 Gb Azure Boost Networking.

Volgens Microsoft kan één HDv2-VM ongeveer twee keer zoveel agent-sandboxomgevingen parallel uitvoeren als het op één na beste beschikbare alternatief op de markt, en tot 1,7x meer doorvoer bieden voor agentische taken. De grafieken vermelden dat de metingen voorlopig zijn en kunnen veranderen. Als maatstaf voor de doorvoer van agentische taken en reinforcement-learningtaken gebruiken ze SPEC CPU 2026 Integer Rate. Telkens wanneer een agent code uitvoert of een tool aanroept, gebeurt dat in een geïsoleerde CPU-sandbox. Bij onvoldoende capaciteit aan cores kunnen de GPU’s die de agenten aansturen daardoor ongebruikt blijven.

OpenAI heeft met Microsoft samengewerkt aan HDv2 en gewezen op het belang van de balans tussen cores en geheugen voor zowel onderzoeks- als programmeerworkloads. ‘Wanneer we grote datasets voorbereiden voor AI-onderzoek, kunnen we met meer CPU-cores het werk over meer taken verdelen, mits elke taak genoeg geheugen heeft. Diezelfde balans is belangrijk wanneer veel programmeeragenten tegelijk software bouwen en tests uitvoeren’, aldus Rafael Dietrich, hoofd capaciteitsplanning voor CPU en opslag bij OpenAI.

Bij de algemene beschikbaarheid wil Microsoft HDv2 aanbieden via Azure Kubernetes Service, Azure Databricks en Azure CycleCloud, en via partnerplatforms waaronder Rescale en Synopsys. De beschikbaarheid kan per service en platform verschillen.

Door de introductie zijn CPU-dichtheid, geheugentoewijzing en rackvermogen, naast het gebruik van accelerators, bepalend voor de capaciteit van agenten. De praktische test voor deze configuraties is hoeveel gelijktijdig werk van agenten ze binnen vaste vermogensbudgetten aankunnen zonder GPU’s onderbenut te laten.