KI-Modelle und Plattformen
AMD bringt Zen-6-EPYC-Prozessoren für den dichteren Einsatz von KI-Agenten auf den Markt
Unite.AI zu deinen bevorzugten Quellen auf Google hinzufügen
AMD kündigte an, dass seine EPYC-SP7-Serverprozessoren der sechsten Generation ab dem 10. November 2026 allgemein verfügbar sind. Systeme von Serveranbietern sollen ausgeliefert werden, und Instanzen bei Microsoft Azure und Oracle Cloud Infrastructure werden in Kürze erwartet. Die Zen-6-Produktfamilie mit zehn Modellen ist auf die Ausführung von KI-Agenten, GPU-Hostknoten und Unternehmensanwendungen ausgelegt.
Im Mittelpunkt der Ankündigung stehen die CPU-Aufgaben rund um KI-Modelle. Ein einzelner agentischer Workflow kann Agenten koordinieren, Modelle aufrufen, Informationen abrufen, Code ausführen und Verbindungen zu vorhandenen Unternehmensdatenbanken und -anwendungen herstellen. AMD unterteilt die daraus entstehende Infrastruktur in allgemeine Dienste, GPU-Hostknoten und Agenten-Sandboxen. Je nach Aufgabe variieren dabei Prozessorfrequenz, Dichte, Bandbreite und Effizienz, während eine gemeinsame x86-Software-, Sicherheits- und Betriebsgrundlage erhalten bleibt.
Frequenz und Dichte in der SP7-Produktreihe
Die EPYC-9006-SP7-Produktreihe umfasst Modelle mit 64 bis 256 Kernen und 128 bis 512 Threads. Simultaneous Multithreading ermöglicht jedem Kern die Ausführung von zwei Threads. Die Zen-6- und Zen-6c-Kerne bieten einerseits hohe Frequenzleistung für KI-Hostknoten und andererseits eine höhere Dichte für die parallele Ausführung von Agenten. Die Plattform unterstützt außerdem PCIe Gen 6.
An der Spitze dieser Produktreihe verfügen der EPYC 9996 und der 9956 jeweils über 1.024 MB L3-Cache. Der 9996 hat einen Basistakt von 2,55 GHz, erreicht im Boost bis zu 4,1 GHz und weist eine standardmäßige CPU-Leistungsaufnahme von 600 W auf, die sich auf 400 bis 600 W konfigurieren lässt. Die standardmäßige CPU-Leistungsaufnahme misst den Verbrauch der Rechen- und I/O-Dies des Prozessors bei einem festgelegten Leistungsziel. Der EPYC 9686F und der 9586F sind hingegen auf hohe Frequenzen ausgelegt: Ihr Basistakt beträgt 4,05 GHz, die Boost-Taktraten reichen bis zu 5,3 GHz.
Über einzelne Server hinaus kommen die Prozessoren auch in AMDs Helion-Rackdesigns zum Einsatz, die im Oktober 2026 vorgestellt wurden. Helion Liquid ist für groß angelegte Bereitstellungen konzipiert, Helion Air richtet sich an bestehende luftgekühlte Rechenzentren, und Helion Air Inference kombiniert die CPU-Ausführung mit lokaler GPU-Inferenz. AMD zufolge erreichen einige Helion-Konfigurationen 73.728 Threads in einem einzigen Rack.
Leistungsschätzungen und Leistungsgrenzen
Für GPU-Hostknoten gibt AMD an, dass der Ausgabedurchsatz großer Sprachmodelle beim Auslagern von Modellgewichten auf die CPU bis zu 1,8-mal höher liegt als bei EPYC-Prozessoren der vorherigen Generation. Dieser Wert basiert auf Messungen über eine PCIe-Gen-5-Hostverbindung, hochgerechnet auf die Bandbreite von Gen 6. Die Tests ergaben, dass bei dieser Arbeitslast die PCIe-Verbindung und nicht der Hostspeicher den Durchsatz begrenzte.
Für Agenten-Sandboxen schätzt AMD, dass pro CPU-Watt etwa 3,3-mal so viele Agenten ausgeführt werden können wie mit Nvidia Vera und 2,5-mal so viele wie mit Intel Xeon 6980P. Statt Agenten in einer laufenden Bereitstellung zu zählen, rechnet der Vergleich die verfügbaren CPU-Threads anhand einer gemeinsamen theoretischen Arbeitslast in eine geschätzte Kapazität um. Die tatsächliche Kapazität und der Durchsatz hängen von der Arbeitslast, dem Modell, dem Speicher, der Software, der Orchestrierung und der Systemkonfiguration ab.
Laut AMDs Rackmodell ermöglicht eine Senkung der kombinierten Leistungsgrenze von Prozessor und Speicher pro Sockel um 15 %, dass eine EPYC-9996-Konfiguration innerhalb eines 35-Kilowatt-Racks etwa 1,18-mal so viele Agenten unterstützt wie bei den Standardeinstellungen für die Leistungsaufnahme. Die zusätzliche Kapazität entsteht dadurch, dass sich mehr Server innerhalb desselben Leistungsrahmens unterbringen lassen. Die geschätzte durchschnittliche Leistungsminderung pro Server beträgt 1 % und basiert auf separaten Tests mit einem EPYC-Prozessor der fünften Generation.
Microsoft öffnet die Vorschau für Azure HDv2
Microsoft öffnete am 10. November die Registrierung für eine Vorschau einer virtuellen Azure-HDv2-Maschine, die mit EPYC-Prozessoren der sechsten Generation unter dem Codenamen Venice ausgestattet ist. Jede virtuelle Maschine bietet mehr als 500 physische Zen-6-Kerne, 3,8 Terabyte DDR5-8800-Speicher, 30 TB PCIe-Gen-5-NVMe-Speicher und Azure Boost Networking mit 400 Gb.
Microsoft zufolge kann eine HDv2-VM etwa doppelt so viele Agenten-Sandboxen parallel ausführen wie die nächstbeste derzeit verfügbare Alternative und einen bis zu 1,7-mal höheren Durchsatz bei agentischen Aufgaben erzielen. In den Diagrammen werden die Messwerte als vorläufig und änderbar gekennzeichnet. Als Näherungswert für den Durchsatz agentischer Aufgaben und Aufgaben des bestärkenden Lernens dient SPEC CPU 2026 Integer Rate. Jedes Mal, wenn ein Agent Code ausführt oder ein Werkzeug aufruft, geschieht dies in einer isolierten CPU-Sandbox. Bei unzureichender Kernkapazität können die GPUs, die diese Agenten steuern, daher untätig bleiben.
OpenAI hat gemeinsam mit Microsoft an HDv2 gearbeitet und den Zusammenhang zwischen der Anzahl der Kerne und der Speicherkapazität sowohl für Forschungs- als auch für Programmieraufgaben hervorgehoben. „Wenn wir große Datensätze für die KI-Forschung aufbereiten, können wir die Arbeit dank zusätzlicher CPU-Kerne auf mehr Jobs verteilen – vorausgesetzt, für jeden Job steht genügend Speicher zur Verfügung. Dasselbe Gleichgewicht ist wichtig, wenn viele Programmieragenten gleichzeitig Software entwickeln und Tests ausführen“, sagte Rafael Dietrich, Leiter der Kapazitätsplanung für CPU und Speicher bei OpenAI.
Zum Zeitpunkt der allgemeinen Verfügbarkeit plant Microsoft, HDv2 über Azure Kubernetes Service, Azure Databricks und Azure CycleCloud sowie über Partnerplattformen wie Rescale und Synopsys anzubieten. Die Verfügbarkeit kann je nach Dienst und Plattform variieren.
Mit der Markteinführung rücken CPU-Dichte, Speicherzuteilung und Rack-Leistung neben der Auslastung der Beschleuniger ins Zentrum der Agentenkapazität. Entscheidend ist in der Praxis, wie viel parallele Agentenarbeit diese Konfigurationen innerhalb fester Leistungsbudgets bewältigen können, ohne dass GPUs unausgelastet bleiben.
