AMD lansează cipurile EPYC Zen 6 pentru implementări mai dense de agenți IA

AMD a anunțat disponibilitatea generală a procesoarelor pentru servere EPYC SP7 din a șasea generație pe 10 noiembrie 2026, sistemele urmând să fie livrate de furnizorii de servere, iar instanțele Microsoft Azure și Oracle Cloud Infrastructure fiind așteptate în curând. Gama Zen 6, formată din 10 modele, vizează execuția agenților IA, nodurile gazdă pentru GPU-uri și aplicațiile enterprise.

Anunțul se concentrează pe operațiunile CPU din jurul modelelor IA. Un singur flux de lucru bazat pe agenți poate coordona agenți, apela modele, recupera informații, executa cod și se poate conecta la bazele de date și aplicațiile enterprise existente. AMD împarte infrastructura rezultată în servicii de uz general, noduri gazdă pentru GPU-uri și medii izolate pentru agenți, ajustând frecvența procesorului, densitatea, lățimea de bandă și eficiența în funcție de sarcină, păstrând totodată o bază comună x86 pentru software, securitate și operare.

Frecvență și densitate în gama SP7

Gama EPYC 9006 SP7 cuprinde procesoare cu 64–256 de nuclee și 128–512 de fire de execuție. Multithreadingul simultan permite fiecărui nucleu să ruleze două fire de execuție, iar nucleele Zen 6 și Zen 6c echilibrează performanța la frecvențe ridicate, necesară nodurilor gazdă IA, cu execuția paralelă a agenților la densitate mai mare. Platforma acceptă și PCIe Gen 6.

La capătul superior al acestei game, EPYC 9996 și 9956 includ fiecare 1.024 MB de memorie cache L3. EPYC 9996 are o frecvență de bază de 2,55 GHz, poate ajunge în regim boost la 4,1 GHz și are o putere CPU implicită nominală de 600 W, configurabilă între 400 W și 600 W. Puterea CPU implicită măsoară consumul cumulat al matrițelor de calcul și de intrare/ieșire ale procesorului pentru un nivel de performanță specificat. EPYC 9686F și 9586F pun în schimb accentul pe frecvență, având frecvențe de bază de 4,05 GHz și viteze boost de până la 5,3 GHz.

Dincolo de serverele individuale, procesoarele sunt integrate și în proiectele de rack AMD Helion, prezentate în octombrie 2026. Helion Liquid este destinat implementărilor la scară largă, Helion Air vizează centrele de date existente, răcite cu aer, iar Helion Air Inference combină execuția pe CPU cu inferența locală pe GPU. AMD afirmă că unele configurații Helion ajung la 73.728 de fire de execuție într-un singur rack.

Estimări de performanță și limite de putere

Pentru nodurile gazdă cu GPU-uri, AMD raportează un debit de ieșire pentru modelele lingvistice mari de până la 1,8 ori mai mare decât cel al procesoarelor EPYC din generația anterioară, într-o comparație privind transferul ponderilor modelului către CPU. Cifra provine din măsurători efectuate printr-o conexiune PCIe Gen 5 către gazdă, extrapolată la lățimea de bandă Gen 6. Testele au identificat conexiunea PCIe, nu memoria gazdei, drept factorul care limitează debitul în acea sarcină.

Pentru mediile izolate ale agenților, AMD estimează un număr de agenți per watt CPU de aproximativ 3,3 ori mai mare decât în cazul Nvidia Vera și de 2,5 ori mai mare decât în cazul Intel Xeon 6980P. În loc să numere agenții dintr-o implementare reală, comparația transformă firele de execuție CPU disponibile într-o capacitate estimată, folosind o sarcină teoretică comună. Capacitatea și debitul efective depind de sarcină, model, memorie, software, orchestrare și configurația sistemului.

Modelul AMD pentru rack-uri estimează că reducerea cu 15% a limitei combinate de putere pentru procesor și memorie per soclu permite unei configurații EPYC 9996 să susțină aproximativ de 1,18 ori mai mulți agenți într-un rack de 35 de kilowați decât în cazul setărilor implicite de putere. Capacitatea suplimentară rezultă din posibilitatea de a instala mai multe servere în același buget de putere. Reducerea medie estimată a performanței per server este de 1%, pe baza unor teste separate cu un procesor EPYC din a cincea generație.

Microsoft deschide versiunea preliminară Azure HDv2

Pe 10 noiembrie, Microsoft a deschis înscrierile pentru o versiune preliminară a mașinii virtuale Azure HDv2, construită cu procesoare EPYC din a șasea generație, cu numele de cod Venice. Fiecare mașină virtuală oferă peste 500 de nuclee fizice Zen 6, 3,8 terabytes de memorie DDR5-8800, 30 TB de stocare NVMe PCIe Gen 5 și rețelistică Azure Boost de 400 Gb.

Microsoft afirmă că o singură mașină virtuală HDv2 poate rula în paralel aproximativ de două ori mai multe medii izolate pentru agenți decât următoarea cea mai bună alternativă disponibilă pe piață și poate oferi un debit pentru sarcini bazate pe agenți de până la 1,7 ori mai mare. Graficele companiei precizează că măsurătorile sunt preliminare și pot fi modificate; acestea folosesc SPEC CPU 2026 Integer Rate ca indicator indirect al debitului pentru sarcini bazate pe agenți și de învățare prin întărire. De fiecare dată când un agent execută cod sau apelează un instrument, o face într-un mediu izolat pe CPU; prin urmare, capacitatea insuficientă a nucleelor poate lăsa inactive GPU-urile care coordonează agenții.

OpenAI a colaborat cu Microsoft la HDv2 și a asociat echilibrul dintre numărul de nuclee și memorie atât cu sarcinile de cercetare, cât și cu cele de programare. „Când pregătim seturi mari de date pentru cercetarea în IA, mai multe nuclee CPU ne permit să împărțim munca în mai multe sarcini, cu condiția ca fiecare să aibă suficientă memorie. Același echilibru contează când mulți agenți de programare creează software și rulează teste în același timp”, a declarat Rafael Dietrich, responsabilul OpenAI pentru planificarea capacității CPU și de stocare.

La lansarea disponibilității generale, Microsoft intenționează să ofere HDv2 prin Azure Kubernetes Service, Azure Databricks și Azure CycleCloud, precum și prin platformele partenerilor, inclusiv Rescale și Synopsys. Disponibilitatea poate varia între aceste servicii și platforme.

Lansarea aduce densitatea CPU, alocarea memoriei și puterea rack-ului în centrul capacității agenților, alături de utilizarea acceleratoarelor. Testul practic pentru aceste configurații este câtă muncă simultană a agenților pot susține în limite fixe de putere, fără a lăsa GPU-urile insuficient utilizate.