Моделі та платформи ШІ
AMD випускає процесори Zen 6 EPYC для щільнішого розгортання агентів ШІ
Додайте Unite.AI до бажаних джерел у Google
AMD оголосила про загальну доступність серверних процесорів EPYC SP7 шостого покоління 10 листопада 2026 року. Сервери від виробників обладнання мають надійти в продаж, а екземпляри Microsoft Azure та Oracle Cloud Infrastructure — незабаром стати доступними. Лінійка Zen 6 із 10 моделей призначена для виконання завдань агентів ШІ, вузлів-хостів GPU та корпоративних застосунків.
В основі анонсу — робота центральних процесорів, пов’язана з моделями ШІ. Єдиний робочий процес із залученням агентів може координувати агентів, викликати моделі, отримувати інформацію, виконувати код і підключатися до наявних корпоративних баз даних і застосунків. AMD поділяє відповідну інфраструктуру на сервіси загального призначення, вузли-хости GPU та ізольовані середовища для агентів. Залежно від завдання в них змінюються частота процесора, щільність розміщення, пропускна здатність і ефективність, тоді як спільною основою залишаються програмне забезпечення, безпека й операційні засоби на базі x86.
Частота й щільність у лінійці SP7
Лінійка EPYC 9006 SP7 охоплює моделі з 64–256 ядрами та 128–512 потоками. Технологія одночасної багатопотоковості дає змогу кожному ядру виконувати два потоки. Ядра Zen 6 і Zen 6c поєднують високу частоту й продуктивність для вузлів-хостів ШІ з більшою щільністю паралельного виконання завдань агентів. Платформа також підтримує PCIe Gen 6.
На верхньому рівні цієї лінійки моделі EPYC 9996 і 9956 мають по 1 024 МБ кеш-пам’яті L3. Базова тактова частота EPYC 9996 становить 2,55 ГГц, у режимі прискорення вона сягає 4,1 ГГц, а номінальна потужність процесора за замовчуванням — 600 Вт; її можна налаштувати в діапазоні від 400 до 600 Вт. Показник Default CPU Power вимірює споживання енергії обчислювальними кристалами та кристалами введення-виведення процесора за заданого цільового рівня продуктивності. Натомість моделі EPYC 9686F і 9586F орієнтовані на високу частоту: їхня базова тактова частота становить 4,05 ГГц, а частота в режимі прискорення сягає 5,3 ГГц.
Окрім окремих серверів, ці процесори використовуються і в стійкових системах AMD Helion, представлених у жовтні 2026 року. Helion Liquid призначена для великомасштабних розгортань, Helion Air — для наявних центрів обробки даних з повітряним охолодженням, а Helion Air Inference поєднує виконання завдань на ЦП із локальним інференсом на GPU. За даними AMD, деякі конфігурації Helion забезпечують до 73 728 потоків в одній стійці.
Оцінки продуктивності та обмеження потужності
Для вузлів-хостів GPU AMD заявляє, що в порівнянні з перенесенням обчислень із ЦП на GPU під час обробки ваг моделі пропускна здатність генерації вихідних даних великої мовної моделі може бути до 1,8 раза вищою, ніж у процесорів EPYC попереднього покоління. Цей показник отримано на основі вимірювань через хост-з’єднання PCIe Gen 5, екстрапольованих на пропускну здатність Gen 6. Тестування виявило, що в цьому навантаженні пропускну здатність обмежує з’єднання PCIe, а не пам’ять хоста.
Для ізольованих середовищ агентів AMD оцінює кількість агентів на ват потужності ЦП приблизно в 3,3 раза вищою, ніж у Nvidia Vera, і в 2,5 раза вищою, ніж у Intel Xeon 6980P. Замість підрахунку агентів у реальному розгортанні порівняння переводить доступну кількість потоків ЦП в оцінку місткості за спільного теоретичного навантаження. Фактична місткість і пропускна здатність залежать від навантаження, моделі, пам’яті, програмного забезпечення, оркестрації та конфігурації системи.
За оцінкою AMD, зниження спільного ліміту потужності процесора й пам’яті на сокет на 15% дає змогу конфігурації з EPYC 9996 підтримувати приблизно в 1,18 раза більше агентів у стійці потужністю 35 кВт, ніж за стандартних налаштувань потужності. Додаткова місткість досягається завдяки тому, що в той самий енергетичний ліміт вміщується більше серверів. За оцінками, середнє зниження продуктивності на сервер становить 1%; ця оцінка ґрунтується на окремому тестуванні процесора EPYC п’ятого покоління.
Microsoft відкриває попередній доступ до Azure HDv2
10 листопада Microsoft відкрила реєстрацію на попереднє тестування віртуальної машини Azure HDv2, створеної на базі процесорів EPYC шостого покоління під кодовою назвою Venice. Кожна віртуальна машина має понад 500 фізичних ядер Zen 6, 3,8 терабайта пам’яті DDR5-8800, 30 ТБ сховища PCIe Gen 5 NVMe та мережу Azure Boost Networking зі швидкістю 400 Гб.
За даними Microsoft, одна віртуальна машина HDv2 може одночасно запускати приблизно вдвічі більше ізольованих середовищ для агентів, ніж найближча конкурентна пропозиція, доступна на ринку, і забезпечувати до 1,7 раза вищу пропускну здатність виконання агентних завдань. На графіках зазначено, що результати є попередніми й можуть змінитися; як непрямий показник пропускної здатності агентних завдань і завдань із навчання з підкріпленням використано SPEC CPU 2026 Integer Rate. Щоразу, коли агент виконує код або викликає інструмент, він працює в ізольованому середовищі ЦП. Тому за нестачі ядер GPU, які координують роботу агентів, можуть простоювати.
OpenAI співпрацювала з Microsoft над HDv2 і пов’язала баланс між кількістю ядер і обсягом пам’яті як із дослідницькими завданнями, так і з програмуванням. «Коли ми готуємо великі набори даних для досліджень у сфері ШІ, більша кількість ядер ЦП дає змогу розподілити роботу між більшою кількістю завдань, якщо для кожного з них достатньо пам’яті. Такий самий баланс важливий, коли багато агентів для програмування одночасно створюють програмне забезпечення та запускають тести», — сказав Рафаель Дітріх, керівник напряму планування обчислювальних ресурсів ЦП і сховищ в OpenAI.
Після переходу до загальної доступності Microsoft планує надавати HDv2 через Azure Kubernetes Service, Azure Databricks і Azure CycleCloud, а також через платформи партнерів, зокрема Rescale і Synopsys. Доступність може відрізнятися залежно від сервісу та платформи.
Запуск робить щільність процесорів, розподіл пам’яті та потужність стійки ключовими чинниками місткості для агентів поряд із завантаженістю прискорювачів. Практичне випробування цих конфігурацій — з’ясувати, який обсяг одночасної роботи агентів вони можуть підтримувати в межах фіксованих лімітів потужності, не допускаючи недовантаження GPU.
