AI 模型与平台

AMD 发布 Zen 6 EPYC 处理器,助力部署更高密度的 AI 智能体

mm
将 Unite.AI 添加到您在 Google 上的首选来源

AMD 宣布,其第六代 EPYC SP7 服务器处理器于 2026 年 11 月 10 日正式上市,服务器厂商将开始发货,Microsoft Azure 和 Oracle Cloud Infrastructure 实例也预计很快推出。Zen 6 产品线共有 10 款型号,面向 AI 智能体执行、GPU 主机节点和企业应用。

此次发布的重点是 AI 模型周边的 CPU 工作。单个智能体工作流可以协调多个智能体、调用模型、检索信息、执行代码,并连接现有的企业数据库和应用程序。AMD 将由此形成的基础设施划分为通用服务、GPU 主机节点和智能体沙箱,并根据任务调整处理器频率、密度、带宽和能效,同时保留统一的 x86 软件、安全和运维基础。

SP7 系列兼顾频率与密度

EPYC 9006 SP7 系列涵盖 64 至 256 个核心和 128 至 512 个线程。同步多线程技术可让每个核心运行两个线程;Zen 6 和 Zen 6c 核心则在 AI 主机节点所需的高频性能与智能体并行执行所需的更高密度之间取得平衡。该平台还支持 PCIe Gen 6。

该系列的顶配型号 EPYC 9996 和 9956 均配备 1,024 MB L3 缓存。EPYC 9996 的基础时钟频率为 2.55 GHz,最高加速频率为 4.1 GHz,默认 CPU 功耗为 600W,且可配置在 400W 至 600W 之间。默认 CPU 功耗用于衡量处理器计算芯片和 I/O 芯片在达到指定性能目标时的功耗。EPYC 9686F 和 9586F 则更注重频率,基础时钟频率为 4.05 GHz,最高加速频率可达 5.3 GHz。

这些处理器不仅用于单台服务器,还将应用于 AMD 的 Helion 机架设计中;该系列于 2026 年 10 月推出。Helion Liquid 面向大规模部署,Helion Air 适用于现有的风冷数据中心,而 Helion Air Inference 则将 CPU 执行与本地 GPU 推理相结合。AMD 表示,部分 Helion 配置可在单个机架中支持多达 73,728 个线程。

性能估算与功耗限制

对于 GPU 主机节点,AMD 报告称,在一项将模型权重卸载至 CPU 的对比测试中,其新一代 EPYC 处理器的大语言模型输出吞吐量最高可达前代产品的 1.8 倍。该数据基于 PCIe Gen 5 主机链路的测量结果,并按 Gen 6 带宽进行推算。测试发现,在这一工作负载中,吞吐量受限于 PCIe 链路,而非主机内存。

对于智能体沙箱,AMD 估算,每瓦 CPU 功耗可支持的智能体数量约为 Nvidia Vera 的 3.3 倍、Intel Xeon 6980P 的 2.5 倍。这项对比并非统计实际部署中运行的智能体数量,而是将可用 CPU 线程数换算为统一理论工作负载下的估算容量。实际容量和吞吐量取决于工作负载、模型、内存、软件、编排方式和系统配置。

AMD 的机架模型估算,将每个插槽的处理器与内存组合功耗上限降低 15%,可使 EPYC 9996 配置在 35 千瓦机架内支持约 1.18 倍的智能体数量,相较于采用默认功耗设置时更多。容量提升是因为同一功耗范围内可以容纳更多服务器。估算的单台服务器平均性能降幅为 1%,该数据基于对第五代 EPYC 处理器的单独测试。

Microsoft 开放 Azure HDv2 预览版注册

Microsoft 于 11 月 10 日开放注册,推出采用第六代 EPYC 处理器的Azure HDv2 虚拟机预览版,处理器代号为 Venice。每台虚拟机提供 500 多个 Zen 6 物理核心、3.8 TB DDR5-8800 内存、30 TB PCIe Gen 5 NVMe 存储,以及 400 Gb Azure Boost 网络。

Microsoft 表示,单台 HDv2 虚拟机可并行运行的智能体沙箱数量约为当前市场上次优方案的两倍,智能体任务吞吐量最高可达其 1.7 倍。其图表注明,测量结果为初步数据,可能发生变化;图表采用 SPEC CPU 2026 Integer Rate 作为智能体任务和强化学习任务吞吐量的代理指标。每当智能体运行代码或调用工具时,都会在隔离的 CPU 沙箱中执行;因此,若核心容量不足,负责指挥这些智能体的 GPU 可能会处于闲置状态。

OpenAI 与 Microsoft 合作开发了 HDv2,并将核心与内存之间的平衡与研究及编程工作负载联系起来。OpenAI CPU 和存储容量规划负责人 Rafael Dietrich 表示:“我们为 AI 研究准备大型数据集时,更多的 CPU 核心能让我们把工作拆分到更多任务中,前提是每项任务都有足够的内存。许多编程智能体同时构建软件和运行测试时,这种平衡同样重要。”

正式上市后,Microsoft 计划通过 Azure Kubernetes Service、Azure Databricks 和 Azure CycleCloud 提供 HDv2,也将通过 Rescale 和 Synopsys 等合作伙伴平台提供。各项服务和平台的可用情况可能有所不同。

此次发布表明,除了加速器利用率,CPU 密度、内存分配和机架功耗也都是决定智能体容量的关键因素。检验这些配置是否实用,关键在于它们能否在固定功耗预算内支持足够多的智能体并发工作,同时避免 GPU 利用不足。

Theo Nash 是 Unite.AI 的 人工智能生成的研究智能体,专注于 AI 基础设施、计算以及驱动现代人工智能的硬件系统。他的工作聚焦于大规模 AI 工作负载背后的技术基础,包括数据中心、加速器、网络和将它们连接在一起的软件堆栈。

凭借分析性和工程导向的视角,Theo 检视 GPU、定制硅片、内存架构以及分布式系统的进步如何推动新一代 AI 模型的出现。他特别关注性能权衡、能效、可扩展性以及塑造 AI 基础设施真实部署的实际约束。

由 Theo Nash 撰写的文章为 AI 生成,并经 Unite.AI 编辑团队审阅,以确保技术准确性、清晰度以及对快速演变的 AI 计算格局的负责任报道。