AMD ra mắt chip EPYC Zen 6, tăng mật độ triển khai tác nhân AI

AMD thông báo các bộ xử lý máy chủ EPYC SP7 thế hệ thứ sáu đã chính thức được cung cấp rộng rãi vào ngày 10 tháng 11 năm 2026. Các nhà cung cấp máy chủ sẽ bắt đầu giao hệ thống, còn các phiên bản trên Microsoft Azure và Oracle Cloud Infrastructure dự kiến sớm ra mắt. Dòng sản phẩm Zen 6 gồm 10 mẫu, hướng đến việc thực thi tác vụ của tác nhân AI, các nút máy chủ GPU và ứng dụng doanh nghiệp.

Thông báo tập trung vào các tác vụ CPU xoay quanh mô hình AI. Một quy trình làm việc dựa trên tác nhân có thể điều phối các tác nhân, gọi mô hình, truy xuất thông tin, thực thi mã và kết nối với cơ sở dữ liệu cũng như ứng dụng doanh nghiệp hiện có. AMD chia hạ tầng phục vụ các tác vụ này thành dịch vụ đa dụng, nút máy chủ GPU và môi trường cô lập cho tác nhân; tần số bộ xử lý, mật độ, băng thông và hiệu suất được điều chỉnh theo từng tác vụ, trên nền tảng phần mềm, bảo mật và vận hành x86 thống nhất.

Tần số và mật độ trong dòng SP7

Dòng EPYC 9006 SP7 có các mẫu từ 64 đến 256 lõi và từ 128 đến 512 luồng. Công nghệ đa luồng đồng thời cho phép mỗi lõi chạy hai luồng; trong khi đó, các lõi Zen 6 và Zen 6c cân bằng giữa hiệu năng tần số cao cho nút máy chủ AI và khả năng thực thi song song với mật độ cao hơn cho tác nhân. Nền tảng này cũng hỗ trợ PCIe Gen 6.

Ở phân khúc cao nhất của dòng sản phẩm, EPYC 9996 và 9956 đều có bộ nhớ đệm L3 dung lượng 1.024 MB. EPYC 9996 có xung nhịp cơ bản 2,55 GHz, tăng tốc lên 4,1 GHz và mức công suất CPU mặc định là 600 W; mức này có thể cấu hình trong khoảng từ 400 W đến 600 W. Công suất CPU mặc định đo mức tiêu thụ điện trên các khuôn tính toán và I/O của bộ xử lý để đạt mục tiêu hiệu năng đã nêu. Trong khi đó, EPYC 9686F và 9586F ưu tiên tần số, với xung nhịp cơ bản 4,05 GHz và tốc độ tăng tốc lên đến 5,3 GHz.

Ngoài các máy chủ riêng lẻ, bộ xử lý này còn được tích hợp vào các thiết kế tủ rack Helion của AMD, được giới thiệu vào tháng 10 năm 2026. Helion Liquid dành cho các đợt triển khai quy mô lớn, Helion Air hướng đến các trung tâm dữ liệu hiện có sử dụng hệ thống làm mát bằng không khí, còn Helion Air Inference kết hợp xử lý bằng CPU với suy luận GPU tại chỗ. AMD cho biết một số cấu hình Helion đạt tới 73.728 luồng trong một tủ rack.

Ước tính hiệu năng và giới hạn công suất

Đối với các nút máy chủ GPU, AMD báo cáo thông lượng đầu ra mô hình ngôn ngữ lớn cao hơn tới 1,8 lần so với bộ xử lý EPYC thế hệ trước trong phép so sánh chuyển tải trọng số mô hình sang CPU. Con số này dựa trên các phép đo qua kết nối máy chủ PCIe Gen 5, được ước tính theo băng thông Gen 6. Thử nghiệm xác định kết nối PCIe, chứ không phải bộ nhớ máy chủ, là yếu tố giới hạn thông lượng trong khối lượng công việc đó.

Đối với môi trường cô lập cho tác nhân, AMD ước tính số tác nhân trên mỗi watt CPU cao hơn khoảng 3,3 lần so với Nvidia Vera và 2,5 lần so với Intel Xeon 6980P. Thay vì đếm số tác nhân trong một đợt triển khai thực tế, phép so sánh quy đổi số luồng CPU khả dụng thành năng lực ước tính trong cùng một khối lượng công việc giả định. Năng lực thực tế và thông lượng phụ thuộc vào khối lượng công việc, mô hình, bộ nhớ, phần mềm, hoạt động điều phối và cấu hình hệ thống.

Mô hình tủ rack của AMD ước tính rằng việc giảm 15% giới hạn công suất kết hợp của bộ xử lý và bộ nhớ trên mỗi socket sẽ giúp cấu hình EPYC 9996 hỗ trợ số tác nhân nhiều hơn khoảng 1,18 lần trong một tủ rack 35 kilowatt so với khi dùng mức công suất mặc định. Năng lực tăng thêm đến từ việc lắp được nhiều máy chủ hơn trong cùng giới hạn công suất. Mức giảm hiệu năng trung bình ước tính trên mỗi máy chủ là 1%, dựa trên thử nghiệm riêng với bộ xử lý EPYC thế hệ thứ năm.

Microsoft mở bản xem trước Azure HDv2

Ngày 10 tháng 11, Microsoft mở đăng ký tham gia bản xem trước máy ảo Azure HDv2, được xây dựng trên bộ xử lý EPYC thế hệ thứ sáu có tên mã Venice. Mỗi máy ảo cung cấp hơn 500 lõi Zen 6 vật lý, 3,8 terabyte bộ nhớ DDR5-8800, 30 TB bộ nhớ lưu trữ PCIe Gen 5 NVMe và Azure Boost Networking 400 Gb.

Microsoft cho biết một máy ảo HDv2 có thể chạy song song số môi trường cô lập cho tác nhân nhiều gấp khoảng hai lần so với lựa chọn thay thế tốt nhất hiện có trên thị trường, đồng thời đạt thông lượng tác vụ dựa trên tác nhân cao hơn tới 1,7 lần. Các biểu đồ của hãng ghi rõ số liệu chỉ là sơ bộ và có thể thay đổi; phép đo sử dụng SPEC CPU 2026 Integer Rate làm chỉ số đại diện cho thông lượng tác vụ dựa trên tác nhân và học tăng cường. Mỗi khi tác nhân chạy mã hoặc gọi công cụ, tác nhân sẽ hoạt động trong một môi trường cô lập trên CPU; vì vậy, nếu không đủ năng lực lõi, các GPU điều phối những tác nhân đó có thể bị để không.

OpenAI đã hợp tác với Microsoft trong dự án HDv2 và liên hệ sự cân bằng giữa số lõi với bộ nhớ với cả khối lượng công việc nghiên cứu lẫn lập trình. “Khi chuẩn bị các tập dữ liệu lớn cho nghiên cứu AI, có thêm lõi CPU cho phép chúng tôi chia công việc thành nhiều tác vụ hơn, miễn là mỗi tác vụ có đủ bộ nhớ. Sự cân bằng đó cũng rất quan trọng khi nhiều tác nhân lập trình cùng lúc xây dựng phần mềm và chạy thử nghiệm”, Rafael Dietrich, người đứng đầu bộ phận hoạch định năng lực CPU và lưu trữ của OpenAI, cho biết.

Khi chính thức được cung cấp rộng rãi, Microsoft dự kiến cung cấp HDv2 thông qua Azure Kubernetes Service, Azure Databricks và Azure CycleCloud, cũng như các nền tảng đối tác gồm Rescale và Synopsys. Mức độ sẵn có có thể khác nhau giữa các dịch vụ và nền tảng này.

Đợt ra mắt này khiến mật độ CPU, phân bổ bộ nhớ và công suất tủ rack trở thành những yếu tố then chốt quyết định năng lực xử lý tác vụ của tác nhân, bên cạnh mức độ sử dụng bộ tăng tốc. Phép thử thực tế đối với các cấu hình này là chúng có thể duy trì bao nhiêu tác vụ của tác nhân chạy đồng thời trong giới hạn công suất cố định mà không để GPU bị sử dụng chưa hết công suất.