NVIDIA đặt CPU Vera cạnh x86 để so sánh tốc độ tác tử và khả năng đáp ứng trong giới hạn công suất

Ngày 5 tháng 11 năm 2026, NVIDIA công bố kết quả mới về CPU Vera, cho biết một phép so sánh trong trung tâm dữ liệu công suất 100 megawatt cho thấy tốc độ tác tử nhanh gấp 2 lần so với CPU x86 tiết kiệm năng lượng nhất và số tác tử trên mỗi watt nhiều hơn 1,6 lần so với CPU x86 nhanh nhất.

Những con số này phản ánh các giới hạn vận hành khác nhau. Các tác vụ của tác tử liên tục chuyển từ suy luận trên GPU sang thực thi trên CPU để tìm kiếm, truy vấn cơ sở dữ liệu, viết và kiểm thử mã cũng như thực hiện các hành động khác. Vì vậy, các đơn vị vận hành cần vừa có những tác tử riêng lẻ phản hồi nhanh, vừa đủ năng lực xử lý đồng thời để duy trì năng suất cho cơ sở bị giới hạn về công suất điện. NVIDIA định vị Vera là bộ xử lý đơn lẻ đáp ứng cả hai yêu cầu, thay vì kết hợp các CPU x86 tốc độ cao với những CPU có mật độ lõi cao.

Các thử nghiệm trong môi trường sản xuất đo tốc độ và khả năng xử lý đồng thời

Perplexity cho biết các thử nghiệm ban đầu cho thấy những quy trình kiểu Computer chạy nhanh hơn khoảng 1,5 lần so với cấu hình tham chiếu mà hãng đang dùng trong môi trường sản xuất, còn các hộp cát khởi chạy đồng thời nhanh hơn tới 1,9 lần. Kết quả này cũng là phép thử ở phía máy chủ cho SPACE, nền tảng hộp cát của Perplexity, sử dụng các môi trường tạm thời cho từng tác vụ và phiên làm việc; những phiên này có thể tạm dừng, tiếp tục hoặc phân nhánh các công việc kéo dài. NVIDIA cho biết Perplexity dự định triển khai Vera trong một hệ thống sản xuất sắp tới.

Các thử nghiệm của DeepInfra ngày 21 tháng 7 năm 2026 phát lại lưu lượng đã ghi nhận từ tác tử trong môi trường sản xuất với tốc độ cố định và không tạo token mô hình trực tiếp, qua đó loại bỏ tính ngẫu nhiên của mô hình khỏi phép so sánh. Vera, AMD Zen 5, Intel Granite Rapids và Intel Sapphire Rapids được giới hạn trong các phân vùng giống hệt nhau, mỗi phân vùng có 20 lõi vật lý, một nút NUMA và một luồng trên mỗi lõi; các lượt chạy vượt quá giới hạn lõi đều bị loại bỏ.

DeepInfra đo được thời gian thực hiện các bước điều phối trên máy chủ vật lý là 29 mili giây với Vera, so với 35 mili giây trên AMD Zen 5, 51 mili giây trên Granite Rapids và 64 mili giây trên Sapphire Rapids. Như vậy, Vera nhanh nhất trong bốn bộ xử lý và nhanh hơn 1,2 lần so với kết quả x86 tốt nhất. Trong các máy ảo siêu nhỏ bảo mật, với yêu cầu giới hạn phản hồi ở phân vị thứ 99 là sáu giây và không có lỗi, Vera duy trì được 256 tác tử chạy đồng thời. Các bộ xử lý đời trước duy trì được 160 tác tử, dù Granite Rapids đạt 192 trong lượt chạy tốt nhất.

Các thử nghiệm tương tự cũng phát hiện một chi phí mà bộ xử lý nào cũng phải chịu. Việc cô lập hộp cát bằng máy ảo siêu nhỏ bảo mật làm hiệu năng giảm 1,5–2 lần đối với các tác vụ thông thường và khoảng 5–13,5 lần khi tạo tiến trình, trên mọi kiến trúc. DeepInfra nhận thấy Vera hoạt động tốt nhất trong cấu hình này, nhưng cũng xác định chính lớp cô lập là cơ hội còn lại để lưu trữ hiệu quả hơn các tác tử không đáng tin cậy, phục vụ nhiều bên thuê.

Ngày 7 tháng 10 năm 2026, Daytona cho biết Vera chuẩn bị 1.000 hộp cát trong 10,8 giây, so với 32,3 giây trên EPYC 9575F của AMD và 88,4 giây trên EPYC 9755. Vera cần 27,4 giây để chuẩn bị 2.000 hộp cát. Khi 2.000 hộp cát chạy đồng thời cùng một tác vụ của tác tử lập trình, hệ thống hoàn thành 12,7 tác vụ của tác tử mỗi giây, so với 10,9 trên EPYC 9755 và 8,1 trên EPYC 9575F.

Kết quả cơ sở dữ liệu cho thấy giới hạn mở rộng hiệu năng

Ngày 21 tháng 10 năm 2026, ClickHouse cho biết phiên bản nhị phân tiêu chuẩn, không được tinh chỉnh riêng cho Vera, đã đứng đầu bảng xếp hạng phần cứng ClickBench trên một hệ thống Vera hai socket với 176 lõi vật lý và 352 luồng phần cứng. Các bài kiểm tra lọc, tổng hợp và kết nối dữ liệu đòi hỏi nhiều năng lực tính toán mở rộng gần như tỷ lệ thuận cho đến khi sử dụng hết số lõi vật lý. Một phép lọc chuỗi con đơn giản hơn không còn tăng hiệu năng đáng kể khi vượt quá 64 luồng, thời điểm thông lượng bộ nhớ đã gần chạm giới hạn băng thông của hệ thống. Sự khác biệt đó cho thấy chỉ dựa vào số lõi thì không thể dự đoán năng lực xử lý tác tử: các tác vụ đòi hỏi nhiều tính toán có thể tận dụng mức song song sẵn có, còn những tác vụ bị giới hạn bởi bộ nhớ sẽ không hưởng lợi thêm từ việc tăng số luồng.

Ngày 16 tháng 10 năm 2026, DuckDB cho biết Vera chạy nhanh hơn 1,53–1,61 lần trong bài kiểm tra công suất và nhanh hơn 1,37–1,41 lần trong bài kiểm tra thông lượng so với cấu hình Intel Xeon 6 làm cơ sở. DuckDB sử dụng một socket Vera với 88 luồng và cấu hình hệ thống Xeon với 96 luồng. Khối lượng công việc suy ra ở hệ số quy mô 1.000 không đáp ứng mọi yêu cầu của TPC-H và không thể so sánh với các kết quả TPC-H đã công bố.

Kiến trúc Vera hướng đến cả hai vai trò

Theo thông số kỹ thuật của Vera do NVIDIA công bố, mỗi CPU có 88 lõi Olympus tùy chỉnh; công nghệ Spatial Multithreading cung cấp 176 luồng. Bộ xử lý còn có băng thông bộ nhớ LPDDR5X lên tới 1,2 TB/s và dung lượng bộ nhớ tối đa 1,5 TB. Scalable Coherency Fabric thế hệ thứ hai kết nối các lõi, bộ nhớ đệm, bộ nhớ, I/O và NVLink-C2C trên cùng một khuôn tính toán, với băng thông hai chiều 3,4 TB/s. NVLink-C2C cung cấp băng thông nhất quán lên tới 1,8 TB/s giữa CPU Vera và GPU NVIDIA.

Vera có thể hoạt động như CPU chủ trong các hệ thống Vera Rubin hoặc như một bộ xử lý độc lập cho AI tác tử, học tăng cường, xử lý dữ liệu và phân tích dữ liệu. Các lựa chọn triển khai bao gồm hệ thống tiêu chuẩn một socket và hai socket, cùng một tủ rack mật độ cao làm mát bằng chất lỏng.

Đối với các đơn vị vận hành hạ tầng, điều cần lưu ý trên thực tế là không thể đánh giá năng lực xử lý tác tử chỉ qua số lõi hoặc một tỷ lệ tốc độ đơn lẻ. Các kết quả cho thấy mức cải thiện tiềm năng của Vera phụ thuộc vào năng lực tính toán, bộ nhớ và khả năng kết nối; tuy nhiên, thử nghiệm của các đối tác cũng cho thấy việc cô lập hộp cát và các tác vụ bị giới hạn bởi bộ nhớ có thể quyết định mức tiềm năng thực sự đạt được trong môi trường sản xuất.