CoreWeave sẽ chạy NVIDIA Vera CPU trực tiếp trên phần cứng tại quy mô giá đỡ

CoreWeave cho biết vào ngày 30 tháng 9, 2026 rằng họ sẽ mở rộng danh mục tính toán của mình với NVIDIA Vera CPU, mà họ mô tả là CPU đầu tiên được thiết kế cho các tác nhân AI, và sẽ chạy bộ xử lý này trực tiếp trên phần cứng ở quy mô giá đỡ cho các khối lượng công việc AI tác nhân và học tăng cường.

Tin này được chia sẻ tại Fully Connected, hội nghị đám mây AI của CoreWeave tại San Francisco, mà công ty cho biết quy tụ hơn 4.500 khách hàng, đối tác, nhà phát triển và nhà lãnh đạo AI. Fully Connected 2026 diễn ra từ ngày 29 tháng 9 đến 1 tháng 10, 2026, tại Moscone South, số 747 Howard Street.

Công việc CPU phía sau AI tác nhân

CoreWeave mô tả AI tác nhân hoạt động thông qua một vòng lặp liên tục gồm chạy, quan sát, biên tập, cải thiện và đánh giá. Trong vòng lặp đó, GPU xử lý việc huấn luyện và suy luận mô hình, trong khi CPU thực hiện các công việc xung quanh mỗi bước: các sandbox cách ly, môi trường học tăng cường, lời gọi công cụ, thực thi mã và các pipeline dữ liệu.

CoreWeave cho rằng nhu cầu đối với các pipeline tiền xử lý dữ liệu và các vòng huấn luyện học tăng cường là bùng nổ và khó dự đoán: một bước duy nhất trong vòng lặp có thể yêu cầu hàng nghìn môi trường trong một giờ, sau đó gần như không có gì cho đến lần chạy tiếp theo. Khi các khối lượng công việc sau huấn luyện và AI tác nhân tăng lên, công ty cho biết, công việc tiêu tốn CPU ngày càng chi phối tốc độ của vòng lặp AI, và hạ tầng cần cả mật độ đáp ứng nhu cầu đó và tính linh hoạt để mở rộng khi nhu cầu thay đổi.

Công ty cho biết Vera CPU hoạt động giống như phần còn lại của hệ thống trên CoreWeave: trực tiếp trên phần cứng, dưới cùng một nền tảng, mô hình tiêu thụ và kinh tế.

Triển khai quy mô giá đỡ và CoreWeave Sandboxes

CoreWeave cho biết một chỉ số hiệu năng quan trọng cho AI tác nhân là số lượng môi trường tác nhân cách ly mà một đội có thể chạy đồng thời, và liệu hiệu năng mỗi sandbox có duy trì ổn định khi số lượng này tăng lên. Triển khai Vera quy mô giá đỡ của họ chứa 128 CPU và 11.264 lõi trong một giá đỡ duy nhất, với BlueField-4 DPU và chuyển mạch Ethernet Spectrum‑X kết nối các nút Vera; công ty cho rằng điều này cung cấp khả năng cho hơn 11.000 môi trường đồng thời.

CoreWeave cho biết sản phẩm Sandboxes của họ triển khai các tác nhân này với sự cô lập phần cứng hoàn toàn, đặt ngay bên cạnh các công việc huấn luyện mà chúng hỗ trợ. Trong các thử nghiệm, công ty báo cáo thời gian khởi động sandbox cho tác nhân trên NVIDIA Vera CPU nhanh hơn hơn 3 lần so với trên CPU x86.

“Cơ sở hạ tầng đa mục đích gây tắc nghẽn cho AI tác nhân; Vera là CPU đầu tiên được thiết kế rõ ràng để tăng tốc nó,” Chen Goldberg, phó chủ tịch điều hành về sản phẩm và kỹ thuật tại CoreWeave, nói trong thông báo của công ty. Goldberg cho biết nền tảng của CoreWeave hỗ trợ Vera một cách nguyên bản thông qua các sản phẩm như CoreWeave Sandboxes, cho phép các đội ngay lập tức tạo ra hàng ngàn môi trường cách ly mà không gặp khó khăn vận hành bổ sung.

Ryan Shrout, chủ tịch kiêm giám đốc điều hành tại Signal65, cho biết tỷ lệ ngày càng tăng của mỗi chu kỳ tác nhân là công việc CPU, và tỷ lệ này sẽ chỉ tăng lên khi các triển khai sau huấn luyện và AI tác nhân mở rộng. Ông nói nền tảng xung quanh quyết định liệu các đội thực sự có thể sử dụng được khả năng đó hay không, và sự khác biệt về vận hành xuất phát từ việc chạy công việc CPU trực tiếp trên phần cứng bên cạnh đội ngũ huấn luyện dưới sự điều phối đã có sẵn.

CoreWeave ra mắt CoreWeave Sandboxes vào ngày 14 tháng 5, 2026, như một lớp thực thi cung cấp môi trường an toàn, cách ly, nơi các nhà nghiên cứu AI và các nhóm nền tảng thực hiện học tăng cường, sử dụng công cụ tác nhân và đánh giá mô hình. Nó có sẵn trên hạ tầng CoreWeave riêng của khách hàng thông qua CoreWeave Kubernetes Service hoặc dưới dạng môi trường không máy chủ qua Weights & Biases, kèm theo SDK Python bao gồm quản lý phiên, tích hợp lưu trữ và công cụ giám sát. CoreWeave cho biết theo mặc định mỗi sandbox hoạt động trong một môi trường ảo hoàn toàn cách ly riêng, vì vậy một lỗi hay quá trình chạy vượt mức trong một sandbox không thể lan sang sandbox khác.

CoreWeave cũng chỉ ra kết quả benchmark MLPerf của mình trong suy luận và huấn luyện và vị thế là đám mây AI duy nhất đạt xếp hạng Platinum hàng đầu trong SemiAnalysis ClusterMAX ba lần liên tiếp.

Thông số kỹ thuật NVIDIA Vera CPU

trang sản phẩm Vera CPU của NVIDIA mô tả bộ xử lý được xây dựng cho công việc CPU phía sau AI tác nhân và học tăng cường: thực thi mã, sử dụng công cụ, cô lập sandbox, phân tích, pipeline dữ liệu và điều phối vượt ra ngoài mô hình. Theo NVIDIA, Vera sở hữu 88 lõi Olympus tùy chỉnh, và Spatial Multithreading của nó tạo ra 176 luồng với tài nguyên lõi được phân vùng.

Băng thông bộ nhớ đạt tới 1,2 terabyte mỗi giây trên LPDDR5X, với dung lượng bộ nhớ lên tới 1,5 TB, theo NVIDIA. Một Scalable Coherency Fabric thế hệ thứ hai của NVIDIA kết nối tất cả 88 lõi, bộ nhớ đệm, bộ nhớ, IO và NVLink‑C2C trên một chip tính toán duy nhất với băng thông chia đôi 3,4 TB/s, và NVLink‑C2C cung cấp lên tới 1,8 TB/s băng thông đồng nhất giữa các CPU Vera và GPU NVIDIA, theo công ty.

NVIDIA cho biết Vera chạy các khối tải biên dịch, phân tích mã và chuỗi công cụ Python của vòng lập luận của một tác nhân nhanh hơn tới 1.8x so với các CPU x86 hàng đầu, và rằng hệ thống bộ nhớ LPDDR5X của nó cung cấp băng thông gấp 2x và băng thông trên mỗi lõi gấp 3x so với các CPU x86 hàng đầu sử dụng DDR5. Trang sản phẩm ghi chú rằng các chỉ số hiệu năng tương đối này dựa trên dữ liệu đo được, được chuẩn hoá so với CPU x86 thế hệ mới nhất, và có thể thay đổi.

NVIDIA định vị Vera vừa là CPU chủ cho các hệ thống tăng tốc, bao gồm các nền tảng Vera Rubin NVL72 và HGX Vera Rubin NVL8, vừa là CPU độc lập cho AI tác nhân, học tăng cường, xử lý dữ liệu và phân tích. Theo công ty, Vera CPU Rack, được xây dựng trên nền tảng NVIDIA MGX, có thể chứa tới 256 CPU Vera và chạy hơn 22.5K môi trường đồng thời. Vera Rubin NVL72 kết hợp 72 GPU Rubin, 36 CPU Vera, ConnectX-9 SuperNICs và BlueField-4 DPUs trong một nền tảng quy mô rack.