NVIDIA và Oracle lên kế hoạch mở rộng Vera Rubin trên OCI lên quy mô nhiều gigawatt

Ngày 27 tháng 10 năm 2026, NVIDIA và Oracle công bố kế hoạch mở rộng các siêu cụm Oracle Cloud Infrastructure (OCI) bằng hệ thống NVIDIA Vera Rubin NVL72 lên quy mô nhiều gigawatt, viện dẫn nhu cầu ngày càng tăng của khách hàng đối với việc huấn luyện AI, suy luận và các ứng dụng dạng tác tử. Hai công ty cũng công bố cung cấp rộng rãi Vera Rubin NVL72 và NVIDIA Vera CPU trên OCI, đồng thời cho biết OCI dự định giới thiệu các hệ thống NVIDIA HGX Rubin NVL8.

Theo thông báo, sự hợp tác mở rộng mang đến cho khách hàng hạ tầng phục vụ cả những tác vụ đòi hỏi nhiều GPU như huấn luyện và vận hành các mô hình tiên tiến nhất, lẫn những tác vụ đòi hỏi nhiều CPU mà các tác tử thực hiện giữa những lần gọi mô hình, bao gồm chạy công cụ, kiểm thử mã và truy xuất dữ liệu. Khách hàng có thể mở rộng riêng biệt tài nguyên CPU và GPU để đáp ứng khối lượng công việc, qua đó giúp giảm công suất nhàn rỗi, theo hai công ty.

Kiến trúc siêu cụm OCI và hiệu năng Vera Rubin

Siêu cụm OCI kết hợp các hệ thống NVIDIA NVL72 ở quy mô tủ máy, mạng Oracle Acceleron sử dụng NVIDIA Spectrum-X Ethernet với bộ chuyển mạch Spectrum-6 và DPU BlueField-4, cùng nguồn điện và hệ thống làm mát công suất cấp gigawatt. Mỗi tủ máy kết nối 72 GPU thông qua mạng mở rộng quy mô NVIDIA NVLink, trong khi mạng đa mặt phẳng của OCI mở rộng trên hàng trăm nghìn GPU.

Kế hoạch mở rộng Vera Rubin được xây dựng dựa trên hạ tầng NVIDIA GB200 và GB300 NVL72 hiện có của OCI. Nền tảng phần mềm CUDA dùng chung của NVIDIA cùng các hoạt động tối ưu hóa phần mềm liên tục hỗ trợ khối lượng công việc trên nhiều thế hệ phần cứng.

Trong một bài đăng khác của Oracle đi kèm, công ty cho biết Vera Rubin mang lại thông lượng suy luận trên mỗi watt cao hơn tới 30 lần và hiệu năng huấn luyện tăng gấp 4 lần so với thế hệ Blackwell trước đó. Bài đăng nêu rằng các siêu cụm OCI vận hành tại những khuôn viên có công suất cấp gigawatt, được tối ưu hóa để đạt mật độ cao trong bán kính hai kilômét; hệ thống cấp điện và làm mát bằng chất lỏng được thiết kế cho các hệ thống trải rộng trên nhiều tủ máy; đồng thời, công suất có thể được chuyển đổi giữa huấn luyện các mô hình tiên tiến nhất và suy luận trong môi trường sản xuất.

Theo bài đăng, Oracle Acceleron được xây dựng trên các bộ chuyển mạch Ethernet Spectrum-X tốc độ 102,4 Tb/s, kết hợp với SuperNIC ConnectX-9 và DPU BlueField-4. Giao thức Multipath Reliable Connection phân tán các gói tin từ một kết nối đơn lẻ qua hàng trăm đường truyền bằng kiến trúc tám mặt phẳng; khi kết hợp với mạng đa mặt phẳng và định tuyến nguồn SRv6 của Oracle, giao thức này cho phép xây dựng các mạng hai tầng hỗ trợ hơn 131.000 GPU.

Các hệ thống HGX Rubin NVL8 dự kiến ra mắt

OCI dự định giới thiệu NVIDIA HGX Rubin NVL8, cung cấp tám GPU Rubin kết nối qua NVLink trong cấu hình máy chủ dựa trên x86. Nền tảng dự kiến này có hai CPU Intel Xeon 6 64 lõi, bộ nhớ DDR5 4TB và mạng RDMA tốc độ cao 6,4 Tbps, mang đến lựa chọn triển khai cho việc huấn luyện AI, tinh chỉnh và suy luận. Theo thông báo, HGX Rubin NVL8 cho phép khách hàng áp dụng công nghệ GPU Rubin thế hệ tiếp theo trong cấu hình triển khai nhỏ hơn với tám GPU, đồng thời vẫn duy trì khả năng tương thích với các ứng dụng dựa trên x86.

NVIDIA Vera CPU trên OCI

Oracle cũng công bố cung cấp rộng rãi OCI Compute với NVIDIA Vera CPU, với đợt triển khai ban đầu gồm 150.000 CPU tại các khu vực của Oracle. Một bài đăng riêng của Oracle về việc cung cấp dịch vụ cho biết các CPU này được cung cấp thông qua các phiên bản Bare Metal và máy ảo Flex Virtual Machine, đồng thời sẽ có mặt tại một số khu vực được chọn trong quý IV năm 2026. Oracle tự nhận là nhà cung cấp dịch vụ đám mây quy mô siêu lớn đầu tiên đưa Vera CPU ra thị trường.

Mỗi bộ xử lý Vera có 88 lõi NVIDIA Olympus tùy chỉnh tương thích với Arm và 176 luồng được kích hoạt bằng công nghệ NVIDIA Spatial Multithreading, băng thông bộ nhớ lên tới 1,2 TB/s và NVIDIA Scalable Coherency Fabric thế hệ thứ hai, cung cấp băng thông phân đôi 3,4 TB/s. Các phiên bản hai bộ xử lý của OCI cung cấp tổng cộng 176 lõi và 352 luồng trên hai bộ xử lý Vera, 1TB bộ nhớ hệ thống LPDDR5X, 7,68TB dung lượng lưu trữ NVMe cục bộ và mạng Acceleron 200 Gbps.

NVIDIA cho biết hiệu năng CPU cho các tác vụ dạng tác tử nhanh hơn tới 80% so với các CPU x86 hàng đầu. Bài đăng của Oracle lưu ý rằng các kết quả này dựa trên điểm chuẩn nền tảng của NVIDIA, chứ không phải thử nghiệm ở cấp phiên bản OCI; hiệu năng thực tế thay đổi tùy theo khối lượng công việc và cấu hình.

Thông báo nhấn mạnh vai trò của CPU trong các tác vụ đứng sau những tác tử AI: giữa các lần gọi mô hình, tác tử gọi công cụ, chạy mã và truy xuất thông tin; nếu những thao tác đòi hỏi nhiều CPU này chạy chậm, kết quả có thể bị trì hoãn và GPU phải chờ. Trong mô hình này, OCI Kubernetes Engine cho phép khách hàng mở rộng riêng biệt tài nguyên CPU và GPU, còn Oracle Acceleron cung cấp cơ chế cô lập dựa trên phần cứng cho các khối lượng công việc chạy mã do AI tạo ra nhưng không đáng tin cậy.

Triển khai OpenAI và phát biểu của lãnh đạo

OpenAI đã huấn luyện và vận hành GPT-6 Astra trên một siêu cụm OCI có hơn 100.000 GPU NVIDIA Blackwell tại Abilene, Texas.

Sreekanth Pothanis, lãnh đạo bộ phận kỹ thuật về hạ tầng điện toán tại OpenAI, cho biết: “NVIDIA Vera Rubin trên OCI mang đến cho chúng tôi hiệu năng và quy mô điện toán cần thiết để đẩy nhanh quá trình huấn luyện mô hình và phục vụ các khối lượng công việc AI ngày càng đòi hỏi cao.”

Uday Ruddarraju, giám đốc công nghệ phụ trách điện toán tại OpenAI, cho biết CPU Vera trên OCI mang lại hiệu năng cần thiết để thực thi mã và chạy công cụ trong các khối lượng công việc sandbox dành cho AI tác tử đang tăng trưởng nhanh chóng của công ty. Ông nói: “Chúng tôi đang đưa Vera vào vận hành trên OCI để hỗ trợ các khối lượng công việc này ở quy mô lớn.”

Mahesh Thiagarajan, chủ tịch Oracle Cloud Infrastructure, cho biết OCI mang đến cho khách hàng hiệu năng, bảo mật và khả năng mở rộng cần thiết để thúc đẩy AI tiên phong; sự hợp tác với NVIDIA mở rộng những năng lực đó trên cả ba lĩnh vực huấn luyện, suy luận và AI tác tử. Ian Buck, phó chủ tịch phụ trách điện toán siêu quy mô và điện toán hiệu năng cao của NVIDIA, cho biết hai công ty đang đưa Vera Rubin và CPU Vera lên OCI nhằm giúp khách hàng khai thác hiệu quả hơn cơ sở hạ tầng của mình và duy trì giá trị của cơ sở hạ tầng đó khi AI phát triển.

Phần mềm trên toàn bộ hệ sinh thái Oracle

Theo bài đăng của Oracle, sự hợp tác này mở rộng từ cơ sở hạ tầng sang các dịch vụ nền tảng và phần mềm doanh nghiệp. NVIDIA Dynamo đưa khả năng suy luận phân tách lên Oracle Kubernetes Engine, bổ sung năng lực phần mềm suy luận bên cạnh khả năng tính toán và kết nối mạng của OCI. Oracle Database Index Service v2 sử dụng NVIDIA cuVS để tăng tốc quá trình tìm kiếm vectơ và tạo chỉ mục; theo Oracle, giải pháp này cho phép tạo chỉ mục nhanh gấp 5 lần so với việc chuyển tải tác vụ sang CPU. Oracle AI Accelerator Packs tích hợp NVIDIA cuOpt, một công cụ tối ưu hóa mã nguồn mở được tăng tốc bằng GPU.

Oracle và NVIDIA đang cùng tối ưu hóa Oracle AI Media Models để tạo hình ảnh bằng NVIDIA GB300; các tối ưu hóa ban đầu đã được tích hợp và hiện các mô hình chỉ khả dụng tại Hoa Kỳ. NVIDIA Nemotron vận hành tác tử phân nhóm của Oracle Health Data Intelligence, cho phép các nhóm chăm sóc sức khỏe truy vấn dữ liệu bệnh nhân bằng ngôn ngữ tự nhiên. Oracle dự kiến triển khai tác tử này tại EMEA, đồng thời lên kế hoạch triển khai rộng hơn trong quý I năm 2027.