Oracle Acceleron bổ sung RDMA mặt trước và khả năng chuyển đổi dự phòng đa mặt phẳng cho AI

Oracle công bố các khả năng kết nối mạng đám mây Oracle Acceleron mới dành cho khối lượng công việc AI tại Oracle AI World ở Las Vegas vào ngày 27 tháng 10 năm 2026. Các khả năng này bao gồm kết nối RDMA mặt trước, mở rộng các tùy chọn lưu trữ khối NVMe mà theo Oracle có thể cải thiện hiệu năng lên đến 3 lần, cùng thư viện truyền thông tập thể dành cho các mạng đa mặt phẳng của hãng.

Oracle Acceleron là bộ công nghệ mạng và hạ tầng của Oracle Cloud Infrastructure, giúp vận hành đáng tin cậy, an toàn và ở quy mô lớn các khối lượng công việc AI đòi hỏi cao. Bộ giải pháp này kết hợp các nền tảng mạng chuyên dụng, đường truyền dữ liệu trực tiếp hơn và NIC hội tụ, cùng cơ chế định tuyến zero-trust ở cấp máy chủ và thiết kế đa mặt phẳng nhằm tăng cường bảo mật, khả năng phục hồi. Các khả năng mới thuộc ba lĩnh vực: di chuyển dữ liệu AI, truyền thông AI phân tán và hạ tầng AI đa người thuê an toàn.

“Khi hàng nghìn bộ tăng tốc phối hợp hoạt động, chỉ một đường truyền bị tắc nghẽn hoặc gặp sự cố cũng có thể gây hậu quả vượt xa phạm vi của một kết nối đơn lẻ”, Pradeep Vincent, phó chủ tịch điều hành phụ trách Điện toán và Hạ tầng AI tại OCI, cho biết trong thông báo của Oracle. Vincent nói công ty đang phát triển Acceleron để ứng phó bằng cách định tuyến lại lưu lượng, khắc phục sự cố và giúp khách hàng mở rộng quy mô một cách an toàn.

RDMA mặt trước và lưu trữ NVMe

Khả năng mới đầu tiên, Oracle Acceleron High-Performance Fabric, đưa kết nối RDMA đến hạ tầng điện toán mặt trước của OCI. Oracle cho biết giải pháp này giúp khách hàng triển khai các khối lượng công việc suy luận, lưu trữ và điện toán hiệu năng cao với hiệu năng tốt hơn. Khả năng thứ hai là mở rộng các tùy chọn kết nối lưu trữ khối NVMe trên các cấu hình máy chủ vật lý và máy ảo Oracle Acceleron; theo thông báo, điều này giúp cải thiện hiệu năng lên đến 3 lần cho các khối lượng công việc AI, cơ sở dữ liệu và những tác vụ khác đòi hỏi xử lý nhiều dữ liệu.

Trong bài viết kỹ thuật trên blog OCI của Oracle, các tác giả mô tả RDMA là phương thức truyền dữ liệu trực tiếp giữa bộ nhớ trên các máy khác nhau với mức can thiệp tối thiểu của CPU, bỏ qua phần lớn các khâu xử lý của hệ điều hành và phần mềm vốn có trong quá trình truyền dữ liệu thông thường. Nhờ đó, phương thức này giảm độ trễ, duy trì thông lượng cao và dành thêm năng lực CPU cho các ứng dụng. Các tác giả viết rằng lợi ích đó không chỉ giới hạn ở giao tiếp giữa GPU với GPU mà còn áp dụng cho việc truy cập lưu trữ và truyền dữ liệu giữa các cụm; tuy nhiên, RDMA rất nhạy cảm với tình trạng tắc nghẽn, độ trễ và mất gói tin trên mạng dùng chung có nhiều loại khối lượng công việc.

Một vấn đề về tính công bằng là RDMA thường sử dụng cơ chế kiểm soát tắc nghẽn dựa trên tốc độ, trong khi TCP dùng cơ chế dựa trên cửa sổ; tùy theo kiểu lưu lượng, một vòng điều khiển có thể lấn át vòng kia. Để duy trì tính công bằng, bài viết cho biết Oracle Acceleron SmartNIC sử dụng các nhóm token bucket phân cấp để theo dõi mức tiêu thụ băng thông của lưu lượng RDMA và không dùng RDMA: một nhóm cha đại diện cho băng thông dùng chung, với các nhóm con dành cho từng lớp lưu lượng. Khi số token giảm, SmartNIC đánh dấu ngẫu nhiên các gói tin có hỗ trợ ECN hoặc loại bỏ những gói tin không thể phản hồi, qua đó tạo ra tín hiệu tắc nghẽn tăng dần. Cơ chế này tận dụng băng thông hiệu quả, cho phép mỗi lớp lưu lượng sử dụng phần băng thông chưa dùng của lớp kia; cơ chế cũng xử lý tình trạng dồn lưu lượng (incast) xảy ra khi một bộ chuyển mạch đặt trên cùng của tủ mạng kết nối với SmartNIC.

Để xử lý tình trạng tắc nghẽn bên trong mạng, OCI sử dụng cơ chế kiểm soát tắc nghẽn dựa trên độ trễ một chiều trong các Acceleron SmartNIC. Các tác giả giải thích rằng việc đo độ trễ trên đường truyền xuôi tránh được tín hiệu tắc nghẽn sai mà phép đo khứ hồi có thể tạo ra khi chỉ đường truyền ngược bị tắc nghẽn. Khi một luồng có độ trễ tăng cao, SmartNIC thăm dò ba đường truyền thay thế và chuyển luồng sang đường tốt hơn nếu tìm được; nếu không, thiết bị sẽ báo hiệu tắc nghẽn bằng cách đánh dấu ECN hoặc loại bỏ gói tin. RDMA mặt trước của OCI hỗ trợ mọi loại queue pair và verbs, cho phép khách hàng chạy các ứng dụng hiện có mà không cần sửa đổi.

Truyền thông tập thể và chuyển đổi dự phòng đa mặt phẳng

Các khả năng truyền thông phân tán trong thông báo gồm Oracle Collective Communications Library, hay OCCL, và Transparent Front-End Multiplanar Networking. Oracle cho biết OCCL giúp duy trì hoạt động của các khối lượng công việc AI phân tán khi đường truyền mạng gặp sự cố bằng cách phân tán lưu lượng tập thể trên Multiplanar Network phía sau của OCI, điều hướng lưu lượng sang các đường truyền có trạng thái tốt hơn và khôi phục hoạt động khi liên kết, cổng hoặc NIC gặp sự cố. Transparent Front-End Multiplanar Networking đưa mạng đa mặt phẳng vào các mạng mặt trước, với tính năng lựa chọn đường truyền và chuyển đổi dự phòng minh bạch được tích hợp sẵn, đồng thời kiểm soát tắc nghẽn minh bạch cho lưu lượng RDMA mặt trước.

Bài viết trên blog trình bày vấn đề dưới góc độ huấn luyện: các tác vụ đồng bộ chỉ chạy nhanh bằng liên kết chậm nhất trong chuỗi, vì vậy chỉ một đường truyền bị tắc nghẽn hoặc gặp sự cố cũng có thể khiến toàn bộ khối lượng công việc chậm lại. Trong khi đó, cơ chế chuyển tiếp đa đường có chi phí bằng nhau tiêu chuẩn ghim các luồng vào những đường truyền cụ thể mà không xét đến kích thước của chúng, dẫn đến mức sử dụng liên kết không đồng đều. Các tác giả viết rằng mạng đa mặt phẳng cũng đòi hỏi NIC nhiều cổng có chức năng chuyên biệt, điều không phải lúc nào cũng khả thi; OCI đã xây dựng OCCL để loại bỏ hạn chế đó đối với các khối lượng công việc AI và học máy nói chung.

OCCL là một plugin dành cho các thư viện giao tiếp tập thể được sử dụng phổ biến, vốn được các khung AI dùng để điều phối việc trao đổi dữ liệu giữa các GPU. Theo bài đăng, OCCL phân phối lưu lượng trên nhiều cặp hàng đợi, gửi nhiều lưu lượng hơn qua những cặp hàng đợi có thông lượng cao hơn và chủ động chuyển lưu lượng sang các đường dẫn ít tắc nghẽn hơn. Cơ chế này triển khai cân bằng tải ở cấp thông điệp và cấp phân đoạn, có nhận biết tắc nghẽn, thông qua giao diện plugin mạng CCL tiêu chuẩn. OCCL phân bổ động các thông điệp giao tiếp tập thể trên những cặp hàng đợi Reliable Connection tiêu chuẩn dựa trên tình trạng tắc nghẽn và trạng thái hoạt động được ghi nhận; đồng thời hỗ trợ chuyển đổi dự phòng ở cấp cổng và cấp NIC, định tuyến lại giao tiếp tập thể sau khi liên kết hoặc NIC gặp sự cố để quá trình huấn luyện phân tán tiếp tục mà không cần khởi động lại tác vụ.

Các tác giả viết rằng việc đưa chức năng chuyển đổi dự phòng, khôi phục và cân bằng tải có nhận biết tắc nghẽn vào lớp CCL giúp tách những chức năng này khỏi phần cứng và phần sụn mạng, đồng thời cho phép chúng hoạt động trên cả mạng đơn mặt phẳng lẫn mạng đa mặt phẳng. Họ nói thêm rằng khách hàng không cần bộ điều khiển định tuyến phức tạp để chọn đường dẫn hoặc phát hiện thay đổi trên đường dẫn. Bài đăng, đề ngày 27 tháng 10 năm 2026, do Jag Brar, phó chủ tịch kiêm kỹ sư xuất sắc phụ trách vận hành mạng OCI; Vincent; và Joy Ganguly, kiến trúc sư của OCI, chấp bút.