Oracle Acceleron, AI를 위한 프런트엔드 RDMA 및 다중 평면 장애 조치 추가

Oracle은 2026년 10월 27일 라스베이거스에서 열린 Oracle AI World에서 AI 워크로드를 위한 새로운 Oracle Acceleron 클라우드 네트워킹 기능을 발표했다. 여기에는 프런트엔드 RDMA 연결, 성능을 최대 3배 높인다고 Oracle이 밝힌 NVMe 블록 스토리지 옵션 확대, 다중 평면 네트워크용 집합 통신 라이브러리가 포함된다.

Oracle Acceleron은 까다로운 AI 워크로드를 안정적이고 안전하게, 대규모로 실행하기 위한 Oracle Cloud Infrastructure의 네트워킹 및 인프라 기술 제품군이다. 전용 네트워크 패브릭, 더 직접적인 데이터 경로, 통합 NIC에 호스트 수준의 제로 트러스트 라우팅과 보안 및 복원력을 위한 다중 평면 설계를 결합한다. 새로운 기능은 AI 데이터 이동, 분산 AI 통신, 안전한 멀티테넌트 AI 인프라라는 세 영역에 걸쳐 있다.

OCI의 컴퓨팅 및 AI 인프라 담당 부사장 프라딥 빈센트는 Oracle의 발표에서 “수천 개의 가속기가 함께 작동할 때 혼잡하거나 장애가 발생한 경로 하나가 단일 연결을 훨씬 넘어서는 영향을 미칠 수 있다”고 말했다. 빈센트는 Oracle이 트래픽 경로를 재설정하고 장애에서 복구하며 고객의 안전한 확장을 지원하도록 Acceleron을 구축하고 있다고 밝혔다.

프런트엔드 RDMA 및 NVMe 스토리지

첫 번째 신규 기능인 Oracle Acceleron High-Performance Fabric은 RDMA 연결을 OCI 프런트엔드 컴퓨팅에 제공하며, Oracle은 이를 통해 고객이 추론, 스토리지, HPC 워크로드를 더 높은 성능으로 배포할 수 있다고 밝혔다. 두 번째 기능은 Oracle Acceleron 베어메탈 및 가상 머신 구성에서 NVMe 블록 스토리지 연결 옵션을 확대하는 것으로, 발표에 따르면 AI, 데이터베이스 및 기타 데이터 집약적 워크로드의 성능을 최대 3배 높인다.

Oracle의 OCI 블로그에 게시된 기술 글에서 저자들은 RDMA가 서로 다른 머신의 메모리 간에 데이터를 직접 이동해 CPU 개입을 최소화한다고 설명했다. 기존 전송 방식에서 운영체제와 소프트웨어가 수행하는 처리의 상당 부분을 우회하므로 지연 시간을 줄이고 높은 처리량을 유지하며 애플리케이션에 더 많은 CPU 용량을 할당할 수 있다. 저자들은 이러한 이점이 GPU 간 통신뿐 아니라 스토리지 액세스와 클러스터 간 전송에도 적용되지만, RDMA는 여러 워크로드가 공유하는 네트워크에서 혼잡, 지연 시간, 패킷 손실에 매우 민감하다고 덧붙였다.

공정성을 해칠 수 있는 한 가지 문제는 RDMA가 일반적으로 속도 기반 혼잡 제어를 사용하는 반면 TCP는 윈도 기반 제어를 사용한다는 점이다. 트래픽 패턴에 따라 한 제어 루프가 다른 쪽을 압도할 수 있다. 공정성을 유지하기 위해 Oracle Acceleron SmartNIC은 계층형 토큰 버킷을 사용해 RDMA 트래픽과 비RDMA 트래픽의 대역폭 사용량을 추적한다고 해당 글은 설명한다. 상위 버킷은 공유 대역폭을 나타내고 각 트래픽 클래스에는 하위 버킷이 할당된다. 토큰이 소진되면 SmartNIC은 확률적으로 ECN 지원 패킷에 표시를 하거나, 이에 대응할 수 없는 패킷을 폐기해 점진적인 혼잡 신호를 만든다. 이 방식은 작업 보존형이므로 어느 트래픽 클래스든 사용되지 않는 대역폭을 빌려 쓸 수 있으며, 랙 상단 스위치가 SmartNIC에 연결되는 인캐스트 상황에도 대응한다.

패브릭 내부의 혼잡을 제어하기 위해 OCI는 Acceleron SmartNIC에서 단방향 지연 시간 기반 혼잡 제어를 사용한다. 저자들의 설명에 따르면, 정방향 경로의 지연 시간을 측정하면 역방향 경로만 혼잡한 경우 왕복 시간 측정으로 인해 발생할 수 있는 잘못된 혼잡 신호를 피할 수 있다. 흐름에서 지연 시간이 높아지면 SmartNIC은 대체 경로 세 곳을 탐색하고 더 나은 경로를 찾으면 해당 흐름을 옮긴다. 더 나은 경로를 찾지 못하면 ECN 표시 또는 패킷 폐기로 혼잡을 알린다. OCI의 프런트엔드 RDMA는 모든 큐 페어 유형과 동사(verb)를 지원하므로 고객은 기존 애플리케이션을 변경하지 않고 실행할 수 있다.

집합 통신 및 다중 평면 장애 조치

이번 발표에서 소개한 분산 통신 기능은 Oracle Collective Communications Library(OCCL)와 Transparent Front-End Multiplanar Networking이다. Oracle에 따르면 OCCL은 OCI 백엔드 다중 평면 네트워크 전반에 집합 통신 트래픽을 분산하고, 더 안정적인 경로로 트래픽을 유도하며, 링크·포트·NIC 장애 발생 시 복구함으로써 네트워크 경로에 장애가 발생해도 분산 AI 워크로드가 계속 실행되도록 돕는다. Transparent Front-End Multiplanar Networking은 프런트엔드 네트워크에 다중 평면 네트워킹을 도입해 투명한 경로 선택과 장애 조치를 기본 제공하고, 프런트엔드 RDMA 트래픽의 혼잡도 투명하게 제어한다.

블로그는 학습 관점에서 문제를 설명한다. 동기화된 작업은 체인에서 가장 느린 링크의 속도에 맞춰 진행되므로 혼잡하거나 장애가 발생한 경로 하나만으로도 워크로드 전체가 느려질 수 있다. 또한 표준 등가 비용 다중 경로 전달 방식은 흐름의 크기를 고려하지 않고 경로를 고정하므로 링크 사용률이 고르지 않게 된다. 저자들은 다중 평면 패브릭을 구축하려면 특수 기능을 갖춘 다중 포트 NIC가 필요했으며, 이를 항상 실현할 수 있는 것은 아니라고 썼다. OCI는 일반 AI 및 머신러닝 워크로드에서 이러한 제약을 없애기 위해 OCCL을 구축했다.

OCCL은 AI 프레임워크가 GPU 간 데이터 교환을 조정하는 데 사용하는, 널리 채택된 집단 통신 라이브러리용 플러그인이다. 게시물에 따르면 OCCL은 트래픽을 여러 큐 페어에 분산하고, 처리량이 더 높은 큐 페어로 더 많은 트래픽을 보내며, 혼잡도가 낮은 경로로 트래픽을 능동적으로 이동시킨다. 이를 통해 표준 CCL 네트워크 플러그인 인터페이스를 통해 혼잡을 인식하는 메시지 및 청크 단위 부하 분산을 구현한다. 또한 관측된 혼잡도와 상태를 바탕으로 표준 Reliable Connection 큐 페어에 집단 통신 메시지를 동적으로 할당하며, 포트 수준 및 NIC 수준의 장애 조치도 지원한다. 링크나 NIC에 장애가 발생하면 집단 통신의 경로를 전환해 작업을 재시작하지 않고도 분산 학습을 계속할 수 있다.

작성자들은 장애 조치, 복구, 혼잡 인식 부하 분산을 CCL 계층으로 옮기면 이러한 기능을 네트워크 하드웨어 및 펌웨어에서 분리할 수 있고, 단일 플레인 네트워크와 다중 플레인 네트워크 모두에서 작동한다고 밝혔다. 또한 고객이 경로를 선택하거나 경로 변경을 감지하기 위해 복잡한 라우팅 컨트롤러를 사용할 필요가 없다고 덧붙였다. 2026년 10월 27일자 게시물은 OCI Networking Ops의 부사장이자 석좌 엔지니어인 Jag Brar, Vincent, 그리고 OCI 아키텍트인 Joy Ganguly가 작성했다.