Oracle Acceleron Menambahkan RDMA Front-End dan Failover Multibidang untuk AI

Oracle mengumumkan kemampuan baru jaringan cloud Oracle Acceleron untuk beban kerja AI di Oracle AI World, Las Vegas, pada 27 Oktober 2026. Pengumuman itu mencakup konektivitas RDMA front-end, perluasan opsi penyimpanan blok NVMe yang menurut Oracle meningkatkan kinerja hingga 3x, serta pustaka komunikasi kolektif untuk jaringan multibidangnya.

Oracle Acceleron adalah rangkaian teknologi jaringan dan infrastruktur Oracle Cloud Infrastructure untuk menjalankan beban kerja AI yang berat secara andal, aman, dan dalam skala besar. Teknologi ini menggabungkan fabric jaringan khusus, jalur data yang lebih langsung, dan NIC terpadu, dengan perutean zero-trust di tingkat host serta desain multibidang untuk keamanan dan ketahanan. Kemampuan baru ini mencakup tiga area: pemindahan data AI, komunikasi AI terdistribusi, dan infrastruktur AI multi-penyewa yang aman.

“Saat ribuan akselerator bekerja bersama, satu jalur yang padat atau gagal dapat menimbulkan dampak jauh melampaui satu koneksi,” kata Pradeep Vincent, wakil presiden eksekutif Compute and AI Infrastructure di OCI, dalam pengumuman Oracle. Vincent mengatakan bahwa perusahaan sedang membangun Acceleron agar dapat merespons dengan mengalihkan rute lalu lintas, memulihkan diri dari kegagalan, dan membantu pelanggan berkembang dengan aman.

RDMA Front-End dan Penyimpanan NVMe

Kemampuan baru pertama, Oracle Acceleron High-Performance Fabric, menghadirkan konektivitas RDMA ke komputasi front-end OCI. Menurut Oracle, kemampuan ini membantu pelanggan menerapkan beban kerja inferensi, penyimpanan, dan HPC dengan kinerja lebih tinggi. Kemampuan kedua adalah perluasan opsi pemasangan penyimpanan blok NVMe pada jenis instans bare metal dan mesin virtual Oracle Acceleron. Menurut pengumuman tersebut, opsi ini meningkatkan kinerja hingga 3x untuk AI, basis data, dan beban kerja lain yang intensif data.

Dalam tulisan teknis di blog OCI Oracle, para penulis menjelaskan bahwa RDMA memindahkan data secara langsung antar-memori di mesin yang berbeda dengan keterlibatan CPU seminimal mungkin. Cara ini melewati sebagian besar pemrosesan sistem operasi dan perangkat lunak dalam transfer konvensional, sehingga mengurangi latensi, mempertahankan throughput tinggi, dan menyisakan lebih banyak kapasitas CPU untuk aplikasi. Menurut para penulis, manfaat tersebut tidak hanya berlaku untuk komunikasi GPU-ke-GPU, tetapi juga untuk akses penyimpanan dan transfer lintas klaster. Namun, RDMA sangat peka terhadap kemacetan, latensi, dan kehilangan paket di jaringan bersama yang menangani beragam beban kerja.

Salah satu masalah keadilan alokasi adalah RDMA biasanya menggunakan pengendalian kemacetan berbasis laju, sedangkan TCP menggunakan pengendalian berbasis jendela. Bergantung pada pola lalu lintas, salah satu mekanisme dapat mengalahkan mekanisme lainnya. Untuk menjaga keadilan alokasi, tulisan tersebut menyebutkan bahwa Oracle Acceleron SmartNIC menggunakan bucket token hierarkis untuk melacak penggunaan bandwidth bagi lalu lintas RDMA dan non-RDMA: bucket induk mewakili bandwidth bersama, dengan bucket anak untuk setiap kelas lalu lintas. Saat token habis, SmartNIC secara probabilistik menandai paket yang mendukung ECN atau membuang paket yang tidak dapat merespons, sehingga menghasilkan sinyal kemacetan bertahap. Mekanisme ini memanfaatkan bandwidth sepenuhnya, sehingga setiap kelas lalu lintas dapat meminjam bandwidth yang tidak terpakai. Mekanisme ini juga menangani incast, yaitu kondisi saat switch top-of-rack terhubung ke SmartNIC.

Untuk mengatasi kemacetan di dalam fabric, OCI menggunakan pengendalian kemacetan berbasis latensi satu arah pada SmartNIC Acceleron. Seperti dijelaskan para penulis, pengukuran latensi jalur maju menghindari sinyal kemacetan keliru yang dapat dihasilkan pengukuran pulang-pergi ketika hanya jalur balik yang mengalami kemacetan. Jika suatu aliran menunjukkan latensi tinggi, SmartNIC menguji tiga jalur alternatif dan memindahkan aliran tersebut jika menemukan jalur yang lebih baik; jika tidak, SmartNIC menandakan kemacetan melalui penandaan ECN atau pembuangan paket. RDMA front-end OCI mendukung semua jenis pasangan antrean dan verba, sehingga pelanggan dapat menjalankan aplikasi yang sudah ada tanpa perubahan.

Komunikasi Kolektif dan Failover Multibidang

Kemampuan komunikasi terdistribusi yang diumumkan mencakup Oracle Collective Communications Library, atau OCCL, dan Transparent Front-End Multiplanar Networking. Oracle mengatakan OCCL membantu menjaga beban kerja AI terdistribusi tetap berjalan saat jalur jaringan gagal dengan menyebarkan lalu lintas kolektif ke seluruh Multiplanar Network backend OCI, mengarahkan lalu lintas ke jalur yang lebih sehat, serta memulihkan konektivitas saat tautan, port, atau NIC gagal. Transparent Front-End Multiplanar Networking menghadirkan jaringan multibidang ke jaringan front-end, dengan pemilihan jalur dan failover transparan bawaan, serta pengendalian kemacetan transparan untuk lalu lintas RDMA front-end.

Blog tersebut menjelaskan masalah ini dari sisi pelatihan: pekerjaan yang disinkronkan hanya dapat berjalan secepat tautan paling lambat dalam rangkaian, sehingga satu jalur yang padat atau gagal dapat memperlambat seluruh beban kerja. Penerusan multipath berbiaya sama standar mengunci aliran ke jalur tertentu tanpa mengetahui ukuran alirannya, sehingga pemanfaatan tautan menjadi tidak merata. Fabric multibidang juga mengharuskan penggunaan NIC multiport dengan fungsi khusus, yang menurut para penulis tidak selalu memungkinkan. OCI membangun OCCL untuk menghilangkan kendala tersebut pada beban kerja AI dan pembelajaran mesin umum.

OCCL adalah plugin untuk pustaka komunikasi kolektif yang banyak digunakan, yang dipakai kerangka kerja AI untuk mengoordinasikan pertukaran data antargPU. Menurut tulisan tersebut, OCCL mendistribusikan lalu lintas ke beberapa pasangan antrean, mengirimkan lebih banyak lalu lintas melalui pasangan antrean yang memiliki throughput lebih tinggi, serta secara aktif mengalihkan lalu lintas ke jalur yang tidak terlalu padat. Dengan demikian, OCCL menerapkan penyeimbangan beban yang memperhitungkan kemacetan pada tingkat pesan dan potongan data melalui antarmuka plugin jaringan CCL standar. OCCL secara dinamis menetapkan pesan komunikasi kolektif ke berbagai pasangan antrean Reliable Connection standar berdasarkan kemacetan dan kondisi yang teramati. OCCL juga mendukung failover pada tingkat port dan NIC, mengarahkan komunikasi kolektif setelah terjadi kegagalan tautan atau NIC agar pelatihan terdistribusi dapat berlanjut tanpa memulai ulang pekerjaan.

Menurut para penulis, dengan memindahkan failover, pemulihan, dan penyeimbangan beban yang memperhitungkan kemacetan ke lapisan CCL, fungsi-fungsi tersebut tidak lagi bergantung pada perangkat keras dan firmware jaringan serta dapat digunakan pada jaringan satu bidang maupun multibidang. Mereka menambahkan bahwa pelanggan tidak memerlukan pengendali perutean yang rumit untuk memilih jalur atau mendeteksi perubahan jalur. Tulisan yang bertanggal 27 Oktober 2026 itu ditulis oleh Jag Brar, wakil presiden dan insinyur terkemuka di OCI Networking Ops; Vincent; serta Joy Ganguly, seorang arsitek OCI.