Oracle Acceleron legger til RDMA i front-end og failover på tvers av nettverksplan for KI

Oracle kunngjorde nye nettverksfunksjoner for KI-arbeidsbelastninger i Oracle Acceleron-skyen under Oracle AI World i Las Vegas 27. oktober 2026. Nyheten omfattet RDMA-tilkobling i front-end, utvidede alternativer for NVMe-blokklagring som ifølge Oracle gir opptil 3x bedre ytelse, og et bibliotek for kollektiv kommunikasjon i selskapets nettverk med flere plan.

Oracle Acceleron er Oracle Cloud Infrastructures pakke med nettverks- og infrastrukturteknologier for å kjøre krevende KI-arbeidsbelastninger pålitelig, sikkert og i stor skala. Den kombinerer dedikerte nettverksstrukturer, mer direkte databaner og et konvergert nettverkskort (NIC) med nulltillitsbasert ruting på vertsnivå og nettverksdesign med flere plan for sikkerhet og robusthet. De nye funksjonene dekker tre områder: databevegelse for KI, distribuert KI-kommunikasjon og sikker KI-infrastruktur for flere leietakere.

«Når tusenvis av akseleratorer arbeider sammen, kan én overbelastet eller sviktende bane få konsekvenser langt utover én enkelt tilkobling», sa Pradeep Vincent, konserndirektør for Compute and AI Infrastructure i OCI, i Oracles kunngjøring. Vincent sa at selskapet utvikler Acceleron for å håndtere slike situasjoner ved å rute trafikken på nytt, gjenopprette forbindelsen etter feil og hjelpe kundene med å skalere sikkert.

RDMA i front-end og NVMe-lagring

Den første nye funksjonen, Oracle Acceleron High-Performance Fabric, gir RDMA-tilkobling til OCI-front-end-databehandling. Ifølge Oracle hjelper den kundene med å ta i bruk arbeidsbelastninger for inferens, lagring og HPC med bedre ytelse. Den andre funksjonen er utvidede alternativer for tilkobling av NVMe-blokklagring på tvers av bare metal- og virtuelle maskinformer i Oracle Acceleron. Ifølge kunngjøringen gir dette opptil 3x bedre ytelse for KI-, database- og andre datakrevende arbeidsbelastninger.

I et teknisk innlegg på Oracles OCI-blogg beskrev forfatterne RDMA som en metode for å flytte data direkte mellom minnet på ulike maskiner med minimal bruk av CPU. Metoden omgår mye av operativsystemets og programvarens behandling ved en vanlig dataoverføring, noe som reduserer forsinkelsen, opprettholder høy gjennomstrømming og frigjør mer CPU-kapasitet til applikasjoner. Ifølge forfatterne gjelder fordelene ikke bare kommunikasjon mellom GPU-er, men også tilgang til lagring og overføringer mellom klynger. RDMA er imidlertid svært følsomt for overbelastning, forsinkelse og pakketap i et delt nettverk med blandede arbeidsbelastninger.

Et problem knyttet til rettferdig fordeling er at RDMA vanligvis bruker hastighetsbasert overbelastningskontroll, mens TCP bruker vindusbasert kontroll. Avhengig av trafikkmønsteret kan den ene kontrollsløyfen overkjøre den andre. For å sikre en rettferdig fordeling bruker Oracle Acceleron SmartNIC-er hierarkiske tokenbøtter til å holde oversikt over båndbreddebruken for RDMA-trafikk og annen trafikk, ifølge innlegget. En overordnet bøtte representerer den delte båndbredden, med underordnede bøtter for hver trafikkklasse. Når antallet tilgjengelige token synker, merker SmartNIC-en ECN-kompatible pakker med en viss sannsynlighet eller forkaster pakker som ikke kan reagere, slik at overbelastningen varsles gradvis. Mekanismen sørger for at tilgjengelig kapasitet alltid utnyttes, slik at begge trafikkklassene kan låne ubrukt båndbredde. Den håndterer også incast, der en svitsj øverst i racket kobles til en SmartNIC.

For å håndtere overbelastning inne i nettverksstrukturen bruker OCI kontroll av overbelastning basert på enveistidsforsinkelse i Acceleron SmartNIC-ene. Forfatterne forklarte at måling av forsinkelsen i fremoverretningen unngår et falskt overbelastningssignal som en måling av tur-retur-tiden kan gi når bare returretningen er overbelastet. Når en datastrøm viser økt forsinkelse, undersøker SmartNIC-en tre alternative baner og flytter datastrømmen hvis den finner en bedre bane. Hvis ikke, varsler den om overbelastning ved å merke pakker med ECN eller forkaste dem. OCIs RDMA i front-end støtter alle typer køpar og verb, slik at kundene kan kjøre eksisterende applikasjoner uten endringer.

Kollektiv kommunikasjon og failover på tvers av nettverksplan

Kunngjøringens funksjoner for distribuert kommunikasjon er Oracle Collective Communications Library, eller OCCL, og Transparent Front-End Multiplanar Networking. Oracle sa at OCCL bidrar til å holde distribuerte KI-arbeidsbelastninger i gang når nettverksbaner svikter, ved å spre kollektiv trafikk over OCI-backendens Multiplanar Network, styre trafikken mot baner med bedre tilstand og gjenopprette forbindelsen når lenker, porter eller nettverkskort (NIC-er) svikter. Transparent Front-End Multiplanar Networking gir nettverk med flere plan til front-end-nettverk, med innebygd, transparent valg av bane og failover, samt transparent overbelastningskontroll for RDMA-trafikk i front-end.

Blogginnlegget beskriver problemet ut fra treningsarbeidsbelastninger: Synkroniserte jobber går bare like raskt som den tregeste lenken i kjeden, så én overbelastet eller sviktende bane kan føre til at hele arbeidsbelastningen går saktere. Standard videresending med lik kostnad over flere baner låser datastrømmer til baner uten å ta hensyn til størrelsen på dem, noe som gir ujevn utnyttelse av lenkene. Nettverksstrukturer med flere plan har også krevd nettverkskort med flere porter og spesialfunksjoner, noe forfatterne skrev ikke alltid lar seg gjennomføre. OCI utviklet OCCL for å fjerne denne begrensningen for generelle KI- og maskinlæringsarbeidsbelastninger.

OCCL er et programtillegg for mye brukte biblioteker for kollektiv kommunikasjon, som KI-rammeverk bruker til å koordinere datautveksling mellom GPU-er. Ifølge innlegget fordeler det trafikken på flere køpar, sender mer trafikk over køpar med høyere gjennomstrømming og flytter aktivt trafikk til mindre belastede baner. Dermed utfører det meldings- og chunkbasert lastbalansering som tar hensyn til overbelastning, gjennom det standardiserte nettverksgrensesnittet for CCL-programtillegg. Det fordeler meldinger for kollektiv kommunikasjon dynamisk mellom standard køpar av typen Reliable Connection, basert på observert overbelastning og tilstand. Det støtter også failover på port- og NIC-nivå og styrer kollektiv kommunikasjon over på en annen bane etter feil på en forbindelse eller NIC, slik at distribuert trening kan fortsette uten at jobben må startes på nytt.

Forfatterne skrev at når failover, gjenoppretting og lastbalansering som tar hensyn til overbelastning, flyttes til CCL-laget, blir disse funksjonene frikoblet fra nettverksmaskinvaren og fastvaren, samtidig som de fungerer på både nettverk med ett og flere plan. De la til at kundene ikke trenger komplekse rutingskontrollere for å velge baner eller oppdage endringer i dem. Innlegget, datert 27. oktober 2026, er skrevet av Jag Brar, visepresident og fremragende ingeniør for OCI Networking Ops; Vincent; og Joy Ganguly, en OCI-arkitekt.