Oracle Acceleron tilføjer RDMA på frontnettet og flerlagsfailover til AI

Oracle annoncerede nye netværksfunktioner til Oracle Acceleron-skyen for AI-arbejdsbelastninger på Oracle AI World i Las Vegas den 27. oktober 2026. De omfatter RDMA-forbindelse på frontnettet, udvidede muligheder for NVMe-bloklagring, som ifølge Oracle forbedrer ydeevnen med op til 3x, og et bibliotek til kollektiv kommunikation på virksomhedens flerlagsnetværk.

Oracle Acceleron er Oracle Cloud Infrastructures pakke af netværks- og infrastrukturteknologier, der gør det muligt at køre krævende AI-arbejdsbelastninger pålideligt, sikkert og i stor skala. Den kombinerer dedikerede netværksstrukturer, mere direkte dataveje og et konvergeret netværkskort med nul-tillids-routing på værtsniveau og flerlagsdesign, der øger sikkerheden og robustheden. De nye funktioner dækker tre områder: flytning af AI-data, distribueret AI-kommunikation og sikker AI-infrastruktur til flere lejere.

“Når tusindvis af acceleratorer arbejder sammen, kan én overbelastet eller defekt vej få konsekvenser langt ud over en enkelt forbindelse,” sagde Pradeep Vincent, koncerndirektør for Compute and AI Infrastructure hos OCI, i Oracles meddelelse. Vincent sagde, at virksomheden udvikler Acceleron, så løsningen kan reagere ved at dirigere trafikken ad nye veje, genoprette driften efter fejl og hjælpe kunderne med at skalere sikkert.

RDMA på frontnettet og NVMe-lagring

Den første nye funktion, Oracle Acceleron High-Performance Fabric, leverer RDMA-forbindelse til OCI’s front-end-computere, og Oracle oplyste, at den hjælper kunder med at udrulle inferens-, lager- og HPC-arbejdsbelastninger med højere ydeevne. Den anden funktion er udvidede muligheder for tilslutning af NVMe-bloklagring på tværs af Oracle Accelerons bare-metal- og virtuelle maskintyper. Ifølge meddelelsen forbedrer den ydeevnen med op til 3x for AI-, database- og andre datakrævende arbejdsbelastninger.

I et teknisk indlæg på Oracles OCI-blog beskrev forfatterne RDMA som en metode til at flytte data direkte mellem hukommelsen på forskellige maskiner med minimal CPU-involvering. Metoden omgår en stor del af operativsystemets og softwarens behandling ved en konventionel overførsel, hvilket reducerer forsinkelsen, opretholder et højt dataflow og frigør mere CPU-kapacitet til programmer. Ifølge forfatterne gælder fordelene ikke kun kommunikation mellem GPU’er, men også adgang til lager og overførsler på tværs af klynger. RDMA er dog meget følsom over for overbelastning, forsinkelse og pakketab i et delt netværk med blandede arbejdsbelastninger.

Et problem med retfærdig fordeling er, at RDMA typisk bruger hastighedsbaseret regulering af overbelastning, mens TCP bruger vinduesbaseret regulering, og afhængigt af trafikmønstret kan den ene reguleringsmekanisme overbelaste den anden. For at sikre en retfærdig fordeling bruger Oracle Acceleron SmartNIC ifølge indlægget hierarkiske token buckets til at holde styr på båndbreddeforbruget for RDMA-trafik og ikke-RDMA-trafik: En overordnet bucket repræsenterer den delte båndbredde, mens underordnede buckets repræsenterer hver trafikklasse. Efterhånden som antallet af tokens falder, markerer SmartNIC’en ECN-kompatible pakker med en vis sandsynlighed eller kasserer pakker, der ikke kan reagere, så overbelastningen signaleres gradvist. Mekanismen udnytter til enhver tid den tilgængelige kapacitet, så hver trafikklasse kan låne ubrugt båndbredde. Den håndterer også incast, hvor en top-of-rack-switch er forbundet til en SmartNIC.

For at håndtere overbelastning i netværksstrukturen bruger OCI regulering af overbelastning baseret på envejsforsinkelse i Acceleron SmartNIC. Måling af forsinkelsen på den fremadgående vej forhindrer det fejlagtige overbelastningssignal, som en måling af rundturstiden kan give, når det kun er den omvendte vej, der er overbelastet, forklarede forfatterne. Når en datastrøm har forhøjet forsinkelse, undersøger SmartNIC’en tre alternative veje og flytter datastrømmen, hvis den finder en bedre vej. Ellers signalerer den overbelastning ved at markere ECN-pakker eller kassere pakker. OCI’s RDMA på frontnettet understøtter alle typer køpar og RDMA-verber, så kunderne kan køre eksisterende programmer uden ændringer.

Kollektiv kommunikation og flerlagsfailover

Meddelelsens funktioner til distribueret kommunikation er Oracle Collective Communications Library, forkortet OCCL, og Transparent Front-End Multiplanar Networking. Oracle oplyste, at OCCL hjælper med at holde distribuerede AI-arbejdsbelastninger i gang, når netværksveje svigter, ved at fordele kollektiv trafik på tværs af OCI’s backend-Multiplanar Network, dirigere trafikken mod mere velfungerende veje og genoprette forbindelsen, hvis links, porte eller netværkskort svigter. Transparent Front-End Multiplanar Networking bringer flerlagsnetværk til frontnetværk med indbygget, gennemsigtigt valg af vej og failover samt gennemsigtig regulering af overbelastning for RDMA-trafik på frontnettet.

Blogindlægget beskriver problemet ud fra træning af AI-modeller: Synkroniserede opgaver bevæger sig kun lige så hurtigt som det langsomste link i kæden, så én overbelastet eller defekt vej kan gøre hele arbejdsbelastningen langsommere. Standardbaseret videresendelse via flere ligeværdige veje fastholder datastrømme på bestemte veje uden at tage højde for deres størrelse, hvilket giver en ujævn udnyttelse af links. Flerlagsnetværk har desuden krævet netværkskort med flere porte og specialfunktioner, hvilket ifølge forfatterne ikke altid er muligt. OCI udviklede OCCL for at fjerne denne begrænsning for generelle AI- og maskinlæringsarbejdsbelastninger.

OCCL er et plugin til udbredte biblioteker for kollektiv kommunikation, som AI-frameworks bruger til at koordinere dataudveksling mellem GPU’er. Ifølge indlægget fordeler det trafikken på flere køpar, sender mere trafik via de køpar, der har højere gennemløb, og flytter aktivt trafik til mindre belastede ruter. Dermed implementeres belastningsfordeling på meddelelses- og chunkniveau, som tager højde for overbelastning, via standardgrænsefladen for CCL-netværksplugins. Det fordeler dynamisk meddelelser til kollektiv kommunikation på tværs af standardkøpar med Reliable Connection baseret på observeret overbelastning og tilstand. Det understøtter også failover på port- og NIC-niveau og dirigerer den kollektive kommunikation om efter et link- eller NIC-nedbrud, så distribueret træning kan fortsætte uden at genstarte jobbet.

Forfatterne skrev, at når failover, gendannelse og belastningsfordeling, der tager højde for overbelastning, flyttes til CCL-laget, bliver disse funktioner uafhængige af netværkshardwaren og firmwaren, og løsningen fungerer på både enkeltplans- og flerplansnetværk. De tilføjede, at kunderne ikke behøver komplekse routingcontrollere til at vælge ruter eller registrere ændringer i ruterne. Indlægget, der er dateret 27. oktober 2026, er skrevet af Jag Brar, vicepræsident og fremtrædende ingeniør for OCI Networking Ops; Vincent; og Joy Ganguly, OCI-arkitekt.