AI-modellen en platforms
Oracle Acceleron voegt front-end-RDMA en multiplanaire failover toe voor AI
Voeg Unite.AI toe aan je voorkeursbronnen op Google
Oracle kondigde op 27 oktober 2026 tijdens Oracle AI World in Las Vegas nieuwe Oracle Acceleron-cloudnetwerkmogelijkheden voor AI-workloads aan. Het introduceerde front-end-RDMA-connectiviteit, uitgebreidere opties voor NVMe-blokopslag, die volgens Oracle de prestaties tot 3x verbeteren, en een bibliotheek voor collectieve communicatie voor zijn multiplanaire netwerken.
Oracle Acceleron is het pakket netwerk- en infrastructuurtechnologieën van Oracle Cloud Infrastructure voor het betrouwbaar en veilig uitvoeren van veeleisende AI-workloads op grote schaal. Het combineert speciale netwerkstructuren, directere datapaden en een geconvergeerde NIC met zero-trustrouting op hostniveau en multiplanaire ontwerpen voor beveiliging en weerbaarheid. De nieuwe mogelijkheden bestrijken drie gebieden: AI-dataverkeer, gedistribueerde AI-communicatie en een veilige AI-infrastructuur voor meerdere tenants.
‘Wanneer duizenden accelerators samenwerken, kan één overbelast of uitgevallen pad gevolgen hebben die veel verder reiken dan één verbinding’, zei Pradeep Vincent, executive vice president van Compute and AI Infrastructure bij OCI, in de aankondiging van Oracle. Vincent zei dat het bedrijf Acceleron ontwikkelt om hierop te reageren door verkeer om te leiden, storingen op te vangen en klanten te helpen veilig op te schalen.
Front-end-RDMA en NVMe-opslag
De eerste nieuwe mogelijkheid, Oracle Acceleron High-Performance Fabric, biedt RDMA-connectiviteit voor front-end-compute van OCI. Volgens Oracle helpt dit klanten inference-, opslag- en HPC-workloads met betere prestaties uit te voeren. De tweede mogelijkheid, uitgebreidere opties voor aansluiting van NVMe-blokopslag op bare-metal- en virtuele-machineshapes van Oracle Acceleron, verbetert de prestaties volgens de aankondiging tot 3x voor AI-, database- en andere data-intensieve workloads.
In een technisch artikel op de OCI-blog van Oracle beschreven de auteurs RDMA als een manier om gegevens rechtstreeks tussen het geheugen van verschillende machines te verplaatsen, met minimale betrokkenheid van de CPU. Daarbij wordt een groot deel van de verwerking door het besturingssysteem en de software bij een conventionele overdracht overgeslagen. Zo wordt de latentie verlaagd, blijft de doorvoer hoog en is er meer CPU-capaciteit beschikbaar voor toepassingen. Deze voordelen gelden niet alleen voor communicatie tussen GPU’s, maar ook voor toegang tot opslag en overdrachten tussen clusters, schreven de auteurs. RDMA is echter erg gevoelig voor congestie, latentie en pakketverlies op een gedeeld netwerk met uiteenlopende workloads.
Een probleem met de eerlijke verdeling is dat RDMA doorgaans congestie regelt op basis van de snelheid, terwijl TCP daarvoor een venster gebruikt. Afhankelijk van de verkeerspatronen kan de ene regelkring de andere overheersen. Om een eerlijke verdeling te waarborgen, gebruiken Oracle Acceleron SmartNIC’s volgens het artikel hiërarchische token buckets om het bandbreedteverbruik van RDMA- en niet-RDMA-verkeer bij te houden: een bovenliggende bucket vertegenwoordigt de gedeelde bandbreedte, met onderliggende buckets voor elke verkeersklasse. Naarmate de tokens opraken, markeert de SmartNIC ECN-geschikte pakketten op probabilistische wijze of laat hij pakketten vallen die niet op congestie kunnen reageren. Zo ontstaat een geleidelijk congestiesignaal. Het mechanisme benut de beschikbare capaciteit volledig: beide verkeersklassen kunnen ongebruikte bandbreedte lenen. Ook pakt het incast aan, waarbij een top-of-rack-switch verbinding maakt met een SmartNIC.
Voor congestie binnen het netwerk gebruikt OCI congestieregeling op basis van eenrichtingsvertraging in de Acceleron SmartNIC’s. De vertraging op het heenpad meten voorkomt het valse congestiesignaal dat een meting van de retourtijd kan opleveren wanneer alleen het terugpad overbelast is, leggen de auteurs uit. Zodra een gegevensstroom een verhoogde vertraging vertoont, test de SmartNIC drie alternatieve paden en verplaatst hij de stroom als er een beter pad beschikbaar is. Zo niet, dan signaleert hij congestie door ECN-markering of pakketverlies. OCI’s front-end-RDMA ondersteunt alle typen queue pairs en verbs, zodat klanten bestaande toepassingen ongewijzigd kunnen uitvoeren.
Collectieve communicatie en multiplanaire failover
De mogelijkheden voor gedistribueerde communicatie in de aankondiging zijn de Oracle Collective Communications Library, of OCCL, en Transparant multiplanair front-endnetwerken. Volgens Oracle helpt OCCL gedistribueerde AI-workloads actief te houden wanneer netwerkpaden uitvallen. De bibliotheek verdeelt collectief verkeer over OCI’s backend Multiplanar Network, stuurt verkeer naar betrouwbaardere paden en herstelt de verbinding wanneer links, poorten of NIC’s uitvallen. Transparant multiplanair front-endnetwerken brengt multiplanair netwerken naar front-endnetwerken, met ingebouwde, transparante padselectie en failover, plus transparante congestieregeling voor front-end-RDMA-verkeer.
De blog beschrijft het probleem vanuit het perspectief van training: gesynchroniseerde taken gaan maar zo snel als de langzaamste verbinding in de keten. Daardoor kan één overbelast of uitgevallen pad een vertraging van de volledige workload veroorzaken. Standaard doorsturing via multipaden met gelijke kosten wijst stromen vast toe aan paden zonder rekening te houden met hun omvang, wat leidt tot een ongelijke benutting van de verbindingen. Voor multiplanaire netwerkstructuren waren bovendien NIC’s met meerdere poorten en gespecialiseerde functionaliteit nodig, wat volgens de auteurs niet altijd haalbaar is. OCI ontwikkelde OCCL om die beperking weg te nemen voor algemene AI- en machinelearningworkloads.
OCCL is een plug-in voor veelgebruikte bibliotheken voor collectieve communicatie, die AI-frameworks gebruiken om de gegevensuitwisseling tussen GPU’s te coördineren. Volgens het bericht verdeelt OCCL het verkeer over meerdere queueparen, stuurt het meer verkeer over queueparen met een hogere doorvoersnelheid en verplaatst het actief verkeer naar minder drukke paden. Zo implementeert het congestiebewuste load balancing op bericht- en chunkniveau via de standaardinterface voor CCL-netwerkplug-ins. Het wijst berichten voor collectieve communicatie dynamisch toe aan standaardqueueparen voor Reliable Connection op basis van waargenomen congestie en de status van de verbindingen. Ook ondersteunt het failover op poort- en NIC-niveau: na een storing in een verbinding of NIC leidt het de collectieve communicatie om, zodat gedistribueerde training doorgaat zonder dat de taak opnieuw hoeft te worden gestart.
Door failover, herstel en congestiebewuste load balancing naar de CCL-laag te verplaatsen, worden die functies losgekoppeld van de netwerkhardware en -firmware. De oplossing werkt bovendien zowel op netwerken met één als met meerdere vlakken, schreven de auteurs. Ze voegden eraan toe dat klanten geen complexe routeringscontrollers nodig hebben om paden te selecteren of wijzigingen in paden te detecteren. Het bericht, gedateerd 27 oktober 2026, is geschreven door Jag Brar, vicepresident en distinguished engineer bij OCI Networking Ops; Vincent; en Joy Ganguly, een OCI-architect.
