Oracle Acceleron tuo tekoälylle etupään RDMA:n ja monitasoisen vikasietoisuuden

Oracle julkisti uusia Oracle Acceleron -pilviverkkotoimintoja tekoälykuormille Oracle AI World -tapahtumassa Las Vegasissa 27. lokakuuta 2026. Uutuuksiin kuuluivat etupään RDMA-yhteydet, laajennetut NVMe-lohkotallennusvaihtoehdot, joiden Oracle kertoi parantavan suorituskykyä jopa 3-kertaiseksi, sekä kollektiivisen viestinnän kirjasto yhtiön monitasoverkkoihin.

Oracle Acceleron on Oracle Cloud Infrastructure -palvelun verkko- ja infrastruktuuriteknologioiden kokonaisuus, joka on suunniteltu vaativien tekoälykuormien luotettavaan ja turvalliseen suorittamiseen laajassa mittakaavassa. Siinä yhdistyvät erilliset verkkokankaat, suoremmat tiedonsiirtoreitit ja yhdistetty verkkokortti sekä isäntätasolla toteutettu nollaluottamukseen perustuva reititys ja monitasoiset ratkaisut, jotka parantavat tietoturvaa ja vikasietoisuutta. Uudet ominaisuudet liittyvät kolmeen osa-alueeseen: tekoälyn tiedonsiirtoon, hajautettuun tekoälyviestintään ja turvalliseen, usean asiakkaan yhteiskäyttöiseen tekoälyinfrastruktuuriin.

”Kun tuhannet kiihdyttimet toimivat yhdessä, yksi ruuhkautunut tai vikaantunut reitti voi aiheuttaa seurauksia, jotka ulottuvat paljon yksittäistä yhteyttä laajemmalle”, sanoi Pradeep Vincent, OCI:n laskenta- ja tekoälyinfrastruktuurista vastaava varatoimitusjohtaja Oraclen tiedotteessa. Vincentin mukaan yhtiö kehittää Acceleronia vastaamaan tähän ohjaamalla liikenteen uudelleen, palautumalla häiriöistä ja auttamalla asiakkaita kasvattamaan kapasiteettia turvallisesti.

Etupään RDMA ja NVMe-tallennus

Ensimmäinen uusi ominaisuus, Oracle Acceleron High-Performance Fabric, tuo RDMA-yhteydet OCI:n etupään laskentaan. Oraclen mukaan se auttaa asiakkaita ottamaan käyttöön päättely-, tallennus- ja suurteholaskentakuormia entistä suorituskykyisemmin. Toinen uudistus on laajennettu valikoima NVMe-lohkotallennuksen liitäntävaihtoehtoja Oracle Acceleronin bare metal -palvelimille ja virtuaalikoneille. Tiedotteen mukaan se parantaa tekoälyn, tietokantojen ja muiden dataintensiivisten kuormien suorituskykyä jopa 3-kertaiseksi.

Oraclen OCI-blogissa julkaistussa teknisessä kirjoituksessa kirjoittajat kuvailivat RDMA:ta tavaksi siirtää tietoa suoraan eri koneiden muistien välillä siten, että prosessoria tarvitaan mahdollisimman vähän. Näin ohitetaan suuri osa tavanomaisen tiedonsiirron käyttöjärjestelmä- ja ohjelmistokäsittelystä, mikä vähentää viivettä, ylläpitää suurta läpimenonopeutta ja jättää sovelluksille enemmän prosessorikapasiteettia. Kirjoittajien mukaan nämä edut ulottuvat GPU:iden välisestä viestinnästä myös tallennustilan käyttöön ja klustereiden välisiin siirtoihin. RDMA on kuitenkin erittäin herkkä ruuhkille, viiveelle ja pakettihäviöille yhteisessä, monenlaisia kuormia palvelevassa verkossa.

Yksi oikeudenmukaiseen resurssien jakamiseen liittyvä ongelma on se, että RDMA käyttää tavallisesti nopeuteen perustuvaa ruuhkanhallintaa, kun taas TCP:ssä hallinta perustuu ikkunakokoon. Liikennekuvioista riippuen toinen säätöpiiri voi syrjäyttää toisen. Kirjoituksen mukaan Oracle Acceleron SmartNIC -verkkokortit pyrkivät säilyttämään oikeudenmukaisuuden käyttämällä hierarkkisia token bucket -menetelmiä RDMA- ja muun liikenteen kaistanleveyden kulutuksen seurantaan: ylempi säiliö edustaa yhteistä kaistanleveyttä, ja sen alla on omat säiliönsä kullekin liikenneluokalle. Kun tokenit vähenevät, SmartNIC merkitsee ECN-yhteensopivia paketteja todennäköisyyden perusteella tai pudottaa paketit, joiden lähettäjä ei pysty reagoimaan. Näin syntyy asteittainen ruuhkasta kertova signaali. Menetelmä käyttää käytettävissä olevan kaistanleveyden tehokkaasti, joten kumpikin liikenneluokka voi hyödyntää käyttämättä jäänyttä kapasiteettia. Se huomioi myös incast-tilanteet, joissa konesalin rivikohtainen kytkin yhdistyy SmartNIC-verkkokorttiin.

Verkon sisäisten ruuhkien hallintaan OCI käyttää Acceleron SmartNIC -verkkokorteissa yksisuuntaiseen viiveeseen perustuvaa ruuhkanhallintaa. Kirjoittajien mukaan eteenpäin kulkevan reitin viiveen mittaaminen ehkäisee virheellisen ruuhkasignaalin, jonka edestakaisen viiveen mittaus voi antaa, jos ruuhkaa on vain paluureitillä. Kun liikennevirran viive kasvaa, SmartNIC testaa kolmea vaihtoehtoista reittiä ja siirtää virran niistä paremmalle, jos sellainen löytyy. Muussa tapauksessa se ilmoittaa ruuhkasta ECN-merkinnöillä tai paketteja pudottamalla. OCI:n etupään RDMA tukee kaikkia jonoparityyppejä ja verbejä, joten asiakkaat voivat käyttää nykyisiä sovelluksiaan ilman muutoksia.

Kollektiivinen viestintä ja monitasoinen vikasietoisuus

Tiedotteessa mainitut hajautetun viestinnän ominaisuudet ovat Oracle Collective Communications Library eli OCCL sekä Transparent Front-End Multiplanar Networking. Oraclen mukaan OCCL auttaa pitämään hajautetut tekoälykuormat käynnissä verkkoreittien vikaantuessa. Se jakaa kollektiivisen liikenteen OCI:n taustaverkon Multiplanar Networkin eri reiteille, ohjaa liikennettä toimintakuntoisemmille reiteille ja palautuu, jos yhteydet, portit tai verkkokortit vikaantuvat. Transparent Front-End Multiplanar Networking tuo monitasoverkot etupään verkkoihin. Siihen kuuluvat sisäänrakennettu, läpinäkyvä reitinvalinta ja vikasietoisuus sekä etupään RDMA-liikenteen läpinäkyvä ruuhkanhallinta.

Blogissa ongelmaa tarkastellaan koulutustöiden näkökulmasta: synkronoidut työt etenevät vain yhtä nopeasti kuin ketjun hitain yhteys. Siksi yksikin ruuhkautunut tai vikaantunut reitti voi hidastaa koko kuormaa. Tavanomainen yhtä kustannusta käyttävä monireititys puolestaan sitoo liikennevirrat reitteihin tuntematta niiden kokoa, mikä johtaa linkkien epätasaiseen käyttöön. Monitasoiset verkkokankaat ovat lisäksi edellyttäneet erikoistoiminnoilla varustettuja moniporttisia verkkokortteja, mikä kirjoittajien mukaan ei ole aina toteuttamiskelpoista. OCI kehitti OCCL:n poistaakseen tämän rajoitteen yleiskäyttöisissä tekoäly- ja koneoppimiskuormissa.

OCCL on laajasti käytettyjen kollektiivisen viestinnän kirjastojen liitännäinen. Tekoälykehykset käyttävät näitä kirjastoja GPU-yksiköiden välisen tiedonsiirron koordinointiin. Kirjoituksen mukaan OCCL jakaa liikenteen useille jonopareille, ohjaa enemmän liikennettä niille jonopareille, joiden läpäisykyky on suurempi, ja siirtää liikennettä aktiivisesti vähemmän ruuhkaisille reiteille. Näin se toteuttaa ruuhkatietoisen viestien ja viestilohkojen kuormantasaamisen tavallisen CCL-verkkoliitännäisen rajapinnan kautta. Se jakaa kollektiivisen viestinnän viestit dynaamisesti tavallisille Reliable Connection -jonopareille havaitun ruuhkan ja yhteyksien kunnon perusteella. Lisäksi se tukee portti- ja verkkokorttikohtaista vikasietoisuutta: linkin tai verkkokortin vikaantuessa se ohjaa kollektiivisen viestinnän uudelleen, jotta hajautettu koulutus voi jatkua ilman työn uudelleenkäynnistystä.

Kirjoittajien mukaan vikasietoisuuden, palautumisen ja ruuhkatietoisen kuormantasauksen siirtäminen CCL-kerrokseen irrottaa nämä toiminnot verkkolaitteistosta ja laiteohjelmistosta, ja ratkaisu toimii sekä yksitasoisissa että monitasoisissa verkoissa. He lisäsivät, etteivät asiakkaat tarvitse monimutkaisia reitityksen ohjaimia reittien valintaan tai reittimuutosten havaitsemiseen. Kirjoituksen, joka julkaistiin 27. lokakuuta 2026, kirjoittivat Jag Brar, OCI Networking Opsin varatoimitusjohtaja ja ansioitunut insinööri; Vincent; ja Joy Ganguly, OCI-arkkitehti.