Modely a platformy AI
Oracle Acceleron přidává pro AI RDMA na front-endu a přepínání při selhání mezi více rovinami
Přidejte Unite.AI mezi své preferované zdroje na Google
Oracle 27. října 2026 na konferenci Oracle AI World v Las Vegas oznámila nové síťové funkce Oracle Acceleron Cloud pro úlohy AI. Představila připojení RDMA na front-endu, rozšířené možnosti připojení blokového úložiště NVMe, které podle Oracle zvyšují výkon až trojnásobně, a knihovnu kolektivní komunikace pro její sítě s více rovinami.
Oracle Acceleron je sada síťových a infrastrukturních technologií Oracle Cloud Infrastructure, která umožňuje spolehlivě, bezpečně a ve velkém měřítku provozovat náročné úlohy AI. Kombinuje vyhrazené síťové struktury, přímější datové trasy a konvergovanou síťovou kartu (NIC) s bezpečným směrováním na úrovni hostitele založeným na principu zero trust a návrhem s více rovinami, který zajišťuje bezpečnost a odolnost. Nové funkce se týkají tří oblastí: přenosu dat pro AI, distribuované komunikace AI a bezpečné infrastruktury AI pro více tenantů.
„Když spolupracují tisíce akcelerátorů, může mít jedna přetížená nebo nefunkční trasa dopady daleko přesahující jediné spojení,“ uvedl Pradeep Vincent, výkonný viceprezident pro výpočetní techniku a infrastrukturu AI v OCI, v oznámení společnosti Oracle. Vincent řekl, že společnost vyvíjí Acceleron tak, aby dokázala přesměrovávat provoz, zotavit se po výpadcích a pomáhat zákazníkům bezpečně rozšiřovat jejich infrastrukturu.
RDMA na front-endu a úložiště NVMe
První novou funkcí je Oracle Acceleron High-Performance Fabric, která přináší připojení RDMA do výpočetního prostředí OCI na front-endu. Podle Oracle pomáhá zákazníkům nasazovat úlohy pro inferenci, úložiště a vysoce výkonnou výpočetní techniku (HPC) s vyšším výkonem. Druhou novinkou jsou rozšířené možnosti připojení blokového úložiště NVMe v konfiguracích bare-metalových serverů a virtuálních počítačů Oracle Acceleron, které podle oznámení zvyšují výkon až trojnásobně u úloh AI, databázových a dalších datově náročných úloh.
V technickém příspěvku na blogu OCI společnosti Oracle autoři popsali RDMA jako přímý přenos dat mezi pamětí různých počítačů s minimálním zapojením procesoru. Při tomto přenosu se obchází značná část zpracování v operačním systému a softwaru, což snižuje latenci, udržuje vysokou propustnost a ponechává aplikacím více kapacity procesoru. Jak autoři napsali, tyto výhody se netýkají jen komunikace mezi GPU, ale také přístupu k úložišti a přenosů mezi clustery. RDMA je však velmi citlivé na přetížení, latenci a ztrátu paketů ve sdílené síti, která zpracovává různé typy úloh.
Jedním z problémů spojených se spravedlivým sdílením kapacity je, že RDMA obvykle používá řízení přetížení založené na rychlosti, zatímco TCP využívá řízení založené na velikosti okna. V závislosti na vzorcích provozu tak může jeden regulační mechanismus převážit nad druhým. Příspěvek uvádí, že Oracle Acceleron SmartNIC využívají k zachování spravedlivého přístupu hierarchické token buckety, které sledují spotřebu šířky pásma pro provoz RDMA i ostatní provoz: nadřazený bucket představuje sdílenou šířku pásma a podřízené buckety odpovídají jednotlivým třídám provozu. Když se tokeny vyčerpávají, SmartNIC s určitou pravděpodobností označí pakety podporující ECN, případně zahodí pakety, které na tento signál nedokážou reagovat, a tím vytvoří postupný signál přetížení. Mechanismus zajišťuje plné využití dostupné kapacity, takže si kterákoli třída provozu může vypůjčit nevyužitou šířku pásma. Řeší také situaci incast, kdy se k zařízení SmartNIC připojuje přepínač na konci rozvaděče.
Pro řešení přetížení uvnitř síťové struktury využívá OCI v zařízeních Acceleron SmartNIC řízení přetížení na základě jednosměrného zpoždění. Jak autoři vysvětlili, měření zpoždění v dopředném směru zabraňuje falešnému signálu přetížení, který může vzniknout při měření doby odezvy, pokud je přetížený pouze zpětný směr. Když tok vykazuje zvýšené zpoždění, zařízení SmartNIC prověří tři alternativní trasy a přesune tok na lepší trasu, pokud ji najde; jinak signalizuje přetížení označováním ECN nebo zahazováním paketů. RDMA na front-endu OCI podporuje všechny typy queue pairů a operace verbs, takže zákazníci mohou spouštět stávající aplikace bez úprav.
Kolektivní komunikace a přepínání mezi rovinami při výpadku
Mezi funkce oznámené pro distribuovanou komunikaci patří Oracle Collective Communications Library neboli OCCL a transparentní síťování s více rovinami na front-endu. Oracle uvedla, že OCCL pomáhá udržet distribuované úlohy AI v chodu i při výpadku síťových tras: rozkládá kolektivní provoz napříč back-endovou sítí Multiplanar Network OCI, směruje jej ke spolehlivějším trasám a obnovuje provoz po výpadku spojů, portů nebo síťových karet (NIC). Transparentní síťování s více rovinami na front-endu přináší tuto síťovou architekturu do sítí front-endu a zahrnuje vestavěný transparentní výběr tras i přepínání při výpadku a také transparentní řízení přetížení pro provoz RDMA na front-endu.
Blog vysvětluje problém z pohledu trénování: synchronizované úlohy postupují jen tak rychle, jak dovoluje nejpomalejší spoj v řetězci, takže jediná přetížená nebo nefunkční trasa může zpomalit celou úlohu. Standardní směrování ECMP (vícecestné směrování se stejnými náklady) navíc přiřazuje toky k trasám, aniž by zohledňovalo jejich velikost, což vede k nerovnoměrnému využití spojů. Síťové struktury s více rovinami také vyžadovaly síťové karty s více porty a specializovanými funkcemi, což podle autorů není vždy proveditelné. OCI vyvinula OCCL, aby toto omezení odstranila u obecných úloh AI a strojového učení.
OCCL je zásuvný modul pro běžně používané knihovny kolektivní komunikace, které rámce umělé inteligence využívají ke koordinaci výměny dat mezi GPU. Podle příspěvku rozděluje provoz mezi více párů front, posílá větší objem provozu přes páry front s vyšší propustností a aktivně jej přesouvá na méně přetížené trasy. Prostřednictvím standardního rozhraní síťových zásuvných modulů CCL tak zajišťuje vyvažování zátěže na úrovni zpráv i jejich částí s ohledem na zahlcení. Zprávy kolektivní komunikace dynamicky přiřazuje ke standardním párům front Reliable Connection na základě zjištěného zahlcení a stavu spojení. Podporuje také přepnutí při výpadku portu nebo síťové karty (NIC) a po výpadku spojení nebo síťové karty přesměrovává kolektivní komunikaci, takže distribuovaný trénink může pokračovat bez restartu úlohy.
Přesunutí přepnutí při výpadku, obnovy a vyvažování zátěže s ohledem na zahlcení do vrstvy CCL odděluje tyto funkce od síťového hardwaru a firmwaru a umožňuje jejich fungování v sítích s jednou i více rovinami, napsali autoři. Dodali, že zákazníci nepotřebují složité řadiče směrování, které by vybíraly trasy nebo zjišťovaly jejich změny. Příspěvek s datem 27. října 2026 napsali Jag Brar, viceprezident a významný inženýr pro síťové operace OCI; Vincent; a Joy Ganguly, architekt OCI.
