Oracle Acceleron ergänzt Frontend-RDMA und mehrplanare Ausfallsicherung für KI

Oracle stellte am 27. Oktober 2026 auf der Oracle AI World in Las Vegas neue Oracle Acceleron-Netzwerkfunktionen für KI-Workloads vor. Dazu gehören Frontend-RDMA-Konnektivität, erweiterte Optionen für NVMe-Blockspeicher, die laut Oracle die Leistung um bis zu das Dreifache steigern, sowie eine Bibliothek für kollektive Kommunikation in den mehrplanaren Netzwerken des Unternehmens.

Oracle Acceleron ist die Suite von Oracle Cloud Infrastructure aus Netzwerk- und Infrastrukturtechnologien, mit denen anspruchsvolle KI-Workloads zuverlässig, sicher und in großem Umfang ausgeführt werden können. Sie kombiniert dedizierte Netzwerkfabrics, direktere Datenpfade und eine konvergente NIC mit Zero-Trust-Routing auf Host-Ebene sowie mehrplanaren Designs für Sicherheit und Ausfallsicherheit. Die neuen Funktionen decken drei Bereiche ab: KI-Datenübertragung, verteilte KI-Kommunikation und sichere mandantenfähige KI-Infrastruktur.

„Wenn Tausende von Beschleunigern zusammenarbeiten, kann ein überlasteter oder ausgefallener Pfad Folgen haben, die weit über eine einzelne Verbindung hinausgehen“, sagte Pradeep Vincent, Executive Vice President für Compute und KI-Infrastruktur bei OCI, in der Ankündigung von Oracle. Vincent sagte, das Unternehmen entwickle Acceleron, um darauf zu reagieren: durch die Umleitung des Datenverkehrs, die Wiederherstellung nach Ausfällen und die Unterstützung seiner Kunden bei der sicheren Skalierung.

Frontend-RDMA und NVMe-Speicher

Die erste neue Funktion, Oracle Acceleron High-Performance Fabric, bringt RDMA-Konnektivität in die OCI-Frontend-Computing-Umgebung. Laut Oracle hilft sie Kunden dabei, Inferenz-, Speicher- und HPC-Workloads mit höherer Leistung bereitzustellen. Die zweite Funktion – erweiterte Optionen für die Anbindung von NVMe-Blockspeicher an Bare-Metal- und virtuelle Maschineninstanzen von Oracle Acceleron – steigert laut Ankündigung die Leistung für KI-, Datenbank- und andere datenintensive Workloads um bis zu das Dreifache.

In einem technischen Beitrag im OCI-Blog von Oracle beschrieben die Autoren RDMA als ein Verfahren, bei dem Daten mit minimaler CPU-Beteiligung direkt zwischen den Speichern verschiedener Rechner übertragen werden. Dabei wird ein Großteil der Betriebssystem- und Softwareverarbeitung umgangen, die bei einer herkömmlichen Übertragung erforderlich ist. So sinkt die Latenz, ein hoher Durchsatz lässt sich aufrechterhalten und der CPU steht mehr Kapazität für Anwendungen zur Verfügung. Diese Vorteile beschränken sich nicht auf die Kommunikation zwischen GPUs, sondern gelten laut den Autoren auch für den Speicherzugriff und Übertragungen zwischen Clustern. RDMA reagiert jedoch sehr empfindlich auf Überlastung, Latenz und Paketverluste in einem gemeinsam genutzten Netzwerk mit unterschiedlichen Workloads.

Ein Problem bei der Sicherstellung einer fairen Bandbreitenverteilung besteht darin, dass RDMA üblicherweise eine ratenbasierte Überlastungssteuerung verwendet, während TCP fensterbasiert arbeitet. Je nach Datenverkehrsmuster kann einer der beiden Regelkreise den anderen überlasten. Um eine faire Verteilung zu gewährleisten, verwenden Oracle Acceleron SmartNICs laut dem Beitrag hierarchische Token-Buckets, um den Bandbreitenverbrauch von RDMA- und Nicht-RDMA-Datenverkehr zu erfassen: Ein übergeordneter Bucket bildet die gemeinsam genutzte Bandbreite ab, während untergeordnete Buckets den einzelnen Verkehrsklassen zugeordnet sind. Wenn die Token aufgebraucht sind, markiert die SmartNIC ECN-fähige Pakete nach einem Wahrscheinlichkeitsverfahren oder verwirft Pakete, die nicht auf die Markierung reagieren können. Dadurch entsteht ein allmähliches Überlastungssignal. Das Verfahren schöpft die verfügbare Bandbreite vollständig aus, sodass beide Verkehrsklassen ungenutzte Bandbreite der jeweils anderen mitnutzen können. Außerdem begegnet es dem Incast-Problem, bei dem ein Top-of-Rack-Switch eine Verbindung zu einer SmartNIC herstellt.

Zur Überlastungssteuerung innerhalb der Fabric setzt OCI in den Acceleron SmartNICs auf eine Steuerung anhand der Einwegverzögerung. Wie die Autoren erläuterten, verhindert die Messung der Verzögerung auf dem Hinweg ein falsches Überlastungssignal, wie es eine Messung der Rundlaufzeit erzeugen kann, wenn nur der Rückweg überlastet ist. Zeigt ein Datenfluss eine erhöhte Verzögerung, prüft die SmartNIC drei alternative Pfade und verlagert den Datenfluss, wenn sie einen besseren Pfad findet. Andernfalls signalisiert sie die Überlastung durch ECN-Markierungen oder das Verwerfen von Paketen. OCIs Frontend-RDMA unterstützt alle Queue-Pair-Typen und Verbs, sodass Kunden bestehende Anwendungen unverändert ausführen können.

Kollektive Kommunikation und Ausfallsicherung in mehrplanaren Netzwerken

Zu den in der Ankündigung vorgestellten Funktionen für verteilte Kommunikation gehören die Oracle Collective Communications Library (OCCL) und Transparent Front-End Multiplanar Networking. Laut Oracle trägt OCCL dazu bei, verteilte KI-Workloads bei Ausfällen von Netzwerkpfaden am Laufen zu halten: Dazu verteilt die Bibliothek den kollektiven Datenverkehr über das OCI-Backend-Netzwerk Multiplanar Network, lenkt ihn auf leistungsfähigere Pfade und stellt den Betrieb wieder her, wenn Verbindungen, Ports oder NICs ausfallen. Transparent Front-End Multiplanar Networking bringt mehrplanare Netzwerke in Frontend-Netzwerke und bietet eine integrierte, transparente Pfadauswahl und Ausfallsicherung sowie eine transparente Überlastungssteuerung für den Frontend-RDMA-Datenverkehr.

Der Blog erläutert das Problem anhand von Trainingsaufgaben: Synchronisierte Jobs können nur so schnell vorankommen wie die langsamste Verbindung in der Kette. Ein einzelner überlasteter oder ausgefallener Pfad kann daher den gesamten Workload verlangsamen. Beim standardmäßigen Equal-Cost-Multipath-Forwarding werden Datenflüsse fest bestimmten Pfaden zugewiesen, ohne ihre Größe zu berücksichtigen. Das führt zu einer ungleichmäßigen Auslastung der Verbindungen. Für mehrplanare Fabrics waren außerdem NICs mit mehreren Ports und speziellen Funktionen erforderlich, was laut den Autoren nicht immer umsetzbar ist. OCI entwickelte OCCL, um diese Einschränkung bei allgemeinen KI- und Machine-Learning-Workloads zu beseitigen.

OCCL ist ein Plugin für weit verbreitete Bibliotheken für kollektive Kommunikation, die KI-Frameworks zur Koordination des Datenaustauschs zwischen GPUs nutzen. Dem Beitrag zufolge verteilt es den Datenverkehr auf mehrere Queue-Paare, leitet mehr Datenverkehr über Queue-Paare mit höherem Durchsatz und verschiebt den Datenverkehr aktiv auf weniger überlastete Pfade. Über die standardmäßige CCL-Netzwerk-Plugin-Schnittstelle realisiert es so eine überlastungsbewusste Lastverteilung auf Nachrichten- und Chunk-Ebene. Es weist Nachrichten für kollektive Kommunikation dynamisch standardmäßigen Reliable-Connection-Queue-Paaren zu, basierend auf der beobachteten Überlastung und dem Zustand. Außerdem unterstützt es Failover auf Port- und NIC-Ebene und lenkt die kollektive Kommunikation nach dem Ausfall einer Verbindung oder NIC um, sodass das verteilte Training ohne Neustart des Jobs fortgesetzt wird.

Die Verlagerung von Failover, Wiederherstellung und überlastungsbewusster Lastverteilung in die CCL-Ebene entkoppelt diese Funktionen von Netzwerkhardware und Firmware und funktioniert sowohl in einplanaren als auch in mehrplanaren Netzwerken, schrieben die Autoren. Sie fügten hinzu, dass Kunden keine komplexen Routing-Controller benötigen, um Pfade auszuwählen oder Pfadänderungen zu erkennen. Der Beitrag vom 27. Oktober 2026 wurde von Jag Brar, Vizepräsident und Distinguished Engineer für OCI Networking Ops, Vincent sowie Joy Ganguly, einem OCI-Architekten, verfasst.