Cornelis stellt CN6000 vor: Was 800G-Netzwerke für KI und Supercomputer bedeuten

Cornelis hat CN6000 vorgestellt, eine 800-Gigabit-Netzwerkfamilie, die die Wartezeit von KI-Beschleunigern und Supercomputern auf Daten verkürzen soll. Das herausragende Leistungsversprechen: bis zu 1,6 Milliarden Nachrichten pro Sekunde mit der Omni-Path SuperNIC. Um zu verstehen, was das bedeutet, muss man jedoch drei verschiedene Messgrößen der Netzwerkleistung auseinanderhalten: Bandbreite, Nachrichtenrate und Latenz.

Die Ankündigung vom 12. November umfasst sowohl Omni-Path- als auch Ethernet-Adapter sowie einen Omni-Path-Switch. Cornelis zufolge ist die Hardware für Evaluierungen und erste Installationen verfügbar; Systeme von Partnern werden im ersten Quartal 2027 erwartet.

Das kommerzielle Ziel ist klar: Teure Prozessoren leisten mehr nutzbringende Arbeit, wenn das Netzwerk mit ihnen Schritt halten kann. Eine schnellere GPU verkürzt einen verteilten Auftrag kaum, solange sie darauf wartet, dass ein anderer Rechner ein Ergebnis sendet.

Was 800G und 1,6 Milliarden Nachrichten tatsächlich bedeuten

Ein KI-Cluster ist eine Gruppe miteinander verbundener Computer, die zusammenarbeiten. Das Netzwerk überträgt alles – von großen Blöcken Modelldaten bis hin zu kleinen Koordinierungsnachrichten. Seine Leistung hat mehrere Dimensionen:

800G bedeutet 800 Gigabit pro Sekunde. Geteilt durch acht ergibt das nominell 100 Gigabyte pro Sekunde – vor Protokoll-Overhead und anderen praktischen Einschränkungen. Die Angabe beschreibt die Datenübertragungskapazität, nicht, wie schnell ein Chatbot Wörter generiert.

Die Nachrichtenrate misst einen anderen Engpass. Werden viele winzige Informationsmengen gesendet, muss der Adapter zahlreiche einzelne Vorgänge verarbeiten, selbst wenn sie die Bandbreite der Verbindung nicht ausschöpfen. Cornelis gibt in seinem Omni-Path-Produktdatenblatt die Nachrichtenrate von 1,6 Milliarden als bidirektionalen Wert an. Dabei handelt es sich um eine aggregierte Leistungsfähigkeit und nicht um die Behauptung, eine einzelne Anwendung könne jede Sekunde ebenso viele aufeinanderfolgende Anfragen abschließen.

Latenz ist wichtig, wenn die nächste Berechnung auf eine Nachricht warten muss. Bei Cornelis’ internem Intel-MPI-Ping-Pong-Test mit 8 Byte betrug die angegebene Latenz für CN6000 0,95 Mikrosekunden gegenüber 1,2 Mikrosekunden bei NVIDIA InfiniBand XDR mit 800G – rund 21 % weniger. MPI, kurz für Message Passing Interface (Schnittstelle zur Nachrichtenübermittlung), ist ein Standard für die Kommunikation paralleler wissenschaftlicher Programme.

Dieser Test misst einen bestimmten Austausch kleiner Nachrichten. Er belegt nicht, dass ein Trainingslauf, eine Simulation oder ein Inferenzdienst 21 % schneller abgeschlossen wird. Das Ergebnis hängt davon ab, wie häufig die Anwendung kommuniziert, wie groß die übertragenen Datenmengen sind, wie stark das Netzwerk ausgelastet ist und wie der Rest des Systems beschaffen ist.

SuperNICs, Switches und Fabrics erklärt

Eine Netzwerkkarte, auch NIC genannt, verbindet einen Server mit dem Netzwerk. „SuperNIC“ ist Cornelis’ Produktbezeichnung für seine spezialisierten Hochleistungsadapter. Ein Switch verbindet diese Serververbindungen und leitet Daten zwischen ihnen weiter. Die gesamte Anordnung aus Adaptern, Switches, Verbindungen und Kommunikationssoftware wird üblicherweise als Netzwerkstruktur bezeichnet.

Dieser Unterschied ist beim Kauf eines Clusters wichtig. Der Einbau eines leistungsfähigen Adapters wertet nicht automatisch alle Switches, Kabel oder Softwarepfade auf, die der Datenverkehr durchläuft.

CN6000 bietet zwei Fabric-Optionen. Omni-Path ist Cornelis’ speziell für paralleles Rechnen entwickelte Verbindungstechnologie. Ethernet ist die weitverbreitete Netzwerkgrundlage, mit der Rechenzentrumsbetreiber vertraut sind. Der Ethernet-Adapter richtet sich an Kunden, die leistungsstarke Kommunikation wünschen und zugleich eine kompatible Ethernet-Switching-Infrastruktur beibehalten möchten. InfiniBand, die in den Benchmark-Ergebnissen zum Vergleich herangezogene Technologie, ist eine weitere spezialisierte Fabric für den Rechnerbetrieb; ihre Switches sind nicht mit Omni-Path-Switches austauschbar.

Die CN6000-Plattform steht daher für eine Familie von Komponenten und Bereitstellungsoptionen – nicht für eine Garantie, dass jede beliebige Kombination von Netzwerkgeräten dasselbe Ergebnis liefert.

Wie RoCE Daten mit geringerer Prozessorbelastung überträgt

Die Ethernet-SuperNIC unterstützt RoCEv2: Remote Direct Memory Access over Converged Ethernet, Version zwei. Die zugrunde liegende Technologie RDMA ermöglicht es der Netzwerkhardware, Daten zwischen autorisierten Speicherbereichen verschiedener Rechner zu übertragen, ohne dass die Host-CPU jede Nutzlast über den herkömmlichen Netzwerkpfad kopieren muss.

Man kann es sich wie eine direkte Zustellung zwischen zwei genehmigten Orten vorstellen, statt eine Zwischenstelle wiederholt mit dem Empfang und Kopieren der Inhalte zu beauftragen. Die CPU muss weiterhin die Kommunikation einrichten und verwalten; der Vorteil besteht darin, dass sie weniger in die Datenübertragung selbst eingebunden ist.

Die RoCE-Dokumentation von NVIDIA erklärt, dass Version zwei RDMA-Datenverkehr mithilfe von IP- und UDP-Headern überträgt und so das Durchlaufen gerouteter IP-Netzwerke ermöglicht. Eine effiziente Bereitstellung hängt weiterhin von der Netzwerkkonfiguration und dem Verhalten bei Überlastung ab, nicht allein davon, dass ein Ethernet-Anschluss vorhanden ist.

Cornelis’ Ethernet-Produktdatenblatt beschreibt Hardware-Offloading, die Unterstützung einer großen Zahl gleichzeitiger Vorgänge und die Prioritätsflusssteuerung (Priority Flow Control). Dieser Mechanismus zur Flusssteuerung kann ausgewählte Verkehrsklassen anhalten, um Paketverluste zu vermeiden. Der Ankündigung zufolge soll die Unterstützung für Ultra Ethernet über ein Software-Update bereitgestellt werden. Käufer sollten diese geplante Funktion von der anfänglichen RoCEv2-Unterstützung unterscheiden.

Warum die KI-Inferenz ihren Arbeitsspeicher verschieben muss

KI-Inferenz bezeichnet den Prozess, bei dem ein trainiertes Modell eine Antwort erzeugt. Bei einem Sprachmodell umfasst sie die Eingabevorverarbeitung, bei der die Eingabe verarbeitet wird, und die Dekodierung, bei der die Antwort Token für Token generiert wird.

Manche Inferenzsysteme führen diese Phasen auf getrennten Prozessorgruppen aus, sodass jede Gruppe passend für ihre Aufgabe dimensioniert werden kann. Dieses Verfahren heißt disaggregierte Inferenz. Durch die Trennung entsteht ein Übergabeschritt: Die beim Verarbeiten der Eingabe berechneten Informationen müssen zu den Prozessoren gelangen, die die Antwort generieren.

Zu diesen Informationen gehört der Schlüssel-Wert-Cache, meist kurz KV-Cache genannt. Er speichert Zwischenergebnisse der Attention-Berechnung, damit das Modell bereits geleistete Arbeit wiederverwenden kann. Er umfasst weder sämtliche Gewichte des Modells noch ist er einfach ein gespeichertes Textprotokoll.

Die Dynamo-Dokumentation von NVIDIA beschreibt die Abfolge: die Eingabe verarbeiten, den zugehörigen KV-Cache übertragen und anschließend auf dem Worker für die Dekodierung Token generieren. Schnellere Übertragungen können diese Trennung praktikabler machen. Die Übertragung des Caches verursacht jedoch zusätzlichen Aufwand. Eine Disaggregation ist daher dann sinnvoll, wenn die Vorteile bei Planung und Hardware die Kosten der Übergabe überwiegen.

Datenverkehr auch bei stark ausgelasteten Verbindungen in Bewegung halten

Bei Omni-Path verwendet CN6000 eine kreditbasierte Flusssteuerung: Der Sender überträgt Daten entsprechend der verfügbaren Kapazität auf der Empfängerseite. Adaptives Routing kann den Datenverkehr auf verfügbare Pfade verteilen, während mehrere Netzwerkebenen getrennte Wege durch das Netzwerk bereitstellen.

Das Omni-Path-Datenblatt beschreibt zwei unabhängige 400G-Datenpfade, die zusammen eine aggregierte Bandbreite von 800G bieten. Muss eine Ebene gewartet werden, kann die andere weiterhin verfügbar sein. Fällt jedoch ein Teil des Netzwerks aus, bleibt dadurch nicht die ursprüngliche Gesamtkapazität erhalten.

Die Plattform umfasst außerdem einen Hardware-Vertrauensanker, Secure Boot und Geräteattestierung. Diese Maßnahmen tragen dazu bei, die Vertrauenswürdigkeit der Firmware und der Geräteidentität festzustellen. Die Verwendung quantensicherer digitaler Signaturen betrifft Authentifizierung und Integrität; sie sollte nicht als pauschale Behauptung verstanden werden, dass sämtliche Netzwerkdaten verschlüsselt sind.

Bei der Bereitstellung zählt mehr als die maximale Geschwindigkeit

CN6000 baut auf Cornelis’ früheren Arbeiten im Bereich der Scale-out-Netzwerke auf, darunter die ausgebaute Zusammenarbeit mit AMD im Bereich des wissenschaftlichen Rechnens. Attraktiv ist die Kombination aus Hochleistungs-Verbindungen und einer größeren Auswahl an Prozessoren und Netzwerkumgebungen.

Für Käufer ist es sinnvoll, die Zeit und die Kosten zu vergleichen, die für die Ausführung ihrer eigenen Arbeitslast erforderlich sind. Eine Simulation, bei der regelmäßig kleine Aktualisierungen ausgetauscht werden, kann von geringerer Latenz und höheren Nachrichtenraten profitieren. Bei einem Dienst, der große Caches überträgt, sind möglicherweise eher eine anhaltend hohe Übertragungsgeschwindigkeit und der Umgang mit Überlastung entscheidend. Beide benötigen ein geeignetes Netzwerk, eine funktionierende Softwareunterstützung und validierte Serverkonfigurationen.

Die Ankündigung von CN6000 erweitert die Auswahl an Möglichkeiten zum Aufbau solcher Systeme. Die Spitzenwerte weisen auf Fähigkeiten hin, die es zu testen gilt; der praktische Vorteil besteht darin, mehr Rechenleistung produktiv zu nutzen, während reale Anwendungen ausgeführt werden.