KI-Modelle und Plattformen
CoreWeave verbindet Hunderte von Rubin‑GPUs in einem einzigen Multi‑Rack‑Cluster
Unite.AI zu deinen bevorzugten Quellen auf Google hinzufügen
CoreWeave am 16. September 2026 ankündigte die Inbetriebnahme von Multi‑Rack‑NVIDIA Vera Rubin NVL72 auf CoreWeave Cloud, und stellte Hunderte von NVIDIA Rubin‑GPUs in einem einzigen skalierbaren Cluster für agentische KI bereit. Das Unternehmen stellte zudem zwei neue Funktionen im CoreWeave AI Object Storage vor: eine beschleunigte Schreibfunktion über Regionen hinweg und eine neue Archiv‑Stufe.
Chen Goldberg, Executive Vice President für Produkt und Engineering bei CoreWeave, sagte, CoreWeave sei der erste KI‑Cloud‑Anbieter, der eine Vera Rubin NVL72 validiert und in Betrieb genommen habe und gezeigt habe, dass die Rack‑Scale‑Architektur als zuverlässiger, leistungsstarker Cloud‑Dienst funktionieren kann. “Mit dem Multi‑Rack‑Vera‑Rubin verbinden wir Hunderte von Rubin‑GPUs zu einem einzigen skalierbaren Cluster”, sagte Goldberg und fügte hinzu, dass dies für Kunden, die agentische KI bauen, größere Skalierung, schnellere Iterationen und höhere Produktivität bedeute, da Modelle und Agenten kontinuierlich lernen und sich verbessern.
Multi‑Rack‑Architektur und Inbetriebnahme
Ein einzelnes Vera‑Rubin‑NVL72‑Rack kombiniert 72 Rubin‑GPUs mit 36 Vera‑CPUs, NVIDIA NVLink 6, ConnectX‑9 SuperNICs und BlueField‑4‑DPUs. Mit dem Multi‑Rack‑Vera‑Rubin‑NVL72 vereinheitlicht CoreWeave Racks mit Hunderten von Beschleunigern mittels NVIDIA Spectrum‑X‑Ethernet‑Netzwerk zu einem einzigen skalierbaren Cluster. CoreWeave sagte, das System biete die Kapazität, größere Modelle zu trainieren, anspruchsvollere Inferenz‑Workloads zu bedienen und Reinforcement‑Learning in großem Maßstab auszuführen.
Laut dem Unternehmen ist das Ausführen von Trainings‑ und Inferenz‑Jobs über Hunderte von Rubin‑GPUs für mehrstufige agentische Workloads wichtig, da diese empfindlich auf Datenzugriffs‑Latenz reagieren, weil Verzögerungen sich bei wiederholten Modellaufrufen und Werkzeugnutzungen kumulieren können.
CoreWeave erklärte, dass es mehrere Racks zu einem einzigen System zusammenführt, indem es automatisierte Rack‑Lebenszyklus‑Steuerung, System‑Validierung und Netzwerk‑Skalierung nutzt. CoreWeave Mission Control automatisiert die Rack‑Einrichtung über den Rack‑LifeCycle‑Controller, wobei die Einrichtung Aufgaben wie Hardware‑Erkennung, Firmware‑Updates, Validierung, Stromversorgung und Kühlung umfasst; Racky übernimmt die rack‑bezogene Steuerung, während Valvey Kühl‑Maßnahmen ausführt. Bevor ein Rack in die Produktion geht, kombiniert CoreWeave NVIDIA‑Felddiagnosen mit vollständigen Rack‑Workload‑Tests, vergleicht jedes Ergebnis, und nur Racks, die diese Kriterien als System erfüllen, kommen in die Produktion.
Auf der Netzwerkseite verfügt jede Rubin‑GPU über zwei ConnectX‑9 SuperNICs, die pro GPU 1,6 Tb/s skalierbare Konnektivität über mehrplane, multirail‑Pfade bereitstellen. CoreWeave erklärte, das Design unterstütze etwa 128.000 GPUs pro Rail in einem nicht blockierenden Fabric, und dass die modulare Topologie das Hinzufügen von Racks ohne Neugestaltung des Fabrics bei jeder Erweiterung ermögliche.
KI‑Objektspeicher über Regionen hinweg
CoreWeave AI Object Storage bringt Daten näher an die Workloads durch LOTA (Local Object Transport Accelerator), das auf jedem CoreWeave‑Kubernetes‑Service‑Knoten ein verwaltetes Caching anwendet. CoreWeave sagte, LOTA ermögliche Lesevorgänge mit lokalen NVMe‑Geschwindigkeiten, reduziere die Latenz um das 8‑fache im Vergleich zum Lesen aus einem traditionellen Speicher‑Cluster und biete bis zu 7 GB/s Durchsatz pro GPU, wobei die Skalierung linear mit dem Wachstum der Cluster erfolgt.
Die neue beschleunigte Schreibfunktion über Regionen hinweg ermöglicht es, Checkpoints lokal innerhalb einer Region mit lokaler Latenz zu schreiben, während die Daten im Hintergrund in eine zweite entfernte Region migrieren. Da die Anwendung einen einzigen Bucket sieht, sind keine Code‑Änderungen erforderlich, und Berechtigungs‑ sowie Aufbewahrungsregeln funktionieren identisch, unabhängig davon, aus welcher Region ein Schreibvorgang stammt. CoreWeave erklärte, die Funktion minimiere die Trainingsunterbrechung und eliminiere die Notwendigkeit, Daten manuell zwischen Regionen zu kopieren oder zu verschieben.
Die zweite Ergänzung, Archive, ist eine kostengünstigere Speicher‑Stufe ohne Gebühren für das Abrufen von Daten, ohne Gebühren für das vorzeitige Löschen und ohne Gebühren beim Lesen aus dieser Stufe. CoreWeave beschrieb sie als für Daten konzipiert, die Teams sonst löschen würden, etwa einen Checkpoint aus einem fast erfolgreichen Lauf, ein Datenset, das zur Reproduktion eines Ergebnisses benötigt wird, oder eine Modellversion, nach der jemand in sechs Monaten fragen könnte.
„Unsere Datensätze erstrecken sich über mehrere Regionen, und wir können es uns nicht leisten, dass unser Trainingsplan von Verzögerungen beim Abruf über Regionen hinweg bestimmt wird“, sagte Cécile Robert-Michon, Direktorin für interne Infrastruktur bei Cohere. „CoreWeave AI Object Storage bietet uns einen einheitlichen Datensatz‑Fußabdruck über Regionen hinweg mit lokal zwischengespeicherten Lesevorgängen, sodass nichts auf das Netzwerk warten muss.“
NVIDIA Vera Rubin NVL72 Spezifikationen
Die Vera Rubin NVL72 Produktseite von NVIDIA beschreibt das System als rack‑scale agentischen KI‑Supercomputer, der auf dem dritten Generation MGX NVL72‑Rack‑Design basiert und nun vollständig in Produktion ist. Die von NVIDIA veröffentlichten Spezifikationen listen 20,7 TB HBM4‑GPU‑Speicher mit 1.400 TB/s Bandbreite, 216 TB/s NVLink‑Bandbreite über die sechste Generation NVLink und 3.600 PFLOPS spärliche NVFP4‑Inference‑Rechenleistung pro Rack auf. Die 36 Vera‑CPUs des Racks stellen 3.168 kundenspezifische Olympus‑Kerne und bis zu 54 TB LPDDR5X‑Speicher bereit.
NVIDIA gibt an, dass Vera Rubin NVL72 Mixture‑of‑Experts‑Modelle mit einem Viertel der GPU‑Anzahl im Vergleich zu seinem GB200 NVL72 trainiert und Inferenz zu einem Zehntel der Kosten pro Million Tokens für hochinteraktive, tiefgründige, agentische KI liefert, mit bis zu dem Zehnfachen an Tokens pro Megawatt. Fußnoten auf der Seite vermerken, dass die Inferenz‑Zahlen Änderungen unterliegen und dass der Trainingsvergleich eine prognostizierte Leistung darstellt.
Im Rahmen der Ankündigung verwies CoreWeave zudem auf seine Leistungsbilanz, indem es Rekord‑MLPerf‑Benchmark‑Ergebnisse bei Inferenz und Training anführte und seine Position als das einzige KI‑Cloud‑Angebot, das sowohl im SemiAnalysis ClusterMAX 1.0 als auch 2.0 die höchste Platin‑Bewertung erhalten hat, betonte. Das Unternehmen nannte außerdem #1‑Platzierungen für Inferenzgeschwindigkeit und Preis‑Performance der Kimi K2.6‑ und Kimi K2.7 Code‑Modelle von Moonshot AI in unabhängigen Inferenz‑Benchmarks, die von Artificial Analysis durchgeführt wurden.
