Meridian Cloud wählt Aria Networks für clusterfähige KI-Inferenzdesigns

Meridian Cloud hat Aria Networks als Netzwerkpartner für seine dedizierte KI-Inferenz-Cloud ausgewählt, deren Start für das zweite Quartal 2027 geplant ist. Die Unternehmen wollen standardisierte, validierte Netzwerkdesigns entwickeln, die Cluster-Implementierungen besser reproduzierbar machen und klarere technische Spezifikationen, Kostenschätzungen und Produktionszeitpläne ermöglichen.

Die am 5. November bekannt gegebene Partnerschaft bindet Aria in die Planungsphase ein, noch bevor die Geräte installiert werden. Dazu gehören die Dimensionierung des GPU-Back-End-Netzwerks, der Front-End- und Speichernetzwerke, die Planung von Topologien und Verkabelung sowie die Abstimmung von Lieferketten und Auslieferung auf den Implementierungszeitplan von Meridian.

Die ersten gemeinsamen Referenzdesigns sollen Kunden und Anlagenpartnern von Meridian im zweiten Quartal 2027 zur Verfügung stehen. In der Ankündigung ist von einem Entwicklungs- und Implementierungsprogramm die Rede, nicht von einer bereits abgeschlossenen Einführung der neuen Inferenz-Cloud von Meridian.

Jeder neue Cluster soll weniger ein neues Entwicklungsprojekt sein

Meridian setzt auf ein schlankes zentrales Team, das von spezialisierten Partnern in den Bereichen Engineering, Rechenleistung, Implementierung und Netzwerke unterstützt wird. Aria soll dazu beitragen, diese Arbeit in eine Bibliothek mit Referenzdesigns zu überführen, die jeweils auf eine bestimmte Anlagenklasse zugeschnitten sind.

Die Idee ist, von der verfügbaren Stromversorgung eines Standorts auszugehen und sie mit einer Konfiguration abzugleichen, deren Netzwerkanforderungen bereits validiert wurden. So könnte Meridian Spezifikationen und Kosten festlegen, bevor der Bau beginnt, statt das Netzwerk an jedem Standort in einem separaten Entwicklungsschritt überarbeiten zu müssen.

Für Kunden einer dedizierten Cloud liegt der Vorteil dieser Standardisierung in der Planbarkeit. Bei einem Cluster kommt es auf mehr an als auf die Anzahl der bestellten Beschleuniger: Kabelwege, Switch-Kapazität, Host-Verbindungen, Speicherverkehr und der Zeitpunkt der Gerätelieferung beeinflussen allesamt, wann das System produktiv eingesetzt werden kann.

„Die Forward Deployed Engineers von Aria arbeiten seit dem ersten Tag direkt mit unserem Team zusammen. Gemeinsam arbeiten wir an Netzwerkdesign, Lieferketten- und Implementierungsplanung und überprüfen jedes Kabel, jede Verbindung und jede Konfiguration, bevor ein Kundenauftrag ausgeführt wird“, sagte Vic Rose, CEO von Meridian Cloud.

Warum das Netzwerk bei Inferenz zum kritischen Pfad wird

Inferenz bezeichnet den Vorgang, ein trainiertes Modell auszuführen, damit es eine Antwort erzeugt. Bei einer verteilten Implementierung können Teile dieser Arbeit und die zugehörigen Daten zwischen Maschinen übertragen werden. Dadurch wird die Kommunikationszeit zu einem Bestandteil der Antwortzeit, die Nutzer erleben.

Ein Beispiel ist disaggregierte Inferenz, bei der die Verarbeitung von Eingabeaufforderungen und die Token-Erzeugung auf getrennten Ressourcen laufen. Das System muss möglicherweise den Key-Value-Cache des Modells – die zur Anfrage gehörenden Zwischendaten für den Aufmerksamkeitsmechanismus – zwischen diesen Ressourcen verschieben. Eine Überlastung auf diesem Übertragungsweg kann die Arbeit verzögern, selbst wenn die GPUs verfügbar sind.

Aria legt in seiner technischen Erläuterung zu Inferenznetzwerken den Schwerpunkt darauf, Aktivitäten auf Hosts mit Netzwerk-Telemetriedaten abzugleichen. Ein Anschluss, der in einem regelmäßig aktualisierten Dashboard unauffällig erscheint, kann dennoch kurzzeitige Störungen aufweisen, die die Anwendungsleistung beeinträchtigen.

In der Mitteilung zur Partnerschaft werden Überlastungsereignisse, nachlassende Leistung optischer Komponenten und Probleme auf Host-Seite genannt, die von Werkzeugen übersehen werden können, die nur alle paar Sekunden Daten abfragen. Um solche Ereignisse zu erkennen, ist eine umfassendere Sicht erforderlich, als lediglich festzustellen, ob eine Verbindung aktiv ist.

Für ein Inferenzgeschäft sind die Folgen sowohl wirtschaftlicher als auch technischer Art. Die Wartezeit auf Daten verringert den nutzbaren Ausstoß von Hardware, die weiterhin Strom verbraucht und Eigentumskosten verursacht. Zu den relevanten Betriebskennzahlen zählen die Antwortlatenz, der nutzbare Durchsatz und die Kosten pro Million Token – nicht allein die Verbindungsgeschwindigkeit.

Was Aria mit Deep Networking zusätzlich bietet

Aria beschreibt Deep Networking als gemeinsam entwickeltes System, das Switching-Hardware, Aria Operating System, detaillierte Telemetriedaten und spezialisierte Agenten kombiniert. In der Ankündigung von Meridian werden Aria-Switch-Plattformen mit 800G und ein Ethernet-Netzwerk auf Basis offener Standards genannt, das mit Beschleunigern verschiedener Anbieter kompatibel sein soll.

Das Unternehmen gibt an, dass die Telemetrie über Switches, optische Komponenten und Hosts eine 100- bis 10.000-mal höhere Auflösung als herkömmliche Werkzeuge bietet. Diese Aussage bezieht sich auf die Messauflösung und bedeutet nicht, dass Anwendungen von Meridian 100- bis 10.000-mal schneller laufen werden.

Die Produktübersicht von Aria liefert weitere Informationen zur Hardware: Der 800G-Switch verfügt über 64 800GbE-Ports in einem Gehäuse mit zwei Höheneinheiten, unterstützt RoCEv2 sowie Layer-2- und Layer-3-Netzwerke und enthält einen dedizierten Telemetrieprozessor. RoCEv2 ermöglicht den direkten Fernzugriff auf den Arbeitsspeicher über Ethernet – eine Funktion, mit der sich Daten in Hochleistungsclustern effizient zwischen Maschinen übertragen lassen.

Auf derselben Produktseite werden außerdem der Abgleich von Daten der GPU-Hosts und Switches, die Auswahl von Diagnosetools durch spezialisierte Agenten und die Ausführung angeleiteter Lösungsabläufe beschrieben. Damit wird die betriebliche Transparenz neben dem Hardwaredesign berücksichtigt: Das Netzwerk muss auch nach seiner Inbetriebnahme beobachtbar und wartbar sein.

Die Unternehmen haben weder gemeinsame Benchmarks für Meridian-Bereitstellungen noch eine gemessene Senkung der Kosten pro Token im Rahmen dieser Partnerschaft veröffentlicht. Diese Ergebnisse hängen von den bereitgestellten Workloads und Konfigurationen sowie davon ab, wie sich das Netzwerk unter Produktionslast verhält.

Meridians Modell für dedizierte Inferenz

Auf seiner Website positioniert Meridian sein Angebot mit reservierter, auf den Workload des Kunden abgestimmter Kapazität. Die Optionen umfassen Hardware von NVIDIA und AMD sowie spezialisierte Inferenzbeschleuniger. Außerdem beschreibt das Unternehmen verwaltete Orchestrierung und Betriebsmodelle auf Bare-Metal-Basis.

Dabei handelt es sich um Beschreibungen des umfassenderen Serviceangebots, nicht um eine Bestätigung, dass jede beworbene Konfiguration Teil der ersten Referenzdesign-Bibliothek von Aria ist. In der Ankündigung der Partnerschaft werden weder die Standorte der ersten Rechenzentren noch feste Clustergrößen oder Preise für Kunden genannt.

Meridians Fokus auf dedizierte Kapazität verändert auch die Planungsaufgabe. Statt sich ausschließlich auf gemeinsam verfügbare Kapazitäten zu verlassen, benötigt ein Kunde ein System, das auf den erwarteten Datenverkehr, die Eigenschaften des Modells und die Serviceanforderungen ausgelegt ist. Wiederholbare Netzwerkdesigns können die Planung erleichtern und zugleich Spielraum für workloadspezifische Entscheidungen lassen.

Eine Partnerschaft mit Fokus auf wiederholbare Umsetzung

Arias Aufgabe reicht vom Design bis zur praktischen Implementierung. Erkenntnisse von einzelnen Standorten sollen in spätere Installationen und Softwareverbesserungen einfließen. Ziel ist es, die Netzwerkentwicklung zu einem wiederverwendbaren Bestandteil des Ausbaus von Meridian zu machen, statt sie zu einer wiederkehrenden Unsicherheitsquelle werden zu lassen.

Der nächste konkrete Meilenstein sind gemeinsame Referenzdesigns und der für das zweite Quartal 2027 geplante Cloud-Start. Darüber hinaus wird sich die Partnerschaft daran messen lassen, ob validierte Designs und eine detailliertere betriebliche Transparenz dazu führen, dass Cluster termingerecht bereitstehen und eine konstante Inferenzleistung liefern, sobald Kundenworkloads ausgeführt werden.