Meridian Cloud kiest Aria Networks voor ontwerpen van AI-clusters die klaar zijn voor inferentie

Meridian Cloud heeft Aria Networks geselecteerd als netwerkpartner voor zijn speciaal daarvoor ingerichte AI-inferentiecloud, die naar verwachting in het tweede kwartaal van 2027 wordt gelanceerd. De bedrijven zijn van plan gestandaardiseerde, gevalideerde netwerkontwerpen te ontwikkelen die clusterimplementaties beter reproduceerbaar maken en duidelijkere technische specificaties, kostenramingen en productietijdlijnen bieden.

De samenwerking werd op 5 november aangekondigd en betrekt Aria al bij de planningsfase, voordat de apparatuur wordt geïnstalleerd. De samenwerking omvat het bepalen van de capaciteit van het GPU-netwerk aan de achterkant, de netwerken voor de voorkant en opslag, het uitwerken van topologieën en bekabeling en het afstemmen van levering en bevoorrading op de implementatieplanning van Meridian.

De eerste gezamenlijke referentieontwerpen zullen naar verwachting in het tweede kwartaal van 2027 beschikbaar zijn voor klanten en faciliteitspartners van Meridian. De aankondiging beschrijft een ontwikkel- en implementatieprogramma, niet een reeds voltooide uitrol van Meridians nieuwe inferentiecloud.

Elk nieuw cluster minder een nieuw engineeringproject maken

Meridian wil werken met een klein centraal team, ondersteund door gespecialiseerde partners op het gebied van engineering, rekenkracht, implementatie en netwerken. Aria helpt dat werk om te zetten in een bibliotheek met referentieontwerpen, elk afgestemd op een bepaald type faciliteit.

Het idee is om uit te gaan van de beschikbare stroomvoorziening op een locatie en daar een configuratie bij te kiezen waarvan de netwerkeisen al zijn gevalideerd. Zo kan Meridian specificaties en kosten vaststellen voordat de bouw begint, in plaats van het netwerk op elke locatie opnieuw te moeten ontwerpen als een afzonderlijk engineeringproject.

Voor klanten van een speciaal daarvoor ingerichte cloud zit de waarde van die standaardisatie in de voorspelbaarheid. Bij een cluster gaat het om meer dan het aantal bestelde accelerators: kabelroutes, switchcapaciteit, hostverbindingen, opslagverkeer en de levertijd van apparatuur bepalen allemaal wanneer het systeem nuttig werk kan gaan uitvoeren.

“De Forward Deployed Engineers van Aria werken vanaf dag één samen met ons team. Ze helpen ons bij het netwerkontwerp, de planning van bevoorrading en implementatie, en het valideren van elke kabel, verbinding en configuratie voordat er ooit een klanttaak wordt uitgevoerd”, aldus Vic Rose, CEO van Meridian Cloud.

Waarom het netwerk bij inferentie een kritieke schakel is

Inferentie is het uitvoeren van een getraind model om een antwoord te produceren. Bij een gedistribueerde implementatie kunnen delen van dat proces en de bijbehorende gegevens tussen machines worden verplaatst. Daardoor maakt de communicatietijd deel uit van de responstijd die de gebruiker ervaart.

Een voorbeeld is opgesplitste inferentie, waarbij het verwerken van de prompt en het genereren van tokens op afzonderlijke resources plaatsvinden. Mogelijk moet het systeem de key-valuecache van het model — de tussentijdse aandachtsgegevens die bij de aanvraag horen — tussen die resources verplaatsen. Congestie op die route kan het werk vertragen, zelfs wanneer de GPU’s zelf beschikbaar zijn.

Aria’s technische bespreking van netwerken voor inferentie benadrukt het correleren van hostactiviteit met telemetrie van het netwerk. Een poort die gezond lijkt in een dashboard dat periodiek wordt vernieuwd, kan toch korte verstoringen ondervinden die de prestaties van toepassingen beïnvloeden.

In de aankondiging van de samenwerking wordt gewezen op congestie, verslechterende optische verbindingen en problemen aan de hostkant die onopgemerkt kunnen blijven bij tools die om de paar seconden gegevens opvragen. Om zulke gebeurtenissen te detecteren, is een ander niveau van inzicht nodig dan alleen weten of een verbinding actief is.

Voor een inferentiebedrijf zijn de gevolgen zowel commercieel als technisch. Tijd die verloren gaat aan wachten op gegevens, vermindert de nuttige output van hardware die stroom blijft verbruiken en eigendomskosten blijft veroorzaken. Relevante operationele maatstaven zijn onder meer de responstijd, de nuttige verwerkingscapaciteit en de kosten per miljoen tokens — niet alleen de verbindingssnelheid.

Wat Aria’s Deep Networking toevoegt

Aria beschrijft Deep Networking als een gezamenlijk ontworpen systeem dat schakelhardware, Aria Operating System, gedetailleerde telemetrie en gespecialiseerde agents combineert. In de aankondiging van Meridian worden Aria Switch-platforms van 800G genoemd, evenals een op standaarden gebaseerd Ethernet-netwerk dat open moet blijven voor verschillende leveranciers van accelerators.

Het bedrijf claimt dat zijn telemetrie een 100 tot 10.000 keer hogere resolutie biedt dan traditionele tools, voor switches, optische verbindingen en hosts. Dit is een claim over de meetresolutie, niet over toepassingen van Meridian die 100 tot 10.000 keer sneller zouden draaien.

Aria’s productoverzicht biedt meer informatie over de hardware: de 800G-switch heeft 64 800GbE-poorten in een chassis van twee rackunits, ondersteunt RoCEv2 en netwerken op laag 2 en laag 3, en bevat een speciale telemetrieprocessor. RoCEv2 maakt externe directe geheugentoegang via Ethernet mogelijk, een functie waarmee gegevens efficiënt kunnen worden verplaatst tussen machines in clusters met hoge prestaties.

Op dezelfde productpagina staat dat gegevens van GPU-hosts en switches met elkaar worden gecorreleerd, dat gespecialiseerde agents diagnostische tools selecteren en dat begeleide workflows voor probleemoplossing worden uitgevoerd. Zo staat operationeel inzicht naast het hardwareontwerp: het netwerk moet ook na de ingebruikname zichtbaar en onderhoudbaar blijven.

De bedrijven hebben geen gezamenlijke benchmarks voor Meridian-implementaties gepubliceerd, noch een gemeten verlaging van de kosten per token voor dit partnerschap. Die resultaten zijn afhankelijk van de geïmplementeerde workloads en configuraties, en van de manier waarop het netwerk zich gedraagt bij productiebelasting.

Meridians model voor toegewezen inferentiecapaciteit

Op de website positioneert Meridian zijn aanbod rond gereserveerde capaciteit die is afgestemd op de workload van de klant, met opties voor hardware van NVIDIA en AMD, evenals gespecialiseerde inferentieversnellers. Het bedrijf beschrijft ook beheerde orkestratie en operationele modellen op bare metal.

Dit zijn beschrijvingen van het bredere dienstenaanbod, geen bevestiging dat elke geadverteerde configuratie deel uitmaakt van de eerste bibliotheek met Aria-referentieontwerpen. In de aankondiging van het partnerschap worden de eerste locaties van de datacenters, vaste clustergroottes en klantprijzen niet vermeld.

Meridians focus op toegewezen capaciteit verandert ook de planningsopgave. In plaats van uitsluitend te vertrouwen op gedeelde beschikbaarheid, heeft een klant een systeem nodig dat is ontworpen voor het verwachte verkeer, de kenmerken van het model en de servicevereisten. Reproduceerbare netwerkontwerpen kunnen die planning vergemakkelijken en tegelijk ruimte laten voor keuzes die zijn afgestemd op specifieke workloads.

Een partnerschap gericht op reproduceerbare uitvoering

Aria’s rol reikt van ontwerp tot praktische implementatie. De lessen uit afzonderlijke locaties moeten richting geven aan latere installaties en softwareverbeteringen. Het doel is om netwerkengineering een herbruikbaar onderdeel van Meridians uitrol te maken, in plaats van een terugkerende bron van onzekerheid.

De mijlpaal op korte termijn is concreet: gezamenlijke referentieontwerpen en de geplande lancering van de clouddienst in het tweede kwartaal van 2027. Daarna zal moeten blijken of gevalideerde ontwerpen en beter operationeel inzicht leiden tot clusters die volgens planning worden opgeleverd en consistente inferentieprestaties leveren zodra de workloads van klanten erop gaan draaien.