Meridian Cloud väljer Aria Networks för utformning av AI-kluster redo för inferens

Meridian Cloud har valt Aria Networks som nätverkspartner för sin dedikerade AI-molntjänst för inferens, som planeras lanseras under andra kvartalet 2027. Företagen planerar att utveckla standardiserade, validerade nätverkslösningar som gör klusterinstallationer mer enhetliga och ger tydligare tekniska specifikationer, kostnadsberäkningar och tidsplaner för produktionsstart.

Partnerskapet tillkännagavs den 5 november och innebär att Aria deltar i planeringen innan utrustningen installeras. Arbetet omfattar dimensionering av GPU-nätverket på baksidan, nätverken för framsida och lagring, kartläggning av topologier och kabeldragning samt samordning av leveranser med Meridians installationsschema.

De första gemensamma referenslösningarna förväntas bli tillgängliga för Meridians kunder och anläggningspartner under andra kvartalet 2027. Tillkännagivandet beskriver ett utvecklings- och installationsprogram, inte en färdig utrullning av Meridians nya inferensmolntjänst.

Målet: att varje nytt kluster ska kräva mindre nyutveckling

Meridians strategi är att arbeta med ett litet centralt team som får stöd av specialiserade partner inom teknik, beräkningskapacitet, installation och nätverk. Aria ska hjälpa till att omvandla arbetet till ett bibliotek med referenslösningar, där varje lösning är anpassad för en viss typ av anläggning.

Tanken är att utgå från den tillgängliga strömförsörjningen på en anläggning och matcha den med en konfiguration vars nätverkskrav redan har validerats. Det skulle göra det möjligt för Meridian att fastställa specifikationer och kostnader innan byggarbetet börjar, i stället för att behöva göra om nätverkslösningen som ett separat tekniskt projekt på varje plats.

För kunder som använder en dedikerad molntjänst handlar standardiseringens värde om förutsägbarhet. Ett kluster omfattar mer än antalet beställda acceleratorer: kabeldragning, switchkapacitet, värdanslutningar, lagringstrafik och tidpunkten för utrustningsleveranser påverkar alla när systemet kan börja utföra användbart arbete.

”Arias ingenjörer på plats har arbetat tillsammans med vårt team ända från dag ett med nätverksdesign, planering av leveranser och installation samt validering av varje kabel, länk och konfiguration innan något kundjobb körs”, säger Vic Rose, vd för Meridian Cloud.

Därför blir nätverket en kritisk del av inferensen

Inferens är processen där en tränad modell körs för att ta fram ett svar. I en distribuerad installation kan delar av arbetet och tillhörande data flyttas mellan maskiner, vilket gör att kommunikationstiden påverkar den svarstid som användaren upplever.

Ett exempel är uppdelad inferens, där bearbetning av promptar och generering av token körs på separata resurser. Systemet kan behöva flytta modellens nyckel-värdecache – mellanliggande uppmärksamhetsdata som hör till förfrågan – mellan dem. Överbelastning längs den vägen kan fördröja arbetet även när GPU:erna själva är tillgängliga.

Arias tekniska genomgång av nätverk för inferens betonar vikten av att korrelera värdaktivitet med nätverkstelemetri. En port som verkar fungera normalt i en instrumentpanel som uppdateras med jämna mellanrum kan ändå drabbas av kortvariga störningar som påverkar programmets prestanda.

I pressmeddelandet om partnerskapet nämns överbelastningshändelser, försämrad optik och problem på värdsidan som kan undgå verktyg som samlar in data med några sekunders mellanrum. För att upptäcka sådana händelser krävs en annan grad av insyn än att bara veta om en länk är aktiv.

För ett företag som erbjuder inferenstjänster får detta både kommersiella och tekniska konsekvenser. Tid som går åt till att vänta på data minskar den användbara produktionen från hårdvara som fortsätter att förbruka ström och medföra ägandekostnader. Relevanta driftmått är bland annat svarstid, användbar genomströmning och kostnad per miljon token – inte bara länkhastighet.

Vad Arias Deep Networking tillför

Aria beskriver Deep Networking som ett samutvecklat system som kombinerar switchhårdvara, Aria Operating System, detaljerad telemetri och specialiserade agenter. I tillkännagivandet från Meridian anges 800G Aria Switch-plattformar och ett Ethernet-nätverk baserat på standarder, avsett att vara öppet för olika acceleratorleverantörer.

Företaget uppger att telemetrin har 100 till 10 000 gånger högre upplösning än traditionella verktyg för switchar, optik och värdar. Det är ett påstående om mätupplösning, inte om att Meridians program skulle köras 100 till 10 000 gånger snabbare.

Arias produktöversikt innehåller ytterligare information om hårdvaran: dess 800G-switch har 64 800GbE-portar i ett chassi på två rackenheter, stöder RoCEv2 och nätverk på lager 2 och lager 3 samt har en dedikerad telemetriprocessor. RoCEv2 möjliggör fjärråtkomst till minne direkt över Ethernet, en funktion som används för att effektivt flytta data mellan maskiner i högpresterande kluster.

Samma produktsida beskriver hur GPU-värddata och switchdata korreleras, hur diagnostikverktyg väljs med hjälp av specialiserade agenter och hur vägledda arbetsflöden för problemlösning genomförs. Därmed kompletterar driftsinsyn hårdvarudesignen: nätverket måste gå att övervaka och underhålla efter driftsättningen.

Företagen har inte publicerat några gemensamma riktmärken för driftsättning av Meridian eller någon uppmätt kostnadsminskning per token för det här partnerskapet. Resultaten kommer att bero på vilka arbetsbelastningar och konfigurationer som driftsätts, liksom på hur nätverket fungerar under produktionsbelastning.

Meridians dedikerade inferensmodell

På sin webbplats beskriver Meridian sitt erbjudande som reserverad kapacitet anpassad efter kundens arbetsbelastning, med alternativ som omfattar både NVIDIA- och AMD-maskinvara samt specialiserade inferensacceleratorer. Företaget beskriver också hanterad orkestrering och driftsmodeller med bare metal.

Det här är beskrivningar av det bredare tjänsteerbjudandet, inte en bekräftelse på att alla annonserade konfigurationer ingår i Aria-biblioteket med referensdesigner från start. I partnerskapsmeddelandet anges varken de första anläggningarnas placeringar, fasta klusterstorlekar eller kundpriser.

Meridians fokus på dedikerad kapacitet förändrar också planeringsförutsättningarna. I stället för att enbart förlita sig på gemensam tillgänglighet behöver kunden ett system som utformats för den förväntade trafiken, modellegenskaperna och servicekraven. Repeterbara nätverksdesigner kan förenkla planeringen och samtidigt lämna utrymme för val utifrån den specifika arbetsbelastningen.

Ett partnerskap med fokus på repeterbart genomförande

Arias roll sträcker sig från design till praktisk driftsättning, och erfarenheter från enskilda anläggningar ska bidra till senare installationer och programvaruförbättringar. Målet är att göra nätverksteknik till en återanvändbar del av Meridians utrullning, i stället för en återkommande källa till osäkerhet.

Den närmaste milstolpen är konkret: gemensamma referensdesigner och den planerade molnlanseringen under andra kvartalet 2027. Därefter avgörs partnerskapet av om validerade designer och mer detaljerad operativ insyn leder till kluster som levereras enligt tidsplanen och ger jämn inferensprestanda när kundernas arbetsbelastningar börjar köras.