Meridian Cloud vybírá Aria Networks pro návrhy clusterů AI připravených na inferenci

Meridian Cloud si vybrala Aria Networks jako síťového partnera pro svůj vyhrazený cloud pro inferenci, jehož spuštění je naplánováno na druhé čtvrtletí roku 2027. Společnosti plánují vyvinout standardizované a ověřené návrhy sítí, které umožní opakovatelnější nasazování clusterů a poskytnou jasnější technické specifikace, odhady nákladů a harmonogramy nasazení v produkčním prostředí.

Partnerství oznámené 5. listopadu zapojuje Aria do plánování ještě před instalací zařízení. Jeho záběr zahrnuje dimenzování zadní GPU sítě, front-endových a úložných sítí, návrh topologií a kabeláže i koordinaci dodávek s harmonogramem nasazení společnosti Meridian.

Očekává se, že první společné referenční návrhy budou zákazníkům společnosti Meridian a partnerům provozujícím datová centra k dispozici ve druhém čtvrtletí roku 2027. Oznámení popisuje program vývoje a nasazení, nikoli dokončené spuštění nového inferenčního cloudu společnosti Meridian.

Aby každý nový cluster znamenal méně nového technického projektu

Společnost Meridian chce provozovat štíhlý centrální tým, který budou podporovat specializovaní partneři v oblasti technického vývoje, výpočetního výkonu, nasazování a sítí. Aria pomůže tuto práci proměnit v knihovnu referenčních návrhů, z nichž každý bude odpovídat určité kategorii zařízení.

Záměrem je vycházet z dostupného příkonu konkrétní lokality a přiřadit mu konfiguraci s již ověřenými požadavky na síť. Meridian tak bude moci stanovit specifikace a náklady ještě před zahájením výstavby, místo aby v každé lokalitě dodatečně upravovala síť jako samostatný technický projekt.

Pro zákazníka vyhrazeného cloudu přináší tato standardizace především předvídatelnost. Cluster zahrnuje víc než jen počet objednaných akcelerátorů: dobu, kdy systém může začít užitečně pracovat, ovlivňují také trasy kabelů, kapacita přepínačů, připojení hostitelů, provoz úložišť i načasování dodávek zařízení.

„Inženýři Aria nasazení přímo u zákazníka jsou součástí našeho týmu od prvního dne. Společně pracujeme na návrhu sítě, plánování dodávek a nasazení a ověřujeme každý kabel, spoj i konfiguraci ještě před spuštěním jakékoli úlohy zákazníka,“ uvedl Vic Rose, generální ředitel společnosti Meridian Cloud.

Proč je při inferenci síť kritickou součástí zpracování

Inference je proces, při němž se natrénovaný model používá k vytvoření odpovědi. V distribuovaném nasazení mohou části tohoto procesu i podpůrná data putovat mezi stroji, takže doba komunikace ovlivňuje odezvu, kterou uživatel vnímá.

Jedním z příkladů je disagregovaná inference, při níž zpracování promptu a generování tokenů probíhá na samostatných prostředcích. Systém může mezi nimi potřebovat přesouvat mezipaměť klíč-hodnota modelu — mezilehlá data mechanismu pozornosti související s požadavkem. Přetížení této trasy může práci zdržet, i když jsou samotné GPU k dispozici.

Aria ve svém technickém pojednání o sítích pro inferenci zdůrazňuje potřebu korelovat aktivitu hostitelů s telemetrickými údaji ze sítě. Port, který se na pravidelně obnovovaném řídicím panelu jeví jako funkční, může přesto vykazovat krátkodobé výkyvy ovlivňující výkon aplikací.

Oznámení o partnerství upozorňuje na případy přetížení, zhoršování parametrů optických komponent a problémy na straně hostitelů, které mohou uniknout nástrojům provádějícím dotazování každých několik sekund. Jejich odhalení vyžaduje podstatně podrobnější přehled než pouhou informaci o tom, zda je spoj funkční.

Pro firmu podnikající v oblasti inference má tato skutečnost obchodní i technické důsledky. Čas strávený čekáním na data snižuje užitečný výkon hardwaru, který přitom dál spotřebovává energii a vytváří náklady na vlastnictví. Mezi důležité provozní ukazatele patří latence odezvy, užitečná propustnost a náklady na milion tokenů — nejen rychlost spojení.

Co přináší pokročilé síťové řešení Aria

Aria popisuje Deep Networking jako společně navržený systém, který kombinuje přepínací hardware, Aria Operating System, podrobnou telemetrii a specializované agenty. Oznámení společnosti Meridian uvádí platformy přepínačů Aria 800G a ethernetovou síť založenou na standardech, která má zůstat otevřená různým dodavatelům akcelerátorů.

Společnost uvádí, že její telemetrie má v případě přepínačů, optických komponent a hostitelů 100krát až 10 000krát vyšší rozlišení než tradiční nástroje. Jde o tvrzení týkající se rozlišení měření, nikoli o tvrzení, že aplikace společnosti Meridian poběží 100krát až 10 000krát rychleji.

V přehledu produktu Aria uvádí další informace o hardwaru: její přepínač 800G má v šasi o výšce dvou rackových jednotek 64 portů 800GbE, podporuje RoCEv2 a síťování 2. a 3. vrstvy a obsahuje vyhrazený procesor pro telemetrii. RoCEv2 umožňuje vzdálený přímý přístup do paměti přes Ethernet, což je funkce využívaná k efektivnímu přesunu dat mezi stroji ve vysoce výkonných clusterech.

Na stejné produktové stránce se popisuje korelace dat z hostitelů s GPU a z přepínačů, výběr diagnostických nástrojů prostřednictvím specializovaných agentů a provádění řízených pracovních postupů pro řešení problémů. Provozní přehled tak doplňuje návrh hardwaru: po uvedení do provozu musí být možné síť sledovat a udržovat.

Společnosti nezveřejnily společné srovnávací výsledky nasazení Meridian ani naměřené snížení nákladů na token v rámci tohoto partnerství. Tyto výsledky budou záviset na nasazených úlohách a konfiguracích i na tom, jak se bude síť chovat při provozu v produkčním prostředí.

Inferenční model Meridianu s vyhrazenou kapacitou

Na svých webových stránkách Meridian představuje svou nabídku jako vyhrazenou kapacitu přizpůsobenou úlohám zákazníka, s možnostmi zahrnujícími hardware NVIDIA i AMD a také specializované inferenční akcelerátory. Popisuje rovněž spravovanou orchestraci a provozní modely využívající holý hardware.

Jde o popis širší nabídky služeb, nikoli o potvrzení, že každá inzerovaná konfigurace bude součástí počáteční knihovny referenčních návrhů Aria. Oznámení o partnerství neuvádí první lokality datových center, pevně stanovené velikosti clusterů ani ceny pro zákazníky.

Zaměření Meridianu na vyhrazenou kapacitu mění také způsob plánování. Zákazník se nemůže spoléhat pouze na sdílenou dostupnost; potřebuje systém navržený s ohledem na očekávaný provoz, vlastnosti modelů a požadavky na služby. Opakovatelné návrhy sítí mohou plánování usnadnit a zároveň ponechat prostor pro volby přizpůsobené konkrétním úlohám.

Partnerství zaměřené na opakovatelnou realizaci

Úloha Aria sahá od návrhu až po praktické nasazení. Zkušenosti z jednotlivých lokalit mají přispívat k dalším instalacím a vylepšování softwaru. Cílem je, aby se síťové inženýrství stalo znovu využitelnou součástí zavádění služeb Meridianu, a nikoli opakovaným zdrojem nejistoty.

Nejbližší milník je konkrétní: společné referenční návrhy a plánované spuštění cloudu ve 2. čtvrtletí 2027. Poté se ukáže, zda se díky ověřeným návrhům a podrobnějšímu přehledu o provozu podaří zajistit, aby byly clustery nasazovány podle plánu a po zahájení provozu zákaznických úloh poskytovaly stabilní inferenční výkon.