Meridian Cloud wybiera Aria Networks do projektowania klastrów AI gotowych do obsługi wnioskowania

Meridian Cloud wybrała Aria Networks na partnera w zakresie sieci dla swojej dedykowanej chmury do obsługi wnioskowania AI, której uruchomienie zaplanowano na drugi kwartał 2027 roku. Firmy zamierzają opracować ustandaryzowane, sprawdzone projekty sieci, dzięki którym wdrażanie klastrów będzie bardziej powtarzalne, a specyfikacje techniczne, szacunki kosztów i harmonogramy produkcji — jaśniejsze.

Partnerstwo ogłoszono 5 listopada. Aria dołącza do procesu planowania, zanim zostanie zainstalowany sprzęt. Zakres współpracy obejmuje dobór parametrów sieci zaplecza łączącej procesory GPU, sieci front-endowych i pamięci masowej, opracowanie topologii i tras kablowych, a także koordynację dostaw z harmonogramem wdrożeń Meridian.

Pierwsze wspólne projekty referencyjne mają być dostępne dla klientów Meridian i partnerów zarządzających obiektami w drugim kwartale 2027 roku. W komunikacie opisano program rozwoju i wdrożeń, a nie zakończone uruchomienie nowej chmury Meridian do obsługi wnioskowania.

Każdy nowy klaster ma wymagać mniej pracy inżynieryjnej od podstaw

Meridian zamierza utrzymywać niewielki centralny zespół wspierany przez wyspecjalizowanych partnerów w obszarach inżynierii, mocy obliczeniowej, wdrożeń i sieci. Aria pomoże przekształcić te działania w bibliotekę projektów referencyjnych, z których każdy będzie dopasowany do określonej klasy obiektów.

Pomysł polega na tym, by zacząć od dostępnej mocy w danej lokalizacji i dobrać do niej konfigurację, której wymagania dotyczące sieci zostały już zweryfikowane. Pozwoliłoby to Meridian określić specyfikacje i koszty przed rozpoczęciem budowy, zamiast za każdym razem wprowadzać zmiany w strukturze sieci jako osobne zadanie inżynieryjne.

Dla klienta korzystającego z dedykowanej chmury wartością takiej standaryzacji jest przewidywalność. Klaster to coś więcej niż liczba zamówionych akceleratorów: trasy kablowe, przepustowość przełączników, połączenia z serwerami, ruch związany z pamięcią masową i terminy dostaw sprzętu wpływają na to, kiedy system będzie mógł rozpocząć użyteczną pracę.

„Inżynierowie Aria pracujący bezpośrednio w terenie od pierwszego dnia są częścią naszego zespołu. Wspólnie projektujemy sieć, planujemy dostawy i wdrożenia oraz sprawdzamy każdy kabel, łącze i konfigurację, zanim jeszcze zostanie uruchomione zadanie klienta” — powiedział Vic Rose, dyrektor generalny Meridian Cloud.

Dlaczego w obsłudze wnioskowania sieć staje się kluczowym elementem

Wnioskowanie to proces uruchamiania wytrenowanego modelu w celu uzyskania odpowiedzi. W przypadku wdrożenia rozproszonego część obliczeń i obsługujących je danych może być przesyłana między maszynami, przez co czas komunikacji wpływa na odpowiedź, którą otrzymuje użytkownik.

Jednym z przykładów jest rozdzielone wnioskowanie, w którym przetwarzanie promptu i generowanie tokenów odbywają się na oddzielnych zasobach. System może wymagać przesyłania między nimi pamięci podręcznej klucz-wartość modelu — pośrednich danych dotyczących mechanizmu uwagi, powiązanych z danym żądaniem. Zatory na tej trasie mogą opóźniać pracę nawet wtedy, gdy same procesory GPU są dostępne.

Omówienie technicznych aspektów sieci na potrzeby wnioskowania przygotowane przez firmę Aria podkreśla znaczenie korelowania aktywności hostów z telemetrią sieciową. Port, który na okresowo odświeżanym pulpicie wygląda na sprawny, może mimo to doświadczać krótkotrwałych zakłóceń wpływających na wydajność aplikacji.

W komunikacie o partnerstwie wskazano na zatory, pogarszający się stan elementów optycznych i problemy po stronie hostów, które mogą umknąć narzędziom odpytującym system co kilka sekund. Wykrywanie takich zdarzeń wymaga bardziej szczegółowego wglądu niż samo sprawdzenie, czy łącze działa.

Dla firmy zajmującej się wnioskowaniem konsekwencje są nie tylko techniczne, lecz także biznesowe. Czas oczekiwania na dane zmniejsza użyteczną wydajność sprzętu, który nadal pobiera energię i generuje koszty posiadania. Istotne miary operacyjne to opóźnienie odpowiedzi, użyteczna przepustowość i koszt miliona tokenów — nie sama szybkość łącza.

Co wnosi rozwiązanie Deep Networking firmy Aria

Aria opisuje Deep Networking jako współprojektowany system łączący sprzęt przełączający, Aria Operating System, szczegółową telemetrię i wyspecjalizowane agenty. W komunikacie Meridian wymieniono platformy przełączników Aria 800G oraz opartą na standardach sieć Ethernet, która ma pozostać otwarta na rozwiązania różnych dostawców akceleratorów.

Firma deklaruje, że telemetria obejmuje przełączniki, elementy optyczne i hosty z rozdzielczością od 100 do 10 000 razy większą niż w przypadku tradycyjnych narzędzi. Jest to twierdzenie dotyczące rozdzielczości pomiarów, a nie deklaracja, że aplikacje Meridian będą działać od 100 do 10 000 razy szybciej.

Przegląd produktu firmy Aria zawiera dodatkowe informacje o sprzęcie: jej przełącznik 800G ma 64 porty 800GbE w obudowie o wysokości dwóch jednostek rackowych, obsługuje RoCEv2 oraz sieci warstwy 2 i warstwy 3, a także zawiera dedykowany procesor telemetrii. RoCEv2 umożliwia bezpośredni zdalny dostęp do pamięci przez Ethernet — funkcję wykorzystywaną do wydajnego przesyłania danych między maszynami w klastrach wysokiej wydajności.

Na tej samej stronie produktu opisano korelowanie danych z hostów GPU i przełączników, dobieranie narzędzi diagnostycznych przez wyspecjalizowane agenty oraz wykonywanie prowadzonych procedur rozwiązywania problemów. Dzięki temu widoczność operacyjna uzupełnia projekt sprzętu: po uruchomieniu sieci musi być możliwe monitorowanie jej działania i utrzymywanie jej w sprawności.

Firmy nie opublikowały wspólnych testów porównawczych wdrożeń Meridian ani pomiarów obniżenia kosztu przypadającego na token w ramach tego partnerstwa. Wyniki te będą zależeć od wdrożonych obciążeń i konfiguracji, a także od zachowania sieci przy ruchu produkcyjnym.

Model Meridianu zapewniający dedykowane zasoby do wnioskowania

Na swojej stronie internetowej Meridian przedstawia ofertę opartą na zarezerwowanej pojemności dostosowanej do obciążenia klienta, obejmującej sprzęt NVIDIA i AMD, a także wyspecjalizowane akceleratory wnioskowania. Opisuje również zarządzaną orkiestrację oraz modele działania oparte na infrastrukturze bare-metal.

Są to opisy szerszej oferty usług, a nie potwierdzenie, że każda reklamowana konfiguracja należy do początkowej biblioteki projektów referencyjnych Aria. W ogłoszeniu o partnerstwie nie podano lokalizacji pierwszych obiektów, stałych rozmiarów klastrów ani cen dla klientów.

Skupienie Meridian na dedykowanej pojemności zmienia również sposób planowania. Zamiast polegać wyłącznie na współdzielonej dostępności zasobów, klient potrzebuje systemu zaprojektowanego z myślą o przewidywanym ruchu, charakterystyce modeli i wymaganiach dotyczących usług. Powtarzalne projekty sieci mogą ułatwić takie planowanie, pozostawiając jednocześnie miejsce na rozwiązania dostosowane do konkretnych obciążeń.

Partnerstwo nastawione na powtarzalne wdrażanie

Rola Aria obejmuje zarówno projektowanie, jak i bezpośrednie wdrażanie, a wnioski zebrane w poszczególnych lokalizacjach mają pomóc w kolejnych instalacjach i udoskonalaniu oprogramowania. Celem jest uczynienie inżynierii sieciowej powtarzalnym elementem wdrożeń Meridian, a nie powracającym źródłem niepewności.

Najbliższy konkretny etap to wspólne projekty referencyjne i planowane uruchomienie chmury w Q2 2027 roku. Później miarą powodzenia partnerstwa będzie to, czy zweryfikowane projekty i lepszy wgląd w działanie infrastruktury przełożą się na klastry dostarczane zgodnie z harmonogramem, które zapewnią stabilną wydajność wnioskowania po rozpoczęciu przetwarzania obciążeń klientów.