Meridian Cloud alege Aria Networks pentru proiectarea unor clustere AI pregătite pentru inferență

Meridian Cloud a ales Aria Networks ca partener de rețelistică pentru serviciul său cloud dedicat inferenței AI, a cărui lansare este programată pentru al doilea trimestru din 2027. Companiile intenționează să dezvolte proiecte de rețea standardizate și validate, care să facă implementarea clusterelor mai ușor de repetat și să ofere specificații tehnice, estimări de costuri și calendare de producție mai clare.

Parteneriatul, anunțat pe 5 noiembrie, implică Aria în procesul de planificare înainte de instalarea echipamentelor. Acesta include dimensionarea rețelei GPU de back-end, a rețelelor front-end și de stocare, stabilirea topologiilor și a cablării, precum și coordonarea aprovizionării și livrărilor cu calendarul de implementare al Meridian.

Primele proiecte de referință comune ar urma să fie disponibile clienților Meridian și partenerilor care administrează centre de date în T2 2027. Anunțul descrie un program de dezvoltare și implementare, nu o lansare deja finalizată a noului serviciu cloud Meridian pentru inferență.

Cum poate fiecare cluster nou să necesite mai puțin efort de proiectare tehnică

Abordarea Meridian presupune o echipă centrală suplă, sprijinită de parteneri specializați în inginerie, calcul, implementare și rețelistică. Aria va contribui la transformarea acestei activități într-o bibliotecă de proiecte de referință, fiecare adaptat unei anumite categorii de centre de date.

Ideea este să se pornească de la puterea disponibilă într-o locație și să se aleagă o configurație ale cărei cerințe de rețea au fost deja validate. Astfel, Meridian ar putea stabili specificațiile și costurile înainte de începerea construcției, în loc să reproiecteze rețeaua ca pe un proiect tehnic separat în fiecare locație.

Pentru un client al unui serviciu cloud dedicat, valoarea standardizării constă în predictibilitate. Un cluster presupune mai mult decât numărul de acceleratoare comandate: traseele cablurilor, capacitatea comutatoarelor, conexiunile gazdelor, traficul de stocare și momentul livrării echipamentelor influențează toate momentul în care sistemul poate începe să lucreze efectiv.

„Inginerii Aria detașați la sediul clientului lucrează în cadrul echipei noastre încă din prima zi, colaborând cu noi la proiectarea rețelei, planificarea aprovizionării și a implementării și validând fiecare cablu, legătură și configurație înainte de rularea oricărei sarcini a unui client”, a declarat Vic Rose, CEO al Meridian Cloud.

De ce inferența ca rețeaua să devină un element esențial

Inferența este procesul prin care un model antrenat generează un răspuns. Într-o implementare distribuită, părți ale procesului și datele care îl susțin pot fi transferate între mașini, astfel încât timpul necesar comunicării influențează răspunsul pe care îl primește utilizatorul.

Un exemplu este inferența dezagregată, în care procesarea promptului și generarea tokenurilor se desfășoară pe resurse separate. Este posibil ca sistemul să fie nevoit să transfere între acestea memoria cache cheie-valoare a modelului — datele intermediare de atenție asociate cererii. Congestia de pe această rută poate întârzia procesarea chiar și atunci când GPU-urile sunt disponibile.

Discuția tehnică a Aria despre rețelistică pentru inferență pune accentul pe corelarea activității gazdelor cu telemetria rețelei. Un port care pare să funcționeze normal într-un tablou de bord actualizat periodic poate totuși să sufere perturbări de scurtă durată, care afectează performanța aplicației.

Comunicatul despre parteneriat menționează evenimente de congestie, degradarea componentelor optice și probleme la nivelul gazdei, care pot trece neobservate de instrumentele ce verifică rețeaua la intervale de câteva secunde. Detectarea acestor evenimente necesită un nivel de vizibilitate diferit de simpla verificare a stării unei conexiuni.

Pentru o afacere bazată pe inferență, consecințele sunt atât comerciale, cât și tehnice. Timpul petrecut în așteptarea datelor reduce volumul de lucru util furnizat de echipamentele care continuă să consume energie și să genereze costuri de deținere. Printre indicatorii operaționali relevanți se numără latența răspunsului, debitul util și costul per milion de tokenuri — nu doar viteza conexiunii.

Ce aduce Deep Networking de la Aria

Aria descrie Deep Networking drept un sistem proiectat în comun, care combină hardware de comutare, Aria Operating System, telemetrie detaliată și agenți specializați. Anunțul Meridian menționează platforme de comutare Aria 800G și o rețea Ethernet bazată pe standarde, concepută pentru a rămâne compatibilă cu diferiți furnizori de acceleratoare.

Compania susține că telemetria are o rezoluție de 100 până la 10.000 de ori mai mare decât cea oferită de instrumentele tradiționale, pentru comutatoare, componente optice și gazde. Este vorba despre o afirmație privind rezoluția măsurătorilor, nu despre o afirmație că aplicațiile Meridian vor rula de 100 până la 10.000 de ori mai repede.

Prezentarea generală a produsului Aria oferă detalii suplimentare despre hardware: comutatorul său 800G are 64 de porturi 800GbE într-un șasiu de două unități de rack, acceptă rețelistică RoCEv2 și Layer 2/Layer 3 și include un procesor dedicat telemetriei. RoCEv2 permite accesul direct la memoria de la distanță prin Ethernet, o funcționalitate folosită pentru transferul eficient de date între mașinile din clusterele de înaltă performanță.

Aceeași pagină a produsului descrie corelarea datelor de la GPU-uri, gazde și comutatoare, selectarea instrumentelor de diagnosticare prin intermediul agenților specializați și executarea unor fluxuri de lucru ghidate pentru remedierea problemelor. Astfel, vizibilitatea operațională completează proiectarea hardware: după punerea în funcțiune, rețeaua trebuie să poată fi monitorizată și întreținută.

Companiile nu au publicat repere comune de performanță pentru implementările Meridian și nici o reducere măsurată a costului per token în cadrul acestui parteneriat. Aceste rezultate vor depinde de sarcinile de lucru și de configurațiile implementate, precum și de comportamentul rețelei în condiții de trafic de producție.

Modelul de inferență dedicat al Meridian

Pe site-ul web, Meridian își prezintă oferta ca fiind bazată pe capacitate rezervată, adaptată sarcinii de lucru a clientului, cu opțiuni care includ atât echipamente NVIDIA și AMD, cât și acceleratoare specializate pentru inferență. Compania descrie, de asemenea, modele de orchestrare gestionată și de operare pe servere fizice dedicate.

Acestea sunt descrieri ale ofertei generale de servicii, nu confirmarea că fiecare configurație promovată face parte din biblioteca inițială de proiecte de referință Aria. Anunțul parteneriatului nu precizează primele locații ale centrelor de date, dimensiunile fixe ale clusterelor sau prețurile pentru clienți.

Accentul pus de Meridian pe capacitatea dedicată schimbă și modul de planificare. În loc să se bazeze exclusiv pe disponibilitatea partajată, clientul are nevoie de un sistem proiectat pentru traficul estimat, caracteristicile modelului și cerințele de serviciu. Proiectele de rețea reproductibile pot simplifica planificarea, lăsând totodată loc pentru alegeri adaptate sarcinilor de lucru.

Un parteneriat axat pe implementarea repetabilă

Rolul Aria acoperă atât proiectarea, cât și implementarea practică, iar lecțiile desprinse din fiecare locație sunt menite să contribuie la instalările ulterioare și la îmbunătățirile software. Obiectivul este ca ingineria rețelei să devină o componentă reutilizabilă a extinderii Meridian, nu o sursă recurentă de incertitudine.

Următorul reper concret este realizarea proiectelor de referință comune și lansarea în cloud planificată pentru trimestrul al doilea din 2027. Ulterior, parteneriatul va fi evaluat în funcție de măsura în care proiectele validate și vizibilitatea operațională sporită se traduc în clustere livrate la timp, care asigură performanțe consecvente de inferență odată ce încep să ruleze sarcinile de lucru ale clienților.