Meridian Cloud sceglie Aria Networks per progettare cluster IA pronti per l’inferenza

Meridian Cloud ha scelto Aria Networks come partner di rete per il suo cloud dedicato all’inferenza IA, il cui lancio è previsto nel secondo trimestre del 2027. Le aziende intendono sviluppare progetti di rete standardizzati e convalidati, che rendano più ripetibili le implementazioni dei cluster e forniscano specifiche ingegneristiche, stime dei costi e tempistiche di produzione più chiare.

Annunciata il 5 novembre, la partnership coinvolge Aria nella pianificazione prima dell’installazione delle apparecchiature. L’ambito della collaborazione comprende il dimensionamento della rete di back-end per le GPU, delle reti front-end e di archiviazione, la definizione di topologie e cablaggi e il coordinamento delle forniture e delle consegne in base al calendario di implementazione di Meridian.

I primi progetti di riferimento congiunti dovrebbero essere disponibili per i clienti e i partner delle strutture di Meridian nel secondo trimestre del 2027. L’annuncio descrive un programma di sviluppo e implementazione, non il completamento della realizzazione del nuovo cloud di Meridian per l’inferenza.

Ridurre il lavoro di progettazione ingegneristica per ogni nuovo cluster

L’approccio di Meridian consiste nell’affidarsi a un team centrale snello, supportato da partner specializzati nei settori dell’ingegneria, del calcolo, dell’implementazione e delle reti. Aria contribuirà a trasformare questo lavoro in una raccolta di progetti di riferimento, ciascuno adattato a una tipologia di struttura.

L’idea è partire dalla potenza disponibile in un sito e abbinarla a una configurazione di cui siano già stati convalidati i requisiti di rete. In questo modo Meridian potrebbe definire specifiche e costi prima dell’inizio dei lavori, invece di riprogettare la rete come attività ingegneristica separata in ogni singola sede.

Per un cliente che si affida a un cloud dedicato, il vantaggio di questa standardizzazione è la prevedibilità. Un cluster non dipende soltanto dal numero di acceleratori ordinati: anche i percorsi dei cavi, la capacità degli switch, i collegamenti agli host, il traffico di archiviazione e i tempi di consegna delle apparecchiature incidono sul momento in cui il sistema può iniziare a svolgere attività utili.

«I Forward Deployed Engineers di Aria collaborano con il nostro team fin dal primo giorno, lavorando con noi alla progettazione della rete, alla pianificazione delle forniture e dell’implementazione e alla convalida di ogni cavo, collegamento e configurazione prima ancora che venga eseguito un carico di lavoro del cliente», ha dichiarato Vic Rose, CEO di Meridian Cloud.

Perché, nell’inferenza, la rete è un elemento critico

L’inferenza è il processo con cui si esegue un modello addestrato per generare una risposta. In un’implementazione distribuita, parti del processo e i dati necessari a supportarlo possono spostarsi tra macchine, rendendo il tempo di comunicazione parte della risposta percepita dall’utente.

Un esempio è l’inferenza disaggregata, in cui l’elaborazione del prompt e la generazione dei token vengono eseguite su risorse separate. Potrebbe essere necessario trasferire tra queste risorse la cache key-value del modello, ovvero i dati intermedi di attenzione associati alla richiesta. La congestione lungo questo percorso può rallentare il lavoro anche quando le GPU sono disponibili.

La discussione tecnica sulle reti per l’inferenza di Aria sottolinea l’importanza di correlare l’attività degli host con i dati di telemetria della rete. Una porta che in un pannello di controllo aggiornato periodicamente sembra funzionare correttamente può comunque essere soggetta a brevi anomalie che incidono sulle prestazioni dell’applicazione.

L’annuncio della partnership segnala eventi di congestione, componenti ottici degradati e problemi lato host che potrebbero sfuggire agli strumenti che effettuano rilevamenti ogni pochi secondi. Per individuare questi eventi serve un livello di visibilità diverso dalla semplice verifica che un collegamento sia attivo.

Per un’attività basata sull’inferenza, le conseguenze sono tanto commerciali quanto tecniche. Il tempo trascorso in attesa dei dati riduce la produzione utile di hardware che continua a consumare energia e a generare costi di proprietà. Tra gli indicatori operativi rilevanti figurano la latenza delle risposte, la produttività utile e il costo per milione di token, non soltanto la velocità dei collegamenti.

Cosa offre Deep Networking di Aria

Aria descrive Deep Networking come un sistema progettato congiuntamente, che combina hardware di commutazione, Aria Operating System, telemetria granulare e agenti specializzati. L’annuncio di Meridian specifica piattaforme di switch Aria da 800G e una rete Ethernet basata su standard, pensata per restare compatibile con diversi produttori di acceleratori.

L’azienda dichiara una telemetria con una risoluzione da 100 a 10.000 volte superiore a quella degli strumenti tradizionali, applicata a switch, componenti ottici e host. Si tratta di un’affermazione sulla risoluzione delle misurazioni, non di una dichiarazione secondo cui le applicazioni di Meridian funzioneranno da 100 a 10.000 volte più velocemente.

La panoramica del prodotto di Aria fornisce ulteriori dettagli sull’hardware: il suo switch da 800G dispone di 64 porte 800GbE in uno chassis da due unità rack, supporta RoCEv2 e il networking di livello 2 e 3 e include un processore dedicato alla telemetria. RoCEv2 consente l’accesso diretto remoto alla memoria tramite Ethernet, una funzionalità utilizzata per trasferire dati in modo efficiente tra macchine nei cluster ad alte prestazioni.

La stessa pagina del prodotto descrive la correlazione dei dati provenienti da GPU, host e switch, la selezione degli strumenti diagnostici tramite agenti specializzati e l’esecuzione di flussi di lavoro guidati per la risoluzione dei problemi. In questo modo, la visibilità operativa affianca la progettazione hardware: una volta messa in servizio, la rete deve poter essere monitorata e mantenuta.

Le aziende non hanno pubblicato benchmark congiunti delle implementazioni di Meridian né una riduzione misurata del costo per token relativa a questa partnership. Questi risultati dipenderanno dai carichi di lavoro e dalle configurazioni implementate, oltre che dal comportamento della rete con il traffico di produzione.

Il modello di inferenza dedicato di Meridian

Sul proprio sito web, Meridian presenta la sua offerta come una capacità riservata e calibrata sul carico di lavoro del cliente, con opzioni che includono hardware NVIDIA e AMD e acceleratori di inferenza specializzati. Descrive inoltre modelli operativi con orchestrazione gestita e bare metal.

Si tratta di descrizioni della proposta di servizio nel suo complesso, non della conferma che ogni configurazione pubblicizzata faccia parte della libreria iniziale di progetti di riferimento di Aria. L’annuncio della partnership non specifica le sedi dei primi impianti, le dimensioni standard dei cluster né i prezzi per i clienti.

L’attenzione di Meridian alla capacità dedicata cambia anche il problema della pianificazione. Invece di fare affidamento esclusivamente sulla disponibilità condivisa, un cliente ha bisogno di un sistema progettato per il traffico previsto, le caratteristiche del modello e i requisiti del servizio. Progetti di rete replicabili possono semplificare questa pianificazione, lasciando comunque spazio a scelte specifiche per ciascun carico di lavoro.

Una partnership incentrata su un’esecuzione replicabile

Il ruolo di Aria va dalla progettazione all’implementazione sul campo; le lezioni apprese nei singoli siti dovrebbero orientare le installazioni successive e i miglioramenti software. L’obiettivo è rendere l’ingegneria di rete una componente riutilizzabile delle implementazioni di Meridian, anziché una fonte ricorrente di incertezza.

La tappa a breve termine è concreta: i progetti di riferimento congiunti e il lancio pianificato del cloud nel secondo trimestre del 2027. In seguito, la prova della partnership sarà verificare se i progetti convalidati e una maggiore visibilità operativa si traducono in cluster pronti nei tempi previsti e capaci di offrire prestazioni di inferenza costanti una volta avviati i carichi di lavoro dei clienti.