Meridian Cloud elige a Aria Networks para diseñar clústeres de IA preparados para la inferencia

Meridian Cloud ha elegido a Aria Networks como socio de redes para su nube dedicada de inferencia de IA, cuyo lanzamiento está previsto para el segundo trimestre de 2027. Las empresas planean desarrollar diseños de red estandarizados y validados que permitan implementar clústeres de forma más sistemática y ofrezcan especificaciones de ingeniería, estimaciones de costos y plazos de producción más claros.

La alianza, anunciada el 5 de noviembre, incorpora a Aria al proceso de planificación antes de instalar los equipos. Su alcance incluye dimensionar la red de GPU de back-end, las redes de front-end y almacenamiento, definir topologías y cableado, y coordinar el suministro y la entrega con el calendario de implementación de Meridian.

Se espera que los primeros diseños de referencia conjuntos estén disponibles para los clientes de Meridian y sus socios de instalaciones en el segundo trimestre de 2027. El anuncio describe un programa de desarrollo e implementación, no el despliegue ya completado de la nueva nube de inferencia de Meridian.

Reducir la complejidad de ingeniería de cada nuevo clúster

El enfoque de Meridian consiste en trabajar con un equipo central reducido, respaldado por socios especializados en ingeniería, computación, implementación y redes. Aria contribuirá a convertir ese trabajo en una biblioteca de diseños de referencia, cada uno adaptado a una categoría de instalación.

La idea es partir de la potencia disponible en una instalación y ajustarla a una configuración cuyos requisitos de red ya se hayan validado. Esto permitiría a Meridian definir las especificaciones y los costos antes de que comience la construcción, en lugar de tener que rediseñar la red como un proyecto de ingeniería independiente en cada ubicación.

Para los clientes de una nube dedicada, la estandarización aporta previsibilidad. Un clúster depende de mucho más que la cantidad de aceleradores encargados: las rutas de los cables, la capacidad de los conmutadores, las conexiones a los servidores, el tráfico de almacenamiento y los plazos de entrega de los equipos influyen en cuándo puede empezar el sistema a realizar trabajo útil.

«Los ingenieros de despliegue avanzado de Aria trabajan integrados con nuestro equipo desde el primer día. Colaboran con nosotros en el diseño de redes, la planificación del suministro y la implementación, y validan cada cable, enlace y configuración antes de que se ejecute cualquier tarea de un cliente», afirmó Vic Rose, director ejecutivo de Meridian Cloud.

Por qué la red es un factor crítico en la inferencia

La inferencia es el proceso de ejecutar un modelo entrenado para obtener una respuesta. En una implementación distribuida, partes de ese proceso y los datos que lo respaldan pueden trasladarse entre máquinas, por lo que el tiempo de comunicación influye en la respuesta que recibe el usuario.

Un ejemplo es la inferencia desagregada, en la que el procesamiento de la instrucción y la generación de tokens se ejecutan en recursos separados. Es posible que el sistema tenga que transferir entre ellos la caché de claves y valores del modelo, es decir, los datos intermedios de atención asociados a la solicitud. La congestión en esa ruta puede retrasar el trabajo incluso cuando las GPU están disponibles.

El análisis técnico de las redes para inferencia de Aria hace hincapié en correlacionar la actividad de los servidores con la telemetría de red. Un puerto que parece funcionar correctamente en un panel que se actualiza periódicamente aún puede sufrir interrupciones breves que afecten al rendimiento de las aplicaciones.

El comunicado sobre la alianza señala que los eventos de congestión, el deterioro de los componentes ópticos y los problemas en los servidores pueden pasar inadvertidos para las herramientas que consultan los sistemas cada pocos segundos. Detectar esos eventos requiere un nivel de visibilidad distinto de la mera confirmación de que un enlace está activo.

Para una empresa dedicada a la inferencia, las consecuencias son tanto comerciales como técnicas. El tiempo que se pierde esperando datos reduce la producción útil de un hardware que sigue consumiendo energía y generando costos de propiedad. Entre las métricas operativas pertinentes figuran la latencia de respuesta, el rendimiento útil y el costo por millón de tokens, no solo la velocidad del enlace.

Qué aporta la solución Deep Networking de Aria

Aria describe Deep Networking como un sistema de diseño conjunto que combina hardware de conmutación, Aria Operating System, telemetría detallada y agentes especializados. El anuncio de Meridian especifica plataformas de conmutación Aria 800G y una red Ethernet basada en estándares, concebida para admitir distintos proveedores de aceleradores.

La empresa afirma que su telemetría ofrece una resolución entre 100 y 10 000 veces mayor que la de las herramientas tradicionales en conmutadores, componentes ópticos y servidores. Se trata de una afirmación sobre la resolución de las mediciones, no de que las aplicaciones de Meridian vayan a funcionar entre 100 y 10 000 veces más rápido.

La descripción general del producto de Aria ofrece más detalles sobre el hardware: su conmutador 800G cuenta con 64 puertos 800GbE en un chasis de dos unidades de rack, admite RoCEv2 y redes de capa 2 y capa 3, e incorpora un procesador de telemetría dedicado. RoCEv2 permite el acceso remoto directo a la memoria a través de Ethernet, una capacidad que se utiliza para transferir datos de forma eficiente entre máquinas en clústeres de alto rendimiento.

La misma página del producto describe cómo correlacionar los datos de las GPU, los servidores y los conmutadores, seleccionar herramientas de diagnóstico mediante agentes especializados y ejecutar flujos de trabajo de resolución guiados. Así, la visibilidad operativa complementa el diseño del hardware: una vez puesta en servicio, la red debe poder supervisarse y mantenerse.

Las empresas no han publicado parámetros de referencia conjuntos de las implementaciones de Meridian ni una reducción medida del costo por token para esta colaboración. Esos resultados dependerán de las cargas de trabajo y las configuraciones implementadas, así como del comportamiento de la red con el tráfico de producción.

El modelo de inferencia dedicada de Meridian

En su sitio web, Meridian presenta una oferta basada en capacidad reservada y adaptada a la carga de trabajo de cada cliente, con opciones que abarcan hardware de NVIDIA y AMD, además de aceleradores de inferencia especializados. También describe modelos operativos de orquestación gestionada y bare metal.

Estas son descripciones de la propuesta de servicio general, no una confirmación de que todas las configuraciones anunciadas formen parte de la biblioteca inicial de diseños de referencia de Aria. El anuncio de la colaboración no especifica las ubicaciones de las primeras instalaciones, los tamaños fijos de los clústeres ni los precios para los clientes.

El enfoque de Meridian en la capacidad dedicada también cambia el problema de planificación. En lugar de depender únicamente de la disponibilidad compartida, el cliente necesita un sistema diseñado para el tráfico previsto, las características del modelo y los requisitos del servicio. Los diseños de red repetibles pueden facilitar esa planificación y, a la vez, dejar margen para adaptaciones específicas a cada carga de trabajo.

Una colaboración centrada en una ejecución repetible

La función de Aria abarca desde el diseño hasta la implementación práctica, y se espera que las lecciones extraídas de cada instalación sirvan para orientar las posteriores y mejorar el software. El objetivo es que la ingeniería de redes sea un componente reutilizable del despliegue de Meridian, en lugar de una fuente recurrente de incertidumbre.

El hito a corto plazo es concreto: los diseños de referencia conjuntos y el lanzamiento previsto de la nube en el segundo trimestre de 2027. Más adelante, la prueba de la colaboración será determinar si los diseños validados y una mayor visibilidad operativa se traducen en clústeres que se entreguen a tiempo y ofrezcan un rendimiento de inferencia uniforme una vez que empiecen a ejecutarse las cargas de trabajo de los clientes.