Cornelis presenta CN6000: qué significa la conectividad de 800G para la IA y las supercomputadoras

Cornelis ha presentado CN6000, una familia de productos de conectividad de 800 gigabits diseñada para reducir el tiempo que los aceleradores de IA y las supercomputadoras pasan esperando datos. Su principal promesa es llamativa: hasta 1.600 millones de mensajes por segundo en su SuperNIC Omni-Path. Sin embargo, para entender qué significa esa cifra, hay que distinguir tres medidas diferentes del rendimiento de la red: el ancho de banda, la tasa de mensajes y la latencia.

El anuncio del 12 de noviembre presenta adaptadores Omni-Path y Ethernet, además de un conmutador Omni-Path. Cornelis afirma que el hardware está disponible para evaluación y para los primeros despliegues, y que se prevé que los sistemas de sus socios estén listos en el primer trimestre de 2027.

El objetivo comercial es sencillo: los procesadores, que son costosos, producen más trabajo útil cuando la red puede seguirles el ritmo. Una GPU más rápida contribuye poco a acortar un trabajo distribuido si este debe esperar a que otra máquina envíe un resultado.

Qué significan realmente 800G y 1.600 millones de mensajes

Un clúster de IA es un grupo de computadoras conectadas que trabajan en conjunto. La red transporta desde grandes bloques de datos de modelos hasta pequeños mensajes de coordinación. Su rendimiento tiene varias dimensiones:

800G significa 800 gigabits por segundo. Al dividir esa cifra entre ocho, se obtienen 100 gigabytes por segundo nominales, antes de tener en cuenta la sobrecarga del protocolo y otros límites prácticos. La cifra describe la capacidad de transportar datos, no la velocidad a la que un chatbot genera palabras.

La tasa de mensajes mide otro tipo de cuello de botella. Enviar muchos fragmentos diminutos de información obliga al adaptador a procesar numerosas operaciones por separado, aunque no ocupen todo el ancho de banda del enlace. El documento informativo de Omni-Path de Cornelis especifica que su tasa de 1.600 millones de mensajes es bidireccional. Se trata de una capacidad agregada, no de una afirmación de que una sola aplicación complete esa cantidad de solicitudes secuenciales cada segundo.

La latencia importa cuando el siguiente cálculo debe esperar a que llegue un mensaje. En la prueba interna de ping-pong de Intel MPI con mensajes de 8 bytes de Cornelis, la latencia registrada fue de 0,95 microsegundos para CN6000, frente a 1,2 microsegundos para NVIDIA InfiniBand XDR a 800G, aproximadamente un 21 % menos. MPI, o interfaz de paso de mensajes, es un método estándar de comunicación entre programas científicos paralelos.

Esa prueba mide un intercambio concreto de mensajes pequeños. No demuestra que una ejecución de entrenamiento, una simulación o un servicio de inferencia vaya a terminar un 21 % más rápido. El resultado depende de la frecuencia con que se comunique la aplicación, del tamaño de sus transferencias, de la congestión y del resto del sistema.

Explicación de las SuperNIC, los conmutadores y las redes de interconexión

Una tarjeta de interfaz de red, o NIC, conecta un servidor a la red. «SuperNIC» es el término que usa Cornelis para sus adaptadores especializados de alto rendimiento. Un conmutador conecta los enlaces de esos servidores y reenvía datos entre ellos. Al conjunto de adaptadores, conmutadores, enlaces y programas de comunicación se le suele llamar tejido de interconexión.

Esta distinción es importante al comprar un clúster. Instalar un adaptador capaz no mejora automáticamente todos los conmutadores, cables o rutas de software con los que tendrá que interactuar su tráfico.

CN6000 ofrece dos opciones de red de interconexión. Omni-Path es la interconexión de Cornelis diseñada específicamente para la computación paralela. Ethernet es una tecnología de red ampliamente utilizada y conocida por los operadores de centros de datos. El adaptador Ethernet está dirigido a clientes que buscan comunicaciones de alto rendimiento y, a la vez, quieren conservar una infraestructura de conmutación Ethernet compatible. InfiniBand, la tecnología utilizada en la comparación de rendimiento, es otra red de interconexión especializada para la computación; sus conmutadores no son intercambiables con los de Omni-Path.

Por tanto, la plataforma CN6000 comprende una familia de componentes y opciones de despliegue, y no garantiza que cualquier combinación de equipos de red dé el mismo resultado.

Cómo RoCE transfiere datos con menos carga para el procesador

La SuperNIC Ethernet implementa RoCEv2: acceso directo remoto a memoria a través de Ethernet convergente, versión dos. La idea subyacente, RDMA, permite que el hardware de red transfiera datos entre regiones de memoria autorizadas en distintas máquinas, sin que la CPU del sistema tenga que copiar cada carga útil mediante la ruta de red convencional.

Puede entenderse como organizar una entrega directa entre dos ubicaciones autorizadas, en lugar de pedir a un intermediario que reciba y copie repetidamente el contenido. La CPU todavía tiene que ocuparse de establecer y gestionar la comunicación; la ventaja consiste en reducir su intervención en el traslado de los datos.

La documentación de RoCE de NVIDIA explica que la versión 2 transporta tráfico RDMA mediante encabezados IP y UDP, lo que permite que atraviese redes IP enrutadas. Para desplegarla de forma eficiente, sigue siendo necesario configurar la red y gestionar la congestión; no basta con disponer de un conector Ethernet.

La ficha del producto Ethernet de Cornelis describe la descarga de tareas al hardware, la compatibilidad con un gran número de operaciones simultáneas y el control de flujo prioritario. Este mecanismo de control de flujo puede pausar determinadas clases de tráfico para ayudar a evitar la pérdida de paquetes. El anuncio prevé incorporar la compatibilidad con Ultra Ethernet mediante una actualización de software; los compradores deben distinguir esa capacidad planificada de la oferta inicial de RoCEv2.

Por qué la inferencia de IA necesita trasladar su memoria de trabajo

La inferencia de IA es el proceso de utilizar un modelo entrenado para generar una respuesta. En un modelo de lenguaje, incluye el prellenado, que procesa la instrucción, y la decodificación, que genera la respuesta token a token.

Algunos sistemas de servicio ejecutan esas etapas en grupos separados de procesadores para que cada grupo pueda dimensionarse según la tarea que debe realizar. Esto se denomina inferencia desagregada. Esta separación requiere transferir información: los datos calculados durante la lectura de la instrucción deben llegar a los procesadores que generan la respuesta.

Esa información incluye la caché de clave-valor, abreviada normalmente como caché KV. Almacena datos intermedios de atención para que el modelo pueda reutilizar el trabajo previo. No contiene todos los pesos del modelo ni es simplemente una transcripción de texto guardada.

La documentación de Dynamo de NVIDIA describe la secuencia: procesar la instrucción, transferir su caché KV y, después, generar tokens en el proceso de decodificación. Las transferencias más rápidas pueden hacer más práctica esa separación. Sin embargo, trasladar la caché también requiere trabajo, por lo que la desagregación resulta útil cuando las ventajas de programación y hardware compensan el costo de la transferencia.

Cómo mantener el tráfico en movimiento cuando se saturan los enlaces

En Omni-Path, CN6000 utiliza control de flujo basado en créditos: el emisor transmite según la capacidad disponible en el extremo receptor. El enrutamiento adaptativo puede distribuir el tráfico entre las rutas disponibles, mientras que varios planos de red proporcionan rutas independientes a través de la estructura de red.

La ficha de Omni-Path describe dos rutas de datos independientes de 400G que, en conjunto, ofrecen un ancho de banda agregado de 800G. Si uno de los planos requiere mantenimiento, el otro puede seguir disponible, aunque la pérdida de una parte de la red no permite conservar la capacidad total original.

La plataforma también incluye una raíz de confianza basada en hardware, arranque seguro y atestación del dispositivo. Estas funciones ayudan a establecer que el firmware y la identidad del dispositivo son confiables. El uso de firmas digitales poscuánticas se refiere a la autenticación y la integridad; no debe interpretarse como una afirmación general de que todas las cargas útiles de la red están cifradas.

La cuestión del despliegue va más allá de la velocidad máxima

CN6000 da continuidad al trabajo previo de Cornelis en redes de escalado horizontal, incluida la ampliación de la colaboración con AMD en computación científica. Su atractivo reside en combinar interconexiones de alto rendimiento con una mayor variedad de procesadores y entornos de red.

Para los compradores, la comparación útil es el tiempo y el costo necesarios para completar sus propias cargas de trabajo. Una simulación que intercambia repetidamente pequeñas actualizaciones puede beneficiarse de una menor latencia y de una mayor tasa de mensajes. Un servicio que mueve grandes cachés puede dar más importancia a la velocidad de transferencia sostenida y a la congestión. Ambos necesitan una estructura de red adecuada, soporte de software operativo y configuraciones de servidor homologadas.

El anuncio de CN6000 añade otra opción para construir esos sistemas. Sus cifras máximas indican capacidades que vale la pena probar; la ventaja práctica consiste en mantener más recursos de cómputo ocupados mientras se ejecutan aplicaciones reales.