Cornelis apresenta o CN6000: o que a rede 800G significa para a IA e os supercomputadores

A Cornelis apresentou o CN6000, uma família de redes de 800 gigabits projetada para reduzir o tempo que aceleradores de IA e supercomputadores passam esperando por dados. Seu principal destaque é impressionante: até 1,6 bilhão de mensagens por segundo em sua SuperNIC Omni-Path. Para entender o que isso significa, porém, é preciso distinguir três medidas diferentes de desempenho de rede: largura de banda, taxa de mensagens e latência.

O anúncio de 12 de novembro apresenta adaptadores Omni-Path e Ethernet, além de um switch Omni-Path. A Cornelis afirma que o hardware está disponível para avaliação e implantações iniciais, e que sistemas de parceiros são esperados para o primeiro trimestre de 2027.

O objetivo comercial é simples: processadores caros produzem mais trabalho útil quando a rede consegue acompanhá-los. Uma GPU mais rápida pouco contribui para reduzir o tempo de uma tarefa distribuída enquanto ela espera que outra máquina envie um resultado.

O que significam, de fato, 800G e 1,6 bilhão de mensagens

Um cluster de IA é um grupo de computadores conectados que trabalham em conjunto. A rede transporta desde grandes blocos de dados de modelos até pequenas mensagens de coordenação. Seu desempenho tem várias dimensões:

800G significa 800 gigabits por segundo. Dividido por oito, isso equivale a 100 gigabytes por segundo nominais, antes de considerar a sobrecarga dos protocolos e outros limites práticos. Essa medida descreve a capacidade de transporte de dados, não a velocidade com que um chatbot gera palavras.

A taxa de mensagens mede um gargalo diferente. O envio de muitas pequenas partes de informação exige que o adaptador processe inúmeras operações separadas, mesmo quando elas não ocupam toda a largura de banda do link. O documento técnico do Omni-Path da Cornelis especifica que sua taxa de 1,6 bilhão de mensagens é bidirecional. Trata-se de uma capacidade agregada, não da alegação de que um único aplicativo conclua esse número de solicitações sequenciais a cada segundo.

A latência é importante quando o cálculo seguinte precisa esperar por uma mensagem. No teste interno de pingue-pongue da Cornelis com Intel MPI e mensagens de 8 bytes, a latência informada foi de 0,95 microssegundo para o CN6000, contra 1,2 microssegundos para o NVIDIA InfiniBand XDR a 800G, aproximadamente 21% menor. MPI, ou Interface de Passagem de Mensagens, é um padrão usado por programas científicos paralelos para se comunicar.

Esse teste mede uma troca específica de mensagens pequenas. Ele não demonstra que uma execução de treinamento, uma simulação ou um serviço de inferência será concluído 21% mais rápido. O resultado depende da frequência com que o aplicativo se comunica, do tamanho das transferências, do congestionamento e dos demais componentes do sistema.

SuperNICs, switches e malhas de rede: explicação

Uma placa de interface de rede, ou NIC, conecta um servidor à rede. “SuperNIC” é o termo usado pela Cornelis para seus adaptadores especializados de alto desempenho. Um switch conecta esses links de servidor e encaminha dados entre eles. O conjunto de adaptadores, switches, links e softwares de comunicação é comumente chamado de malha de rede.

Essa distinção é importante na hora de comprar um cluster. Instalar um adaptador capaz não atualiza automaticamente todos os switches, cabos ou caminhos de software por onde o tráfego passará.

O CN6000 oferece duas opções de malha de rede. Omni-Path é a interconexão desenvolvida pela Cornelis especificamente para computação paralela. Ethernet é a infraestrutura de rede amplamente utilizada e conhecida pelos operadores de data centers. O adaptador Ethernet se destina a clientes que buscam comunicação de alto desempenho e, ao mesmo tempo, querem manter uma infraestrutura de switches Ethernet compatível. InfiniBand, a tecnologia usada na comparação de desempenho, é outra malha especializada para computação; seus switches não são intercambiáveis com os switches Omni-Path.

A plataforma CN6000 representa, portanto, uma família de componentes e opções de implantação, e não uma garantia de que qualquer combinação de equipamentos de rede produzirá o mesmo resultado.

Como o RoCE transfere dados com menor sobrecarga para o processador

A SuperNIC Ethernet implementa o RoCEv2: Acesso Direto Remoto à Memória sobre Ethernet Convergente, versão dois. A ideia subjacente, RDMA, permite que o hardware de rede transfira dados entre regiões de memória autorizadas em máquinas diferentes sem exigir que a CPU do host copie cada carga útil pelo caminho convencional da rede.

Imagine uma entrega direta entre dois locais autorizados, em vez de pedir a um intermediário que receba e copie o conteúdo repetidamente. A CPU ainda precisa trabalhar para estabelecer e gerenciar a comunicação; a vantagem está em reduzir sua participação na própria transferência de dados.

A documentação da NVIDIA sobre RoCE explica que a versão 2 transporta tráfego RDMA usando cabeçalhos IP e UDP, o que permite que ele atravesse redes IP roteadas. Uma implantação eficiente ainda depende da configuração da rede e do comportamento do congestionamento, não apenas da presença de um conector Ethernet.

O folheto de produtos Ethernet da Cornelis descreve a descarga de tarefas para o hardware, o suporte a um grande número de operações simultâneas e o controle de fluxo prioritário (Priority Flow Control). Esse mecanismo de controle de fluxo pode pausar determinadas classes de tráfego para ajudar a evitar a perda de pacotes. O anúncio prevê que o suporte a Ultra Ethernet seja disponibilizado por meio de uma atualização de software; os compradores devem distinguir essa capacidade planejada da oferta inicial de RoCEv2.

Por que a inferência de IA precisa transferir sua memória de trabalho

A inferência de IA é o processo de usar um modelo treinado para produzir uma resposta. No caso de um modelo de linguagem, ela inclui o pré-preenchimento, que processa o prompt, e a decodificação, que gera a resposta um token de cada vez.

Alguns sistemas de atendimento executam essas etapas em grupos separados de processadores, de modo que cada grupo possa ser dimensionado de acordo com sua função. Isso é chamado de inferência desagregada. Essa separação exige uma transferência: as informações calculadas durante a leitura do prompt precisam chegar aos processadores que geram a resposta.

Essas informações incluem o cache de chave-valor, geralmente abreviado como cache KV. Ele armazena dados intermediários de atenção para que o modelo possa reutilizar o trabalho anterior. Não corresponde ao conjunto completo de pesos do modelo nem é simplesmente uma transcrição de texto salva.

A documentação do Dynamo da NVIDIA descreve a sequência: processar o prompt, transferir seu cache KV e, em seguida, gerar tokens no trabalhador de decodificação. Transferências mais rápidas podem tornar essa separação mais viável. Mas mover o cache também exige trabalho, portanto a desagregação é útil quando os benefícios de agendamento e de hardware compensam o custo da transferência.

Como manter o tráfego em movimento quando os enlaces ficam congestionados

No Omni-Path, o CN6000 usa controle de fluxo baseado em créditos: o transmissor envia dados de acordo com a capacidade disponível no lado receptor. O roteamento adaptativo pode distribuir o tráfego pelos caminhos disponíveis, enquanto vários planos de rede oferecem caminhos separados pela malha de interconexão.

O folheto do Omni-Path descreve dois caminhos de dados independentes de 400G que, juntos, oferecem uma largura de banda agregada de 800G. Se um dos planos precisar de manutenção, o outro pode continuar disponível, embora a perda de parte da rede não mantenha sua capacidade total original.

A plataforma também inclui uma raiz de confiança em hardware, inicialização segura e atestação do dispositivo. Esses recursos ajudam a estabelecer que o firmware e a identidade do dispositivo são confiáveis. O uso de assinaturas digitais pós-quânticas diz respeito à autenticação e à integridade; não deve ser interpretado como uma afirmação geral de que todo o conteúdo transmitido pela rede é criptografado.

A questão da implantação vai além da velocidade máxima

O CN6000 dá continuidade ao trabalho anterior da Cornelis em redes de expansão horizontal, incluindo a ampliação da colaboração com a AMD em computação científica. Seu atrativo está na combinação de interconexões de alto desempenho com uma variedade maior de processadores e ambientes de rede.

Para os compradores, a comparação mais útil considera o tempo e o custo necessários para concluir suas próprias cargas de trabalho. Uma simulação que troca repetidamente pequenas atualizações pode se beneficiar de menor latência e de taxas mais altas de mensagens. Um serviço que transfere grandes caches pode priorizar mais a velocidade de transferência sustentada e o congestionamento. Ambos precisam de uma malha de interconexão adequada, suporte de software funcional e configurações de servidor qualificadas.

O anúncio do CN6000 acrescenta mais uma opção para construir esses sistemas. Seus números de desempenho máximo indicam capacidades que vale a pena testar; o benefício prático é manter mais recursos computacionais produtivos durante a execução de aplicações reais.