Cornelis 发布 CN6000：800G 网络对 AI 和超级计算机意味着什么

Cornelis推出了 CN6000，这是一个 800 千兆位网络产品系列，旨在减少 AI 加速器和超级计算机等待数据的时间。它最引人注目的指标是：其 Omni-Path SuperNIC 每秒最多可处理 16 亿条消息。不过，要理解这一指标的含义，就需要区分网络性能的三个不同衡量维度：带宽、消息速率和延迟。

11 月 12 日的公告介绍了 Omni-Path 和以太网适配器，以及一款 Omni-Path 交换机。Cornelis 表示，相关硬件已可用于评估和早期部署，合作伙伴的系统预计将于 2027 年第一季度推出。

商业目标很明确：网络能够跟上昂贵处理器的速度时，处理器就能完成更多有效工作。分布式任务在等待另一台机器发送结果时，即使 GPU 更快，也无法显著缩短任务所需时间。

800G 和每秒 16 亿条消息究竟意味着什么

AI 集群是由多台相互连接、协同工作的计算机构成的。网络承载的数据既包括大块模型数据，也包括用于协调的小型消息。网络性能有多个维度：

800G 指每秒 800 千兆位。除以 8 后，名义数据传输速率为每秒 100 千兆字节，尚未计入协议开销和其他实际限制。这个指标描述的是数据承载能力，而不是聊天机器人生成文字的速度。

消息速率衡量的是另一种瓶颈。发送大量细小的信息片段，需要适配器处理许多独立操作，即使这些数据并未占满链路带宽也是如此。Cornelis 的 Omni-Path 产品简介指出，其每秒 16 亿条消息的速率是双向指标。这是总体处理能力，并不意味着某个应用每秒能完成同等数量的连续请求。

当下一步计算必须等待消息到达时，延迟就很重要。在 Cornelis 内部进行的 8 字节英特尔 MPI 往返测试中，CN6000 的报告延迟为 0.95 微秒，而 800G 下的 NVIDIA InfiniBand XDR 为 1.2 微秒，前者低约 21%。MPI 即消息传递接口，是并行科学程序进行通信的一种标准方式。

这项测试衡量的是特定的小消息交换情形。它不能证明训练任务、模拟或推理服务的完成速度会快 21%。实际结果取决于应用通信的频率、传输数据的大小、网络拥塞情况以及系统的其他部分。

什么是 SuperNIC、交换机和网络架构

网络接口卡（NIC）负责将服务器连接到网络。“SuperNIC”是 Cornelis 对其专用高性能适配器采用的产品术语。交换机连接这些服务器链路，并在链路之间转发数据。由适配器、交换机、链路和通信软件组成的完整体系通常称为网络架构。

在购置集群时，这一区别很重要。安装高性能适配器，并不会自动升级它所经过的每台交换机、每条线缆或每条软件路径。

CN6000 提供两种网络架构选择。Omni-Path是 Cornelis 专为并行计算打造的互连技术。以太网则是数据中心运营商熟悉、应用广泛的网络基础设施。以太网适配器面向希望获得高性能通信、同时保留兼容以太网交换基础设施的客户。InfiniBand是基准测试对比中采用的另一种专用计算网络架构；它的交换机不能与 Omni-Path 交换机互换使用。

CN6000 平台因此代表的是一系列组件和部署选项，而非对任何网络设备组合都能产生相同结果的保证。

RoCE 如何以较低的处理器开销传输数据

以太网 SuperNIC 实现了 RoCEv2，即第二版融合以太网上的远程直接内存访问（Remote Direct Memory Access over Converged Ethernet）。其底层技术 RDMA 可让网络硬件在不同机器上经过授权的内存区域之间传输数据，而不必让主机 CPU 通过传统网络路径复制每个数据负载。

可以把它想象成在两个经过批准的位置之间安排直接递送，而不是让中间环节反复接收并复制内容。CPU 在建立和管理通信时仍需执行任务；这种方式的优势在于减少 CPU 参与数据传输本身的程度。

NVIDIA 的 RoCE 文档解释说，第二版通过 IP 和 UDP 标头承载 RDMA 流量，使其能够穿越经过路由的 IP 网络。高效部署仍取决于网络配置和拥塞情况，而不仅仅是是否配有以太网接口。

Cornelis 的以太网产品简介介绍了硬件卸载、支持大量并发操作以及优先级流量控制。该流量控制机制可以暂停选定的流量类别，以帮助避免丢包。公告将 Ultra Ethernet 支持列入软件更新计划；买家应将这项计划中的能力与初始提供的 RoCEv2 区分开来。

为什么 AI 推理需要迁移其工作内存

AI 推理是利用训练好的模型生成答案的过程。对于语言模型，这一过程包括处理提示词的预填充阶段，以及逐个词元生成响应的解码阶段。

一些服务系统会在不同的处理器组上运行这两个阶段，以便根据各自的任务需求配置每组处理器。这称为解耦推理。这种分离会引入一个交接环节：读取提示词时计算出的信息必须传送给负责生成答案的处理器。

这些信息包括键值缓存，通常简称为 KV cache。它存储中间注意力数据，使模型能够重复利用先前的计算结果。它既不是模型的全部权重，也不只是保存下来的文本记录。

NVIDIA 的 Dynamo 文档介绍了这一流程：处理提示词、传输其 KV 缓存，然后由解码工作节点生成词元。更快的传输可以让这种分离式架构更切实可行。但迁移缓存本身也会增加工作量，因此只有在调度和硬件方面的收益超过交接成本时，解耦才有用。

链路繁忙时如何保持流量畅通

在 Omni-Path 上，CN6000 使用基于信用额度的流量控制：发送端根据接收端的可用容量发送数据。自适应路由可以将流量分配到可用路径上，而多个网络平面则在网络架构中提供彼此独立的路径。

Omni-Path 产品简介介绍了两条独立的 400G 数据通路，合计可提供 800G 聚合带宽。如果其中一个平面需要维护，另一个仍可继续使用；不过，网络部分发生故障并不意味着仍能保持原有的全部容量。

该平台还包括硬件信任根、安全启动和设备证明机制。这些措施有助于确认固件和设备身份可信。平台采用后量子数字签名，针对的是身份验证和完整性；不应将此解读为所有网络负载数据都经过加密的笼统声明。

部署时需要考虑的问题不止峰值速度

CN6000 延续了 Cornelis 早先在扩展型网络方面的工作，包括扩大与 AMD 在科学计算领域的合作。它的吸引力在于将高性能互连与更广泛的处理器选择和网络环境结合起来。

对买家而言，有参考价值的比较指标是完成自身工作负载所需的时间和成本。反复交换小规模更新的模拟任务，可能会受益于更低的延迟和更高的消息速率。传输大型缓存的服务，则可能更关注持续传输速度和拥塞情况。两者都需要合适的网络架构、有效的软件支持以及经过验证的服务器配置。

CN6000 的发布为构建这类系统增添了一个选择。其峰值指标展示了值得测试的能力；实际优势在于运行真实应用时，能让更多计算资源持续发挥作用。