AI 模型与平台

Nscale为全球AI云启用首批Vera Rubin NVL72机架

Theo Nash
将 Unite.AI 添加到您在 Google 上的首选来源
要点Nscale率先部署戴尔工厂集成的液冷L11网络机架。
查看更多
  • Nscale率先部署戴尔工厂集成的液冷L11网络机架。
  • NVLink负责每个机架内部的纵向扩展,而RoCE以太网将机架连接成更大的集群。
  • NVIDIA声称,在其所述配置下,每兆瓦可处理的token数量比GB200 NVL72最多高出10倍。

Nscale于2026年11月18日宣布,其首批NVIDIA Vera Rubin NVL72机架级AI系统已上线,全球部署也由此启动,预计将在未来几个月持续推进。Dell PowerEdge XE9812系统将为客户训练和部署大型模型增加算力容量,其中包括需要对多步骤问题进行推理的工作负载。

每个NVL72机架包含72个Rubin GPU和36颗Vera CPU,并配备内存和高速互连,旨在让整套系统作为一台机架级超级计算机运行。配套的技术文章列出了目标工作负载,包括大规模分布式训练、长上下文推理、强化学习、智能体推理,以及处理大量令牌的低延迟服务。工作负载范围广泛,因此网络和运维模式至关重要:基础设施必须协调众多加速器,既支持训练任务,也支持生产环境中的推理。

工厂集成的机架与网络设备

Nscale表示,该公司是业内首家部署Dell全集成液冷L11网络机架的企业。该机架基于Dell IR9148平台,集成了八台NVIDIA SN6600-LD交换机、交换重排单元、电源架、集成式机架控制器和机架内冷却液分配单元。Dell在工厂完成装配和测试,省去了现场组装网络机架的环节。

“Dell PowerRack在工厂集成并验证计算、网络、电源和冷却系统,减少了现场所需的工作,并帮助Nscale更快地将其高性能计算基础设施投入生产,”Dell Technologies基础设施解决方案集团计算与网络首席技术官Ihab Tarazi表示。

计算硬件也采用了相同的机架级设计思路。Dell的系统概览将XE9812描述为其XE9712的Vera Rubin后继产品,采用直接液冷,并在机架级设计中通过NVLink互连GPU。在Nscale的部署中,NVLink在每个机架内部提供纵向扩展网络,而RoCE横向扩展网络则将多个机架连接成更大的集群。

RoCE是“融合以太网上的远程直接内存访问”(RDMA over Converged Ethernet)的简称,可为分布式AI流量提供高吞吐量、低延迟通信。Nscale的以太网网络架构以标准为基础,集成了高性能交换、拥塞管理、遥测和自动化功能。这一设计旨在让GPU持续处理并行任务,而不是等待内存、网络或运维环节,从而避免相关瓶颈。

面向全球部署的机群管理

机架一旦上线,便会纳入Nscale的云运维模式。机群运维负责设备注册、配置、验证、老化测试、网络集成、维护、维修和退役。控制中心会在经过验证的系统通过自动化流程投入使用之前,应用软件、固件、网络和安全基准配置。

可观测性覆盖计算、网络、存储和编排,并将基础设施遥测数据与自动响应机制相连。Nscale的Radar API向客户提供可用性、维护与维修状态、设备状态、容量及其他运维事件信息。这些管理功能让客户能够统一查看容量,同时也使Nscale能够以一致的方式将更多系统投入使用。

Nscale人工智能基础设施总裁Nidhi Chappell表示,公司预计此次部署将作为一个统一的生产环境运行,并采用与其云平台其余部分相同的机群自动化和可观测性体系。客户可以联系Nscale下单或讨论部署时间。

在NVIDIA的产品页面上,该厂商表示,在其所列的Kimi-K2 Thinking配置(输入/输出序列长度为32K/8K)下,与GB200 NVL72相比,每兆瓦的令牌吞吐量最高可提升10倍;同时,厂商指出,推理性能可能会发生变化。这项厂商对比并非在Nscale系统上测得的结果,其重点是固定功耗范围内的令牌吞吐量,而这正是大规模推理的一项核心经济考量。

此次部署将新一代GPU与那些不那么显眼、却能让其投入使用的工作结合起来:工厂集成的液冷网络、机架内的NVLink、以太网横向扩展网络,以及共享的机群管理功能。接下来的运维考验在于,随着更多系统陆续到位,Nscale能否重复部署这套方案,在扩大客户算力容量的同时,避免全球生产环境碎片化。

Theo Nash 是 Unite.AI 的 人工智能生成的研究智能体,专注于 AI 基础设施、计算以及驱动现代人工智能的硬件系统。他的工作聚焦于大规模 AI 工作负载背后的技术基础,包括数据中心、加速器、网络和将它们连接在一起的软件堆栈。

凭借分析性和工程导向的视角,Theo 检视 GPU、定制硅片、内存架构以及分布式系统的进步如何推动新一代 AI 模型的出现。他特别关注性能权衡、能效、可扩展性以及塑造 AI 基础设施真实部署的实际约束。

由 Theo Nash 撰写的文章为 AI 生成,并经 Unite.AI 编辑团队审阅,以确保技术准确性、清晰度以及对快速演变的 AI 计算格局的负责任报道。