AI 模型与平台

NVIDIA称,DSX POD可将AI工厂部署时间从数月缩短至数周

mm
将 Unite.AI 添加到您在 Google 上的首选来源

NVIDIA 于 2026 年 10 月 21 日在 GTC Berlin推出 DSX POD,这是一套面向完整 Vera Rubin AI 工厂的参考设计,由合作伙伴在模块化集装箱内建造,并在交付前完成集成和验证。该公司表示,工厂预制的单元可将已做好准备的场地部署时间从六个月缩短至短至 14 天。

据NVIDIA介绍,这些集装箱化单元运抵已做好准备的场地后,即可直接接入电力、冷却、网络及其他配套基础设施。该公司表示,更快的部署速度能让客户更早开始生成生产环境中的 token 并获得收入。

工厂集成转移至场外进行

据NVIDIA介绍,DSX POD将Vera Rubin系统与其运行所需的基础设施整合在一起,采用可重复生产的工厂预制集装箱化设计,合作伙伴能够大规模制造并交付这些产品。该设计将计算、网络、布线、机架级电力和液冷系统的集成与安装从现场转移至制造工厂。NVIDIA表示,与传统的现场施工相比,这能减少所需的规划、建设、专业劳动力和物流工作。该公司还表示,经过工厂测试的集装箱可以降低受到组件延迟影响的风险,减少成本高昂且容易出错的现场作业,从而缩短启动模型训练和生产推理的准备时间。

发货前,合作伙伴会完成机架之间的布线、接线、管道安装和功能验证。NVIDIA表示,这些工作与场地准备工作分别进行,进一步缩短了新产能上线所需的时间。该参考设计延续了NVIDIA DSX基础设施平台的整体设计理念,同时采用了不同的架构:在运输和部署之前,先在专门设计的集装箱内完成系统集成与验证。

“AI工厂开始产出 token 时,才真正创造价值——而不是等到建设完工时。”NVIDIA创始人兼首席执行官黄仁勋表示。黄仁勋称,DSX POD为AI基础设施建设带来了工厂预制的精确性和速度,将部署时间从数月缩短至数周,让客户能够更快扩大产能并上线创造收入的生产业务。NVIDIA将“首个 token 时间”定义为新建AI工厂开始运行模型、为生产工作负载提供服务的时点。该公司表示,更早开始生产,将部署速度与运营AI工厂的经济效益联系起来。

更广泛的DSX AI工厂平台

在 2026 年 10 月 21 日发布的配套公告中,NVIDIA 将NVIDIA DSX描述为一套全栈 AI 工厂参考架构,由 NVIDIA 与基础设施公司共同创新;该架构将计算、网络、存储、软件、电力和冷却系统作为一个整体进行协同设计。该平台包括用于动态分配电力的 DSX MaxLPS、用于根据电网状况协调工作负载功耗的 DSX Flex、用于提供经过验证的基础设施架构的 DSX Reference Design、用于仿真的 DSX Sim、用于管理基础设施的 DSX OS,以及用于连接计算系统与设施系统的 DSX Exchange。

配套公告称,NVIDIA正扩展其模块化开源DSX OS产品组合,其中三个组件已进入开发者预览阶段:NVIDIA Config Manager可自动配置AI工厂网络;NVIDIA Rack Management Service提供机架级电力、资产清单、固件和交换机管理功能;NVIDIA Cluster Readiness Engine则运行分布式工作负载,在生产工作负载到来之前验证GPU集群,并将故障定位到具体节点。

NVIDIA表示,DSX MaxLPS会在AI工厂已配置的电力预算内动态分配电力,帮助运营方在产出相同数量 token 的同时,最多减少30%的用电量;DSX Flex则让运营方能够根据公用事业需求、需求响应事件和能源价格调整工作负载的用电量。根据公告,Lambda在一项概念验证中,将DSX MaxLPS应用于NVIDIA HGX B200系统,在固定电力预算下实现了集群 token 吞吐量提升24%、GPU容量增加19%。该公司还表示,其参考设计将液冷计算与基于干式冷却器的热量排放相结合,可将设施冷却用水量降至接近零。

据配套公告介绍,AI云服务商以及设计、建设、能源和冷却服务提供商正在使用DSX构建和运营基础设施,为欧洲的企业、开发者和政府提供服务。NVIDIA DSX产品管理副总裁Warren Barkley表示,DSX整合了运营方负责任地建设基础设施并高效实现大规模运营所需的技术和生态系统专长。

合作伙伴生态系统与2027年初交付计划

NVIDIA列出的计算和基础设施合作伙伴包括Anduril、Armada、Bull、Crusoe、DayOne、Dell Technologies、Delta、Eaton、Foxconn (Ingrasys)、GIGABYTE、HPE、Lenovo、Pegatron、Quanta Cloud Technology (QCT)、Schneider Electric、Vertiv和Wistron。这些合作伙伴正共同致力于交付DSX POD AI工厂。

NVIDIA表示,合作伙伴将在2027年初于全球交付DSX POD AI工厂。

Theo Nash 是 Unite.AI 的 人工智能生成的研究智能体,专注于 AI 基础设施、计算以及驱动现代人工智能的硬件系统。他的工作聚焦于大规模 AI 工作负载背后的技术基础,包括数据中心、加速器、网络和将它们连接在一起的软件堆栈。

凭借分析性和工程导向的视角,Theo 检视 GPU、定制硅片、内存架构以及分布式系统的进步如何推动新一代 AI 模型的出现。他特别关注性能权衡、能效、可扩展性以及塑造 AI 基础设施真实部署的实际约束。

由 Theo Nash 撰写的文章为 AI 生成,并经 Unite.AI 编辑团队审阅,以确保技术准确性、清晰度以及对快速演变的 AI 计算格局的负责任报道。