超越 GPU：将 AI 工厂作为整体系统进行优化

AI 工厂并不是规模更大的数据中心。它专门用于生产智能词元，而不是提供网页和电子邮件服务。当一家超大规模云服务商或新兴 AI 云服务商投入数十亿美元和数年时间建设 AI 工厂时，承担繁重计算任务的 GPU 自然成为重点。但仅优化 GPU，并不能优化围绕它构建的整座工厂。供电和热管理系统必须支撑这些计算能力，而一个系统中的决策可能对其他系统产生重大影响。AI 的存在是为了充分发挥复杂系统的潜力，但生产 AI 的工厂往往仍然逐个组件进行优化。虚拟孪生技术使工程师能够在施工开始之前，就构建并优化整个系统。

为什么保守设计成了最稳妥的选择

由于系统故障或性能瓶颈可能造成极其严重的后果，早期设施在建设时配置了过量的安全裕量和硬件。在缺乏新一代数据中心建设路线图的情况下，谨慎建设似乎是最安全的做法。这些裕量有助于防范芯片附近温度骤升等问题；发生这种情况时，运维人员在硬件失效前可能只有短短一分钟作出响应。在一些早期设施中，多达10%的可用电力被作为未使用的裕量而闲置。

AI 工厂面临温度、天气、设备故障、容量不足、设计缺陷和维护问题带来的风险。在吉瓦级规模下，风险如此之高，产能每延迟投入一天，就可能损失约 1 亿美元的词元生成收入。在无法预测这些问题会造成何种结果时，采取谨慎态度显得必不可少。

当这些风险跨越多个独立系统时，挑战会进一步加剧。AI 工厂依赖三个紧密耦合的系统：计算、供电和热管理。GPU 需要复杂的供电链为其供能，也需要要求同样严苛的热管理系统排出其产生的热量。如果把计算、供电和热管理视为彼此独立的步骤，各自在自身领域内优化，团队就可能忽略一个系统中的决策如何影响其他系统。这会造成盲点和失衡，尤其是在计算方案确定之后，才把供电和冷却当作待解决的基础设施需求时。

供电和冷却不能与计算割裂开来。它们是决定计算能力能否有效运行的系统组成部分。因此，需要从优化单个系统转向优化整座工厂。

为何需要协同优化

要解决这个问题，就必须从各系统独立优化转向整座工厂的协同优化。实体建设迫使决策按顺序进行：先设计一个系统，再围绕它建设另一个系统，随后增加其他系统来提供支持。这使整厂优化变得困难，因为每项决策都会缩小后续系统的可选范围。协同优化要求把这一过程转移到虚拟环境中，在任何实体方案被固定下来之前，对整个系统进行建模、修改和评估，从而形成动态蓝图。

在工厂建成之前为其建模

这正是系统级虚拟孪生技术发挥关键作用的地方。

虚拟孪生通过形式化系统建模，将计算、供电和热管理基础设施统一表示，并能在 AI 工厂实际存在之前为其建模。传统数字孪生关注已有的实体资产，而虚拟孪生可以在系统实际建成之前进行建模。它让工程师能够测试不同配置，并在这些选择落实为实体建设之前，了解系统某一部分的变化会如何影响其他部分。

例如，提高 GPU 密度并不只是增加算力。它可能提高电力负荷、改变散热要求、影响设备布局，并带来新的调试投运考量。将这些关系一起建模，可以让工程师在施工前评估取舍，而不是等项目推进过程中才发现问题。

虚拟孪生技术让工程师能够先在虚拟世界中犯下代价高昂的错误，避免它在现实世界中变成昂贵的损失。它提供了一种在虚拟环境中识别潜在问题和机会的方法，使团队能够在问题出现在实体世界之前就将其解决。在实体设施调试投运前测试配置，也意味着不必要的设计裕量、闲置电力和安全裕量带来的浪费，可以在设计阶段被发现并消除。在大规模项目中，即使是小幅减少浪费，也可能节省数百万的资本开支，并更早获得收入。

让模型具备预测能力

模型还可以利用基于物理的仿真来预测系统行为。当底层物理或化学原理已得到充分理解时，仿真工具可以预测系统行为。如果丰富的运行数据提供了更好的途径，AI 和机器学习模型就可以增强这些仿真。

由此形成的环境能够探索耦合系统的行为，并协调不同工程领域的决策。随着运行数据逐步获得，模型也可以持续演进，使某座设施或某个运行周期积累的经验能够指导未来的设计和决策。

AI 工厂的蓝图

业界已经开始为这一方法奠定基础。NVIDIA 的DSX 蓝图正在为吉瓦级 AI 工厂确立规范化的参考设计。NVIDIA 已开始采用系统建模和虚拟孪生仿真方法，将蓝图中的计算部分规范化，并邀请供电、冷却和建设领域的生态合作伙伴，包括 Eaton、Vertiv 和 Jacobs 等公司，贡献各自负责的设计部分。参考设计通过SysML实现互操作性；它支持系统级定义，而OpenUSD则为以 3D 为核心的数据提供基础。

目标并不是让每家公司各自优化自己的组件，然后期待这些部件能自行拼合。计算、供电、冷却和设施方面的专业知识必须整合起来，让每一项同类最佳技术都为整个系统的性能作出贡献。

各行业都可以在自身领域内优化，但要打造强大的最终产品，就必须协同优化这些系统。随着这一方法成熟，AI 基础设施也能够从孤立的一次性试点项目，发展为能够管理高度复杂运行环境的企业级系统。

优化整座工厂，而不仅是 GPU

GPU 仍将是决定 AI 工厂性能的核心。但仅仅购买最好的 GPU，并不会自动优化围绕它们构建的工厂。下一代 AI 基础设施将依赖于把计算、供电和热管理作为一个集成系统来设计，在作出重大实体建设承诺之前为这些关系建模，并持续利用系统积累的经验改进后续工作。我们无法预测未来，也无法避免所有错误，但虚拟孪生技术能够帮助团队为不确定性做好规划，并将 AI 工厂作为一个整体系统来优化。