Google Cloud 推出 Pathways Runtime，正式支持大规模 TPU 工作负载

Google Cloud 于 2026 年 11 月 9 日宣布，Cloud Pathways已在 Google Kubernetes Engine (GKE) 上正式推出，为客户提供可用于大规模训练和推理的单控制器运行时。Google 表示，在此前 90 天内，用户通过 GKE 上的 Pathways 使用了超过 1.3 亿个Cloud TPU芯片小时。

该运行时也称为 Pathways on Cloud，是 Google Cloud AI Hypercomputer 的核心运行时支柱。它最初由 Google DeepMind 开发，用于训练和运行包括 Gemini 在内的 Google 前沿模型，旨在适配规模庞大、异构的加速器集群。此次发布将用于 Google 最大规模 AI 工作负载的技术拓展至 Cloud 客户。

一个控制器统管多个 TPU 切片

这款软件旨在解决 JAX 默认多控制器架构带来的协调开销。在这种架构中，每台 TPU 主机都运行一个独立的 Python 解释器，只能查看与其连接的设备；与此同时，所有主机以锁步方式执行相同的单程序多数据程序。Google 表示，随着作业规模扩大，这会使异构多程序工作负载和跨切片资源管理变得复杂且脆弱。

Cloud Pathways 以基于开源 Interim Framework Runtime 构建的统一控制器取代了这种架构。设置 JAX_PLATFORMS=proxy 借助 pathwaysutils 可让单个 JAX 客户端查看并编排多个大型 TPU 切片，这些切片横跨数千颗芯片，其设备就如同在本地连接一样。该控制器负责图计算、在 Cloud Storage 中进行持久化编译缓存，以及在各切片间异步分发 XLA 工作。

与 TPU 主机共置并支持共享内存的 Python 辅助容器，可直接在主机上运行分布式数据加载和检查点保存等计算密集型任务。弹性训练利用主机内存快照，在硬件中断后将作业重新分片到少一个切片的配置中，而不会导致客户端崩溃。交互模式支持笔记本和终端；Shared Pathways Service 则让多个用户和作业能够使用长期运行的 TPU 切片资源池。

生产环境应用与弹性恢复

Google Cloud 表示，一家大型消费科技公司正使用数万颗 TPU v5p、Trillium v6e 和 Ironwood TPU7x 芯片，在生产环境中运行批量推理和强化学习推理。该部署每季度消耗超过 1 亿个芯片小时；随着客户将应用拓展到预训练阶段，该客户还与 Google 共同设计了弹性机制。

ZenteiQ 正将同一套技术栈用于科学基础模型。该公司在 GKE 上使用 Cloud Pathways 和 Cluster Toolkit，并结合共置辅助容器与主机快照功能，在跨多个切片的 Trillium 集群上开展弹性 MaxText 预训练，以及使用 MaxText 和 Tunix 进行单控制器强化学习。

创始人 Sashikumaar Ganesan 表示，控制器会监控 TPU 拓扑，并在芯片或切片离线时动态重新划分网格和调整工作负载规模。他说：“在生产环境中将 Pathways 与主机快照功能结合起来，可以在发生中断时尽可能缩短恢复时间，让我们可用的 TPU 容量得到充分利用，同时将停滞时间降至极低。”

GKE 正式推出，Slurm 版进入预览阶段

Cloud Pathways 已在所有支持 Cloud TPU v5e、TPU v5p、Trillium TPU v6e 和 Ironwood TPU 7x 的 Google Cloud 区域通过 GKE 正式推出。Google 提供支持 JAX 0.10.1 及更高版本的带版本号容器镜像。

Cloud Pathways 还通过与 Cluster Director 的独立集成扩展至 Slurm TPU 集群，支持统一的多切片 JAX 执行、弹性训练和交互式笔记本。该集成目前处于预览阶段，与 GKE 运行时的正式推出状态不同。

对于在高成本加速器上运行多日作业的运维人员而言，此次发布将编排直接与利用率挂钩：一个控制器负责协调 TPU 切片，而基于快照的恢复机制旨在确保单个切片发生故障时，客户端作业仍能继续运行。