Google Cloud ofrece Pathways Runtime con disponibilidad general para cargas de trabajo de TPU a gran escala

El 9 de noviembre de 2026, Google Cloud anunció que Cloud Pathways ya está disponible de forma general en Google Kubernetes Engine (GKE), lo que pone a disposición de sus clientes un entorno de ejecución con un único controlador para el entrenamiento y la inferencia a gran escala. Google afirmó que, durante los 90 días anteriores, los usuarios procesaron más de 130 millones de horas de chip de Cloud TPU con Pathways en GKE.

Este entorno de ejecución, también llamado Pathways on Cloud, es un componente central del entorno de ejecución de Google Cloud AI Hypercomputer. Diseñado originalmente por Google DeepMind para entrenar y servir los modelos de vanguardia de Google, incluido Gemini, está concebido para flotas de aceleradores heterogéneas y de gran tamaño. Con este lanzamiento, la tecnología utilizada para las mayores cargas de trabajo de IA de Google llega a los clientes de Cloud.

Un controlador para todas las particiones de TPU

El software aborda la sobrecarga de coordinación del modo predeterminado de JAX con múltiples controladores. En esa configuración, cada host de TPU ejecuta un intérprete de Python independiente, que solo tiene una vista local de los dispositivos conectados, mientras que todos los hosts ejecutan en sincronía el mismo programa de programa único y datos múltiples. Según Google, esto hace que las cargas de trabajo heterogéneas con varios programas y la gestión de recursos entre particiones se vuelvan complejas y frágiles a medida que aumentan de escala los trabajos.

Cloud Pathways sustituye esa configuración por un controlador unificado basado en Interim Framework Runtime, de código abierto. Configurar JAX_PLATFORMS=proxy con pathwaysutils permite que un cliente de JAX vea y orqueste varias particiones grandes de TPU, que abarcan miles de chips, como si sus dispositivos estuvieran conectados localmente. El controlador gestiona la evaluación de grafos, el almacenamiento en caché persistente de compilaciones en Cloud Storage y el envío asíncrono de trabajos de XLA a través de las particiones.

Los contenedores auxiliares de Python colocados junto a los hosts, con compatibilidad con memoria compartida, ejecutan directamente en los hosts de TPU tareas que requieren mucha capacidad de cómputo, como la carga distribuida de datos y la creación de puntos de control. El entrenamiento elástico utiliza instantáneas de la memoria del host para redistribuir un trabajo entre una partición menos después de una interrupción del hardware, sin que el cliente se bloquee. El modo interactivo admite cuadernos y terminales, mientras que Shared Pathways Service permite que varios usuarios y trabajos utilicen un conjunto de particiones de TPU en funcionamiento continuo.

Uso en producción y recuperación elástica

Google Cloud informa que una gran empresa de tecnología de consumo ejecuta en producción inferencias por lotes y de aprendizaje por refuerzo en decenas de miles de chips TPU v5p, Trillium v6e e Ironwood TPU7x. Esa implementación consume más de 100 millones de horas de chip por trimestre, y el cliente diseñó junto con Google primitivas de elasticidad mientras ampliaba su trabajo al preentrenamiento.

ZenteiQ aplica la misma pila tecnológica a modelos fundacionales científicos. Utiliza Cloud Pathways en GKE con Cluster Toolkit, contenedores auxiliares colocados junto a los hosts y creación de instantáneas de estos para el preentrenamiento elástico de MaxText y el aprendizaje por refuerzo con un único controlador, usando MaxText y Tunix en clústeres Trillium con varias particiones.

El fundador Sashikumaar Ganesan afirmó que el controlador supervisa la topología de TPU y vuelve a configurar dinámicamente la malla y a cambiar el tamaño de las cargas de trabajo cuando un chip o una partición deja de estar disponible. «Combinar Pathways con instantáneas de la memoria del host en producción reduce al mínimo el tiempo de recuperación cuando se producen interrupciones, mantiene plenamente utilizada nuestra capacidad de TPU disponible y deja muy poco tiempo de inactividad», señaló.

Disponibilidad en GKE y versión preliminar para Slurm

Cloud Pathways está disponible de forma general en GKE en todas las regiones de Google Cloud que admiten Cloud TPU v5e, TPU v5p, Trillium TPU v6e e Ironwood TPU 7x. Google ofrece imágenes de contenedor con versiones específicas que admiten JAX 0.10.1 y posteriores.

Una integración independiente con Cluster Director amplía Cloud Pathways a los clústeres de TPU con Slurm y admite la ejecución unificada de JAX en varias particiones, el entrenamiento elástico y los cuadernos interactivos. Esta integración se encuentra en fase de Vista previa, un estado distinto de la disponibilidad general del entorno de ejecución en GKE.

Para los operadores que ejecutan trabajos de varios días en aceleradores de alto costo, el lanzamiento vincula directamente la orquestación con el aprovechamiento de los recursos: un controlador coordina las particiones de TPU y la recuperación basada en instantáneas está diseñada para mantener activo el trabajo del cliente cuando falla una partición.