Google Cloud、Pathways Runtimeを大規模TPUワークロード向けに一般提供

Google Cloudは2026年11月9日、Cloud PathwaysがGoogle Kubernetes Engine（GKE）で一般提供され、大規模なトレーニングと推論に対応する単一コントローラー型ランタイムを顧客が利用できるようになったと発表した。Googleによると、ユーザーはその直前の90日間に、GKE上のPathwaysでCloud TPUを1億3,000万チップ時間以上利用した。

Pathways on Cloudとも呼ばれるこのランタイムは、Google Cloud AI Hypercomputerの中核をなすランタイムの柱だ。Google DeepMindが当初、Geminiを含むGoogleの最先端モデルのトレーニングと推論提供のために開発したもので、大規模かつ異種混在のアクセラレーター群を対象に設計されている。今回の提供により、Google最大規模のAIワークロードで使われているテクノロジーを、クラウドの顧客も利用できるようになる。

TPUスライスをまたいで機能する単一コントローラー

このソフトウェアは、JAXの標準的なマルチコントローラー構成に伴う調整負荷の軽減を目指す。この構成では、各TPUホストが個別のPythonインタープリターを実行し、接続されたデバイスをローカルにしか把握できない一方、すべてのホストが同じ単一プログラム・複数データ（SPMD）プログラムを同期して実行する。Googleによると、この仕組みでは、ジョブの規模が拡大するにつれて、異種混在の複数プログラムからなるワークロードや、スライス間のリソース管理が複雑になり、脆弱性も高まる。

Cloud Pathwaysはこの構成を、オープンソースのInterim Framework Runtimeを基盤とする統合コントローラーに置き換える。設定 JAX_PLATFORMS=proxy を用いて pathwaysutils 1つのJAXクライアントから、数千個のチップにまたがる複数の大規模TPUスライスを、あたかも各デバイスがローカルに接続されているかのように把握し、オーケストレーションできる。コントローラーは、グラフの評価、Cloud Storageへのコンパイル結果の永続的なキャッシュ、そしてスライス間でのXLA処理の非同期ディスパッチを管理する。

共有メモリーに対応したPythonサイドカーコンテナをTPUホストと同じ場所で実行し、分散データ読み込みやチェックポイント作成など、計算負荷の高いタスクをTPUホスト上で直接処理できる。エラスティックトレーニングでは、ハードウェアの中断後にホストメモリーのスナップショットを使ってジョブを1つ少ないスライスに再配置し、クライアントをクラッシュさせずに処理を続ける。インタラクティブモードはノートブックとターミナルに対応し、Shared Pathways Serviceを使うと、複数のユーザーやジョブが長時間稼働するTPUスライスのプールを共有できる。

本番環境での利用と柔軟な復旧

Google Cloudによると、大手コンシューマーテクノロジー企業が、数万個のTPU v5p、Trillium v6e、Ironwood TPU7xチップを使って、本番環境でバッチ推論と強化学習の推論を実行している。この導入環境では四半期あたり1億チップ時間を超える処理が行われており、顧客は事前学習へと用途を広げる中で、Googleとともに弾力性を実現するプリミティブを共同設計した。

ZenteiQは、同じスタックを科学分野の基盤モデルに適用している。同社は、Cluster Toolkit、同じ場所で動作するサイドカー、ホストのスナップショット機能とともに、GKE上のCloud Pathwaysを利用している。これにより、複数のTrilliumスライスにまたがるクラスターで、MaxTextによるエラスティックな事前学習と、MaxTextおよびTunixを使った単一コントローラー型の強化学習を実行する。

創業者のSashikumaar Ganesan氏によると、コントローラーはTPUのトポロジーを監視し、チップまたはスライスがオフラインになると、ワークロードを動的に再メッシュ化してサイズを変更する。「Pathwaysとホストのスナップショット機能を本番環境で組み合わせることで、障害発生時の復旧時間を最小限に抑えられます。その結果、停止時間をほとんど発生させずに、利用可能なTPU容量を最大限に活用できます」と同氏は述べた。

GKEでの提供状況とSlurm向けプレビュー

Cloud Pathwaysは、Cloud TPU v5e、TPU v5p、Trillium TPU v6e、Ironwood TPU 7xに対応するすべてのGoogle Cloudリージョンで、GKE上で一般提供されている。Googleは、JAX 0.10.1以降に対応するバージョン管理されたコンテナイメージを提供している。

Cluster Directorとの別個の統合により、Cloud PathwaysをSlurmのTPUクラスターでも利用できる。この統合は、複数のスライスにまたがるJAXの統合実行、エラスティックトレーニング、インタラクティブなノートブックに対応する。これはプレビュー段階であり、GKEランタイムの一般提供とは異なるステータスだ。

高コストのアクセラレーターで複数日にわたるジョブを実行する運用者にとって、今回のリリースはオーケストレーションを稼働率に直接結び付ける。単一のコントローラーがTPUスライスを連携させ、スナップショットを使った復旧によって、個々のスライスに障害が発生してもクライアントのジョブを継続できるよう設計されている。