Google Cloud, Büyük Ölçekli TPU İş Yükleri için Pathways Runtime’ı Genel Kullanıma Sunuyor

Google Cloud, 9 Kasım 2026’da Cloud Pathways’in Google Kubernetes Engine (GKE) üzerinde genel kullanıma sunulduğunu ve müşterilere büyük ölçekli eğitim ve çıkarım için tek denetleyicili bir çalışma zamanı sağladığını duyurdu. Google, kullanıcıların önceki 90 gün içinde GKE üzerinde Pathways ile 130 milyondan fazla Cloud TPU çip saati kullandığını belirtti.

Pathways on Cloud olarak da adlandırılan bu çalışma zamanı, Google Cloud AI Hypercomputer’ın temel çalışma zamanı bileşenlerinden biridir. Başlangıçta Gemini de dâhil olmak üzere Google’ın öncü modellerini eğitmek ve çalıştırmak için Google DeepMind tarafından geliştirilen bu çözüm, büyük ve heterojen hızlandırıcı filoları için tasarlanmıştır. Bu sürüm, Google’ın en büyük yapay zekâ iş yüklerinde kullanılan teknolojiyi bulut müşterilerine sunuyor.

TPU Dilimleri Genelinde Tek Denetleyici

Yazılım, varsayılan çok denetleyicili JAX kurulumunun koordinasyon yükünü azaltmayı hedefliyor. Bu kurulumda her TPU ana bilgisayarı, yalnızca bağlı olduğu cihazların yerel görünümüne sahip ayrı bir Python yorumlayıcısı çalıştırırken tüm ana bilgisayarlar aynı tek programlı, çok verili programı eş zamanlı olarak yürütür. Google’a göre bu durum, işler ölçeklendikçe heterojen çok programlı iş yüklerini ve dilimler arasındaki kaynak yönetimini karmaşık ve kırılgan hâle getiriyor.

Cloud Pathways, açık kaynaklı Interim Framework Runtime üzerine kurulu birleşik bir denetleyiciyle bu düzenin yerini alıyor. Ayarlama JAX_PLATFORMS=proxy ile pathwaysutils tek bir JAX istemcisinin, binlerce çipe yayılan birden fazla büyük TPU dilimini görüntülemesine ve yönetmesine olanak tanıyor; böylece bu dilimlerdeki cihazlar yerel olarak bağlıymış gibi çalışıyor. Denetleyici; grafik değerlendirmesini, Cloud Storage’da kalıcı derleme önbelleğe almayı ve XLA işlerinin dilimler arasında eşzamansız olarak dağıtılmasını yönetiyor.

Paylaşılan bellek desteğine sahip, aynı konumda çalışan Python yan kapsayıcıları; dağıtık veri yükleme ve denetim noktası oluşturma gibi yoğun işlem gerektiren görevleri doğrudan TPU ana bilgisayarlarında yürütüyor. Esnek eğitim, donanım kesintisinin ardından işi bir dilim daha az kullanacak şekilde yeniden bölmek için ana bilgisayar belleğindeki anlık görüntülerden yararlanıyor ve istemcinin çökmesini önlüyor. Etkileşimli mod not defterlerini ve terminalleri desteklerken Shared Pathways Service, birden fazla kullanıcının ve işin uzun süre çalışan bir TPU dilimleri havuzundan yararlanmasını sağlıyor.

Üretim Kullanımı ve Esnek Kurtarma

Google Cloud’un bildirdiğine göre, büyük bir tüketici teknolojisi şirketi on binlerce TPU v5p, Trillium v6e ve Ironwood TPU7x çipi üzerinde üretim ortamında toplu çıkarım ve pekiştirmeli öğrenme çıkarımı yürütüyor. Bu dağıtım her çeyrekte 100 milyondan fazla çip saati tüketiyor ve müşteri, ön eğitime geçişini genişletirken esneklik ilkelerini Google ile birlikte tasarladı.

ZenteiQ aynı teknoloji yığınını bilimsel temel modeller için kullanıyor. Şirket, çok dilimli Trillium kümelerinde esnek MaxText ön eğitimi ve MaxText ile Tunix kullanılarak tek denetleyicili pekiştirmeli öğrenme yürütmek için Cluster Toolkit, aynı konumda çalışan yan kapsayıcılar ve ana bilgisayar anlık görüntüleriyle birlikte GKE üzerinde Cloud Pathways’ten yararlanıyor.

Kurucu Sashikumaar Ganesan, denetleyicinin TPU topolojisini izlediğini ve bir çip ya da dilim devre dışı kaldığında iş yüklerini dinamik olarak yeniden düzenleyip yeniden boyutlandırdığını söyledi. “Pathways’i üretim ortamında ana bilgisayar anlık görüntüleriyle birleştirmek, kesintiler sırasında kurtarma süresini en aza indiriyor; kullanılabilir TPU kapasitemizi çok az bekleme süresiyle tamamen kullanmamızı sağlıyor,” dedi.

GKE’de Kullanılabilirlik ve Slurm Önizlemesi

Cloud Pathways, Cloud TPU v5e, TPU v5p, Trillium TPU v6e ve Ironwood TPU 7x desteği sunan tüm Google Cloud bölgelerinde GKE üzerinde genel kullanıma sunuldu. Google, JAX 0.10.1 ve sonraki sürümleri destekleyen, sürümlere göre ayrılmış kapsayıcı imajları sağlıyor.

Cluster Director ile ayrı bir entegrasyon, Cloud Pathways’i Slurm TPU kümelerine taşıyarak birleşik çok dilimli JAX yürütmesini, esnek eğitimi ve etkileşimli not defterlerini destekliyor. Bu entegrasyon, GKE çalışma zamanının genel kullanıma sunulmasından farklı bir statü olan Önizleme aşamasında.

Yüksek maliyetli hızlandırıcılarda günlerce süren işler yürüten operatörler için bu sürüm, düzenlemeyi doğrudan kullanım oranına bağlıyor: tek bir denetleyici TPU dilimlerini koordine ediyor; anlık görüntü tabanlı kurtarma ise tek bir dilim arızalandığında istemci işinin devam etmesini sağlamak üzere tasarlandı.