Η Google Cloud διαθέτει πλέον γενικά το Pathways Runtime για φόρτους εργασίας TPU μεγάλης κλίμακας

Στις 9 Νοεμβρίου 2026, η Google Cloud ανακοίνωσε ότι το Cloud Pathways είναι πλέον γενικά διαθέσιμο στο Google Kubernetes Engine (GKE), προσφέροντας στους πελάτες ένα περιβάλλον εκτέλεσης με ενιαίο ελεγκτή για εκπαίδευση και εξαγωγή συμπερασμάτων μεγάλης κλίμακας. Η Google ανέφερε ότι οι χρήστες επεξεργάστηκαν περισσότερες από 130 εκατομμύρια ώρες χρήσης τσιπ Cloud TPU με το Pathways στο GKE κατά τις προηγούμενες 90 ημέρες.

Το περιβάλλον εκτέλεσης, που ονομάζεται επίσης Pathways on Cloud, αποτελεί βασικό πυλώνα περιβάλλοντος εκτέλεσης του Google Cloud AI Hypercomputer. Αρχικά σχεδιάστηκε από την Google DeepMind για την εκπαίδευση και την εκτέλεση των πρωτοποριακών μοντέλων της Google, συμπεριλαμβανομένου του Gemini, και προορίζεται για τεράστιες, ετερογενείς συστοιχίες επιταχυντών. Με αυτήν την κυκλοφορία, η τεχνολογία που χρησιμοποιείται για τους μεγαλύτερους φόρτους εργασίας τεχνητής νοημοσύνης της Google γίνεται διαθέσιμη και στους πελάτες του Cloud.

Ένας ελεγκτής για πολλαπλές φέτες TPU

Το λογισμικό αντιμετωπίζει το επιπλέον κόστος συντονισμού που συνεπάγεται η προεπιλεγμένη αρχιτεκτονική JAX με πολλαπλούς ελεγκτές. Σε αυτήν τη διάταξη, κάθε κεντρικός υπολογιστής TPU εκτελεί ξεχωριστό διερμηνευτή Python, ο οποίος έχει μόνο τοπική εικόνα των συνδεδεμένων συσκευών του, ενώ όλοι οι κεντρικοί υπολογιστές εκτελούν συγχρονισμένα το ίδιο πρόγραμμα ενός προγράμματος με πολλαπλά δεδομένα. Σύμφωνα με την Google, αυτό καθιστά σύνθετη και εύθραυστη τη διαχείριση ετερογενών φόρτων εργασίας με πολλαπλά προγράμματα και πόρων μεταξύ φετών, καθώς αυξάνεται η κλίμακα των εργασιών.

Το Cloud Pathways αντικαθιστά αυτήν τη διάταξη με έναν ενιαίο ελεγκτή, ο οποίος βασίζεται στο ανοικτού κώδικα Interim Framework Runtime. Η ρύθμιση JAX_PLATFORMS=proxy με pathwaysutils επιτρέπει σε έναν πελάτη JAX να βλέπει και να ενορχηστρώνει πολλές μεγάλες φέτες TPU, που εκτείνονται σε χιλιάδες τσιπ, σαν οι συσκευές τους να ήταν συνδεδεμένες τοπικά. Ο ελεγκτής διαχειρίζεται την αξιολόγηση γράφων, την επίμονη προσωρινή αποθήκευση μεταγλώττισης στο Cloud Storage και την ασύγχρονη αποστολή εργασιών XLA μεταξύ των φετών.

Πλευρικοί περιέκτες Python που εκτελούνται παράλληλα, με υποστήριξη κοινόχρηστης μνήμης, εκτελούν απευθείας στους κεντρικούς υπολογιστές TPU εργασίες με υψηλές υπολογιστικές απαιτήσεις, όπως η κατανεμημένη φόρτωση δεδομένων και η δημιουργία σημείων ελέγχου. Η ελαστική εκπαίδευση χρησιμοποιεί στιγμιότυπα της μνήμης του κεντρικού υπολογιστή για να ανακατανείμει μια εργασία σε μία φέτα λιγότερη μετά από διακοπή λόγω υλικού, χωρίς να καταρρεύσει ο πελάτης. Η διαδραστική λειτουργία υποστηρίζει σημειωματάρια και τερματικά, ενώ η υπηρεσία Shared Pathways Service επιτρέπει σε πολλούς χρήστες και εργασίες να αξιοποιούν μια διαρκώς διαθέσιμη δεξαμενή φετών TPU.

Χρήση σε περιβάλλον παραγωγής και ελαστική ανάκαμψη

Η Google Cloud αναφέρει ότι μια μεγάλη εταιρεία τεχνολογίας καταναλωτικών προϊόντων εκτελεί σε περιβάλλον παραγωγής συμπερασματολογία κατά παρτίδες και ενισχυτική μάθηση σε δεκάδες χιλιάδες τσιπ TPU v5p, Trillium v6e και Ironwood TPU7x. Αυτή η εγκατάσταση καταναλώνει περισσότερες από 100 εκατομμύρια ώρες χρήσης τσιπ ανά τρίμηνο, ενώ ο πελάτης σχεδίασε από κοινού με την Google τα πρωτογενή στοιχεία ελαστικότητας, καθώς επεκτείνει τη χρήση του συστήματος στην προεκπαίδευση.

Η ZenteiQ εφαρμόζει την ίδια στοίβα τεχνολογιών σε επιστημονικά μοντέλα θεμελίωσης. Χρησιμοποιεί το Cloud Pathways στο GKE με το Cluster Toolkit, πλευρικούς περιέκτες που εκτελούνται παράλληλα και λήψη στιγμιότυπων της μνήμης του κεντρικού υπολογιστή, για ελαστική προεκπαίδευση με το MaxText και ενισχυτική μάθηση με ενιαίο ελεγκτή, μέσω των MaxText και Tunix, σε συστάδες Trillium πολλαπλών φετών.

Ο ιδρυτής Sashikumaar Ganesan δήλωσε ότι ο ελεγκτής παρακολουθεί την τοπολογία των TPU και αναδιατάσσει δυναμικά το πλέγμα και αλλάζει το μέγεθος των φόρτων εργασίας όταν ένα τσιπ ή μια φέτα τίθεται εκτός λειτουργίας. «Ο συνδυασμός του Pathways με τη λήψη στιγμιότυπων της μνήμης των κεντρικών υπολογιστών σε περιβάλλον παραγωγής μειώνει στο ελάχιστο τον χρόνο ανάκαμψης όταν προκύπτουν διακοπές, διατηρώντας πλήρως αξιοποιημένη τη διαθέσιμη χωρητικότητα TPU μας και περιορίζοντας στο ελάχιστο τον χρόνο αδράνειας», δήλωσε.

Διαθεσιμότητα στο GKE και προεπισκόπηση για το Slurm

Το Cloud Pathways είναι πλέον γενικά διαθέσιμο στο GKE σε όλες τις περιοχές του Google Cloud που υποστηρίζουν τα Cloud TPU v5e, TPU v5p, Trillium TPU v6e και Ironwood TPU 7x. Η Google παρέχει εκδόσεις εικόνων περιεκτών που υποστηρίζουν το JAX 0.10.1 και νεότερες εκδόσεις.

Μια ξεχωριστή ενσωμάτωση με το Cluster Director επεκτείνει το Cloud Pathways σε συστάδες Slurm TPU, υποστηρίζοντας ενιαία εκτέλεση JAX σε πολλαπλές φέτες, ελαστική εκπαίδευση και διαδραστικά σημειωματάρια. Η ενσωμάτωση βρίσκεται σε προεπισκόπηση, κατάσταση διακριτή από τη γενική διαθεσιμότητα του περιβάλλοντος εκτέλεσης στο GKE.

Για τους διαχειριστές που εκτελούν πολυήμερες εργασίες σε επιταχυντές υψηλού κόστους, αυτή η κυκλοφορία συνδέει άμεσα την ενορχήστρωση με την αξιοποίηση: ένας ελεγκτής συντονίζει τις φέτες TPU και η ανάκαμψη βάσει στιγμιότυπων έχει σχεδιαστεί ώστε να διατηρεί ενεργή την εργασία του πελάτη όταν παρουσιάζεται βλάβη σε κάποια επιμέρους φέτα.