Μοντέλα και πλατφόρμες AI
Η AWS προσθέτει διαχειριζόμενες επεκτάσεις συστάδων στο SageMaker HyperPod Slurm

Βασικά σημείαΟι επεκτάσεις συστάδας μετατρέπουν το λογισμικό κόμβου σε δηλωμένη κατάσταση την οποία…
Δείτε περισσότερα
- Οι επεκτάσεις συστάδας μετατρέπουν το λογισμικό κόμβου σε δηλωμένη κατάσταση την οποία το HyperPod επικυρώνει και συμφιλιώνει συνεχώς.
- Οι διαχειριστές μπορούν να ενημερώνουν ρυθμίσεις ή εκδόσεις επεκτάσεων χωρίς να αντικαθιστούν κόμβους ή να εκτελούν ξανά σενάρια κύκλου ζωής.
- Η μετεγκατάσταση υφιστάμενων συστάδων απαιτεί τη χειροκίνητη αφαίρεση πρακτόρων που εγκαταστάθηκαν από σενάρια κατά τη διάρκεια ενός παραθύρου συντήρησης.
Η Amazon Web Services λάνσαρε στις 20 Νοεμβρίου 2026 διαχειριζόμενες επεκτάσεις συστάδων για το Amazon SageMaker HyperPod Slurm, προσφέροντας δηλωτική διαμόρφωση του λογισμικού στους ενεργούς κόμβους μέσω API ή της κονσόλας SageMaker AI. Οι δύο πρώτες επεκτάσεις καλύπτουν την παρατηρησιμότητα και τη διαχείριση χρηστών, συμπεριλαμβανομένης της ενσωμάτωσης με υπηρεσίες καταλόγου.
Η κυκλοφορία αυτή αφορά το τμήμα μιας κοινόχρηστης συστάδας εκπαίδευσης ΤΝ που μεταβάλλεται μετά την αρχική διαμόρφωσή της. Το HyperPod είχε ήδη προσθέσει, μέσα στο 2026, διαμόρφωση Slurm μέσω API, ρύθμιση κόμβων με βάση AMI, συνεχή παροχή πόρων, αυτόματη διαχείριση τοπολογίας και εις βάθος ελέγχους εύρυθμης λειτουργίας. Αυτές οι λειτουργίες διαχειρίζονται τον ορισμό της συστάδας, τη χωρητικότητά της, τη διάταξη του δικτύου και την εύρυθμη λειτουργία του υλικού· οι επεκτάσεις συστάδων εφαρμόζουν την ίδια προσέγγιση στο λογισμικό των κόμβων, το οποίο μεταβάλλεται καθώς εξελίσσονται οι ερευνητικές ομάδες, οι απαιτήσεις παρακολούθησης και οι εκδόσεις των πακέτων.
Επιθυμητή κατάσταση για το λογισμικό των κόμβων
Οι διαχειριστές μπορούν να εγκαθιστούν, να διαμορφώνουν, να ενημερώνουν και να καταργούν τα πακέτα που διαχειρίζεται η AWS μέσω της κονσόλας, του AWS CLI ή ενός SDK. Πριν από την εφαρμογή των αλλαγών, το HyperPod επικυρώνει τις ρυθμίσεις με βάση το σχήμα της επιλεγμένης έκδοσης της επέκτασης και καταγράφει την έκδοση και τις ρυθμίσεις που ζητήθηκαν ως επιθυμητή κατάσταση. Στη συνέχεια, ένας παράγοντας κόμβου εφαρμόζει μόνο τα στοιχεία που απαιτούνται για τον ρόλο κάθε κόμβου, ακόμη και σε κόμβους που προστίθενται μέσω κλιμάκωσης ή αντικατάστασης.
Κατά τις ενημερώσεις υποβάλλονται μόνο οι ρυθμίσεις που αλλάζουν. Το HyperPod τις συγχωνεύει με την αποθηκευμένη διαμόρφωση και επανεκκινεί μόνο τα στοιχεία που επηρεάζονται, χωρίς να αντικαθιστά κόμβους ή να εκτελεί ξανά τα σενάρια κύκλου ζωής. Μπορούν επίσης να εγκατασταθούν νέες εκδόσεις επεκτάσεων χωρίς ενημέρωση AMI. Πριν από την εφαρμογή των αλλαγών, το HyperPod ελέγχει τις αποθηκευμένες ρυθμίσεις με βάση το σχήμα της νέας έκδοσης, ενώ οι αναβαθμίσεις γίνονται μόνο προς νεότερες εκδόσεις.
Κατά την εφαρμογή των αλλαγών, η κατάσταση κάθε επέκτασης εμφανίζεται ως Creating ή Updating· ως Active όταν όλοι οι κόμβοι εκτελούν τη ζητούμενη διαμόρφωση χωρίς να έχει αναφερθεί κάποιο πρόβλημα· και ως Degraded όταν οι κόμβοι αποτυγχάνουν ή αναφέρουν προβλήματα. Το DescribeClusterExtension ομαδοποιεί τα προβλήματα εύρυθμης λειτουργίας σε επίπεδο κόμβου ανά αιτία και παρέχει έναν κωδικό, ένα μήνυμα και τον αριθμό των κόμβων που επηρεάζονται. Το HyperPod επαναλαμβάνει τις προσπάθειες σε περίπτωση εσωτερικών σφαλμάτων· οι διαχειριστές μπορούν να διορθώσουν άλλες αιτίες και να επαναλάβουν την προσπάθεια στους επηρεαζόμενους κόμβους με μια κλήση ενημέρωσης που δεν περιλαμβάνει αλλαγές διαμόρφωσης.
Παρατηρησιμότητα και διαχείριση χρηστών
Η επέκταση sagemaker-observability συλλέγει μετρικές για τους κόμβους, τις GPU, το Elastic Fabric Adapter, τις εργασίες Slurm και τη συστάδα Slurm και τις αποστέλλει στο Amazon CloudWatch ή στο Amazon Managed Service for Prometheus. Οι κατηγορίες και τα επίπεδα των μετρικών, καθώς και τα διαστήματα συλλογής τους, μπορούν να διαμορφωθούν, ενώ σε κάθε κόμβο εκτελούνται μόνο στοιχεία που σχετίζονται με τον ρόλο του, όπως οι εξαγωγείς DCGM και EFA στους κόμβους GPU και οι μετρικές συστάδας Slurm στον ελεγκτή.
Ένας προαιρετικός χώρος εργασίας Amazon Managed Grafana προσθέτει προκατασκευασμένους πίνακες εργαλείων «Συστάδες» και «Εργασίες». Συνδυάζουν την εύρυθμη λειτουργία της συστάδας συνολικά και την κατάσταση του Slurm με μετρικές υποδομής ανά κόμβο και τη χρήση πόρων από μεμονωμένες εργασίες, όπως CPU, μνήμη, χρήση GPU, λειτουργίες εισόδου/εξόδου δίσκου και δεδομένα NCCL.
Η επέκταση sagemaker-user-management δημιουργεί χρήστες και ομάδες Linux με σταθερά αναγνωριστικά σε όλους τους κόμβους, ελέγχει την πρόσβαση μέσω SSH και την πρόσβαση sudo χωρίς κωδικό πρόσβασης ανάλογα με τον τύπο του κόμβου και καταχωρίζει τους χρήστες στη λογιστική παρακολούθηση του Slurm. Οι λογαριασμοί μπορούν να ορίζονται τοπικά, να αντλούνται από το Active Directory μέσω LDAPS ή να προέρχονται και από τις δύο πηγές, συμπεριλαμβανομένων των συνδέσεων με το AWS Directory Service for Microsoft Active Directory. Οι νέοι κόμβοι και οι κόμβοι αντικατάστασης λαμβάνουν την ίδια διαμόρφωση, ενώ οι διαχειριστές μπορούν να ελέγχουν την πρόσβαση μέσω του API αντί να συνδέονται σε κάθε κόμβο.
Μετεγκατάσταση, δικαιώματα και κόστος
Για τις επεκτάσεις συστάδων απαιτείται συστάδα HyperPod Slurm που χρησιμοποιεί την AMI του HyperPod της 2ας Νοεμβρίου 2026 ή νεότερη και έχει ενεργοποιημένη τη συνεχή παροχή πόρων. Επειδή οι επεκτάσεις εκτελούν λογισμικό με δικαιώματα root, η AWS θεωρεί τα δικαιώματα δημιουργίας, ενημέρωσης και διαγραφής δικαιώματα διαχειριστή και συνιστά να μη χορηγούνται στον ρόλο εκτέλεσης της συστάδας. Ο ρόλος αυτός εξακολουθεί να χρειάζεται πρόσβαση στους προορισμούς των μετρικών και στα μυστικά του Active Directory, ενώ για τη διαχείριση χρηστών απαιτείται κοινόχρηστο σύστημα αρχείων για τους προσωπικούς καταλόγους. Διακριτά ARN επεκτάσεων επιτρέπουν στις ομάδες πλατφόρμας και παρακολούθησης να έχουν την ευθύνη διαφορετικών επεκτάσεων.
Οι υπάρχουσες συστάδες μπορούν να μεταφέρουν τις λειτουργίες τους μία κάθε φορά, ενώ τα σενάρια και οι επεκτάσεις λειτουργούν παράλληλα. Η διαδικασία απαιτεί την ενημέρωση του λογισμικού της συστάδας, την απενεργοποίηση της αντίστοιχης λειτουργίας στα σενάρια κύκλου ζωής, τη μη αυτόματη αφαίρεση των παραγόντων που εγκαταστάθηκαν μέσω σεναρίων κατά τη διάρκεια ενός παραθύρου συντήρησης και τη δημιουργία της επέκτασης στην καθαρή συστάδα. Κάθε στοιχείο πρέπει να έχει έναν μόνο υπεύθυνο: η διαχείριση του ίδιου εξαγωγέα, χρήστη ή υπηρεσίας και με τους δύο μηχανισμούς μπορεί να προκαλέσει διενέξεις κατά την εγκατάσταση ή τη λειτουργία. Οι προσαρμοσμένες AMI και τα σενάρια κύκλου ζωής εξακολουθούν να είναι διαθέσιμα για λογισμικό που αφορά τις ανάγκες κάθε οργανισμού, ενώ οι διαχειριστές διατηρούν πρόσβαση μέσω SSH και άμεση πρόσβαση στη διαμόρφωση κάθε κόμβου, συμπεριλαμβανομένου του ελεγκτή.
Και οι δύο επεκτάσεις είναι διαθέσιμες σε όλες τις περιοχές όπου υποστηρίζεται το SageMaker HyperPod. Δεν υπάρχει πρόσθετη χρέωση για τις επεκτάσεις συστάδων, αλλά οι πελάτες πληρώνουν για τους υποκείμενους πόρους, όπως το CloudWatch, το Amazon Managed Service for Prometheus και το AWS Secrets Manager.
Για κοινόχρηστες συστάδες θεμελιωδών μοντέλων, η λειτουργική συνέπεια είναι ότι το κοινό λογισμικό των κόμβων αποτελεί πλέον δηλωμένο και διαρκώς ελεγχόμενο μέρος της κατάστασης της συστάδας, αντί να είναι μια συλλογή σεναρίων προετοιμασίας. Η αφαίρεση των πρακτόρων που εγκαταστάθηκαν μέσω σεναρίων είναι το μοναδικό χειροκίνητο βήμα της μετάβασης σε ολόκληρο τον στόλο· στη συνέχεια, οι κόμβοι που προστίθενται κατά την κλιμάκωση και οι κόμβοι αντικατάστασης κληρονομούν τις ίδιες ρυθμίσεις επεκτάσεων, ενώ τα εργαλεία που αφορούν ειδικά τον οργανισμό παραμένουν υπό τον έλεγχο της ομάδας της συστάδας.












