Η NVIDIA δωρίζει το OpenShell στο CNCF και προσθέτει εργαλεία ανοιχτού κώδικα για το AI Factory

Η NVIDIA ανακοίνωσε στις 10 Νοεμβρίου 2026, στο KubeCon + CloudNativeCon, ότι συνεισφέρει το περιβάλλον εκτέλεσης ασφάλειας πρακτόρων OpenShell στο Sandbox του Cloud Native Computing Foundation (CNCF) και διαθέτει τρία στοιχεία ανοιχτού κώδικα για την πλατφόρμα DSX AI Factory.

Οι ανακοινώσεις συνδέουν τη διακυβέρνηση των πρακτόρων με την υποδομή που απαιτείται για την αποδοτική εκτέλεσή τους. Η NVIDIA συνεισφέρει επίσης στο έργο Agent Substrate, το οποίο ξεκίνησε από την Google, και προσθέτει στο DSX τα Kubernetes Engine, Kubernetes Recipes και Snapshot, καλύπτοντας την εκτέλεση συνεδριών, τη διαχείριση συστοιχιών και την ανάκαμψη από προβλήματα κατά την εξαγωγή συμπερασμάτων.

Το OpenShell περνά σταδιακά στη διακυβέρνηση της κοινότητας

Το OpenShell εφαρμόζει ντετερμινιστικούς ελέγχους καθώς οι αυτόνομοι πράκτορες χρησιμοποιούν εργαλεία, αποκτούν πρόσβαση σε υπηρεσίες εξαγωγής συμπερασμάτων και εκτελούν εργασίες. Εκτελεί τους πράκτορες σε περιβάλλοντα απομόνωσης σε επίπεδο πυρήνα, με δηλωτικές πολιτικές YAML που καλύπτουν την πρόσβαση στο σύστημα αρχείων, το δίκτυο, τις διεργασίες και τα διαπιστευτήρια παρόχων. Τα διαπιστευτήρια προστίθενται μόνο σε αιτήματα που προορίζονται για εγκεκριμένα τελικά σημεία, ενώ η τυπική επαλήθευση ελέγχει αν μια προτεινόμενη αλλαγή πολιτικής θα παραχωρούσε νέα, επισφαλή πρόσβαση πριν εγκριθεί.

Το περιβάλλον εκτέλεσης διατίθεται με άδεια Apache 2.0. Η NVIDIA αναφέρει ότι το έχουν χρησιμοποιήσει εκατοντάδες οργανισμοί, ότι έχουν υποβληθεί δεκάδες χιλιάδες συνεισφορές σε διάστημα μικρότερο του ενός έτους και ότι στη διακυβέρνηση του Sandbox θα συμμετέχουν οργανισμοί που ενσωματώνουν το έργο στα προϊόντα τους. Η μετάβαση βρίσκεται ακόμη σε εξέλιξη: σύμφωνα με ανακοίνωση του έργου, η ανάπτυξη μεταφέρεται στον οργανισμό ai-openshell, ενώ κατά τη διάρκεια της μεταφοράς ο κώδικας, τα ζητήματα και τα αιτήματα ενσωμάτωσης παραμένουν στο NVIDIA/OpenShell.

Το Agent Substrate στοχεύει στην αδρανή υπολογιστική ισχύ

Το Agent Substrate αντιμετωπίζει το κόστος διατήρησης ενεργών των συνεδριών των πρακτόρων. Οι πράκτορες συχνά περιμένουν προτροπές, αποτελέσματα εργαλείων ή απαντήσεις μοντέλων· ένα ειδικό Kubernetes Pod σε ετοιμότητα διατηρεί πόρους κατά τη διάρκεια αυτών των κενών, ενώ η δημιουργία του Pod από την αρχή οδηγεί σε απώλεια της κατάστασης και σε μια ακόμη ψυχρή εκκίνηση. Η NVIDIA και η Google συνεργάζονται επίσης για την ενσωμάτωση του OpenShell, ώστε οι πράκτορες να λειτουργούν σε περιβάλλοντα cloud και σε συστήματα εσωτερικής εγκατάστασης.

Ο σχεδιασμός του Agent Substrate αντιστοιχίζει πολλές συνεδρίες με διατηρούμενη κατάσταση σε μια μικρότερη ομάδα εργατών σε ετοιμότητα. Δημιουργεί σημεία ελέγχου για τις αδρανείς συνεδρίες, συμπεριλαμβανομένης της κατάστασης της μνήμης και του συστήματος αρχείων, αποδεσμεύει τους εργάτες τους και τις επαναφέρει σε διαθέσιμους εργάτες χωρίς να επαναλαμβάνει τη συνήθη διαδικασία δημιουργίας Kubernetes Pod. Οι εργάτες παραμένουν κανονικά Kubernetes Pods, επομένως εξακολουθούν να ισχύουν οι πολιτικές προγραμματισμού, ποσοστώσεων και τοποθέτησης της συστοιχίας. Οι φόρτοι εργασίας-στόχοι περιλαμβάνουν βοηθούς προγραμματισμού, περιβάλλοντα ενισχυτικής μάθησης και βραχύβια περιβάλλοντα απομόνωσης για έρευνα με GPU.

Η NVIDIA αναπτύσσει διαλειτουργικότητα με το Dynamo για την εξαγωγή συμπερασμάτων και με το KAI Scheduler για κοινόχρηστους πόρους συστοιχιών. Το Dynamo μπορεί να παρέχει προβλέψεις για τον χρόνο μέχρι το πρώτο token και τον κορεσμό της δεξαμενής GPU, ώστε το Agent Substrate να αποφασίζει αν θα διατηρήσει έναν πράκτορα ενεργό, θα τον αναστείλει ή θα τον επαναφέρει. Τα API του εξακολουθούν να αλλάζουν, η υποστήριξη GPU ανασχεδιάζεται με βάση την Κατανομή Δυναμικών Πόρων του Kubernetes και ορισμένα μέρη της ενσωμάτωσης με το Dynamo βρίσκονται σε πειραματικό στάδιο.

Το DSX προσθέτει διαχείριση συστοιχιών και ταχύτερες επαναφορές

Τα NVIDIA Kubernetes Engine και NVIDIA Kubernetes Recipes (NVKE και NVKR) διατίθενται σε δημόσια προεπισκόπηση με άδεια Apache 2.0. Η NVIDIA αναφέρει ότι τα API, οι ρυθμίσεις και η συμπεριφορά τους ενδέχεται να αλλάξουν και δεν τα συνιστά ακόμη για φόρτους εργασίας παραγωγής. Το NVKR δημιουργεί αναπαραγώγιμες εικόνες κόμβων και κοντέινερ, δυαδικά αρχεία και γραφήματα Helm από πηγές με καθορισμένες εκδόσεις και καταγράφει τις εισόδους. Το NVKE χρησιμοποιεί αυτά τα τεχνουργήματα για την παροχή και τη λειτουργία συστοιχιών μέσω ενός REST API και ελεγκτών, αν και τα έργα μπορούν να υιοθετηθούν ανεξάρτητα.

Το NVKE δημιουργεί συστοιχίες για φόρτους εργασίας πελατών, με ξεχωριστά επίπεδα ελέγχου Kubernetes, στιγμιότυπα etcd και ομάδες κόμβων. Εξασφαλίζει χωρητικότητα γυμνού μετάλλου μέσω του NVIDIA Infra Controller και του παρόχου Cluster API, CAPNICo· πριν λάβει διαπιστευτήρια ένταξης, ένας κόμβος πρέπει να παρουσιάσει επαληθευμένη ταυτότητα SPIFFE. Οι Firmus και SK Telecom ενσωματώνουν τα έργα στα AI factory τους, ενώ οι Mirantis, Netris, OpenNebula Systems, Rafay, Spectro Cloud και vCluster σχεδιάζουν ενσωματώσεις που αφορούν τις πλατφόρμες υποδομής τους, τις διαχειριζόμενες προσφορές Kubernetes ή την αυτοματοποίηση δικτύων.

Το NVIDIA Snapshot αντιμετωπίζει τις ψυχρές εκκινήσεις κατά την εξαγωγή συμπερασμάτων, δημιουργώντας σημεία ελέγχου για τη μνήμη CPU και GPU ενός πλήρως αρχικοποιημένου φόρτου εργασίας. Για την επαναφορά απαιτούνται το ίδιο μοντέλο GPU και το ίδιο πρόγραμμα οδήγησης, ενώ παραλείπονται η εκ νέου φόρτωση βαρών, η μεταγλώττιση και η καταγραφή γραφημάτων CUDA.

Σε GPU B200 με αποθήκευση VAST NFS, η NVIDIA αναφέρει χρόνους επαναφοράς από 3,6 έως 42,7 δευτερόλεπτα για διαμορφώσεις vLLM, SGLang και TensorRT LLM, με επιτάχυνση από 8 έως 36 φορές σε σύγκριση με τις ψυχρές εκκινήσεις. Οι δοκιμές κάλυψαν από ένα μοντέλο 600 εκατομμυρίων παραμέτρων έως διαμορφώσεις με οκτώ GPU και σημεία ελέγχου μεγέθους σχεδόν 1 TB. Η δημιουργία σημείου ελέγχου διήρκεσε από 15 δευτερόλεπτα έως 5,5 λεπτά, ενώ σε κάθε διαμόρφωση που δοκιμάστηκε, ο συνολικός χρόνος δημιουργίας σημείου ελέγχου και επαναφοράς ήταν μικρότερος από μία ψυχρή εκκίνηση.

Αυτά τα στοιχεία δεν μετρούν την εκκίνηση ολόκληρου του μηχανήματος: η παροχή υποδομής και η φόρτωση εικόνων κοντέινερ δεν περιλαμβάνονται στη χρονομετρημένη διαδικασία επαναφοράς. Επίσης, η κρυφή μνήμη κλειδιών-τιμών αποδεσμεύεται πριν από κάθε δημιουργία σημείου ελέγχου, αντί να διατηρείται στο τεχνούργημα· επομένως, τα αποτελέσματα αφορούν την επαναφορά ενός αρχικοποιημένου φόρτου εργασίας σε συμβατή υποδομή.

Η δική της δοκιμή με το GLM-5.3 της Crusoe στη NVIDIA HGX B300 χρησιμοποίησε ένα σημείο ελέγχου που περιείχε 594 GB κατάστασης GPU. Η Crusoe μέτρησε ότι η επαναφορά της κατάστασης GPU χρειάστηκε 15.0 δευτερόλεπτα από τοπικό NVMe, έναντι 33.3 δευτερολέπτων από NFS. Με το τεχνούργημα αποθηκευμένο σε NVMe, η δημιουργία ενός pod και η μετάβασή του σε κατάσταση ετοιμότητας χρειάστηκαν 31 δευτερόλεπτα, έναντι περίπου οκτώ λεπτών για μια ψυχρή εκκίνηση, γεγονός που δείχνει ότι η αποθήκευση αποτελεί σημαντικό παράγοντα στην απόδοση της επαναφοράς. Η Crusoe έχει επίσης συνεισφέρει αλλαγές για την απόδοση και τη διάγνωση στο upstream έργο.

Συνολικά, τα έργα μεταφέρουν μεγαλύτερο μέρος του επιπέδου ελέγχου και της διαδρομής ανάκαμψης του εργοστασίου τεχνητής νοημοσύνης σε ανοικτά αποθετήρια, αλλά βρίσκονται σε διαφορετικά στάδια ωριμότητας: η μεταφορά του OpenShell σε νέο πλαίσιο διακυβέρνησης δεν έχει ολοκληρωθεί, το Agent Substrate εξελίσσεται και τα NVKE και NVKR παραμένουν σε έκδοση προεπισκόπησης. Τα συγκριτικά αποτελέσματα του Snapshot τεκμηριώνουν το σαφέστερο μετρημένο λειτουργικό όφελος, ενώ οι απαιτήσεις συμβατότητάς του και τα αποτελέσματα της Crusoe σχετικά με την αποθήκευση δείχνουν ότι η ταχύτερη ανάκαμψη εξαρτάται τόσο από την επαναχρησιμοποιήσιμη κατάσταση του φόρτου εργασίας όσο και από την υποδομή που την περιβάλλει.