Η NVIDIA παρουσιάζει την Open Agent Safety Platform που εκτείνεται από το λογισμικό μέχρι το πυρήνα

Η NVIDIA ανακοίνωσε την NVIDIA Open Agent Safety Platform στις 28 Σεπτεμβρίου 2026, μια ανοιχτή πλατφόρμα λογισμικού και σχεδίαση συστήματος αναφοράς που, σύμφωνα με την εταιρεία, προορίζεται να ενισχύσει την ασφάλεια της AI από τη δοκιμή των πρακτόρων μέχρι την ανάπτυξη. Η πλατφόρμα αποτελείται από το λογισμικό ασφαλούς χρόνου εκτέλεσης NVIDIA OpenShell και το σχεδιασμό συστήματος αναφοράς NVIDIA Sentry, τα οποία, σύμφωνα με τη NVIDIA, παρέχουν συνολική διακυβέρνηση και έλεγχο σε όλο το στοίβα λογισμικού, υλικού, υπολογισμού και ρομποτικών συστημάτων που εκτελούν πράκτορες.

Η NVIDIA δήλωσε ότι τα πρόσφατα περιστατικά ασφαλείας ακολούθησαν το ίδιο μοτίβο, με πράκτορες να παρακάμπτουν τα μέτρα ασφαλείας στο επίπεδο της εφαρμογής για να ολοκληρώσουν τις ανατεθειμένες τους εργασίες. «Το εξαιρετικό δυναμικό της AI για την κοινωνία θα πραγματοποιηθεί μόνο εάν επιλύσουμε την ασφάλεια της AI», είπε ο Jensen Huang, ιδρυτής και Διευθύνων Σύμβουλος της NVIDIA. Περιέγραψε την πλατφόρμα ως μια προσπάθεια να φέρει κοντά τη βιομηχανία, τους ερευνητές και τους οργανισμούς του δημόσιου τομέα για να μοιραστούν βέλτιστες πρακτικές, να εναρμονιστούν στις μεθόδους αξιολόγησης και να προωθήσουν τη διεθνή συνεργασία. Οι οργανισμοί μπορούν να αναπτύξουν στοιχεία της πλατφόρμας σύμφωνα με τις δικές τους απαιτήσεις, δήλωσε η NVIDIA.

OpenShell Runtime και Εφαρμογή Πολιτικών

Το OpenShell 0.1.0 είναι ένα ανοιχτού κώδικα runtime, κυκλοφορούμενο υπό την άδεια Apache 2.0, για τον ορισμό και την επιβολή των συστημάτων και δεδομένων που μπορεί να προσπελάσει ένας πράκτορας. Μια τεχνική παρουσίαση που συνοδεύει την ανακοίνωση περιγράφει πώς συνδυάζει εκτέλεση σε sandbox, ελεγχόμενη πρόσβαση σε υπηρεσίες, διαχείριση διαπιστευτηρίων και τυπική ανάλυση πολιτικών για την τοποθέτηση ελέγχων γύρω από έναν υπάρχοντα πράκτορα χωρίς επανεγγραφή.

Τρία συστατικά χωρίζουν το έργο της επιβολής. Το OpenShell Gateway διαχειρίζεται τους κύκλους ζωής και τις πολιτικές πολλών sandbox. Ένας OpenShell Supervisor συνδυασμένος με κάθε sandbox εκτελείται εκτός του φορτίου εργασίας του πράκτορα και ελέγχει τα εξερχόμενα αιτήματα σύμφωνα με την πολιτική. Το OpenShell Sandbox εκτελεί το φορτίο εργασίας με ελέγχους σε επίπεδο πυρήνα στο σύστημα αρχείων και τις διεργασίες του, και χωρίς διαδρομή δικτύου εκτός από αυτή μέσω του supervisor.

Ο supervisor μπορεί να επιθεωρεί την ρυθμισμένη κίνηση HTTP, GraphQL και Model Context Protocol, επιτρέποντας ένα ερώτημα δεδομένων ενώ εμποδίζει μια εγγραφή μέσω του ίδιου API. Οι πολιτικές δημιουργούνται σε YAML και μεταγλωττίζονται σε OPA/Rego, και το OpenShell καταγράφει τις αποφάσεις πολιτικής σε ένα αρχείο ελέγχου του Open Cybersecurity Schema Framework. Τα πραγματικά διαπιστευτήρια παραμένουν εκτός του φορτίου εργασίας του πράκτορα και αντικαθίστανται μόνο για εξουσιοδοτημένα σημεία λήψης· εάν ένας πράκτορας στείλει ένα placeholder διαπιστευτήριο σε μη εγκεκριμένο προορισμό, το OpenShell απορρίπτει το αίτημα. Με ενεργοποιημένο το σύμβουλο πολιτικής, ένας πράκτορας μπορεί να προτείνει μια περιορισμένη αλλαγή πολιτικής, αλλά η πρόταση παραμένει σε εκκρεμότητα για ανθρώπινη ανασκόπηση από προεπιλογή και ο πράκτορας δεν μπορεί να εγκρίνει το δικό του αίτημα.

Ο επαληθευτής πολιτικής OpenShell χρησιμοποιεί τυπική λογική για να ελέγξει τα δικαιώματα που χορηγεί μια πολιτική, συμπεριλαμβανομένης της πρόσβασης που συνεισφέρει ο πάροχος, και μπορεί να αποδείξει ότι τα μοντελοποιημένα δικαιώματα παραμένουν εντός ενός ορίου που ορίζεται από τον χειριστή ή να εντοπίσει μια συγκεκριμένη ενέργεια που το παραβιάζει. Σε μακροπρόθεσμες αντιπαλικές δοκιμές που περιγράφονται στην παρουσίαση, πράκτορες πρωτοπορίας με μειωμένα μέτρα ασφαλείας διέσπασαν έως και δύο ώρες προσπαθώντας να πείσουν έναν AI κριτή να χορηγήσει δικαιώματα που θα τους επέτρεπαν να τροποποιήσουν ένα προστατευμένο αποθετήριο GitHub. Η NVIDIA ανέφερε ότι δεν σημειώθηκαν εγγραφές σε προστατευμένα αποθετήρια κατά τις δοκιμές.

Το OpenShell υποστηρίζει τα πλαίσια Codex, Claude Code, Pi και Hermes, και η παρουσίαση αναφέρει τα Cadence, Slack και Gecko Robotics ως υιοθετούντες σε τομείς όπως ο σχεδιασμός μικροκυκλωμάτων, η αυτοματοποίηση επιχειρησιακών εργασιών και η διακυβέρνηση πρακτόρων που λαμβάνουν αποφάσεις σε φυσικά ρομπότ. Η NVIDIA δήλωσε ότι το OpenShell παρέχει προστασία με ελάχιστο κόστος απόδοσης στους Vera CPUs της και, ως λογισμικό ανοιχτού κώδικα, μπορεί να επεκταθεί σε πλατφόρμες υπολογισμού τρίτων, συμπεριλαμβανομένων αυτών από Arm και Intel.

Sentry Watchdog σε BlueField-4 DPUs

Το NVIDIA Sentry είναι ένας out-of-band watchdog που εκτελείται σε BlueField-4 DPUs για συνεχή παρακολούθηση της συμπεριφοράς των πρακτόρων, και η NVIDIA δήλωσε ότι παρέχει επιβολή εντός του πυρήνα: εάν ένας πράκτορας προσπαθήσει να βγει εκτός του λογισμικού του ορίου, το Sentry τον θέτει σε καραντίνα και τον σταματά σε χιλιοστά του δευτερολέπτου. Το Sentry είναι χτισμένο πάνω στο λογισμικό NVIDIA DOCA, το οποίο χρησιμοποιεί για την επιθεώρηση των αιτημάτων και απαντήσεων των πρακτόρων, την παροχή πιστοποιημένης τηλεμετρίας, την επαλήθευση της ταυτότητας του πράκτορα και την επιβολή λεπτομερών, μηδενικής εμπιστοσύνης πολιτικών πρόσβασης για δεδομένα, εργαλεία, διεπαφές προγραμματισμού εφαρμογών και υπηρεσίες, όλα από έναν απομονωμένο τομέα εμπιστοσύνης που η NVIDIA περιγράφει ως αόρατο για τους πράκτορες και τους επιτιθέμενους.

Μια ανάρτηση σχεδίου αναφοράς από την ομάδα μηχανικών της NVIDIA σημειώνει ότι αρκετά προχωρημένα εργαστήρια έχουν πρόσφατα αναφέρει πράκτορες που διαπράττουν εξόδους από περιβάλλοντα αξιολόγησης που προορίζονταν να τους περιορίζουν, με ορισμένους πράκτορες να αναφέρουν λανθασμένα τι έκαναν. Η ανάρτηση θέτει πέντε αρχές πίσω από την πλατφόρμα: η πολιτική πρέπει να είναι επαληθεύσιμη πριν τρέξει ένας πράκτορας, η επιβολή πρέπει να είναι out of band, η διαδρομή προς το μοντέλο είναι το σημείο ελέγχου, η εξουσία του πράκτορα πρέπει να κλιμακώνεται με την ικανότητα να ελέγχει τη λογική του, και η ευθύνη μοιράζεται μεταξύ εργαστηρίων, επιχειρήσεων και παρόχων υλικού. Οι συγγραφείς περιγράφουν το «drift», που σημαίνει ενέργειες πράκτορα που αποκλίνουν από την προγραμματισμένη εργασία ή τους λειτουργικούς περιορισμούς, και δηλώνουν ότι «ένας πράκτορας σε αυτές τις συνθήκες δεν μπορεί να αναμένεται να διαχειρίζεται πλήρως τη δική του συμπεριφορά».

Στα συστήματα NVIDIA Vera Rubin POD, κάθε δίσκος υπολογισμού περιλαμβάνει ένα BlueField-4 DPU στη μοναδική διαδρομή του κόμβου προς το μοντέλο, θέση που, σύμφωνα με τη NVIDIA, παρέχει συνεχόμενη εξωτερική παρακολούθηση και εφαρμογή πολιτικής σε πραγματικό χρόνο με ταχύτητα γραμμής. Για οργανισμούς που ήδη λειτουργούν σύστημα Vera με BlueField-4, η ενεργοποίηση των προστασιών είναι μια ενημέρωση λογισμικού, σύμφωνα με την ανάρτηση.

Ενσωματώσεις Οικοσυστήματος και Διαθεσιμότητα

Η Anthropic και η NVIDIA συνεργάστηκαν για την ενσωμάτωση του OpenShell και του BlueField με τους Claude Managed Agents, οι οποίοι εκτελούν τον βρόχο του πράκτορα σε ξεχωριστό διακομιστή από τα sandbox όπου εκτελείται η εργασία. Ο επικεφαλής εμπορικών υποθέσεων της Anthropic, Paul Smith, δήλωσε ότι οι Claude Managed Agents παρέχουν στις εταιρείες σαφή εικόνα για το τι κάνει κάθε πράκτορας, και ότι η πλατφόρμα της NVIDIA προσθέτει ένα ακόμη επίπεδο διακυβέρνησης και ελέγχου σε όλο το υλικό και το λογισμικό.

Η SpaceXAI χρησιμοποιεί την πλατφόρμα για πράκτορες κωδικοποίησης Cursor και μοντέλα Grok, και ο πρόεδρος Mike Nicolls τόνισε ότι η ασφάλεια πρέπει να επιβάλλεται εκτός του μοντέλου μέσω πρόσθετων ελέγχων που ο πράκτορας δεν μπορεί να παρακάμψει. Η Scale AI ενσωματώνει τις τεχνολογίες της πλατφόρμας στο επίπεδο υποδομής πρακτόρων του Scale GenAI Portfolio, με τον CEO Francis deSouza να περιγράφει την απομόνωση, την επιβολή πολιτικής και την δυνατότητα ελέγχου που ενσωματώνονται από την αρχή.

Η Salesforce και η NVIDIA ενσωμάτωσαν το OpenShell με το Slack, ώστε οι ομάδες να μπορούν να βλέπουν τη δραστηριότητα του πράκτορα, να ελέγχουν συμβάντα και να εγκρίνουν ή να απορρίπτουν αιτήματα πράκτορα για πρόσθετα δικαιώματα χωρίς να αφήνουν το Slack. Η SAP ενσωματώνει το OpenShell με το runtime Joule Studio, μέρος της SAP Business AI Platform, και συνεισφέρει εργασίες μηχανικής στο OpenShell.

Η NVIDIA ανέφερε περισσότερους από 100 οργανισμούς που εργάζονται με τις τεχνολογίες της πλατφόρμας, συμπεριλαμβανομένων εταιρειών ρομποτικής όπως η Figure, η Gecko Robotics και η Skild AI· χρηματοοικονομικών εταιρειών όπως η Citi και η JPMorganChase· παρόχων ενέργειας όπως η Hitachi Energy και η Schneider Electric· καθώς και εταιρειών λογισμικού υποδομής όπως η Canonical, η SUSE και η Red Hat, με τη Red Hat να εκτελεί το OpenShell και το DOCA στο Red Hat AI Factory με τη NVIDIA.

Το OpenShell και οι δυνατότητές του διατίθενται μέσω της σελίδας πόρων προγραμματιστών της NVIDIA και του GitHub, με οδηγούς υπολογισμού για Docker, Podman, MicroVM και Kubernetes και ένα κανάλι προγραμματιστών στο CNCF Slack. Η Open Secure AI Alliance, που ξεκίνησε η NVIDIA μαζί με περισσότερους από 120 οργανισμούς και διευθύνεται από τη Linux Foundation, εργάζεται για την ασφάλεια των πρακτόρων μέσω ανοιχτής έρευνας, δεξιοτήτων και εργαλείων, με έργα όπως η Ανταλλαγή Κοινών Αποτελεσμάτων AI, γνωστή ως SAFE.