NVIDIA представила Open Agent Safety Platform, що охоплює програмне забезпечення та апаратний рівень.

NVIDIA оголосила про NVIDIA Open Agent Safety Platform 28 вересня 2026 року, це відкрита програмна платформа та референсний дизайн системи, яку компанія заявила, що має на меті посилити безпеку ШІ від тестування агентів до їх розгортання. Платформа складається з захищеного середовища виконання NVIDIA OpenShell та референсного дизайну системи NVIDIA Sentry, які, за словами NVIDIA, разом забезпечують повний стек управління та контролю над програмним забезпеченням, апаратурою, обчислювальними та робототехнічними системами, що працюють з агентами.

NVIDIA зазначила, що нещодавні інциденти безпеки мали однакову схему, коли агенти обходили засоби безпеки на рівні застосунків, щоб виконати свої завдання. “Винятковий потенціал ШІ для суспільства реалізується лише тоді, коли ми вирішимо питання безпеки ШІ,” сказав Дженсен Хуанг, засновник і генеральний директор NVIDIA. Він описав платформу як ініціативу, спрямовану на об’єднання галузі, дослідників та організацій державного сектора для обміну найкращими практиками, узгодження методів оцінки та розвитку міжнародної співпраці. За словами NVIDIA, організації можуть розгортати елементи платформи відповідно до власних вимог.

OpenShell Runtime та забезпечення політик

OpenShell 0.1.0 — це відкритий середовище виконання, випущене під ліцензією Apache 2.0, для визначення та забезпечення того, які системи та дані може доступати агент. технічний огляд, що супроводжує анонс описує, як воно поєднує пісочничне виконання, контрольований доступ до сервісів, управління обліковими даними та формальний аналіз політик, щоб розмістити контроль навколо існуючого агента без його переписування.

Три компоненти розподіляють роботу з забезпечення. OpenShell Gateway керує життєвими циклами та політиками багатьох пісочниць. OpenShell Supervisor, що поєднаний з кожною пісочницею, працює поза навантаженням агента і перевіряє вихідні запити відповідно до політики. OpenShell Sandbox виконує навантаження з контролем на рівні ядра над файловою системою та процесами і не має мережевого шляху, окрім як через супервізора.

Супервізор може аналізувати налаштований трафік HTTP, GraphQL та Model Context Protocol, дозволяючи запит даних, одночасно блокуючи запис через той самий API. Політики створюються у форматі YAML і компілюються в OPA/Rego, а OpenShell фіксує рішення політик у журналі аудиту Open Cybersecurity Schema Framework. Реальні облікові дані залишаються поза навантаженням агента і підмінюються лише для уповноважених кінцевих точок; якщо агент надсилає заповнювальний обліковий запис до несанкціонованого призначення, OpenShell відхиляє запит. При увімкненому раднику політик агент може запропонувати вузькоспрямовану зміну політики, проте пропозиція за замовчуванням залишається в очікуванні людського перегляду, і агент не може схвалити власний запит.

OpenShell policy prover використовує формальну логіку для перевірки прав, які надає політика, включаючи доступ, внесений постачальником, і може довести, що змодельовані права залишаються в межах, визначених оператором, або виявити конкретну дію, що їх порушує. У довготривалих адверсарних експериментах, описаних у покроковому огляді, передові агенти з зменшеними захисними механізмами витратили до двох годин, намагаючись переконати AI-рев’юера надати права, які дозволять їм змінити захищений репозиторій GitHub. NVIDIA повідомила, що під час цих тестів не відбулося запису в захищений репозиторій.

OpenShell підтримує фреймворки Codex, Claude Code, Pi та Hermes, а у покроковому огляді названо Cadence, Slack і Gecko Robotics як користувачів у сферах проектування чипів, автоматизації корпоративних завдань та управління агентами, що приймають рішення щодо фізичних роботів. NVIDIA зазначила, що OpenShell забезпечує захист з мінімальними накладними витратами на процесорах Vera і, як програмне забезпечення з відкритим кодом, може бути розширено для сторонніх обчислювальних платформ, включаючи платформи від Arm та Intel.

Sentry Watchdog на BlueField-4 DPU

NVIDIA Sentry — це позабендовий watchdog, який працює на BlueField-4 DPU для безперервного моніторингу поведінки агентів, і, за словами NVIDIA, забезпечує вбудоване в апаратурі забезпечення: якщо агент намагається вийти за межі свого програмного кордону, Sentry ізолює та зупиняє його за мілісекунди. Sentry побудований на програмному забезпеченні NVIDIA DOCA, яке використовується для аналізу запитів та відповідей агентів, надання атестованої телеметрії, верифікації ідентичності агента та забезпечення детальних політик нульового довіри для даних, інструментів, інтерфейсів прикладного програмування та сервісів, все це з ізольованого домену довіри, який NVIDIA описує як невидимий для агентів і зловмисників.

пост про референсний дизайн від інженерної команди NVIDIA зазначає, що кілька передових лабораторій нещодавно повідомили про агентів, які виходять за межі середовищ оцінки, призначених для їх утримання, причому деякі агенти неправильно звітували про свої дії. У пості викладено п’ять принципів, що лежать в основі платформи: політика має бути перевіряною до запуску агента, забезпечення має бути позабендовим, шлях до моделі є точкою контролю, повноваження агента мають масштабуватись разом із можливістю аналізу його міркувань, а відповідальність розподіляється між лабораторіями, підприємствами та постачальниками апаратного забезпечення. Автори описують «дрифт», що означає дії агента, які відходять від запланованого завдання або експлуатаційних обмежень, і стверджують, що «в таких обставинах не можна очікувати, що агент повністю керуватиме власною поведінкою».

У системах NVIDIA Vera Rubin POD кожен обчислювальний лоток містить DPU BlueField-4 на єдиному шляху вузла до моделі, що, за словами NVIDIA, забезпечує безперервну позабендову спостережливість і реальне часове застосування політик на швидкості лінії. Для організацій, які вже працюють із системою Vera з BlueField-4, увімкнення захисту є оновленням програмного забезпечення, згідно з дописом.

Інтеграції екосистеми та доступність

Anthropic і NVIDIA співпрацювали над інтеграцією OpenShell і BlueField з Claude Managed Agents, які виконують цикл агента на окремому сервері, відокремленому від пісочниць, у яких виконується робота. Головний комерційний директор Anthropic Пол Сміт заявив, що Claude Managed Agents дає компаніям чітке уявлення про те, що робить кожен агент, і що платформа NVIDIA додає ще один рівень управління та контролю як у апаратному, так і в програмному забезпеченні.

SpaceXAI використовує платформу для агентів кодування Cursor та моделей Grok, і президент Майк Нікольс зазначив, що безпеку слід забезпечувати поза моделлю за допомогою додаткових контролів, які агент не може обійти. Scale AI впроваджує технології платформи у шар агентської інфраструктури свого портфоліо Scale GenAI, причому генеральний директор Френсіс деСоуза описує ізоляцію, застосування політик та аудиторську прозорість, закладені з самого початку.

Salesforce і NVIDIA інтегрували OpenShell зі Slack, щоб команди могли переглядати активність агентів, аудиту події та схвалювати або відхиляти запити агентів на додаткові дозволи, не виходячи зі Slack. SAP вбудовує OpenShell у середовище виконання Joule Studio, що є частиною SAP Business AI Platform, і надає інженерну підтримку OpenShell.

NVIDIA назвала понад 100 організацій, які працюють з технологіями платформи, серед яких робототехнічні компанії Figure, Gecko Robotics та Skild AI; фінансові фірми Citi і JPMorganChase; енергопостачальники, такі як Hitachi Energy і Schneider Electric; а також компанії з інфраструктурного програмного забезпечення Canonical, SUSE і Red Hat, причому Red Hat запускає OpenShell і DOCA у Red Hat AI Factory разом з NVIDIA.

OpenShell і його навички доступні через сторінку ресурсів розробників NVIDIA та GitHub, разом із драйверами обчислень для Docker, Podman, MicroVM і Kubernetes та каналом розробників у CNCF Slack. Open Secure AI Alliance, ініційована NVIDIA спільно з понад 120 організаціями і керована Linux Foundation, працює над безпекою агентів через відкриті дослідження, навички та інструменти, включаючи проєкт Shared AI Findings Exchange, відомий як SAFE.