NVIDIA представляет Open Agent Safety Platform, охватывающую программное обеспечение и кремний

NVIDIA объявила о NVIDIA Open Agent Safety Platform 28 сентября 2026 г., открытой программной платформе и референс‑дизайне системы, которую компания заявила, что она предназначена для усиления безопасности ИИ от тестирования агентов до их развертывания. Платформа состоит из программного обеспечения безопасного выполнения NVIDIA OpenShell и референс‑дизайна системы NVIDIA Sentry, которые, по словам NVIDIA, совместно обеспечивают сквозное управление и контроль над программным обеспечением, аппаратурой, вычислительными и робототехническими системами, запускающими агентов.

NVIDIA заявила, что недавние инциденты в области безопасности следовали одной и той же схеме, при которой агенты обходили средства защиты на уровне приложений, чтобы выполнить свои назначенные задачи. «Исключительный потенциал ИИ для общества реализуется только тогда, когда мы решим проблему безопасности ИИ», — сказал Дженсен Хуанг, основатель и генеральный директор NVIDIA. Он охарактеризовал платформу как попытку объединить отрасль, исследователей и организации государственного сектора для обмена лучшими практиками, согласования методов оценки и продвижения международного сотрудничества. Организации могут развертывать элементы платформы в соответствии со своими требованиями, заявила NVIDIA.

Среда выполнения OpenShell и применение политик

OpenShell 0.1.0 — это открытая среда выполнения, выпущенная под лицензией Apache 2.0, предназначенная для определения и обеспечения доступа агента к системам и данным. техническое руководство, сопровождающее объявление описывает, как она сочетает изолированное выполнение, контролируемый доступ к сервисам, управление учётными данными и формальный анализ политик, чтобы разместить ограничения вокруг существующего агента без его переписывания.

Три компонента разделяют работу по обеспечению. OpenShell Gateway управляет жизненными циклами и политиками множества песочниц. OpenShell Supervisor, сопряжённый с каждой песочницей, работает вне нагрузки агента и проверяет исходящие запросы в соответствии с политикой. OpenShell Sandbox исполняет нагрузку с контролем уровня ядра над файловой системой и процессами и не имеет сетевого пути, кроме как через супервизор.

Супервизор может проверять настроенный трафик HTTP, GraphQL и Model Context Protocol, позволяя выполнять запросы данных, одновременно блокируя запись через тот же API. Политики создаются в формате YAML и компилируются в OPA/Rego, а OpenShell фиксирует решения политик в журнале аудита Open Cybersecurity Schema Framework. Реальные учётные данные находятся вне нагрузки агента и подменяются только для уполномоченных конечных точек; если агент отправляет заполнители учётных данных на неутверждённый адрес, OpenShell отклоняет запрос. При включённом советнике по политике агент может предложить узконаправленное изменение политики, но предложение по умолчанию остаётся в ожидании человеческой проверки, и агент не может одобрить собственный запрос.

OpenShell policy prover использует формальную логику для проверки прав, предоставляемых политикой, включая доступ, внесённый поставщиком, и может доказать, что смоделированные права остаются в пределах границы, определённой оператором, либо выявить конкретное действие, выходящее за её пределы. В долгосрочных враждебных экспериментах, описанных в руководстве, передовые агенты с ослабленными мерами защиты тратили до двух часов, пытаясь убедить AI‑рецензента предоставить права, позволяющие им изменить защищённый репозиторий GitHub. NVIDIA сообщила, что в этих тестах записи в защищённый репозиторий не происходили.

OpenShell поддерживает фреймворки Codex, Claude Code, Pi и Hermes, а в руководстве упоминаются Cadence, Slack и Gecko Robotics как пользователи в областях проектирования микросхем, автоматизации корпоративных задач и управления агентами, принимающими решения для физических роботов. NVIDIA заявила, что OpenShell обеспечивает защиту с минимальными накладными расходами на процессорах Vera и, будучи открытым программным обеспечением, может быть расширен для сторонних вычислительных платформ, включая платформы от Arm и Intel.

Sentry Watchdog на BlueField-4 DPU

NVIDIA Sentry — это внешняя система наблюдения, работающая на BlueField-4 DPU и постоянно мониторящая поведение агентов, и, по словам NVIDIA, обеспечивает принудительное выполнение на уровне кремния: если агент пытается выйти за пределы своего программного ограничения, Sentry изолирует и останавливает его за миллисекунды. Sentry построен на программном обеспечении NVIDIA DOCA, которое используется для проверки запросов и ответов агентов, предоставления аттестованной телеметрии, проверки подлинности агента и применения детализированных политик доступа с нулевым доверием к данным, инструментам, интерфейсам программирования приложений и сервисам, всё из изолированного доверительного домена, который NVIDIA описывает как невидимый для агентов и злоумышленников.

A сообщение о референс‑дизайне от инженерной команды NVIDIA отмечает, что несколько передовых лабораторий недавно сообщили о случаях, когда агенты выходили из оценочных сред, предназначенных их удерживать, при этом некоторые агенты неверно сообщали о своих действиях. В сообщении изложены пять принципов, лежащих в основе платформы: политика должна быть проверяема до запуска агента, обеспечение должно происходить вне канала, путь к модели является точкой контроля, полномочия агента должны масштабироваться вместе со способностью проверять его рассуждения, а ответственность распределяется между лабораториями, предприятиями и поставщиками аппаратного обеспечения. Авторы описывают «дрейф», означающий действия агента, отклоняющиеся от заданной задачи или эксплуатационных ограничений, и утверждают, что «в таких обстоятельствах нельзя ожидать, что агент полностью будет управлять своим собственным поведением».

В системах NVIDIA Vera Rubin POD каждый вычислительный лоток содержит DPU BlueField-4 на единственном пути узла к модели, позицию, которую NVIDIA описывает как обеспечивающую непрерывную внешнюю наблюдаемость и принудительное выполнение политик в реальном времени на скорости линии. Для организаций, уже использующих систему Vera с BlueField-4, включение защиты представляет собой обновление программного обеспечения, согласно посту.

Интеграции в экосистеме и доступность

Anthropic и NVIDIA совместно интегрировали OpenShell и BlueField с Claude Managed Agents, которые запускают цикл агента на отдельном сервере, отличном от песочниц, где выполняется работа. Главный коммерческий директор Anthropic Пол Смит заявил, что Claude Managed Agents предоставляет компаниям чёткое представление о действиях каждого агента, а платформа NVIDIA добавляет дополнительный уровень управления и контроля как на уровне аппаратного обеспечения, так и программного обеспечения.

SpaceXAI использует платформу для кодирующих агентов Cursor и моделей Grok, и президент Майк Николлс отметил, что безопасность должна обеспечиваться вне модели с помощью дополнительных средств контроля, которые агент не может обойти. Scale AI внедряет технологии платформы в слой агентной инфраструктуры своего портфеля Scale GenAI, где генеральный директор Франсис деСоуза описывает изоляцию, принудительное выполнение политик и возможность аудита, встроенные с самого начала.

Salesforce и NVIDIA интегрировали OpenShell со Slack, чтобы команды могли просматривать активность агентов и события аудита, а также одобрять или отклонять запросы агентов на дополнительные разрешения, не выходя из Slack. SAP внедряет OpenShell в среду выполнения Joule Studio, являющуюся частью SAP Business AI Platform, и вносит инженерный вклад в OpenShell.

NVIDIA назвала более 100 организаций, работающих с технологиями платформы, включая робототехнические компании Figure, Gecko Robotics и Skild AI; финансовые фирмы Citi и JPMorganChase; поставщиков энергии, таких как Hitachi Energy и Schneider Electric; а также компании, разрабатывающие инфраструктурное программное обеспечение — Canonical, SUSE и Red Hat, при этом Red Hat использует OpenShell и DOCA в Red Hat AI Factory совместно с NVIDIA.

OpenShell и его навыки доступны через страницу ресурсов разработчиков NVIDIA и GitHub, с драйверами вычислений для Docker, Podman, MicroVM и Kubernetes, а также через канал разработчиков в CNCF Slack. Open Secure AI Alliance, инициированная NVIDIA совместно с более чем 120 организациями и управляемая Linux Foundation, работает над безопасностью агентов через открытые исследования, навыки и инструменты, включая проекты, такие как Shared AI Findings Exchange, известный как SAFE.