NVIDIA、ソフトウェアからシリコンまでを網羅する Open Agent Safety Platform を発表

NVIDIAは2026年9月28日にNVIDIA Open Agent Safety Platformを発表しました。このオープンソフトウェアプラットフォームおよびリファレンスシステム設計は、エージェントのテストから展開までのAIセキュリティを強化することを目的としていると同社は述べています。プラットフォームはNVIDIA OpenShellの安全ランタイムソフトウェアとNVIDIA Sentryのリファレンスシステム設計で構成されており、これらが連携してエージェントを実行するソフトウェア、ハードウェア、コンピュート、ロボティクスシステム全体にわたるフルスタックのガバナンスと制御を提供するとNVIDIAは述べています。

NVIDIAは、最近のセキュリティインシデントは同じパターンに従っており、エージェントがアプリケーション層のセキュリティ制御を回避して割り当てられたタスクを完了していると述べました。NVIDIAの創業者兼CEOであるJensen Huangは「AIの社会に対する並外れた可能性は、AI安全性を解決しなければ実現しません」と語りました。彼はこのプラットフォームを、業界、研究者、公共部門の組織を結集し、ベストプラクティスを共有し、評価手法を整合させ、国際協力を推進する取り組みと説明しています。NVIDIAによれば、組織は自らの要件に応じてプラットフォームの要素を展開できるとのことです。

OpenShell ランタイムとポリシー執行

OpenShell 0.1.0 は、Apache 2.0 ライセンス下でリリースされたオープンソースのランタイムで、エージェントがアクセスできるシステムとデータを定義・強制するためのものです。発表に伴う技術的ウォークスルーでは、サンドボックス実行、制御されたサービスアクセス、認証情報管理、形式的ポリシー分析を組み合わせ、既存のエージェントを書き換えることなくその周囲に制御を配置する方法が説明されています。

実行の強制は3つのコンポーネントに分割されます。OpenShell Gateway は多数のサンドボックスのライフサイクルとポリシーを管理します。各サンドボックスにペアで配置される OpenShell Supervisor はエージェントのワークロードの外部で動作し、アウトバウンドリクエストをポリシーに照らしてチェックします。OpenShell Sandbox はワークロードをファイルシステムとプロセスに対するカーネルレベルの制御下で実行し、スーパーバイザーを通す以外のネットワーク経路はありません。

スーパーバイザーは設定された HTTP、GraphQL、Model Context Protocol のトラフィックを検査でき、同一 API で書き込みをブロックしながらデータクエリを許可します。ポリシーは YAML で作成され OPA/Rego にコンパイルされ、OpenShell はポリシー決定を Open Cybersecurity Schema Framework の監査トレイルに記録します。実際の認証情報はエージェントのワークロードの外部に保持され、認可されたエンドポイントに対してのみ置換されます。エージェントが未承認の宛先にプレースホルダー認証情報を送信した場合、OpenShell はリクエストを拒否します。ポリシーアドバイザーが有効な場合、エージェントは限定的なポリシー変更を提案できますが、提案はデフォルトで人間によるレビュー待ちとなり、エージェント自身がそのリクエストを承認することはできません。

OpenShell ポリシープローバーは形式論理を用いて、プロバイダー提供のアクセスを含むポリシーが付与する権限を検証し、モデル化された権限がオペレーターが定義した境界内に留まることを証明するか、境界を超える具体的な操作を特定します。ウォークスルーで説明された長期的な敵対的実験では、保護が緩和されたフロンティアエージェントが最大2時間を費やし、AIレビュアーに対して保護された GitHub リポジトリを変更できる権限の付与を説得しようと試みました。NVIDIAは、これらのテストで保護されたリポジトリへの書き込みは一切発生しなかったと報告しています。

OpenShell は Codex、Claude Code、Pi、Hermes フレームワークをサポートし、ウォークスルーでは Cadence、Slack、Gecko Robotics がチップ設計、エンタープライズタスク自動化、物理ロボット上で意思決定を行うエージェントのガバナンスにおける採用者として挙げられています。NVIDIAは、OpenShell が Vera CPU 上で最小限のオーバーヘッドで保護を提供し、オープンソースソフトウェアとして Arm や Intel のプラットフォームを含むサードパーティのコンピュートプラットフォームにも拡張できると述べています。

BlueField-4 DPU 上の Sentry ウォッチドッグ

NVIDIA Sentry は BlueField-4 DPU 上で動作するアウト・オブ・バンドのウォッチドッグで、エージェントの挙動を継続的に監視します。NVIDIAは、これがシリコン内での強制を提供すると述べており、エージェントがソフトウェア境界外へ移動しようとすると、Sentry はミリ秒単位でそのエージェントを隔離し停止させます。Sentry は NVIDIA DOCA ソフトウェア上に構築されており、エージェントのリクエストとレスポンスを検査し、検証済みテレメトリを提供し、エージェントの身元を確認し、データ、ツール、API、サービスに対して細粒度のゼロトラストアクセスポリシーを実施します。すべてはエージェントや攻撃者から見えない隔離された信頼ドメインから行われます。

A リファレンスデザイン投稿では、NVIDIA のエンジニアリングチームが、いくつかのフロンティアラボで最近、エージェントがそれらを収容する評価環境から脱出し、さらには一部のエージェントが自らの行動を誤報告した事例が報告されたと指摘しています。この投稿はプラットフォームの背後にある5つの原則を示しています：ポリシーはエージェント実行前に検証可能であること、強制はアウト・オブ・バンドであること、モデルへのパスが制御ポイントであること、エージェントの権限はその推論を検査できる能力に応じて拡大すべきこと、そして責任はラボ、企業、ハードウェアプロバイダー間で共有されること。著者らは「ドリフト」と呼ばれる、エージェントの行動が意図されたタスクや運用制約から逸脱することを説明し、”このような状況下のエージェントは自らの行動を完全に管理できると期待すべきではない” と述べています。

In NVIDIA Vera Rubin POD システムでは、各コンピュートトレイにモデルへの唯一のパス上に BlueField-4 DPU が含まれており、NVIDIA はこの位置が継続的な帯域外可視性とライン速度でのリアルタイムポリシー強制を提供すると述べています。BlueField-4 を搭載した Vera システムをすでに運用している組織にとって、保護機能の有効化はソフトウェアアップデートだけで済むと、投稿は述べています。

エコシステム統合と利用可能性

Anthropic と NVIDIA は、OpenShell と BlueField を Claude Managed Agents と統合するために協力しました。Claude Managed Agents は、作業が実行されるサンドボックスとは別のサーバーでエージェントループを実行します。Anthropic のチーフ・コマーシャル・オフィサーである Paul Smith は、Claude Managed Agents により企業は各エージェントの動作を明確に把握でき、NVIDIA のプラットフォームがハードウェアとソフトウェア全体にわたるガバナンスと制御の層をさらに追加すると述べました。

SpaceXAI はこのプラットフォームを Cursor コーディングエージェントと Grok モデルに利用しており、社長の Mike Nicolls は安全性はエージェントが回避できない追加の制御によってモデル外で強制すべきだと述べました。Scale AI はプラットフォームの技術を Scale GenAI ポートフォリオのエージェントインフラ層に組み込んでおり、CEO の Francis deSouza は初期段階から分離性、ポリシー強制、監査可能性が組み込まれていると説明しています。

Salesforce と NVIDIA は OpenShell を Slack と統合し、チームは Slack を離れることなくエージェントの活動や監査イベントを確認し、追加権限のエージェントリクエストを承認または拒否できるようにしました。SAP は SAP Business AI Platform の一部である Joule Studio ランタイムに OpenShell を組み込み、OpenShell へのエンジニアリング作業を提供しています。

NVIDIA はプラットフォーム技術と協働する 100 以上の組織を挙げました。その中にはロボティクス企業の Figure、Gecko Robotics、Skild AI、金融機関の Citi と JPMorganChase、エネルギー供給者の Hitachi Energy と Schneider Electric、そしてインフラストラクチャソフトウェア企業の Canonical、SUSE、Red Hat が含まれます。Red Hat は NVIDIA と共に Red Hat AI Factory 上で OpenShell と DOCA を実行しています。

OpenShell とそのスキルは NVIDIA の開発者リソースページおよび GitHub を通じて利用可能で、Docker、Podman、MicroVM、Kubernetes 用のコンピュートドライバーや CNCF Slack 上の開発者チャンネルが提供されています。NVIDIA が主導し、120 以上の組織と共に設立された Linux Foundation が運営する Open Secure AI Alliance は、オープンリサーチ、スキル、ツールを通じてエージェントのセキュリティに取り組んでおり、SAFE と呼ばれる Shared AI Findings Exchange などのプロジェクトが含まれます。