NVIDIA, 에이전트 거버넌스를 위한 OpenShell 참조 아키텍처 공개

NVIDIA는 2026년 10월 21일 GTC Berlin에서 엔터프라이즈 인프라와 엣지 시스템 전반에 걸쳐 안전한 AI 에이전트를 구축하고, 격리하고, 관찰하며, 정책을 적용하기 위한 풀스택 설계인 OpenShell 참조 아키텍처를 발표했다. 이 아키텍처는 현재 이용할 수 있다.

이 아키텍처는 NVIDIA의 오픈소스 OpenShell 보안 런타임 소프트웨어를 기반으로 하며, 이를 에이전트 개발과 운영을 위한 산업 규모 인프라로 확장한다. 여기에는 NVIDIA Nemotron으로 구축한 폐쇄형 및 개방형 모델을 비롯한 엔터프라이즈 워크로드를 실행하는 Vera Rubin 인프라, 에이전트 하네스를 구동하는 Vera CPU, 에이전트 동작을 지속적으로 대역 외에서 모니터링하고 실리콘 수준에서 정책을 적용하는 보안 프레임워크인 NVIDIA Sentry를 실행하는 BlueField-4 DPU가 포함된다. 이 설계는 소매, 의료, 제조, 로봇공학, 소프트웨어 개발, 통신 분야의 RTX Spark, DGX Spark, DGX Station 시스템에서 실행되는 엣지 에이전트까지 아우른다.

NVIDIA의 창립자 겸 CEO인 Jensen Huang은 “OpenShell 참조 아키텍처를 통해 에이전트는 Rubin에서 사고하고, Vera에서 행동하며, BlueField에서 거버넌스의 적용을 받을 수 있다”고 말했다. Huang은 기업들이 수십억 개의 AI 에이전트를 배포할 준비를 하는 가운데 안전과 제어 기능을 컴퓨팅 아키텍처에 내장해야 한다고 밝혔다.

에이전트 워크로드를 위한 풀스택 인프라

Vera Rubin 인프라의 핵심에는 Vera Rubin NVL72 시스템이 있다. NVIDIA는 이 시스템을 사전 학습, 사후 학습, 추론 작업에 두루 활용할 수 있다고 설명한다. 회사에 따르면 NVL72는 에이전트 워크로드에서 메가와트당 처리량이 30배 더 높다. Vera CPU는 자율 에이전트를 위한 안전한 런타임 경계를 제공하는 OpenShell 소프트웨어를 실행하며, NVIDIA는 Vera CPU가 x86 프로세서보다 에너지 효율이 높으면서 성능은 2배라고 밝혔다.

함께 공개된 기술 게시물은 Vera가 NVIDIA가 설계한 Olympus 코어 88개, 2세대 Scalable Coherency Fabric, PCIe Gen 6 레인 96개, 최대 1.2TB/s의 LPDDR5X 메모리 대역폭을 갖춘 CPU라고 설명한다. NVIDIA는 이 패브릭이 x86 대안보다 코어 간 대역폭을 최대 3배 높이고 코어 간 지연 시간을 최대 50% 줄이며, Vera가 x86 CPU보다 와트당 성능이 2배 높다고 밝혔다.

AI 클라우드 플랫폼인 CoreWeave는 게시물에서 Vera의 샌드박스 시작 속도가 x86보다 3배 이상 빠르다고 측정했으며, 단일 랙에서 11,000개가 넘는 에이전트 환경을 동시에 지원할 수 있다고 밝혔다. 실제 에이전트 루프 작업 전반의 CPU 성능을 측정하는 Terminal Bench를 실행한 결과, CoreWeave는 스크립팅부터 데이터베이스 복구에 이르는 작업에서 Vera가 x86보다 1.8배 빠른 성능을 보였다고 확인했다.

BlueField-4 DPU는 NVIDIA의 DOCA 소프트웨어를 기반으로 구축된 Sentry를 실행하며 에이전트의 동작을 지속적으로 모니터링한다. NVIDIA에 따르면 에이전트가 소프트웨어 경계를 벗어나려 하면 Sentry가 수 밀리초 안에 에이전트를 격리하고 중단시킨다. 회사는 또한 BlueField-4에서 Sentry를 실행하면 에이전트 처리 용량이 최대 20% 향상된다고 밝혔다.

OpenShell과 Sentry가 에이전트의 경계를 적용하는 방식

기술 게시물에서 밝힌 NVIDIA의 입장은 에이전트가 스스로를 통제할 수 없으므로, 보안과 거버넌스는 에이전트가 작동하는 인프라에 맡겨야 한다는 것이다. OpenShell은 에이전트 워크로드를 실행 전 과정에서 신뢰할 수 없는 것으로 취급하며, 에이전트가 필요한 것을 필요한 시점에만 사용할 수 있도록 한다. 런타임은 네 가지 구성 요소로 이뤄져 있다. 샌드박스의 수명 주기와 정책을 관리하는 제어 평면인 Gateway, 아웃바운드 요청이 정책에 부합하는지 확인하고 자격 증명 접근을 중개하며 샌드박스와 완전히 분리되어 실행되는 Supervisor, 에이전트 워크로드를 격리하고 파일 시스템 및 프로세스 접근을 제한하는 Sandbox, 그리고 정책의 권한이 조직이 정한 상한을 벗어나지 않는지 형식 검증을 통해 확인하는 Policy Prover다.

참조 아키텍처에서 에이전트는 Vera CPU에서 실행되고 BlueField-4는 해당 노드에서 모델로 연결되는 유일한 경로에 위치한다. 따라서 프레임워크에 대한 상세 기술 분석에 따르면 Sentry는 에이전트가 자신의 동작을 직접 보고할 필요 없이 에이전트와 모델 간 통신을 검사한다. Sentry는 호스트 소프트웨어와 독립적인 하드웨어 격리 신뢰 도메인에서 작동하며, 에이전트가 샌드박스에서 탈출하거나 호스트가 손상되더라도 모니터링과 정책 적용 기능을 유지하도록 설계됐다.

오픈소스 Envoy 프록시를 기반으로 구축된 Sentry의 AI 보안 게이트웨이 DOCA Tower는 에이전트 트래픽을 투명하게 중계하고 실리콘 수준에서 TLS 연결을 종료한다. DOCA Flow는 각 에이전트에 실리콘 가속 레이어 4 방화벽을 구현해 승인되지 않은 목적지로 향하는 연결을 차단하고, 허용된 트래픽은 애플리케이션 계층에서 검사하고 승인하도록 DOCA Tower에 전달한다. 접근 요청은 Open Policy Agent 엔진을 사용해 정의된 정책에 따라 평가한다. 이 엔진은 Rego 언어를 사용하며, 정책의 복잡성과 구성에 따라 1밀리초 이내에 요청을 평가할 수 있다.

DOCA Argus는 호스트에 상주하는 에이전트 없이 BlueField-4에서 호스트의 휘발성 메모리 중 선택된 영역을 실시간으로 분석하는 에이전트리스 메모리 인트로스펙션을 통해 런타임 맥락을 추가합니다. 컨테이너와 해당 파드, 샌드박스와 해당 마이크로VM을 서로 연결하고, 프로세스, 파일 접근, 네트워크 연결, 로드된 라이브러리를 해시로 추적합니다. 이에 따라 컨테이너 해시가 승인된 목록과 일치해야 한다거나, 작업을 시작한 프로세스가 컨테이너의 소프트웨어 자재 명세서에 포함되어야 한다는 등의 정책을 적용할 수 있습니다. Sentry가 평가하는 이상 징후에는 승인되지 않은 도구의 실행, 다른 프로세스를 공격하기 위한 ptrace 사용, 과도한 아웃바운드 트래픽, 승인되지 않은 파일 접근 또는 변경, CPU 사용량 급증, 임시 폴더에 대한 과도한 쓰기, 대규모 파일 삭제가 포함됩니다. Sentry는 이상 징후를 감지하면 밀리초 단위로 이뤄지는 실리콘 기반 격리를 요청할 수 있습니다.

Sentry는 에이전트 통신을 인라인 또는 대역 외 방식으로 분류해 행동 변화를 식별하는 특수 AI 모델과도 연동됩니다. 또한 BlueField-4에서 증명된 변조 감지 가능 기록을 생성해 포렌식 조사를 지원하고 XDR 및 SIEM 시스템과 같은 기업 보안 플랫폼으로 내보낼 수 있습니다. DOCA Tower는 검증 가능한 워크로드 ID를 위해 SPIFFE/SPIRE를 통합합니다. NVIDIA는 내년 초 Sentry를 제공할 계획이며, DOCA Argus, DOCA Flow, OVS-DOCA를 비롯한 DOCA 라이브러리와 마이크로서비스는 실험용으로 현재 이용할 수 있습니다.

파트너 생태계 및 이용 가능 여부

OpenShell 참조 아키텍처는 Canonical, SUSE, Red Hat의 Linux 및 Kubernetes 인프라, Microsoft Execution Containers를 사용하는 Microsoft Windows, 그리고 Amazon Web Services, Google Cloud, Microsoft Azure의 클라우드 운영 체제에서 실행됩니다. 기업은 OpenShell 인프라에서 Anthropic, Cohere, Google, Meta, OpenAI, Perplexity, Reflection, SpaceX Super Intelligence 등 모델 개발사가 제공하는 에이전트를 실행할 수 있습니다.

1Password, Check Point, CrowdStrike, Cisco, F5, Fortinet, Microsoft, Okta, Palo Alto Networks, TrendAI, Zscaler 등 사이버 보안 업체는 자사의 에이전트 보안 제품에 이 아키텍처 지원 기능을 통합하고 있습니다. 은행인 BBVA와 Santander는 에이전트의 안전성, 보안, 거버넌스를 강화하기 위한 프레임워크로 이 아키텍처를 검토하고자 NVIDIA와 협력하고 있습니다. Cadence, Dassault Systèmes, IBM, SAP, Siemens, Synopsys 등 엔터프라이즈 소프트웨어 기업은 에이전트 소프트웨어 플랫폼을 구축하기 위해 OpenShell과 협력하고 있으며, Palantir와 NVIDIA는 고객과 협력해 프로덕션 환경에 보안 에이전트를 배포하고 있습니다.

SAP는 SAP Business AI Platform의 일부인 Joule Studio 런타임에 이 아키텍처를 통합하고 있습니다. ServiceNow는 개인용 장기 실행 AI 에이전트인 ServiceNow Arc의 정식 출시를 발표했습니다. 이 에이전트의 작업은 런타임에 ServiceNow Super Intelligence Control Tower가 제어하고 OpenShell이 집행합니다. ServiceNow의 AI Passport 권한 계층은 해당 정책을 OpenShell과 Sentry에 전달하므로, 기업은 몇 초 안에 소프트웨어와 하드웨어 전반에서 에이전트의 접근 권한을 취소할 수 있습니다.

Dell Technologies, Cisco, HPE, Lenovo, Supermicro 등 시스템 제조업체는 이 아키텍처를 활용한 인프라를 구축하고 있습니다. CoreWeave, Crusoe, Firebird, Firmus, GMI Cloud, IREN, Lambda, Nebius, Nscale, Oracle Cloud Infrastructure, Vultr 등 클라우드 제공업체는 OpenShell을 지원하는 인프라를 배포하기 위해 NVIDIA와 협력하고 있습니다. 또한 추론 및 사후 학습 제공업체인 Baseten, Deepinfra, Fireworks, Together AI는 모델 개발 파이프라인에 통합 기능을 구축하고 있습니다.

아키텍처 이용 가능 여부 안내에서는 보안 에이전트 워크스페이스 참조 설계 문서를 안내합니다. 이 문서에는 7개의 논리적 평면, 보안 및 거버넌스 모델, 배포 계층, Red Hat OpenShift Virtualization 및 Microsoft Azure를 위한 참조 구현이 포함되어 있습니다. OpenShell 코드는 GitHub에서 이용할 수 있습니다.