NVIDIA, 에이전트 속도와 전력 수용 능력에서 Vera CPU와 x86을 비교하다

NVIDIA는 2026년 11월 5일 새로운 Vera CPU 테스트 결과를 발표하며, 100메가와트 규모 데이터센터 비교에서 에이전트 속도가 에너지 효율이 가장 높은 x86 CPU보다 2배 빠르고, 와트당 에이전트 수는 속도가 가장 빠른 x86 CPU보다 1.6배 많았다고 밝혔다.

이 수치들은 서로 다른 운영상의 제약을 보여 준다. 에이전트 작업은 검색, 데이터베이스 질의, 코드 작성과 테스트 등 여러 작업을 수행하기 위해 GPU에서 추론한 뒤 CPU에서 실행하는 과정을 반복한다. 따라서 운영자는 개별 에이전트의 응답성을 확보하는 동시에, 전력 용량이 제한된 시설을 생산적으로 운영할 만큼 많은 작업을 병렬 처리할 수 있어야 한다. NVIDIA는 빠른 x86 프로세서와 코어 밀도가 높은 x86 프로세서를 조합하는 대신, 두 가지 요구를 모두 충족하는 단일 프로세서로 Vera를 내세우고 있다.

프로덕션 테스트로 측정한 속도와 동시 처리 성능

Perplexity는 초기 Vera 테스트에서 Computer 방식의 워크플로를 현재 프로덕션 기준 시스템보다 약 1.5배 빠르게 실행했으며, 동시 샌드박스도 최대 1.9배 빠르게 가동했다고 전했다. 이 결과는 개별 작업과 세션에 일회용 환경을 제공하고, 장시간 진행되는 작업을 일시 중지하거나 재개하고 분기할 수 있도록 지원하는 샌드박스 플랫폼 SPACE의 백엔드 테스트에도 활용됐다. NVIDIA에 따르면 Perplexity는 향후 프로덕션 시스템에 Vera를 도입할 계획이다.

DeepInfra의 2026년 7월 21일 테스트에서는 프로덕션 에이전트에서 캡처한 트래픽을 일정한 속도로 재생하고 실제 모델 토큰은 생성하지 않아, 비교에서 모델의 무작위성을 배제했다. Vera, AMD Zen 5, Intel Granite Rapids, Intel Sapphire Rapids는 물리 코어 20개를 갖춘 동일한 단일 NUMA 파티션에 배치하고 코어당 스레드 하나를 사용했다. 코어 할당량을 초과한 실행 결과는 제외했다.

DeepInfra가 측정한 베어메탈 오케스트레이션 단계의 실행 시간은 Vera에서 29밀리초, AMD Zen 5에서 35밀리초, Granite Rapids에서 51밀리초, Sapphire Rapids에서 64밀리초였다. 이에 따라 Vera는 네 프로세서 가운데 가장 빨랐으며, 가장 우수한 x86 결과보다 1.2배 빨랐다. 보안 마이크로VM 환경에서 응답 시간 99백분위수 제한을 6초로 설정하고 오류가 전혀 없어야 하는 조건에서 Vera는 에이전트 256개를 동시에 처리했다. 기존 프로세서들은 160개를 처리했으며, Granite Rapids는 가장 좋은 실행에서 192개에 도달했다.

같은 테스트에서는 어떤 칩도 피할 수 없는 비용도 확인됐다. 보안 마이크로VM 샌드박싱은 아키텍처와 관계없이 일반적인 작업에서 1.5~2배, 프로세스 생성에서는 약 5~13.5배의 성능 저하를 초래했다. DeepInfra는 해당 소프트웨어 스택에서 Vera의 성능이 가장 뛰어났다고 평가하면서도, 신뢰할 수 없는 다중 테넌트 에이전트를 더 효율적으로 호스팅하려면 격리 계층 자체를 개선할 여지가 있다고 지적했다.

Daytona는 2026년 10월 7일 보도에서 Vera가 샌드박스 1,000개를 준비하는 데 10.8초가 걸렸다고 밝혔다. AMD EPYC 9575F는 32.3초, EPYC 9755는 88.4초가 걸렸다. 샌드박스 2,000개를 준비하는 데 Vera는 27.4초가 필요했다. 동일한 코딩 에이전트 작업을 샌드박스 2,000개에서 동시에 실행했을 때 시스템은 초당 에이전트 작업 12.7개를 완료했다. EPYC 9755에서는 초당 10.9개, EPYC 9575F에서는 초당 8.1개였다.

데이터베이스 테스트 결과가 보여 주는 확장성의 한계

ClickHouse는 2026년 10월 21일 보도에서 Vera 전용 최적화를 전혀 적용하지 않은 표준 바이너리가 물리 코어 176개와 하드웨어 스레드 352개를 갖춘 듀얼 소켓 Vera 시스템에서 ClickBench 하드웨어 순위표 1위에 올랐다고 밝혔다. 계산량이 더 많은 필터링, 집계, 조인 테스트에서는 물리 코어 수에 거의 비례해 성능이 확장됐다. 반면 단순한 부분 문자열 필터는 스레드가 64개를 넘자 성능 향상이 거의 멈췄으며, 이때 메모리 처리량은 시스템 대역폭 한계에 가까워지고 있었다. 이러한 차이는 코어 수만으로 에이전트 처리 용량을 예측할 수 없는 이유를 보여 준다. 계산 집약적인 작업은 사용 가능한 병렬 처리 성능을 활용할 수 있지만, 메모리 대역폭에 좌우되는 작업은 스레드를 추가해도 더 이상 이점을 얻지 못한다.

DuckDB는 2026년 10월 16일 보도에서 전력 테스트에서 Vera가 Intel Xeon 6 기준 시스템보다 1.53~1.61배, 처리량 테스트에서는 1.37~1.41배 빠르게 실행됐다고 밝혔다. DuckDB는 Vera 소켓 하나에서 스레드 88개를 사용했고, Xeon 시스템은 스레드 96개로 구성했다. 파생된 스케일 팩터 1,000 워크로드는 TPC-H 요구 사항을 모두 충족하지 않았으므로, 공개된 TPC-H 결과와 비교할 수 없다.

Vera 아키텍처는 두 가지 역할을 겨냥한다

NVIDIA의 Vera 사양에 따르면 CPU당 맞춤형 Olympus 코어 88개를 탑재하고, Spatial Multithreading을 통해 스레드 176개를 지원한다. LPDDR5X 메모리 대역폭은 최대 1.2TB/s, 메모리 용량은 최대 1.5TB다. 2세대 Scalable Coherency Fabric은 코어, 캐시, 메모리, I/O와 NVLink-C2C를 단일 컴퓨트 다이에서 연결하며, 이분 대역폭은 3.4TB/s다. NVLink-C2C는 Vera CPU와 NVIDIA GPU 사이에 최대 1.8TB/s의 캐시 일관성 대역폭을 제공한다.

Vera는 Vera Rubin 시스템에서 호스트 CPU로 작동하거나, 에이전트형 AI, 강화 학습, 데이터 처리 및 분석을 위한 독립형 프로세서로 사용할 수 있다. 배포 방식으로는 표준 단일 소켓 및 듀얼 소켓 시스템과 고밀도 액체 냉각 랙이 있다.

인프라 운영자에게 주는 실질적인 시사점은 에이전트 처리 용량을 코어 수나 단일 속도 비율만으로 판단할 수 없다는 것이다. 공개된 기록은 Vera가 얻을 수 있는 성능 향상이 연산 성능, 메모리, 연결성에 달려 있음을 보여 준다. 하지만 파트너사 테스트는 샌드박스 격리와 메모리 대역폭에 좌우되는 작업이 프로덕션 환경에서 그 잠재력을 얼마나 실현할 수 있는지를 결정할 수 있다는 점도 보여 준다.