AMD, 더 높은 밀도의 AI 에이전트 배포를 위한 Zen 6 EPYC 칩 출시

AMD는 2026년 11월 10일 6세대 EPYC SP7 서버 프로세서의 정식 출시를 발표했다. 서버 업체들이 시스템 출하를 시작하며, Microsoft Azure와 Oracle Cloud Infrastructure 인스턴스도 곧 제공될 예정이다. 10개 모델로 구성된 Zen 6 제품군은 AI 에이전트 실행, GPU 호스트 노드, 엔터프라이즈 애플리케이션을 겨냥한다.

이번 발표의 핵심은 AI 모델을 뒷받침하는 CPU 작업이다. 하나의 에이전트 워크플로는 에이전트들을 조율하고, 모델을 호출하고, 정보를 검색하고, 코드를 실행하며, 기존 엔터프라이즈 데이터베이스 및 애플리케이션에 연결할 수 있다. AMD는 이에 필요한 인프라를 범용 서비스, GPU 호스트 노드, 에이전트 샌드박스로 나눈다. 각 작업에 맞춰 프로세서 주파수, 밀도, 대역폭, 효율성을 조정하면서도 x86 소프트웨어·보안·운영 기반은 공통으로 유지한다.

SP7 제품군 전반의 주파수와 밀도

EPYC 9006 SP7 제품군은 코어 64개부터 256개, 스레드 128개부터 512개까지 아우른다. 동시 멀티스레딩을 사용하면 코어 하나가 스레드 두 개를 실행할 수 있다. Zen 6 및 Zen 6c 코어는 AI 호스트 노드에 필요한 고주파수 성능과 에이전트를 병렬 실행할 때 필요한 높은 밀도 사이의 균형을 맞춘다. 이 플랫폼은 PCIe Gen 6도 지원한다.

제품군 최상위 모델인 EPYC 9996과 9956은 각각 L3 캐시 1,024 MB를 탑재한다. 9996의 기본 클록은 2.55 GHz이고 최대 부스트 클록은 4.1 GHz다. 기본 CPU 전력 정격은 600W이며, 400W부터 600W까지 설정할 수 있다. 기본 CPU 전력은 명시된 성능 목표를 기준으로 프로세서의 컴퓨팅 다이와 I/O 다이 전체의 소비 전력을 측정한 값이다. EPYC 9686F와 9586F는 대신 주파수 성능을 우선시하며, 기본 클록은 4.05 GHz, 최대 부스트 클록은 5.3 GHz다.

이 프로세서들은 개별 서버를 넘어 2026년 10월 공개된 AMD의 Helion 랙 설계에도 적용된다. Helion Liquid는 대규모 배포를, Helion Air는 기존 공랭식 데이터센터를 겨냥한다. Helion Air Inference는 CPU 실행과 로컬 GPU 추론을 결합한다. AMD에 따르면 일부 Helion 구성은 랙 하나에서 스레드 73,728개를 지원한다.

성능 추정치와 전력 한도

GPU 호스트 노드의 경우, AMD는 모델 가중치를 CPU로 오프로드하는 비교에서 이전 세대 EPYC 프로세서보다 대규모 언어 모델 출력 처리량이 최대 1.8배 높다고 밝혔다. 이 수치는 PCIe Gen 5 호스트 링크에서 측정한 결과를 Gen 6 대역폭 기준으로 추정한 것이다. 테스트에서는 해당 워크로드의 처리량을 제한하는 요인이 호스트 메모리가 아니라 PCIe 링크인 것으로 확인됐다.

에이전트 샌드박스의 경우, AMD는 CPU 와트당 에이전트 수가 Nvidia Vera보다 약 3.3배, Intel Xeon 6980P보다 2.5배 많을 것으로 추정한다. 실제 배포 환경에서 실행 중인 에이전트 수를 세는 대신, 이 비교에서는 공통의 이론적 워크로드를 기준으로 사용 가능한 CPU 스레드를 추정 용량으로 환산한다. 실제 용량과 처리량은 워크로드, 모델, 메모리, 소프트웨어, 오케스트레이션, 시스템 구성에 따라 달라진다.

AMD의 랙 모델에 따르면 소켓당 프로세서와 메모리를 합산한 전력 한도를 15% 낮추면, EPYC 9996 구성은 기본 전력 설정을 적용했을 때보다 35킬로와트 랙 안에 약 1.18배 많은 에이전트를 지원할 수 있다. 같은 전력 한도 안에 서버를 더 많이 배치할 수 있어 용량이 늘어나는 것이다. 서버당 평균 성능은 1% 감소할 것으로 추정되며, 이 추정치는 5세대 EPYC 프로세서를 별도로 테스트한 결과를 바탕으로 한다.

Microsoft, Azure HDv2 프리뷰 신청 접수 시작

Microsoft는 11월 10일, 코드명 Venice인 6세대 EPYC 프로세서로 구동되는 Azure HDv2 가상 머신 프리뷰의 신청 접수를 시작했다. 각 VM은 물리 Zen 6 코어 500개 이상, DDR5-8800 메모리 3.8테라바이트, PCIe Gen 5 NVMe 스토리지 30 TB, 400 Gb Azure Boost Networking을 제공한다.

Microsoft에 따르면 HDv2 VM 하나는 시중의 차선 제품보다 에이전트 샌드박스를 병렬로 약 두 배 더 많이 실행할 수 있으며, 에이전트 작업 처리량도 최대 1.7배 높일 수 있다. Microsoft의 차트는 해당 측정값이 잠정치이며 변경될 수 있다고 표시한다. 에이전트 및 강화 학습 작업 처리량의 대리 지표로 SPEC CPU 2026 Integer Rate를 사용했다. 에이전트는 코드를 실행하거나 도구를 호출할 때마다 격리된 CPU 샌드박스에서 작업한다. 따라서 코어 용량이 부족하면 에이전트를 지휘하는 GPU가 유휴 상태로 남을 수 있다.

OpenAI는 Microsoft와 HDv2를 함께 개발했으며, 코어와 메모리의 균형이 연구 및 코딩 워크로드 모두에 중요하다고 설명했다. OpenAI의 CPU 및 스토리지 용량 계획 책임자인 Rafael Dietrich는 다음과 같이 말했다. “AI 연구용 대규모 데이터 세트를 준비할 때는 각 작업에 충분한 메모리가 있다는 전제하에 CPU 코어가 많을수록 더 많은 작업으로 일을 나눌 수 있습니다. 여러 코딩 에이전트가 동시에 소프트웨어를 만들고 테스트를 실행할 때도 같은 균형이 중요합니다.”

Microsoft는 정식 출시 시 Azure Kubernetes Service, Azure Databricks, Azure CycleCloud와 Rescale 및 Synopsys를 비롯한 파트너 플랫폼을 통해 HDv2를 제공할 계획이다. 서비스와 플랫폼에 따라 제공 여부가 달라질 수 있다.

이번 출시는 가속기 활용률과 함께 CPU 밀도, 메모리 할당, 랙 전력을 에이전트 용량을 좌우하는 핵심 요소로 부각한다. 이러한 구성을 평가하는 실질적인 기준은 정해진 전력 예산 안에서 GPU를 충분히 활용하지 못하는 상황을 방지하면서 동시에 얼마나 많은 에이전트 작업을 처리할 수 있는지다.