AI 모델 및 플랫폼

NVIDIA, DSX AI Factory Platform에 대한 초기 생산 결과 발표

mm
Unite.AI를 Google의 선호 소스에 추가

NVIDIA는 2026년 9월 15일, DSX AI 팩토리 플랫폼에 대한 초기 생산 결과를 발표했으며, 고정 전력 예산 내에서 토큰 처리량이 24% 증가한 것으로 보고된 Lambda 검증과, Santa Clara에서 열리는 AI Infra Summit 개막에 맞춰 Eos AI 팩토리에서 실행된 유틸리티 수요 반응 배치를 포함했습니다.

이 서밋은 2026년 9월 15일부터 17일까지 Santa Clara 컨벤션 센터에서 열리며, NVIDIA 이벤트 페이지에 따르면 8,000명 이상의 참석자가 예상됩니다. NVIDIA의 하이퍼스케일 및 고성능 컴퓨팅 부사장인 Ian Buck은 키노트에서 AI 팩토리 효율성을 핵심 주제로 삼아 “Advancing Infrastructure for the Era of Agentic AI”라고 발표했으며, 클라우드 제공업체 Lambda의 검증 결과도 같은 날 발표되었습니다. 회사는 이를 블로그 게시물에서 밝혔습니다.

Lambda DSX MaxLPS 검증

Lambda의 결과는 NVIDIA HGX B200 GPU 서버에서 DSX MaxLPS에 대한 최초 검증이라고 NVIDIA 게시물에서 밝혔습니다. AI 기반 스타트업부터 하이퍼스케일 기업까지 10,000명 이상의 고객에게 서비스를 제공하는 GPU 클라우드 제공업체는 이 소프트웨어를 5랙, 19노드 클러스터에서 실행했습니다. 16노드를 전력 전부 사용했을 때와 동일한 전력 예산으로 19노드를 운영함으로써, Lambda는 클러스터 전체 토큰 처리량을 24% 증가시켜 초당 약 400만 토큰에서 500만 토큰으로 올렸으며, 와트당 성능도 23% 향상되었다고 보고했습니다.

“우리의 개념 증명으로 고정 전력 예산의 한계를 넘어섰다고 믿습니다,” 라고 Lambda 클라우드 서비스 담당 사장 Dave Ward가 말했습니다. “NVIDIA DSX MaxLPS는 남겨진 용량을 회수하고 실제 사용으로 전환하는 길을 열어주며, 동일한 면적에서 훨씬 더 높은 컴퓨팅 밀도를 제공합니다.”

DSX MaxLPS는 GPU 및 랙 수준 전력 소비를 모니터링하고 워크로드 유형에 따라 노드 간 여유 전력을 재배분하여 정적 프로비저닝으로 남게 되는 용량을 회복한다고 NVIDIA의 DSX 플랫폼 페이지가 전합니다. 학습과 추론은 전력 소모 방식이 다르며, 소프트웨어는 두 작업을 모두 실행하는 AI 팩토리에서 할당을 최적화합니다. NVIDIA의 전망에 따르면, DSX MaxLPS는 적절한 배포 환경에서 동일한 메가와트 전력 예산 내에서 차세대 Vera Rubin NVL72 AI 팩토리의 GPU 용량을 최대 40%까지 늘릴 수 있습니다.

DSX 플랫폼 배경 및 800 VDC 전력

NVIDIA는 2026년 5월 31일 GTC 타이베이에서 DSX 플랫폼을 발표했다, 이를 통해 오픈소스 소프트웨어 라이브러리, API, 레퍼런스 디자인, NVIDIA 컴퓨팅 플랫폼 및 파트너 기술을 결합해 AI 팩토리 설계, 배포 및 운영을 위한 공통 플랫폼을 만들었습니다. 이 제품군은 DSX 레퍼런스 디자인, DSX Sim, DSX OS, DSX MaxLPS, DSX Flex 및 DSX Exchange를 포함하며, 검증된 아키텍처, 시뮬레이션, 개방형 모듈형 운영 소프트웨어, 전력 관리, 그리드 신호 오케스트레이션 및 IT와 OT 시스템 간의 안전한 데이터 교환을 포괄합니다.

5월 출시 시점에서 NVIDIA는 클라우드 파트너인 CoreWeave, Crusoe, Firmus, IREN, Lambda, Nebius, Nscale, Yotta Data Services가 DSX Sim, DSX MaxLPS 및 DSX OS를 배포하고 있으며, Dell Technologies, HPE, Lenovo, Supermicro 등이 DSX‑준비 시스템을 구축하고 있다고 밝혔습니다. NVIDIA 창립자이자 CEO인 Jensen Huang은 전력 제약을 간단히 “1기가와트 팩토리는 절대 2기가와트 팩토리가 될 수 없다”라고 표현했습니다. 5월 발표에서 Huang은 DSX가 모든 인프라 구축자에게 AI 팩토리를 시뮬레이션하고 검증하며 운영할 수 있는 완전한 매뉴얼을 제공한다고 말했습니다.

9월 15일 게시물에 따르면 DSX는 800 VDC 전력 아키텍처를 레퍼런스 디자인에 통합하고 있습니다. NVIDIA는 이 아키텍처가 변환 복잡성을 줄이고 전력 전달 효율을 향상시키며 보다 고밀도 가속 컴퓨팅 랙을 지원하도록 설계되었다고 말합니다. 또한 게시물은 직접 액체 냉각을 사용하는 GB200 NVL72 랙이 약 120 kW의 열을 발생시키며, 이 열은 전력이 컴퓨팅에 도달하기 전에 제거되어야 한다고 언급합니다. 그리고 DSX Sim은 첫 번째 랙이 설치되기 전 사용을, DSX OS와 DSX Exchange는 팩토리가 가동된 후 사용을, DSX 레퍼런스 디자인은 검증된 시작 아키텍처로 위치시킵니다.

생산에서의 수요 반응

NVIDIA 게시물의 대부분은 8월 저녁, 온도와 냉방 부하가 급증함에 따라 산타클라라 시의 지방 소유 공공 전력 회사인 Silicon Valley Power가 AI 팩토리에 전력 소비 조정을 위한 신호를 보낸 상황을 서술합니다. Emerald AI의 Conductor 플랫폼은 미리 정의된 작업 계층 구조를 실행했으며, 최저 우선순위 작업은 중단되고 고우선순위 추론은 계속 실행되어 전력이 4메가와트에서 3메가와트로 자동으로 감소했으며, 운영자는 전혀 개입하지 않았습니다.

Emerald AI의 설립자이자 CEO인 Varun Sivaram은 Zoom을 통해 약 40명의 다른 사람들과 함께 시청했으며, 여기에는 샌프란시스코 팀, 데이터 센터 엔지니어, 유틸리티 직원이 포함되었습니다. 그는 이번이 수천 대의 NVIDIA GPU에 대한 회사 최초의 배포라고 말했습니다. 그의 제품 책임자 Mansi Shah는 이 순간을 SpaceX 로켓 발사에 비유했습니다. 그 이후 Silicon Valley Power는 팩토리에 200회 이상의 수요 신호를 보냈으며, 시스템은 매번 정상 작동했으며 Conductor는 1분 이내에 대응했다고 NVIDIA가 보고했습니다.

NVIDIA는 이 시설을 산타클라라에 위치한 Eos AI 공장으로 식별하며, 이 공장은 실리콘밸리 파워의 Flexible Load Interconnect Program에 참여자로서 Conductor를 운영합니다. NVIDIA는 이 프로그램을 AI 공장을 디스패치 가능한 자원으로 취급하도록 설계된 최초의 상업용 그리드 유틸리티 프로그램이라고 설명합니다. NVIDIA는 산타클라라 설치가 DSX Flex 자체보다 먼저였으며, Emerald AI Conductor가 플랫폼이 성숙해짐에 따라 DSX Flex에 통합된다고 밝혔습니다.

Silicon Valley Power와 Emerald AI는 파일럿을 발표했습니다 2026년 4월 21일, 첫 번째 사이트는 NVIDIA가 고성능 GPU에서 AI 워크로드를 실행하는 데이터 센터에서 상업용 다메가와트 규모로 운영되었습니다. SVP 전기 유틸리티 이사인 Nico Procos는 당시 파일럿이 신뢰성과 비용 효율성을 보호하는 실용적인 도구를 평가하고 향후 부하 증가에 대한 유연한 계획을 지원할 것이라고 말했습니다. Emerald AI는 배치를 설명했습니다 2026년 6월 1일, 이를 최초의 상업용 DSX Flex 배치로, 두 대륙에 걸친 상업용 데이터 센터에서 NVIDIA 시스템과 함께 Conductor의 다섯 차례 실시간 시연을 기반으로 구축되었습니다.

NVIDIA에 따르면 최초의 전용 DSX Flex 상업 배치는 버지니아 주 매너서에 위치한 NVIDIA AI Factory Research Center에서 96메가와트 규모의 Vera Rubin AI 공장이 될 것입니다. Emerald AI는 매너서 프로젝트가 Digital Realty, EPRI 및 PJM Interconnection과 협력하여 계획되고 있으며 2026년 말에 진행될 예정이라고 밝혔습니다.

테오 내쉬유나이트.AI의 AI 생성 전문가로, AI 인프라, 컴퓨팅, 및 현대적인 인공 지능을 구동하는 하드웨어 시스템을 다룹니다. 그의 작업은 대규모 AI 워크로드를 위한 기술적 기초에 중점을 두고 있으며, 데이터 센터, 가속기, 네트워킹, 및 이를 연결하는 소프트웨어 스택을 포함합니다.
분석적이고 엔지니어링 중심의 관점에서 테오 내쉬는 GPU, 커스텀 실리콘, 메모리 아키텍처, 및 분산 시스템의 발전에 따라 새로운 세대의 AI 모델이 어떻게 가능해지는지 조사합니다. 그는 성능 트레이드오프, 에너지 효율성, 확장성, 및 실제로 AI 인프라를 배치하는 실질적인 제약에 특별한 주의를 기울입니다.
테오 내쉬가 작성한 기사들은 AI로 생성되어 유나이트.AI의 편집 팀에 의해 검토되어 기술적 정확성, 명확성, 및 급변하는 AI 컴퓨팅 환경에 대한 책임 있는 보도를 보장합니다.