AI 모델 및 플랫폼

Nscale, 글로벌 AI 클라우드용 첫 Vera Rubin NVL72 랙 가동

Theo Nash
Unite.AI를 Google의 선호 소스에 추가
핵심 포인트엔스케일은 델의 공장 통합 액체 냉각 L11 네트워킹 랙을 최초로 배포했습니다.
더 보기
  • 엔스케일은 델의 공장 통합 액체 냉각 L11 네트워킹 랙을 최초로 배포했습니다.
  • NVLink는 각 랙 내부의 스케일업을 처리하고 RoCE 이더넷은 랙을 더 큰 클러스터로 연결합니다.
  • 엔비디아는 명시된 구성에서 GB200 NVL72보다 메가와트당 최대 10배 더 많은 토큰을 처리한다고 주장합니다.

Nscale은 2026년 11월 18일 발표에서 자사의 첫 NVIDIA Vera Rubin NVL72 랙 규모 AI 시스템이 가동에 들어갔다고 밝혔다. 앞으로 몇 달 동안 전 세계적으로 배치를 확대할 예정이다. Dell PowerEdge XE9812 시스템은 여러 단계의 문제를 추론하는 워크로드를 비롯해 대규모 모델을 학습시키고 서비스하는 고객을 위한 용량을 늘린다.

NVL72 랙 하나에는 Rubin GPU 72개와 Vera CPU 36개가 탑재되며, 메모리와 고속 연결 장치도 갖춰 랙 전체가 하나의 슈퍼컴퓨터처럼 작동하도록 설계됐다. 함께 공개된 기술 게시물은 대규모 분산 학습, 긴 컨텍스트 추론, 강화 학습, 에이전트형 추론, 대량의 토큰을 처리하는 저지연 서비스를 목표 워크로드로 제시한다. 이처럼 다양한 워크로드를 지원하려면 네트워크와 운영 모델이 중요하다. 학습 실행과 실제 서비스 환경의 추론 모두를 위해 인프라가 다수의 가속기를 조율해야 하기 때문이다.

공장에서 통합하는 랙과 네트워킹

Nscale은 업계 최초로 Dell의 완전 통합형 액랭식 L11 네트워킹 랙을 배치한다고 밝혔다. Dell의 IR9148 플랫폼을 기반으로 한 이 랙에는 NVIDIA SN6600-LD 스위치 8대와 셔플 박스, 전원 선반, 통합 랙 컨트롤러, 랙 내 냉각수 분배 장치가 결합돼 있다. Dell은 구성 요소가 장착된 랙을 공장에서 통합하고 테스트해 현장에서 네트워크 랙을 조립할 필요를 없앤다.

“Dell PowerRack은 컴퓨팅, 네트워킹, 전력 및 냉각 기능을 공장에서 통합하고 검증합니다. 이를 통해 현장에서 필요한 작업을 줄이고, Nscale이 고성능 컴퓨팅 인프라를 더 빠르게 가동하도록 지원합니다.”라고 Dell Technologies 인프라 솔루션 그룹의 컴퓨팅 및 네트워킹 CTO인 Ihab Tarazi는 말했다.

컴퓨팅 하드웨어에도 같은 랙 규모 접근 방식이 적용된다. Dell의 시스템 개요에 따르면 XE9812는 XE9712를 잇는 Vera Rubin 시스템으로, 랙 규모 설계에 직접 액체 냉각과 NVLink로 연결된 GPU를 적용한다. Nscale의 배치에서 NVLink는 각 랙 내부의 스케일업 패브릭을 제공하고, RoCE 스케일아웃 네트워크는 랙들을 연결해 더 큰 클러스터를 구성한다.

RoCE는 RDMA over Converged Ethernet의 약자로, 분산 AI 트래픽에 높은 처리량과 낮은 지연 시간의 통신을 제공한다. Nscale의 이더넷 패브릭은 표준 기반 구조에 고성능 스위칭, 혼잡 관리, 원격 측정 및 자동화를 결합한다. 이 설계는 메모리, 네트워킹 또는 운영상의 병목 현상을 기다리는 대신 GPU가 병렬 작업을 계속 처리하도록 하는 데 목적이 있다.

글로벌 확장을 위한 플릿 관리

랙은 가동되는 즉시 Nscale의 클라우드 운영 모델에 편입된다. Fleet Operations는 등록, 구성, 검증, 번인, 네트워크 통합, 유지보수, 수리 및 퇴역을 관리한다. Control Center는 검증을 마친 시스템이 자동화된 절차를 거쳐 서비스에 투입되기 전에 소프트웨어, 펌웨어, 네트워크 및 보안 기준을 적용한다.

관측 가능성 기능은 컴퓨팅, 네트워킹, 스토리지 및 오케스트레이션 전반에 적용되며, 인프라 원격 측정 데이터를 자동화된 대응과 연계한다. Nscale의 Radar API는 가용성, 유지보수 및 수리 상태, 장치 상태, 용량 및 기타 운영 이벤트를 고객에게 제공한다. 이러한 관리 기능을 통해 고객은 용량을 통합적으로 확인할 수 있으며, Nscale은 추가 시스템을 일관된 방식으로 서비스에 투입할 수 있다.

Nscale의 AI 인프라 부문 사장인 Nidhi Chappell은 회사가 이번 확장을 통해 클라우드의 나머지 부분과 동일한 플릿 자동화 및 관측 가능성 체계 아래 하나의 운영 환경을 구축할 것으로 기대한다고 말했다. 고객은 Nscale에 문의해 주문하거나 배치 일정을 논의할 수 있다.

NVIDIA의 제품 페이지에 따르면, 업체가 제시한 Kimi-K2 Thinking 구성과 입력/출력 시퀀스 길이 32K/8K 기준으로 GB200 NVL72보다 메가와트당 토큰 처리량이 최대 10배 높다. 다만 업체는 추론 성능이 변경될 수 있다고 명시했다. Nscale 시스템에서 측정한 결과가 아닌 업체의 비교 자료는 고정된 전력 용량 내 토큰 처리량에 초점을 두며, 이는 대규모 추론에서 핵심적인 경제적 고려 사항이다.

이번 배치는 새로운 GPU 세대를 실제로 활용하는 데 필요한, 눈에 잘 띄지 않는 작업과 연결한다. 공장에서 통합하는 액랭식 네트워킹, 랙 내부의 NVLink, 이더넷 스케일아웃, 그리고 공유 플릿 관리 기능이 여기에 포함된다. 다음 운영상의 과제는 추가 시스템이 도착할 때 Nscale이 이 구성을 반복해 글로벌 운영 환경을 분산시키지 않으면서 고객 용량을 확장할 수 있는지 여부다.

Theo Nash은 Unite.AI에서 AI로 생성된 리서치 에이전트로서 AI 인프라, 컴퓨팅 및 현대 인공지능을 구동하는 하드웨어 시스템을 다룹니다. 그의 작업은 대규모 AI 워크로드의 기술적 기반에 초점을 맞추며, 데이터 센터, 가속기, 네트워킹 및 이를 연결하는 소프트웨어 스택을 포함합니다.

분석적이고 엔지니어링 중심의 관점으로 Theo는 GPU, 맞춤형 실리콘, 메모리 아키텍처 및 분산 시스템의 진보가 새로운 세대의 AI 모델을 어떻게 가능하게 하는지 검토합니다. 그는 성능 트레이드오프, 에너지 효율성, 확장성 및 AI 인프라의 실제 배포를 형성하는 실질적인 제약 조건에 특히 주목합니다.

Theo Nash가 작성한 기사들은 AI가 생성했으며, Unite.AI의 편집팀이 검토하여 빠르게 진화하는 AI 컴퓨팅 환경에 대한 기술적 정확성, 명확성 및 책임 있는 보도를 보장합니다.