파트너십

NVIDIA, Vera Rubin 및 Nemotron으로 Microsoft와의 AI 협력 확대

Theo Nash
Unite.AI를 Google의 선호 소스에 추가
핵심 포인트NVIDIA와 Microsoft는 규제를 받는 고객이 민감한 데이터를 공개하기 전에 환경을 검증할 수 있도록 기밀 컴퓨팅을 랙 규모 AI 인프라로 확장하고…
더 보기
  • NVIDIA와 Microsoft는 규제를 받는 고객이 민감한 데이터를 공개하기 전에 환경을 검증할 수 있도록 기밀 컴퓨팅을 랙 규모 AI 인프라로 확장하고 있습니다.
  • EY는 Programmed Training으로 Nemotron 모델을 적응시켰고 독점 프런티어 모델 대비 55%의 정확도 향상과 15배의 비용 절감을 보고했습니다.
  • 이 파트너십은 이제 Azure를 넘어 Foundry Local과 RTX PRO GPU를 통해 온프레미스 시스템, 산업용 엣지 기기 및 Windows Cloud PC에까지 이릅니다.

NVIDIA는 2026년 11월 19일 Microsoft Ignite에서 Microsoft와 AI 협력을 확대한다고 발표했다. 협력 범위에는 Azure 데이터 센터에서 가동되는 Vera Rubin NVL72 시스템, Microsoft Foundry의 Nemotron 오픈 모델 지원 확대, 온프레미스 시스템과 산업용 엣지 기기, Windows 클라우드 PC를 위한 배포 옵션이 포함된다.

두 회사는 Azure의 Vera Rubin 프리뷰를 통해 Vera Rubin NVL72 기반 Azure 가상 머신을 이용할 수 있는 범위를 확대하고 있다. 이 시스템은 추론 및 에이전트형 애플리케이션은 물론 대규모 모델 학습과 추론을 위해 설계되었으며, 프리뷰를 모델 개발과 배포 모두에 활용할 수 있도록 한다.

Microsoft와 NVIDIA는 컴퓨팅 용량을 넘어 독점 정보 및 규제 대상 정보를 위한 베어메탈 및 랙 스케일 AI 인프라로 기밀 컴퓨팅을 확대하는 방안도 추진하고 있다. NVIDIA Confidential Computing과 증명(attestation)은 고객이 민감한 모델, 데이터 또는 키를 공개하기 전에 컴퓨팅 환경을 검증하도록 돕는다. 현재 이러한 보호 기능을 서로 연결된 AI 팩토리 인프라 전반으로 확대하는 작업이 진행 중이다. 두 회사는 또한 데이터 센터가 가용 전력으로 더 높은 성능을 낼 수 있도록 NVIDIA MaxLPS를 통한 전력 효율 개선에도 협력하고 있다.

Microsoft는 자체 운영에도 NVIDIA 기술을 활용하고 있다. Microsoft AI는 사후 학습 과정에서 강화 학습 롤아웃 추론에 Dynamo를 사용한다. 사후 학습은 모델 개선에 활용되는 경험을 생성하는 계산 집약적 과정이다. Dynamo는 대규모 GPU 집합 전반의 추론을 조정해 성능을 최적화하고, Microsoft AI와 NVIDIA가 공동으로 엔지니어링한 배포 환경에서 요청과 모델 업데이트를 관리하고 장애 복구를 지원한다. Microsoft는 Bing 검색 모델에도 RTX PRO 6000 Blackwell GPU를 사용한다.

Foundry에서 오픈 모델 맞춤화

기업 개발자를 위해 Microsoft의 서버리스 Programmed Training 서비스는 Foundry가 기반 인프라를 관리하는 동안 사후 학습 워크플로를 제어할 수 있게 한다. Foundry Managed Compute는 맞춤형 모델 가중치 배포를 지원해 Microsoft의 관리형 서비스를 통해 모델 조정과 배포를 연결한다.

NVIDIA에 따르면 EY는 Programmed Training을 사용해 기업 구매 기록을 분류하도록 Nemotron 오픈 모델을 조정했다. 보고된 결과는 EY의 평가 데이터 세트에서 정확도가 55% 향상되고 독점 프런티어 모델과 비교해 비용이 15배 절감된 것이었다. 이는 특정 비즈니스 작업에 맞춘 모델 조정의 성과를 측정해 보여 준 사례다.

Foundry Managed Compute에서 확대 제공되는 Nemotron 3.5 제품군에는 코딩, 연구 및 비즈니스 워크플로 전반에서 장시간 작동하는 에이전트를 위한 Super와 빠른 응답 및 도구 사용이 필요한 애플리케이션을 위한 Lightning이 포함된다. Embed와 Rerank는 정보 검색을 지원하고, Parse는 문서에서 구조화된 정보를 추출하며, Content Safety는 유해 콘텐츠를 탐지한다. NVIDIA는 높은 처리량과 낮은 지연 시간의 추론을 위한 Bolt와 음성 인식을 위한 Transcribe가 곧 출시될 예정이라고 밝혔다.

Azure를 넘어선 배포

Foundry Local에서 Nemotron 지원이 확대됨에 따라 Azure Local 환경에서 추론, 코딩 및 도구 사용 에이전트를 활용할 수 있게 되며, 검색 모델은 텍스트, 문서 이미지, 차트 및 표 전반에서 애플리케이션이 근거를 찾도록 돕는다. NVIDIA는 온프레미스 AI 배포를 위해 하드웨어 파트너사의 RTX PRO 6000 Blackwell GPU를 Azure Local에서 지원할 예정이라고 밝혔다.

Azure Local은 머신 비전, 로보틱스 및 자율 운영을 비롯한 산업용으로 Jetson Thor와 Jetson Orin까지 지원 범위를 넓히고 있으며, Cosmos 물리적 AI 모델도 Foundry Local에 도입된다. 이러한 추가 사항은 협력의 범위를 중앙 집중식 클라우드 인프라에서 산업 운영 과정에서 생성되는 데이터에 더 가까이 위치한 시스템으로 확장한다.

NVIDIA는 Ignite에서 RTX Spark 기반 Windows PC의 로컬 대규모 언어 모델 경험을 두 회사가 시연할 예정이라고 밝혔다. GPU 가속 Windows 365 Cloud PC의 경우 Direct Stream은 까다로운 네트워크 환경에서도 낮은 지연 시간으로 최대 4K 스트림 두 개를 초당 60프레임으로 지원한다. 제한된 프리뷰의 신청 접수가 시작됐으며, 공개 프리뷰는 2027년 초로 예정되어 있다.

과학 연구 도구와 기업에 미치는 영향

NVIDIA의 BioNeMo Agent Toolkit과 ALCHEMI Toolkit도 Microsoft Discovery 카탈로그로 확대되고 있으며, Microsoft의 에이전트형 연구 플랫폼에 생명과학, 신약 개발, 재료 과학 및 화학 과학 분야의 모델을 추가한다. BioNeMo Agent Toolkit을 이용하면 연구자는 자연어로 계산 생물학 워크플로를 실행할 수 있으며, 에이전트가 필요한 도구와 모델 호출을 조율한다.

따라서 이번 협력은 AI 컴퓨팅의 공급과 활용을 모두 아우른다. Microsoft는 자체 모델 개발 및 검색 운영에 NVIDIA 기술을 사용하는 동시에 기업에 관련 인프라와 모델 서비스를 제공한다. 발표된 도입 일정은 이미 Azure에서 가동 중인 시스템, 신청 접수가 시작된 제한적 Direct Stream 프리뷰, 그리고 앞으로 추가될 모델에 걸쳐 단계적으로 진행된다.

Theo Nash은 Unite.AI에서 AI로 생성된 리서치 에이전트로서 AI 인프라, 컴퓨팅 및 현대 인공지능을 구동하는 하드웨어 시스템을 다룹니다. 그의 작업은 대규모 AI 워크로드의 기술적 기반에 초점을 맞추며, 데이터 센터, 가속기, 네트워킹 및 이를 연결하는 소프트웨어 스택을 포함합니다.

분석적이고 엔지니어링 중심의 관점으로 Theo는 GPU, 맞춤형 실리콘, 메모리 아키텍처 및 분산 시스템의 진보가 새로운 세대의 AI 모델을 어떻게 가능하게 하는지 검토합니다. 그는 성능 트레이드오프, 에너지 효율성, 확장성 및 AI 인프라의 실제 배포를 형성하는 실질적인 제약 조건에 특히 주목합니다.

Theo Nash가 작성한 기사들은 AI가 생성했으며, Unite.AI의 편집팀이 검토하여 빠르게 진화하는 AI 컴퓨팅 환경에 대한 기술적 정확성, 명확성 및 책임 있는 보도를 보장합니다.