NVIDIA, 칩과 랙 시스템을 통해 한국의 소버린 AI 사업 협력 강화

한국 과학기술정보통신부와 AI 칩, 데이터센터, 모델, 인력 역량 및 에이전트 보안 분야에서 협력을 확대한다고 NVIDIA가 2026년 11월 9일 발표했다. 하드웨어 프로젝트의 핵심은 Rebellions의 R200 프로세서와 NVLink 기반 랙 시스템으로, 2028년 배치 준비를 마칠 것으로 예상된다.

공동 발표에 따르면, Rebellions는 차세대 Rebel R200 신경망처리장치(NPU)를 NVLink Fusion을 통해 NVIDIA 플랫폼에 연결하고, 랙 규모 시스템 개발에는 MGX 아키텍처를 사용할 예정이다. SK Telecom은 해당 시스템을 자사 AI 데이터센터에 도입하고, AI for All의 일환으로 자체 모델 및 대민 서비스를 연계할 계획이다. 과학기술정보통신부(MSIT)는 이번 프로젝트를 NVIDIA와 한국 NPU 기업 간 광범위한 협력의 출발점으로 지원하고 있다.

혼합 프로세서 랙으로 추론 작업 분담

Rebellions에 따르면 R200은 최첨단 모델을 대상으로 저지연·고에너지 효율 추론을 수행하도록 설계됐으며, 여기에는 매개변수가 수조 개에 달하는 모델도 포함된다. NVLink Fusion을 사용하면 칩 제조업체가 특화 실리콘을 NVIDIA의 고대역폭·저지연 확장 네트워킹 및 확립된 인프라 생태계와 결합할 수 있다.

양사는 분리형 추론을 계획하고 있다. 분리형 추론은 AI 응답 생성의 각 단계를 작업에 가장 적합한 프로세서 아키텍처에 할당하는 방식이다. NVIDIA GPU가 프리필을 처리하고 Rebellions NPU가 디코딩을 맡아 추론 처리량과 전력 효율을 높이는 것이 목표다.

MGX 아키텍처는 GPU와 NPU 시스템이 함께 사용할 수 있는 공통 랙 규격과 전력 공급 및 냉각 요소를 제공한다. 이 공통 설계는 Rebellions의 프로세서 및 시스템 개발과 함께 데이터센터 계획을 지원할 수 있으며, MGX 생태계를 통해 주문자 설계 제조업체와 부품 공급업체를 이용할 수 있다.

모델 배포 및 인력 교육

AI for All을 통해 NVIDIA는 선정된 3개 컨소시엄 및 한국의 파운데이션 모델 개발사 4곳과 협력하고, Dynamo를 사용해 추론을 최적화하고 확장할 예정이다. 함께 제공되는 배포 레시피는 SK Telecom의 A.X K2, LG AI Research의 K-EXAONE 2.0, Upstage의 Solar Open 2, Motif Technologies의 Motif-3를 다룬다.

Dynamo는 데이터센터 규모의 멀티노드 배포를 지원하는 오픈소스 분산형 추론 서비스 프레임워크다. 모델이 단일 GPU의 한계를 넘어 여러 GPU에 분산될 때 요청 라우팅과 통신을 조율한다.

NVIDIA에 따르면 B200 GPU에 최적화된 이 레시피는 별도의 설정 없이 최대 2배의 성능을 제공한다. 개발자가 한국의 오픈 모델을 실제 서비스 환경에 도입하고, 누구나 폭넓게 이용할 수 있는 AI for All 서비스를 지원하도록 돕는 것이 목적이다.

인력 양성 부문에는 GPU 활용도를 높이기 위한 NVIDIA 교육 및 인증 프로그램, 해커톤, 기술 세미나가 추가된다. 이 프로그램은 하드웨어와 소프트웨어를 넘어 GPU 기반 인프라 운영에 필요한 실무 역량까지 다룬다.

협력 분야에 포함된 에이전트 보안

에이전트 보안과 관련해 NVIDIA는 현대자동차그룹이 NemoClaw 청사진과 OpenShell 런타임을 검토하고 있다고 발표했다. 한국 보안 기업 AIM Intelligence는 직원 생산성 및 엔터프라이즈 워크플로 에이전트에 활용하기 위해 자사의 에이전트 제어 플랫폼 Starfort를 OpenShell과 통합하고 있다.

NVIDIA Open Agent Safety Platform의 일부인 OpenShell은 민감한 데이터, 엔터프라이즈 도구 접근, 자율 에이전트의 동작을 위한 샌드박스 실행 환경과 정책 기반 제어 기능을 제공한다. Starfort 통합은 이러한 런타임 접근 제어 기능에 악의적인 지시와 데이터 유출을 탐지하는 기능을 결합하는 것을 목표로 한다. AIM Intelligence는 공공 에너지 부문에서 예비 개념 증명을 진행하는 방안도 검토하고 있다.

실질적으로 소프트웨어와 하드웨어의 준비 단계가 서로 다르다. 한국 개발자를 위한 모델 서빙 레시피는 공개되고 있지만, 혼합 GPU-NPU 랙은 SK Telecom의 계획된 배포에 앞서 프로세서 통합과 시스템 개발을 거쳐야 한다.