NVIDIA와 Palantir, 공급망을 위한 주권 AI 스택 발표

NVIDIA와 Palantir Technologies는 2026년 9월 10일, 핵심 공급망에 주권 AI를 도입하기 위한 협업을 발표했으며, 공동으로 구축한 AI 스택이 처음으로 NVIDIA 자체 공급망 운영에 배치됩니다.

이 스택은 NVIDIA의 Nemotron 오픈 모델을 Palantir Foundry와 Palantir의 인공지능 플랫폼(AIP)에 통합하며, Palantir Ontology를 기반으로 합니다. 양사는 이 시스템이 공급망 팀에게 공유 명령 센터를 제공하며, 첫 단계는 자재 할당 결정이라고 밝히면서도 고객은 자체 데이터에 대한 통제와 소유권을 유지한다고 설명했습니다. 이 스택은 Palantir의 AIPCon 11 컨퍼런스에서 시연될 예정이며, 농업, 제조, 제약, 소매, 기술 및 정부 분야의 조직들이 자체 공급망에 적용할 수 있다고 전했습니다.

NVIDIA는 자사의 공급망이 수백만 개의 부품, 수천 명의 공급업체 및 전 세계 제조 파트너 네트워크로 구성되어 있으며, 랙 규모 AI 시스템을 생산에 도입하려면 컴퓨팅, 메모리, 네트워킹, 전력, 냉각 및 기계 부품이 조정되어 제공되어야 한다고 밝혔습니다. 발표에 따르면 각 NVIDIA Vera Rubin 랙에는 130만 개의 부품이 포함됩니다.

그 공동 발표에서 Palantir 공동창업자이자 CEO인 Alex Karp는: “NVIDIA는 세계에서 가장 가치 있고 복잡하며 정교한 공급망을 보유하고 있다고 할 수 있습니다. Nemotron 모델과 Ontology로 구동되는 우리의 주권 스택은 기존 한계를 뛰어넘는 기능을 제공하면서, 다른 경우에는 얻을 수 없는 알파 보호 특성을 제공합니다.”라고 말했습니다.

NVIDIA 창업자이자 CEO인 Jensen Huang은 양사가 AI 인프라 뒤의 운영 그래프를 주권 인텔리전스로 전환하고자 하며, Nemotron 모델을 Palantir의 Ontology와 결합해 웨이퍼 생산부터 토큰 출력까지의 경로를 조정한다는 목표를 밝혔습니다.

NVIDIA의 공급망 및 Foundry 명령 센터

발표와 함께 공개된 기술 블로그 게시물에서 NVIDIA는 웨이퍼 출하부터 첫 토큰까지 공급망 성과를 측정한다고 밝혔습니다. 이 기간은 두 부분으로 나뉩니다: time-to-rack은 반도체가 팹을 떠나 조립된 시스템이 데이터 센터 바닥에 도착할 때까지의 시간을 의미하고, time-to-token은 인프라를 생산적으로 만들기 위한 전력, 냉각, 네트워킹 및 소프트웨어 작업을 포함합니다.

Grace Blackwell NVL72 플랫폼은 수백만 개의 부품과 수천 명의 공급업체를 활용하며, 최종 시스템은 수십 개의 OEM 및 ODM에 의해 조립됩니다. 랙당 18개 중 하나인 GB200 NVL72 컴퓨트 트레이 하나는 Grace CPU 2개, Blackwell GPU 4개, 그리고 32개의 HBM3e 메모리 스택을 필요로 하며, NVIDIA는 Vera Rubin을 위해 구축한 공급망이 Grace Blackwell 뒤의 공급망보다 두 배 규모라고 밝혔습니다. 자재가 얼마나 오랫동안 유휴 상태인지 추적하기 위해 NVIDIA는 Time of Ownership라는 지표를 사용합니다: 제조 현장이 자재를 받는 순간부터 해당 자재가 하위 조립품이나 제품의 일부로 출고될 때까지의 경과 시간을 의미합니다.

매주 플래너들은 NVIDIA가 ‘핵심 자재 할당 문제’라고 부르는 작업을 수동으로 재구성하며, 현재와 다음 분기에 각 제조 현장에 어떤 자재를 얼마만큼 보낼지 결정합니다. 이를 지원하기 위해 NVIDIA의 공급망 운영팀은 Palantir와 함께 Foundry 위에 디지털 공급망 인텔리전스 명령 센터를 구축했으며, Ontology가 자재, 제조 현장, 커밋, 용량, 할당, 생산 결과 및 비구조화된 정성적 신호를 하나의 관리 데이터 계층으로 연결합니다.

NVIDIA cuOpt는 GPU 가속 의사결정 최적화를 위한 오픈소스 라이브러리로, 주간 할당 문제를 Time of Ownership를 최소화하는 목표를 가진 혼합정수선형프로그램(MILP)으로 해결합니다. 입력은 Ontology에서 가져오며 결과는 할당 결정으로 다시 기록됩니다. 이 글에 따르면 cuOpt는 어떤 제약 조건이 구속되는지도 식별하여 플래너가 용량이나 메모리 공급이 해당 주에 제한이 되었는지 확인하고, 메모리 공급을 10% 감소시키거나 새로운 제조 현장을 추가하는 시나리오를 테스트할 수 있게 합니다.

할당 결정에 대한 사후 학습 Nemotron

NVIDIA와 Palantir는 과거 할당 결정을 실제 결과와 대조 테스트했으며, 해당 글에 따르면 인간 플래너가 솔버보다 우수한 성과를 보였다고 합니다. 이는 플래너가 솔버가 볼 수 없는 정보—파트너와 주고받은 이메일, 주요 지역의 악천후 예보, 지정학적 사건, 공급업체 브리핑 전사록—와 다년간 축적된 전문 지식을 활용했기 때문입니다. 팀은 이 전문 지식을 중심으로 워크플로를 재구성하여 각 할당 결정, 그 이유, 예상 결과 및 실제 결과를 Ontology에 기록했습니다.

이 기록은 학습 데이터가 되었습니다. 팀은 Nemotron 3.5 Lightning을 사후 학습했으며, 이는 300억 파라미터와 전방 패스당 약 30억 활성 파라미터를 가진 오픈 가중치 혼합 전문가 모델입니다. 해당 글에 따르면 이 모델은 에이전시 워크플로의 실행 레이어에 특화되어 선택되었으며, 오픈 모델은 조직 자체 컴퓨팅 경계 내에서 사후 학습이 가능하기 때문이라고 합니다. 파이프라인은 NeMo Anonymizer를 사용해 개인 식별 정보를 제거하고, NeMo Data Designer로 합성 예시를 생성·균형화하며, NeMo AutoModel로 기본 가중치를 고정한 채 소량의 LoRA 어댑터 파라미터를 학습합니다. Palantir Autopilot은 Ontology 데이터에서 배포된 모델까지의 전체 수명 주기를 관리합니다.

글에 설명된 개발 벤치마크에서 사후 학습된 모델은 할당 결정 정확도 86.7%를 달성했으며, 이는 더 큰 Nemotron 3 Ultra의 55.5%와 기본 Nemotron 3.5 Lightning의 17.5%와 비교됩니다. NVIDIA는 균형 정확도가 Ultra의 42.0%에 비해 58.6%이며, Macro-F1 점수는 39.5% 대비 57.5%라고 보고했습니다. 저자들은 이러한 지표가 각 결정 유형에 동일한 가중치를 부여한다고 설명하는데, 이는 플래너가 할당을 늘리기보다 줄이는 경우가 훨씬 많기 때문에 중요합니다.

글에서는 이러한 향상이 모델이 사후 학습된 도메인에 집중되어 있으며, 미세 조정에도 불구하고 향후 생산 위험을 예측하는 것이 여전히 어렵다고 경고합니다. LoRA 학습은 두 대의 NVIDIA B200 GPU에서 몇 분 만에 완료되었으며, 피드백이 누적될수록 반복하기에 충분히 가볍다고 해당 글에 언급되었습니다.

모델은 근거와 위험을 포함한 할당 범위를 제시하지만, 인간 플래너가 각 권고안을 검토하고 최종 결정을 내립니다. 모든 승인, 수정, 재정의 및 생산 결과는 충분한 대표 데이터를 확보할 때까지 Ontology에 다시 기록되며, 이후 또 다른 관리된 학습을 수행할 수 있게 됩니다. 글에 따르면 모델은 생산 환경에서 스스로 재학습하지 않으며, 누적된 피드백은 향후 강화 학습을 지원하기 위한 목적이라고 합니다.

주권 배포 및 인프라 파트너

NVIDIA 공급망의 민감성을 고려하여, 배포는 NVIDIA 레퍼런스 아키텍처와 공동 개발한 Palantir Sovereign AI Operating System 레퍼런스 아키텍처(일명 SAIOS) 위에서 실행되며, 이는 Dell Technologies와 Cisco가 지원합니다. 양사는 이 스택을 Cisco와 Dell을 포함한 시스템 제조업체와 함께 온프레미스에 배포하거나, Rackspace와 Nebius와 협력한 코로케이션 및 클라우드 환경에 배포할 수 있다고 밝혔습니다.

Palantir AIP 내에서 cuOpt는 최적화와 시나리오 플래닝을 지원하고, NeMo Data Libraries, NeMo AutoModel 및 NeMo RL은 Palantir Autopilot과 통합되어, 기업이 말하길 실제 결과와 대비해 결정을 측정하는 관리된 학습 루프를 형성합니다. 양사는 NVIDIA 배포에서 얻은 교훈을 제조, 에너지, 의료, 자동차 및 항공우주 분야의 기업들에 확대 적용할 계획이라고 밝혔습니다.