NVIDIA, AI 팩토리 관측성을 위한 Minerva AIOps 플랫폼 출시

NVIDIA는 2026년 10월 22일 Minerva를 출시하며, AI 팩토리 전반의 인프라 문제를 운영팀이 더 일찍 감지하도록 지원하는 AIOps 플랫폼이라고 소개했다. 회사에 따르면 Minerva는 인프라와 AI 워크로드의 텔레메트리를 통합한 뒤, 목적에 맞게 설계된 AI 모델을 적용해 해당 데이터를 실행 가능한 인사이트로 전환한다.

NVIDIA에 따르면 AI 팩토리는 세계에서 가장 복잡한 운영 환경에 속한다. 방대한 GPU 집합이 고속 네트워크를 통해 모델을 학습시키고 AI 애플리케이션을 서비스하기 때문이다. 이처럼 규모가 큰 환경에서는 다른 GPU보다 과열되는 GPU나 부하가 걸릴 때 성능이 저하되는 NVMe 드라이브 등 구성 요소 하나만 이상이 생겨도 전체 작업이 느려질 수 있으며, 이러한 징후는 쉽게 놓칠 수 있다. Minerva는 NVIDIA가 AI 팩토리 수율이라고 부르는 지표, 즉 인프라가 만들어 내는 유용한 작업량을 높이는 데 초점을 둔다. 이 수율은 GPU 시간, 굿풋, 클러스터 가동 시간, 토큰 생성량으로 측정된다.

팩토리의 동적 지식 그래프

기존 모니터링 도구는 데이터센터를 여러 개의 개별 화면으로 나누는 경우가 많아 네트워킹, 컴퓨팅, 사이트 신뢰성, 머신러닝 팀이 각각 운영 환경의 서로 다른 부분만 보게 된다. NVIDIA에 따르면 Minerva는 GPU, 네트워킹, 스토리지, 스케줄러, 워크로드 전반의 신호를 연결한다.

Minerva는 이러한 신호를 바탕으로 GPU, SuperNIC, 스위치, 케이블과 해당 장비에서 실행되는 작업을 논리적으로 연결한 동적 지식 그래프를 구축한다. NVIDIA에 따르면 이 매핑을 통해 운영자는 학습 작업이 느려질 때, GPU가 수십만 개에 이르는 팩토리에서도 그 원인이 된 구성 요소를 추적할 수 있다.

NVIDIA에 따르면 이 플랫폼은 지도 및 비지도 머신러닝을 활용해 시간당 수십억 개의 데이터 포인트를 분석한다. 정상적인 동작 양상을 학습하고, 이전에 접한 적 없는 이상 징후를 표시하며, 장애가 발생하기 시작할 때 이를 예측하고, 팩토리의 토폴로지를 이용해 서로 연관된 이벤트를 찾아낸다. 또한 관련 이벤트가 급증하더라도 각 증상을 운영자에게 개별 전달하는 대신, 가능성이 높은 근본 원인을 담은 하나의 집중된 인시던트로 통합할 수 있다.

AI 어시스턴트와 문제 해결 워크플로

Minerva에는 기본 AI 어시스턴트가 포함되어 있으며, 외부 에이전트형 AI 도구에도 연결할 수 있어 운영자는 실시간 텔레메트리를 바탕으로 자연어 인터페이스를 이용할 수 있다. 운영자는 대화를 통해 클러스터 상태를 조사하고 권장 해결 방안을 확인할 수 있다. 팀은 담당자가 직접 수정 작업을 수행하도록 할 수도 있고, 인프라 애플리케이션 프로그래밍 인터페이스와 외부 시스템을 통해 플랫폼을 자동화 도구에 연결할 수도 있다.

Bitdeer AI는 10월 22일 플랫폼을 도입했다고 발표하면서, 내장 어시스턴트를 Minerva에 기본 탑재된 멀티 에이전트 AI 어시스턴트인 Sherlock이라고 밝혔다. 또한 MCP 서버를 통해 운영자가 실시간 텔레메트리를 바탕으로 자연어 대화를 나누며 문제를 분류하고 디버깅할 수 있다고 설명했다. Bitdeer AI에 따르면 이 소프트웨어는 독립형 플랫폼으로 배포할 수 있으며 NVIDIA DSX OS와 통합되어 있다. 발표문은 텔레메트리 범위에 NVIDIA GPU, ConnectX SuperNIC, BlueField DPU, NVLink 스케일업 스위치, Spectrum-X 동서 및 남북 이더넷, NCCL, 스케줄러, AI 워크로드가 포함된다고 설명했다.

보고된 성과

NVIDIA에 따르면 이 플랫폼은 AI 팩토리가 중시하는 핵심 지표에서 성과를 낸다. 문제가 발생하기 전에 징후를 포착해 중단 간 시간을 늘리고, 인시던트가 발생하면 문제를 정확히 찾아내 복구 시간을 단축하며, 최신 AI 인프라에서 생성되는 방대한 데이터 중 실제로 중요한 소수의 알림만 걸러내 인사이트를 높인다. 회사는 플랫폼이 관련 문제를 하나의 실행 가능한 항목으로 통합해 AIOps 팀이 사후 대응형 유지보수에서 사전 예방형 유지보수로 전환하도록 지원하고, 이를 통해 AI 팩토리의 GPU 가동 시간을 극대화한다고 밝혔다.

Bitdeer AI는 NVIDIA 내부 AI 팩토리 테스트 결과를 공개했다. 한 사례에서는 Minerva가 NVMe 전원 장애의 평균 복구 시간을 며칠간 이어지는 서비스 중단에서 6시간으로 줄였고, 다른 사례에서는 노이즈가 많은 이벤트 81개를 알림 하나로 통합해 클러스터 가동 시간 54시간을 절약했다. Bitdeer AI는 내부 테스트에서 예측 유지보수를 통해 평균 중단 간 시간이 늘고, 자동화된 근본 원인 분석을 통해 평균 복구 시간이 줄었으며, 고도화된 노이즈 감소를 통해 실행 가능한 인사이트가 늘고, 토큰 생성량을 직접 높이는 유효 GPU 시간이 증가한 것으로도 나타났다고 밝혔다.

초기 도입 기업 및 OEM 파트너

IREN은 AI 팩토리 최적화를 위해 Minerva를 사용하는 NVIDIA 파트너 중 하나다. IREN의 최고기술책임자 Denis Skrinnikoff는 출시 발표에서 “NVIDIA Minerva를 통해 운영팀은 네트워크와 GPU, 그리고 그 위에서 실행되는 작업을 한눈에 파악할 수 있습니다. 덕분에 문제 해결에 매달리는 대신 사전 예방적 유지보수에 더 집중할 수 있습니다”라고 말했다.

Bitdeer AI는 현재 AI 팩토리 운영에 Minerva를 지원하고 있으며, 이를 대규모 AI 학습 및 추론에 필요한 안정적이고 높은 수율의 GPU 인프라를 제공하겠다는 약속을 확대하는 조치라고 설명했다. 회사는 플랫폼의 관측성, 예측 유지보수, 에이전트형 문제 해결 기능을 통해 작업에 영향을 미치기 전에 성능 저하를 포착하고 복구 시간을 줄이며 고객을 위해 더 많은 GPU를 생산적으로 가동할 수 있다고 밝혔다. 또한 이 소프트웨어는 소규모 클러스터부터 GPU가 수십만 개에 이르는 AI 팩토리까지 확장할 수 있도록 설계됐다고 덧붙였다.

Lenovo는 자체 GTC Berlin 게시물에서 환경이 확장됨에 따라 Minerva가 팀의 AI 인프라 가용성과 성능 관리를 지원할 수 있다고 밝히며, NVIDIA 솔루션을 적용한 Lenovo 하이브리드 AI 팩토리와 함께 이를 소개했다. 또한 IBM 및 NVIDIA와 협력해 고객이 자체 운영을 직접 관리할 수 있도록 하는 소버린 AI 팩토리 솔루션을 개발하고 있다고 밝혔다.

NVIDIA는 IREN과 함께 Aolani, Bitdeer AI, IBM, Jio, Lambda, Quake AI, Tesla가 Minerva를 도입할 계획이라고 밝혔다. NVIDIA에 따르면 Dell Technologies, Lenovo, Supermicro는 각사의 AI 팩토리 운영 포트폴리오의 일부로 이 플랫폼을 제공할 예정이다.