NVIDIA, JUPITER에서 사상 최대 규모의 104큐비트 내결함성 프로토콜 시뮬레이션

NVIDIA는 2026년 10월 19일, 유럽 최초의 엑사스케일 슈퍼컴퓨터인 JUPITER에서 기록적인 양자 컴퓨팅 시뮬레이션을 수행했다고 발표했다. Jülich Supercomputing Centre에서 NVIDIA GH200 GPU 8,192개로 실행한 104큐비트 시뮬레이션은 실제와 유사한 양자 프로세서가 내결함성 연산을 수행하는 방식을 모델링한다.

이번 시뮬레이션으로 검증한 내용

NVIDIA는 이번 104큐비트 시뮬레이션이 현재까지 수행된 내결함성 양자 프로세서의 종합 시뮬레이션 가운데 최대 규모라고 설명하며, 이전에는 양자 프로세서를 이처럼 상세하게 모델링한 시뮬레이션이 없었다고 밝혔다. 회사에 따르면 이번 실행은 이전 방식보다 물리적 큐비트가 90% 적게 필요한 내결함성 양자 컴퓨팅 접근법인 마법 상태 배양을 검증한다. NVIDIA는 이 정도의 충실도를 갖춘 시뮬레이션이 연구자들에게 미래 설계의 성능을 제작 전에 예측하는 데 필요한 데이터를 제공해 하드웨어를 직접 시험하고 시행착오를 거치는 데 대한 의존도를 줄여 준다고 밝혔다. 또한 신약 개발, 금융 모델링, 재료 과학 분야에서 활용될 것으로 기대된다고 덧붙였다.

NVIDIA의 창립자 겸 CEO인 Jensen Huang은 회사의 발표문에서 “실용적인 양자 컴퓨팅을 구현하려면 놀라울 정도로 복잡한 내결함성 시스템이 필요합니다. 그런 시스템이 대규모로 작동하는 방식을 이해하는 일은 이를 구축하는 데 필수적입니다”라고 말했다. Huang은 Jülich의 이번 연구 결과가 양자 프로세서와 GPU 슈퍼컴퓨터가 협력해 그렇지 않았다면 수행하기 어려웠을 연구를 할 수 있음을 보여 준다고 밝혔다.

Forschungszentrum Jülich의 Jülich Supercomputing Centre 소장인 Kristel Michielsen은 JUPITER에 대한 유럽의 투자가 연구자들에게 이전에는 접근하기 어려웠던 문제를 탐구할 능력을 제공하며, NVIDIA와의 협력으로 그 역량을 양자 컴퓨팅에 적용할 수 있게 됐다고 말했다. 또한 이번 연구가 과학자들이 유용한 응용 분야를 실현할 가능성이 가장 높은 설계를 더 정확한 정보에 근거해 결정하는 데 도움이 된다고 밝혔다.

마법 상태, 오류 정정 코드, 현실적인 노이즈 모델

NVIDIA의 발표문에 따르면 큐비트는 물리학의 한계에 가까운 조건에서 작동하며, 큐비트를 제어하는 데 필요한 상호작용은 피할 수 없는 오류 유발 노이즈를 일으킨다. 내결함성 양자 컴퓨팅이라고 하는, 이러한 노이즈가 있는 환경에서의 연산에는 마법 상태가 필요하다. 마법 상태는 내결함성 연산을 수행하는 동안 계속 소모되는 특정한 큐비트 배열이다. 내결함성 양자 컴퓨터는 마법 상태를 반복해서 생성해야 하므로, 마법 상태 생성 방식을 조금이라도 최적화하면 유용한 양자 컴퓨터를 구축하는 데 따르는 어려움을 크게 줄일 수 있다.

NVIDIA의 CUDA-Q 팀이 작성한 기술 게시물에서는 이러한 시뮬레이션이 어려운 이유를 자세히 설명한다. 양자 오류 정정에 사용되는 여러 연산은 클리퍼드 연산으로, 적절한 노이즈 가정 아래 효율적으로 시뮬레이션할 수 있다. 그러나 범용 양자 컴퓨팅에는 비자명한 연산이 적어도 하나 더 필요하며, 마법 상태가 바로 그 연산에 필요한 요소를 제공한다. 시뮬레이션한 프로토콜은 작은 오류 정정 코드에서 상태를 준비해 오류가 있는지 확인한 다음, 코드 거리를 늘린다. 거리 3 색상 코드에서 시작해 최근 설계된 플래그 측정으로 유해한 오류를 감지하고, 거리 7의 하이브리드 색상 코드·표면 코드 구성으로 확장한 뒤 추가 오류 정정 라운드와 판독을 수행한다. 집계된 104개 큐비트에는 이 과정 전반에 사용되는 데이터 큐비트와 보조 큐비트가 포함된다.

기술 게시물에 따르면 JUPITER에서 실행된 모델에는 누적되어 서로 간섭할 수 있는 결맞음 위상 오류와, 초전도 큐비트가 일반적인 두 계산 에너지 준위를 벗어나는 누설 현상이 포함된다. 일부 물리적 위치는 세 번째 에너지 준위를 갖는 것으로 모델링돼 시뮬레이션의 복잡성이 크게 높아진다. 이러한 메커니즘을 통해 연구자들은 무작위 비트 반전과 위상 반전만을 가정한 모델을 넘어서는 동작을 살펴볼 수 있으며, 동시에 마법 상태를 준비하는 실제 비클리퍼드 연산도 그대로 반영할 수 있다.

이번 연구는 이상적인 무노이즈 조건에서 50큐비트를 시뮬레이션했던 이전 Jülich 연구와 다르다. Forschungszentrum Jülich는 2025년 11월 11일, Jülich 연구팀이 NVIDIA 전문가들과 협력해 JUPITER에서 범용 50큐비트 양자 컴퓨터를 완전히 시뮬레이션했다고 발표했다. JUPITER는 2025년 9월 Forschungszentrum Jülich에서 가동을 시작했으며, 이번 성과는 Jülich 연구자들이 2019년 일본의 K computer에서 세운 48큐비트 기록을 넘어섰다. 당시 발표에 따르면 큐비트가 하나 추가될 때마다 연산 및 메모리 요구량은 두 배로 늘어나며, 50큐비트 시뮬레이션에는 약 2페타바이트의 메모리가 필요하다.

개발용 클러스터에서 GPU 8,192개까지

NVIDIA는 큐비트 수가 증가할수록 메모리 요구량이 기하급수적으로 늘어나기 때문에 대규모 시뮬레이션은 기존 컴퓨팅 시스템의 역량으로는 수행하기 어렵다고 밝혔다. NVIDIA Accelerated Quantum Research Center의 NVIDIA GB200 NVL72 시스템은 JUPITER 프로젝트의 개발 플랫폼으로 사용됐다. 이 시스템을 통해 연구자들은 JUPITER의 GPU 8,192개로 규모를 확대하기 전에 테스트를 GPU 4개에서 수백 개까지 단계적으로 늘릴 수 있었다. Bull이 구축한 JUPITER로 옮기기 전, 연구팀은 이 센터에서 시뮬레이션 방법을 개선하고 JUPITER의 결과와 비교했으며, 컴퓨팅 자원을 추가할 때 정확도가 어떻게 달라지는지 연구했다. NVIDIA는 이 작업을 통해 수 주가 걸리던 시뮬레이션을 며칠 만에 수행할 수 있게 됐다고 밝혔다.

기술 게시물에서는 이 실행을 뒷받침한 엔지니어링을 설명한다. 시뮬레이터는 연산 간 의존성과 측정 통계를 보존하면서 연산을 재구성하고, 큐비트를 측정해 해제할 때 저장 공간을 재사용한다. cuQuantum의 cuStateVec 라이브러리에서 실행할 수 있도록 삼준위 시스템을 묶어 이진 표현으로 저장한다. 삼준위 시스템 5개에는 기저 상태가 243개 있으며, 256개 항목을 담을 수 있는 8비트 이진 저장 공간에 들어간다. GPU 8,192개 구성에서 45비트로 인코딩된 레지스터는 약 35조 2천억 개의 복소 진폭을 나타낸다. 배정밀도에서는 상태 자체만으로 분산 GPU 메모리 512TiB, 즉 GPU당 64GiB를 차지한다.

시뮬레이션은 NVIDIA cuQuantum 소프트웨어와 CUDA-Q 플랫폼의 내결함성 논리 계층을 사용해 마법 상태 회로를 표현하고 실행했다. 이 프로젝트에서는 저장된 상태의 일부로 선정한 분할 영역을 살펴보는 분산 인수분해 도구도 개발했다. 이 도구를 이용해 더 간결한 표현에 어느 정도의 정보를 보존해야 하는지 조사함으로써, 상세한 상태 벡터를 기준으로 근사 시뮬레이션 방법을 시험할 수 있는 길을 마련했다. 이 도구에는 NVIDIA cuBLASMp와 cuSOLVERMp가 사용됐다.

연구 센터에서 소규모 패킹 회로 검증 사례를 수행한 결과, 텐서 네트워크 절단 임계값을 더 엄격하게 설정했을 때 독립적인 상태 벡터 계산과 텐서 네트워크 계산의 측정 확률이 약 10⁻¹³까지 일치했다고 연구팀은 밝혔다. 소규모 실행은 슈퍼컴퓨터 사용 시간을 투입하기 전에 필요한 GPU 수와 GPU 사용 시간을 추산하는 기준이 된다. 연구팀은 같은 접근법을 활용해 향후 서로 다른 누설 모델, 회로 스케줄, 오류 정정 프로토콜을 연구할 수 있으며, 각 연구는 관리 가능한 규모에서 검증한 뒤 더 큰 구성으로 확대할 수 있다고 밝혔다.