파트너십
AMD 기반 Lux 슈퍼컴퓨터에서 Heaviside를 훈련하는 Arena Physica
Unite.AI를 Google의 선호 소스에 추가
Arena Physica는 2026년 11월 12일 발표에서 AMD와 협력해 Oak Ridge National Laboratory의 Lux 슈퍼컴퓨터에서 Heaviside 전자기 모델의 차세대 버전을 훈련할 계획이라고 밝혔다. 이 프로젝트는 2026년 9월에 공개된 3억 5,000만 개 매개변수의 모델 Heaviside-1을 기반으로 한다.
Arena Physica는 Heaviside를 전자기학을 위한 최초의 파운데이션 모델이라고 설명하며, 초기 버전이 25만 개의 3차원 장 시뮬레이션을 바탕으로 훈련됐다고 밝혔다. 이 시뮬레이션에는 개별 장 샘플 5,000억 개가 포함됐다. 이러한 수치는 AMD와 함께 진행할 작업의 기준이 되며, 이 작업은 Lux에서 훈련한 후속 모델의 출시가 아니라 계획된 훈련 프로그램이다.
시뮬레이션 데이터가 연산 수요를 좌우한다
각 훈련 샘플은 전체 파동 전자기 시뮬레이션에서 생성되며, 이 과정에서는 구조물의 상세한 3D 모델 전반에 걸쳐 맥스웰 방정식을 푼다. 따라서 훈련 데이터 집합을 만드는 일은 모델 개발에서 연산 집약적인 단계이며, 실제 훈련에 필요한 연산과는 별도로 부담이 발생한다.
Arena Physica의 최고연구책임자 Michael Frei는 “이러한 장은 국소적인 작은 특징부터 구조물 전체에 이르기까지 설계 세부 사항에 매우 민감합니다. 그 복잡성을 포착하려면 충실도가 높은 대량의 데이터와 목적에 맞게 설계된 모델 아키텍처가 필요합니다”라고 말했다.
Arena Physica는 이러한 요구 사항을 Christopher M. Bryant와 Hao Liu가 작성한 논문 실용적 스케일링 법칙과 연결했다. 이 논문은 현대 모델 훈련을 이끄는 스케일링 법칙이 데이터가 풍부한 단일 에포크 사전 훈련을 기준으로 보정됐다고 주장하며, 그 조건을 벗어날 때 나타나는 구조적 한계를 짚는다. 논문에서 제안한 공식은 손실을 용량 부족, 훈련 부족, 과적합 항으로 나누는 한편, 고유한 예제의 수와 지금까지 접한 전체 예제 수를 구분한다.
보정이 끝나면 이 공식은 비용을 고려한 자원 배분을 지원하며, 데이터 비용이 높아질수록 더 작은 데이터 집합과 더 많은 에포크에 무게를 둔다. 이를 Heaviside에 적용하면 추가로 고유한 시뮬레이션을 생성하는 것과 기존 데이터를 반복해서 훈련에 사용하는 것 사이의 인프라상 절충 관계가 드러난다.
Lux가 대규모 훈련 역량을 제공한다
Oak Ridge Leadership Computing Facility의 Lux 사양에는 AMD MI355X GPU 4,000개 이상, 고대역폭 메모리 1.1페타바이트, FP8 AI 훈련 성능 20엑사플롭스가 명시돼 있다. MI355X 한 개에는 HBM3E 메모리 288GB와 초당 8TB의 대역폭이 제공된다. 할당 자원에는 OLCF의 Lustre 파일 시스템인 Orion 이용 권한도 포함되며, 용량은 600페타바이트가 넘는다.
이 수치들은 Lux의 역량을 나타내며, 측정된 Heaviside의 속도 향상을 뜻하지는 않는다. 이 역량은 작업 부하의 양쪽 모두와 관련이 있다. 훈련을 위한 가속기 처리량뿐 아니라 훈련에 투입되는 시뮬레이션 데이터 집합을 위한 메모리와 저장 공간도 포함된다.
계획 중인 모델은 칩과 통신 분야를 겨냥한다
Arena Physica는 향후 Heaviside 버전에서 원거리 방사 패턴, 더 복잡한 기하 구조, 더 넓은 주파수 범위를 다루고, 더 큰 구성 요소와 전체 시스템으로 범위를 확장할 계획이다. 적용 분야로는 5G·6G 및 위성 통신용 안테나, 자동차 무선 주파수 센싱, 반도체 패키징과 신호 무결성이 포함된다.
반도체 분야에서 제시된 용도에는 고속 SerDes 설계가 포함된다. AMD의 기업 AI 전략 담당 부사장 Kumaran Siva는 이 작업을 3D 칩 패키징 및 SerDes 속도가 초당 224기가비트에서 448기가비트로 높아지는 추세와 연결하며, 이러한 변화로 인해 전자기 거동이 반도체 설계에서 가장 어려운 문제 중 하나가 됐다고 말했다.
Arena Physica에 따르면 Heaviside는 기존 솔버보다 몇 자릿수 더 빠르고 저렴하게 전자기 거동을 예측하고 자율 역설계를 가능하게 하도록 설계됐다. 이는 모델 개발 목표이지, Lux 협업에서 측정된 성능이 아니다.
Arena Physica는 앞으로 몇 달 동안 Lux에서 훈련을 진행하면서 결과를 공유할 계획이다. 이러한 보고를 통해 Lux 규모의 훈련이 회사가 제시한 더 넓은 주파수 범위와 기하 구조, 전체 시스템을 아우르는 범위를 실제로 구현할 수 있는지 평가할 실질적인 근거를 얻을 수 있을 것이다.
