Meridian Cloud, 추론용 AI 클러스터 설계를 위해 Aria Networks 선정

Meridian Cloud는 2027년 2분기 출시 예정인 전용 AI 추론 클라우드의 네트워킹 파트너로 Aria Networks를 선정했다. 양사는 클러스터 구축을 더욱 반복 가능하게 하고, 엔지니어링 사양과 비용 추정치, 실제 운영에 이르는 일정을 더 명확히 제시할 표준화된 검증 완료 네트워크 설계를 개발할 계획이다.

11월 5일 발표된 이번 파트너십에 따라 Aria는 장비 설치에 앞서 계획 수립 과정에 참여한다. 협력 범위에는 백엔드 GPU 패브릭과 프런트엔드 및 스토리지 네트워크의 규모 산정, 토폴로지와 케이블 배선 설계, 그리고 Meridian의 구축 일정에 맞춘 공급 및 배송 조율이 포함된다.

양사가 공동으로 개발한 첫 번째 참조 설계는 2027년 2분기에 Meridian 고객과 시설 파트너에게 제공될 예정이다. 이번 발표가 다루는 것은 개발 및 구축 프로그램이며, Meridian의 신규 추론 클라우드가 이미 완전히 구축됐다는 내용은 아니다.

새 클러스터마다 새로운 엔지니어링 프로젝트를 벌이지 않도록

Meridian은 엔지니어링, 컴퓨팅, 구축, 네트워킹 분야의 전문 파트너가 지원하는 소규모 중앙 팀을 운영하는 방식을 택했다. Aria는 이 작업의 결과를 시설 유형별로 최적화한 참조 설계 라이브러리로 만드는 데 힘을 보탤 예정이다.

각 시설에서 사용할 수 있는 전력을 바탕으로 시작해, 네트워킹 요구사항이 이미 검증된 구성에 맞추는 것이 기본 구상이다. 이렇게 하면 공사가 시작되기 전에 사양과 비용을 정할 수 있어, 시설마다 패브릭을 별도의 엔지니어링 작업으로 다시 설계하는 일을 피할 수 있다.

전용 클라우드 고객에게 이러한 표준화가 제공하는 가치는 예측 가능성이다. 클러스터는 주문한 가속기의 수만으로 완성되지 않는다. 케이블 경로, 스위치 용량, 호스트 연결, 스토리지 트래픽, 장비 배송 시점도 시스템이 유용한 작업을 시작할 수 있는 시기에 영향을 미친다.

Meridian Cloud의 CEO인 Vic Rose는 “Aria의 현장 상주 엔지니어들은 첫날부터 우리 팀에 합류해 네트워크 설계, 공급 및 구축 계획을 함께 진행하고 있습니다. 또한 고객 작업이 한 번이라도 실행되기 전에 모든 케이블과 링크, 구성을 검증하고 있습니다”라고 말했다.

추론에서 네트워크가 핵심 경로가 되는 이유

추론은 학습된 모델을 실행해 답변을 생성하는 과정이다. 분산 환경에서는 이 과정의 일부와 이를 뒷받침하는 데이터가 여러 머신 사이를 이동할 수 있으므로, 통신에 걸리는 시간도 사용자가 체감하는 응답 시간에 포함된다.

한 가지 예로 분리형 추론이 있다. 이 방식에서는 프롬프트 처리와 토큰 생성이 별도의 리소스에서 이뤄진다. 시스템은 요청과 관련된 중간 어텐션 데이터인 모델의 키-값 캐시를 한 리소스에서 다른 리소스로 옮겨야 할 수 있다. 이 경로에 혼잡이 발생하면 GPU 자체를 사용할 수 있는 상황에서도 작업이 지연될 수 있다.

Aria의 추론 네트워킹에 관한 기술 논의는 호스트 활동과 네트워크 원격 측정 데이터를 연계하는 데 중점을 둔다. 주기적으로 새로 고침되는 대시보드에서 정상으로 보이는 포트도 애플리케이션 성능에 영향을 주는 짧은 장애를 겪을 수 있다.

파트너십 발표에서는 몇 초마다 데이터를 수집하는 도구로는 놓칠 수 있는 혼잡, 성능이 저하되는 광통신 부품, 호스트 측 문제를 지적한다. 이러한 이벤트를 감지하려면 링크의 연결 여부만 확인하는 것보다 더 세밀한 가시성이 필요하다.

추론 사업에서 이는 기술적 문제인 동시에 사업상의 문제이기도 하다. 데이터가 도착하기를 기다리는 시간만큼, 전력을 계속 소비하고 소유 비용도 발생하는 하드웨어의 유용한 산출량이 줄어든다. 운영 성과를 평가할 때는 링크 속도만이 아니라 응답 지연 시간, 유효 처리량, 토큰 100만 개당 비용을 살펴야 한다.

Aria의 Deep Networking이 더하는 가치

Aria는 Deep Networking을 스위칭 하드웨어, Aria Operating System, 세밀한 원격 측정, 전문 에이전트를 결합한 공동 설계 시스템으로 설명한다. Meridian의 발표에는 800G Aria Switch 플랫폼과 다양한 가속기 공급업체의 제품을 사용할 수 있도록 설계된 표준 기반 이더넷 패브릭이 명시돼 있다.

회사는 스위치, 광통신 부품, 호스트 전반에서 기존 도구보다 100~10,000배 높은 해상도의 원격 측정 데이터를 제공한다고 주장한다. 이는 측정 해상도에 관한 주장이지, Meridian의 애플리케이션이 100~10,000배 더 빨리 실행된다는 뜻은 아니다.

Aria의 제품 개요에는 하드웨어에 관한 추가 정보가 담겨 있다. 800G 스위치는 2랙 유닛 섀시에 800GbE 포트 64개를 탑재하고, RoCEv2와 레이어 2/레이어 3 네트워킹을 지원하며, 전용 원격 측정 프로세서를 포함한다. RoCEv2는 이더넷을 통해 원격 직접 메모리 액세스를 가능하게 하는 기술로, 고성능 클러스터에서 머신 간 데이터를 효율적으로 이동하는 데 사용된다.

같은 제품 페이지에서는 GPU 호스트 데이터와 스위치 데이터를 연계하고, 전문 에이전트가 진단 도구를 선택하며, 안내에 따라 문제 해결 절차를 실행하는 기능도 소개한다. 이는 하드웨어 설계와 함께 운영 가시성도 중요하다는 점을 보여준다. 네트워크는 구축을 마친 뒤에도 관측하고 유지 관리할 수 있어야 한다.

두 회사는 이번 협력과 관련해 Meridian 공동 배포 벤치마크나 토큰당 비용 절감 폭을 측정한 결과를 공개하지 않았다. 이러한 성과는 배포되는 워크로드와 구성, 그리고 실제 운영 트래픽에서 네트워크가 어떻게 작동하는지에 따라 달라질 것이다.

Meridian의 전용 추론 모델

Meridian은 웹사이트에서 고객의 워크로드에 맞춘 전용 용량을 중심으로 서비스를 소개하며, NVIDIA와 AMD 하드웨어는 물론 특수 추론 가속기도 선택할 수 있다고 설명한다. 관리형 오케스트레이션과 베어메탈 운영 모델도 제공한다고 밝히고 있다.

이는 더 폭넓은 서비스 제안에 대한 설명일 뿐, 광고된 모든 구성이 초기 Aria 레퍼런스 설계 라이브러리에 포함된다는 뜻은 아니다. 이번 협력 발표에는 첫 시설의 위치, 고정된 클러스터 규모, 고객 요금이 명시되어 있지 않다.

Meridian이 전용 용량에 중점을 두면서 계획 수립 방식도 달라진다. 고객은 공유 자원의 가용성에만 의존하는 대신, 예상 트래픽과 모델 특성, 서비스 요구 사항에 맞게 설계된 시스템이 필요하다. 반복해서 활용할 수 있는 네트워크 설계는 이러한 계획을 더 쉽게 세우도록 돕는 동시에 워크로드별 선택의 여지도 남길 수 있다.

반복 가능한 실행에 초점을 맞춘 협력

Aria는 설계부터 실제 배포까지 담당하며, 각 사이트에서 얻은 교훈을 후속 설치와 소프트웨어 개선에 반영할 예정이다. 목표는 네트워크 엔지니어링을 반복적으로 불확실성을 야기하는 요소가 아니라 Meridian의 출시 과정에서 재사용할 수 있는 구성 요소로 만드는 것이다.

단기적으로 예정된 구체적인 이정표는 공동 레퍼런스 설계와 2027년 2분기로 계획된 클라우드 출시다. 그 이후에는 검증된 설계와 한층 세밀한 운영 가시성이 고객 워크로드가 실행되기 시작한 뒤에도 예정대로 구축을 완료하고 일관된 추론 성능을 제공하는 클러스터로 이어지는지가 이번 협력의 성패를 가를 것이다.