Axe Compute CEO Chris Miglino 인터뷰

Chris Miglino는 Axe Compute의 CEO로, 20년 넘게 기술 기업을 설립하고 성장시키며 투자해 온 경험을 갖고 있습니다. Social Reality를 공동 창업했으며 DNA Fund에서도 일하면서 기업가적 배경에 자본시장 및 인프라 투자 경험을 더했습니다. Axe Compute에서는 기업 고객을 위한 전용 AI 컴퓨팅 용량을 확장하는 데 따르는 운영 및 재무 과제에 주력하고 있습니다.

Axe Compute는 기업의 AI 워크로드를 위한 전용 베어메탈 GPU 인프라를 제공합니다. Axe Access는 이용 가능한 GPU 용량에 대한 접근을 제공하고, Axe Build는 고객의 장기적인 요구 사항을 바탕으로 인프라를 구축합니다. 이번 인터뷰에서 Miglino는 GPU 경제성, 전력 제약, 클러스터 성능, 구축 파트너십, 그리고 추론과 AI 에이전트로의 전환이 기업 인프라 수요를 어떻게 바꿀 수 있는지에 대해 이야기합니다.

공동 창업한 Social Reality부터 DNA Fund를 이끌고 현재 Axe Compute의 CEO로 재직하기까지, 20년 넘게 기업가로 활동해 오셨습니다. AI 인프라 시장에 처음 관심을 갖게 된 계기는 무엇이며, 기존 클라우드 제공업체가 충분히 해결하지 못하고 있다고 본 기회는 무엇이었나요?

제가 본 기회는 단순했습니다. AI는 이를 뒷받침하기 위해 구축된 인프라보다 빠르게 발전하고 있습니다. 저는 20년 넘게 기업을 설립하고 성장시키며 투자해 왔고, 그 격차에서 가장 큰 기회를 발견했습니다. Social Reality를 공동 창업한 일부터 DNA Fund에서의 업무에 이르기까지, 새로운 기술이 실질적인 상업적 가치로 이어지는 경로가 분명한 근본적인 문제에 늘 관심을 가져왔습니다. 기업들은 AI에 수십억 규모의 투자를 하고 있었지만, 그중 상당수는 사업성이 있는 비용으로 안정적인 컴퓨팅 용량을 확보하지 못했습니다. 기존 클라우드 제공업체는 대단한 사업을 일궈 왔지만, 그 인프라는 유연한 공유 환경을 중심으로 설계됐습니다. 24시간 내내 지속되는 고강도 컴퓨팅 AI 워크로드를 위한 것은 아니었습니다. 저도 직접 기업을 세워 본 만큼 기업에 필요한 것이 무엇인지 잘 압니다. 예측 가능한 비용, 안정적인 이용 환경, 그리고 확장할 여지입니다. 기업이 데이터센터 운영자가 되지 않고도 컴퓨팅을 직접 관리할 수 있도록, 엔터프라이즈 AI의 실제 요구 사항을 바탕으로 전용 인프라를 구축할 기회를 봤습니다. 제가 Axe Compute에 합류한 이유입니다. AI의 기반 인프라를 구축하는 기업들이 이 기술이 얼마나 멀리, 얼마나 빠르게 확장될지를 결정하게 될 것입니다.

기업들이 AI 도입을 가속화하면서 고성능 GPU 컴퓨팅에 대한 접근성이 중요한 고려 사항이 됐습니다. 기업들이 컴퓨팅 요구 사항에 관해 가장 흔히 오해하는 점은 무엇이며, 전용 GPU 인프라와 기존 클라우드 서비스를 어떻게 비교·평가해야 할까요?

가장 큰 오해는 GPU가 많을수록 AI 성능도 자동으로 좋아진다는 생각입니다. GPU를 둘러싼 아키텍처, 일관된 이용 가능성, 운영 비용 역시 그만큼 중요합니다. 두 번째 오해는 엔터프라이즈 소프트웨어용으로 만들어진 클라우드 모델이 AI에도 적합하다고 여기는 것입니다. 퍼블릭 클라우드는 실험이나 수요를 예측하기 어려운 경우, 빠르게 규모를 늘리거나 줄이는 워크로드에 적합합니다. 하지만 실제 서비스 단계에 들어가 무거운 워크로드를 24시간 내내 실행하면 비용 구조가 달라집니다. 더는 가끔씩 컴퓨팅을 이용하는 데 비용을 내는 것이 아닙니다. 종량제 가격 모델로 끊임없이 운영되는 산업 현장에 자금을 대는 셈입니다. 기업에는 시간당 GPU 요금만 보지 말고, 가동률과 워크로드 실행 시간, 네트워킹 요구 사항, 수년에 걸친 총비용을 살펴보라고 조언합니다. 전용 인프라는 지속적인 워크로드에 대해 비용 예측 가능성과 제어력을 제공하지만, 적합한 선택은 AI를 실제로 어떻게 활용할 계획인지에 따라 달라집니다.

Axe Compute는 Axe Access와 Axe Build라는 두 가지 모델을 제공해 GPU를 즉시 이용할 수 있는 환경과 목적에 맞게 구축한 AI 인프라를 모두 지원합니다. 각 모델이 어떻게 운영되는지, 어떤 고객을 대상으로 하는지, 그리고 조직이 자사의 AI 워크로드에 가장 적합한 방식을 어떻게 판단할 수 있는지 설명해 주시겠어요?

기업마다 같은 단계에서 출발하는 것은 아니며, 모두에게 동일한 인프라 모델을 강요해서도 안 되기 때문에 Axe Access와 Axe Build를 만들었습니다. Axe Access는 기존 운영을 확장하거나, 새 모델을 출시하거나, 현재 제공업체의 역량을 넘어선 조직이 지금 바로 전용 GPU 용량을 필요로 할 때 적합합니다. Axe Build는 용량부터 아키텍처와 운영에 이르기까지 장기적인 요구에 맞춰 설계된 전용 인프라가 필요한 고객을 위한 모델입니다. 두 모델의 차이는 시기, 규모, 맞춤화 수준에 있습니다. 워크로드를 즉시 실행해야 한다면 이용 가능한 용량부터 시작하면 됩니다. 수년에 걸친 AI 운영을 계획하고 있다면 그에 맞춰 구축해야 합니다. 제가 중요하게 생각하는 것은 고객이 수요를 실제 가동 용량으로 전환할 수 있는 실용적인 경로를 제공하는 것입니다. 기술은 실제로 활용할 수 있을 때에만 가치가 있기 때문입니다.

Axe Compute는 계약이 체결된 AI 인프라 프로젝트 규모가 34억 5천만 달러를 넘어섰다고 발표했으며, 이는 전용 컴퓨팅 용량에 대한 상당한 수요를 보여 줍니다. 이러한 계약을 실제 운영 가능한 GPU 클러스터로 전환하는 과정에서 가장 큰 어려움은 무엇이었으며, 이 속도로 인프라를 확장하면서 어떤 교훈을 얻으셨나요?

가장 중요한 교훈은 수요를 확보하는 일과 인프라를 제공하는 일이 전혀 다른 두 가지 분야이며, 두 가지 모두에서 탁월한 역량을 갖춰야 한다는 것입니다. 계약을 체결한 프로젝트가 34억 5,000만 달러를 넘는 만큼 시설, 전력, 조달, 자금 조달, 네트워킹, 클러스터를 가동하는 기술 작업에 이르기까지 모든 단계가 중요합니다. 각 단계는 저마다 일정이 다르기 때문에 한 곳에서 지연이 발생하면 전체 구축이 늦어질 수 있습니다. 가장 큰 문제는 전력입니다. 약속된 계약과 자금, 장비를 모두 확보해 두더라도 전력이 없으면 어느 것도 수익을 창출하지 못합니다. 프로젝트 진행 순서, 파트너 선정, 자본 배분을 체계적으로 관리하며 규모를 확장하는 법을 배웠습니다. 또한 계약된 프로젝트의 가치와 이미 구축되어 매출을 내는 인프라의 가치는 같지 않다는 점을 항상 명심합니다. 약속을 안정적으로 운영되는 용량으로 꾸준히 전환하는 기업이 승자가 될 것입니다. 실행력이 곧 비즈니스 모델입니다.

AI 인프라를 논할 때 GPU 수급이 주로 주목받지만, 전력, 냉각, 네트워킹, 데이터센터 용량도 그에 못지않은 제약 요인이 될 수 있습니다. 이 가운데 장기적으로 AI 확장성에 가장 큰 위협이 될 병목은 무엇이라고 보시며, Axe Compute는 이러한 문제에 어떻게 대응하고 있습니까?

전력입니다. 전력 시스템을 제외하면 AI 인프라의 거의 모든 요소는 전력 시스템보다 더 빠르게 확장하거나 업그레이드할 수 있습니다. GPU 기술은 빠르게 발전하고, 자본은 투입할 수 있으며, 시설도 건설할 수 있습니다. 하지만 송전선, 전력망 연결, 대규모 발전 설비를 갖추는 데는 AI 기업의 계획 주기를 훨씬 넘기는 경우가 많은 시간이 걸립니다. 막대한 규모의 새로운 컴퓨팅 수요를 수용할 수 있도록 예측 가능한 수요를 바탕으로 전력망을 구축해야 합니다. 하드웨어에 더 많은 돈을 쓴다고 해결될 문제가 아닙니다. Axe Compute는 현실적인 전력 공급 여건에 맞춰 인프라 개발을 진행하고, 고밀도 AI 구축을 잘 이해하는 파트너와 협력합니다. 특히 랙 밀도가 높아질수록 냉각과 네트워킹도 중요하지만, 안정적이고 저렴한 전력이 AI 인프라가 구축될 위치와 운영자가 수익성을 유지하며 규모를 확장할 수 있는지를 좌우할 것입니다.

고성능 AI 클러스터를 구축하는 일은 GPU 수천 대를 조립하는 것보다 훨씬 복잡합니다. 네트워킹 아키텍처, 스토리지 처리량, 워크로드 오케스트레이션, GPU 활용률 같은 요소는 실제 성능에 어떤 영향을 미치며, 기업은 기술적 복잡성을 가장 자주 어디에서 과소평가합니까?

GPU가 가장 많은 주목을 받지만, 성능은 주변의 모든 요소에 달려 있습니다. 기업이 복잡성을 과소평가하는 지점도 바로 여기에 있습니다. 매우 강력한 프로세서를 배치하더라도 네트워크가 프로세서 사이에서 데이터를 효율적으로 전송하지 못하거나 스토리지가 데이터를 충분히 빠르게 공급하지 못하면, 사용하지도 못하는 용량에 비용을 지불하게 됩니다. GPU 간 통신이 모델 학습 완료 시점에 상당한 영향을 줄 수 있는 대규모 학습에서는 특히 중요합니다. 오케스트레이션도 또 다른 복잡성을 더합니다. 용량을 유휴 상태로 남기지 않으면서 작업 일정, 자원 배분, 장애, 변동하는 수요를 관리해야 하기 때문입니다. 저는 이론상 사양이 아니라 실제로 유용한 결과물을 기준으로 성능을 평가합니다. 효율적으로 운영되는 클러스터는 비효율적으로 돌아가는 더 큰 클러스터보다 훨씬 나은 비용 효율성을 제공할 수 있습니다. AI 인프라는 하드웨어, 소프트웨어, 운영 전반에 걸쳐 지속적으로 최적화해야 합니다. 장비를 한 번 구매하는 것으로 끝나는 일이 아닙니다.

Axe Compute는 최근 대규모 AI 인프라 구축을 가속하기 위해 Penguin Solutions와 전략적 파트너십을 발표했습니다. 이 파트너십을 통해 구체적으로 어떤 기술 및 운영 역량을 확보하게 되며, 안정성과 성능을 유지하면서 구축 기간을 단축하는 데 어떤 도움이 될까요?

Penguin은 세 가지를 제공합니다. 지정된 GPU 클러스터 사이트에서 전문가 주도로 구축 및 운영 서비스를 제공하고, 대규모 클러스터 운영을 관리하는 소프트웨어 ClusterWareAI를 제공하며, Penguin 팀이 우리 팀과 함께 24시간 연중무휴 네트워크 운영 센터 서비스를 제공합니다. 이는 다음 단계의 AI 인프라 성장이 기업이 복잡한 환경을 얼마나 효율적으로 대규모 구축하고 운영할 수 있는지에 달려 있기 때문에 중요합니다. AI 클러스터를 구축하려면 컴퓨팅, 네트워킹, 스토리지, 관리 시스템을 통합해 까다로운 워크로드에서도 안정적으로 작동하는 환경을 조성해야 합니다. Penguin의 전문가들은 구축 역량을 보태므로 더 빠르게 배치하고, 더 많은 구축 프로젝트를 수행하며, 실행 위험을 줄일 수 있습니다. 목표는 성능을 저하시키지 않으면서 구축 과정을 더 반복 가능하고 예측 가능하게 만드는 것입니다. 프로젝트를 앞당겨도 인프라가 가동 후 안정적으로 운영되지 않으면 가치가 생기지 않기 때문입니다.

AI가 대규모 모델 학습을 넘어 추론, 자율 에이전트, 실시간 애플리케이션으로 발전함에 따라 기업의 컴퓨팅 요구 사항은 어떻게 달라질 것으로 예상하십니까? 이러한 변화는 GPU 클러스터의 설계, 구축, 지리적 분산 방식을 근본적으로 바꿀까요?

추론은 궁극적으로 상업용 AI 인프라 시장에서 막대한 비중을 차지하게 될 것입니다. 특히 기업들이 모델을 구축하는 데서 나아가 제품과 운영, 고객 접점 서비스에 AI를 접목하면서 그 비중은 더욱 커질 것입니다. 모델 학습은 특정 시기에 집중적으로 이루어집니다. 반면 추론에서는 가용성, 지연 시간, 처리량, 그리고 수백만 건의 요청을 지속적으로 처리하는 능력이 중요합니다. 에이전트는 여기에 또 다른 층위를 더합니다. 여러 작업을 수행하면서 워크플로 전반에 걸쳐 모델을 반복해서 호출하기 때문입니다. 요청 하나하나는 규모가 작을 수 있지만, 전체 수요는 빠르게 늘어납니다. 까다로운 워크로드는 대규모 중앙 집중형 클러스터가 계속 처리하고, 응답 시간과 데이터 상주 요건이 중요한 애플리케이션은 지리적으로 더 분산된 용량이 지원하게 될 것으로 봅니다. 기업들은 모든 작업에 가장 강력한 GPU가 필요하다고 가정하기보다, 각 워크로드에 적합한 하드웨어를 선택하는 데도 능숙해질 것입니다. 제가 기대하는 점은 수요가 훨씬 더 다양해진다는 것입니다. 이는 적절한 위치에서 적절한 비용 구조로 알맞은 용량을 제공할 수 있는 사업자에게 유리하게 작용합니다.

AI 인프라를 구축하려면 상당한 초기 자본이 필요한 반면, GPU 기술은 계속 빠르게 발전하고 있습니다. Axe Compute는 전용 GPU 클러스터의 자금 조달 및 운영에 따른 경제성을 어떻게 고려하며, 기업은 내용연수가 끝나기도 전에 구식이 될 수 있는 고가의 하드웨어에 발이 묶이지 않으려면 어떻게 해야 할까요?

하드웨어가 아니라 고객 수요에서 출발해야 합니다. 비싼 장비를 사들인 다음 가동률이 따라오기를 기대하는 것은 순서가 거꾸로 된 접근입니다. 이 사업은 소프트웨어 사업이 아닙니다. 막대한 물리적 자산과 긴 구축 기간, 짧은 시간 안에 극적으로 발전하는 기술을 다뤄야 합니다. Axe Compute의 접근 방식은 계약으로 확보한 수요, 엄격한 배치 원칙, 그리고 지속적인 용량이 필요한 고객을 중심으로 구축한 인프라에 기반합니다. 기술의 노후화는 현실적인 문제지만, 더 이상 최신 제품이 아닌 GPU라고 해서 상업적 가치가 없는 것은 아닙니다. 모든 추론 애플리케이션이나 기업용 AI 시스템에 최신 세대 하드웨어가 필요한 것은 아니며, 워크로드를 현명하게 배분하면 기존 인프라의 생산적인 수명을 연장할 수 있습니다. 고객은 계약 전체 기간을 고려해 가동률과 성능 요구 사항, 기술 변화에 따른 유연성 측면에서 경제성을 따져봐야 합니다. 목표는 인프라의 경제적 내용연수가 투입된 자본을 뒷받침하도록 하는 것이지, 하드웨어가 영원히 초기 가치를 유지해야만 성립하는 사업 모델을 구축하는 것이 아닙니다.

앞으로 3~5년을 내다볼 때 AI 인프라 분야에서 혁신과 투자의 기회가 가장 큰 곳은 어디라고 보십니까? 시장이 하이퍼스케일러와 대형 GPU 공급업체 중심으로 계속 집중될까요, 아니면 전문 인프라 기업들이 기업의 AI 컴퓨팅 역량 이용 방식을 근본적으로 바꿀 수 있을까요?

이처럼 규모가 크고 복잡한 시장은 소수의 사업자가 모두 같은 인프라 모델을 운영하는 방식으로는 효율적으로 뒷받침하기 어렵습니다. 하이퍼스케일러는 앞으로도 매우 중요한 역할을 하겠지만, 저는 향후 3~5년 동안 전문 사업자들의 전망을 매우 낙관적으로 보고 있습니다. 기업이 일상적으로 의존하는 인프라에 AI 투자를 연결하는 일은 아직 초기 단계입니다. 기업마다 성능, 데이터 주권, 비용, 일정, 지리적 위치와 관련한 요구가 다르며, 이는 우리와 같은 사업자에게 실질적인 기회를 만들어 줍니다. 제가 특히 주목하는 투자 기회는 전력 인프라, 효율이 더 높은 냉각, 첨단 네트워킹, GPU 가동률을 높이는 소프트웨어입니다. 이러한 요소들이 AI의 경제성을 직접적으로 좌우하기 때문입니다. 투자자들이 해당 자산과 계약 용량에서 발생하는 현금 흐름에 더 익숙해지면서 자금 조달 방식도 발전할 것입니다. Axe Compute가 얻을 기회는 AI를 실제 운영 환경에 도입하는 데 진지한 조직이 전용 AI 용량을 더 쉽게, 더 예측 가능하고 확장성 있게 이용할 수 있도록 해 이 시장을 함께 키워 나가는 것입니다. 이것이 바로 우리가 말하는 ‘타협 없는 컴퓨팅’입니다.

훌륭한 인터뷰에 감사드립니다. 전용 GPU 용량과 기업용 AI 인프라를 살펴보고 싶은 독자는 Axe Compute를 방문해 보시기 바랍니다.