피오트르 토마식, 텐서웨이브의 공동 창립자 및 사장 – 인터뷰 시리즈

피오트르 토마식, 텐서웨이브의 공동 창립자 및 사장, 20년 이상의 경험을 가진 베테랑 기술 기업가이자 AI 인프라 전문가입니다. 2023년 텐서웨이브를 공동 창립하기 전에, 그는 인플루언셜(Influential), AI 기반 인플루언서 마케팅 플랫폼을 공동 창립했으며, 퍼블리시스(Publicis)에 약 5억 달러에 인수되었습니다. 그는 CTO로 일한 후 자문 역할로 전환했습니다.

그의 경력 동안, 토마식은 렛츠 롤로(Lets Rolo), 온 가드 데이터(On Guard Data), 액티브 사이드(ActiveSide)를 공동 창립하거나 이끌었으며, 카드닷컴(CARD.com)과 마커 트랙스(Marker Trax)에서 고위 기술 직책을 맡았습니다. 운영 역할 외에도, 그는 1864 펀드의 일반 파트너이며, 스타트업 베가스(StartUp Vegas)의 공동 창립자입니다. 여기서 그는 라스 베이거스 스타트업 생태계와 신생 기술 인재를 적극적으로 지원합니다. UNLV 컴퓨터 과학 졸업생이자 공인 기술 리더인 토마식은 텐서웨이브를 빠르게 성장하는 AI 컴퓨팅 인프라 회사로 자리매김하는 데 도움을 주었습니다. 이 회사는 대규모 GPU 클라우드 플랫폼을 제공하며, AMD 가속기를 사용합니다.

텐서웨이브는 AMD GPU를 사용한 고성능 클라우드 컴퓨팅을 제공하는 AI 인프라 회사입니다. 이 회사는 더 개방된 AI 생태계를 제공하는 대안으로 자리 잡고 있습니다. 2023년에 설립되어 라스 베이거스에 본사를 둔 이 회사는 대규모 GPU 클러스터를 구축하여 고급 AI 모델을 훈련하고 배포하는 데 최적화되었습니다. 성능, 유연성, 비용 효율성을 강조합니다. 개방형 하드웨어와 소프트웨어 생태계를 활용하여, 텐서웨이브는 기업, 연구자, 개발자에게 강력한 AI 컴퓨팅 자원을 제공합니다. 이는 전통적인 벤더 잠금을 제거하고, 확장 가능한 AI 워크로드를 가능하게 합니다.

Nvidia (NVDA ) 는 대부분의 GPU 시장을 지배하고 있습니다. 왜 AMD에 전적으로 집중하셨나요? 이 선택의 장점은 무엇인가요?

ChatGPT의 출시 이후, AI에 대한 수요가 급격히 증가했습니다. GPU는 빠르게 매각되었으며, NVIDIA는 거의 유일한 선택이었습니다. 그러나 이 부족은 대체재에 대한 관심을 불러일으켰습니다. 이제 초기 열기가 지나간 후, NVIDIA의 지배를 도전하는 기회가 있습니다.

스타트업으로서, 우리는 강한 집중력과 목적을 가진 비즈니스 결정을 내렸습니다. 그것이 우리가 NVIDIA와 실험하지 않은 이유이며, AMD의 능력을 계속 구축한 이유입니다. 우리 회사의 다음 단계는 그 집중된 능력을 통해 누구든지 의미 있는 일을 할 수 있도록 하는 것입니다. AMD는 실제 제조 규모, 개방형 소프트웨어 태도, 현대적인 AI를 위한 메모리 우선 로드맵을 갖춘 신뢰할 수 있는 대안입니다.

텐서웨이브의 AI 인프라 접근 방식은 전통적인 GPU 클라우드 제공업체와 어떻게 다르나요?

우리의 차별점은 간단합니다. 우리는 대규모에서 AMD 전용 클라우드이며, AI 컴퓨팅에서 선택을 회복시키고, NVIDIA의 지배를 깨뜨리며, 접근성을 민주화하는 것을 목표로 합니다. 하지만 그것은 또한 우리의 에토스와 진정한 대안을 제공하는 데 대한 우리의 약속입니다. 첫째, 우리는 예외적인 AMD 기반 인프라를 제공하고자 합니다. 그 다음, 우리는 그 위에 최상위 서비스를 제공할 것입니다. 모델을 서비스로, AI를 서비스로, 모든 것을 더 간단하게 만들 것입니다.

AMD 전용 클라우드로서, 우리는 AMD를 위해 특별히 설계된 소프트웨어 경험을 가지고 있습니다. 이 집중은 우리가 실리콘, 네트워킹, 소프트웨어를 끝까지 최적화할 수 있도록 해줍니다. 따라서 팀은 필요할 때 확장할 수 있습니다.

AMD와의 전략적 파트너십은 텐서웨이브의 성장과 차별화에 어떤 역할을 하나요?

그것은 기본적입니다. AMD는 텐서웨이브에 투자했으며, MI300X Instinct 출시에 우리를 초대했습니다. 우리는 하드웨어, 소프트웨어 활성화, 생태계 성장에 대해 긴밀하게 협력하고 있습니다. AMD 전용 클라우드로서, 우리는 각 Instinct 세대와 함께 빠르게 움직일 수 있으며, 우리 시장에서 대안을 제공하는 살아있는 실험실을 제공합니다. 우리의 AMD 전용 차별화는 우리가 AI 인프라 시장에서 달성하기 어려운 속도로 일할 수 있도록 해줍니다. 그들의 파트너십은 우리가 간격을 빠르게 메우고, 새로운 GPU에서 먼저 출하하며, 실제 성능을 대규모로 게시할 수 있도록 합니다.

GPU 접근은 여전히 AI 팀의 주요 병목 현상입니다. 텐서웨이브는 이 문제를 어떻게 해결하고 있나요?

우리는 먼저 공급 독립성을 통해 이 병목 현상을 해결합니다. AMD를 사용함으로써, 우리는 다른 칩 제조업체의 공급 제한의 최악을 피할 수 있으며, 가용성을 고객에게 넘길 수 있습니다. AMD를 통해 공급 독립성은 우리의 고객이 다른 모든 사람과 같은 대기열에 갇히지 않도록 합니다.

AI 인프라 생태계의 간격은 많은 플레이어가 유사한 솔루션을 구축하고 있기 때문에 발생합니다. 이는 시장 전반에서 발생하는 일에 대한 인식 부족에서 비롯됩니다. 이러한 간격을 메우는 첫 번째 단계는 누가 무엇을 하는지, 협력 기회는 어디에 있는지, 경쟁이 어떻게 혁신을 추동하는지, 그리고 궁극적으로 생태계가 어떻게 전체적으로 개선될 수 있는지 이해하는 것입니다. AI 인프라 시장에서 고유한 간격은 전력입니다. GPU가 사용 가능하더라도, 종종 AI 애플리케이션의 증가하는 수에 대한 지원을 위한 충분한 에너지가 없습니다. 이러한 자원 도전을 해결하는 것이 향후 지속 가능한 성장과 혁신을 가능하게 하는 우리의 핵심입니다.

직접 액체 냉각 및 UEC 준비 네트워킹(Universal Ethernet Consortium)이 성능과 비용 효율성을 어떻게 향상시킵니까?

직접 액체 냉각과 UEC 준비 네트워킹은 현대적인 AI 클라우드가 대규모에서 경제적으로 지속 가능한 방식으로 작동하는 데 기초적입니다. 이것은 우리가 텐서웨이브를 설계한 방식의 핵심입니다.

직접 액체 냉각에 관하여: 최신 가속기 세대, AMD의 MI355X와 MI455X는 효율적으로 처리할 수 있는 열 범위가 아닙니다. 우리는 1400W 이상의 TDP를 말하는 것입니다. 직접 액체 냉각은 냉각 판이나 침지 설계를 통해 열원을 제거하여, 고객에게 세 가지 이점을 제공합니다. 첫째, 이는 현저하게 더 높은 랙 밀도를 가능하게 합니다. 120-300kW 이상의 랙 대신 30-40kW로, 이는 발자국을 압축하고, 메가와트당 부동산 및 전력 배포 비용을 절감합니다. 둘째, 이는 PUE를 1.1까지 밀어냅니다. 1.4-1.5의 유산된 공기 냉각 시설 대신, 이는 우리의 규모에서 연간 공공 유틸리티 비용을 수십억 달러 절감합니다. 셋째, 그리고 종종 과소평가되는 것은, 직접 액체 냉각은 실리콘을 더 낮고, 더 안정적인 접합 온도로 유지하여, 긴 훈련 실행 중에 지속적인 시계 속도를 유지하고, 하드웨어의 유용한 수명을 연장합니다. 이는 6년 자산을 보증할 때 매우 중요합니다.

UEC에 관하여: 울트라 이더넷 컨소시엄 사양, AMD가 공동 설립하여 2025년에 1.0에 도달한, 이는 실제로 중요한 지표에서 인피니밴드(InfiniBand)를 충족하거나 초과하는 개방형, 상인 실리콘 패브릭을 제공합니다. 집합체의 꼬리 지연, 경쟁 상황에서의 효과적인 대역폭, 10만 개 이상의 GPU를 넘어서는 확장 동작. 비용 이야기는 구조적입니다. 이더넷에는 가격에 대한 경쟁을 하는 반도체 벤더가 있습니다. 반면에, 단일 소스 대안은 잘 문서화된 프리미엄을 가지고 있습니다. 100MW 사이트의 경우, UEC 준비 네트워킹을 사용하는 대신 독점적 인 패브릭을 선택하는 것은 일반적으로 9자리 CAPEX 결정입니다. 또한, 운영상의 이점은 우리의 네트워크 엔지니어가 이미 이더넷을 알고 있기 때문에 복합됩니다.

이 선택은 우리가 기존 클라우드보다 더 나은 훈련 경제를 제공할 수 있도록 합니다. 고객은 더 높은 효과적인 FLOPs를 더 낮은 비용으로 볼 수 있으며, 큰 작업에서 더 예측 가능한 단계 시간과, 모델이 확장함에 따라 명확한 런웨이를 제공합니다.우리에게 이는 더 방어 가능한 비용 구조와 진정으로 경쟁력 있는 요금 체계를 제공하는 유연성을 의미합니다.

고객이 텐서웨이브를 사용하여 대규모 AI 모델을 훈련하는 예를 공유할 수 있나요?

텐서웨이브 고객은 GPU 부족, 벤더 잠금, 또는 비용 폭주 없이 고성능 AI 컴퓨팅을 필요로 합니다. 텐서웨이브는 독점적인 AMD 클라우드를 제공합니다. 이는 개방형, 메모리 최적화, 생산 준비형이며, 팀은 확장 가능한 AI 인프라를 제공합니다. 이는 접근 가능하며, 유연하며, 비용 효율적입니다.

예를 들어, 모듈러(Modular)는 텐서웨이브의 AMD GPU 인프라에서 MAX 추론 스택을 실행하기로 결정했습니다. 텐서웨이브는 대규모 AI 추론을 위한 비용-성능 경제를 크게 개선합니다. 모듈러의 MAX를 텐서웨이브의 AMD 컴퓨팅에서 실행하면, 70% 낮은 비용, 57% 빠른 처리량, 다른 GPU 스택보다 낮은 전체 비용을 달성할 수 있습니다.

NVIDIA의 지속적인 지배력에서, 텐서웨이브와 같은 도전자의 가장 큰 기회는 어디에 있나요?

AI 컴퓨팅 공간에서 몇몇 주요 플레이어가 지배하고 있는 상황에서, 가장 큰 도전은 시장에 신속하게 접근하는 것입니다. 또한, 최신 기술을 제공하고, 예외적인 지원을 제공하는 것입니다. 하이퍼스케일러는 다양한 옵션을 제공하지만, 고객이 필요한 집중력과 개인화된 지침을 제공하는 데 어려움을 겪을 수 있습니다. NVIDIA의 지배를 깨뜨리기 위해, 텐서웨이브는 우리의 강점에 집중하고, 협력하여 최상의 기술을 제공하며, 고객에게 대안을 제공합니다.

텐서웨이브와 같은 NVIDIA의 AI 인프라 지배를 도전하는 두 가지 가장 큰 기회는 개방형 생태계와 메모리입니다. 개방형 생태계는 모든 계층(하드웨어, 인터커넥트, 소프트웨어)에서 잠금을 제거합니다. 또한, 네트워크 최적화된 훈련/추론을 위한 메모리는 비용 곡선을 뒤집습니다.

5년 후, AI 인프라의 미래와 텐서웨이브의 역할을 어떻게 상상하나요?

수년 동안, AI 인프라의 목표는 그것을 좋게 만들고, 안정적이고, 사용하기 쉽게 만드는 것이었습니다. 다음 단계는 그 위에 제공할 수 있는 것입니다. 관리 서비스, AI를 서비스로, 고객이 더 쉽게 배포하고 확장할 수 있도록 도와주는 모든 것입니다.

우리는 주요한 변혁의 시작에 있습니다. AI 기술은 계속 발전하고, AMD와 같은 대안은 점점 더 실행 가능해지고 있습니다. 이를 통해 고객은 대규모로 배포하는 데 더 편안해질 것입니다. 그리고 전체 생태계는 열리고 성장하기 시작할 것입니다.

이번 인터뷰에 감사드립니다. 이 혁신적인 AI 인프라 회사에 대해 더 배우고 싶은 사람은 텐서웨이브를 방문할 수 있습니다.