GMI 클라우드의 설립자이자 CEO인 Alex Yeh – 인터뷰 시리즈

Alex Yeh는 GMI 클라우드의 설립자이자 CEO입니다. GMI 클라우드는 벤처 자본을 지원받은 디지털 인프라 회사로, 누구나 쉽게 AI를 배포할 수 있도록 하고, 통합된 하드웨어와 소프트웨어 솔루션을 통해 비즈니스들이 AI를 구축, 배포, 확장하는 것을 간소화하는 것을 목표로 합니다.

당신은 GMI 클라우드를 설립한 이유와 배경이 무엇인가요? 또한, 당신의 경험이 회사 구축에 어떻게 영향을 미쳤나요?

GMI 클라우드는 2021년에 설립되었으며, 초기 2년 동안은 주로 데이터 센터를 구축하고 운영하여 비트코인 컴퓨팅 노드를 제공하는 데 중점을 두었습니다. 이 기간 동안 우리는 아칸소와 텍사스에 3개의 데이터 센터를 설립했습니다.

작년 6월, 우리는 투자자와 고객으로부터 GPU 컴퓨팅 파워에 대한 강한 수요를 느꼈습니다. 1개월 이내에 우리는 AI 클라우드 인프라로 방향을 전환하기로 결정했습니다. AI의 빠른 발전과 새로운 비즈니스 기회는 예측하기 어렵거나 설명하기 어려울 수 있습니다. GMI 클라우드는 이러한 기회를 지원하기 위해 필수적인 인프라를 제공하는 것을 목표로 합니다.

GMI 클라우드 이전에,私は 벤처 캐피탈 회사에서 파트너로 일했습니다. 나는 새로운 산업과 자주 접촉했습니다.私は 인공 지능을 21세기의 최신 “골드 러시”로 본다. GPU와 AI 서버는 현대의 “프로스펙터”에게 “픽액스”로 작용하여 GPU 컴퓨팅 파워 렌탈에 전문적인 클라우드 회사의 빠른 성장을 촉진합니다.

GMI 클라우드의 AI 인프라를 간소화하는 임무는 무엇이며, 왜 이것이 오늘날의 시장에서 इतन 중요한가요?

AI 인프라를 간소화하는 것은 현재의 복잡성과 분할로 인해 접근성과 효율성이 제한될 수 있기 때문에 필수적입니다. 오늘날의 AI 설정은 데이터 전처리, 모델 훈련, 배포, 확장 등 여러 단계가 포함되어 있으며, 이러한 단계를 관리하는 데에는 상당한 시간, 전문 기술, 자원이 필요합니다. 많은 회사들은 AI 인프라의 최적의 레이어를 식별하는 데 몇 주나 몇 개월이 걸릴 수 있으며, 이는 사용자 경험과 생산성에 영향을 미칩니다.

1. 배포 가속: 간소화된 인프라는 AI 솔루션의 개발과 배포를 가속화하여 회사들이 시장의 변화를 따라갈 수 있도록 도와줍니다.
2. 비용 절감 및 자원 감소: 특수한 하드웨어와 사용자 정의 통합의 필요성을 최소화함으로써, 간소화된 AI 스택은 비용을 크게 줄일 수 있으며, 특히 작은 비즈니스에게 AI를 더 접근하기 쉽게 만들어줍니다.
3. 확장성: 잘 통합된 인프라는 효율적인 자원 관리를 가능하게 하며, 이는 애플리케이션을 확장하는 데 필수적입니다. 이는 AI 솔루션이 더 큰 규모에서 강력하고 반응성이 있도록 합니다.
4. 접근성: 간소화된 인프라는 더广い 범위의 조직이 기술 전문 지식 없이 AI를 채택할 수 있도록 합니다. 이는 혁신을 촉진하고 더 많은 산업에서 가치를 창출합니다.
5. 신속한 혁신: AI 기술이 발전함에 따라, 더 복잡하지 않은 인프라는 새로운 도구, 모델, 방법을 통합하기 더 쉬워지며, 이는 조직이 민첩하게 혁신할 수 있도록 합니다.

GMI 클라우드의 AI 인프라를 간소화하는 임무는 기업과 스타트업이 AI의 이점을 완전히 실현하는 데 필수적입니다. 이는 AI를 접근성, 비용 효율성, 확장성 있게 만듭니다.

최근에 8,200만 달러의 시리즈 A 자금을 확보했습니다. 이 새로운 자본을 어떻게 사용할 계획이며, 어떤 즉각적인 확장 목표가 있나요?

GMI 클라우드는 이 자금을 콜로라도에 새로운 데이터 센터를 열고, 주로 H200 GPU를 구입하여 추가적인 대규모 GPU 클러스터를 구축하는 데 사용할 계획입니다. GMI 클라우드는 또한 클라우드 네이티브 리소스 관리 플랫폼인 Cluster Engine을 개발 중이며, 이는 우리의 고급 하드웨어와 무결하게 통합됩니다. 이 플랫폼은 가상화, 컨테이너화, 오케스트레이션에서 비할 데 없는 기능을 제공합니다.

GMI 클라우드의 고유한 접근 방식이나 기술은 무엇이며, 어떻게 конкур사와 비교할 수 있나요?

GMI 클라우드의 고유한 접근 방식의 핵심은 NVIDIA (NVDA ) 의 NCP를 활용하는 것입니다. 이는 GMI 클라우드에게 GPU와 다른 최첨단 자원에 대한 우선적인 접근을 제공합니다. 제조업체로부터의 직접적인 조달과 강력한 재무 옵션의 조합은 비용 효율성과 매우 안전한 공급망을 보장합니다.

NVIDIA H100 GPU를 5개의 글로벌 위치에서 제공하는 것은 어떻게 고객의需求을 충족하는 데 도움이 되나요?

GMI 클라우드는 글로벌적으로 존재하며, 여러 국가와 지역을 서비스합니다. 현재 GMI 클라우드는 수천개의 NVIDIA Hopper 기반 GPU 카드를 운영하며, 다음 6개월 동안 자원을 급격히 확장할 계획입니다. 이는 고객에게 지연 시간을 줄이고 데이터 전송 효율성을 최적화하는 데 도움이 됩니다.

추가적으로, GMI 클라우드의 글로벌 능력은 다양한 시장需求과 규제 요구 사항을 이해하고 충족하는 데 도움이 됩니다. 이는 고객에게 맞춤형 솔루션을 제공하는 데 도움이 됩니다. 증가하는 컴퓨팅 자원은 AI 컴퓨팅 파워에 대한 수요를 충족하는 데 도움이 되며, 고객에게 모델 훈련, 정확도, 모델 성능을 향상시키는 데 필요한 계산 능력을 제공합니다.

AI 네이티브 클라우드 서비스의 리더로서, 어떤 트렌드나 고객需求에 집중하고 있나요?

GPU에서 애플리케이션까지, GMI 클라우드는 고객을 위한 지능형 변화를 추진합니다.

하드웨어 아키텍처:

• 물리적 클러스터 아키텍처: 1250 H100과 같은 인스턴스는 GPU 랙, 리프 랙, 스파인 랙을 포함하며, 서버와 네트워크 장비의 최적화된 구성으로 고성능 컴퓨팅 파워를 제공합니다.
• 네트워크 토폴로지 구조: 효율적인 IB 패브릭과 이더넷 패브릭으로 설계되어 데이터 전송과 통신을 원활하게 합니다.

소프트웨어 및 서비스:

• 클러스터 엔진: 자원 관리를 위한 인하우스 개발 엔진을 사용하여 베어 메탈, 컨테이너, HPC 슬럼을 관리하며, 사용자와 관리자에게 최적의 자원 할당을 제공합니다.
• 프라이버시 클라우드 플랫폼: CLUSTER ENGINE은 자원 스케줄링을 최적화하는 프라이버시 클라우드 관리 시스템으로, 유연하고 효율적인 클러스터 관리 솔루션을 제공합니다.

추론 엔진 로드맵:

1. 지속적인 컴퓨팅, 높은 SLA 보장.
2. 시간 공유를 위한 분수 시간 사용.
3. 스팟 인스턴스.

컨설팅 및 맞춤 서비스:: 컨설팅, 데이터 리포팅, 컨테이너화, 모델 훈련 추천, 맞춤형 MLOps 플랫폼을 포함한 맞춤 서비스를 제공합니다.

강력한 보안 및 모니터링 기능:

역할 기반 접근 제어, 사용자 그룹 관리, 실시간 모니터링, 기록 추적, 경고 알림을 포함합니다.

다음 몇 년 동안 AI 인프라에 대한 가장 큰 도전과 기회는 무엇이라고 생각하나요?

도전:

1. 확장성 및 비용: 모델이 더 복잡해짐에 따라, 확장성과 비용 효율성을 유지하는 것이 특히 작은 회사들에게 도전이 될 수 있습니다.
2. 에너지 및 지속 가능성: 높은 에너지 소비는 AI 채택이 증가함에 따라 더 친환경적인 솔루션을 요구합니다.
3. 보안 및 개인 정보: 공유 인프라에서 데이터 보호는 보안과 규제 준수를 발전시키는 데 도전이 될 수 있습니다.
4. 상호 운용성: AI 스택의 단편화된 도구는 무결한 배포와 통합을 복잡하게 만듭니다.

기회:

1. 에지 AI 성장: 데이터 원천에 가까운 AI 처리는 지연 시간을 줄이고 대역폭을 보존하는 데 도움이 됩니다.
2. 자동화된 MLOps: 스트림라인된 운영은 배포의 복잡성을 줄여주어 회사들이 애플리케이션에 집중할 수 있도록 합니다.
3. 에너지 효율적인 하드웨어: 혁신은 접근성과 환경 영향을 개선하는 데 도움이 될 수 있습니다.
4. 하이브리드 클라우드: 클라우드와 온프레미스 환경에서 작동하는 인프라는 기업의 유연성을 위해 적합합니다.
5. AI 기반 관리: 인프라를 최적화하는 데 AI를 사용하면 다운타임을 줄이고 효율성을 높이는 데 도움이 됩니다.

장기적으로 GMI 클라우드의 비전은 무엇이며, AI와 AGI의 발전에 어떤 역할을 할 것이라고 생각하나요?

나는 인터넷의 AI를 구축하고 싶습니다. 나는 미래를 위한 인프라를 구축하고 싶습니다.

누구나 쉽게 AI 애플리케이션을 구축할 수 있는 플랫폼을 만들고 싶습니다.

향후 몇 년 동안, AI는 특히 생성적 AI 사용 사례에서 상당한 성장을 보일 것입니다. 더 많은 산업이 이러한 기술을 채택하여 창의성을 향상시키고, 프로세스를 자동화하며, 의사 결정 최적화를 위해 노력할 것입니다. 추론은 이러한 미래에서 핵심 역할을 할 것입니다. 이는 실시간 AI 애플리케이션이 복잡한 작업을 효율적으로 처리할 수 있도록 합니다. 비즈니스 투 비즈니스(B2B) 사용 사례가 지배적일 것으로 예상되며, 기업은 생산성을 향상시키고, 운영을 최적화하며, 새로운 가치를 창출하기 위해 AI를 활용하는 데 집중할 것입니다. GMI 클라우드의 장기적인 비전은 이러한 트렌드와 일치하며, 기업이 조직 전체에서 AI의 생산성과 영향을 최대화하는 데 필요한 고급 인프라를 제공하는 것을 목표로 합니다.

콜로라도의 새로운 데이터 센터를 확장하는 동안, 다음 해에 달성하고자 하는 전략적 목표나 里程碑은 무엇인가요?

콜로라도의 새로운 데이터 센터를 확장하는 동안, 우리는 다음 해에 여러 전략적 목표와 里程碑을 달성하고자 합니다. 미국은 AI와 AI 컴퓨팅의 가장 큰 시장으로, 이 지역에서 강한 존재감을 확립하는 것이 중요합니다. 콜로라도의 전략적인 위치, 기술 생태계, 비즈니스 환경은 고객을 더 잘 서비스하고 서비스를 향상하는 데 도움이 됩니다.

고급 AI 인프라를 채택하고자 하는 회사나 스타트업에게 어떤 조언을 드리나요?

AI驱動 혁신에 집중하는 스타트업의 경우, 제품을 구축하고 개선하는 데 중점을 두어야 합니다. 인프라 관리에宝貴한 시간을 쓰지 않도록 신뢰할 수 있는 기술 제공업체와 파트너십을 맺어야 합니다. 신뢰할 수 있는 제공업체는 안정적이고 확장 가능한 GPU 솔루션을 제공하며, 화이트 레이블 대체품을 사용하지 않습니다. 신뢰성과 빠른 배포는 중요합니다. 초기 단계에서 속도는 종종 스타트업이 기성 기업에 대한 유일한 경쟁 우위입니다. 유연한 클라우드 기반 옵션을 선택하고, 보안 및 규제 준수를 희생하지 않고 민첩성을 유지하는 데 중점을 두어야 합니다. 이를 통해 스타트업은 원활하게 통합하고, 빠르게 반복하며, 진정으로 중요한 것에 자원을 투입할 수 있습니다. 즉, 시장에서 우수한 제품을 제공하는 것입니다.

이번 인터뷰에 감사드립니다. 더 많은 정보를 원하는 독자는 GMI 클라우드의 웹사이트를 방문할 수 있습니다.