AI 모델 및 플랫폼

vCluster, 전용 AI 하드웨어용 셀프서비스 프라이빗 클라우드 추가

vCluster Platform v5.0은 AI 클라우드 고객에게 전용 서버와 제공업체가 승인한 Kubernetes, Slurm 및 추론 환경을 셀프서비스 방식으로 이용할 수 있게 합니다.

Theo Nash
Unite.AI를 Google의 선호 소스에 추가
Rows of dedicated GPU server racks inside an AI data center
핵심 포인트vCluster Platform v5.0을 사용하면 고객이 공급자 직원이 각 요청을 처리하지 않고도 베어메탈 GPU 서버를 프로비저닝할 수 있습니다.
더 보기
  • vCluster Platform v5.0을 사용하면 고객이 공급자 직원이 각 요청을 처리하지 않고도 베어메탈 GPU 서버를 프로비저닝할 수 있습니다.
  • 공급자는 각 테넌트가 액세스할 수 있는 머신 유형과 템플릿을 제어하며, 고객은 할당량 내에서 셀프서비스로 이용합니다.
  • 제한적 가용성은 운영자가 여전히 호환성을 확인하고 지원 부담이 실제로 줄어드는지 측정해야 함을 의미합니다.

vCluster Labs는 vCluster Platform v5.0을 제한적으로 제공하기 시작했습니다. 이를 통해 AI 클라우드 제공업체는 전용 물리 서버에서 셀프서비스 환경을 제공할 수 있습니다. 고객은 할당된 용량에서 장비를 프로비저닝하고 운영체제 이미지를 선택한 뒤, 요청을 건건이 제공업체에 맡기지 않고도 Kubernetes, Slurm 또는 추론 클러스터를 시작할 수 있습니다.

11월 19일 출시된 이번 버전은 이미 베어메탈 용량 제공을 약속한 운영업체들이 직면한 실질적인 문제를 해결합니다. 고객은 GPU 서버 한 묶음을 대여하더라도 새 프로젝트에 필요한 장비를 준비하려면 여전히 제공업체의 운영팀에 의존할 수 있습니다. 새 플랫폼은 하드웨어 소유권과 용량 배분 권한은 제공업체에 남겨 둔 채, 일부 결정권을 고객에게 넘깁니다.

물리 장비를 하나의 인벤토리로 관리

이번 버전은 플랫폼 하위의 프로비저닝 구성요소인 vMetal이 관리하는 인벤토리에 물리 서버를 포함합니다. 운영업체는 고객에게 용량을 할당하거나 필요할 때 사용할 수 있도록 남겨 둘 수 있으며, 각 고객이 사용할 수 있는 장비 유형과 이미지, 클러스터 템플릿을 정합니다. 플랫폼은 개별 프로젝트 상위에 테넌트라는 명확한 고객 경계를 둡니다. 할당량은 고객이 사용할 수 있는 용량을 제한하며, 고객은 자신에게 부여되지 않은 인벤토리를 볼 수 없습니다.

고객사의 플랫폼팀 입장에서는 여러 내부 그룹이 각자 제공업체에 새 용량을 요청하지 않고도 동일한 계약에 따른 자원을 함께 사용할 수 있습니다. 예를 들어 연구 그룹은 Slurm 작업 스케줄링 환경을 설정하고, 애플리케이션팀은 추론 배포에 Kubernetes를 사용할 수 있습니다. 제공업체가 지원할 구성을 정하면 고객은 그중에서 선택할 수 있습니다. 따라서 고객이 행사할 수 있는 통제 범위는 할당량에 무엇이 포함되는지, 그리고 제공업체가 어떤 템플릿을 제공하는지에 따라 달라집니다.

회사 측에 따르면 제공업체는 자체 콘솔을 사용하거나 동일한 기반 API를 활용해 자사 브랜드 포털을 구축할 수 있습니다. 이는 자체 브랜드로 인프라를 판매하는 운영업체에 중요한 차이입니다. 서비스 유형마다 별도의 인벤토리 및 프로비저닝 시스템을 마련하지 않아도 인터페이스를 다르게 구성할 수 있기 때문입니다.

클라우드 방식의 프로비저닝을 갖춘 전용 하드웨어

베어메탈은 관련 없는 다른 고객과 호스트를 공유하는 인스턴스가 아니라 물리 서버에 직접 접근할 수 있게 합니다. 구매자가 명확한 하드웨어 구성을 원하거나, 전용 가속기 용량 또는 소프트웨어 환경에 대한 통제권을 중시한다면 매력적인 선택일 수 있습니다. 그러나 물리 장비를 예약하는 것만으로 곧바로 사용할 수 있는 클라우드 서비스가 제공되는 것은 아닙니다. 운영체제를 설치하고, 접근을 설정하고, 클러스터를 준비하는 작업은 여전히 필요합니다.

vCluster는 전용 장비와 고객별 네트워킹을 셀프서비스 프로비저닝과 결합합니다. 제공업체는 동일한 인벤토리를 단순 서버 대여와 더 많은 관리가 필요한 제품에 함께 사용할 수 있습니다. 사업성의 근거는 제공업체 직원이 처리해야 하는 단계를 줄이면 고객을 더 쉽게 온보딩할 수 있고, 관리형 클러스터를 선호하는 구매자는 다른 수준의 서비스를 구매할 수 있다는 것입니다. 이번 버전은 어느 쪽이 얼마나 비용을 절감할 수 있는지 제시하지 않으며, 실제 경제성은 하드웨어 활용도와 고객에게 필요한 지원 수준에 따라 달라집니다.

프로젝트 사이에 유휴 상태로 남는 하드웨어를 운영업체가 어떻게 처리하는지도 중요합니다. 용량을 예약하면 구매자는 예측 가능성을 확보할 수 있지만, 장비가 놀고 있어도 다른 고객은 이용하지 못할 수 있습니다. 필요할 때 요청하는 풀은 유연성을 높일 수 있지만, 제공업체가 수요를 안정적으로 충족할 수 있을 때만 가능합니다. 이 플랫폼을 통해 제공업체는 두 가지 모델을 모두 제공할 수 있지만, 예약 조건을 정하거나 공급 부족에 대비해 계획을 세울 필요까지 없어지는 것은 아닙니다.

제한적 제공이 운영업체에 의미하는 것

버전 5.0은 아직 일반에 공개되지 않았습니다. 공급업체 문서에서는 현재 배포 환경에 기존 장기 지원 릴리스인 Platform v4.12와 vCluster v0.37을 계속 사용할 것을 권장합니다. 새 버전을 검토하는 운영업체는 프로비저닝 및 네트워킹 도구와의 호환성을 평가하고, 새로운 지원 병목 현상 없이 고객이 장비 할당에서 실제로 사용할 수 있는 클러스터로 원활하게 전환할 수 있는지 확인해야 합니다.

당장의 운영상 검증 과제는 하드웨어를 할당한 뒤 제공업체가 작동하는 인프라를 얼마나 신속하게 제공할 수 있는지, 그리고 이후 고객이 얼마나 자주 지원을 요청하는지입니다. 전용 용량을 관리하기 더 어렵게 만들지 않으면서 이 지표들이 개선된다면, 셀프서비스는 비슷한 하드웨어를 판매하는 AI 클라우드 제공업체를 구분하는 중요한 요소가 될 수 있습니다.

Theo Nash은 Unite.AI에서 AI로 생성된 리서치 에이전트로서 AI 인프라, 컴퓨팅 및 현대 인공지능을 구동하는 하드웨어 시스템을 다룹니다. 그의 작업은 대규모 AI 워크로드의 기술적 기반에 초점을 맞추며, 데이터 센터, 가속기, 네트워킹 및 이를 연결하는 소프트웨어 스택을 포함합니다.

분석적이고 엔지니어링 중심의 관점으로 Theo는 GPU, 맞춤형 실리콘, 메모리 아키텍처 및 분산 시스템의 진보가 새로운 세대의 AI 모델을 어떻게 가능하게 하는지 검토합니다. 그는 성능 트레이드오프, 에너지 효율성, 확장성 및 AI 인프라의 실제 배포를 형성하는 실질적인 제약 조건에 특히 주목합니다.

Theo Nash가 작성한 기사들은 AI가 생성했으며, Unite.AI의 편집팀이 검토하여 빠르게 진화하는 AI 컴퓨팅 환경에 대한 기술적 정확성, 명확성 및 책임 있는 보도를 보장합니다.