ScaleOps, 자율 인프라를 AI 운영의 중심으로 확장하기 위해 시리즈 C에서 1억 3,000만 달러 유치

ScaleOps는 8억 달러가 넘는 평가를 받으며 1억 3,000만 달러의 시리즈 C 투자를 유치했습니다. 이는 클라우드와 AI 워크로드가 점점 더 복잡해지면서 지속적인 인간의 개입 없이 이러한 시스템을 관리할 수 있는 솔루션에 대한 수요가 가속화하고 있는 상황에서 이루어진 것입니다.

이번 투자 라운드는 Insight Partners가 주도했으며, Lightspeed Venture Partners, NFX, Glilot Capital Partners, 그리고 Picture Capital이 계속해서 투자에 참여했습니다. ScaleOps는 지금까지 총 2억 1,000만 달러 이상의 투자를 유치했습니다.

Kubernetes 최적화에서 자율 인프라로

ScaleOps는 2022년에 등장하여 현대 인프라에서 가장 지속적인 도전 중 하나인 Kubernetes 환경에서의 리소스 할당 자동화를 목표로 했습니다. 정적인 구성에 의존하지 않고, 플랫폼은 실시간 워크로드 동작에 따라 CPU와 메모리 같은 연산 리소스를 지속적으로 조정합니다.

ScaleOps의 핵심 시스템은 폐쇄 루프 피드백 방식의 최적화 엔진으로 작동합니다. 워크로드의 자원 수요를 관찰하고, 성능 신호를 평가하고, 자동으로 변경을 수행합니다. 이것은 동적으로 워크로드 크기를 조정하고, 복제본 수를 조정하고, 클러스터 전체에서 노드 사용을 최적화하는 것을 포함합니다.

시간이 지남에 따라, 이것은 전통적인 클라우드 최적화에서 GPU가 많은 AI 시스템과 관련된 환경으로 확장되었습니다. 플랫폼은 GPU 할당에 비슷한 원칙을 적용하고 있으며, 비효율적인 사용은 빠르게 주요 병목 현상이 될 수 있습니다.

이 레이어가 중요한 이유

현대 AI 시스템은 전통적인 인프라 도구가 처리하도록 설계되지 않은 수준의 변동성을 도입합니다. 워크로드는 예측할 수 없게 증가하고, 모델은 제한된 GPU 용량을 두고 경쟁하며, 성능 요구 사항은 실시간으로 변경됩니다.

과거에, 팀은 수동 조정 또는 규칙 기반 자동화를 통해 이를 관리했습니다. 그러나 이러한 접근 방식은 규모에서 어려움을 겪습니다. Kubernetes 자체는 오케스트레이션을 위해 설계되었지만, 엔지니어가 지속적으로 조정해야 하는 정적인 구성에 크게 의존합니다. 엔지니어는 자원의 과소 또는 과다 할당을 피하기 위해 이를 계속 조정해야 합니다.

이것은 구조적인 비효율성을 생성합니다. 엔지니어링 팀은 새로운 시스템을 구축하는 대신 성능 문제에 반응하고, 리소스 할당을 조정하고, SLO 위반을 해결하는 데 상당한 시간을 보냅니다.

ScaleOps의 접근 방식은 이 반응형 모델을 실시간에 따라 상황을 인식하는 지속적인 자동화로 대체합니다. 미리 정의된 임계값을 정의하는 대신, 시스템은 전체 클러스터에서 관찰된 동작에 따라 실시간으로 적응합니다.

자율 최적화 시스템으로 이동

이 카테고리가 주목할 만한 것은 비용 최적화뿐만 아니라 인프라가 어떻게 작동하는지의 변화입니다.

전통적인 환경에서 인프라는 구성됩니다. 새로운 시스템에서는 인프라가 적응할 것으로 기대됩니다.

ScaleOps는 인프라를 지속적으로 재균형을 잡을 수 있는 것으로 취급함으로써 이 전환을 반영합니다. 플랫폼은 정책을 적용하고, 결과를 모니터링하고, 엔지니어가 개입할 필요 없이 할당을 조정합니다. 프로덕션 환경에서는 자원 관련 의사결정이 거의 완전히 자동화되는 수준까지 확장될 수 있습니다.

이 모델은 이미 실제 배포에서 측정할 수 있는 영향을 보여주었습니다. 한 경우에, 자동 리사이징을 통해 워크로드가 동적으로 트래픽 변동에 따라 조정되면서 성능 목표를 유지하고 클러스터 전체에서 낭비를 줄일 수 있었습니다.

비용 최적화를 넘어선 확장

초기 클라우드 최적화 도구는 주로 비용을 줄이는 데 중점을 두었습니다. ScaleOps는 여전히 비용 효율성을 강조하며, 과잉 프로비저닝과 유휴 리소스를 제거함으로써 상당한 절감을 주장합니다.

그러나 더 넓은 방향은 성능 신뢰성과 시스템 내구성으로 이동하고 있습니다.

AI 시스템이 프로덕션 환경에 더 긴밀하게 통합됨에 따라, 인프라 결정은 모델 성능, 지연, 가용성에 직접적인 영향을 미칩니다. 잘못된 할당은 더이상 비용 문제가 아니라 기능적 제한이 됩니다.

이것은 특히 GPU 워크로드에서 중요합니다. 여기서 수요는 종종 공급을 초과합니다. 인프라 레이어에서 효율적인 할당은 모델이 효율적으로 실행되거나 리소스를 기다리며 유휴 상태에 머무는지 여부를 결정할 수 있습니다.

AI 인프라를 위한 새로운 제어 플레인

장기적으로, 이는 컴퓨팅 리소스에 대한 새로운 제어 레이어의 출현을 의미합니다.

엔지니어가 인프라를 수동으로 구성하거나 단편적인 도구에 의존하는 대신, ScaleOps와 같은 플랫폼은 수요와 공급을 지속적으로 일치시키는 자율 제어 플레인으로 작동합니다.

이것은 특히 조직이 동시에 여러 AI 시스템을 배포할 때, 각 시스템에는 서로 다른 성능 요구 사항과 사용 패턴이 있을 때 더욱 중요해집니다.

이러한 상황에서 인프라 관리는 정적인 프로비저닝보다 트래픽 제어와 더 비슷해집니다. 리소스를 한 번 할당한 뒤 그대로 두는 대신, 지속적으로 라우팅하고 재배분하며 최적화합니다.

이번 투자로, ScaleOps는 컴퓨팅과 GPU를 넘어 인프라 관리의 더 넓은 영역으로 플랫폼을 확장할 것으로 예상됩니다. 여기에는 클라우드와 AI 오케스트레이션의 추가 레이어가 포함됩니다.

이 트렌드는 엔지니어가 더이상 인프라 결정에 직접적으로 관여하지 않고, 시스템이 워크로드 의도를 해석하고 리소스를 자동으로 조정하는 환경으로의 이동을 암시합니다.

AI 워크로드가 계속 확장함에 따라, 이 전환은 더이상 최적화가 아니라 요구 사항이 될 수 있습니다.