사상 리더

AI 비용이 가속화되고 있습니다 – 제어하는 방법

mm
Unite.AI를 Google의 선호 소스에 추가

클라우드 사용은 계속 증가하고 있으며, 그에 따른 비용도 증가하고 있습니다. 특히 최근 AI에 의한 비용이 크게 증가하고 있습니다. 가트너 분석가들은 2025년에 퍼블릭 클라우드 서비스에 대한 전 세계 최종 사용자 지출이 723.4억 달러로 증가할 것으로 예측하고 있으며, 이는 2024년의 600억 달러보다 증가한 금액입니다. 또한 IBM 보고서에 따르면 70%의 경영진이 생성적 AI를 이 증가의 주요 원인으로 꼽고 있습니다.

同时, 중국의 DeepSeek는 AI 모델을 훈련하는 데 2개월과 600만 달러가 소요되었다고 주장하여 큰 파장을 일으켰습니다. 이러한 숫자가 전체 이야기를 나타내는지는疑問이지만, 마이크로소프트와 엔비디아의 주가가 여전히 충격을 받은 것으로 보아, 서양 세계는 비용 효율적인 AI 시스템의 필요성을 인식하게 된 것으로 보입니다.

(MSFT ) (NVDA )

지금까지 회사들은 증가하는 AI 비용을 연구 개발 비용으로 처리할 수 있었습니다. 그러나 AI 비용, 특히 성공적인 제품과 기능에 대한 비용은 결국 회사들의 판매 비용과 그로 인한 총 이익에 영향을 미칠 것입니다. AI 혁신은 항상 비즈니스적인 의미를 갖는 것이었으며, DeepSeek의 폭탄선언은 그 시기를 앞당ekil 것입니다.

클라우드 비용을 관리하는 것과 마찬가지로 회사들은 AI 비용, 즉 훈련 비용과 사용 비용을 관리해야 할 것입니다. 그들은 비즈니스 결과와 AI 지출을 연결하고, AI 인프라 비용을 최적화하며, 가격과 패키지 전략을 정교화하며, AI 투자에 대한 ROI를 최대화해야 할 것입니다.

그들은 어떻게 할 수 있을까요? 클라우드 유닛 경제학(CUE)을 통해 가능합니다.

클라우드 유닛 경제학(CUE)이란 무엇인가?

CUE는 클라우드 기반 수익의 측정과 최대화를 의미합니다. 그 기본 메커니즘은 클라우드 비용 데이터와 고객 수요 및 수익 데이터를 연결하여 가장 수익성이 높은 비즈니스 차원을 보여주고, 公司들이 어디서 어떻게 최적화할 수 있는지 보여주는 것입니다. CUE는 모든 클라우드 지출 원인,包括 AI 비용에 적용됩니다.

CUE의 기초는 비용 할당입니다. 즉, 클라우드 비용을誰가 또는 무엇이 그 비용을 유발하는지에 따라 조직화하는 것입니다. 일반적인 할당 차원에는 고객당 비용, 엔지니어링 팀당 비용, 제품당 비용, 기능당 비용, 마이크로 서비스당 비용이 있습니다. 현대적인 비용 관리 플랫폼을 사용하는 회사들은 비용을 비즈니스 구조(엔지니어링 계층, 플랫폼 인프라 등)를 반영하는 프레임워크에서 할당합니다.

그런 다음 CUE의 핵심은 유닛 비용 지표입니다. 이는 비용 데이터와 수요 데이터를 비교하여 公司가 고객을 서비스하는 데 모든 비용을 보여주는 것입니다. 예를 들어, B2B 마케팅 회사에서는 “1,000건의 메시지당 비용”을 계산하고자 할 수 있습니다. 이를 위해 클라우드 비용과 메시지 수를 추적하여 하나의 시스템에 데이터를 입력하고, 시스템에 클라우드 비용을 메시지 수로 나누고, 결과를 대시보드에 그래프로 표시하도록 지시해야 합니다.

회사에서 비용 할당을 시작했으므로 고객, 제품, 기능, 팀, 마이크로 서비스 등으로 볼 수 있는 비즈니스 구조를 반영하는 다양한 관점에서 1,000건의 메시지당 비용을 볼 수 있습니다.

결과는 다음과 같습니다.

  • 유연한 비즈니스 차원으로 클라우드 비용을 필터링하여 公司가 어느 영역에서 클라우드 비용을 유발하는지 보여줌
  • 고객 수요를 효율적으로 충족하는지 보여주는 명확한 유닛 비용 지표
  • 인프라를 재구성하거나 고객 계약을 조정하거나 가격 및 패키지 모델을 정교화하는 등 목표된 효율성 개선을 thực現하는 능력

AI 시대에 대한 CUE

CUE 모델에서 AI 비용은 클라우드 지출의 또 다른 원천으로 간주되며, 비즈니스 할당 프레임워크에 통합될 수 있습니다. AI 公司가 비용 데이터를 전달하는 방식은 아직 발전 중이지만, 원칙적으로 비용 관리 플랫폼은 AI 비용을 AWS, Azure, GCP, SaaS 비용과 마찬가지로 처리합니다.

현대적인 클라우드 비용 관리 플랫폼은 AI 비용을 할당하고, 유닛 비용 지표의 효율성 영향을 보여줍니다.

회사들은 몇 가지 직관적인 방법으로 AI 비용을 할당해야 합니다. 하나는 앞서 언급한 팀당 비용입니다. 이는 모든 클라우드 지출 원인에 공통적인 할당 차원으로, 각 엔지니어링 팀이 책임지는 비용을 보여줍니다. 이는 특히 유용합니다. 왜냐하면 리더들은 특정 팀의 비용이 급증할 때 누구에게 연락하고 책임을 물어야 하는지 정확히 알 수 있기 때문입니다.

회사들은 또한 AI 서비스 유형당 비용을 알고 싶을 수 있습니다. 즉, 기계 학습(ML) 모델, 기초 모델, 오픈AI와 같은 제3자 모델을 비교하는 것입니다. 또는 SDLC(소프트웨어 개발 수명 주기) 단계당 비용을 계산하여 AI 기반 기능의 비용이 개발, 테스트, 스테이징, 프로덕션으로 전환함에 따라 어떻게 변경되는지 이해할 수 있습니다. 公司는 더욱 세부적으로 AI 개발 수명 주기 단계당 비용을 계산할 수 있습니다. 즉, 데이터 정리, 저장, 모델 생성, 모델 훈련, 추론을 포함합니다.

조금 더 큰 그림을 보면, CUE는 조직화된 클라우드 비용 데이터와 고객 수요 데이터를 비교하여 公司가 어디서 최적화를 해야 하는지 결정하는 것을 의미합니다. AI 비용은 클라우드 비용 데이터의 또 하나의 원천으로, 올바른 플랫폼이 있다면 公司의 전반적인 CUE 전략에 완벽하게 적합합니다.

COGS 쓰나미를 피하는 방법

2024년 현재, 회사 중 61%만이正式화된 클라우드 비용 관리 시스템을 갖추고 있습니다(클라우드 제로 설문조사에 따르면). 관리되지 않는 클라우드 비용은 곧 관리할 수 없는 비용이 됩니다. 31%의 公司가 비용을正式하게 관리하지 않는 것과 유사하게, 주요 COGS 충격을 겪고 있으며, 클라우드 비용이 수익의 11% 이상을 차지한다고 보고합니다. 관리되지 않는 AI 비용은 이 추세를 더욱 악화시킬 것입니다.

오늘날 가장 앞서가는 公司들은 클라우드 비용을 다른 주요 지출과 마찬가지로 취급하며, 그 ROI를 계산하고, 가장 중요한 비즈니스 차원으로 ROI를 분해하며, 해당 팀 구성원에게 ROI를 최적화하는 데 필요한 데이터를 제공합니다. 차세대 클라우드 비용 관리 플랫폼은 포괄적인 CUE 워크플로를 제공하여 公司가 COGS 쓰나미를 피하고 장기적인 비즈니스 지속 가능성을 강화하는 데 도움이 됩니다. 이를 통해 公司는 ROI를 최적화하고, 비즈니스 차원으로 ROI를 분해하며, 해당 팀 구성원에게 최적화를 위한 데이터를 제공할 수 있습니다.

빌 버클리(Bill Buckley)는 소프트웨어 엔지니어링과 제품 관리에 풍부한 배경을 가진 유능한 기술 고위 임원입니다. EMC, Unidesk, Citrix 및 현재 CloudZero를 포함한 유명한 회사에서 경력을 쌓은 빌은 엔지니어링 부문 선임 부사장으로서 풍부한 경험과 전문 지식을 가지고 있습니다.