사상 리더

DeepSeek이 AI 비용과 효율성에 대해 가르쳐주는 것

mm
Unite.AI를 Google의 선호 소스에 추가

귀여운 고래 로고와 함께 최근에 출시된 DeepSeek은 단순히 ChatGPT의 모방품일 수 있었지만, 그것을 제작하는데 얼마나 적은 비용이 들었는지가 뉴스거리였습니다. 그것은 미국에서 고성능의 Large Language Model(LLM)을 훈련시키는데 필요한 투자의 개념을根本적으로 바꾸어 놓았습니다.

DeepSeek은 कथ적으로 600만 달러만으로 AI 모델을 훈련시켰습니다. 이것을 OpenAI가 Chat GPT-4를 훈련시키는데 8천만 달러에서 1억 달러를 투자한 것과 비교해 보십시오. DeepSeek은 이러한 투자의 수준을 의문시하게 만들며, Nvidia (NVDA ) 와 같은 대형 기업들의 주가가 하루에 6000억 달러나 떨어지는 등 AI의 장기적인 재정적 지속 가능성에 대해 우려를 표합니다. 만약 AI 모델을 이전에 가정했던 것보다 훨씬 적은 비용으로 훈련시킬 수 있다면, 이것은 전체 AI 지출에 어떤 영향을 미칠까요?

(MSFT )

DeepSeek의 혼란은 중요한 논의를 가져왔지만, 몇 가지 핵심적인 점들이 혼동 속에서 사라지고 있습니다. 그러나 이 뉴스는 혁신의 비용과 AI의 경제적 영향에 대한 더 큰 초점을 가져옵니다. 여기서 중요한 세 가지 통찰이 있습니다:

1. DeepSeek의 600만 달러 가격표는 오도됩니다

기업들은 자신의 인프라의 총 소유 비용(TCO)을 이해해야 합니다. DeepSeek의 600만 달러 가격표는 많이 언급되었지만, 이는 아마도 전체 투자금액이 아닌 사전 훈련 비용일 것입니다. 전체 비용, 즉 DeepSeek을 구축하고 훈련하는데 필요한 비용은 훨씬 더 높을 것입니다. 산업 분석 회사인 SemiAnalysis는 DeepSeek을 개발한 회사가 LLM을 구현하기 위해 16억 달러를 하드웨어에 투자했다고 밝혔습니다. 따라서 실제 비용은 중간 정도일 것입니다.

실제 비용이 무엇이든, DeepSeek의 등장으로 비용 효율적인 혁신에 대한 초점이 만들어졌습니다. 이것은 변혁적일 수 있습니다. 혁신은 종종 제한으로 인해 촉진되며, DeepSeek의 성공은 실제 제약을 맞닥뜨린 엔지니어링 팀이 자원을 최적화할 때 혁신이 어떻게 일어날 수 있는지를 강조합니다.

2. 추론이 AI를 가치 있게 만드는 것입니다, 훈련이 아니죠

AI 모델 훈련 비용에 주목하는 것이 중요하지만, 훈련은 전체 비용의 작은 부분을 차지합니다. 추론 — AI가 사람들의 일, 상호 작용, 삶을 변화시키는 다양한 방식 — 이곳에서 AI가真正로 가치 있게 됩니다.

이것은 제반스 역설, 즉 기술적 진보로 인해 자원 사용이 더 효율적이 되면, 실제로 그 자원의 소비가 증가할 수 있다는 경제 이론을 생각나게 합니다. 즉, 훈련 비용이 낮아지면, 추론과 에이전트 소비가 증가하고, 전체 지출도 따라갈 것입니다.

AI 효율성은 실제로 AI 지출의 상승세를 가져올 수 있으며, 이는 모든 기업을 이롭게 할 것입니다. 효율성의 물결을 타면, OpenAI와 Nvidia와 같은 기업도 혜택을 받을 것입니다.

3. 단위 경제학이 가장 중요합니다

AI를 더 효율적으로 만드는 것은 단순히 비용을 낮추는 것이 아니라, 단위 경제학을 최적화하는 것입니다. The Motley Fool은 올해가 AI 효율성의 해가 될 것이라고 예측합니다. 만약 그렇다면, 기업들은 AI 훈련 비용뿐만 아니라 AI 소비 비용도 낮추는 데 주목해야 합니다.

AI를 구축하거나 사용하는 조직은 DeepSeek의 600만 달러 훈련 비용과 같은 인상적인 숫자에 집중하는 대신, 자신의 단위 경제학을 이해해야 합니다. 실제 효율성은 모든 비용을 할당하고, AI 주도 수요를 추적하며, 비용 대 가치를 지속적으로 모니터링하는 것을 의미합니다.

클라우드 단위 경제학(CUE)은 클라우드 비용과 수익 및 수요 지표를 비교하여 클라우드 지출의 효율성을 측정하고 최대화하는 것을 의미합니다. 이것은 클라우드 지출의 효율성이 어떻게 변화하는지, 그리고 효율성을 증가시키는 최선의 방법은 무엇인지 보여줍니다(적절한 플랫폼이 있는 경우).

AI의 맥락에서 CUE를 이해하는 것은 더 중요합니다. 왜냐하면 AI는 기존의 하이퍼스케일러가 판매하는 전통적인 클라우드 서비스보다 훨씬 더 비용이 많이 들기 때문입니다. 에이전트 애플리케이션을 구축하는 기업은 특정 AI 주도 서비스, 제품 및 기능의 투자 수익률을 평가하기 위해 거래당 비용(예: 청구당 비용, 배달당 비용, 거래당 비용 등)을 계산할 수 있습니다. AI 지출이 증가함에 따라, 기업들은 결국 이것을 해야 합니다. 무제한으로 실험적인 혁신에 돈을 투자할 수는 없습니다. 결국, 사업적으로 의미가 있어야 합니다.

효율성을 향하여

600만 달러라는 숫자가 의미하는 바와 같이, DeepSeek은 기술 산업이 효율성의 중요성을 깨닫는 계기가 될 수 있습니다. 이것이 비용 효율적인 훈련, 추론, 에이전트 애플리케이션의 물결을 열어 AI의真正한 잠재력과 투자 수익률을解放시킬 수 있기를 바랍니다.

필 퍼골라(Pil Pergola)는 CloudZero의 CEO입니다. 그는 고객 생애 주기 전반에 걸쳐 유의미한 매출 성장과 긍정적인 비즈니스 결과를 이끌어낸 경험을 가진 유능한 B2B 소프트웨어 임원입니다. 고객 생애 주기에는 인수, 온보딩, 채택, 확장 및 유지 관리가 포함됩니다.