Myslitelé

Co může DeepSeek naučit o nákladech a efektivitě umělé inteligence

mm
Přidejte Unite.AI mezi své preferované zdroje na Google

S novým logem ve tvaru velryby by mohla recentní vydání DeepSeek být jen další kopií ChatGPT. Co z ní udělalo novinku – a co poslalo akcie konkurentů do pádu – byla nízká cena, za kterou byla vytvořena. Efektivně vhodila klín do americké představy o investicích potřebných pro výcvik vysoce funkčního velkého jazykového modelu (LLM).

DeepSeek údajně utratila pouze 6 milionů dolarů za výcvik svého modelu AI. To lze srovnat s údajnými 80–100 miliony dolarů, které OpenAI utratila za Chat GPT-4, nebo 1 miliardou dolarů, kterou mají vyčleněnou pro GPT-5. DeepSeek zpochybňuje tuto úroveň investic a nechává velké hráče, jako je Nvidia (NVDA ) – jejíž akcie ztratily 600 miliard dolarů za jeden den – TSMC a Microsoft (MSFT ), znepokojené o dlouhodobou finanční udržitelnost AI. Pokud je možné trénovat modely AI za podstatně nižší cenu, než se dříve předpokládalo, co to znamená pro celkové výdaje na AI?

Navzdory tomu, že narušení DeepSeek vedlo k důležitým diskuzím, některé klíčové body se zdají být ztraceny v chaosu. Nicméně, co tato zpráva vyvolává, je větší zaměření na to, kolik inovace stojí a možný ekonomický dopad AI. Zde jsou tři důležité poznatky, které vyplývají z této zprávy:

1. Cena 6 milionů dolarů DeepSeek je zavádějící

Společnosti musí pochopit celkové náklady na vlastnictví své infrastruktury (TCO). Ačkoli cena 6 milionů dolarů DeepSeek byla často zmiňována, jedná se pravděpodobně pouze o náklady na předtrénink, nikoli o celkové investice. Skutečné náklady – nejen na běh, ale i na stavbu a trénink DeepSeek – jsou pravděpodobně mnohem vyšší. Analytická firma SemiAnalysis odhalila, že společnost za DeepSeek utratila 1,6 miliardy dolarů na hardware, aby její LLM byla realitou. Takže skutečná cena je pravděpodobně někde uprostřed.

Bez ohledu na skutečnou cenu, příchod DeepSeek vytvořil zaměření na nákladově efektivní inovace, které by mohly být transformační. Inovace jsou často vyvolány omezeními a úspěch DeepSeek zdůrazňuje, jak může inovace nastat, když inženýrské týmy optimalizují své zdroje v tváři reálných omezení.

2. Inferencia je to, co dělá AI cennou, ne trénink

Je důležité sledovat, kolik stojí trénink modelů AI, ale trénink představuje pouze malou část celkových nákladů na stavbu a běh modelu AI. Inferencia — mnohé způsoby, kterými AI mění, jak lidé pracují, interagují a žijí — je to, co dělá AI skutečně cennou.

To vyvolává Jevonovu paradox, ekonomickou teorii, která naznačuje, že když technologický pokrok dělá použití zdroje efektivnějším, celková spotřeba tohoto zdroje se může ve skutečnosti zvýšit. Jinými slovy, když náklady na trénink klesají, inferencia a agentic spotřeba se zvýší a celkové výdaje budou následovat.

AI efektivita může ve skutečnosti vést ke vzestupu AI výdajů, které by měly prospět všem, nejen čínským společnostem. Pokud pojedou na vlně efektivnosti, společnosti jako OpenAI a Nvidia budou také profitovat.

3. Co zůstává pravdou, je to, že ekonomika jednotek je nejdůležitější

Zlepšování efektivity AI není pouze o snižování nákladů, ale také o optimalizaci ekonomiky jednotek. The Motley Fool předpovídá, že tento rok bude rokem efektivity AI. Pokud mají pravdu, společnosti by měly dbát na snižování svých nákladů na trénink AI, stejně jako na spotřebu AI.

Organizace, které staví nebo používají AI, potřebují znát svou ekonomiku jednotek, místo aby se soustředily na působivé čísla, jako je cena 6 milionů dolarů za trénink DeepSeek. Skutečná efektivita zahrnuje alokaci všech nákladů, sledování poptávky poháněné AI a neustálé sledování nákladů na hodnotu.

Ekonomika cloudu (CUE) se týká měření a maximalizace zisku poháněného cloudem. CUE srovnává vaše cloudové náklady s výnosy a ukazateli poptávky, ukazuje, jak efektivní je vaše cloudové výdaje, jak se to změnilo v čase a (pokud máte správnou platformu) nejlepší způsoby, jak zvýšit tuto efektivitu.

Pochopení CUE má ještě větší využití v kontextu AI, protože je inherentně dražší spotřebovat než tradiční cloudové služby prodávané hyperscalery. Společnosti, které staví agentic aplikace, by mohly vypočítat své náklady na transakci (například náklady na účet, náklady na doručení, náklady na obchod, atd.) a použít je k hodnocení návratnosti investic konkrétních AI poháněných služeb, produktů a funkcí. Jakmile se AI výdaje zvýší, společnosti budou muset to udělat; žádná společnost nemůže házet nekonečné peníze do experimentální inovace navždy. Nakonec to musí mít obchodní smysl.

Směrem k větší efektivitě

Jakkoli je významná cena 6 milionů dolarů, DeepSeek možná poskytla zásadní moment, který probudí technologický průmysl k nevyhnutelné důležitosti efektivity. Doufejme, že to otevře dveře pro nákladově efektivní trénink, inferenci a agentic aplikace, které odemknou skutečný potenciál a návratnost investic do AI.

Phil Pergola je CEO společnosti CloudZero. Je zkušený výkonný ředitel B2B softwaru s zkušenostmi s významným růstem výnosů a pozitivními obchodními výsledky napříč celým zákaznickým cyklem – akvizicí, onboardingem, přijetím, rozšířením a retencí.