Náklady na umělou inteligenci se zrychlují — Zde je, jak je udržet pod kontrolou

Používání cloudu neustále roste, stejně jako s tím spojené náklady — zejména v poslední době ty, které jsou poháněny umělou inteligencí. Analytici společnosti Gartner předpovídají, že celosvětové výdaje na veřejné cloudové služby dosáhnou 723,4 miliardy dolarů v roce 2025, což je nárůst oproti téměř 600 miliardám dolarů v roce 2024. A 70 % výkonných ředitelů dotázaných v IBM zprávě uvedlo, že generativní umělá inteligence je kritickým faktorem tohoto nárůstu.

V téže době vyvolala vlny společnost DeepSeek z Číny, když tvrdila, že jí trvalo pouze dva měsíce a 6 milionů dolarů na výcvik svého modelu AI. Existují pochyby, zda tyto údaje vyprávějí celou příběh, ale pokud akcie Microsoftu a Nvidie stále ještě trpí, je zřejmé, že oznámení probudilo západní svět k potřebě nákladově efektivních systémů AI.

(MSFT ) (NVDA )

Dosud mohli společnosti považovat rostoucí náklady na AI za náklady na výzkum a vývoj. Ale náklady na AI — zejména ty, které jsou spojeny s úspěšnými produkty a funkcemi — nakonec dopadnou na náklady na prodané zboží (COGS) a následně na hrubé marže. Inovace v oblasti AI vždy měly čelit přísné obchodní logice; oznámení DeepSeek pouze zkrátilo tuto dobu.

Stejně jako u zbytku veřejného cloudu budou společnosti muset spravovat své náklady na AI, včetně nákladů na výcvik a spotřebu. Budou muset propojit výdaje na AI se obchodními výsledky, optimalizovat náklady na infrastrukturu AI, vylepšit strategie cen a balíčků a maximalizovat návratnost svých investic do AI.

Jak to mohou udělat? S pomocí cloudové ekonomiky jednotek (CUE).

Co je cloudová ekonomika jednotek (CUE)?

CUE zahrnuje měření a maximalizaci zisku z cloudu. Jeho základní mechanismus spočívá v propojení cloudových nákladových dat s daty o poptávce zákazníků a výnosech, což odhaluje nejvíce a nejméně ziskové dimenze podnikání a ukazuje společnostem, kde a jak optimalizovat. CUE se vztahuje na všechny zdroje cloudových výdajů, včetně nákladů na AI.

Základ CUE je alokace nákladů — organizování cloudových nákladů podle toho, kdo nebo co je pohání. Společné dimenze alokace zahrnují náklady na zákazníka, náklady na inženýrský tým, náklady na produkt, náklady na funkci a náklady na mikroslužbu. Společnosti, které používají moderní platformu pro správu nákladů, často alokují náklady v rámci, který odráží jejich obchodní strukturu (jejich inženýrskou hierarchii, platformovou infrastrukturu atd.).

Pak je jádrem CUE metrika jednotkových nákladů, která porovnává data o nákladech s daty o poptávce, aby ukázala společnosti jejich celkové náklady na službu. Například společnost pro B2B marketing by mohla chtít vypočítat své „náklady na 1 000 zpráv“ zaslaných prostřednictvím své platformy. K tomu by musela sledovat své cloudové náklady a počet zaslaných zpráv, tyto údaje by musela zadat do jednoho systému a tento systém by musel rozdělit cloudové náklady na zprávy a graficky znázornit výsledek v dashboardu.

Pokud společnost začala s alokací nákladů, mohla by poté zobrazit své náklady na 1 000 zpráv podle zákazníka, produktu, funkce, týmu, mikroslužby nebo jakékoli jiné dimenze, kterou považuje za reprezentativní pro svou obchodní strukturu.

Výsledky:

• Pohyblivé obchodní dimenze, podle kterých mohou filtrovat svou metriku jednotkových nákladů, aby viděli, které oblasti svého podnikání pohání jejich cloudové náklady
• Osvětlená metrika jednotkových nákladů, která ukazuje, jak efektivně splňují poptávku zákazníků
• Schopnost provést cílená zlepšení efektivity, jako je přepracování infrastruktury, úprava smluv se zákazníky nebo vylepšení cenových a balíčkových modelů

CUE v éře AI

V modelu CUE jsou náklady na AI pouze jedním z dalších zdrojů cloudových výdajů, které lze zahrnout do alokačního rámce podnikání. Způsob, jakým společnosti AI rozdělují nákladová data, se stále vyvíjí, ale v zásadě platformy pro správu nákladů zacházejí s náklady na AI podobně jako s náklady na AWS, Azure, GCP a SaaS.

Moderní platformy pro správu cloudových nákladů alokují náklady na AI a ukazují jejich dopad na efektivitu v kontextu metriky jednotkových nákladů.

Společnosti by měly alokovat své náklady na AI několika intuitivními způsoby. Jedním z nich by mohlo být výše zmíněné náklady na tým, alokační dimenze společná pro všechny zdroje cloudových výdajů, ukazující náklady, za které je odpovědný každý inženýrský tým. To je zvláště užitečné, protože lídři vědí přesně, koho informovat a kdo je zodpovědný, když náklady na určitý tým prudce vzrostou.

Společnosti by také mohly chtít znát své náklady na typ služby AI — modely strojového učení (ML) versus základní modely versus třetí strany, jako je OpenAI. Nebo by mohly vypočítat své náklady na fázi životního cyklu SDLC, aby pochopily, jak se náklady na funkci AI mění, když přechází z vývoje do testování, stagingu a nakonec do produkce. Společnost by mohla být ještě podrobnější a vypočítat své náklady na fázi životního cyklu vývoje AI, včetně čištění dat, úložiště, vytváření modelů, školení modelů a inferencí.

Při pohledu z větší vzdálenosti: CUE znamená porovnání organizovaných cloudových nákladových dat s daty o poptávce zákazníků a poté určení, kde optimalizovat. Náklady na AI jsou pouze jedním z dalších zdrojů cloudových nákladových dat, které s vhodnou platformou bezproblémově zapadají do celkové strategie CUE.

Vyhnout se tsunami COGS

K roku 2024 mělo pouze 61 % společností formalizované systémy pro správu cloudových nákladů (podle průzkumu CloudZero). Nesprávané cloudové náklady brzy stanou nespravovatelnými: 31 % společností — podobně jako podíl, který své náklady nespravuje — trpí významnými dopady na COGS, uvádí, že cloudové náklady činí 11 % nebo více jejich výnosů. Nesprávané náklady na AI pouze zhorší tento trend.

Dnešní nejprogresivnější organizace pohlíží na cloudové náklady jako na jakoukoli jinou významnou výdaj, počítají jejich návratnost, rozdělují ji podle svých nejdůležitějších obchodních dimenzí a vybavují příslušné členy týmu daty potřebnými k optimalizaci této návratnosti. Next-generation platformy pro správu cloudových nákladů nabízejí komplexní pracovní postup CUE, který pomáhá společnostem vyhnout se tsunami COGS a posílit dlouhodobou životaschopnost.