Troškovi umjetne inteligencije ubrzavaju se — evo kako ih držati pod kontrolom

Korištenje oblaka i dalje raste, kao i s njime povezani troškovi - osobito, u zadnje vrijeme, oni koje pokreće AI. Analitičari Gartnera predviđaju da će potrošnja krajnjih korisnika na javne usluge u oblaku u cijelom svijetu porasti $ 723.4 milijardi 2025, u odnosu na nešto manje od 600 milijardi dolara u 2024. I 70% rukovoditelja anketirani u IBM-ovom izvješću naveli su generativnu umjetnu inteligenciju kao ključni pokretač ovog povećanja.

U isto vrijeme, kineski DeepSeek napravio je valove kada je tvrdio da je potrebno samo dva mjeseca i 6 milijuna dolara za obuku svog AI modela. Postoji sumnja govore li te brojke cijelu priču, ali ako su još uvijek uzdrmane cijene dionica Microsofta i Nvidije ikakav pokazatelj, objava je probudila zapadni svijet da shvati potrebu za isplativim AI sustavima.

Do danas su tvrtke sve veće troškove umjetne inteligencije mogle tretirati kao otpise za istraživanje i razvoj. Ali troškovi umjetne inteligencije – posebno oni povezani s uspješnim proizvodima i značajkama – na kraju će utjecati na cijenu prodane robe (COGS) tvrtki i, posljedično, na njihove bruto marže. Inovacije umjetne inteligencije uvijek su bile predodređene da se suoče s hladnom provjerom poslovnog smisla; DeepSeekova bomba najava samo je skratila tu vremensku liniju.

Baš kao što rade s ostatkom javnog oblaka, tvrtke će morati upravljati svojim troškovima umjetne inteligencije, uključujući troškove obuke i potrošnje. Morat će povezati potrošnju umjetne inteligencije s poslovnim rezultatima, optimizirati troškove infrastrukture umjetne inteligencije, poboljšati strategije cijena i pakiranja te maksimizirati povrat svojih ulaganja u umjetnu inteligenciju.

Kako oni to mogu učiniti? S ekonomijom jedinice u oblaku (CUE).

Što je ekonomija jedinice u oblaku (CUE)?

CUE obuhvaća mjerenje i maksimiziranje profita vođenog oblakom. Njegov temeljni mehanizam je povezivanje podataka o troškovima u oblaku s podacima o potražnji kupaca i prihodima, otkrivajući najprofitabilnije i najmanje isplative dimenzije poslovanja i tako pokazujući tvrtkama kako i gdje optimizirati. CUE se primjenjuje na sve izvore potrošnje u oblaku, uključujući troškove umjetne inteligencije.

Temelj CUE je raspodjela troškova — organiziranje troškova oblaka prema tome tko i/ili što ih pokreće. Uobičajene dimenzije dodjele uključuju cijenu po korisniku, cijenu po inženjerskom timu, cijenu po proizvodu, cijenu po značajci i cijenu po mikroservisu. Tvrtke koje koriste modernu platformu za upravljanje troškovima često raspoređuju troškove u okviru koji odražava njihovu poslovnu strukturu (njihovu inženjersku hijerarhiju, infrastrukturu platforme itd.).

Zatim, srce CUE-a je metrika jedinične cijene, koji uspoređuje podatke o troškovima s podacima o potražnji kako bi tvrtki pokazao njihove sveukupne troškove posluživanja. Na primjer, B2B marketinška tvrtka možda želi izračunati svoju "cijenu po 1,000 poruka" poslanih putem svoje platforme. Da bi to učinio, morao bi pratiti svoje troškove u oblaku i broj poslanih poruka, unijeti te podatke u jedan sustav i uputiti taj sustav da podijeli svoje troškove u oblaku s porukama i grafički prikaže rezultat na nadzornoj ploči.

Budući da je tvrtka započela s raspodjelom troškova, tada je mogla vidjeti svoj trošak po 1,000 poruka prema kupcu, proizvodu, značajci, timu, mikrousluzi ili bilo kojem drugom pogledu za koji je smatrala da odražava njegovu poslovnu strukturu.

Rezultati:

• Fleksibilno poslovne dimenzije pomoću kojih mogu filtrirati metriku jediničnog troška, ​​pokazujući im koja područja njihova poslovanja pokreću njihove troškove u oblaku
• Prosvjetljujući metrika jedinične cijene to im pokazuje koliko učinkovito zadovoljavaju zahtjeve kupaca
• Sposobnost ciljanih poboljšanja učinkovitosti, kao što je refaktoriranje infrastrukture, ugađanje korisničkih ugovora ili pročišćavanje modela cijena i pakiranja

CUE u doba umjetne inteligencije

U CUE modelu, troškovi umjetne inteligencije samo su još jedan izvor potrošnje u oblaku koji se može ugraditi u poslovni okvir raspodjele. Način na koji AI tvrtke šire podatke o troškovima još uvijek se razvija, ali u načelu, platforme za upravljanje troškovima tretiraju troškove AI-a na isti način kao što tretiraju troškove AWS-a, Azurea, GCP-a i SaaS-a.

Moderne platforme za upravljanje troškovima u oblaku raspoređuju troškove umjetne inteligencije i pokazuju njihov učinak na učinkovitost u kontekstu metrike jediničnih troškova.

Tvrtke bi trebale raspodijeliti svoje troškove umjetne inteligencije na nekoliko intuitivnih načina. Jedan od njih bio bi spomenuti trošak po timu, dimenzija raspodjele zajednička svim izvorima potrošnje na oblak, koja pokazuje troškove za koje je svaki inženjerski tim odgovoran. To je posebno korisno jer čelnici točno znaju koga obavijestiti i smatrati odgovornim kada troškovi određenog tima porastu.

Tvrtke bi također mogle znati svoje trošak po vrsti usluge AI — modeli strojnog učenja (ML) naspram temeljnih modela naspram modela trećih strana kao što je OpenAI. Ili bi mogli izračunati svoj trošak po fazi SDLC-a kako bi razumjeli kako se troškovi značajke pokretane umjetnom inteligencijom mijenjaju pri prijelazu iz razvoja u testiranje, u scenu i konačno u proizvodnju. Tvrtka bi mogla postati još detaljnija i izračunati svoj trošak po fazi životnog ciklusa razvoja umjetne inteligencije, uključujući čišćenje podataka, pohranu, stvaranje modela, obuku modela i zaključivanje.

Malo udaljavanje od korova: CUE znači usporedbu podataka o troškovima organiziranog oblaka s podacima o potražnji kupaca i zatim pronalaženje gdje optimizirati. Troškovi umjetne inteligencije samo su još jedan izvor podataka o troškovima u oblaku koji se, uz pravu platformu, besprijekorno uklapaju u cjelokupnu CUE strategiju tvrtke.

Izbjegavanje COGS tsunamija

Samo od 2024. godine 61% tvrtki ima uspostavljene formalizirane sustave upravljanja troškovima u oblaku (prema anketi CloudZero). Troškovi neupravljanog oblaka uskoro postaju neupravljivi: 31% tvrtki — slično onom dijelu koji formalno ne upravlja svojim troškovima — trpi velike padove COGS-a, izvijestivši da troškovi oblaka troše 11% ili više njihovih prihoda. Neupravljani troškovi umjetne inteligencije samo će pogoršati ovaj trend.

Današnje organizacije koje su najnaprednije tretiraju troškove oblaka kao bilo koji drugi veliki izdatak, izračunavajući njegov ROI, razlažući taj ROI prema svojim najkritičnijim poslovnim dimenzijama i osnažujući relevantne članove tima s podacima potrebnim za optimizaciju tog ROI-ja. Platforme za upravljanje troškovima u oblaku sljedeće generacije nude sveobuhvatan tijek rada CUE, pomažući tvrtkama da izbjegnu COGS tsunami i ojačaju dugoročnu održivost.