AI-kostnader akselerer — Her er hvordan du holder dem under kontroll

Cloud-bruken fortsetter å stige, og med det også de tilhørende kostnadene — spesielt de som er drevet av AI. Gartner-analytikere forutser at verdensomspennende slutbruker-utgifter til offentlige cloud-tjenester vil øke til $723,4 milliarder i 2025, opp fra bare under $600 milliarder i 2024. Og 70% av eksponentene som ble spurte i en IBM-rapport nevnte generativ AI som en kritisk driver for denne økningen.

På samme tid gjorde Kinas DeepSeek bølger da de hevdet at de bare brukte to måneder og $6 million for å trene deres AI-modell. Det er noen tvil om disse tallene forteller hele historien, men hvis Microsoft (MSFT ) og Nvidias fortsatt sjokkerte aksjepriser er noen indikasjon, vekket annonseringen den vestlige verden opp til behovet for kostnadseffektive AI-systemer.

Hittil har selskaper kunnet behandle økende AI-kostnader som FoU-avskrivinger. Men AI-kostnader — spesielt de som er knyttet til suksessfulle produkter og funksjoner — vil til slutt treffe selskapenes kostnader for varer og tjenester (COGS) og dermed deres bruttomarginer. AI-innovasjoner var alltid ment å møte den kalde forretningsforstanden; DeepSeeks bombshell-annonsering forkortet bare denne tidsrammen.

Akkurat som de gjør med resten av den offentlige clouden, vil selskaper måtte håndtere sine AI-kostnader, inkludert både trening- og forbrukskostnader. De må koble AI-utgifter med forretningsresultater, optimere AI-infrastrukturkostnader, finpusle prising- og pakkingstrategier og maksimere avkastningen på sine AI-investeringer.

Hvordan kan de gjøre det? Med cloud-enhetsekonomi (CUE).

Hva er cloud-enhetsekonomi (CUE)?

CUE består av måling og maksimering av cloud-drevende fortjeneste. Dens grunnleggende mekanisme er å koble cloud-kostdata med kundebehov og inntektsdata, og avsløre de mest og minst lønnsomme dimensjonene av en virksomhet, og dermed vise selskaper hvordan og hvor de kan optimere. CUE gjelder for alle kilder til cloud-utgifter, inkludert AI-kostnader.

Grunnlaget for CUE er kostnadsallokering — organisering av cloud-kostnader etter hvem og/eller hva som driver dem. Vanlige allokasjonsdimensjoner inkluderer kostnad per kunde, kostnad per ingeniørteam, kostnad per produkt, kostnad per funksjon og kostnad per mikrotjeneste. Selskaper som bruker en moderne kostnadsforvaltningsplattform allokere ofte kostnader i et rammeverk som speiler deres forretningsstruktur (deres ingeniørhierarki, plattform-infrastruktur osv.).

Så er hjertet av CUE enhetskostnads-målet, som sammenligner kostnadsdata med etterspørselsdata for å vise et selskap deres totale kostnad for å betjene. For eksempel kan et B2B-markedsførings-selskap ønske å beregne sin “kostnad per 1 000 meldinger” sendt via sin plattform. For å gjøre dette, må de spore sine cloud-kostnader og antall meldinger sendt, mata denne data inn i et enkelt system og instruere systemet om å dividere sine cloud-kostnader med sine meldinger og grafiske resultater i en dashboard.

Siden selskapet startet med kostnadsallokering, kan de deretter se sin kostnad per 1 000 meldinger etter kunde, produkt, funksjon, team, mikrotjeneste eller hva som helst annet de mener reflekterer deres forretningsstruktur.

Resultatene:

• Flexible forretningsdimensjoner som de kan filtrere sin enhetskostnads-måling med, og vise dem hvilke områder av deres forretning som driver deres cloud-kostnader
• En opplysende enhetskostnads-måling som viser dem hvor effektivt de møter kundebehov
• Evnen til å gjøre målrettede effisiensforbedringer, som å refaktorisere infrastruktur, justere kundeavtaler eller finpusle prising- og pakkingmodeller

CUE i AI-alderen

I CUE-modellen er AI-kostnader bare en annen kilde til cloud-utgifter som kan inkorporeres i et selskaps allokasjonsrammeverk. Måten AI-selskaper formidler kostnadsdata er fortsatt under utvikling, men i prinsippet behandler kostnadsforvaltningsplattformer AI-kostnader på samme måte som de behandler AWS-, Azure-, GCP- og SaaS-kostnader.

Moderne cloud-kostnadsforvaltningsplattformer allokere AI-kostnader og viser deres effisienspåvirkning i sammenheng med enhetskostnads-målinger.

Selskaper bør allokere sine AI-kostnader på en håndfull intuitive måter. En av dem er den ovennevnte kostnad per team, en allokasjonsdimensjon som er felles for alle kilder til cloud-utgifter, og som viser kostnadene som hvert enkelt ingeniørteam er ansvarlig for. Dette er spesielt nyttig fordi ledere vet eksakt hvem de skal varsle og holde ansvarlig når en bestemt teams kostnader øker.

Selskaper kan også ønske å kjenne sin kostnad per AI-tjenestetype — maskinlæringsmodeller (ML) versus grunnmodeller versus tredjepartsmodeller som OpenAI. Eller de kan beregne sin kostnad per SDLC-stadium for å forstå hvordan AI-drevne funksjoners kostnader endrer seg når de går fra utvikling til testing til staging og til slutt til produksjon. Et selskap kan gå enda mer i detalj og beregne sin kostnad per AI-utviklingslivssyklus-stadium, inkludert data-rengjøring, lagring, modell-opprettelse, modell-trening og inferens.

Når vi zoomer ut fra detaljene litt: CUE betyr å sammenligne organisert cloud-kostdata med kundebehovsdata og deretter finne ut hvor å optimere. AI-kostnader er bare en annen kilde til cloud-kostdata som, med riktig plattform, passer sammen med et selskaps overordnede CUE-strategi.

Unngå COGS-tsunamien

Per 2024 har bare 61% av selskaper formalisert cloud-kostnadsforvaltnings-systemer på plass (ifølge en CloudZero-undersøkelse). Uforvaltede cloud-kostnader blir snart ukontrollerte: 31% av selskaper — lignende andelen som ikke har formalisert kostnadsforvaltning — lider av store COGS-tap, og rapporterer at cloud-kostnader utgjør 11% eller mer av deres inntekter. Uforvaltede AI-kostnader vil bare forverre denne trenden.

I dag behandler de mest fremtidsrettede organisasjonene cloud-kostnader som noen andre større utgifter, beregner deres avkastning, bryter denne avkastningen ned etter deres mest kritiske forretningsdimensjoner og gir de relevante teammedlemmene dataene de trenger for å optimere denne avkastningen. Neste-generasjons cloud-kostnadsforvaltningsplattformer tilbyr en omfattende CUE-arbeidsflyt, og hjelper selskaper med å unngå COGS-tsunamien og styrke langvarig levedyktighet.