Tankeledare

AI-kostnader accelererar — Här är hur du håller dem under kontroll

mm
Lägg till Unite.AI bland dina föredragna källor på Google

Molnanvändningen fortsätter att öka, liksom de associerade kostnaderna — särskilt de som drivs av AI. Gartner-analytiker förutspår att den globala slutanvändarutgiften för offentliga molntjänster kommer att öka till 723,4 miljarder dollar 2025, upp från knappt 600 miljarder dollar 2024. Och 70% av cheferna som deltog i en IBM-rapport angav generativ AI som en kritisk drivkraft för denna ökning.

Samtidigt skapade Kinas DeepSeek rubriker när de påstod att det bara tog två månader och 6 miljoner dollar att träna deras AI-modell. Det finns viss tveksamhet om dessa siffror berättar hela historien, men om Microsoft (MSFT ) och Nvidias fortfarande chockade aktiekurser är något att döma av, väckte tillkännagivandet den västra världen till behovet av kostnadseffektiva AI-system.

(NVDA )

Hittills har företag kunnat behandla ökande AI-kostnader som FoU-avskrivningar. Men AI-kostnader — särskilt de som är associerade med framgångsrika produkter och funktioner — kommer så småningom att påverka företagens kostnad för sålda varor (COGS) och, i förlängningen, deras bruttomarginaler. AI-innovationer var alltid avsedda att möta den kalla verkligheten i affärssammanhang; DeepSeeks bombshell-tillkännagivande förkortade bara den tidsramen.

Liksom de gör med resten av det offentliga molnet kommer företag att behöva hantera sina AI-kostnader, inklusive både utbildnings- och konsumtionskostnader. De kommer att behöva koppla AI-utgifter till affärsresultat, optimera AI-infrastrukturkostnader, förfinade prissättnings- och paketeringsstrategier och maximera avkastningen på sina AI-investeringar.

Hur kan de göra det? Med molnenhetsEkonomi (CUE).

Vad är molnenhetsEkonomi (CUE)?

CUE består av mätning och maximera molnbaserad vinst. Dess grundläggande mekanism är att koppla molnkostnadsdata med kundefterfrågan och intäktsdata, vilket avslöjar de mest och minst lönsamma dimensionerna av ett företag och visar företagen hur och var de kan optimera. CUE tillämpas på alla källor till molnkostnader, inklusive AI-kostnader.

Grundvalen för CUE är kostnadsallokering — organisering av molnkostnader enligt vem och/eller vad som driver dem. Vanliga allokering dimensioner inkluderar kostnad per kund, kostnad per ingenjörsteam, kostnad per produkt, kostnad per funktion, och kostnad per mikrotjänst. Företag som använder en modern kostnadshanteringsplattform allokerar ofta kostnader i en ram som speglar deras affärsstruktur (deras ingenjörshierarki, plattformsinfrastruktur etc.).

Sedan är hjärtat av CUE enhetkostnadsmätning, som jämför kostnadsdata med efterfrågedata för att visa ett företag deras totala kostnad för att betjäna. Till exempel kan ett B2B-marknadsföringsföretag vilja beräkna sin “kostnad per 1 000 meddelanden” som skickas via sin plattform. För att göra detta måste de spåra sina molnkostnader och antalet meddelanden som skickas, mata in dessa data i ett system och instruera systemet att dividera sina molnkostnader med sina meddelanden och grafiskt visa resultatet i en instrumentpanel.

Eftersom företaget började med kostnadsallokering kunde de sedan visa sin kostnad per 1 000 meddelanden per kund, produkt, funktion, team, mikrotjänst eller vilken annan vy de ansåg vara representativ för sin affärsstruktur.

Resultatet:

  • Flexibla affärsdimensioner som de kan filtrera sin enhetskostnadsmätning med, vilket visar dem vilka områden av deras affär som driver deras molnkostnader
  • En upplysande enhetkostnadsmätning som visar dem hur effektivt de möter kundefterfrågan
  • Möjligheten att göra riktade effektivitetsförbättringar, som att omstrukturera infrastruktur, justera kundkontrakt eller förfinade prissättnings- och paketeringsmodeller

CUE i AI-eran

I CUE-modellen är AI-kostnader bara en annan källa till molnkostnader som kan integreras i ett företags allokeringssystem. Sättet som AI-företag sprider kostnadsdata är fortfarande under utveckling, men i princip behandlar kostnadshanteringsplattformar AI-kostnader på samma sätt som de behandlar AWS-, Azure-, GCP- och SaaS-kostnader.

Modern molnkostnadsplattform allokerar AI-kostnader och visar deras effektivitetspåverkan i sammanhanget med enhetskostnadsmätning.

Företag bör allokera sina AI-kostnader på ett handfull intuitiva sätt. En skulle vara den ovannämnda kostnaden per team, en allokering dimension som är gemensam för alla källor till molnkostnader, vilket visar kostnaderna som varje ingenjörsteam är ansvarigt för. Detta är särskilt användbart eftersom ledare vet exakt vem de ska meddela och hålla ansvarig när en viss teams kostnader ökar.

Företag kan också vilja veta sin kostnad per AI-tjänsttyp — maskinlärande (ML) modeller versus grundmodeller versus tredjepartsmodeller som OpenAI. Eller, de kunde beräkna sin kostnad per SDLC-stadium för att förstå hur en AI-driven funktions kostnader ändras när den övergår från utveckling till testning till staging och slutligen till produktion. Ett företag kunde bli ännu mer detaljerat och beräkna sin kostnad per AI-utvecklingslivscykelstadium, inklusive datarengöring, lagring, modellskapande, modellträning och inferens.

Att zooma ut från detaljerna lite: CUE innebär att jämföra organiserad molnkostnadsdata med kundefterfrågan och sedan bestämma var man ska optimera. AI-kostnader är bara en annan källa till molnkostnadsdata som, med rätt plattform, passar sömlöst in i ett företags övergripande CUE-strategi.

Att undvika COGS-tsunamin

Från och med 2024 hade endast 61% av företagen formaliserade molnkostnadsystem på plats (enligt en CloudZero-undersökning). Ohanterade molnkostnader blir snart ohanterliga: 31% av företagen — liknande den andel som inte formellt hanterar sina kostnader — lider av stora COGS-havarier, rapporterar att molnkostnader konsumerar 11% eller mer av deras intäkter. Ohanterade AI-kostnader kommer bara att förvärra denna trend.

Idag behandlar de mest framåtriktade organisationerna molnkostnader som vilken annan stor utgift som helst, beräknar dess ROI, bryter ner den ROI efter deras mest kritiska affärsdimensioner och ger de relevanta teammedlemmarna de data som behövs för att optimera den ROI. Nästa generations molnkostnadsplattformar erbjuder en omfattande CUE-arbetsflöde, som hjälper företag att undvika COGS-tsunamin och stärka långsiktig livskraft.

Bill Buckley är en erfaren teknisk chef med en rik bakgrund inom programvaruteknik och produktledning. Med en karriär som spänner över framstående företag som EMC, Unidesk, Citrix och nu CloudZero, bringar Bill en stor mängd erfarenhet och expertis till sin roll som senior vice president för teknik.