Ajatusjohtajat

AI-kustannukset kiihtyvät – Tässä on, miten niitä voidaan pitää hallinnassa

mm
Lisää Unite.AI suosikkilähteisiisi Google-palvelussa

Pilvipalvelujen käyttö lisääntyy jatkuvasti, ja niiden kustannukset kasvavat – erityisesti viime aikoina AI-kustannukset. Gartnerin analyytikot ennustavat, että maailmanlaajuinen julkisten pilvipalvelujen loppukäyttäjien kulutus kasvaa 723,4 miljardiin dollariin vuonna 2025, oltuaan vain hieman alle 600 miljardia dollaria vuonna 2024. Ja 70 % johtajista, jotka osallistuivat IBM:n raporttiin, mainitsivat generatiivisen AI:n kriittiseksi kulutuksen kasvun tekijäksi.

Samaan aikaan Kiinan DeepSeek aiheutti kohun väittämällä, että se kesti vain kaksi kuukautta ja 6 miljoonaa dollaria kouluttaa sen AI-malli. On epäilty, että nämä luvut eivät kerro koko tarinaa, mutta jos Microsoftin ja Nvidian edelleen jyrkkien osakekurssien voidaan katsoa osoittavan, että länsimaisten yritysten on herätty tarpeeseen tehostaa AI-järjestelmiensä kustannuksia.

(MSFT ) (NVDA )

Toistaiseksi yritykset ovat voineet kohdella kasvavia AI-kustannuksia tutkimus- ja kehityskuluna. Mutta AI-kustannukset – erityisesti niiden tuotteiden ja ominaisuuksien kustannukset, jotka ovat menestyneet – tulevat lopulta vaikuttamaan yritysten raaka-aineiden ja tarvikkeiden kustannuksiin (COGS) ja siten heikentämään heidän bruttoliikevoittojaan. AI-innovaatiot olivat aina tarkoitus kohtaa liiketoiminnan järjen kylmä tarkastelu; DeepSeekin pommituomaisen ilmoituksen vain nopeutti tämän aikajanan.

Yritysten on hallittava AI-kustannuksiaan, mukaan lukien sekä koulutus- että kulutuskustannukset. Heidän on yhdistettävä AI-kulutuksensa liiketoimintatuloksiin, optimoitava AI-infrastruktuurikustannuksia, hiotava hinta- ja pakkausstrategioita ja maksimoitava AI-sijoitustensa tuotto.

Miten he voivat tehdä sen? Pilvipalvelujen yksikköekonomiikan (CUE) avulla.

Mikä on pilvipalvelujen yksikköekonomiikka (CUE)?

CUE koostuu pilvipalvelujen voiton mittaamisesta ja maksimoinnista. Sen perusmekanismi on yhdistää pilvipalvelujen kustannusdata asiakastarpeisiin ja tuototietoihin, paljastaen yrityksen tuottavimmat ja vähiten tuottavat ulottuvuudet ja näin osoittaen, miten ja missä yritys voi optimoida. CUE soveltuu kaikkiin pilvipalvelujen kustannuslähteisiin, mukaan lukien AI-kustannukset.

CUE:n perusta on kustannusjakautuminen – pilvipalvelujen kustannusten järjestäminen sen mukaan, kuka tai mikä niitä aiheuttaa. Yleisiä kustannusjakautumisulottuvuuksia ovat kustannus per asiakas, kustannus per insinööritiimi, kustannus per tuote, kustannus per ominaisuus ja kustannus per mikropalvelu. Yritykset, jotka käyttävät modernia kustannusjohtamisalustaa, usein jakavat kustannukset puitteessa, joka heijastaa heidän liiketoimintarakennettaan (heidän insinöörihierarkiaansa, alustan infrastruktuuria jne.).

CUE:n ydin on yksikkökustannusmittari, joka vertaa kustannusdataa tarpeiden dataan, osoittaen yritykselle sen kaiken kattavan kustannuksen asiakasta kohti. Esimerkiksi B2B-markkinointiyhtiö saattaisi haluta laskea “kustannuksensa 1000 viestille” lähettämiseksi sen alustan kautta. Tämä edellyttäisi seuraamista pilvipalvelujen kustannuksia ja viestien määrää, syöttämistä tietoja yhteen järjestelmään ja käskemistä järjestelmälle jakamaan pilvipalvelujen kustannukset viestien määrällä ja piirtämistä tulosta kojussa.

Koska yritys aloitti kustannusjakautumisella, se voisi sitten tarkastella kustannuksiaan 1000 viestille asiakkaan, tuotteen, ominaisuuden, tiimin, mikropalvelun tai minkä tahansa muun näkymän kautta, jonka se katsoi heijastavan liiketoimintarakennettaan.

Tulokset:

  • Joustavat liiketoimintaulottuvuudet, joilla ne voivat suodattaa yksikkökustannusmittaaria, osoittaen, mitkä liiketoiminnan osa-alueet aiheuttavat heidän pilvipalvelujen kustannuksiaan
  • Valaistuva yksikkökustannusmittari, joka osoittaa, miten tehokkaasti he tyytyväisyyden asiakkaiden tarpeisiin
  • Mahdollisuus tehdä kohdennettuja tehokkuusparannuksia, kuten uudelleenjärjestely infrastruktuuria, säätely asiakassopimuksia tai hienosäätöä hinnoittelumalleja

CUE AI-ajan

CUE-mallissa AI-kustannukset ovat vain yksi lisäkustannuslähde, joka voidaan sisällyttää yrityksen kustannusjakautumisrakenteeseen. AI-yritysten tapa, jolla ne jakavat kustannusdataa, on edelleen kehittymässä, mutta periaatteessa kustannusjohtamisalustat käsittelevät AI-kustannuksia samalla tavalla kuin AWS-, Azure-, GCP- ja SaaS-kustannukset.

Modernit pilvipalvelujen kustannusjohtamisalustat jakavat AI-kustannukset ja osoittavat niiden vaikutuksen tehokkuuteen yksikkökustannusmittarin kontekstissa.

Yritysten tulisi jakaa AI-kustannukset järkevällä tavalla. Yksi tapa olisi mainittu kustannus per tiimi, kustannusjakautumisulottuvuus, joka on yleinen kaikille pilvipalvelujen kustannuslähteille, osoittaen kustannukset, joista kunkin insinööritiimin on vastuussa. Tämä on erityisen hyödyllistä, koska johtajat tietävät tarkalleen, kenelle ilmoittaa ja kenelle vastuuta, kun tiimin kustannukset nousevat.

Yritykset saattavat myös haluta tietää AI-palvelun kustannuksensa – kuten koneoppimismallit perustuu perusmalliin tai kolmannen osapuolen malleihin, kuten OpenAI. Tai ne voivat laskea kustannuksensa SDLC-vaiheessa ymmärtääkseen, miten AI-pohjaisen ominaisuuden kustannukset muuttuvat siirtymisen kuluessa kehityksestä testaukseen, esittelyyn ja lopulta tuotantoon. Yritys voisi myös laskea kustannuksensa AI-kehityksen elinkaaren vaiheittain, mukaan lukien tietojen puhdistus, tallennus, mallin luominen, mallin koulutus ja deduktiivinen päättely.

Zoomaamalla hieman pois yksityiskohdista: CUE tarkoittaa järjestetyn pilvipalvelujen kustannusdatan vertaamista asiakastarpeiden dataan ja sitten määrittämistä, missä optimoida. AI-kustannukset ovat vain yksi lisäkustannuslähde, joka sopii yrityksen yleiseen CUE-strategiaan.

COGS-tsunamin välttäminen

Vuonna 2024 vain 61 % yrityksistä (CloudZeron kysely) oli virallistanut pilvipalvelujen kustannusjohtamisjärjestelmät. Hoidattomat pilvipalvelukustannukset muuttuvat pian hoidattomiksi: 31 % yrityksistä – samanlainen osuus, joka ei virallistanut kustannuksiaan – kärsii suurista COGS-iskuista, ilmoittaen, että pilvipalvelukustannukset kuluttavat 11 % tai enemmän heidän tuotostaan. Hoidattomat AI-kustannukset vain pahentavat tätä kehitystä.

Tänään eteenpäin suuntautuvat organisaatiot kohdellaavat pilvipalvelujen kustannuksia kuin minkä tahansa muun suuren kulutuksen, laskemalla sen tuoton, jakamalla sen tuoton heidän kriittisimpien liiketoimintaulottuvuuksiensa mukaan ja antamalla asiaankuuluvien tiimien jäsenten käyttöön tarvittavat tiedot tuoton optimoimiseksi. Uuden sukupolven pilvipalvelujen kustannusjohtamisalustat tarjoavat kattavan CUE-työnkulun, auttaen yrityksiä välttämään COGS-tsunamin ja vahvistamaan pitkän aikavälin elinkelpoisuuttaan.

Bill Buckley on kokenut teknologiajohtaja, jolla on rikas tausta ohjelmistosuunnittelussa ja tuotejohtamisessa. Uransa aikana hän on työskennellyt merkittävissä yrityksissä kuten EMC, Unidesk, Citrix ja nyt CloudZero, ja tuo näin ollen runsaasti kokemusta ja asiantuntemusta tehtäväänsä senior vice president of engineering -roolissa.