Costurile AI se accelerează – Iată cum să le țineți sub control

Utilizarea cloud-ului continuă să crească, la fel ca și costurile asociate, în special, în ultimul timp, cele determinate de AI. Analiștii Gartner prevăd că cheltuielile utilizatorilor finali din întreaga lume pentru serviciile cloud publice vor crește până la 723.4 miliarde $ în 2025, în creștere de la puțin sub 600 de miliarde de dolari în 2024. Și 70% dintre directori chestionat într-un raport IBM a citat AI generativ ca un factor critic al acestei creșteri.

În același timp, compania chineză DeepSeek a făcut furori când a susținut că a avut nevoie doar două luni și 6 milioane de dolari pentru a-și antrena modelul AI. Există unele îndoieli dacă aceste cifre spun întreaga poveste, dar dacă prețurile încă zguduite ale acțiunilor Microsoft și Nvidia sunt un indiciu, anunțul a trezit lumea occidentală cu nevoia de sisteme AI eficiente din punct de vedere al costurilor.

Până în prezent, companiile au reușit să trateze costurile crescânde ale IA ca niște pierderi de cercetare și dezvoltare. Dar costurile AI - în special cele asociate cu produse și caracteristici de succes - vor afecta în cele din urmă costul bunurilor vândute (COGS) al companiilor și, în consecință, marjele lor brute. Inovațiile AI au fost întotdeauna destinate să facă față examinării la rece a simțului afacerilor; Anunțul-bombă al lui DeepSeek tocmai a scurtat această cronologie.

La fel cum fac cu restul cloud-ului public, companiile vor trebui să-și gestioneze costurile AI, inclusiv costurile de formare și de consum. Ei vor trebui să conecteze cheltuielile cu AI cu rezultatele afacerii, să optimizeze costurile infrastructurii AI, să perfecționeze strategiile de preț și de ambalare și să maximizeze rentabilitatea investițiilor lor în AI.

Cum o pot face? Cu cloud unit economics (CUE).

Ce este cloud unit economics (CUE)?

CUE cuprinde măsurarea și maximizarea profitului bazat pe cloud. Mecanismul său fundamental este conectarea datelor privind costurile din cloud cu datele privind cererea clienților și veniturile, dezvăluind dimensiunile cele mai și cele mai puțin profitabile ale unei afaceri și, astfel, arătând companiilor cum și unde să se optimizeze. CUE se aplică în toate sursele de cheltuieli cloud, inclusiv costurile AI.

Fundamentul CUE este alocarea costurilor — organizarea costurilor cloud în funcție de cine și/sau ce le determină. Dimensiunile obișnuite de alocare includ costul pe client, costul pe echipă de ingineri, costul pe produs, costul pe caracteristică și costul pe microserviciu. Companiile care utilizează o platformă modernă de management al costurilor alocă adesea costurile într-un cadru care reflectă structura lor de afaceri (ierarhia lor de inginerie, infrastructura platformei etc.).

Apoi, inima CUE este metrica costului unitar, care compară datele de cost cu datele privind cererea pentru a arăta unei companii costul total de deservire. De exemplu, o companie de marketing B2B ar putea dori să-și calculeze „costul pentru 1,000 de mesaje” trimise prin platforma sa. Pentru a face acest lucru, ar trebui să-și urmărească costurile cloud și numărul de mesaje trimise, să introducă acele date într-un singur sistem și să instruiască acel sistem să-și împartă costurile cloud la mesajele sale și să grafice rezultatul într-un tablou de bord.

Din moment ce compania a început cu alocarea costurilor, a putut apoi să-și vadă costul pentru 1,000 de mesaje în funcție de client, produs, caracteristică, echipă, microserviciu sau orice altă viziune pe care o consideră reflectând structura afacerii sale.

Rezultatele:

• Instalare dimensiunile afacerii prin care își pot filtra valoarea costului unitar, arătându-le care domenii ale afacerii lor le conduc costurile cloud
• Un iluminator metrica costului unitar care le arată cât de eficient îndeplinesc cererea clienților
• Capacitatea de a face îmbunătățiri specifice ale eficienței, cum ar fi refactorizarea infrastructurii, modificarea contractelor cu clienții sau rafinarea modelelor de prețuri și de ambalare

CUE în era AI

În modelul CUE, costurile AI sunt doar o altă sursă de cheltuieli cloud care poate fi încorporată în cadrul de alocare al unei companii. Modul în care companiile AI difuzează datele despre costuri este încă în evoluție, dar, în principiu, platformele de management al costurilor tratează costurile AI în același mod în care tratează costurile AWS, Azure, GCP și SaaS.

Platformele moderne de management al costurilor în cloud alocă costurile AI și își arată impactul eficienței în contextul metricilor costurilor unitare.

Companiile ar trebui să își aloce costurile cu inteligența artificială în câteva moduri intuitive. Una ar fi costul per echipă menționat anterior, o dimensiune de alocare comună tuturor surselor de cheltuieli în cloud, care arată costurile pentru care este responsabilă fiecare echipă de inginerie. Acest lucru este util în special deoarece liderii știu exact pe cine să notifice și pe cine să tragă la răspundere atunci când costurile unei anumite echipe cresc brusc.

De asemenea, companiile ar putea dori să le cunoască cost pe tip de serviciu AI — modele de învățare automată (ML) versus modele de bază versus modele terță parte precum OpenAI. Sau ar putea să-și calculeze costul pe etapă SDLC pentru a înțelege cum se modifică costurile unei caracteristici bazate pe inteligență artificială pe măsură ce trece de la dezvoltare la testare la punere în scenă și, în final, la producție. O companie ar putea deveni și mai detaliată și să-și calculeze costul pe etapa ciclului de viață al dezvoltării AI, inclusiv curățarea datelor, stocarea, crearea modelului, instruirea modelului și inferența.

Micșorarea puțin de la buruieni: CUE înseamnă compararea datelor organizate privind costurile cloud cu datele despre cererea clienților și apoi a afla unde să optimizați. Costurile AI sunt doar o altă sursă de date privind costurile cloud care, cu platforma potrivită, se potrivesc perfect în strategia generală CUE a unei companii.

Evitarea tsunami-ului COGS

Doar din 2024 61% dintre companii avea sisteme de management al costurilor în cloud oficializate (în conformitate cu un sondaj CloudZero). Costurile cloud negestionate devin în curând imposibil de gestionat: 31% dintre companii – similar cu partea care nu își gestionează în mod oficial costurile – suferă lovituri majore ale COGS, raportând că costurile cloud consumă 11% sau mai mult din veniturile lor. Costurile negestionate ale AI nu vor face decât să exacerbeze această tendință.

Cele mai avansate organizații din ziua de azi tratează costurile cloud ca orice altă cheltuială majoră, calculând rentabilitatea investiției, defalcând rentabilitatea investiției în funcție de dimensiunile lor de afaceri cele mai esențiale și dând putere membrilor echipei relevanți cu datele necesare pentru a optimiza rentabilitatea investiției. Platformele de management al costurilor din cloud de ultimă generație oferă un flux de lucru CUE cuprinzător, ajutând companiile să evite tsunami-ul COGS și să consolideze viabilitatea pe termen lung.