Costurile cu IA sunt în creștere – Aici este cum să le țineți sub control

Utilizarea cloud-ului continuă să crească, la fel și costurile asociate – în special, în ultima vreme, cele generate de IA. Analistii Gartner prevăd că cheltuielile globale ale utilizatorilor finali pentru serviciile cloud publice vor ajunge la 723,4 miliarde de dolari în 2025, față de aproximativ 600 de miliarde de dolari în 2024. Și 70% dintre executivi chestionați într-un raport IBM au menționat IA generativă ca un factor cheie al acestei creșteri.

În același timp, DeepSeek din China a făcut valuri atunci când a afirmat că a necesitat doar două luni și 6 milioane de dolari pentru a antrena modelul său de IA. Există îndoieli cu privire la faptul că aceste cifre spun întreaga poveste, dar dacă prețurile acțiunilor Microsoft (MSFT ) și Nvidia (NVDA ) sunt orice indicator, anunțul a trezit lumea occidentală la nevoia de sisteme de IA eficiente din punct de vedere al costurilor.

Până în prezent, companiile au putut trata creșterea costurilor cu IA ca fiind cheltuieli de cercetare și dezvoltare. Dar costurile cu IA – în special cele asociate cu produse și caracteristici de succes – vor lovi, în cele din urmă, costul bunurilor vândute (COGS) și, în consecință, marjele brute ale companiilor. Inovațiile în domeniul IA au fost întotdeauna destinate să facă față unei analize atente din punct de vedere economic; anunțul bombă al lui DeepSeek a scurtat doar acest calendar.

La fel ca și în cazul restului cloud-ului public, companiile vor trebui să-și gestioneze costurile cu IA, inclusiv atât costurile de antrenament, cât și cele de consum. Vor trebui să conecteze cheltuielile cu IA cu rezultatele afacerii, să optimizeze costurile infrastructurii de IA, să rafineze strategiile de preț și ambalare și să maximizeze rentabilitatea investițiilor în IA.

Cum pot face acest lucru? Cu economia unitară a cloud-ului (CUE).

Ce este economia unitară a cloud-ului (CUE)?

CUE cuprinde măsurarea și maximizarea profitului generat de cloud. Mecanismul său fundamental constă în conectarea datelor de cost cloud cu datele de cerere și venituri ale clienților, dezvăluind astfel dimensiunile cele mai și mai puțin profitabile ale unei afaceri și arătând companiilor cum și unde să optimizeze. CUE se aplică tuturor surselor de cheltuieli cloud, inclusiv costurilor cu IA.

Baza CUE o reprezintă alocarea costurilor – organizarea costurilor cloud în funcție de cine și/sau ce le generează. Dimensiunile de alocare comune includ costul pe client, costul pe echipă de ingineri, costul pe produs, costul pe caracteristică și costul pe microserviciu. Companiile care utilizează o platformă modernă de gestionare a costurilor alocă adesea costurile într-un cadru care reflectă structura lor de afaceri (ierarhia de ingineri, infrastructura platformei etc.).

Apoi, inima CUE o reprezintă metrica de cost pe unitate, care compară datele de cost cu datele de cerere pentru a arăta unei companii costul total de a deservi. De exemplu, o companie de marketing B2B ar putea dori să calculeze “costul pe 1.000 de mesaje” trimise prin platforma sa. Pentru a face acest lucru, ar trebui să urmărească costurile cloud și numărul de mesaje trimise, să introducă aceste date într-un singur sistem și să instruiască sistemul să împartă costurile cloud la numărul de mesaje și să graficeze rezultatul într-un dashboard.

Deoarece compania a început cu alocarea costurilor, ar putea apoi să-și vizualizeze costul pe 1.000 de mesaje pe client, produs, caracteristică, echipă, microserviciu sau orice altă perspectivă pe care o consideră reflectând structura sa de afaceri.

Rezultatele:

• Dimensiuni de afaceri flexibile prin care pot filtra metrica de cost pe unitate, arătându-le care zone ale afacerii lor generează costurile cloud
• O metrică de cost pe unitate iluminatoare care le arată cât de eficient îndeplinesc cererea clienților
• Capacitatea de a face îmbunătățiri de eficiență țintite, cum ar fi refacerea infrastructurii, ajustarea contractelor cu clienții sau rafinarea modelelor de preț și ambalare

CUE în era IA

În modelul CUE, costurile cu IA sunt doar o altă sursă de cheltuieli cloud care poate fi încorporată în cadrul de alocare al unei afaceri. Modul în care companiile de IA diseminează datele de cost este încă în evoluție, dar, în principiu, platformele de gestionare a costurilor tratează costurile cu IA în mod similar cu costurile AWS, Azure, GCP și SaaS.

Platformele moderne de gestionare a costurilor cloud alocă costurile cu IA și arată impactul lor asupra eficienței în contextul metricilor de cost pe unitate.

Companiile ar trebui să-și aloce costurile cu IA în câteva moduri intuitive. Unul ar fi costul pe echipă, o dimensiune de alocare comună pentru toate sursele de cheltuieli cloud, arătând costurile pentru care fiecare echipă de ingineri este responsabilă. Acest lucru este deosebit de util, deoarece liderii știu exact cui să notifice și cui să dea socoteală atunci când costurile unei echipe anumite sar în sus.

Companiile ar putea dori, de asemenea, să știe costul pe tip de serviciu de IA – modele de învățare automată (ML) versus modele de bază versus modele terțe, cum ar fi OpenAI. Sau ar putea calcula costul pe etapă a ciclului de viață al dezvoltării software (SDLC) pentru a înțelege cum se schimbă costurile unei caracteristici bazate pe IA pe măsură ce trece de la dezvoltare la testare, la etapă și, în final, la producție. O companie ar putea merge și mai departe și calcula costul pe etapă a ciclului de viață al dezvoltării de IA, incluzând curățarea datelor, stocarea, crearea modelului, antrenarea modelului și inferența.

Într-o perspectivă mai largă: CUE înseamnă compararea datelor de cost cloud organizate cu datele de cerere ale clienților și, apoi, stabilirea unde să se optimizeze. Costurile cu IA sunt doar o altă sursă de date de cost cloud care, cu platforma potrivită, se pot integra perfect în strategia generală CUE a unei companii.

Evitarea tsunami-ului COGS

Începând cu 2024, doar 61% dintre companii aveau sisteme formale de gestionare a costurilor cloud în vigoare (conform unui sondaj CloudZero). Costurile cloud ne gestionate devin curând de nestăpânit: 31% dintre companii – similar cu procentul care nu gestionează formal costurile – suferă lovituri majore asupra COGS, raportând că costurile cloud consumă 11% sau mai mult din veniturile lor. Costurile cu IA ne gestionate nu vor face decât să exacerbeze această tendință.

Organizațiile cel mai avansate din zilele noastre tratează costurile cloud ca orice altă cheltuială majoră, calculându-și rentabilitatea investiției (ROI), descompunând această ROI în funcție de dimensiunile de afaceri cele mai critice și dotând echipele relevante cu datele necesare pentru a optimiza acea ROI. Platformele de gestionare a costurilor cloud de ultimă generație oferă un flux de lucru CUE cuprinzător, ajutând companiile să evite tsunami-ul COGS și să-și consolideze viabilitatea pe termen lung.