I costi dell’AI stanno accelerando – Ecco come tenerli sotto controllo

L’uso del cloud continua a salire, così come i costi ad esso associati – in particolare, di recente, quelli generati dall’AI. Gli analisti di Gartner prevedono che la spesa mondiale degli utenti finali per i servizi cloud pubblici raggiungerà 723,4 miliardi di dollari nel 2025, rispetto ai quasi 600 miliardi di dollari del 2024. E il 70% degli executive intervistati in un rapporto IBM ha citato l’AI generativa come un fattore critico di questo aumento.

Allo stesso tempo, la DeepSeek cinese ha fatto notizia quando ha affermato di aver impiegato solo due mesi e 6 milioni di dollari per addestrare il suo modello di AI. Ci sono alcuni dubbi sul fatto che quei numeri raccontino tutta la storia, ma se i prezzi azionari ancora scossi di Microsoft (MSFT ) e Nvidia (NVDA ) sono di qualche indicazione, l’annuncio ha svegliato il mondo occidentale sulla necessità di sistemi di AI efficienti in termini di costo.

Fino ad ora, le aziende sono state in grado di trattare i costi crescenti dell’AI come spese di ricerca e sviluppo. Ma i costi dell’AI – in particolare quelli associati a prodotti e funzionalità di successo – colpiranno alla fine le aziende in termini di costo dei beni venduti (COGS) e, di conseguenza, i loro margini lordi. Le innovazioni dell’AI erano sempre destinate a essere sottoposte al freddo esame del buon senso aziendale; l’annuncio bomba di DeepSeek ha solo abbreviato quel periodo di tempo.

Proprio come fanno con il resto del cloud pubblico, le aziende dovranno gestire i costi dell’AI, compresi sia i costi di addestramento che di consumo. Dovranno collegare la spesa per l’AI con i risultati aziendali, ottimizzare i costi dell’infrastruttura dell’AI, raffinare le strategie di prezzi e confezionamento e massimizzare il ritorno sugli investimenti nell’AI.

Come possono farlo? Con l’economia unitaria del cloud (CUE).

Che cos’è l’economia unitaria del cloud (CUE)?

La CUE comprende la misurazione e la massimizzazione del profitto generato dal cloud. Il suo meccanismo fondamentale consiste nel collegare i dati sui costi del cloud con i dati sulla domanda e sui ricavi dei clienti, rivelando le dimensioni più e meno redditizie di un’azienda e mostrando così alle aziende come e dove ottimizzare. La CUE si applica a tutte le fonti di spesa del cloud, compresi i costi dell’AI.

La base della CUE è l’allocazione dei costi – organizzare i costi del cloud in base a chi e/o cosa li genera. Le dimensioni di allocazione comuni includono il costo per cliente, il costo per team di ingegneria, il costo per prodotto, il costo per funzionalità e il costo per microservizio. Le aziende che utilizzano una piattaforma di gestione dei costi moderna spesso allocano i costi in un framework che rispecchia la struttura aziendale (la gerarchia di ingegneria, l’infrastruttura della piattaforma, ecc.).

Poi, il cuore della CUE è la metrica del costo unitario, che confronta i dati sui costi con i dati sulla domanda per mostrare a un’azienda il suo costo totale per servire. Ad esempio, un’azienda di marketing B2B potrebbe voler calcolare il suo “costo per 1.000 messaggi” inviati tramite la sua piattaforma. Per farlo, dovrebbe tenere traccia dei costi del cloud e del numero di messaggi inviati, inserire quei dati in un unico sistema e istruire quel sistema a dividere i costi del cloud per i messaggi e graficare il risultato in un dashboard.

Dal momento che l’azienda ha iniziato con l’allocazione dei costi, potrebbe quindi visualizzare il suo costo per 1.000 messaggi per cliente, prodotto, funzionalità, team, microservizio o qualsiasi altra visualizzazione che ritenga rappresentativa della sua struttura aziendale.

I risultati:

• Dimensioni aziendali flessibili in base alle quali possono filtrare la loro metrica del costo unitario, mostrando loro quali aree del loro business stanno guidando i costi del cloud
• Una metrica del costo unitario illuminante che mostra loro quanto efficientemente stanno soddisfacendo la domanda dei clienti
• La capacità di apportare miglioramenti di efficienza mirati, come rifattorizzare l’infrastruttura, aggiustare i contratti con i clienti o raffinare i modelli di prezzi e confezionamento

CUE nell’era dell’AI

Nel modello CUE, i costi dell’AI sono solo un’altra fonte di spesa del cloud che può essere incorporata nel framework di allocazione di un’azienda. Il modo in cui le aziende di AI diffondono i dati sui costi è ancora in evoluzione, ma in principio, le piattaforme di gestione dei costi trattano i costi dell’AI allo stesso modo dei costi di AWS, Azure, GCP e SaaS.

Le moderne piattaforme di gestione dei costi del cloud allocano i costi dell’AI e mostrano il loro impatto sull’efficienza nel contesto delle metriche del costo unitario.

Le aziende dovrebbero allocare i costi dell’AI in una manciata di modi intuitivi. Uno sarebbe il già menzionato costo per team, una dimensione di allocazione comune a tutte le fonti di spesa del cloud, che mostra i costi per cui ogni team di ingegneria è responsabile. Ciò è particolarmente utile perché i leader sanno esattamente a chi notificare e a chi attribuire la responsabilità quando i costi di un team salgono.

Le aziende potrebbero anche voler conoscere il loro costo per tipo di servizio AI – modelli di apprendimento automatico (ML) rispetto a modelli di base rispetto a modelli di terze parti come OpenAI. Oppure, potrebbero calcolare il loro costo per fase del ciclo di vita dello sviluppo del software (SDLC) per capire come i costi di una funzionalità alimentata dall’AI cambiano man mano che essa passa dallo sviluppo al test al staging e infine alla produzione. Un’azienda potrebbe addirittura calcolare il suo costo per fase del ciclo di vita dello sviluppo dell’AI, compresa la pulizia dei dati, l’archiviazione, la creazione del modello, l’addestramento del modello e l’inferenza.

Allontanandosi un po’ dai dettagli: la CUE significa confrontare i dati sui costi del cloud organizzati con i dati sulla domanda dei clienti e poi capire dove ottimizzare. I costi dell’AI sono solo un’altra fonte di dati sui costi del cloud che, con la piattaforma giusta, si integrano perfettamente nella strategia CUE generale di un’azienda.

Evitare il tsunami dei COGS

Al 2024, solo il 61% delle aziende aveva sistemi di gestione dei costi del cloud formalizzati in atto (secondo un sondaggio di CloudZero). I costi del cloud non gestiti diventano presto ingestibili: il 31% delle aziende – simile alla percentuale di quelle che non gestiscono formalmente i costi – subisce grandi impatti sui COGS, segnalando che i costi del cloud consumano l’11% o più dei loro ricavi. I costi dell’AI non gestiti esacerberanno solo questa tendenza.

Le organizzazioni più avanzate di oggi trattano i costi del cloud come qualsiasi altra spesa importante, calcolando il suo ROI, scomponendo quel ROI per le loro dimensioni aziendali più critiche e dotando i team membri rilevanti dei dati necessari per ottimizzare quel ROI. Le piattaforme di gestione dei costi del cloud di nuova generazione offrono un flusso di lavoro CUE completo, aiutando le aziende a evitare il tsunami dei COGS e a rafforzare la loro vitalità a lungo termine.