I costi dell'intelligenza artificiale stanno aumentando: ecco come tenerli sotto controllo

L'utilizzo del cloud continua a salire, così come i costi associati, in particolare, ultimamente, quelli guidati dall'intelligenza artificiale. Gli analisti di Gartner prevedono che la spesa degli utenti finali in tutto il mondo per i servizi di cloud pubblico aumenterà fino a $ 723.4 miliardi nel 2025, rispetto ai poco meno di 600 miliardi di dollari del 2024. E 70% di dirigenti intervistati in un rapporto IBM hanno citato l'intelligenza artificiale generativa come fattore determinante di questo aumento.

Allo stesso tempo, la cinese DeepSeek ha fatto scalpore quando ha affermato di aver impiegato solo due mesi e 6 milioni di dollari per addestrare il suo modello di intelligenza artificiale. C'è qualche dubbio sul fatto che queste cifre raccontino tutta la storia, ma se i prezzi delle azioni Microsoft e Nvidia ancora in rialzo sono un'indicazione, l'annuncio ha risvegliato il mondo occidentale alla necessità di sistemi di intelligenza artificiale economicamente vantaggiosi.

Finora, le aziende sono state in grado di trattare i crescenti costi dell'IA come svalutazioni di R&S. Ma i costi dell'IA, in particolare quelli associati a prodotti e funzionalità di successo, alla fine colpiranno il costo dei beni venduti (COGS) delle aziende e, di conseguenza, i loro margini lordi. Le innovazioni dell'IA erano sempre destinate ad affrontare il freddo esame del senso degli affari; l'annuncio bomba di DeepSeek ha appena abbreviato quella tempistica.

Proprio come fanno con il resto del cloud pubblico, le aziende dovranno gestire i costi dell'IA, inclusi i costi di formazione e di consumo. Dovranno collegare la spesa per l'IA con i risultati aziendali, ottimizzare i costi dell'infrastruttura dell'IA, perfezionare le strategie di prezzo e packaging e massimizzare il ritorno sui loro investimenti in IA.

Come possono farlo? Con la cloud unit economics (CUE).

Che cosa sono i principi economici delle unità cloud (CUE)?

CUE comprende la misurazione e la massimizzazione del profitto basato sul cloud. Il suo meccanismo fondamentale è la connessione dei dati sui costi del cloud con la domanda dei clienti e i dati sui ricavi, rivelando le dimensioni più e meno redditizie di un'azienda e mostrando così alle aziende come e dove ottimizzare. CUE si applica a tutte le fonti di spesa cloud, inclusi i costi AI.

Il fondamento del CUE è allocazione dei costi — organizzare i costi del cloud in base a chi e/o cosa li determina. Le dimensioni di allocazione comuni includono costo per cliente, costo per team di ingegneria, costo per prodotto, costo per funzionalità e costo per microservizio. Le aziende che utilizzano una moderna piattaforma di gestione dei costi spesso allocano i costi in un framework che rispecchia la loro struttura aziendale (la loro gerarchia di ingegneria, l'infrastruttura della piattaforma, ecc.).

Quindi, il cuore del CUE è il metrica del costo unitario, che confronta i dati sui costi con i dati sulla domanda per mostrare a un'azienda il costo totale del servizio. Ad esempio, un'azienda di marketing B2B potrebbe voler calcolare il suo "costo per 1,000 messaggi" inviati tramite la sua piattaforma. Per farlo, dovrebbe tenere traccia dei suoi costi cloud e del numero di messaggi inviati, immettere tali dati in un singolo sistema e istruire tale sistema a dividere i suoi costi cloud per i suoi messaggi e rappresentare graficamente il risultato in una dashboard.

Poiché l'azienda ha iniziato con l'allocazione dei costi, poteva quindi visualizzare il costo per 1,000 messaggi in base al cliente, al prodotto, alla funzionalità, al team, al microservizio o a qualsiasi altra visualizzazione ritenesse riflettesse la sua struttura aziendale.

I risultati:

• Flessibile dimensioni aziendali con cui possono filtrare la loro metrica di costo unitario, mostrando loro quali aree della loro attività stanno guidando i loro costi cloud
• Un illuminante metrica del costo unitario che mostra loro quanto efficientemente stanno soddisfacendo la domanda dei clienti
• La capacità di apportare miglioramenti mirati all'efficienza, come il refactoring dell'infrastruttura, la modifica dei contratti con i clienti o l'affinamento dei modelli di prezzo e di confezionamento

CUE nell'era dell'intelligenza artificiale

Nel modello CUE, i costi dell'IA sono solo un'ulteriore fonte di spesa cloud che può essere incorporata nel framework di allocazione di un'azienda. Il modo in cui le aziende di IA diffondono i dati sui costi è ancora in evoluzione, ma in linea di principio, le piattaforme di gestione dei costi trattano i costi dell'IA più o meno nello stesso modo in cui trattano i costi di AWS, Azure, GCP e SaaS.

Le moderne piattaforme di gestione dei costi del cloud allocano i costi dell'intelligenza artificiale e mostrano il loro impatto sull'efficienza nel contesto delle metriche dei costi unitari.

Le aziende dovrebbero allocare i costi dell'IA in diversi modi intuitivi. Uno di questi potrebbe essere il costo per team, una dimensione di allocazione comune a tutte le fonti di spesa cloud, che mostra i costi di competenza di ciascun team di ingegneria. Questo è particolarmente utile perché i leader sanno esattamente chi avvisare e a chi attribuire le responsabilità in caso di aumento dei costi di un determinato team.

Le aziende potrebbero anche voler conoscere i loro costo per tipo di servizio AI — modelli di apprendimento automatico (ML) rispetto a modelli di fondazione rispetto a modelli di terze parti come OpenAI. Oppure, potrebbero calcolare il loro costo per fase SDLC per comprendere come cambiano i costi di una funzionalità basata sull'intelligenza artificiale durante la transizione dallo sviluppo al test, allo staging e infine alla produzione. Un'azienda potrebbe ottenere ancora più granularità e calcolare il suo costo per fase del ciclo di vita dello sviluppo dell'intelligenza artificiale, inclusi pulizia dei dati, archiviazione, creazione del modello, training del modello e inferenza.

Allontanandoci un po' dai dettagli: CUE significa confrontare i dati organizzati sui costi del cloud con i dati sulla domanda dei clienti e poi capire dove ottimizzare. I costi dell'AI sono solo un'altra fonte di dati sui costi del cloud che, con la piattaforma giusta, si adattano perfettamente alla strategia CUE complessiva di un'azienda.

Evitare lo tsunami del COGS

Solo a partire dal 2024 61% di aziende aveva formalizzato i sistemi di gestione dei costi del cloud (secondo un sondaggio di CloudZero). I costi del cloud non gestiti diventano presto ingestibili: il 31% delle aziende, simile alla porzione che non gestisce formalmente i propri costi, subisce importanti colpi al COGS, segnalando che i costi del cloud consumano l'11% o più dei loro ricavi. I costi dell'IA non gestiti non faranno che esacerbare questa tendenza.

Le organizzazioni più lungimiranti di oggi trattano i costi del cloud come qualsiasi altra spesa importante, calcolandone il ROI, suddividendolo in base alle dimensioni aziendali più critiche e fornendo ai membri del team interessati i dati necessari per ottimizzare tale ROI. Le piattaforme di gestione dei costi del cloud di nuova generazione offrono un flusso di lavoro CUE completo, aiutando le aziende a evitare lo tsunami del COGS e a rafforzare la redditività a lungo termine.