Cosa DeepSeek può insegnarci sui costi e sull’efficienza dell’AI

Con il suo logo di balena carino, l’uscita recente di DeepSeek avrebbe potuto ridursi a nulla più che un’altra copia di ChatGPT. Ciò che l’ha resa così degna di nota – e che ha fatto precipitare le azioni dei concorrenti – è stato il poco che è costato crearla. Ha gettato efficacemente un cacciavite nel meccanismo della nozione degli Stati Uniti sull’investimento necessario per addestrare un modello di linguaggio grande e funzionante (LLM).

DeepSeek sostiene di aver speso solo 6 milioni di dollari per addestrare il suo modello di intelligenza artificiale. Mettiamo questo a confronto con i 80-100 milioni di dollari che OpenAI ha speso per Chat GPT-4 o il miliardo di dollari che hanno messo da parte per GPT-5. DeepSeek mette in discussione quel livello di investimento e lascia grandi player come Nvidia (NVDA ) – il cui valore azionario è precipitato di 600 miliardi di dollari in un solo giorno – TSMC e Microsoft (MSFT ) preoccupati per la sostenibilità finanziaria a lungo termine dell’AI. Se è possibile addestrare modelli di intelligenza artificiale per molto meno di quanto si pensava in precedenza, cosa significa questo per la spesa totale per l’AI?

Sebbene la perturbazione di DeepSeek abbia portato a discussioni importanti, alcuni punti chiave sembrano essere stati persi nella confusione. Tuttavia, ciò che la notizia solleva è una maggiore attenzione su quanto costa l’innovazione e sull’impatto economico possibile dell’AI. Ecco tre punti importanti che emergono da questa notizia:

1. Il prezzo di 6 milioni di dollari di DeepSeek è fuorviante

Le aziende devono capire il costo totale di proprietà (TCO) della loro infrastruttura. Sebbene il prezzo di 6 milioni di dollari di DeepSeek sia stato molto discusso, probabilmente si tratta del costo di una sola esecuzione di pre-addestramento e non dell’intero investimento. Il costo totale – non solo di esecuzione, ma di costruzione e addestramento di DeepSeek – è probabilmente molto più alto. La società di analisi industriale SemiAnalysis ha rivelato che l’azienda dietro DeepSeek ha speso 1,6 miliardi di dollari in hardware per rendere il suo LLM una realtà. Quindi, il costo probabile è da qualche parte a metà strada.

Qualunque sia il vero costo, l’avvento di DeepSeek ha creato un focus sull’innovazione efficiente in termini di costo che potrebbe essere trasformativo. L’innovazione è spesso stimolata dalle limitazioni e il successo di DeepSeek sottolinea il modo in cui l’innovazione può accadere quando i team di ingegneria ottimizzano le loro risorse di fronte a vincoli del mondo reale.

2. L’inferenza è ciò che rende l’AI preziosa, non l’addestramento

È importante prestare attenzione a quanto costa l’addestramento del modello di intelligenza artificiale, ma l’addestramento rappresenta una piccola parte del costo totale per costruire e gestire un modello di intelligenza artificiale. L’inferenza — i molteplici modi in cui l’AI cambia il modo in cui le persone lavorano, interagiscono e vivono — è dove l’AI diventa veramente preziosa.

Questo solleva il paradosso di Jevons, una teoria economica che suggerisce che mentre i progressi tecnologici rendono l’uso di una risorsa più efficiente, il consumo totale di quella risorsa potrebbe effettivamente aumentare. In altre parole, mentre i costi di addestramento scendono, l’inferenza e il consumo agente aumenteranno e la spesa totale seguirà a ruota.

L’efficienza dell’AI potrebbe, in realtà, portare a un aumento della spesa per l’AI, che dovrebbe sollevare tutte le barche, non solo quelle cinesi. Se cavalcano l’onda dell’efficienza, aziende come OpenAI e Nvidia ne trarranno beneficio.

3. Ciò che rimane vero è che l’economia di unità è la più importante

Rendere l’AI più efficiente non è solo questione di ridurre i costi; è anche questione di ottimizzare l’economia di unità. The Motley Fool prevede che questo sarà l’anno dell’efficienza dell’AI. Se hanno ragione, le aziende dovrebbero prestare attenzione a ridurre i costi di addestramento dell’AI e i costi di consumo dell’AI.

Le organizzazioni che costruiscono o utilizzano l’AI devono conoscere la loro economia di unità e non concentrarsi solo su cifre impressionanti come il costo di addestramento di 6 milioni di dollari di DeepSeek. La vera efficienza comporta l’allocazione di tutti i costi, il monitoraggio della domanda guidata dall’AI e il mantenimento costante del rapporto costo-valore.

L’economia di unità del cloud (CUE) ha a che fare con la misurazione e la massimizzazione del profitto guidato dal cloud. Il CUE confronta i costi del cloud con le metriche di ricavo e domanda, rivelando quanto sia efficiente la spesa per il cloud, come sia cambiata nel tempo e (se si ha la piattaforma giusta) i migliori modi per aumentare quell’efficienza.

Capire il CUE ha un’utilità ancora maggiore in un contesto di AI, dato che è intrinsecamente più costoso consumare rispetto ai servizi cloud tradizionali venduti dai hyperscalers. Le aziende che costruiscono applicazioni agente potrebbero calcolare il loro costo per transazione (ad esempio costo per fattura, costo per consegna, costo per transazione, ecc.) e utilizzare questo per valutare il ritorno sugli investimenti di servizi, prodotti e funzionalità specifici guidati dall’AI. Man mano che la spesa per l’AI aumenta, le aziende saranno costrette a farlo; nessuna azienda può gettare dollari infiniti all’innovazione sperimentale per sempre. Alla fine, deve avere senso per il business.

Verso una maggiore efficienza

Tuttavia significativa sia la cifra di 6 milioni di dollari, DeepSeek potrebbe aver fornito un momento di svolta che sveglia l’industria tecnologica sull’importanza inevitabile dell’efficienza. Speriamo che questo apra le porte a un addestramento efficiente in termini di costo, inferenza e applicazioni agente che sbloccano il vero potenziale e il ROI dell’AI.