Interviste
Sadeepa Wijesekara, vicepresidente di Private Cloud AI presso HPE – Serie di interviste

Punti chiaveL'economia dell'IA diventa una disciplina aziendale solo quando i progetti pilota…
Vedi di più
- L'economia dell'IA diventa una disciplina aziendale solo quando i progetti pilota passano alla produzione e la finanza entra nella conversazione.
- Il costo per token misura il consumo, mentre il costo per risultato aziendale rivela se l'investimento ha davvero senso.
- I flussi di lavoro agentici possono moltiplicare drasticamente il consumo di token anche mentre i prezzi dell'inferenza continuano a diminuire.
Sadeepa Wijesekara è vicepresidente di Private Cloud AI presso Hewlett Packard Enterprise (HPE), dove dirige le attività relative al software e alle piattaforme di IA aziendale per gli ambienti cloud privati. Si occupa di aiutare le organizzazioni a implementare l’IA in modo sicuro e su larga scala, collegando al contempo le decisioni sull’infrastruttura alle esigenze aziendali. Affronta gli aspetti economici dell’IA in produzione con una prospettiva ingegneristica, considerando la gestione dei carichi di lavoro, la scelta dei modelli e i costi necessari per mantenere affidabili sistemi sempre più autonomi.
Hewlett Packard Enterprise (HPE) offre tecnologie aziendali che spaziano dall’IA al cloud, dalle reti ai sistemi di calcolo e allo storage. Il portafoglio Private Cloud AI supporta le organizzazioni che eseguono carichi di lavoro di IA su infrastrutture sotto il loro controllo, affiancandole a cloud ibridi e servizi esterni. In questa intervista, Wijesekara spiega perché la spesa per l’IA dovrebbe essere valutata in base ai risultati aziendali, come i flussi di lavoro basati su agenti modificano i consumi e quali fattori finanziari e operativi influenzano le decisioni su modelli, orchestrazione e infrastruttura.
HPE ha esteso l’adozione dell’IA a oltre 70.000 dipendenti. Cosa vi ha insegnato questa esperienza su quando l’economia dell’IA smette di essere una questione informatica e diventa una disciplina aziendale più ampia?
L’economia dell’IA diventa una disciplina aziendale più ampia quando le aziende passano dai progetti pilota alla produzione. Un progetto pilota può dimostrare se l’IA è in grado di svolgere un’attività, ma può anche nascondere inefficienze, perché il numero di utenti è ridotto. Quando si passa da 10 a 10.000 utenti, bisogna considerare costi, latenza e affidabilità, comprendendo al tempo stesso il valore generato dall’IA. A quel punto, la discussione deve coinvolgere la funzione finanziaria e i responsabili dei processi aziendali supportati dall’IA. Il reparto IT può misurare le risorse consumate da un’applicazione, ma spetta ai responsabili aziendali stabilire se i risultati giustificano l’investimento.
Molte organizzazioni continuano a concentrarsi molto su metriche come il costo per token quando valutano l’IA generativa. Perché ritiene che il costo per risultato aziendale sia un parametro più significativo e come dovrebbero calcolarlo concretamente le imprese?
Il costo per token indica quanta IA è stata utilizzata, ma non dice se tale utilizzo abbia prodotto un risultato utile. Le aziende dovrebbero innanzitutto definire il risultato aziendale e poi calcolare il costo totale necessario per ottenerlo. Il modello è solo una componente di questo costo, a cui si aggiungono software, storage, trasferimento dei dati, governance e personale. Confrontare tali costi con il valore generato all’interno di uno specifico processo aziendale consente alle aziende di valutare meglio la sostenibilità economica dell’investimento.
Man mano che l’IA passa dai singoli assistenti ai sistemi basati su agenti e multiagente, capaci di eseguire lunghe sequenze di attività, quanto potrebbero aumentare i consumi anche se il costo di inferenza sottostante continua a diminuire?
I consumi possono aumentare molto rapidamente, perché una singola richiesta dell’utente può innescare molto più lavoro dietro le quinte. Un agente può recuperare informazioni e richiamare strumenti mentre svolge diversi passaggi prima di produrre un risultato. In un confronto rappresentativo di HPE, una semplice interazione con un chatbot utilizzava circa 400 token, mentre una richiesta RAG basata su agenti ne utilizzava circa 21.500. Anche se i prezzi dei token diminuiscono, i consumi complessivi possono comunque aumentare nettamente man mano che all’IA vengono affidate attività più complesse.
Come dovrebbero valutare le aziende se un caso d’uso dell’IA genera davvero valore economico, anziché limitarsi a migliorare gli indicatori di produttività o a produrre dimostrazioni di grande effetto?
Prima di estendere un caso d’uso, occorre collegarlo a un business case con KPI chiari. Le aziende devono capire quanto costa il processo aziendale e come cambia con l’introduzione dell’IA. Devono anche distinguere tra il miglioramento di un’attività e quello del risultato aziendale. Il tempo risparmiato acquista maggiore valore se consente di risolvere più problemi dei clienti, ridurre gli errori o completare attività che prima restavano inevase. La valutazione dovrebbe tenere conto della qualità del risultato e di eventuali verifiche o rielaborazioni aggiuntive necessarie. Una dimostrazione riuscita prova una capacità; i miglioramenti misurabili del processo aziendale giustificano la decisione di estenderne l’uso. In alcuni casi, questa analisi può indicare che l’IA non è la soluzione giusta.
L’instradamento dei modelli e l’orchestrazione dell’IA sono sempre più spesso discussi come strumenti per contenere i costi. Quanto valore possono ottenere le imprese scegliendo dinamicamente tra modelli più piccoli, modelli di frontiera, modelli specializzati e software tradizionale in base all’attività da svolgere?
È molto importante scegliere il modello più adatto al compito. Abbiamo visto aziende affidare carichi di lavoro molto diversi allo stesso costoso modello di frontiera, perché inizialmente la loro priorità era avviare l’uso dell’IA. Questo può essere gestibile con un numero limitato di utenti, ma i costi crescono rapidamente con l’aumentare dell’adozione. Un modello di frontiera può essere adatto a ragionamenti complessi, mentre per un’attività di routine può bastare un modello più piccolo. Un modello specializzato può essere più indicato per un determinato settore, mentre le attività prevedibili e basate su regole possono essere gestite in modo più efficiente dai software tradizionali. L’orchestrazione consente di integrare queste diverse opzioni in un flusso di lavoro, ricorrendo a un modello più potente quando il compito lo richiede. Con il continuo miglioramento dei modelli open-weight, le aziende hanno inoltre più possibilità di eseguire determinati carichi di lavoro sulla propria infrastruttura, anziché pagare per modelli esterni. Su scala aziendale, queste decisioni di instradamento possono incidere notevolmente sui costi, mantenendo al contempo la qualità richiesta dall’azienda.
A partire da quale soglia, dal punto di vista economico, conviene passare dal noleggio di capacità di calcolo tramite API o cloud pubblico alla proprietà o al controllo di una parte maggiore dell’infrastruttura sottostante? Quali variabili dovrebbero considerare le aziende quando prendono questa decisione?
La vedo come una scelta tra noleggiare e acquistare. Noleggiare può essere una soluzione sensata mentre le aziende stanno sperimentando o quando la domanda varia notevolmente. Quando l’utilizzo aumenta e diventa più prevedibile, possedere o controllare una parte maggiore dell’infrastruttura può iniziare ad avere senso dal punto di vista economico. Possedere l’infrastruttura offre anche l’opportunità di condurre ulteriori esperimenti di IA nei periodi di basso utilizzo, sfruttando meglio un investimento già effettuato. Le aziende devono considerare le caratteristiche del carico di lavoro, oltre ai costi dell’energia, della gestione e del mantenimento dei sistemi aggiornati. Per molte grandi aziende, la soluzione migliore probabilmente comprenderà sia un’infrastruttura privata sia servizi esterni, a seconda del carico di lavoro.
HPE sta ampliando la propria infrastruttura privata per l’IA, mentre le aziende portano in produzione un numero crescente di carichi di lavoro. In quali casi ritiene che l’IA privata offra il maggiore vantaggio economico rispetto all’utilizzo esclusivo di servizi di cloud pubblico per l’IA?
L’IA privata può offrire un notevole vantaggio economico per i carichi di lavoro continuativi, quando le aziende riescono a sfruttare efficacemente la capacità di cui dispongono. In un’analisi di HPE basata su ipotesi specifiche relative ai carichi di lavoro, il costo di HPE Private Cloud AI è stato stimato in circa 45 $ per ora-nodo, rispetto ai circa 102 $ di una configurazione cloud equivalente a noleggio. I risultati variano in base al carico di lavoro e andrebbero ricalcolati per ciascun ambiente. L’IA privata offre inoltre alle aziende un modello finanziario alternativo, in cui l’infrastruttura diventa un bene capace di generare valore per l’organizzazione.
Gli agenti di IA comportano costi che vanno oltre l’inferenza e includono il recupero dei dati, le chiamate agli strumenti, il monitoraggio, la sicurezza e la governance. Quali costi rischiano maggiormente di sottovalutare le organizzazioni quando pianificano il budget per l’IA agentica su larga scala?
Penso che le aziende rischino di sottovalutare il lavoro necessario per mantenere gli agenti affidabili, sicuri e utili nel tempo. Oltre all’inferenza, vi sono costi legati al recupero e alla preparazione dei dati, all’accesso a strumenti esterni e al trasferimento delle informazioni tra sistemi. Le chiamate ripetute agli strumenti o i tentativi falliti possono aumentare le spese senza portare a termine un’attività. Le aziende devono inoltre prevedere un budget per valutare i risultati, monitorare il comportamento degli agenti, gestire le autorizzazioni di accesso e mantenere i controlli di sicurezza e governance. Nel calcolo rientra anche la supervisione umana, compreso il tempo dedicato dalle persone a esaminare le eccezioni o correggere gli errori. Per capire quanto costa completare con successo un’attività, è necessario avere visibilità sull’intero flusso di lavoro.
Ha sottolineato l’importanza di misurare il consumo di IA in rapporto ai singoli casi d’uso aziendali. Come si presenta un efficace sistema di misurazione interna e con quale frequenza le organizzazioni dovrebbero rivalutare se un’applicazione di IA giustifica ancora i costi ricorrenti di calcolo e gestione?
Il sistema dovrebbe collegare direttamente l’utilizzo al caso d’uso aziendale. Le aziende devono sapere quale applicazione consuma risorse e quale risultato dovrebbe produrre. In HPE monitoriamo i KPI e i costi unitari sottostanti di ciascun caso d’uso, per misurare se sta generando i risultati previsti. Vorrei inoltre che questa misurazione fosse effettuata a livello dei singoli reparti e processi aziendali, così che un CFO possa capire quanto costa oggi un processo rispetto a quanto costa con l’IA. Dovrebbe essere un’attività continuativa, perché l’utilizzo e gli aspetti economici di un’applicazione possono cambiare nel tempo. Le aziende dovrebbero inoltre effettuare una nuova valutazione quando cambiano in modo sostanziale un modello, un prezzo o un flusso di lavoro, poiché tali cambiamenti possono incidere sia sui costi sia sul valore di un’applicazione.
Guardando ai prossimi tre-cinque anni, con l’IA sempre più integrata nella maggior parte dei processi aziendali, come pensa che evolveranno gli aspetti economici dell’IA in ambito aziendale? La gestione dei consumi di IA finirà per seguire discipline come il FinOps per il cloud, oppure le organizzazioni avranno bisogno di un modello operativo del tutto nuovo?
Penso che l’economia dell’IA si baserà sui principi del FinOps, come la visibilità dei costi, la loro allocazione e la responsabilità, estendendoli però anche alla misurazione della qualità e del valore del lavoro svolto dall’IA. Man mano che gli agenti si occuperanno di un numero crescente di fasi dei processi aziendali, le imprese dovranno comprendere quanto costa portare a termine con successo ciascun processo, considerando anche i tentativi ripetuti, l’intervento umano e il rispetto degli standard richiesti da parte del risultato. Mi aspetto che questa diventi una responsabilità condivisa tra IT, finanza e gestione operativa. Siamo ancora agli inizi nella definizione di metodi coerenti per effettuare confronti di questo tipo tra organizzazioni e settori. Nel tempo, vorrei che venissero definiti parametri standard che consentano alle imprese di capire con quale efficienza operano con l’IA e di rifletterla nel proprio conto economico.
Grazie per questa splendida intervista. I lettori che desiderano saperne di più sull’IA nel cloud privato, sulle infrastrutture aziendali e su come aumentare la scala dei carichi di lavoro dell’IA possono visitare HPE.












