L'intelligenza artificiale nell'impresa: calcolare il costo totale

L'intelligenza artificiale è andata oltre la teoria e la novità. Per molte organizzazioni, ora si affianca ai sistemi core come parte integrante dell'infrastruttura. Molti la considerano ancora principalmente in termini di LLM pubblici e chatbot, qualcosa che si può consultare e abbandonare in un browser e poi eliminare una volta terminato. Considerare l'intelligenza artificiale da questa prospettiva può perdere di vista la più ampia gamma di modelli e tecniche che possono migliorare i risultati in modo più efficiente e con meno rischi.

La verità è che l'IA dovrebbe essere valutata come qualsiasi altro importante investimento infrastrutturale, con una chiara visione di costi, benefici e rischi operativi fin dall'inizio. Portarla a uno stato utilizzabile significa investire in pipeline di dati di qualità, osservabilità, governance e nelle persone che la mantengono allineata ai risultati aziendali desiderati. Se si tagliano gli angoli in questo caso, il conto viene semplicemente spostato al futuro con maggiore interesse.

Come aumentano realmente i costi dell'intelligenza artificiale

Comprensibilmente, i team potrebbero supporre che i costi dell'IA crescano in linea retta: fare il doppio del lavoro, pagare il doppio. In realtà, impegno, costi e risultati possono evolvere in modo indipendente l'uno dall'altro in modi sorprendenti. Chiedete a un'IA di leggere un lungo documento tutto in una volta e dovrà considerare ogni parola in relazione a ogni altra. Nella maggior parte dei master in giurisprudenza più diffusi, ciò significa che il lavoro coinvolto, e quindi i costi, non crescono come ci si aspetta naturalmente – raddoppiare l'input, raddoppiare il costo – ma crescono all'incirca con il quadrato della lunghezza dell'input. Una consapevolezza di principi fondamentali come questa può avere un impatto reale sui profitti di qualsiasi implementazione dell'IA. Se un'organizzazione che gestisce grandi volumi di testo ogni giorno, ad esempio un ente di regolamentazione, progetta fin dall'inizio in base a pipeline di ricerca o recupero su grafi invece di inviare interi documenti al modello, l'esperienza dell'utente finale è ancora "fai una domanda, ottieni una risposta in pochi secondi", proprio come un chatbot pubblico. Ciò mantiene soddisfatti i dirigenti appassionati di intelligenza artificiale, che possono contare su interazioni immediate, mentre sotto la superficie il sistema svolge molto meno lavoro non necessario e, di conseguenza, i costi di elaborazione sono molto più bassi.

Come la spesa per l'intelligenza artificiale viene distribuita all'interno dell'organizzazione

Le scelte tecnologiche sono solo una parte della questione, il resto è il modo in cui le organizzazioni affrontano l'IA fin dall'inizio. In molte organizzazioni, la preparazione dei dati è di competenza dell'ingegneria. Le revisioni della conformità sono di competenza del settore legale. Le spese per il cloud sono di competenza dei team di piattaforma o infrastruttura. La selezione, la configurazione e qualsiasi messa a punto del modello sono solitamente di competenza di pochi operatori specializzati. Ogni gruppo vede la propria quota di lavoro e la propria linea di budget. La spesa si manifesta come elaborazione qui, tempo di lavoro dei collaboratori lì e tempo dei dipendenti assorbito nel "business as usual" tra diversi team. Con numeri distribuiti tra centri di costo, ottenere il costo totale di una singola iniziativa di IA potrebbe non essere visibile in un unico luogo ed è facile da sottostimare. In un simile contesto, i costi dell'IA possono salire vertiginosamente, semplicemente perché nessuno tiene traccia dell'intero importo in un unico luogo.

Un approccio pratico alla gestione dei costi dell'intelligenza artificiale

Evitare l'IA non è la mossa giusta per le organizzazioni, ma non lo è nemmeno trattarla come una tecnologia universale. Una buona strategia è sempre quella di partire dal risultato desiderato e procedere a ritroso. Non tutti i casi richiedono un modello all'avanguardia, costoso da gestire e di grandi dimensioni, per scopi generali. Molte attività possono essere gestite da tecniche di apprendimento automatico ben note che rientrano nell'ambito dell'IA e possono essere eseguite su infrastrutture esistenti.

Iniziare in piccolo con progetti pilota che misurino il costo totale di proprietà non solo dell'utilizzo del modello, il che significa considerare il calcolo, ovviamente, ma anche il lavoro di integrazione, i tempi di progettazione, la gestione del cambiamento e gli sforzi di conformità. L'obiettivo è scegliere il modello più piccolo e semplice che fornisca un risultato accettabile, piuttosto che dare per scontato che "più modello" significhi "più benefici".

L'intelligenza artificiale non è un'unica cosa. È una combinazione di tecniche e strumenti che possono essere utilizzati in modi diversi. Vederla in questo modo abbatte la mistica che circonda i risultati straordinari e consente alle aziende di sfruttarne il potere con maggiore responsabilità e maggiore efficacia.

Persone, tempo e intelligenza artificiale

Ogni Distribuzione dell'intelligenza artificiale è in pratica una collaborazione tra persone e software. Che ciò venga riconosciuto formalmente o meno, è il modo in cui il lavoro viene svolto. L'attuale passaggio verso una maggiore IA agentica – strumenti che possono concatenare i passaggi, chiamare altri sistemi e agire con meno sollecitazioni – non cambia la situazione, anzi, aumenta la posta in gioco per ottenere il giusto aspetto umano del flusso di lavoro.

È facile dare troppa fiducia a questi strumenti. Quando un sistema presenta risposte fluide e sicure, è naturale che le persone diano per scontato che siano sempre corrette. Se questo tipo di strumento viene inserito in un flusso di lavoro senza un'adeguata formazione, limiti chiari e controlli sensati, può generare silenziosamente un flusso di piccoli errori. Ognuno di essi deve essere scoperto, compreso e corretto da una persona. Sulla carta l'IA sembra efficiente, in pratica c'è un costo nascosto in termini di tempo umano extra impiegato per correggere i problemi. In contesti a contatto con il cliente o regolamentati, questi piccoli errori possono anche comportare un costo reputazionale. Tuttavia, una volta che gli strumenti vengono forniti o utilizzati, la responsabilità dei loro risultati rimane in capo all'organizzazione e, nella pratica quotidiana, agli operatori umani che li utilizzano. Questo deve essere compreso esplicitamente affinché questi strumenti siano veramente utili.

Un modello migliore è una partnership deliberata: le persone qualificate mantengono chiaramente la responsabilità dei risultati e l'IA viene utilizzata per accelerare le parti del lavoro che le sono più congeniali, come la sintesi, la stesura, l'ordinamento e la ricerca. Anche quando sono ancora necessari controlli e correzioni, l'effetto complessivo di un'IA ben introdotta e ben gestita nei flussi di lavoro può essere maggiore velocità, coerenza e capacità rispetto a quanto un team potrebbe ottenere da solo.

La governance come parte del budget per l'intelligenza artificiale

Anche quando le scelte tecniche sono valide e l’utilizzo è efficiente, una quota crescente della spesa per l’intelligenza artificiale sarà vincolata la governance piuttosto che calcoli grezzi. Per le organizzazioni che operano nell'UE, la legge sull'IA lo chiarisce molto chiaramente. Adotta una visione dell'IA basata sul rischio e, cosa importante, non si applica solo ai prodotti rivolti al pubblico. I sistemi interni utilizzati in aree come l'assunzione e la promozione, la gestione e il monitoraggio dei lavoratori e alcuni processi decisionali relativi alla sicurezza possono rientrare nell'ambito di applicazione e comportare aspettative in termini di gestione del rischio, documentazione, registrazione e supervisione umana. Altre regioni si stanno muovendo in una direzione simile, anche se le norme sembrano leggermente diverse, la tendenza generale è la stessa: le organizzazioni più grandi devono sapere dove viene utilizzata l'IA, cosa sta facendo e come viene controllata.

L'effetto pratico di tutto ciò è che i progetti interni di IA possono ora comportare un carico di lavoro di governance proprio, non facoltativo. Ogni nuovo caso d'uso potrebbe comportare una nuova valutazione del rischio o dell'impatto, un maggiore monitoraggio e più domande da parte dei team di conformità, audit o gestione del rischio. Niente di tutto ciò apparirà nelle metriche di utilizzo del modello, ma si tratta di uno sforzo concreto che deve essere pagato.

Ancora una volta, niente di tutto ciò è un motivo valido per puntare sull'intelligenza artificiale. È un promemoria del fatto che il costo di gestione di un processo interno basato sull'intelligenza artificiale non è solo il prezzo da pagare per invocare un modello. La governance e le aspettative normative sono ora parte del costo totale di proprietà.

Dove sbagliano le implementazioni dell'intelligenza artificiale

Un pattern familiare nei progetti di intelligenza artificiale è il divario tra l'aspetto di un sistema in una demo e il suo comportamento su larga scala in natura. In un contesto controllato, con un insieme ristretto di domande e dati di facile comprensione, i risultati possono apparire impeccabili. In quel momento, è facile presumere che il sistema sia pronto ad affrontare un'intera categoria di lavoro.

I problemi tendono a manifestarsi in seguito, quando il sistema è esposto all'intera varietà e al volume dell'uso reale: query insolite, utenti stressati, record incompleti, casi limite disordinati. Le falle invisibili nella demo iniziano a manifestarsi come risposte errate, sfumature mancate, loop di supporto, tempi di gestione più lunghi e danni silenziosi alla fiducia. Metriche interne come "query gestite" e "tempo risparmiato" possono sembrare valide sulla carta, ma l'esperienza vissuta dagli utenti finali potrebbe raccontare una storia diversa.

Passare direttamente da una demo ben fatta o da un piccolo progetto pilota in cui il successo in condizioni controllate viene considerato come prova che il sistema è pronto per un'implementazione più ampia può rivelarsi un errore costoso. Nel mondo reale, gli utenti portano query confuse, dati incompleti e le proprie ipotesi su ciò che lo strumento può fare. Se le aspettative non vengono gestite e il flusso di lavoro del sistema non è progettato tenendo conto di fallback ed escalation, l'organizzazione paga due volte: una volta per la build e una seconda volta in termini di supporto aggiuntivo, rielaborazione, reclami e perdita di fiducia. La tecnologia può sembrare impressionante sulla carta, ma senza un approccio pragmatico al modo in cui soddisfa persone e processi reali, il ritorno sull'investimento si erode rapidamente.

Il rovescio della medaglia è che i sistemi ben progettati, con confini chiari e una responsabilità umana integrata fin dall'inizio, possono fare cose che nessun team umano potrebbe gestire da solo: analizzare enormi volumi di informazioni in pochi secondi, individuare schemi ricorrenti in anni di dati e gestire decisioni di routine su una scala che altrimenti sarebbe fuori dalla loro portata. Il punto è che per ottenere questi vantaggi, le organizzazioni devono abbinare la propria ambizione a una visione realistica di come la tecnologia si comporterà una volta disponibile sul mercato.

Pensieri di chiusura

Niente di tutto questo è un argomento contro l'IA. È un argomento a favore di trattarla con la stessa serietà di qualsiasi altro sistema in grado di cambiare in modo sostanziale il modo in cui opera un'azienda.

Se utilizzata correttamente, l'IA aiuta i piccoli team ad agire su larga scala, a scoprire modelli che sarebbero difficili da individuare manualmente e a far sì che il giudizio degli esperti abbia un impatto maggiore. Ma per raggiungere questo obiettivo è necessaria una visione chiara di dove viene utilizzata l'IA, di quanto costa complessivamente e di come viene gestita. Ciò significa fare scelte ponderate su modelli e architetture, investire in dati e osservabilità e progettare processi in cui le persone siano sempre aggiornate.

"Muoviti velocemente e rompi le cose" era uno slogan scritto per i team umani che lavoravano su sistemi su scala umana: se qualcosa si rompeva, lo si ripristinava, lo si riparava e si andava avanti. Una volta che l'intelligenza artificiale si integra nelle decisioni relative a clienti, dipendenti o cittadini, lo stesso atteggiamento può generare problemi che si diffondono più rapidamente, colpiscono più duramente e sono molto più difficili da risolvere. La velocità è ancora importante e l'intelligenza artificiale può certamente essere d'aiuto in questo, ma deve essere accompagnata da una visione chiara di rischi, costi e responsabilità.

Non esiste un modo per eliminare completamente costi o rischi. Tuttavia, esiste una netta differenza tra le organizzazioni che si affidano a esperimenti ad hoc e quelle che integrano l'IA nelle proprie attività in modo misurato, con una visione d'insieme che va dalla spesa al successo. Considerata la varietà di problemi e risultati che le organizzazioni devono affrontare, non esiste un'unica soluzione di IA in grado di risolverli tutti. L'uso efficace dell'IA in azienda dovrebbe sempre essere specializzato, supervisionato e attentamente definito.