L’IA aziendale dipende da dati di cui le persone possono fidarsi

Nel 2025, le aziende hanno investito circa 30‑40 miliardi di dollari nell’IA generativa, tuttavia il Project NANDA del MIT ha scoperto che solo il 5 percento dei più di 300 impieghi aziendali ha esaminato ha prodotto ritorni finanziari misurabili.

Ho trascorso più di 25 anni lavorando all’interno di programmi di dati aziendali. Molto prima che l’IA generativa entrasse in discussione, ho visto quanto rapidamente la tecnologia perdesse credibilità quando le persone non potevano fidarsi dei dati alla base. L’IA generativa alza la posta in gioco perché può trasformare dati dubbiosi in una risposta sicura.

Un tempo dicevamo “spazzatura entra, spazzatura esce”. Ora è “spazzatura entra, disastro esce”. Quando i dati sembravano sospetti, una persona poteva usare il proprio giudizio e contattare uno specialista dei dati. Lo specialista effettuava un’analisi delle cause profonde, identificava il problema e applicava una correzione. Oggi, gli agenti possono agire su qualsiasi dato incontrino. Senza una supervisione umana esperta, il risultato può diventare parte delle operazioni, essere usato nelle decisioni e scalare in tutta l’organizzazione.

Lo stesso problema può emergere in un chatbot. Una governance trascurata può trasformare dati scadenti o poco compresi in una risposta che suona autorevole, immediatamente e su larga scala.

La fiducia è il vero collo di bottiglia dell’adozione

Quando un chatbot interno fornisce a qualcuno una risposta sicura ma errata, quella persona potrebbe non fidarsi più di esso. In una grande organizzazione, l’IA troverà anche i dati che preferiresti non fossero scoperti. Lo confronto ai calzini sporchi sotto il letto: quei dati possono essere fuori vista, ma l’IA li troverà e li utilizzerà.

Il contesto deve viaggiare con i dati e costituire la base su cui gli LLM si basano. Prima che un modello di IA utilizzi i dati, le persone devono sapere cosa significano, da dove provengono, chi ne è il proprietario e quali regole aziendali e politiche li disciplinano.

La leadership può trascurare questo aspetto perché il sistema raramente va in crash. L’IA può essere sicura ma sbagliata; può suggerire della colla per la tua pizza (esempio molto datato). Immagina un chatbot che fornisce una risposta sicura ma errata, e la forza lavoro smette di fidarsi di esso. Ricostruire quella fiducia richiede molto più tempo rispetto all’instaurare fin da subito i controlli corretti.

Quella erosione si manifesta anche nei dati. I dipendenti di oltre il 90 percento delle aziende che MIT ha studiato continuano a usare strumenti di IA personali in modo autonomo, anche dopo che il progetto pilota ufficiale costruito dal loro datore di lavoro non è riuscito a guadagnare la loro fiducia. Quando lo strumento approvato non ha guadagnato la loro fiducia, i dipendenti trovano un altro modo per portare a termine il lavoro.

Gran parte della ricerca sull’IA di quest’anno indica lo stesso problema: le organizzazioni stanno avanzando con l’IA prima di aver svolto il lavoro necessario per rendere i loro dati affidabili. Gartner ha stimato che quasi due terzi delle organizzazioni o non hanno le pratiche di gestione dei dati adeguate per l’IA o non sono sicure di possederle. Ricerche separate di ricerca di IDC hanno riscontrato un divario simile sul fronte della fiducia: il 78 percento delle organizzazioni afferma di fidarsi pienamente della propria IA, ma solo il 40 percento ha effettivamente investito nei lavori di governance e spiegabilità che giustificherebbero tale fiducia.

Il divario tra fiducia e investimento aiuta a spiegare perché tante iniziative di IA si bloccano prima di raggiungere la produzione o non riescono ad allinearsi al valore previsto.

La governance dell’IA è ora il vantaggio competitivo

Per gran parte della mia carriera, la governance dei dati è stata una delle parti meno glamour dell’IT aziendale. Catalogare i metadati, definire la proprietà, profilare i dati e gestire i flussi di lavoro poteva sembrare un lavoro di pulizia. Le persone spesso la trascuravano perché lo sforzo sembrava superiore al valore prodotto.

L’IA ha cambiato questa situazione. Sta diventando una capacità di governance in settori come la progettazione di blueprint dei dati, la creazione di glossari curati dall’industria e la raccomandazione e attivazione di politiche sui dati. Anche la tracciabilità dei dati può ora essere inferita e semplificata più rapidamente di prima, rendendo più facile realizzare il valore dei pipeline di dati gestiti e dell’osservabilità.

La normativa sta rendendo la trasparenza dei dati ancora più urgente. Il EU AI Act è diventato ampiamente applicabile il 2 agosto 2026, includendo regole di trasparenza per alcuni sistemi e contenuti generati dall’IA. Il provvedimento stabilisce anche requisiti separati per high-risk systems, inclusa la documentazione e le informazioni che aiutano gli utilizzatori a interpretare i risultati, sebbene alcune disposizioni per i sistemi ad alto rischio seguano tempistiche successive.

Per le aziende, la lezione pratica è semplice: una chiara tracciabilità e governance facilitano la documentazione di quali dati sono stati usati, da dove provengono e come il sistema dovrebbe funzionare.

Il quadro normativo statunitense rimane incerto. In assenza di una legge federale completa sull’IA, le aziende devono navigare tra diversi requisiti statali, anche se la Casa Bianca cerca di limitare la capacità degli stati di creare e far rispettare le proprie regole sull’IA. L’AI Act del Colorado, il più completo quadro statale finora, è già stato ritardato e riscritto una volta in mezzo a questa disputa, con gli obblighi principali spostati al 2027. Per molte aziende statunitensi, la tentazione è attendere che l’incertezza si risolva.

Sostengo che questo sia l’istinto sbagliato. Qualunque modello normativo alla fine prevalga negli Stati Uniti, il requisito di base non scomparirà. Conoscere da dove provengono i dati. Sapere se qualcuno li ha effettivamente convalidati prima che l’IA li utilizzi. Sviluppare ora questa disciplina aiuterà le aziende a prepararsi per le nuove normative e a trasformare i promettenti progetti pilota di IA in strumenti che l’azienda può usare con fiducia.

Che cosa distingue il 5 percento

Ti racconto di un cliente. Il loro team di contabilità generale doveva setacciare 300 fogli di calcolo separati ogni volta che compariva una discrepanza nei libri contabili. Trecento. Alla fine qualcuno ha ricostruito tutto quel caos in un unico asset di dati governato, con i calcoli, i report e i dati sottostanti confezionati insieme e convalidati in anticipo. La volta successiva che si presentava un problema, la correzione richiedeva una frazione dello sforzo necessario in precedenza. Solo in quel processo, si sono risparmiati circa 750 giorni di lavoro. Si tratta di milioni di dollari di risparmio solo grazie alla pulizia.

Il miglioramento è nato rendendo i dati giusti facili da trovare e sufficientemente affidabili da utilizzare senza dubitarne. La collaborazione e il riutilizzo lo hanno reso possibile. I prodotti di dati affidabili possono essere allineati agli standard aziendali, estesi e aggiornati nel tempo, valutati per la fiducia e gestiti per il valore. Questo approccio riduce la necessità di creare centinaia o migliaia di prodotti legati a singole tabelle fisiche del database.

Programmi solidi rendono visibile quella fiducia. Nei marketplace di dati con cui lavoro, gli asset possono essere classificati come oro, argento o bronzo in base a fattori quali qualità, curatela, utilizzo e proprietà. Un utente aziendale può vedere quanto è affidabile un asset prima di usarlo. Tale visibilità aiuta le persone a smettere di indovinare e le rende più propense a riutilizzare dati già esistenti.

La cifra del 95 percento è un avvertimento su quanto molte aziende abbiano trattato con superficialità i dati alla base dell’IA generativa. Le organizzazioni che stanno facendo progressi offrono alle persone una visione chiara di dove provengono i dati, come sono stati convalidati e se sono adatti al compito. Dopo anni in cui la gestione dei dati è stata considerata lavoro di sfondo, l’IA sta finalmente rendendo visibile il suo valore.