L’IA aziendale dipende da dati di cui le persone possono fidarsi

Nel 2025, le aziende hanno investito circa 30‑40 miliardi di dollari nell’IA generativa, tuttavia il Project NANDA del MIT ha scoperto che solo il 5 percento di oltre 300 implementazioni aziendali esaminate producevano ritorni finanziari misurabili.

Ho trascorso più di 25 anni lavorando all’interno di programmi di dati aziendali. Molto prima che l’IA generativa entrasse nella conversazione, ho visto quanto rapidamente la tecnologia perdesse credibilità quando le persone non potevano fare affidamento sui dati che la supportano. L’IA generativa alza la posta perché può trasformare dati dubbiosi in una risposta sicura.

In passato dicevamo “spazzatura dentro, spazzatura fuori”. Ora è “spazzatura dentro, disastro fuori”. Quando i dati sembravano sospetti, una persona poteva usare il proprio giudizio e contattare uno specialista dei dati. Lo specialista eseguiva un’analisi delle cause radice, identificava il problema e applicava una correzione. Oggi, gli operatori possono agire su qualsiasi dato incontrino. Senza una supervisione umana esperta, il risultato può diventare parte delle operazioni, essere usato nelle decisioni e scalare in tutta l’organizzazione.

Lo stesso problema può emergere in un chatbot. Una governance trascurata può trasformare dati scadenti o poco compresi in una risposta che sembra autorevole, immediatamente e su larga scala.

La fiducia è il vero collo di bottiglia dell’adozione

Quando un chatbot interno fornisce a qualcuno una risposta sicura ma errata, quella persona potrebbe non fidarsi più di esso. In una grande organizzazione, l’IA troverà anche i dati che preferiresti non trovasse. Lo paragono alle calze sporche sotto il letto: quei dati possono essere fuori vista, ma l’IA li troverà e li utilizzerà.

Il contesto deve viaggiare con i dati e costituire la base su cui i LLM si basano. Prima che un modello di IA utilizzi i dati, le persone devono sapere cosa significano, da dove provengono, chi ne è proprietario e quali regole aziendali e politiche li circondano

La leadership può trascurare questo perché il sistema raramente va in crash. L’IA può essere sicura di sé ma sbagliata; può suggerire la colla per la tua pizza (esempio molto vecchio). Considera un chatbot che fornisce una risposta sicura ma errata, e la forza lavoro smette di fidarsi di esso. Ricostruire quella fiducia richiede molto più tempo rispetto all’instaurare fin dall’inizio i controlli corretti.

Quell’erosione si manifesta anche nei dati. I dipendenti di oltre il 90 percento delle aziende studiate dal MIT continuano a usare strumenti IA personali di nascosto, anche dopo che il progetto pilota ufficiale creato dal loro datore di lavoro non è riuscito a guadagnare la loro fiducia. Quando lo strumento approvato non ha guadagnato la loro fiducia, i dipendenti trovano un altro modo per svolgere il lavoro.

Gran parte della ricerca sull’IA di quest’anno punta allo stesso problema: le organizzazioni stanno avanzando con l’IA prima di aver svolto il lavoro necessario per rendere i loro dati affidabili. Gartner ha stimato che quasi due terzi delle organizzazioni o non hanno le pratiche di gestione dei dati adeguate per l’IA o non sono sicure di averle. Separata ricerca di IDC ha riscontrato un divario simile sul fronte della fiducia: il 78 percento delle organizzazioni dichiara di fidarsi pienamente della propria IA, ma solo il 40 percento ha effettivamente investito nella governance e nel lavoro di spiegabilità che giustificherebbe tale fiducia.

La discrepanza tra fiducia e investimento aiuta a spiegare perché così tante iniziative di IA si bloccano prima di raggiungere la produzione o non riescono ad allinearsi al valore previsto.

La governance dell’IA è ora il vantaggio competitivo

Per gran parte della mia carriera, la governance dei dati era una delle parti meno glamour dell’IT aziendale. Catalogare i metadati,, definire la proprietà, profilare i dati e gestire i flussi di lavoro poteva sembrare un lavoro di pulizia. Le persone spesso lo trascuravano perché lo sforzo sembrava superiore al valore prodotto.

L’IA ha cambiato tutto. Sta diventando una capacità di governance in aree come la progettazione di blueprint dei dati, la creazione di glossari curati dal settore e la raccomandazione e attivazione di politiche sui dati. Anche la tracciabilità dei dati può ora essere inferita e semplificata più rapidamente rispetto al passato, rendendo più facile realizzare il valore di pipeline di dati gestite e dell’osservabilità.

La normativa sta rendendo la trasparenza dei dati ancora più urgente. Il EU AI Act è diventato ampiamente applicabile il 2 agosto 2026, includendo regole di trasparenza per alcuni sistemi e contenuti generati dall’IA. L’Atto stabilisce anche requisiti separati per sistemi ad alto rischio, inclusi documentazione e informazioni che aiutano gli utilizzatori a interpretare i risultati, sebbene alcune disposizioni per gli ad alto rischio seguano tempistiche successive.

Per le aziende, la lezione pratica è semplice: una chiara tracciabilità e governance facilitano la documentazione di quali dati sono stati usati, da dove provengono e come il sistema dovrebbe operare.

Il quadro normativo negli Stati Uniti rimane incerto. In assenza di una legge federale completa sull’IA, le aziende devono navigare tra requisiti statali diversi, anche se la Casa Bianca cerca di limitare la capacità degli stati di creare e far rispettare le proprie regole sull’IA. L’AI Act del Colorado, il più completo quadro statale disponibile, è già stato rimandato e riscritto una volta in mezzo a questa disputa, con gli obblighi principali spostati al 2027. Per molte aziende statunitensi, la tentazione è di attendere che l’incertezza si risolva.

Sostengo che sia l’istinto sbagliato. Qualunque modello normativo alla fine abbia successo negli Stati Uniti, il requisito di base non scomparirà. Conosci da dove provengono i tuoi dati. Scopri se qualcuno li ha effettivamente convalidati prima che l’IA li utilizzi. Sviluppare ora questa disciplina aiuterà le aziende a prepararsi per le nuove normative e a trasformare i promettenti progetti pilota di IA in strumenti che l’azienda può usare con fiducia.

Cosa distingue il 5 percento

Permettetemi di raccontare di un cliente. Il loro team del libro mastro doveva setacciare 300 fogli di calcolo separati ogni volta che compariva una discrepanza nei conti. Trecento. Alla fine qualcuno ha ricostruito tutto quel caos in un unico asset di dati governato, con i calcoli, i report e i dati sottostanti confezionati insieme e convalidati in anticipo. La volta successiva che si è presentato un problema, la correzione ha richiesto una frazione dello sforzo precedente. Solo per quel processo, ha risparmiato circa 750 giorni di lavoro. Si tratta di milioni di dollari di risparmio solo grazie a questa pulizia.

Il miglioramento è derivato dal rendere i dati giusti facili da trovare e sufficientemente affidabili da usare senza dubitarne. La collaborazione e il riutilizzo lo hanno reso possibile. I prodotti di dati fidati possono essere allineati agli standard aziendali, estesi e aggiornati nel tempo, valutati per la fiducia e gestiti per il valore. Questo approccio riduce la necessità di creare centinaia o migliaia di prodotti legati a singole tabelle di database fisiche.

Programmi solidi rendono visibile quella fiducia. Nei marketplace di dati con cui lavoro, gli asset possono essere classificati come oro, argento o bronzo in base a fattori quali qualità, curatela, utilizzo e proprietà. Un utente aziendale può vedere quanto è affidabile un asset prima di usarlo. Questa visibilità aiuta le persone a smettere di indovinare e le rende più inclini a riutilizzare dati già esistenti.

La cifra del 95 percento è un avvertimento su quanto molte aziende abbiano trattato con superficialità i dati dietro l’IA generativa. Le organizzazioni che stanno facendo progressi offrono alle persone una visione chiara di dove provengono i dati, come sono stati convalidati e se sono adatti al compito. Dopo anni in cui la gestione dei dati è stata considerata lavoro di fondo, l’IA sta finalmente rendendo visibile il suo valore.