Perché GenAI si blocca nella fase di pilotaggio

Le aziende lottano per spostare i progetti di Intelligenza Artificiale Generativa (GenAI) dalla sperimentazione alla produzione, ma molte rimangono bloccate nella fase di pilotaggio. Come evidenzia la nostra recente ricerca, il 92% delle organizzazioni è preoccupato che i progetti pilota di GenAI stiano accelerando senza affrontare prima i problemi fondamentali dei dati. Ancor più significativo: il 67% non è stato in grado di scalare nemmeno la metà dei propri progetti pilota alla produzione. Questo divario di produzione è meno legato alla maturità tecnologica e più alla prontezza dei dati sottostanti. Il potenziale di GenAI dipende dalla solidità del terreno su cui poggia. E oggi, per la maggior parte delle organizzazioni, quel terreno è instabile al massimo.

Perché GenAI si blocca nella fase di pilotaggio

Sebbene le soluzioni GenAI siano sicuramente potenti, sono efficaci solo quanto i dati che li alimentano. Il vecchio adagio “spazzatura dentro, spazzatura fuori” è più vero oggi che mai. Senza dati attendibili, completi, autorizzati e spiegabili, i modelli GenAI producono spesso risultati inaccurati, distorti o inadeguati.

Purtroppo, le organizzazioni hanno fretta di implementare casi d’uso a basso sforzo, come chatbot alimentati da AI che forniscono risposte personalizzate da documenti interni diversi. E sebbene questi migliorino l’esperienza del cliente in una certa misura, non richiedono cambiamenti profondi nell’infrastruttura dei dati dell’azienda. Tuttavia, per scalare strategicamente GenAI, sia nel settore sanitario, finanziario o nell’automazione della catena di approvvigionamento, è necessario un livello di maturità dei dati diverso.

In effetti, il 56% dei Chief Data Officer cita l’affidabilità dei dati come un ostacolo chiave alla distribuzione di AI. Altri problemi includono dati incompleti (53%), problemi di privacy (50%) e lacune più ampie nella governance di AI (36%).

Nessuna governance, nessun GenAI

Per andare oltre la fase di pilotaggio di GenAI, le aziende devono considerare la governance dei dati come un’imperativa strategica per il loro business. Devono assicurarsi che i dati siano all’altezza del compito di alimentare i modelli di AI e, per farlo, devono affrontare le seguenti domande:

• I dati utilizzati per addestrare il modello provengono dai sistemi giusti?
• Abbiamo rimosso le informazioni personali identificabili e seguito tutte le norme sui dati e la privacy?
• Siamo trasparenti e possiamo dimostrare la provenienza dei dati utilizzati dal modello?
• Possiamo documentare i nostri processi di dati e essere pronti a dimostrare che i dati non contengono pregiudizi?

La governance dei dati deve anche essere integrata nella cultura dell’organizzazione. Per farlo, è necessario costruire una letteratura su AI in tutti i team. Il Regolamento sull’AI dell’UE formalizza questa responsabilità, richiedendo sia ai fornitori che agli utenti di sistemi di AI di fare del loro meglio per assicurarsi che i dipendenti siano sufficientemente alfabetizzati in AI, in modo da capire come funzionano questi sistemi e come utilizzarli in modo responsabile. Tuttavia, l’adozione efficace di AI va oltre la competenza tecnica. Richiede anche una solida base in competenze di dati, dalla comprensione della governance dei dati alla formulazione di domande analitiche. Considerare l’alfabetizzazione in AI in isolamento dalla letteratura sui dati sarebbe miope, data la loro stretta connessione.

In termini di governance dei dati, c’è ancora lavoro da fare. Tra le aziende che desiderano aumentare gli investimenti nella gestione dei dati, il 47% concorda che la mancanza di alfabetizzazione sui dati è un ostacolo principale. Ciò sottolinea la necessità di costruire un sostegno a livello aziendale e sviluppare le giuste competenze in tutta l’organizzazione. Senza queste fondamenta, anche le LLM più potenti lottano per offrire risultati.

Sviluppare AI che devono essere responsabili

Nell’attuale ambiente normativo, non è più sufficiente che l’AI “funzioni”, deve anche essere responsabile e spiegabile. Il Regolamento sull’AI dell’UE e il piano d’azione sull’AI proposto dal Regno Unito richiedono trasparenza negli utilizzi ad alto rischio di AI. Altri seguono l’esempio, e oltre 1.000 progetti di legge correlati sono all’ordine del giorno in 69 paesi.

Questo movimento globale verso la responsabilità è una conseguenza diretta dell’aumento delle richieste dei consumatori e degli stakeholder per l’equità negli algoritmi. Ad esempio, le organizzazioni devono essere in grado di spiegare i motivi per cui un cliente è stato respinto per un prestito o addebitato un premio assicurativo. Per farlo, devono sapere come il modello ha preso quella decisione, e ciò dipende dall’avere una chiara e verificabile traccia dei dati utilizzati per addestrarlo.

A meno che non ci sia spiegabilità, le aziende rischiano di perdere la fiducia dei clienti, nonché di affrontare ripercussioni finanziarie e legali. Di conseguenza, la tracciabilità della provenienza dei dati e la giustificazione dei risultati non sono un “bello avere”, ma un requisito di conformità.

E poiché GenAI si espande oltre l’uso per semplici strumenti a veri e propri agenti che possono prendere decisioni e agire di conseguenza, le poste in gioco per una solida governance dei dati aumentano ulteriormente.

Passi per costruire AI affidabili

Quindi, cosa significa “buono”? Per scalare GenAI in modo responsabile, le organizzazioni dovrebbero adottare una strategia di dati unica su tre pilastri:

• Adattare AI all’azienda: catalogare i dati intorno agli obiettivi aziendali chiave, assicurandosi che riflettano il contesto unico, le sfide e le opportunità specifiche dell’azienda.
• Stabilire la fiducia in AI: stabilire politiche, standard e processi per la conformità e la supervisione della distribuzione etica e responsabile di AI.
• Costruire pipeline di dati pronte per AI: combinare le diverse fonti di dati in una solida base di dati per una solida cottura di AI, integrando la connettività predefinita di GenAI.

Quando le organizzazioni fanno le cose giuste, la governance accelera il valore di AI. Ad esempio, nel settore finanziario, i fondi hedge stanno utilizzando GenAI per superare gli analisti umani nella previsione dei prezzi delle azioni mentre riducono notevolmente i costi. Nella produzione, l’ottimizzazione della catena di approvvigionamento guidata da AI consente alle organizzazioni di reagire in tempo reale ai cambiamenti geopolitici e alle pressioni ambientali.

E queste non sono solo idee futuristiche, stanno accadendo ora, guidate da dati affidabili.

Con solide fondamenta di dati, le aziende riducono la deriva del modello, limitano i cicli di riaddestramento e aumentano la velocità di raggiungimento del valore. Ecco perché la governance non è un ostacolo, ma un fattore abilitante dell’innovazione.

Cosa viene dopo?

Dopo la sperimentazione, le organizzazioni stanno andando oltre i chatbot e investendo in capacità trasformative. Dalla personalizzazione delle interazioni con i clienti all’accelerazione della ricerca medica, miglioramento della salute mentale e semplificazione dei processi regolatori, GenAI inizia a dimostrare il suo potenziale in vari settori.

Eppure, questi guadagni dipendono interamente dai dati che li sostengono. GenAI inizia con la costruzione di una solida base di dati, attraverso una solida governance dei dati. E mentre GenAI e AI agente continueranno a evolversi, non sostituiranno la supervisione umana nel prossimo futuro. Invece, stiamo entrando in una fase di creazione di valore strutturata, in cui l’AI diventa un copilota affidabile. Con gli investimenti giusti nella qualità dei dati, nella governance e nella cultura, le aziende possono finalmente trasformare GenAI da una promettente fase di pilotaggio in qualcosa che decolla completamente.