Leader di pensiero

Prima di estendere l’uso degli agenti IA, chiediti cosa non sanno

Dror Nadler
Aggiungi Unite.AI alle tue fonti preferite su Google
Punti chiaveLe risposte sicure falliscono quando gli agenti omettono il contesto, come date di…
Vedi di più
  • Le risposte sicure falliscono quando gli agenti omettono il contesto, come date di deposito obsolete o differenze nel calendario fiscale.
  • Quasi 6 aziende su 10 hanno ricondotto una risposta AI sicura ma errata a un contesto aziendale mancante o incompleto.
  • La revisione umana deve essere proporzionata alla posta in gioco perché dati corretti condivisi in modo errato possono comunque violare le normative.

Immaginate questa situazione: un CFO si sta preparando per un incontro con un importante investitore istituzionale. Per aiutarlo, il team addetto alle relazioni con gli investitori (IR) chiede a uno strumento di IA di raccogliere alcune informazioni di contesto: la data dell’ultimo incontro con quella società, le priorità espresse, il numero di azioni possedute e così via.

Lo strumento afferma con sicurezza che l’investitore possiede 2,5 milioni di azioni. Nessuno batte ciglio e il CFO continua a prepararsi a pieno ritmo per quell’importante conversazione.

Ma c’è un problema: l’IA ha ricavato il dato da un documento 13F, che riporta le partecipazioni alla fine del trimestre precedente. Quando è stato comunicato, il dato era corretto… ma ormai risale a diversi mesi fa. Nel frattempo, l’investitore ha venduto in sordina 2 milioni di azioni, riducendo notevolmente la propria posizione. L’ordine del giorno dell’incontro (e forse l’incontro stesso!) non sembra più pertinente.

Che cosa è andato storto? In questo scenario, l’IA non ha avuto allucinazioni né inventato un numero. Ha recuperato informazioni attendibili, ma non ne ha precisato i limiti né li ha spiegati.

In questo caso, le conseguenze potrebbero essere una conversazione imbarazzante o un’occasione mancata; in altre situazioni, però, una risposta altrettanto sicura e priva di un contesto essenziale può comportare rischi ancora maggiori.

Modelli migliori non sono necessariamente la soluzione

I modelli fondamentali migliorano sempre di più. Perché, allora, sembra che le risposte sicure ma sbagliate siano sempre più frequenti, un problema che le aziende di tutti i settori si trovano ad affrontare?

Innanzitutto, l’IA generativa (GenAI) è ormai onnipresente. Secondo il rapporto di McKinsey Lo stato dell’IA nel 2026, quasi 9 professionisti su 10 affermano che le loro organizzazioni utilizzano regolarmente l’IA in almeno una funzione aziendale.

E mentre le organizzazioni vanno oltre la fase di sperimentazione e si affidano sempre più all’IA per le attività e le decisioni aziendali quotidiane, si scontrano anche con i limiti di ciò che questi strumenti sanno e comprendono.

Un recente sondaggio di settore mostra quale sia spesso la causa: solo negli ultimi sei mesi, quasi 6 aziende su 10 (57%) hanno ricondotto a un contesto aziendale mancante o incompleto una risposta sicura ma sbagliata di un agente IA.

Considerata la quantità di dati a disposizione dell’IA, questo potrebbe sorprendere. Ma è importante distinguere tra due cose: il contesto non è la stessa cosa dei dati.

Che cos’è il contesto e che cosa non è

Il contesto può comprendere il patrimonio di conoscenze dell’organizzazione, le eccezioni alle regole, le relazioni, i processi e le aspettative riguardo al modo in cui si svolge il lavoro: sfumature spesso specifiche di ciascuna azienda.

Nel mio lavoro con i team addetti alle relazioni con gli investitori, vedo quanto possano essere importanti queste distinzioni. Ecco alcuni esempi che sembrano semplici:

  • Calendari fiscali: il primo trimestre di un’azienda può coincidere con il primo trimestre dell’anno solare, mentre quello di un’altra può iniziare a settembre. Senza questo contesto, un agente IA potrebbe confrontare i risultati di periodi di rendicontazione non corrispondenti.
  • Metriche finanziarie: un’organizzazione può comunicare sia l’utile per azione GAAP sia quello non GAAP. Un agente che non capisce quale dei due sia pertinente citare, e in quale momento, potrebbe rappresentare in modo fuorviante i risultati aziendali.
  • Narrazione aziendale: i messaggi di un’azienda evolvono nel tempo e riflettono decisioni ponderate su cosa mettere in risalto e cosa omettere. Senza comprenderne la storia e le ragioni, un agente IA potrebbe generare contenuti che finiscono per compromettere una narrazione sviluppata con cura.

Considerato tutto questo, non sorprende che lo stesso modello di base possa produrre risultati molto diversi da un’azienda all’altra, a seconda del contesto e delle conoscenze specialistiche a sua disposizione.

L’IA progettata per uno scopo specifico e specializzata in un settore (o «IA verticale») può contribuire a colmare alcune di queste lacune, riconoscendo le conoscenze specialistiche, i flussi di lavoro e le sfumature di un determinato settore. Ma nemmeno la tecnologia più sofisticata può acquisire tutto ciò che un’organizzazione sa: anche per questo, le persone hanno un ruolo da svolgere.

Ciò che l’IA non sa della tua azienda

Ma le persone non restano per sempre. Pensiamo a cosa succede quando un responsabile esperto delle relazioni con gli investitori (IRO) lascia la propria azienda dopo, poniamo, cinque anni. In quel periodo, probabilmente ha individuato e contattato potenziali investitori, analizzato l’attività degli azionisti, coltivato relazioni, preparato la comunicazione dei risultati e i dirigenti… e fatto molto altro.

L’azienda conserva i testi delle comunicazioni sui risultati, le presentazioni e gli altri file. Ma che ne è del patrimonio di conoscenze che li ha resi possibili? Gran parte di esso se ne va con chi lascia l’azienda, soprattutto se si considera che quasi 8 IRO su 10 (78%) non hanno un successore individuato per il proprio ruolo.

Ecco perché le organizzazioni devono impegnarsi a preservare conoscenze e comprensione in una forma utilizzabile dai sistemi di IA. Spesso non basta collegare un agente IA a un’unità condivisa.

Per le aziende di tutti i settori è importante poter raccogliere in modo sistematico conoscenze e procedure fondamentali, come le motivazioni alla base delle decisioni cruciali, la storia delle relazioni e altre informazioni essenziali per la missione che non sono mai state riportate in un documento formale.

E per alimentare una simile base di conoscenze servono le persone: sia per registrare le informazioni, sia per applicarvi il proprio giudizio. L’IA può aiutare a organizzare le conoscenze, ma sono i dipendenti a fornire il contesto fondamentale che spesso sfugge alla tecnologia.

Nei contesti ad alto rischio, le lacune di contesto possono avere gravi conseguenze

Abbiamo parlato di cosa succede quando l’IA dà una risposta sbagliata. A volte, però, un agente IA può recuperare informazioni corrette — accurate, aggiornate e pertinenti — e comunque creare problemi condividendole nel contesto sbagliato.

Nei settori fortemente regolamentati, simili errori possono avere conseguenze particolarmente costose.

Per esempio, nelle relazioni con gli investitori, condividere con un analista o un investitore informazioni rilevanti non pubbliche (MNPI), come risultati finanziari non ancora resi noti, può violare la Regulation Fair Disclosure (Reg FD) della SEC statunitense, con il rischio di sanzioni pecuniarie e danni alla reputazione.

Anche altri settori, come la sanità, i servizi finanziari e i servizi legali, sono esposti a rischi normativi analoghi. Ciò evidenzia la necessità di predisporre misure di protezione quando gli agenti IA hanno accesso a informazioni sensibili.

Questo dimostra anche perché le persone restano fondamentali: sono una componente essenziale nella verifica e nell’approvazione di ciò che viene comunicato. Le aziende potrebbero valutare di proporzionare il livello di supervisione umana alla posta in gioco, prevedendo diversi gradi di autonomia per i vari tipi di flussi di lavoro basati sull’IA.

Tre domande da porsi prima di ampliare l’uso degli agenti IA

Probabilmente tutti ci siamo trovati, al lavoro o nella vita di tutti i giorni, in situazioni in cui non sapevamo di non sapere qualcosa. A volte le conseguenze sono trascurabili; altre volte sono più gravi.

Oggi l’IA ha a disposizione insiemi di dati enormi e i modelli di IA sanno molte più cose… ma devono comunque “farsi sentire” quando mancano informazioni. Perciò, mentre le aziende ricorrono all’IA per affrontare priorità e flussi di lavoro sempre più strategici, è importante porsi queste domande prima di ampliarne l’uso:

  • Il nostro agente è in grado di indicare da dove provengono le sue risposte e quando sono state aggiornate per l’ultima volta? Sa fornire queste informazioni senza che gliele si chieda?
  • L’agente dispone del contesto aziendale necessario per interpretare le richieste e rispondere? Espliciterà i propri limiti?
  • Sappiamo quando è necessario l’intervento di una persona per la verifica e l’approvazione? In quali circostanze avverrà e come verrà attivata la revisione?

La soluzione non è evitare l’IA

Voglio essere chiaro: sono ottimista riguardo all’IA. La uso ogni giorno nel mio lavoro, ne vedo i benefici attuali e futuri e penso che, per molti versi, siamo solo all’inizio di ciò che l’IA può offrire. Non ho dubbi che le aziende che evitano l’IA, così come quelle che non riescono a introdurla in modo organizzato ed efficace, corrano un rischio concreto di restare indietro.

Ma adottare l’IA non significa dare a un modello generalista accesso ai dati aziendali e lasciarlo agire senza criterio.

Al momento, per quanto mi è dato vedere, l’IA completamente autonoma non è adatta a ogni attività o decisione aziendale. Le organizzazioni devono capire dove l’IA può operare in autonomia, dove ha bisogno di ulteriore contesto e dove il giudizio umano è imprescindibile.

Quindi, prima di chiedersi che cosa sa un agente IA, chiedetevi che cosa non sa. Le risposte determinano come implementarlo, quali attività affidargli e come metterlo nelle condizioni di operare al meglio.

Dror Nadler è direttore di prodotto presso Q4 Inc., dove guida la strategia di prodotto e l’innovazione, aiutando i team addetti alle relazioni con gli investitori a sfruttare l’IA, i dati e la tecnologia per lavorare in modo più efficace. Ha oltre 25 anni di esperienza nel settore della tecnologia aziendale, del SaaS e dei servizi finanziari e ha ricoperto in precedenza ruoli dirigenziali presso Intralinks, Cellrox, Rapid7 ed EMC. Nel corso della sua carriera, Dror si è concentrato sullo sviluppo e sull’espansione dei prodotti tecnologici, sulla promozione dell’innovazione e sull’accelerazione della crescita aziendale. Ha conseguito un MBA executive presso Boston University, un master in tecnologia dell’informazione presso Harvard University e una laurea in giurisprudenza presso Reichman University.