Se il tuo AI sta hallucinando, non incolpare l’AI

Le “allucinazioni” dell’AI – quelle risposte false ma convincenti – attirano molta attenzione dei media, come nel recente articolo del New York Times, L’AI sta diventando più potente, ma le sue allucinazioni stanno peggiorando. Le allucinazioni sono un pericolo reale quando si ha a che fare con un chatbot per i consumatori. Nel contesto delle applicazioni aziendali dell’AI, è una preoccupazione ancora più seria. Fortunatamente, in quanto leader tecnologico aziendale, ho più controllo su di essa. Posso assicurarmi che l’agente abbia i dati giusti per produrre una risposta significativa.

Perché questo è il vero problema. Nell’ambito aziendale, non c’è scusa per le allucinazioni dell’AI. Smettete di incolpare l’AI. Incolpatevi per non utilizzare l’AI correttamente.

Quando gli strumenti di AI generativa allucinano, stanno facendo ciò per cui sono stati progettati – fornire la migliore risposta possibile in base ai dati disponibili. Quando inventano qualcosa, producendo una risposta che non si basa sulla realtà, è perché mancano dei dati rilevanti, non riescono a trovarli o non capiscono la domanda. Sì, nuovi modelli come o3 e o4-mini di OpenAI allucinano di più, agiscono in modo ancora più “creativo” quando non hanno una buona risposta alla domanda che è stata loro posta. Sì, strumenti più potenti possono allucinare di più – ma possono anche produrre risultati più potenti e preziosi se li configuriamo per il successo.

Se non vuoi che il tuo AI allucini, non privarlo di dati. Alimenta l’AI con i migliori dati più rilevanti per il problema che vuoi risolvere, e non sarà tentato di deviare.

Anche allora, quando lavori con qualsiasi strumento di AI, ti consiglio di mantenere intatte le tue capacità di pensiero critico. I risultati che gli agenti di AI forniscono possono essere produttivi e piacevoli, ma il punto non è quello di disconnettere il tuo cervello e lasciare che il software faccia tutto il lavoro di pensiero per te. Continua a fare domande. Quando un agente di AI ti fornisce una risposta, metti in discussione quella risposta per assicurarti che abbia senso e sia supportata da dati. Se è così, dovrebbe essere un segno incoraggiante che vale la pena fare altre domande.

Quanto più fai domande, tanto migliori saranno le tue intuizioni.

Perché si verificano le allucinazioni

Non è un mistero. L’AI non sta cercando di mentirti. Ogni modello di linguaggio grande (LLM) dell’AI sta essenzialmente prevedendo la prossima parola o numero in base alla probabilità.

A un livello alto, ciò che sta accadendo qui è che gli LLM mettono insieme frasi e paragrafi una parola alla volta, prevedendo la prossima parola che dovrebbe verificarsi nella frase in base a miliardi di altri esempi nei suoi dati di formazione. Gli antenati degli LLM (ad eccezione di Clippy) erano prompt di autocomplete per messaggi di testo e codice del computer, strumenti di traduzione linguistica automatica, e altri sistemi linguistici probabilistici. Con l’aumento della potenza di calcolo e la formazione su volumi di dati di scala internet, questi sistemi sono diventati “intelligenti” abbastanza da poter sostenere una conversazione completa tramite chat, come il mondo ha imparato con l’introduzione di ChatGPT.

I critici dell’AI amano sottolineare che non si tratta della stessa cosa della vera “intelligenza”, ma solo di software che può distillare e rigurgitare l’intelligenza umana che gli è stata fornita. Chiedi di riassumere i dati in un rapporto scritto, e imita il modo in cui altri scrittori hanno riassunto dati simili.

Questo mi sembra un argomento accademico finché i dati sono corretti e l’analisi è utile.

Cosa succede se l’AI non ha i dati? Li riempie. A volte è divertente. A volte è un pasticcio totale.

Quando si costruiscono agenti di AI, questo è un rischio 10 volte maggiore. Gli agenti dovrebbero fornire informazioni azionabili, ma prendono più decisioni lungo la strada. Eseguono attività multistep, dove il risultato del passaggio 1 informa i passaggi 2, 3, 4, 5, … 10 … 20. Se i risultati del passaggio 1 sono errati, l’errore sarà amplificato, rendendo l’output al passaggio 20 ancora peggiore. Soprattutto, poiché gli agenti possono prendere decisioni e saltare passaggi.

Fatto nel modo giusto, gli agenti realizzano di più per l’azienda che li dispiega. Tuttavia, in quanto responsabili del prodotto di AI, dobbiamo riconoscere il rischio maggiore che accompagna la ricompensa maggiore.

Cosa abbiamo fatto noi. Abbiamo visto il rischio e l’abbiamo affrontato. Non abbiamo solo costruito un robot elegante; ci siamo assicurati che funzioni con i dati giusti. Ecco cosa credo che abbiamo fatto bene:

• Costruire l’agente per fare le domande giuste e verificare di avere i dati giusti. Assicurarsi che il processo di input iniziale dei dati dell’agente sia più deterministico, meno “creativo”. Vuoi che l’agente dica quando non ha i dati giusti e non continui al passaggio successivo, invece di inventare i dati.
• Strutturare un playbook per il tuo agente – assicurati che non inventi un nuovo piano ogni volta, ma abbia un approccio semistrutturato. La struttura e il contesto sono estremamente importanti nella fase di raccolta e analisi dei dati. Puoi lasciare che l’agente si allenti e agisca in modo più “creativo” quando ha i fatti e è pronto a scrivere il riassunto, ma prima assicurati di avere i fatti giusti.
• Costruire uno strumento di alta qualità per estrarre i dati. Ciò dovrebbe essere più di una semplice chiamata API. Prenditi il tempo di scrivere il codice (le persone lo fanno ancora) che produce la quantità e la varietà di dati che saranno raccolti, integrando controlli di qualità nel processo.
• Fare in modo che l’agente mostri il suo lavoro. L’agente dovrebbe citare le sue fonti e collegarsi a dove l’utente può verificare i dati, dalla fonte originale, e esplorarli ulteriormente. Nessun gioco di prestigio ammesso!
• Paraurti: pensa a cosa potrebbe andare storto e costruisci protezioni contro gli errori che assolutamente non puoi permettere. Nel nostro caso, significa che quando l’agente incaricato di analizzare un mercato non ha i dati – intendo i nostri dati Similarweb, non qualche fonte di dati casuale presa dal web – assicurarsi che non inventi nulla è un paraurti essenziale. È meglio che l’agente non sia in grado di rispondere piuttosto che fornire una risposta falsa o fuorviante.

Abbiamo incorporato questi principi nella nostra recente versione dei nostri tre nuovi agenti, con altri in arrivo. Ad esempio, il nostro agente di preparazione alle riunioni di vendita non chiede solo il nome dell’azienda target, ma anche dettagli sull’obiettivo della riunione e con chi è, preparandolo a fornire una risposta migliore. Non deve indovinare perché utilizza una grande quantità di dati aziendali, dati digitali e profili esecutivi per informare le sue raccomandazioni.

I nostri agenti sono perfetti? No. Nessuno sta creando AI perfetta, nemmeno le più grandi aziende del mondo. Ma affrontare il problema è un inferno di gran lunga migliore che ignorarlo.

Vuoi meno allucinazioni? Date al vostro AI un bel pezzo di dati di alta qualità.

Se allucina, forse non è l’AI che ha bisogno di essere riparato. Forse è il tuo approccio all’utilizzo di queste nuove capacità potenti senza metterci il tempo e lo sforzo per farle funzionare correttamente.