Fermare l’IA dall’inventare storie: Una guida per prevenire le allucinazioni

L’IA sta rivoluzionando il modo in cui quasi ogni industria opera. Sta rendendo più efficienti, più produttivi e, quando implementata correttamente, migliori nel nostro lavoro complessivo. Tuttavia, mentre la nostra dipendenza da questa tecnologia innovativa aumenta rapidamente, dobbiamo ricordarci di un semplice fatto: l’IA non è infallibile. I suoi output non dovrebbero essere presi come verità assoluta perché, proprio come gli esseri umani, l’IA può commettere errori.

Chiamiamo questi errori “allucinazioni dell’IA”. Tali errori possono variare da rispondere in modo errato a un problema matematico a fornire informazioni inaccurate sulle politiche governative. In settori altamente regolamentati, le allucinazioni possono portare a costose multe e problemi legali, per non parlare dei clienti insoddisfatti.

La frequenza delle allucinazioni dell’IA dovrebbe quindi essere motivo di preoccupazione: si stima che i moderni modelli linguistici di grandi dimensioni (LLM) allucinino in una percentuale che varia dal 1% al 30% del tempo. Ciò si traduce in centinaia di risposte false generate quotidianamente, il che significa che le aziende che cercano di sfruttare questa tecnologia devono essere estremamente selettive nella scelta degli strumenti da implementare.

Esaminiamo il motivo per cui si verificano le allucinazioni dell’IA, cosa è in gioco e come possiamo identificarle e correggerle.

Spazzatura dentro, spazzatura fuori

Ricordi quando giocavi al gioco “telefono” da bambino? Come la frase iniziale veniva distorta man mano che passava da un giocatore all’altro, risultando in una dichiarazione completamente diversa una volta completato il giro?

Il modo in cui l’IA apprende dai suoi input è simile. Le risposte generate dai LLM sono solo buone quanto le informazioni che ricevono, il che significa che un contesto errato può portare alla generazione e alla diffusione di informazioni false. Se un sistema di IA è costruito su dati inaccurati, obsoleti o distorti, allora i suoi output rifletteranno ciò.

In quanto tale, un LLM è solo buono quanto i suoi input, specialmente quando c’è una mancanza di intervento o supervisione umana. Mentre più soluzioni di IA autonome si diffondono, è cruciale fornire agli strumenti il contesto di dati corretto per evitare di causare allucinazioni. Abbiamo bisogno di un addestramento rigoroso di questi dati e/o della capacità di guidare i LLM in modo che rispondano solo dal contesto che ricevono, piuttosto che estrarre informazioni da qualsiasi parte di Internet.

Perché le allucinazioni sono importanti?

Per le aziende che si rivolgono ai clienti, l’accuratezza è tutto. Se i dipendenti si affidano all’IA per compiti come la sintesi dei dati dei clienti o la risposta alle richieste dei clienti, hanno bisogno di fidarsi che le risposte generate da tali strumenti siano accurate.

In caso contrario, le aziende rischiano di danneggiare la loro reputazione e la fedeltà dei clienti. Se i clienti ricevono risposte insufficienti o false da un chatbot, o se sono costretti ad aspettare mentre i dipendenti verificano le risposte del chatbot, potrebbero portare altrove i loro affari. Le persone non dovrebbero preoccuparsi del fatto che le aziende con cui interagiscono stanno fornendo loro informazioni false – vogliono un supporto rapido e affidabile, il che significa che ottenere queste interazioni giuste è di importanza fondamentale.

I leader aziendali devono fare la loro dovuta diligenza quando selezionano lo strumento di IA giusto per i loro dipendenti. L’IA dovrebbe liberare tempo e energia per lo staff in modo che si possa concentrare su compiti di maggiore valore; investire in un chatbot che richiede una costante supervisione umana sconfigge lo scopo dell’adozione. Ma l’esistenza di allucinazioni è realmente così prominente o il termine è semplicemente troppo usato per identificare qualsiasi risposta che presumiamo essere errata?

Combattere le allucinazioni dell’IA

Considera: Dynamic Meaning Theory (DMT), il concetto che una comprensione tra due persone – in questo caso l’utente e l’IA – sta venendo scambiata. Tuttavia, le limitazioni del linguaggio e della conoscenza degli argomenti causano una mancanza di allineamento nell’interpretazione della risposta.

Nel caso delle risposte generate dall’IA, è possibile che gli algoritmi sottostanti non siano ancora completamente in grado di interpretare o generare testo in modo da allinearsi con le aspettative che abbiamo come esseri umani. Questa discrepanza può portare a risposte che possono sembrare accurate in superficie ma che alla fine mancano della profondità o della sfumatura necessaria per una vera comprensione.

Inoltre, la maggior parte dei LLM di uso generale attinge informazioni solo da contenuti pubblicamente disponibili su Internet. Le applicazioni aziendali dell’IA funzionano meglio quando sono informate da dati e politiche specifiche di singole industrie e aziende. I modelli possono anche essere migliorati con un feedback umano diretto – in particolare soluzioni agentiche progettate per rispondere al tono e alla sintassi.

Questi strumenti dovrebbero anche essere testati rigorosamente prima di diventare accessibili ai consumatori. Questo è un aspetto critico per prevenire le allucinazioni dell’IA. L’intero flusso dovrebbe essere testato utilizzando conversazioni basate su turni con il LLM che interpreta il ruolo di una persona. Ciò consente alle aziende di presumere meglio il successo generale delle conversazioni con un modello di IA prima di rilasciarlo nel mondo.

È essenziale che sia gli sviluppatori che gli utenti della tecnologia dell’IA rimangano consapevoli della teoria del significato dinamico nelle risposte che ricevono, nonché della dinamica del linguaggio utilizzato nell’input. Ricorda, il contesto è fondamentale. E, come esseri umani, la maggior parte del nostro contesto è compreso attraverso mezzi non verbali, che possono essere il linguaggio del corpo, le tendenze sociali – persino il nostro tono. Come esseri umani, abbiamo il potenziale per allucinare in risposta alle domande. Tuttavia, nella nostra attuale iterazione dell’IA, la nostra comprensione umana-umana non è facilmente contestualizzata, quindi dobbiamo essere più critici del contesto che forniamo nella scrittura.

Basta dire – non tutti i modelli di IA sono creati uguali. Mentre la tecnologia si evolve per completare compiti sempre più complessi, è cruciale per le aziende che intendono implementarla identificare gli strumenti che miglioreranno le interazioni e le esperienze dei clienti piuttosto che detrarne.

L’onere non grava solo sui fornitori di soluzioni per assicurarsi di aver fatto tutto il possibile per minimizzare la possibilità che si verifichino allucinazioni. Anche i potenziali acquirenti hanno un ruolo da giocare. Prioritizzando soluzioni rigorosamente addestrate e testate e in grado di apprendere da dati proprietari (invece di qualsiasi cosa su Internet), le aziende possono ottenere il massimo dai loro investimenti in IA per preparare i dipendenti e i clienti al successo.