Sono i RAG la Soluzione alle Allucinazioni dell’Intelligenza Artificiale?

L’intelligenza artificiale, per sua natura, ha una “mente propria”. Uno degli svantaggi di ciò è che i modelli di intelligenza artificiale generativa possono occasionalmente inventare informazioni in un fenomeno chiamato “allucinazioni dell’intelligenza artificiale”, uno dei primi esempi dei quali è stato messo in luce quando un giudice di New York ha rimproverato gli avvocati per aver utilizzato una relazione scritta da ChatGPT che faceva riferimento a casi giudiziari inesistenti. Più recentemente, ci sono stati incidenti di motori di ricerca generati dall’intelligenza artificiale che dicevano agli utenti di consumare rocce per benefici per la salute, o di utilizzare colla non tossica per aiutare il formaggio ad attaccarsi alla pizza.

Man mano che l’intelligenza artificiale generativa diventa sempre più onnipresente, è importante che gli adottanti riconoscano che le allucinazioni sono, al momento, un aspetto inevitabile delle soluzioni di intelligenza artificiale generativa. Costruite su grandi modelli linguistici (LLM), queste soluzioni sono spesso informate da grandi quantità di fonti disparate che sono probabilmente contenute almeno in parte informazioni inaccurate o obsolete – queste risposte inventate costituiscono tra il 3% e il 10% delle risposte generate dai chatbot dell’intelligenza artificiale agli input degli utenti. Alla luce della natura “scatola nera” dell’intelligenza artificiale – in cui, come esseri umani, abbiamo una difficoltà straordinaria nell’esaminare esattamente come l’intelligenza artificiale genera i suoi risultati, – queste allucinazioni possono essere quasi impossibili per gli sviluppatori da tracciare e comprendere.

Inevitabili o no, le allucinazioni dell’intelligenza artificiale sono frustranti al meglio, pericolose e non etiche al peggio.

In molti settori, tra cui sanità, finanza e sicurezza pubblica, le conseguenze delle allucinazioni includono tutto, dalla diffusione di informazioni false alla compromissione di dati sensibili, fino a incidenti potenzialmente letali. Se le allucinazioni continuano a non essere controllate, il benessere degli utenti e la fiducia nella società nei sistemi di intelligenza artificiale saranno entrambi compromessi.

Di conseguenza, è imperativo che i custodi di questa tecnologia potente riconoscano e affrontino i rischi delle allucinazioni dell’intelligenza artificiale per garantire l’attendibilità dei risultati generati dai grandi modelli linguistici.

I RAG come Punto di Partenza per la Risoluzione delle Allucinazioni

Un metodo che è emerso per mitigare le allucinazioni è la generazione aumentata da recupero, o RAG. Questa soluzione migliora l’affidabilità dei grandi modelli linguistici attraverso l’integrazione di archivi esterni di informazioni – estraendo informazioni rilevanti da un database affidabile scelto in base alla natura della query – per garantire risposte più affidabili a query specifiche.

Alcuni esperti del settore hanno ipotizzato che i RAG da soli possano risolvere le allucinazioni. Tuttavia, i database integrati con i RAG possono ancora contenere dati obsoleti, che potrebbero generare informazioni false o fuorvianti. In alcuni casi, l’integrazione di dati esterni attraverso i RAG può addirittura aumentare la probabilità di allucinazioni nei grandi modelli linguistici: se un modello di intelligenza artificiale si affida eccessivamente a un database obsoleto che percepisce come completamente aggiornato, la portata delle allucinazioni potrebbe diventare ancora più grave.

Guardrail dell’Intelligenza Artificiale – Colmare le Lacune dei RAG

Come si può vedere, i RAG hanno un grande potenziale per mitigare le allucinazioni dell’intelligenza artificiale. Tuttavia, le industrie e le aziende che si rivolgono a queste soluzioni devono anche comprendere le loro limitazioni intrinseche. In effetti, quando utilizzati in tandem con i RAG, ci sono metodologie complementari che dovrebbero essere utilizzate quando si affrontano le allucinazioni dei grandi modelli linguistici.

Ad esempio, le aziende possono impiegare guardrail dell’intelligenza artificiale in tempo reale per proteggere le risposte dei grandi modelli linguistici e mitigare le allucinazioni dell’intelligenza artificiale. I guardrail agiscono come una rete che esamina tutte le uscite dei grandi modelli linguistici per contenuti inventati, profani o fuori tema prima che raggiungano gli utenti. Questo approccio middleware proattivo garantisce l’affidabilità e la rilevanza del recupero nei sistemi RAG, aumentando ulteriormente la fiducia tra gli utenti e garantendo interazioni sicure che si allineano con il marchio di un’azienda.

In alternativa, c’è l’approccio dell'”ingegneria dei prompt”, che richiede all’ingegnere di modificare il prompt master di backend. Aggiungendo vincoli predefiniti ai prompt accettabili – in altre parole, monitorando non solo dove il grande modello linguistico ottiene le informazioni, ma anche come gli utenti chiedono risposte – i prompt ingegnerizzati possono guidare i grandi modelli linguistici verso risultati più affidabili. Lo svantaggio principale di questo approccio è che questo tipo di ingegneria dei prompt può essere un compito incredibilmente lungo per i programmatori, che sono spesso già a corto di tempo e risorse.

L’approccio del “fine tuning” prevede l’addestramento dei grandi modelli linguistici su set di dati specializzati per raffinare le prestazioni e mitigare il rischio di allucinazioni. Questo metodo addestra i grandi modelli linguistici specializzati per task a estrarre da domini specifici e affidabili, migliorando l’accuratezza e l’affidabilità dei risultati.

È anche importante considerare l’impatto della lunghezza dell’input sulle prestazioni di ragionamento dei grandi modelli linguistici – in effetti, molti utenti tendono a pensare che più esteso e parametrizzato è il prompt, più accurate saranno le uscite. Tuttavia, uno studio recente ha rivelato che l’accuratezza delle uscite dei grandi modelli linguistici diminuisce man mano che aumenta la lunghezza dell’input. Di conseguenza, aumentare il numero di linee guida assegnate a un prompt non garantisce un’affidabilità costante nella generazione di applicazioni di intelligenza artificiale generativa affidabili.

Questo fenomeno, noto come “sovraccarico del prompt”, mette in luce i rischi intrinseci dei progetti di prompt eccessivamente complessi – più ampio è il prompt, più porte si aprono a informazioni inaccurate e allucinazioni mentre il grande modello linguistico si sforza di soddisfare ogni parametro.

L’ingegneria dei prompt richiede aggiornamenti costanti e fine-tuning e fatica ancora a prevenire efficacemente le allucinazioni o le risposte insensate. I guardrail, d’altra parte, non creeranno rischi aggiuntivi di uscite inventate, rendendoli un’opzione attraente per la protezione dell’intelligenza artificiale. A differenza dell’ingegneria dei prompt, i guardrail offrono una soluzione in tempo reale onnicomprensiva che garantisce che l’intelligenza artificiale generativa creerà solo uscite all’interno dei confini predefiniti.

Sebbene non sia una soluzione di per sé, il feedback degli utenti può anche aiutare a mitigare le allucinazioni con azioni come i voti positivi e negativi che aiutano a raffinare i modelli, migliorare l’accuratezza delle uscite e ridurre il rischio di allucinazioni.

Da soli, le soluzioni RAG richiedono un’estesa sperimentazione per ottenere risultati accurati. Ma quando abbinati al fine-tuning, all’ingegneria dei prompt e ai guardrail, possono offrire soluzioni più mirate e efficienti per affrontare le allucinazioni. Esplorare queste strategie complementari continuerà a migliorare la mitigazione delle allucinazioni nei grandi modelli linguistici, aiutando nello sviluppo di modelli più affidabili e degni di fiducia in vari ambiti di applicazione.

I RAG non Sono la Soluzione alle Allucinazioni dell’Intelligenza Artificiale

Le soluzioni RAG aggiungono un valore immenso ai grandi modelli linguistici arricchendoli con conoscenze esterne. Ma con ancora molto da scoprire sull’intelligenza artificiale generativa, le allucinazioni rimangono una sfida intrinseca. La chiave per combatterle non sta nel tentare di eliminarle, ma piuttosto nell’alleviare la loro influenza con una combinazione di guardrail strategici, processi di verifica e prompt raffinati.

Quanto più possiamo fidarci di ciò che l’intelligenza artificiale generativa ci dice, tanto più efficacemente e efficientemente potremo sfruttare il suo potenziale potente.