Che cosa sono le allucinazioni LLM? Cause, preoccupazioni etiche e prevenzione

I modelli linguistici di grandi dimensioni (LLM) sono sistemi di intelligenza artificiale in grado di analizzare e generare testi simili a quelli umani. Tuttavia, hanno un problema: gli LLM possono allucinare, cioè inventare informazioni. Le allucinazioni degli LLM hanno fatto preoccupare i ricercatori per i progressi in questo campo, poiché se i ricercatori non possono controllare i risultati dei modelli, non possono costruire sistemi critici per servire l’umanità. Ne parleremo più avanti.

In generale, gli LLM utilizzano grandi quantità di dati di training e algoritmi di apprendimento complessi per generare output realistici. In alcuni casi, viene utilizzato l’apprendimento in contesto per addestrare questi modelli utilizzando solo pochi esempi. Gli LLM stanno diventando sempre più popolari in vari ambiti di applicazione, che vanno dalla traduzione automatica, all’analisi dei sentimenti, all’assistenza virtuale AI, all’annotazione di immagini, all’elaborazione del linguaggio naturale, ecc.

Nonostante la natura all’avanguardia degli LLM, essi sono ancora soggetti a pregiudizi, errori e allucinazioni. Yann LeCun, attuale Chief AI Scientist di Meta, ha recentemente menzionato il difetto centrale degli LLM che causa allucinazioni: “I modelli linguistici di grandi dimensioni non hanno idea della realtà sottostante che il linguaggio descrive. Questi sistemi generano testi che sembrano corretti, grammaticalmente e semanticamente, ma non hanno realmente alcun obiettivo diverso dal soddisfare la coerenza statistica con il prompt”.

Allucinazioni negli LLM

Immagine di Gerd Altmann da Pixabay

Le allucinazioni si riferiscono alla generazione di output che sono sintatticamente e semanticamente corretti, ma non sono collegati alla realtà e si basano su false ipotesi. L’allucinazione è una delle principali preoccupazioni etiche degli LLM e può avere conseguenze dannose se gli utenti senza adeguata conoscenza del dominio iniziano a fare affidamento eccessivo su questi modelli linguistici sempre più convincenti.

Un certo grado di allucinazione è inevitabile in tutti gli LLM autoregressivi. Ad esempio, un modello può attribuire una citazione contraffatta a una celebrità che non è mai stata detta. Possono affermare qualcosa su un particolare argomento che è falsa o citare fonti inesistenti in articoli di ricerca, diffondendo così informazioni false.

Tuttavia, far sì che i modelli di intelligenza artificiale allucinino non sempre ha effetti negativi. Ad esempio, uno studio recente suggerisce che gli scienziati stanno scoprendo “nuove proteine con un array illimitato di proprietà” attraverso LLM che allucinano.

Cosa causa le allucinazioni degli LLM?

Gli LLM possono allucinare a causa di vari fattori, che vanno da errori di sovrapprendimento e errori di codifica e decodifica a pregiudizi di training.

Sovrapprendimento

Immagine di janjf93 da Pixabay

Il sovrapprendimento è un problema in cui un modello di intelligenza artificiale si adatta troppo ai dati di training. Tuttavia, non può rappresentare appieno l’intera gamma di input che potrebbe incontrare, cioè non riesce a generalizzare il suo potere predittivo a nuovi dati non visti. Il sovrapprendimento può portare il modello a produrre contenuti allucinati.

Errori di codifica e decodifica

Immagine di geralt da Pixabay

Se ci sono errori nella codifica e decodifica del testo e delle sue rappresentazioni successive, ciò può anche causare la generazione di output nonsensicali ed errati.

Pregiudizi di training

Immagine di Quince Creative da Pixabay

Un altro fattore è la presenza di determinati pregiudizi nei dati di training, che possono causare il modello a produrre risultati che rappresentano quei pregiudizi piuttosto che la natura reale dei dati. Ciò è simile alla mancanza di diversità nei dati di training, che limita la capacità del modello di generalizzare a nuovi dati.

La struttura complessa degli LLM rende difficile per i ricercatori e gli operatori identificare, interpretare e correggere le cause sottostanti delle allucinazioni.

Preoccupazioni etiche delle allucinazioni degli LLM

Gli LLM possono perpetuare e amplificare pregiudizi dannosi attraverso allucinazioni e possono avere conseguenze negative sugli utenti e avere effetti sociali dannosi. Alcune di queste preoccupazioni etiche più importanti sono elencate di seguito:

Contenuto discriminatorio e tossico

Immagine di ar130405 da Pixabay

Poiché i dati di training degli LLM sono spesso pieni di stereotipi socioculturali a causa dei pregiudizi e della mancanza di diversità, gli LLM possono produrre e rafforzare queste idee dannose contro i gruppi svantaggiati nella società.

Possono generare questo contenuto discriminatorio e odioso in base a razza, genere, religione, etnia, ecc.

Questioni di privacy

Immagine di JanBaby da Pixabay

Gli LLM sono addestrati su un enorme corpus di training che spesso include informazioni personali di individui. Ci sono stati casi in cui tali modelli hanno violato la privacy delle persone. Possono rivelare informazioni specifiche come numeri di sicurezza sociale, indirizzi di casa, numeri di telefono cellulare e dettagli medici.

Disinformazione e misinformation

Immagine di geralt da Pixabay

I modelli linguistici possono produrre contenuti umanoidi che sembrano accurati ma sono in realtà falsi e non supportati da prove empiriche. Ciò può essere accidentale, portando a disinformazione, o può avere un intento malizioso per diffondere disinformazione. Se ciò non viene controllato, può creare tendenze sociali, culturali, economiche e politiche dannose.

Prevenzione delle allucinazioni degli LLM

Immagine di athree23 da Pixabay

I ricercatori e gli operatori stanno adottando vari approcci per affrontare il problema delle allucinazioni degli LLM. Ciò include il miglioramento della diversità dei dati di training, l’eliminazione dei pregiudizi intrinseci, l’uso di tecniche di regolarizzazione migliori e l’impiego di addestramento avversario e apprendimento per rinforzo, tra gli altri:

• Lo sviluppo di tecniche di regolarizzazione migliori è al centro dell’affrontare le allucinazioni. Aiutano a prevenire il sovrapprendimento e altri problemi che causano allucinazioni.
• L’aumento dei dati può ridurre la frequenza delle allucinazioni, come dimostrato da uno studio di ricerca. L’aumento dei dati comporta l’aggiunta di un token casuale in qualsiasi punto della frase. Raddoppia le dimensioni del set di training e causa una diminuzione della frequenza delle allucinazioni.
• OpenAI e Google’s DeepMind hanno sviluppato una tecnica chiamata apprendimento per rinforzo con feedback umano (RLHF) per affrontare il problema delle allucinazioni di ChatGPT. Comporta un valutatore umano che esamina frequentemente le risposte del modello e seleziona le più adatte per gli utenti. Questo feedback viene utilizzato per regolare il comportamento del modello. Ilya Sutskever, capo scienziato di OpenAI, ha recentemente menzionato che questo approccio può potenzialmente risolvere le allucinazioni in ChatGPT: “Spero che migliorando semplicemente questo passaggio successivo di apprendimento per rinforzo con feedback umano, possiamo insegnare al modello a non allucinare”.
• L’identificazione di contenuti allucinati per utilizzarli come esempi per future sessioni di training è anche un metodo utilizzato per affrontare le allucinazioni. Una tecnica innovativa rileva le allucinazioni a livello di token e prevede se ogni token nell’output è allucinato. Include anche un metodo per l’apprendimento non supervisionato di rilevatori di allucinazioni.

Rilevamento di allucinazioni a livello di token

In sintesi, le allucinazioni degli LLM sono una preoccupazione crescente. E nonostante gli sforzi, molto lavoro deve ancora essere fatto per affrontare il problema. La complessità di questi modelli rende difficile identificare e correggere correttamente le cause sottostanti delle allucinazioni.

Tuttavia, con la continua ricerca e sviluppo, è possibile mitigare le allucinazioni degli LLM e ridurre le loro conseguenze etiche.

Se desideri saperne di più sugli LLM e sulle tecniche preventive in sviluppo per rettificare le allucinazioni degli LLM, visita unite.ai per ampliare le tue conoscenze.