Leader di pensiero
Quando il tuo AI inventa fatti: il rischio aziendale che nessun leader può ignorare
Aggiungi Unite.AI alle tue fonti preferite su Google
Sembra giusto. Sembra corretto. È sbagliato. Quello è il tuo AI sulla allucinazione. Il problema non è solo che i modelli di intelligenza artificiale generativa di oggi allucinano. È che ci sentiamo se costruiamo abbastanza guardrail, li adattiamo, li rendiamo più sicuri e li addomestichiamo in qualche modo, allora saremo in grado di adottarli a livello aziendale.
| Studio | Dominio | Tasso di allucinazione | Risultati chiave |
|---|---|---|---|
| Stanford HAI & RegLab (gen 2024) | Legale | 69%–88% | I modelli di linguaggio hanno mostrato alti tassi di allucinazione quando hanno risposto a query legali, spesso senza essere consapevoli dei loro errori e rafforzando ipotesi legali errate. |
| Studio JMIR (2024) | Riferimenti accademici | GPT-3.5: 90.6%, GPT-4: 86.6%, Bard: 100% | I riferimenti generati dai modelli di linguaggio erano spesso irrilevanti, errati o non supportati dalla letteratura disponibile. |
| Studio del Regno Unito sui contenuti generati da AI (feb 2025) | Finanza | Non specificato | I contenuti generati da AI hanno aumentato il rischio di crisi bancarie, con una parte significativa dei clienti che considera di spostare i propri soldi dopo aver visualizzato contenuti generati da AI. |
| Rapporto sui rischi globali del World Economic Forum (2025) | Valutazione del rischio globale | Non specificato | Le informazioni errate e le disinformazioni, amplificate da AI, sono state classificate come il principale rischio globale su un orizzonte di due anni. |
| Classifica delle allucinazioni di Vectara (2025) | Valutazione dei modelli di AI | GPT-4.5-Preview: 1.2%, Google Gemini-2.0-Pro-Exp: 0.8%, Vectara Mockingbird-2-Echo: 0.9% | Ha valutato i tassi di allucinazione tra vari modelli di linguaggio, rivelando differenze significative nelle prestazioni e nella precisione. |
| Studio Arxiv sull’allucinazione della factualità (2024) | Ricerca su AI | Non specificato | Ha introdotto HaluEval 2.0 per studiare e rilevare sistematicamente le allucinazioni nei modelli di linguaggio, concentrandosi su inesattezze fattuali. |
I tassi di allucinazione vanno dall’0,8% all’88%
Sì, dipende dal modello, dal dominio, dal caso d’uso e dal contesto, ma quella diffusione dovrebbe allarmare qualsiasi decisore aziendale. Questi non sono errori di casi limite. Sono sistematici. Come si prende la decisione giusta quando si tratta di adozione di AI nell’azienda? Dove, come, quanto in profondità, quanto in ampiezza?
E gli esempi di conseguenze reali di questo si verificano ogni giorno nel tuo feed di notizie. Il Financial Stability Board del G20 ha segnalato l’intelligenza artificiale generativa come un vettore di disinformazione che potrebbe causare crisi di mercato, instabilità politica e peggio – crisi flash, notizie false e frodi. In un’altra storia recentemente segnalata, lo studio legale Morgan & Morgan ha emesso una nota di emergenza a tutti gli avvocati: non presentare documenti generati da AI senza controllarli. La legge dei casi falsi è un reato che può portare al licenziamento.
Questo potrebbe non essere il momento migliore per scommettere sulla tendenza dei tassi di allucinazione a zero nel prossimo futuro. Soprattutto in settori regolamentati, come il legale, le scienze della vita, i mercati dei capitali o in altri, dove il costo di un errore potrebbe essere alto, compresa la pubblicazione di istruzione superiore.
L’allucinazione non è un errore di arrotondamento
Questo non riguarda una risposta errata occasionale. Si tratta di rischio: reputazionale, legale, operativo.
L’intelligenza artificiale generativa non è un motore di ragionamento. È un completatore statistico, un pappagallo stocastico. Completare la tua richiesta nel modo più probabile in base ai dati di addestramento. Anche le parti che sembrano vere sono ipotesi. Chiamiamo le parti più assurde “allucinazioni”, ma l’intero output è un’allucinazione. Una ben stilizzata. Funziona, magicamente bene – finché non funziona.
AI come infrastruttura
Eppure, è importante dire che l’AI sarà pronta per l’adozione aziendale quando inizieremo a trattarla come infrastruttura, e non come magia. E dove richiesto, deve essere trasparente, spiegabile e tracciabile. E se non lo è, allora semplicemente non è pronta per l’adozione aziendale per quei casi d’uso. Se l’AI prende decisioni, dovrebbe essere nel radar del tuo consiglio di amministrazione.
Il Regolamento AI dell’UE sta guidando l’azione in questo senso. I domini ad alto rischio come giustizia, sanità e infrastrutture saranno regolamentati come sistemi mission-critical. La documentazione, il testing e la spiegabilità saranno obbligatori.
Cosa fanno i modelli di AI sicuri per le aziende
Le aziende che si specializzano nella costruzione di modelli di AI sicuri per le aziende, prendono una decisione consapevole di costruire l’AI in modo diverso. Nelle loro architetture di AI alternative, i modelli di linguaggio non sono addestrati sui dati, quindi non sono “contaminati” con nulla di indesiderabile nei dati, come pregiudizi, violazioni di proprietà intellettuale o la tendenza a ipotizzare o allucinare.
Tali modelli non “completano il tuo pensiero” – ragionano dal contenuto dell’utente. La loro base di conoscenza. I loro documenti. I loro dati. Se la risposta non c’è, questi modelli lo dicono. È questo che rende tali modelli di AI spiegabili, tracciabili, deterministici e una buona opzione in luoghi dove le allucinazioni sono inaccettabili.
Un piano di 5 passi per la responsabilità dell’AI
- Mappa il paesaggio dell’AI – Dove viene utilizzata l’AI in tutta l’azienda? Quali decisioni stanno influenzando? Quale premio si pone sull’essere in grado di tracciare quelle decisioni fino a un’analisi trasparente su materiale di origine affidabile?
- Allinea la tua organizzazione – A seconda della portata del tuo dispiegamento di AI, configura ruoli, comitati, processi e pratiche di audit altrettanto rigorosi come quelli per i rischi finanziari o di sicurezza informatica.
- Porta l’AI a livello di rischio aziendale – Se il tuo AI parla con i clienti o i regolatori, appartiene ai tuoi rapporti di rischio. La governance non è uno spettacolo secondario.
- Tratta i fornitori come co-responsabili – Se il tuo fornitore di AI inventa cose, tu sei comunque responsabile della conseguenza. Estendi i tuoi principi di responsabilità dell’AI ai fornitori. Richiedi documentazione, diritti di audit e SLA per la spiegabilità e i tassi di allucinazione.
- Addestra lo scetticismo – Il tuo team dovrebbe trattare l’AI come un analista junior – utile, ma non infallibile. Celebra quando qualcuno identifica un’allucinazione. La fiducia deve essere guadagnata.
Il futuro dell’AI nelle aziende non sono modelli più grandi. Ciò che è necessario è più precisione, più trasparenza, più fiducia e più responsabilità.
