Crescente preoccupazione per le allucinazioni e i pregiudizi dell’AI: il rapporto di Aporia del 2024 evidenzia l’urgente necessità di standard di settore

Un recente rapporto di Aporia, leader nel settore delle piattaforme di controllo dell’AI, ha portato alla luce alcune scoperte sorprendenti nel campo dell’intelligenza artificiale e dell’apprendimento automatico (AI & ML). Intitolato “Rapporto AI & ML 2024: evoluzione dei modelli e delle soluzioni”, il sondaggio condotto da Aporia segnala una tendenza crescente di allucinazioni e pregiudizi all’interno dell’AI generativa e dei grandi modelli linguistici (LLM), segnalando una sfida cruciale per un’industria in rapida evoluzione verso la maturità.

Le allucinazioni dell’AI si riferiscono a casi in cui i modelli di intelligenza artificiale generativa producono output errati, insensati o non connessi alla realtà. Queste allucinazioni possono variare da inesattezze minori a errori significativi, compresa la generazione di contenuti pregiudiziati o potenzialmente dannosi.

Le conseguenze delle allucinazioni dell’AI possono essere significative, soprattutto poiché questi modelli sono sempre più integrati in vari aspetti dell’attività commerciale e della società. Ad esempio, l’inesattezza delle informazioni generate dall’AI può portare a disinformazione, mentre i contenuti pregiudiziati possono perpetuare stereotipi o pratiche ingiuste. In applicazioni sensibili come la sanità, la finanza o la consulenza legale, tali errori potrebbero avere gravi implicazioni, influenzando decisioni e risultati.

I risultati del sondaggio sottolineano la necessità di un monitoraggio e un’osservazione vigili dei modelli di produzione.

Il sondaggio di Aporia ha incluso risposte di 1.000 professionisti dell’apprendimento automatico con sede in Nord America e Regno Unito. Questi individui lavorano in aziende con un numero di dipendenti che varia da 500 a 7.000, in settori come finanza, sanità, viaggi, assicurazioni, software e retail. I risultati sottolineano sia le sfide che le opportunità che si presentano ai leader della produzione di ML, evidenziando il ruolo vitale dell’ottimizzazione dell’AI per l’efficienza e la creazione di valore.

Punti chiave del rapporto includono:

1. Prevalenza di sfide operative: Un numero schiacciante del 93% degli ingegneri di apprendimento automatico segnala di incontrare problemi con i modelli di produzione ogni giorno o ogni settimana. Questa statistica significativa sottolinea la necessità critica di strumenti di monitoraggio e controllo efficaci per garantire un funzionamento senza problemi.
2. Incidenza di allucinazioni dell’AI: Un numero preoccupante del 89% degli ingegneri che lavorano con grandi modelli linguistici e intelligenza artificiale generativa segnala di aver sperimentato allucinazioni in questi modelli. Queste allucinazioni si manifestano come errori fattuali, pregiudizi o contenuti che potrebbero essere dannosi.
3. Focalizzazione sulla mitigazione dei pregiudizi: Nonostante gli ostacoli nella rilevazione di dati pregiudiziati e la mancanza di strumenti di monitoraggio sufficienti, un numero notevole dell’83% dei partecipanti al sondaggio sottolinea l’importanza del monitoraggio dei pregiudizi nei progetti di AI.
4. Importanza dell’osservabilità in tempo reale: Un numero sostanziale dell’88% dei professionisti dell’apprendimento automatico ritiene che l’osservabilità in tempo reale sia essenziale per l’identificazione dei problemi nei modelli di produzione, una funzionalità non presente in tutte le aziende a causa della mancanza di strumenti di monitoraggio automatizzati.
5. Investimento di risorse nello sviluppo: Il rapporto rivela che, in media, le aziende investono circa quattro mesi nello sviluppo di strumenti e dashboard per il monitoraggio della produzione, evidenziando potenziali preoccupazioni riguardo all’efficienza e alla redditività di tali investimenti.

“Il nostro rapporto mostra un chiaro consenso all’interno dell’industria: i prodotti AI vengono distribuiti a un ritmo rapido e ci saranno conseguenze se questi modelli di ML non vengono monitorati”, ha dichiarato Liran Hason, CEO di Aporia. “Gli ingegneri che stanno dietro a questi strumenti hanno parlato – ci sono problemi con la tecnologia e possono essere risolti. Ma sono necessari gli strumenti di osservabilità corretti per garantire che le aziende e i consumatori ricevano il prodotto migliore possibile, libero da allucinazioni e pregiudizi.”

Aporia, impegnata a migliorare l’efficacia dei prodotti AI alimentati dall’apprendimento automatico, ha affrontato le sfide di MLOps e ha sostenuto le pratiche di AI responsabili. L’approccio customer-centric dell’azienda e l’integrazione del feedback degli utenti hanno portato allo sviluppo di strumenti e funzionalità robuste per migliorare l’esperienza utente, supportare l’espansione dei modelli di produzione e aiutare a eliminare le allucinazioni.

Il rapporto completo di Aporia offre un’analisi approfondita di questi risultati e delle loro implicazioni per l’industria dell’AI. Per esplorare ulteriormente, visitare Rapporto di indagine di Aporia.