Crescenti preoccupazioni per le allucinazioni e i pregiudizi legati all’intelligenza artificiale: il rapporto 2024 di Aporia evidenzia l’urgente necessità di standard di settore

A recente rapporto da Aporia, leader nel settore delle piattaforme di controllo AI, ha portato alla luce alcune scoperte sorprendenti nel campo dell'intelligenza artificiale e dell'apprendimento automatico (AI & ML). Intitolato “2024 AI & ML Report: Evolution of Models & Solutions”, il sondaggio condotto da Aporia evidenzia una tendenza crescente di allucinazioni e pregiudizi all’interno dell’intelligenza artificiale generativa e dei modelli linguistici di grandi dimensioni (LLM), segnalando una sfida cruciale per un settore che avanza rapidamente verso scadenza.

Allucinazioni AI fare riferimento a casi in cui è generativo modelli di intelligenza artificiale generativa produrre risultati errati, privi di senso o disconnessi dalla realtà. Queste allucinazioni possono variare da piccole imprecisioni a errori significativi, inclusa la generazione di contenuti distorti o potenzialmente dannosi.

Le conseguenze delle allucinazioni legate all’intelligenza artificiale possono essere significative, soprattutto perché questi modelli sono sempre più integrati in vari aspetti dell’economia e della società. Ad esempio, l’imprecisione delle informazioni generate dall’intelligenza artificiale può portare a disinformazione, mentre i contenuti distorti possono perpetuare stereotipi o pratiche sleali. In applicazioni sensibili come la sanità, la finanza o la consulenza legale, tali errori potrebbero avere gravi implicazioni, influenzando decisioni e risultati.

I risultati dell’indagine sottolineano la necessità di un attento monitoraggio e osservazione dei modelli di produzione.

Il sondaggio di Aporia ha incluso le risposte di 1,000 professionisti del machine learning con sede in Nord America e nel Regno Unito. Queste persone lavorano in aziende che hanno da 500 a 7,000 dipendenti, in settori quali finanza, sanità, viaggi, assicurazioni, software e vendita al dettaglio. I risultati sottolineano sia le sfide che le opportunità che devono affrontare i leader della produzione ML, facendo luce sul ruolo vitale dell’ottimizzazione dell’intelligenza artificiale per l’efficienza e la creazione di valore.

Approfondimenti chiave dal rapporto include:

1. Prevalenza delle sfide operative: Uno schiacciante 93% degli ingegneri di machine learning riferisce di aver riscontrato problemi con i modelli di produzione quotidianamente o settimanalmente. Questa statistica significativa sottolinea la necessità fondamentale di strumenti di monitoraggio e controllo efficaci per garantire operazioni senza intoppi.
2. Incidenza delle allucinazioni dell'IA: Circa l'89% degli ingegneri che lavorano con modelli linguistici di grandi dimensioni e intelligenza artificiale generativa riferiscono di aver sperimentato allucinazioni in questi modelli. Queste allucinazioni si manifestano come errori fattuali, pregiudizi o contenuti che potrebbero essere dannosi.
3. Concentrarsi sulla mitigazione dei pregiudizi: nonostante gli ostacoli nel rilevamento di dati distorti e la mancanza di strumenti di monitoraggio sufficienti, ben l’83% degli intervistati sottolinea l’importanza del monitoraggio delle distorsioni nei progetti di intelligenza artificiale.
4. Importanza dell'osservabilità in tempo reale: Un sostanziale 88% dei professionisti del machine learning ritiene che l'osservabilità in tempo reale sia essenziale per identificare i problemi nei modelli di produzione, una capacità non presente in tutte le aziende a causa della mancanza di strumenti di monitoraggio automatizzati.
5. Investimenti in risorse per lo sviluppo: Il rapporto rivela che, in media, le aziende investono circa quattro mesi nello sviluppo di strumenti e dashboard per il monitoraggio della produzione, evidenziando potenziali preoccupazioni riguardo all’efficienza e al rapporto costo-efficacia di tali investimenti.

"Il nostro rapporto mostra un chiaro consenso tra il settore, i prodotti di intelligenza artificiale vengono implementati a un ritmo rapido e ci saranno conseguenze se questi modelli ML non verranno monitorati", ha dichiarato Liran Hason, CEO di Aporia. “Gli ingegneri che stanno dietro a questi strumenti hanno parlato: ci sono problemi con la tecnologia e possono essere risolti. Ma sono necessari strumenti di osservabilità corretti per garantire che sia le imprese che i consumatori ricevano il miglior prodotto possibile, privo di allucinazioni e pregiudizi”.

aporia, impegnata a migliorare l'efficacia dei prodotti di intelligenza artificiale basati sull'apprendimento automatico, ha affrontato le sfide di MLOps e ha sostenuto pratiche di intelligenza artificiale responsabili. L'approccio incentrato sul cliente dell'azienda e l'integrazione del feedback degli utenti hanno portato allo sviluppo di strumenti e funzionalità robusti per migliorare l'esperienza dell'utente, supportare l'espansione dei modelli di produzione e contribuire a eliminare le allucinazioni.

Il rapporto completo di Aporia offre uno sguardo approfondito a questi risultati e alle loro implicazioni per il settore dell’intelligenza artificiale. Per saperne di più, visita Rapporto dell'indagine di Aporia.