I ricercatori sviluppano lo strumento “DeepTrust” per aumentare l’affidabilità dell’IA

La sicurezza e l’affidabilità dell’intelligenza artificiale (IA) sono uno degli aspetti più importanti della tecnologia. È costantemente migliorata e lavorata da esperti di alto livello nei diversi campi e sarà cruciale per l’implementazione completa dell’IA nella società.

Alcun lavoro nuovo proviene dall’Università della California meridionale, dove i ricercatori dell’USC Viterbi Engineering hanno sviluppato uno strumento nuovo in grado di generare indicatori automatici per determinare se gli algoritmi di IA sono affidabili nei loro dati e previsioni.

La ricerca è stata pubblicata in Frontiers in Artificial Intelligence, intitolata “C’è speranza dopo tutto: quantificazione dell’opinione e dell’affidabilità nelle reti neurali”. Gli autori del documento includono Mingxi Cheng, Shahin Nazarian e Paul Bogdan del USC Cyber Physical Systems Group.

Affidabilità delle reti neurali

Uno dei compiti più grandi in questo settore è far sì che le reti neurali generino previsioni che possano essere affidabili. In molti casi, è questo che blocca l’adozione completa della tecnologia che si basa sull’IA.

Ad esempio, i veicoli autonomi devono agire in modo indipendente e prendere decisioni accurate in modalità automatica. Devono essere in grado di prendere queste decisioni estremamente velocemente, mentre decifrano e riconoscono oggetti sulla strada. Ciò è cruciale, soprattutto in scenari in cui la tecnologia dovrebbe distinguere tra un dosso, un altro oggetto o un essere vivente.

Altri scenari includono il veicolo autonomo che decide cosa fare quando un altro veicolo gli si para davanti, e la decisione più complessa di tutte è se quel veicolo autonomo debba decidere tra colpire ciò che percepisce come un altro veicolo, un oggetto o un essere vivente.

Tutto ciò significa che stiamo riponendo un’enorme quantità di fiducia nella capacità del software del veicolo autonomo di prendere la decisione corretta in frazioni di secondo. Diventa ancora più difficile quando c’è informazione in conflitto da diversi sensori, come la visione computerizzata dalle telecamere e il Lidar.

L’autore principale Minxi Cheng ha deciso di intraprendere questo progetto dopo aver pensato: “Anche gli esseri umani possono essere indecisi in determinati scenari di decisione. In casi di informazione in conflitto, perché le macchine non possono dirci quando non sanno?”

DeepTrust

Lo strumento creato dai ricercatori si chiama DeepTrust e può quantificare la quantità di incertezza, secondo Paul Bogdan, professore associato nel dipartimento di Ingegneria elettrica e informatica Ming Hsieh.

Il team ha trascorso quasi due anni a sviluppare DeepTrust, utilizzando principalmente la logica soggettiva per valutare le reti neurali. In un esempio di come funziona lo strumento, è stato in grado di esaminare i sondaggi elettorali presidenziali del 2016 e prevedere che c’era un margine di errore maggiore per la vittoria di Hillary Clinton.

Lo strumento DeepTrust rende anche più facile testare l’affidabilità degli algoritmi di IA normalmente addestrati su fino a milioni di punti di dati. L’altro modo per farlo è controllare indipendentemente ogni punto di dati per testare l’accuratezza, che è un compito estremamente lungo.

Secondo i ricercatori, l’architettura di questi sistemi di reti neurali è più precisa e l’accuratezza e l’affidabilità possono essere massimizzate contemporaneamente.

“A nostra conoscenza, non esiste un modello o strumento di quantificazione dell’affidabilità per l’apprendimento profondo, l’intelligenza artificiale e l’apprendimento automatico. Questo è il primo approccio e apre nuove direzioni di ricerca”, afferma Bogdan.

Bogdan crede anche che DeepTrust possa aiutare a spingere l’IA fino al punto in cui sarà “consapevole e adattiva”.