Cos’è l’Intelligenza Artificiale Spiegabile?

Mentre l’intelligenza artificiale (AI) diventa più complessa e ampiamente adottata nella società, uno dei set di processi e metodi più critici è l’intelligenza artificiale spiegabile (AI), a volte indicata come XAI.

L’intelligenza artificiale spiegabile può essere definita come:

• Un set di processi e metodi che aiutano gli utenti umani a comprendere e fidarsi dei risultati degli algoritmi di apprendimento automatico.

Come puoi immaginare, questa spiegabilità è incredibilmente importante poiché gli algoritmi di intelligenza artificiale prendono il controllo di molti settori, il che comporta il rischio di pregiudizi, algoritmi difettosi e altri problemi. Raggiungendo la trasparenza con la spiegabilità, il mondo può truly sfruttare il potere dell’intelligenza artificiale.

L’intelligenza artificiale spiegabile, come suggerisce il nome, aiuta a descrivere un modello di intelligenza artificiale, il suo impatto e i potenziali pregiudizi. Gioca anche un ruolo nella caratterizzazione della precisione del modello, della correttezza, della trasparenza e dei risultati nei processi decisionali guidati dall’intelligenza artificiale.

Le organizzazioni guidate dall’intelligenza artificiale di oggi dovrebbero adottare sempre processi di intelligenza artificiale spiegabile per aiutare a costruire fiducia e fiducia nei modelli di intelligenza artificiale in produzione. L’intelligenza artificiale spiegabile è anche fondamentale per diventare un’azienda responsabile nell’ambiente dell’intelligenza artificiale di oggi.

Poiché i sistemi di intelligenza artificiale di oggi sono così avanzati, gli esseri umani di solito eseguono un processo di calcolo per ritrovare come l’algoritmo è arrivato al suo risultato. Questo processo diventa una “scatola nera”, il che significa che è impossibile capirlo. Quando questi modelli inspiegabili vengono sviluppati direttamente dai dati, nessuno può capire cosa sta succedendo all’interno di essi.

Comprendendo come funzionano i sistemi di intelligenza artificiale attraverso l’intelligenza artificiale spiegabile, gli sviluppatori possono assicurarsi che il sistema funzioni come dovrebbe. Può anche aiutare a garantire che il modello soddisfi gli standard normativi e fornisce l’opportunità per il modello di essere sfidato o modificato.

Immagine: Dr. Matt Turek/DARPA

Differenze tra AI e XAI

Alcune differenze chiave aiutano a separare l'”intelligenza artificiale normale” dall’intelligenza artificiale spiegabile, ma soprattutto, l’XAI implementa tecniche e metodi specifici che aiutano a garantire che ogni decisione nel processo di apprendimento automatico sia tracciabile e spiegabile. In confronto, l’intelligenza artificiale normale di solito raggiunge il suo risultato utilizzando un algoritmo di apprendimento automatico, ma è impossibile capire completamente come l’algoritmo abbia raggiunto il risultato. Nel caso dell’intelligenza artificiale normale, è estremamente difficile verificare l’accuratezza, il che porta a una perdita di controllo, responsabilità e controllabilità.

Vantaggi dell’Intelligenza Artificiale Spiegabile

Ci sono molti vantaggi per qualsiasi organizzazione che desidera adottare l’intelligenza artificiale spiegabile, come:

• Risultati più veloci: L’intelligenza artificiale spiegabile consente alle organizzazioni di monitorare e gestire sistematicamente i modelli per ottimizzare i risultati aziendali. È possibile valutare e migliorare costantemente le prestazioni del modello e perfezionare lo sviluppo del modello.
• Mitigare i rischi: Adottando processi di intelligenza artificiale spiegabile, si garantisce che i modelli di intelligenza artificiale siano spiegabili e trasparenti. È possibile gestire i rischi normativi, di conformità e altri requisiti mentre si minimizza l’onere dell’ispezione manuale. Tutto ciò aiuta anche a mitigare il rischio di pregiudizi involontari. 
• Costruire la fiducia: L’intelligenza artificiale spiegabile aiuta a stabilire la fiducia nell’intelligenza artificiale in produzione. I modelli di intelligenza artificiale possono essere rapidamente portati in produzione, è possibile garantire l’interpretazione e la spiegabilità e il processo di valutazione del modello può essere semplificato e reso più trasparente.

Tecniche per l’Intelligenza Artificiale Spiegabile

Ci sono alcune tecniche XAI che tutte le organizzazioni dovrebbero considerare, e consistono in tre metodi principali: precisione della previsione, tracciabilità e comprensione della decisione.

Il primo dei tre metodi, precisione della previsione, è essenziale per utilizzare con successo l’intelligenza artificiale nelle operazioni quotidiane. Le simulazioni possono essere eseguite e l’output XAI può essere confrontato con i risultati nel set di dati di training, il che aiuta a determinare la precisione della previsione. Una delle tecniche più popolari per raggiungere ciò è chiamata Local Interpretable Model-Agnostic Explanations (LIME), una tecnica che spiega la previsione dei classificatori dell’algoritmo di apprendimento automatico.

Il secondo metodo è tracciabilità, che viene raggiunto limitando come le decisioni possono essere prese, nonché stabilendo un ambito più stretto per le regole e le funzionalità dell’apprendimento automatico. Una delle tecniche di tracciabilità più comuni è DeepLIFT, o Deep Learning Important FeaTures. DeepLIFT confronta l’attivazione di ogni neurone con il suo neurone di riferimento mentre dimostra un collegamento tracciabile tra ogni neurone attivato. Mostra anche le dipendenze tra loro.

Il terzo e ultimo metodo è comprensione della decisione, che è incentrata sull’uomo, a differenza degli altri due metodi. La comprensione della decisione coinvolge l’istruzione dell’organizzazione, in particolare del team che lavora con l’intelligenza artificiale, per consentire loro di capire come e perché l’intelligenza artificiale prende decisioni. Questo metodo è fondamentale per stabilire la fiducia nel sistema.

Principi dell’Intelligenza Artificiale Spiegabile

Per fornire una migliore comprensione dell’XAI e dei suoi principi, il National Institute of Standards (NIST), che fa parte del Dipartimento del Commercio degli Stati Uniti, fornisce definizioni per quattro principi di intelligenza artificiale spiegabile:

1. Un sistema di intelligenza artificiale dovrebbe fornire prove, supporto o ragioni per ogni output. 
2. Un sistema di intelligenza artificiale dovrebbe fornire spiegazioni che possano essere comprese dai suoi utenti. 
3. La spiegazione dovrebbe riflettere accuratamente il processo utilizzato dal sistema per arrivare al suo output. 
4. Il sistema di intelligenza artificiale dovrebbe funzionare solo alle condizioni per cui è stato progettato e non dovrebbe fornire output quando manca la sufficiente fiducia nel risultato.

Questi principi possono essere organizzati ulteriormente in:

• Significativo: Per raggiungere il principio di significatività, un utente dovrebbe capire la spiegazione fornita. Ciò potrebbe anche significare che nel caso di un algoritmo di intelligenza artificiale utilizzato da diversi tipi di utenti, potrebbero esserci diverse spiegazioni. Ad esempio, nel caso di un’auto a guida autonoma, una spiegazione potrebbe essere del tipo…”l’intelligenza artificiale ha categorizzato il sacchetto di plastica nella strada come una roccia e quindi ha preso azione per evitarla.” Mentre questo esempio funzionerebbe per il conducente, non sarebbe molto utile per uno sviluppatore di intelligenza artificiale che desidera correggere il problema. In quel caso, lo sviluppatore deve capire perché c’è stata una classificazione errata. 
• Accuratezza della spiegazione: A differenza dell’accuratezza dell’output, l’accuratezza della spiegazione coinvolge l’algoritmo di intelligenza artificiale che spiega accuratamente come è arrivato al suo output. Ad esempio, se un algoritmo di approvazione del prestito spiega una decisione in base al reddito di un’applicazione quando in realtà si basa sul luogo di residenza del richiedente, la spiegazione sarebbe inaccurata. 
• Limiti della conoscenza: I limiti della conoscenza dell’intelligenza artificiale possono essere raggiunti in due modi, e coinvolgono l’input che è al di fuori dell’esperienza del sistema. Ad esempio, se un sistema è costruito per classificare specie di uccelli e gli viene data un’immagine di una mela, dovrebbe essere in grado di spiegare che l’input non è un uccello. Se il sistema riceve un’immagine sfocata, dovrebbe essere in grado di segnalare che non è in grado di identificare l’uccello nell’immagine, o alternativamente, che la sua identificazione ha una fiducia molto bassa.

Ruolo dei dati nell’Intelligenza Artificiale Spiegabile

Uno dei componenti più importanti dell’intelligenza artificiale spiegabile è il dato.

Secondo Google, riguardo ai dati e all’intelligenza artificiale spiegabile, “un sistema di intelligenza artificiale è meglio compreso dai dati di training sottostanti e dal processo di training, nonché dal modello di intelligenza artificiale risultante.” Questa comprensione dipende dalla capacità di mappare un modello di intelligenza artificiale addestrato al set di dati esatto utilizzato per addestrarlo, nonché dalla capacità di esaminare i dati da vicino.

Per migliorare la spiegabilità di un modello, è importante prestare attenzione ai dati di training. I team dovrebbero determinare l’origine dei dati utilizzati per addestrare un algoritmo, la legalità e l’etica che circondano il loro ottenimento, eventuali pregiudizi nei dati e cosa può essere fatto per mitigare eventuali pregiudizi.

Un altro aspetto critico dei dati e dell’XAI è che i dati non pertinenti al sistema dovrebbero essere esclusi. Per raggiungere ciò, i dati non pertinenti non dovrebbero essere inclusi nel set di training o nei dati di input.

Google ha raccomandato un set di pratiche per raggiungere l’interpretazione e la responsabilità:

• Pianifica le tue opzioni per perseguire l’interpretazione
• Tratta l’interpretazione come una parte fondamentale dell’esperienza utente
• Progetta il modello per essere interpretabile
• Scegli metriche che riflettono l’obiettivo finale e il compito finale
• Comprendi il modello addestrato
• Comunica spiegazioni agli utenti del modello
• Esegui molti test per assicurarti che il sistema di intelligenza artificiale funzioni come previsto

Seguendo queste pratiche raccomandate, la tua organizzazione può assicurarsi di raggiungere l’intelligenza artificiale spiegabile, che è fondamentale per qualsiasi organizzazione guidata dall’intelligenza artificiale nell’ambiente di oggi.