Come l’Intelligenza Artificiale Spiegabile Migliora l’Affidabilità e la Attendibilità

Mentre l’intelligenza artificiale (AI) si sta democratizzando nelle imprese, si sta lentamente integrando nella nostra vita quotidiana. Un aspetto importante di questa democratizzazione è che gli utenti finali devono essere in grado di comprendere appieno il processo e i meccanismi che l’AI utilizza per raggiungere una conclusione o come opera per fornire i risultati desiderati. Come esseri umani, abbiamo un profondo bisogno di scoprire il “perché” e il “come” di qualsiasi fenomeno, che ha accelerato il nostro progresso tecnologico. Nel contesto dell’AI, questa comprensione è definita come “spiegabilità”.

Perché la spiegabilità è necessaria?

Più spesso di quanto si pensi, ci avviciniamo all’AI come a una “scatola nera”, dove abbiamo solo la consapevolezza degli input e degli output, ma i processi utilizzati sono persi per noi. A peggiorare il problema è il fatto che gli algoritmi che alimentano la maggior parte delle forme di AI, come i sistemi di previsione basati sull’apprendimento automatico e l’elaborazione del linguaggio naturale, sono altamente astratti persino per i loro praticanti più esperti.

Fiducia e trasparenza: Perché gli utenti possano fidarsi delle previsioni dell’AI, essa deve avere un certo livello di spiegabilità intrinseca. Ad esempio, se un medico deve raccomandare un trattamento in base alle previsioni dell’AI, deve essere fiducioso nella previsione. Una banca deve avere la piena fiducia nella decisione di rifiutare o approvare un prestito e deve essere in grado di giustificarla a tutti gli stakeholder. Un’AI utilizzata per la selezione e l’assunzione deve dimostrare che i meccanismi sottostanti sono equi e giusti per tutti i gruppi di candidati.

Rende l’AI più umana e aumenta l’adozione: Nel rapporto “The state of AI in 2020” di McKinsey, scopriamo che un produttore utilizza modelli estremamente trasparenti per l’accettazione dei lavoratori della fabbrica, che devono fidarsi dei giudizi dell’AI riguardo alla loro sicurezza. Per un’adozione rapida dell’AI, ottenere il consenso degli stakeholder è l’ostacolo principale per scalare da soluzioni semplici a livello aziendale e ottenere il massimo dall’investimento. Ciò è alleviato in larga misura se le prestazioni sono spiegabili al pubblico più ampio. Da una prospettiva aziendale, la spiegabilità migliora l’esperienza utente generale e aumenta la soddisfazione del cliente. Secondo i risultati di un sondaggio dell’Istituto IBM per il valore aziendale, il 68% dei dirigenti di alto livello ritiene che i clienti chiederanno maggiore spiegabilità dall’AI nei prossimi tre anni.

Scopre i pregiudizi e migliora le prestazioni del modello: Uno sviluppatore deve sapere come migliorare le prestazioni del modello e come esattamente debuggarlo e ottimizzarlo. Un quadro di spiegabilità chiaro è uno degli strumenti più importanti per condurre l’analisi approfondita necessaria.

Ottiene insight più acuti e completi: È necessaria una visione a 360 gradi per comprendere appieno le prescrizioni fatte dall’AI. Ad esempio, se l’AI viene utilizzata per prendere una decisione di investimento, si deve anche sapere la ragione alla base di essa, in modo da poter trasferire questo apprendimento in altre aree e comprendere i potenziali svantaggi di prendere quella decisione. Una forte comprensione di come funziona l’AI consentirà anche ai responsabili delle decisioni di scoprire nuovi casi d’uso.

Regolamentazioni e responsabilità: Diverse regolamentazioni come il GDPR stanno richiedendo il diritto a una spiegazione per affrontare le questioni di responsabilità che sorgono da un processo decisionale automatizzato. In sistemi come i veicoli autonomi, se qualcosa va storto portando a perdita di vite e proprietà, è necessaria una conoscenza appropriata della causa radice, che sarà difficile da individuare in un sistema “scatola nera”.

Come può l’AI essere più spiegabile?

I sistemi di intelligenza artificiale spiegabili (XAI) vengono sviluppati utilizzando diverse tecniche che si concentrano sull’esplicazione del modello nel suo complesso o sulla spiegazione del ragionamento dietro le singole previsioni attraverso l’assistenza di alcuni algoritmi.

La maggior parte delle tecniche di spiegabilità si basa su:

• La scomposizione di un modello in componenti individuali)
• La visualizzazione delle previsioni del modello (ad esempio, se un modello classifica un’auto come di un certo marchio, evidenzia la parte che l’ha portata a segnalarla come tale)
• La ricerca di spiegazioni (utilizzando tecniche di apprendimento automatico per trovare dati rilevanti che spieghino la previsione di un algoritmo di intelligenza artificiale).

In una di queste tecniche, chiamata proxy modeling, viene utilizzato un modello più semplice e comprensibile, come un albero decisionale, per rappresentare approssimativamente il modello di AI più elaborato. Queste spiegazioni semplici forniscono un’idea generale del modello a livello alto, ma possono a volte sopprimere alcune sfumature.

Un altro approccio è chiamato “interpretazione progettata”. Questo approccio pone vincoli nella progettazione e formazione della rete di AI in un nuovo modo, che tenta di costruire l’intera rete da blocchi più piccoli e più spiegabili. Ciò comporta un compromesso tra il livello di accuratezza e la spiegabilità e limita alcuni approcci nel set di strumenti del data scientist. Potrebbe anche essere molto intensivo in termini di calcolo.

La formazione e il test dell’AI possono anche utilizzare tecniche di verifica dei dati agnostiche come il modello locale interpretabile (LIME) e le spiegazioni additive di Shapley (SHAP), e queste dovrebbero essere personalizzate per ottenere un’elevata accuratezza attraverso l’uso del punteggio F, della precisione e di altre metriche. E, naturalmente, tutti i risultati devono essere monitorati e verificati utilizzando una vasta gamma di dati. Utilizzando LIME, ad esempio, le organizzazioni sono in grado di creare modelli temporanei che mimano le previsioni di algoritmi non trasparenti come l’apprendimento automatico. Questi modelli LIME possono quindi creare una vasta gamma di permutazioni in base a un set di dati dato e al suo output corrispondente, che possono essere utilizzati per formare modelli più semplici e più interpretabili insieme a liste complete di spiegazioni per ogni decisione e/o previsione. Il framework SHAP, che ha le sue radici nella teoria dei giochi e specificamente nella teoria dei giochi cooperativi, è un modello che combina l’allocazione ottimale del credito con spiegazioni locali utilizzando i valori di Shapley originali della teoria dei giochi e i loro discendenti.

Operazioni Principiate

A un livello più strategico, tuttavia, i framework di affidabilità dell’AI dovrebbero incorporare un insieme ampio di principi volti a garantire risultati appropriati sia all’inizio del dispiegamento che nel tempo, man mano che i modelli evolvono in presenza di circostanze mutevoli. Al minimo, questi framework dovrebbero includere cose come:

• Rilevamento dei pregiudizi – tutti i set di dati devono essere puliti da pregiudizi e attributi discriminatori e quindi dati il peso e la discrezione appropriati quando applicati al modello di formazione;
• Intervento umano – gli operatori devono essere in grado di indagare e interpretare gli output degli algoritmi in ogni momento, in particolare quando i modelli vengono utilizzati per l’applicazione della legge e la preservazione delle libertà civili;
• Giustificazione – tutte le previsioni devono essere in grado di resistere allo scrutinio, il che richiede per sua natura un alto livello di trasparenza per consentire agli osservatori esterni di valutare i processi e i criteri utilizzati per produrre i risultati;
• Riproducibilità – i modelli di AI affidabili devono essere coerenti nelle loro previsioni e devono esibire alti livelli di stabilità quando si incontrano nuovi dati.

Ma l’XAI non dovrebbe essere visto solo come un mezzo per migliorare la redditività, ma per portare la responsabilità e garantire che le istituzioni possano spiegare e giustificare l’effetto delle loro creazioni sulla società nel suo complesso.