Intelligenza Artificiale Spiegabile Utilizzando Formule Booleane Espressive

L’esplosione dell’intelligenza artificiale (AI) e delle applicazioni di apprendimento automatico sta permeando quasi ogni industria e aspetto della vita.

Ma la sua crescita non è senza ironia. Mentre l’AI esiste per semplificare e/o accelerare la presa di decisioni o i flussi di lavoro, la metodologia per farlo è spesso estremamente complessa. In effetti, alcuni algoritmi di apprendimento automatico “black box” sono così intricati e multifaceti che possono sfidare una semplice spiegazione, anche da parte degli scienziati informatici che li hanno creati.

Questo può essere piuttosto problematico quando determinati casi d’uso – come nei campi della finanza e della medicina – sono definiti dalle migliori pratiche dell’industria o dalle norme governative che richiedono spiegazioni trasparenti sul funzionamento delle soluzioni AI. E se queste applicazioni non sono sufficientemente esplicative per soddisfare i requisiti di spiegabilità, potrebbero essere rese inutili indipendentemente dalla loro efficacia complessiva.

Per affrontare questo dilemma, il nostro team al Fidelity Center for Applied Technology (FCAT) — in collaborazione con il Amazon Quantum Solutions Lab — ha proposto e implementato un modello di apprendimento automatico interpretabile per l’Intelligenza Artificiale Spiegabile (XAI) basato su formule booleane espresse. Un tale approccio può includere qualsiasi operatore che possa essere applicato a una o più variabili booleane, fornendo così una maggiore espressività rispetto agli approcci più rigidi basati su regole e alberi.

Puoi leggere l’intero documento qui per avere dettagli completi su questo progetto.

La nostra ipotesi era che, poiché i modelli – come gli alberi decisionali – possono diventare profondi e difficili da interpretare, la necessità di trovare una regola espressiva con bassa complessità ma alta accuratezza era un problema di ottimizzazione irrisolvibile che doveva essere risolto. Inoltre, semplificando il modello attraverso questo approccio XAI avanzato, potevamo ottenere ulteriori vantaggi, come esporre pregiudizi importanti nel contesto dell’uso etico e responsabile dell’ML; rendendo anche più facile la manutenzione e il miglioramento del modello.

Abbiamo proposto un approccio basato su formule booleane espresse perché definiscono regole con complessità (o interpretabilità) regolabile in base ai quali i dati di input vengono classificati. Una tale formula può includere qualsiasi operatore che possa essere applicato a una o più variabili booleane (come And o Almeno), fornendo così una maggiore espressività rispetto agli approcci più rigidi basati su regole e alberi.

In questo problema abbiamo due obiettivi in competizione: massimizzare le prestazioni dell’algoritmo, mentre si minimizza la sua complessità. Pertanto, anziché adottare l’approccio tipico di applicare uno dei due metodi di ottimizzazione – combinare più obiettivi in uno o vincolare uno degli obiettivi – abbiamo scelto di includere entrambi nella nostra formulazione. Facendo ciò, e senza perdita di generalità, utilizziamo principalmente l’accuratezza bilanciata come nostra metrica di prestazione complessiva.

Inoltre, includendo operatori come Almeno, siamo stati motivati dall’idea di affrontare la necessità di elenchi di controllo altamente interpretabili, come un elenco di sintomi medici che significano una particolare condizione. È concepibile che una decisione potrebbe essere presa utilizzando un tale elenco di sintomi in un modo tale per cui un numero minimo dovrebbe essere presente per una diagnosi positiva. Allo stesso modo, nel settore finanziario, una banca potrebbe decidere se concedere o meno un credito a un cliente in base alla presenza di un certo numero di fattori da un elenco più ampio.

Abbiamo implementato con successo il nostro modello XAI e lo abbiamo testato su alcuni set di dati pubblici per il credito, il comportamento dei clienti e le condizioni mediche. Abbiamo scoperto che il nostro modello è generalmente competitivo con altre alternative ben note. Abbiamo anche scoperto che il nostro modello XAI può potenzialmente essere alimentato da hardware specializzato o dispositivi quantistici per la risoluzione rapida della Programmazione Lineare Interiore (ILP) o dell’Ottimizzazione Binaria Quadratica Non Vincolata (QUBO). L’aggiunta di solver QUBO riduce il numero di iterazioni – portando così a un aumento di velocità attraverso la rapida proposta di mosse non locali.

Come notato, i modelli di intelligenza artificiale spiegabile che utilizzano formule booleane possono avere molte applicazioni nel settore sanitario e nel campo della finanza di Fidelity (come la valutazione del credito o per valutare il motivo per cui alcuni clienti potrebbero aver selezionato un prodotto mentre altri no). Creando queste regole interpretabili, possiamo ottenere livelli più elevati di insight che possono portare a miglioramenti futuri nello sviluppo o nella raffinazione dei prodotti, nonché nell’ottimizzazione delle campagne di marketing.

Basandoci sui nostri risultati, abbiamo determinato che l’Intelligenza Artificiale Spiegabile utilizzando formule booleane espresse è sia appropriata che desiderabile per quei casi d’uso che richiedono ulteriore spiegabilità. Inoltre, poiché l’elaborazione quantistica continua a svilupparsi, prevediamo l’opportunità di ottenere potenziali aumenti di velocità utilizzandola e altri acceleratori di hardware specializzati.

Il lavoro futuro potrebbe concentrarsi sull’applicazione di questi classificatori ad altri set di dati, sull’introduzione di nuovi operatori o sull’applicazione di questi concetti ad altri casi d’uso.