AI spiegabile utilizzando formule booleane espressive

L’esplosione delle applicazioni di intelligenza artificiale (AI) e machine learning sta permeando quasi ogni settore e ogni ambito della vita.

Ma la sua crescita non arriva senza ironia. Sebbene l'intelligenza artificiale esista per semplificare e/o accelerare il processo decisionale o i flussi di lavoro, la metodologia per farlo è spesso estremamente complessa. In effetti, alcuni algoritmi di apprendimento automatico "scatola nera" sono così intricati e sfaccettati da poter sfidare una semplice spiegazione, anche da parte degli informatici che li hanno creati.

Ciò può essere piuttosto problematico quando determinati casi d'uso, come nei settori della finanza e della medicina, sono definiti dalle migliori pratiche del settore o dai regolamenti governativi che richiedono spiegazioni trasparenti sul funzionamento interno delle soluzioni di intelligenza artificiale. E se queste applicazioni non sono abbastanza espressive da soddisfare i requisiti di spiegabilità, possono essere rese inutili indipendentemente dalla loro efficacia complessiva.

Per risolvere questo enigma, il nostro team di Centro fedeltà per la tecnologia applicata (FCAT) — in collaborazione con Amazon Quantum Solutions Lab — ha proposto e implementato un modello di machine learning interpretabile per Explainable AI (XAI) basato su formule booleane espressive. Tale approccio può includere qualsiasi operatore che può essere applicato a una o più variabili booleane, fornendo così una maggiore espressività rispetto agli approcci più rigidi basati su regole e basati su alberi.

Puoi leggere il carta completa qui per dettagli completi su questo progetto.

La nostra ipotesi era che poiché i modelli, come gli alberi decisionali, possono diventare profondi e difficili da interpretare, la necessità di trovare una regola espressiva con bassa complessità ma elevata precisione fosse un problema di ottimizzazione intrattabile che doveva essere risolto. Inoltre, semplificando il modello attraverso questo approccio XAI avanzato, potremmo ottenere ulteriori vantaggi, come l'esposizione di pregiudizi importanti nel contesto dell'uso etico e responsabile del machine learning; semplificando anche la manutenzione e il miglioramento del modello.

Abbiamo proposto un approccio basato su formule booleane espressive perché definiscono regole con complessità sintonizzabile (o interpretabilità) in base alle quali i dati di input vengono classificati. Tale formula può includere qualsiasi operatore che può essere applicato a una o più variabili booleane (come And o AtLeast), fornendo così una maggiore espressività rispetto a metodologie più rigide basate su regole e basate su alberi.

In questo problema abbiamo due obiettivi concorrenti: massimizzare le prestazioni dell'algoritmo, minimizzandone la complessità. Pertanto, piuttosto che adottare l'approccio tipico di applicare uno dei due metodi di ottimizzazione - combinando più obiettivi in ​​​​uno o limitando uno degli obiettivi - abbiamo scelto di includere entrambi nella nostra formulazione. In tal modo, e senza perdita di generalità, utilizziamo principalmente l'accuratezza bilanciata come metrica generale delle prestazioni.

Inoltre, includendo operatori come AtLeast, siamo stati motivati ​​dall'idea di affrontare la necessità di liste di controllo altamente interpretabili, come un elenco di sintomi medici che indicano una particolare condizione. È concepibile che venga presa una decisione utilizzando tale lista di controllo dei sintomi in modo tale da dover essere presente un numero minimo per una diagnosi positiva. Analogamente, in finanza, una banca può decidere se concedere o meno credito a un cliente in base alla presenza di un certo numero di fattori da un elenco più ampio.

Abbiamo implementato con successo il nostro modello XAI e lo abbiamo confrontato su alcuni set di dati pubblici per credito, comportamento dei clienti e condizioni mediche. Abbiamo scoperto che il nostro modello è generalmente competitivo con altre alternative ben note. Abbiamo anche scoperto che il nostro modello XAI può potenzialmente essere alimentato da hardware per scopi speciali o dispositivi quantistici per risolvere la programmazione lineare intera veloce (ILP) o l'ottimizzazione binaria quadratica non vincolata (QUBO). L'aggiunta di risolutori QUBO riduce il numero di iterazioni, portando così a un'accelerazione grazie alla proposta rapida di mosse non locali.

Come notato, i modelli di intelligenza artificiale spiegabili che utilizzano formule booleane possono avere molte applicazioni nel settore sanitario e nel campo della finanza di Fidelity (come il punteggio di credito o per valutare perché alcuni clienti potrebbero aver selezionato un prodotto mentre altri no). Creando queste regole interpretabili, possiamo raggiungere livelli più elevati di intuizioni che possono portare a futuri miglioramenti nello sviluppo o perfezionamento del prodotto, nonché all'ottimizzazione delle campagne di marketing.

Sulla base delle nostre scoperte, abbiamo determinato che l'intelligenza artificiale spiegabile utilizzando formule booleane espressive è sia appropriata che desiderabile per quei casi d'uso che richiedono ulteriore spiegabilità. Inoltre, mentre il calcolo quantistico continua a svilupparsi, prevediamo l'opportunità di ottenere potenziali accelerazioni utilizzandolo e altri acceleratori hardware per scopi speciali.

Il lavoro futuro potrebbe incentrarsi sull'applicazione di questi classificatori ad altri set di dati, sull'introduzione di nuovi operatori o sull'applicazione di questi concetti ad altri casi d'uso.