Inteligența Artificială Explicabilă Utilizând Formule Booleene Expresive

Explozia în domeniul inteligenței artificiale (IA) și al învățării automate este prezentă în aproape toate industriile și aspectele vieții.

Însă creșterea sa nu vine fără ironie. În timp ce IA există pentru a simplifica și/sau accelera procesele de luare a deciziilor sau fluxurile de lucru, metodologia pentru realizarea acestor procese este adesea extrem de complexă. Într-adevăr, unele algoritmi de învățare automată “cutie neagră” sunt atât de intricati și multifacetici încât pot defia orice explicație simplă, chiar și de către oamenii de știință care le-au creat.

Acest lucru poate fi destul de problematic atunci când anumite cazuri de utilizare – cum ar fi în domeniile financiare și medicale – sunt definite de cele mai bune practici ale industriei sau de regulamentele guvernamentale care cer explicații transparente cu privire la funcționarea internă a soluțiilor IA. Și dacă aceste aplicații nu sunt suficient de expresive pentru a îndeplini cerințele de explicabilitate, ele pot fi inutile, indiferent de eficacitatea lor generală.

Pentru a aborda această problemă, echipa noastră de la Fidelity Center for Applied Technology (FCAT) — în colaborare cu Amazon Quantum Solutions Lab — a propus și implementat un model de învățare automată interpretabil pentru Inteligența Artificială Explicabilă (XAI) bazat pe formule Booleene expresive. O astfel de abordare poate include orice operator care poate fi aplicat uneia sau mai multor variabile Booleene, oferind astfel o expresivitate mai mare în comparație cu abordările rigide bazate pe reguli și arbori.

Puteți citi articolul complet aici pentru detalii cuprinzătoare despre acest proiect.

Ipoteza noastră a fost că, deoarece modelele — cum ar fi arborii de decizie — pot deveni profunzi și greu de interpretat, nevoia de a găsi o regulă expresivă cu complexitate scăzută dar cu acuratețe ridicată a devenit o problemă de optimizare intractabilă care trebuia rezolvată. Mai mult, prin simplificarea modelului prin această abordare avansată XAI, am putea obține beneficii suplimentare, cum ar fi expunerea prejudecăților care sunt importante în contextul utilizării etice și responsabile a învățării automate; în timp ce facem și mai ușoară întreținerea și îmbunătățirea modelului.

Am propus o abordare bazată pe formule Booleene expresive deoarece ele definesc reguli cu complexitate (sau interpretabilitate) reglabilă, în funcție de care datele de intrare sunt clasificate. O astfel de formulă poate include orice operator care poate fi aplicat uneia sau mai multor variabile Booleene (cum ar fi Și sau CelPuțin), oferind astfel o expresivitate mai mare în comparație cu metodologiile rigide bazate pe reguli și arbori.

În această problemă avem două obiective concurente: maximizarea performanței algoritmului, în timp ce minimizăm complexitatea sa. Astfel, în loc de a aplica abordarea obișnuită de a combina multiple obiective într-unul sau de a constrânge unul dintre obiective, am ales să includem ambele în formularea noastră. Făcând acest lucru și fără a pierde generalitatea, folosim în principal acuratețea echilibrată ca metrică de performanță generală.

De asemenea, prin includerea operatorilor precum CelPuțin, am fost motivați de ideea de a aborda nevoia de liste de verificare foarte interpretabile, cum ar fi o listă de simptome medicale care semnifică o anumită afecțiune. Este conceput că o decizie ar fi luată utilizând o astfel de listă de simptome într-un mod în care un număr minim ar trebui să fie prezent pentru un diagnostic pozitiv. Similar, în finanțe, o bancă ar putea decide dacă să acorde credit unui client pe baza prezenței unui anumit număr de factori dintr-o listă mai mare.

Am implementat cu succes modelul nostru XAI și l-am testat pe unele seturi de date publice pentru credit, comportamentul clienților și condiții medicale. Am descoperit că modelul nostru este, în general, competitiv cu alte alternative bine cunoscute. De asemenea, am constatat că modelul nostru XAI poate fi alimentat potențial de hardware specializat sau dispozitive cuantice pentru rezolvarea rapidă a programării liniare întregi (ILP) sau a optimizării binare neconstrânse (QUBO). Adăugarea solverelor QUBO reduce numărul de iterații — conducând astfel la o accelerare prin propunerea rapidă a mutărilor nelocale.

După cum s-a menționat, modelele de inteligență artificială explicabilă utilizând formule Booleene pot avea multe aplicații în domeniul sănătății și în domeniul financiar al Fidelity (cum ar fi evaluarea creditului sau evaluarea motivelor pentru care unii clienți au selectat un produs, în timp ce alții nu). Prin crearea acestor reguli interpretabile, putem obține niveluri mai ridicate de înțelegere care pot conduce la îmbunătățiri viitoare ale dezvoltării de produse sau rafinării, precum și la optimizarea campaniilor de marketing.

Pe baza descoperirilor noastre, am determinat că Inteligența Artificială Explicabilă utilizând formule Booleene expresive este atât adecvată, cât și de dorit pentru acele cazuri de utilizare care cer o explicabilitate suplimentară. Plus, pe măsură ce calculul cuantic continuă să se dezvolte, prevedem oportunitatea de a obține accelerări potențiale prin utilizarea acestuia și a altor acceleratoare de hardware specializate.

Lucrările viitoare ar putea se concentra pe aplicarea acestor clasificatori la alte seturi de date, introducerea de noi operatori sau aplicarea acestor concepte la alte cazuri de utilizare.