Explicabilitatea: Frontiera următoare pentru Inteligența Artificială în asigurări și bancă

De Dr. Ori Katz, Cercetător științific analitic, Earnix.

„Orice tehnologie suficient de avansată este de nediferențiat de magie”, a argumentat scriitorul de science fiction Arthur C. Clarke. Într-adevăr, uneori tehnologia avansată, cum ar fi noile algoritmi de învățare automată, par a avea proprietăți care par a fi magice. Aplicarea evolutivă a învățării automate, inclusiv clasificarea imaginilor, recunoașterea vocii și utilizarea în industriile asigurărilor și bancare, par a avea proprietăți care par a fi supranaturale.

Multe companii sunt reticente în a-și schimba modelele analitice tradiționale – și pe bună dreptate. Magia este periculoasă, mai ales dacă nu este bine înțeleasă. Rețelele neuronale și algoritmii bazati pe arbori de decizie sunt „cutii negre”, structura lor internă putând fi extrem de complexă. În același timp, mai multe studii [1] au arătat cum rețelele neuronale și algoritmii bazati pe arbori de decizie pot depăși chiar și cele mai atent calibrate modele de risc tradiționale din asigurări, construite de actuarieri experimentați. Acest lucru se datorează capacității noilor algoritmi de a identifica automat structura ascunsă a datelor. Misterul și utilitatea rețelelor neuronale și a algoritmilor bazati pe arbori de decizie sunt în contrast. Există un compromis inerent între acuratețea unui model analitic și nivelul său de „explicabilitate”. Cum putem avea încredere în modele dacă nu putem înțelege cum ajung la concluziile lor? Trebuie să ne predăm magiei, să sacrificăm încrederea noastră și controlul asupra a ceva pe care nu îl putem pe deplin înțelege pentru acuratețe?

Managerii și analiștii nu sunt singurii care se preocupă de acest compromis. În ultimii ani, regulatorii au început să exploreze partea întunecată a magiei pentru a-și crește capacitatea de a monitoriza aceste industrii. Industriile bancare și de asigurări sunt puternic reglementate în multe aspecte, iar tendințele actuale de reglementare implică o examinare mai atentă a modelelor utilizate pentru a face previziuni. Recitalul 71 al Regulamentului general de protecție a datelor (GDPR) al Uniunii Europene, de exemplu, stipulează că clienții ar trebui să aibă dreptul de a obține o explicație a unei decizii automate după ce a fost luată. De la intrarea în vigoare a acestui element de reglementare, a fost în centrul unui intens debat academic.

Necesitatea urgentă de a explica modelele analitice „cutii negre” a condus la apariția unui nou domeniu de cercetare: Inteligența Artificială Explicabilă. Experții dezvoltă instrumente care ne permit să privim în interiorul cutiei negre și să desfășurăm măcar o parte a magiei. Două tipuri de instrumente pe care cercetătorii le-au creat includ „Instrumente de explicabilitate globală”, care ne pot ajuta să înțelegem caracteristicile cheie care determină previziunile generale ale modelului, și „Instrumente de explicabilitate locală”, care sunt destinate să explice o previziune specifică.

Următorul grafic este un exemplu de explicabilitate locală. Se bazează pe ideile economistului laureat al Premiului Nobel Lloyd Shapley, care a dezvoltat o metodă de teoria jocurilor pentru calcularea contribuției mai multor jucători care cooperează în aceeași sarcină. În Inteligența Artificială Explicabilă, „jucătorii” sunt caracteristicile modelului, în timp ce „sarcina” este previziunea modelului. Numerele care descriu contribuția fiecărei caracteristici se numesc „Valori Shapley”. Cercetătorii au dezvoltat recent metode pentru estimarea rapidă a Valorilor Shapley [2], ceea ce ne permite să distribuim în mod corect o previziune între diferitele caracteristici.

Folosind Valori Shapley pentru a explica cererea de reînnoire prevăzută a unui client specific

Graficul, bazat pe date simulate, arată rezultatul unui model de cerere care previne probabilitatea de reînnoire a unei polițe de asigurare auto. Acesta este un exemplu de explicabilitate locală pentru un client specific. Modelul de cerere se bazează pe un ansamblu complex de arbori de decizie, dar graficul prezintă contribuția separată a fiecărei caracteristici la previziunea finală. În acest exemplu, modelul previne că individul mediu din date va reînnoi polița cu o probabilitate de 0,64. Cu toate acestea, pentru acest client specific, probabilitatea prevăzută este mult mai mare, de 0,72. Graficul ne permite să vedem cauza acestei diferențe.

Deși nu putem înțelege pe deplin structura internă a acestui model complex, Valori Shapley ne permit să vedem care sunt caracteristicile cele mai importante pentru o previziune specifică, desfășurând o parte a magiei. Medierea valorilor Shapley individuale peste populație ne permite să vedem care caracteristici sunt cele mai importante și să obținem explicabilitate globală a modelului. Alte instrumente populare de explicabilitate includ „Importanța caracteristicilor prin permutare”, modelele surogat simple care sunt ajustate local și exemplele contrafactual, pentru a numi câteva [3].

Noile instrumente de explicabilitate sunt pasul necesar următor în evoluția învățării automate. Ele pot permite companiilor de asigurări și băncilor să înțeleagă și să aibă încredere în modelele lor de învățare automată, să se conformeze noilor reglementări și să ofere clienților lor informații valoroase. Putem acum depăși parțial compromisul dintre acuratețe și explicabilitate și să ne bucurăm de avantajele noilor modele de învățare automată cu mai puține preocupări cu privire la natura lor de „cutie neagră”.

În lumea noastră care se digitalizează rapid, a deveni pe deplin condus de analize este criteriul de bază pentru supraviețuire pentru asigurători și bănci. Această capacitate a fost întotdeauna importantă – dar a devenit vitală cu condițiile de piață volatile pe care le-a adus 2020. Asigurătorii și băncile au nevoie de analize mai inteligente pentru a modela o realitate complexă nouă, pe baza căreia pot lua decizii de afaceri și pot servi clienții mai rapid și mai bine. Instrumentele de explicabilitate pot permite asigurătorilor și băncilor să atingă acest lucru. Cu timpul, vom ajunge la punctul în care modelele de învățare automată nu vor mai fi considerate magie, ci un instrument esențial în arsenalul oricărei afaceri conduse de date.

Surse:

[1] Bärtl, M., & Krummaker, S. (2020). Prevederea cererilor în finanțarea creditului de export: O comparație a patru tehnici de învățare automată. Riscuri, 8(1), 22.

Noll, A., Salzmann, R., & Wuthrich, M. V. (2020). Studiu de caz: Cereri de răspundere a terților în Franța. Disponibil la SSRN 3164764.

Fauzan, M. A., & Murfi, H. (2018). Acuratețea XGBoost pentru prevederea cererilor de asigurare. Int. J. Adv. Soft Comput. Appl, 10(2).

Weerasinghe, K. P. M. L. P., & Wijegunasekara, M. C. (2016). Un studiu comparativ al algoritmilor de minerit de date în prevederea cererilor de asigurare auto. European International Journal of Science and Technology, 5(1), 47-54.

[2] Lundberg, S. M., & Lee, S. I. (2017). O abordare unificată pentru interpretarea previziunilor modelului. În Advances in Neural Information Processing Systems (pp. 4765-4774).

[3] Vezi aici pentru mai multe detalii: https://christophm.github.io/interpretable-ml-book/index.html