Cum explicabilitatea Inteligenței Artificiale îmbunătățește fiabilitatea și încrederea

Pe măsură ce inteligența artificială (IA) se democratizează în întreprinderi, ea se încorporează încet în țesătura existenței noastre. Un aspect important al acestei democratizări este acela că utilizatorii finali ar trebui să poată înțelege pe deplin procesul și mecanismele pe care IA le utilizează pentru a ajunge la o concluzie sau pentru a opera pentru a furniza rezultatele dorite. Ca ființe umane, avem o nevoie înrădăcinată de a descoperi “de ce” și “cum” al oricărui fenomen, ceea ce a accelerat progresul nostru tehnologic. În contextul IA, această înțelegere este denumită “explicabilitate.”

De ce explicabilitatea este nevoie în acest moment?

Mai mult decât nu, abordăm IA ca o “cutie neagră”, unde avem doar cunoștință despre intrări și ieșiri, dar undeva procesele utilizate ne sunt pierdute. Agravând această problemă este faptul că algoritmii care alimentează cele mai populare forme de IA, cum ar fi sistemele complexe de predicție bazate pe învățare profundă și Procesarea Limbajului Natural (NLP), sunt foarte abstracte chiar și pentru cei mai experimentați practicieni.

Încredere și transparență: Pentru ca utilizatorii să aibă încredere în predicțiile IA, aceasta trebuie să aibă un anumit nivel de explicabilitate în ea. De exemplu, dacă un medic trebuie să recomande un tratament pe baza predicțiilor IA, el/ea trebuie să aibă încredere în predicție. O bancă trebuie să aibă încredere deplină în decizia de a respinge sau a aproba un împrumut și să poată justifica aceasta tuturor părților interesate. Un IA utilizat pentru selecție și angajare trebuie să demonstreze că mecanismele subiacente sunt corecte și echitabile pentru toate grupurile de aplicanți.

Face IA mai umană și crește adoptarea: În raportul McKinsey The state of AI in 2020 aflăm că un producător utilizează modele extrem de transparente pentru acceptarea de către lucrătorii de fabrică, care trebuie să aibă încredere în judecățile luate de IA cu privire la siguranța lor. Pentru adoptarea rapidă a IA, obținerea aprobării stakeholderilor este principala barieră pentru scalarea de la soluții punctuale simple la nivelul întreprinderii și pentru a obține maximum din investiția făcută. Acest lucru este alleviat în mare măsură dacă performanța este explicabilă pentru publicul larg. Din punct de vedere al afacerilor, explicabilitatea îmbunătățește experiența generală a utilizatorului și crește satisfacția clienților. Conform descoperirilor unui sondaj realizat de IBM Institute for Business Value, 68% dintre executivii de top cred că clienții vor cere mai multă explicabilitate din partea IA în următorii trei ani.

Descoperă prejudecăți și îmbunătățește performanța modelului: Un dezvoltator trebuie să știe cum să îmbunătățească performanța modelului și cum să debugeze și să ajusteze acesta. Un cadru clar de explicabilitate este unul dintre cele mai importante instrumente pentru realizarea analizei aprofundate necesare.

Obțineți perspective mai clare și mai cuprinzătoare: O vedere completă de 360 de grade este necesară pentru a înțelege pe deplin orice prescripții făcute de IA. De exemplu, dacă IA este utilizată pentru luarea unei decizii de investiții, ar trebui să se știe și rațiunea din spatele acesteia, astfel încât să se poată transfera această învățare în alte domenii și să se înțeleagă și potențialele capcane ale luării acelei decizii. O înțelegere puternică a modului în care funcționează IA va permite, de asemenea, decidenților să descopere noi cazuri de utilizare.

Reglementări și răspundere: Mai multe reglementări, cum ar fi GDPR, impun un drept la explicație pentru a aborda problemele de răspundere care apar dintr-un proces decizional automatizat. În sisteme precum vehiculele autonome, dacă ceva merge prost și duce la pierderi de vieți și bunuri, este nevoie de cunoașterea cauzei de bază, care va fi dificil de identificat într-un sistem “cutie neagră”.

Cum poate fi IA mai explicabilă?

Sistemele de Inteligență Artificială Explicabilă (XAI) sunt dezvoltate utilizând diferite tehnici care se concentrează fie pe explicarea modelului în ansamblu, fie pe explicarea raționamentului din spatele unei predicții individuale, cu ajutorul unui algoritm.

Majoritatea tehnicilor de explicabilitate se bazează pe:

• Descompunerea unui model în componente individuale)
• Visualizarea predicțiilor modelului (de exemplu, dacă un model clasifică o mașină ca fiind de o anumită marcă, evidențiază partea care a determinat-o să o clasifice astfel)
• Extracția explicațiilor (utilizând tehnici de învățare automată pentru a găsi date relevante care explică predicția unui algoritm de inteligență artificială).

Într-o astfel de tehnică, numită modelare proxy, se utilizează un model mai simplu și mai ușor de înțeles, cum ar fi un arbore de decizie, pentru a reprezenta aproximativ modelul de IA mai complex. Aceste explicații simplificate oferă o idee generală a modelului la nivel înalt, dar pot suprima anumite nuanțe.

O altă abordare se numește “interpretabilitate prin design”. Această abordare impune constrângeri în proiectarea și antrenarea rețelei de IA într-un mod nou, care încearcă să construiască rețeaua din bucăți mai mici și mai explicabile. Acest lucru implică un compromis între nivelul de acuratețe și explicabilitate și limitează anumite abordări din setul de instrumente al omului de știință. De asemenea, poate fi foarte intensiv din punct de vedere computațional.

Antrenarea și testarea IA pot utiliza, de asemenea, tehnici agnostice de verificare a datelor, cum ar fi modelul local interpretabil (LIME) și explicațiile aditive Shapley (SHAP), și acestea ar trebui să fie personalizate pentru a obține o acuratețe ridicată prin utilizarea scorului F, preciziei și altor metrice. Și, desigur, toate rezultatele ar trebui să fie monitorizate și verificate utilizând o varietate largă de date. Utilizând LIME, de exemplu, organizațiile pot crea modele temporare care imită predicțiile algoritmilor netransparenti, cum ar fi învățarea automată. Aceste modele LIME pot crea o gamă largă de permutări pe baza unui anumit set de date și a ieșirii corespunzătoare, care pot fi utilizate pentru a antrena modele simple și mai interpretabile, împreună cu liste complete de explicații pentru fiecare decizie și/sau predicție. Cadru SHAP, care are fundația în teoria jocurilor și, în special, în teoria jocurilor cooperativ, este un model care combină alocarea optimă de credit cu explicații locale, utilizând valorile Shapley originale din teoria jocurilor și descendenții lor.

Operațiuni bazate pe principii

La un nivel mai strategic, cu toate acestea, cadrele de fiabilitate a IA ar trebui să incorporeze un set larg de principii menite să asigure rezultate corespunzătoare atât la începutul implementării, cât și pe parcursul timpului, pe măsură ce modelele evoluează în prezența unor circumstanțe în schimbare. Ca minimum, aceste cadre ar trebui să includă lucruri precum:

• Detectarea prejudecăților – toate seturile de date ar trebui să fie curățate de prejudecăți și atribute discriminatorii și apoi să li se acorde greutate și discreție adecvată atunci când se aplică modelului de antrenare;
• Implicarea umană – operatorii ar trebui să poată investiga și interpreta ieșirile algoritmilor în orice moment, în special atunci când se utilizează modele pentru aplicarea legii și menținerea libertăților civile;
• Justificarea – toate predicțiile trebuie să poată rezista examinării, ceea ce, prin natura sa, necesită un nivel ridicat de transparență pentru a permite observatorilor externi să evalueze procesele și criteriile utilizate pentru a produce rezultate;
• Reproducerea – modelele de IA fiabile trebuie să fie consistente în predicțiile lor și să arate niveluri ridicate de stabilitate atunci când se confruntă cu date noi.

Dar XAI nu ar trebui să fie privită doar ca o modalitate de a îmbunătăți profitabilitatea, ci și pentru a aduce răspunderea și a asigura că instituțiile pot explica și justifica efectul creațiilor lor asupra societății în ansamblu.