Ce este Inteligența Artificială Explicabilă?

Pe măsură ce inteligența artificială (IA) devine mai complexă și mai răspândită în societate, unul dintre cele mai critice seturi de procese și metode este inteligența artificială explicabilă (IAE), uneori denumită XAI.

Inteligența artificială explicabilă poate fi definită ca:

• Un set de procese și metode care ajută utilizatorii umani să înțeleagă și să aibă încredere în rezultatele algoritmilor de învățare automată.

Așa cum puteți ghici, această explicabilitate este incredibil de importantă, deoarece algoritmii IA preiau controlul asupra multor sectoare, ceea ce vine cu riscul de bias, algoritmi defectuoși și alte probleme. Prin realizarea transparenței cu explicabilitate, lumea poate să valorifice cu adevărat puterea IA.

Inteligența artificială explicabilă, așa cum sugerează și numele, ajută la descrierea unui model de IA, a impactului său și a potențialelor bias-uri. De asemenea, joacă un rol în caracterizarea acurateței modelului, a echității, transparenței și a rezultatelor în procesele de luare a deciziilor bazate pe IA.

Organizațiile care utilizează IA ar trebui să adopte întotdeauna procese de IA explicabilă pentru a construi încredere și confidență în modelele de IA din producție. Inteligența artificială explicabilă este, de asemenea, cheia pentru a deveni o companie responsabilă în mediul actual de IA.

Deoarece sistemele de IA de astăzi sunt atât de avansate, oamenii efectuează de obicei un proces de calcul pentru a reface cum a ajuns algoritmul la rezultatul său. Acest proces devine o “cutie neagră”, ceea ce înseamnă că este imposibil de înțeles. Când aceste modele neexplicabile sunt dezvoltate direct din date, nimeni nu poate înțelege ce se întâmplă în interiorul lor.

Prin înțelegerea modului în care sistemele de IA funcționează prin intermediul inteligenței artificiale explicabile, dezvoltatorii pot asigura că sistemul funcționează așa cum ar trebui. De asemenea, poate ajuta la asigurarea faptului că modelul îndeplinește standardele regulatorii și oferă oportunitatea de a fi contestat sau modificat.

Imagine: Dr. Matt Turek/DARPA

Diferențele dintre IA și XAI

Există câteva diferențe cheie care separă “IA obișnuită” de inteligența artificială explicabilă, dar cel mai important, XAI implementează tehnici și metode specifice care ajută la asigurarea faptului că fiecare decizie în procesul de învățare automată este trasabilă și explicabilă. În comparație, IA obișnuită ajunge de obicei la rezultatul său utilizând un algoritm de învățare automată, dar este imposibil de înțeles cum a ajuns la rezultat. În cazul IA obișnuite, este extrem de dificil să se verifice acuratețea, ceea ce duce la pierderea controlului, a responsabilității și a auditabilității.

Beneficiile inteligenței artificiale explicabile

Există multe beneficii pentru orice organizație care dorește să adopte inteligența artificială explicabilă, cum ar fi:

• Rezultate mai rapide: Inteligența artificială explicabilă permite organizațiilor să monitorizeze și să gestioneze sistematic modelele pentru a optimiza rezultatele afacerilor. Este posibil să se evalueze și să se îmbunătățească în mod continuu performanța modelului și să se ajusteze dezvoltarea modelului.
• Reducerea riscurilor: Prin adoptarea proceselor de inteligență artificială explicabilă, puteți asigura că modelele de IA sunt explicabile și transparente. Puteți gestiona riscurile regulatorii, de conformitate, și alte cerințe, minimizând astfel supravegherea manuală. Toate acestea ajută, de asemenea, la reducerea riscului de bias neintenționat.
• Construirea încrederii: Inteligența artificială explicabilă ajută la stabilirea încrederii în producția de IA. Modelele de IA pot fi aduse rapid în producție, puteți asigura interpretarea și explicabilitatea, iar procesul de evaluare a modelului poate fi simplificat și făcut mai transparent.

Tehnici pentru inteligența artificială explicabilă

Există câteva tehnici XAI pe care toate organizațiile ar trebui să le ia în considerare, și acestea constau în trei metode principale:acuratețea predicției, trasabilitatea, și înțelegerea deciziilor.

Prima dintre cele trei metode, acuratețea predicției, este esențială pentru a utiliza cu succes IA în operațiunile de zi cu zi. Simulări pot fi efectuate, iar ieșirile XAI pot fi comparate cu rezultatele din setul de date de antrenare, ceea ce ajută la determinarea acurateței predicției. Una dintre tehnicile mai populare pentru a atinge acest lucru se numește Explicații Local Interpretabile Model-Agnostic (LIME), o tehnică care explică predicția clasificatorilor prin algoritmul de învățare automată.

A doua metodă este trasabilitatea, care se realizează prin limitarea modului în care pot fi luate deciziile, precum și prin stabilirea unui scop mai restrâns pentru regulile și caracteristicile de învățare automată. Una dintre cele mai comune tehnici de trasabilitate este DeepLIFT, sau Deep Learning Important FeaTures. DeepLIFT compară activarea fiecărui neuron cu neuronul de referință, demonstrând o legătură trasabilă între fiecare neuron activat și arătând dependențele dintre ele.

A treia și ultima metodă este înțelegerea deciziilor, care este axată pe om, spre deosebire de celelalte două metode. Înțelegerea deciziilor implică educarea organizației, în special a echipei care lucrează cu IA, pentru a le permite să înțeleagă cum și de ce IA ia decizii. Această metodă este crucială pentru stabilirea încrederii în sistem.

Principiile inteligenței artificiale explicabile

Pentru a oferi o înțelegere mai bună a XAI și a principiilor sale, Institutul Național de Standarde (NIST), care face parte din Departamentul de Comerț al SUA, oferă definiții pentru patru principii ale inteligenței artificiale explicabile:

1. Un sistem de IA ar trebui să ofere dovezi, suport sau raționament pentru fiecare ieșire.
2. Un sistem de IA ar trebui să ofere explicații care pot fi înțelese de utilizatorii săi.
3. Explicația ar trebui să reflecte cu acuratețe procesul utilizat de sistem pentru a ajunge la ieșirea sa.
4. Sistemul de IA ar trebui să funcționeze numai în condițiile pentru care a fost proiectat și nu ar trebui să ofere ieșiri atunci când lipsește încrederea în rezultat.

Aceste principii pot fi organizate și în:

• Semnificativ: Pentru a atinge principiul semnificativității, un utilizator ar trebui să înțeleagă explicația oferită. Acest lucru ar putea însemna, de asemenea, că în cazul în care un algoritm de IA este utilizat de diferiți utilizatori, ar putea exista mai multe explicații. De exemplu, în cazul unei mașini autonome, o explicație ar putea fi “IA a clasificat punga de plastic de pe drum ca o piatră și, prin urmare, a luat măsuri pentru a o evita”. În timp ce acest exemplu ar funcționa pentru șofer, nu ar fi foarte util pentru un dezvoltator de IA care dorește să corecteze problema. În acest caz, dezvoltatorul ar trebui să înțeleagă de ce a existat o clasificare greșită.
• Acuratețea explicației: Diferită de acuratețea ieșirii, acuratețea explicației implică faptul că algoritmul de IA explică cu acuratețe cum a ajuns la ieșirea sa. De exemplu, dacă un algoritm de aprobare a creditului explică o decizie pe baza venitului unei aplicații, dar în realitate a fost bazată pe locul de reședință al solicitantului, explicația ar fi inexactă.
• Limitele cunoașterii: Limitele cunoașterii pot fi atinse în două moduri și implică faptul că intrarea este în afara expertizei sistemului. De exemplu, dacă un sistem este construit pentru a clasifica specii de păsări și i se oferă o imagine cu o măr, ar trebui să poată explica că intrarea nu este o pasăre. Dacă sistemul primește o imagine neclară, ar trebui să poată raporta că nu poate identifica pasărea din imagine sau că identificarea sa are o încredere foarte scăzută.

Rolul datelor în inteligența artificială explicabilă

Unul dintre cele mai importante componente ale inteligenței artificiale explicabile este datele.

Conform Google (GOOGL ) , în ceea ce privește datele și inteligența artificială explicabilă, “un sistem de IA este cel mai bine înțeles prin datele de antrenare subiacente și procesul de antrenare, precum și și modelul de IA rezultat.” Această înțelegere depinde de capacitatea de a mapa un model de IA antrenat la setul exact de date utilizat pentru antrenarea sa, precum și de a examina datele cu atenție.

Pentru a îmbunătăți explicabilitatea unui model, este important să se acorde atenție datelor de antrenare. Echipele ar trebui să determine originea datelor utilizate pentru a antrena un algoritm, legalitatea și etica care înconjoară obținerea lor, orice posibil bias în date și ce poate fi făcut pentru a mitiga orice bias.

Un alt aspect critic al datelor și al XAI este acela că datele care nu sunt relevante pentru sistem ar trebui să fie excluse. Pentru a atinge acest lucru, datele irelevante nu ar trebui să fie incluse în setul de antrenare sau în datele de intrare.

Google a recomandat un set de practici pentru a atinge interpretabilitatea și răspunderea:

• Planificați opțiunile pentru a urmări interpretabilitatea
• Tratați interpretabilitatea ca o parte centrală a experienței utilizatorului
• Proiectați modelul pentru a fi interpretabil
• Alegeți metrici care să reflecte scopul final și sarcina finală
• Înțelegeți modelul antrenat
• Comunicați explicații utilizatorilor modelului
• Efectuați o serie de teste pentru a asigura că sistemul de IA funcționează așa cum este intenționat

Prin urmarea acestor practici recomandate, organizația dumneavoastră poate asigura că atinge inteligența artificială explicabilă, care este cheia oricărei organizații conduse de IA în mediul de astăzi.