Prezentarea noilor niveluri de transparență cu IA – Lideri de gândire

De Balakrishna D R, Vicepreședinte senior, Șef ofertă de servicii – Energie, Comunicații, Servicii și servicii de automatizare și inteligență artificială, la Infosys.

La 9 ianuarie 2020, Organizația Mondială a Sănătății a anunțat publicul despre izbucnirea coronavirusului în China. Trei zile mai devreme, Centrul pentru Controlul și Prevenirea Bolilor din Statele Unite ale Americii primise deja informații despre aceasta. Cu toate acestea, o platformă canadiană de monitorizare a sănătății, BlueDot, a fost cea care a anunțat despre izbucnire cu câteva zile mai devreme, trimițând avertizări către clienții săi încă de la 31 decembrie 2019! Platforma BlueDot utilizează algoritmi bazati pe inteligență artificială care scanează rapoarte de știri în limbi străine, rețele de boli ale animalelor și plantelor, precum și proclamații oficiale pentru a oferi clienților săi avertizări în avans pentru a evita zonele periculoase, cum ar fi Wuhan.

În ultimii ani, inteligența artificială a devenit sursa principală de transformare, perturbare și avantaj competitiv în economia în schimbare rapidă de astăzi. De la urmărirea epidemiilor la apărare, sănătate, vehicule autonome și tot ce se află între acestea, IA este adoptată pe scară largă. PwC prezice că IA ar putea contribui cu până la 15,7 trilioane de dolari la economia globală până în 2030, la rata actuală de creștere.

Cu toate acestea, pentru toate speranțele pe care le aduce IA, aceasta ridică încă întrebări fără răspuns în ceea ce privește transparența și încrederea. Nevoia de a înțelege, de a prevedea și de a avea încredere în capacitatea de luare a deciziilor a sistemelor IA este importantă, în special în domenii care sunt critice pentru viață, moarte și bunăstare personală.

În necunoscut

Când sistemele de raționament automatizat au fost introduse pentru prima dată pentru a sprijini procesul de luare a deciziilor, acestea s-au bazat pe reguli create manual. Deși acest lucru a făcut ca interpretarea, precum și modificarea comportamentului lor să fie ușoară, acestea nu au fost scalabile. Modelele bazate pe învățare automată au apărut pentru a răspunde nevoii de scalabilitate; acestea nu necesitau intervenție umană și puteau fi antrenate cu ajutorul datelor – cu cât mai multe, cu atât mai bine. Deși modelele de învățare profundă sunt de neegalat în capacitatea lor de modelare și aplicabilitate, faptul că aceste modele sunt, în mare parte, cutii negre, ridică întrebări îngrijorătoare cu privire la veracitatea, încrederea și prejudecățile lor în contextul utilizării lor largi.

În prezent, nu există un mecanism direct pentru a urmări raționamentul implicit utilizat de modelele de învățare profundă. Cu modelele de învățare automată care au o natură de cutie neagră, principala formă de explicabilitate este cunoscută sub numele de explicabilitate post-hoc, ceea ce înseamnă că explicațiile sunt derivate din natura și proprietățile ieșirilor generate de model. Primele încercări de a extrage reguli din rețelele neuronale (cum era cunoscută învățarea profundă în trecut) nu mai sunt urmărite în prezent, deoarece rețelele au devenit prea mari și diverse pentru a putea extrage reguli tranzacționabile. Prin urmare, există o nevoie urgentă de a introduce interpretabilitate și transparență în însăși esența modelării IA.

Ieșirea din noapte, intrarea în lumină

Această preocupare a creat o nevoie de transparență în învățarea automată, care a condus la creșterea inteligenței artificiale explicabile, sau XAI. Aceasta își propune să abordeze principalele probleme care împiedică capacitatea noastră de a avea încredere deplină în procesul de luare a deciziilor de către IA — inclusiv prejudecățile și transparența. Acest nou domeniu al IA aduce responsabilitate pentru a asigura că IA beneficiază societatea cu rezultate mai bune pentru toți cei implicați.

XAI va fi esențială în ajutorul oferit pentru prejudecățile inerente sistemelor și algoritmilor IA, care sunt programați de oameni ale căror backgrounduri și experiențe conduc involuntar la dezvoltarea de sisteme IA care prezintă prejudecăți. Prejudecățile nedorite, cum ar fi discriminarea împotriva unei anumite naționalități sau etnii, pot pătrunde pentru că sistemul atribuie o valoare acestora pe baza datelor reale. De exemplu, s-ar putea constata că debitorii tipici care nu-și plătesc ratele provin dintr-un anumit background etnic, dar implementarea oricărei politici restrictive pe baza acestor date ar fi împotriva practicilor corecte. Datele eronate sunt o altă cauză a prejudecăților. De exemplu, dacă un anumit scanner de recunoaștere facială este inexact 5% din timp din cauza culorii pielii sau a luminii care cade pe față, acest lucru ar putea introduce prejudecăți. În cele din urmă, dacă datele dvs. de eșantionare nu reprezintă cu adevărat întreaga populație, prejudecățile sunt inevitabile.

XAI își propune să abordeze modul în care deciziile luate de sistemele IA sunt luate. Aceasta examinează și încearcă să înțeleagă pașii și modelele implicate în procesul de luare a deciziilor. Aceasta răspunde la întrebări-cheie, cum ar fi: De ce a făcut sistemul IA o anumită previziune sau decizie? De ce nu a făcut sistemul IA altceva? Când a reușit sau a eșuat sistemul IA? Când oferă sistemele IA suficientă încredere în decizia luată pentru a o putea avea încredere, și cum poate corecta sistemul IA erorile?

IA explicabilă, previzibilă și trasabilă

O modalitate de a obține explicabilitate în sistemele IA este de a utiliza algoritmi de învățare automată care sunt în mod inerent explicabili. De exemplu, forme mai simple de învățare automată, cum ar fi arborii de decizie, clasificatorii Bayes și alți algoritmi care au anumite cantități de trasabilitate și transparență în procesul lor de luare a deciziilor. Aceștia pot oferi vizibilitatea necesară pentru sistemele IA critice fără a sacrifica prea mult din performanță sau precizie.

Observând nevoia de a oferi explicabilitate pentru abordările de învățare profundă și algoritmice mai complexe, Agenția pentru Cercetare Avansată a Apărării (DARPA) din Statele Unite urmărește eforturi pentru a produce soluții IA explicabile prin intermediul unor inițiative de cercetare finanțate. DARPA descrie explicabilitatea IA în trei părți, care includ: precizia previziunii, ceea ce înseamnă că modelele vor explica cum se ajung la concluzii pentru a îmbunătăți procesul de luare a deciziilor viitoare; înțelegerea deciziilor și încrederea din partea utilizatorilor și operatorilor umani, precum și inspectarea și trasabilitatea acțiunilor întreprinse de sistemele IA.

Trasabilitatea va permite oamenilor să intre în buclele de decizie ale IA și să aibă capacitatea de a opri sau controla sarcinile sale, ori de câte ori este nevoie. Un sistem IA nu este așteptat doar să execute o anumită sarcină sau să impună decizii, ci și să ofere un raport transparent despre de ce a luat anumite decizii, împreună cu raționamentul care stă la baza acestora.

Standardizarea algoritmilor sau a abordărilor XAI nu este posibilă în prezent, dar ar putea fi posibilă standardizarea nivelurilor de transparență / nivelurilor de explicabilitate. Organizațiile de standardizare încearcă să ajungă la înțelegeri comune și standardizate ale acestor niveluri de transparență pentru a facilita comunicarea între utilizatorii finali și furnizorii de tehnologie.

Pe măsură ce guvernele, instituțiile, întreprinderile și publicul în general devin dependente de sistemele bazate pe IA, câștigarea încrederii lor prin transparența mai clară a procesului de luare a deciziilor va fi fundamentală. Lansarea primei conferințe globale dedicate exclusiv XAI, Conferința Internațională Conjunctă pe Inteligență Artificială: Atelierul de Inteligență Artificială Explicabilă, este o dovadă suplimentară că epoca XAI a sosit.