Explicabilitatea poate aborda problema de inteligență artificială din fiecare industrie: Lipsa de transparență

De: Migüel Jetté, VP de Cercetare și Dezvoltare Vorbire, Rev.

În stadiile sale incipiente, inteligența artificială ar fi putut să se bazeze pe noutate. Era acceptabil ca învățarea mașinilor să se desfășoare încet și să mențină un proces opac, în care calculul inteligenței artificiale era imposibil de pătruns pentru consumatorul mediu. Acest lucru se schimbă. Pe măsură ce mai multe industrii, cum ar fi sănătatea, finanțele și sistemul judiciar, încep să utilizeze inteligența artificială în moduri care pot avea un impact real asupra vieților oamenilor, mai multe persoane doresc să știe cum sunt utilizate algoritmii, cum sunt obținute datele și cât de precise sunt capacitățile sale. Dacă companiile doresc să rămână în fruntea inovației în piețele lor, trebuie să se bazeze pe inteligența artificială în care publicul lor poate avea încredere. Explicabilitatea inteligenței artificiale este ingredientul cheie pentru a consolida această relație.

Explicabilitatea inteligenței artificiale se diferențiază de procedurile standard ale inteligenței artificiale, deoarece oferă oamenilor o modalitate de a înțelege cum algoritmii de învățare a mașinilor generează ieșiri. Inteligența artificială explicabilă este un sistem care poate oferi oamenilor rezultate potențiale și limitări. Este un sistem de învățare a mașinilor care poate îndeplini dorința umană de echitate, responsabilitate și respect pentru confidențialitate. Inteligența artificială explicabilă este esențială pentru ca afacerile să construiască încredere cu consumatorii.

Pe măsură ce inteligența artificială se extinde, furnizorii de inteligență artificială trebuie să înțeleagă că cutia neagră nu poate funcționa. Modelele cutiei negre sunt create direct din date și, adesea, nici măcar dezvoltatorul care a creat algoritmul nu poate identifica ce a determinat obișnuințele învățate ale mașinii. Dar consumatorul conștient nu dorește să interacționeze cu ceva atât de impenetrabil, încât nu poate fi ținut responsabil. Oamenii doresc să știe cum ajunge un algoritm de inteligență artificială la un anumit rezultat, fără misterul intrărilor sursă și al ieșirilor controlate, mai ales când erorile inteligenței artificiale sunt adesea cauzate de prejudecăți ale mașinii. Pe măsură ce inteligența artificială devine mai avansată, oamenii doresc acces la procesul de învățare a mașinilor pentru a înțelege cum algoritmul a ajuns la un anumit rezultat. Liderii din fiecare industrie trebuie să înțeleagă că, mai devreme sau mai târziu, oamenii nu vor mai dori acest acces, ci îl vor cere ca nivel necesar de transparență.

Sistemele ASR, cum ar fi asistenții vocali, tehnologia de transcriere și alte servicii care convertesc vorbirea umană în text, sunt afectate în special de prejudecăți. Când serviciul este utilizat pentru măsuri de siguranță, greșelile cauzate de accente, vârsta unei persoane sau fundalul său, pot fi erori grave, astfel încât problema trebuie tratată cu seriozitate. ASR poate fi utilizat eficient în camerele de corp ale poliției, de exemplu, pentru a înregistra și a transcrie automat interacțiunile — păstrând un registru care, dacă este transcris cu acuratețe, ar putea salva vieți. Practica explicabilității va cere ca inteligența artificială să nu se bazeze doar pe seturi de date cumpărate, ci să caute să înțeleagă caracteristicile audio care ar putea contribui la erori, dacă există. Care este profilul acustic? Există zgomot în fundal? Vorbește speakerul dintr-o țară non-anglofonă sau dintr-o generație care utilizează un vocabular pe care inteligența artificială nu l-a învățat încă? Învățarea mașinilor trebuie să fie proactivă în învățarea mai rapidă și poate începe prin colectarea de date care pot aborda aceste variabile.

Necesitatea devine evidentă, dar calea către implementarea acestei metodologii nu va avea întotdeauna o soluție ușoară. Răspunsul tradițional la problema este de a adăuga mai multe date, dar o soluție mai sofisticată va fi necesară, mai ales când seturile de date cumpărate de multe companii sunt în mod inerent prejudecate. Acest lucru se datorează faptului că, istoric, a fost dificil să se explice o anumită decizie care a fost luată de inteligența artificială și acest lucru se datorează complexității modelelor de la capăt la cap. Cu toate acestea, putem face acest lucru acum și putem începe prin a întreba cum oamenii și-au pierdut încrederea în inteligența artificială.

În mod inevitabil, inteligența artificială va face greșeli. Companiile trebuie să construiască modele care sunt conștiente de posibilele lor limitări, să identifice când și unde apar problemele și să creeze soluții continue pentru a construi modele de inteligență artificială mai puternice:

1. Când apare ceva greșit, dezvoltatorii vor trebui să explice ce s-a întâmplat și să dezvolte un plan imediat pentru îmbunătățirea modelului pentru a reduce greșelile viitoare similare.
2. Pentru ca mașina să știe dacă a fost corectă sau nu, oamenii de știință trebuie să creeze o buclă de feedback, astfel încât inteligența artificială să poată învăța despre limitările sale și să evolueze.
3. O altă modalitate prin care ASR poate construi încredere, în timp ce inteligența artificială este încă în curs de îmbunătățire, este de a crea un sistem care poate oferi scoruri de încredere și poate oferi motive pentru care inteligența artificială este mai puțin sigură. De exemplu, companiile obișnuiesc să genereze scoruri de la zero la 100 pentru a reflecta imperfecțiunile propriilor modele de inteligență artificială și pentru a stabili transparența cu clienții lor. În viitor, sistemele pot oferi explicații post-hoc pentru de ce a fost dificilă audio-ul, oferind mai multe metadate despre audio, cum ar fi nivelul perceput de zgomot sau un accent mai puțin înțeles.

Transparența suplimentară va duce la o supraveghere umană mai bună a instruirii și performanței inteligenței artificiale. Cu cât suntem mai deschiși cu privire la locurile în care trebuie să ne îmbunătățim, cu atât suntem mai responsabili să luăm măsuri pentru a face aceste îmbunătățiri. De exemplu, un cercetător poate dori să știe de ce a fost generat un text eronat, astfel încât să poată remedia problema, în timp ce un transcriptor poate dori dovezi cu privire la de ce ASR a interpretat greșit intrarea pentru a-și ajuta la evaluarea validității sale. Menținerea oamenilor în buclă poate reduce unele dintre cele mai evidente probleme care apar atunci când inteligența artificială este necontrolată. De asemenea, poate accelera timpul necesar pentru ca inteligența artificială să-și corecteze erorile, să se îmbunătățească și să se corecteze în timp real.

Inteligența artificială are capacitatea de a îmbunătăți viețile oamenilor, dar numai dacă oamenii o construiesc pentru a funcționa corect. Trebuie să ținem nu numai aceste sisteme responsabile, ci și oamenii din spatele inovației. Sistemele de inteligență artificială din viitor sunt așteptate să respecte principiile stabilite de oameni și numai atunci vom avea un sistem în care oamenii pot avea încredere. Este timpul să punem bazele și să ne străduim pentru aceste principii acum, în timp ce suntem încă oameni care ne servim pe noi înșine.