Alyssa Simpson Rochwerger, coautoarea cărții Real World AI – Seria de interviuri

Alyssa Rochwerger este un lider de produs dedicat construirii de produse care rezolvă probleme dificile pentru oameni reali. A ocupat numeroase roluri de conducere în organizații de învățare automată. A fost vicepreședinte al produsului pentru Figure Eight (achiziționat de Appen), vicepreședinte al inteligenței artificiale și datelor la Appen și director de produs la IBM Watson. Recent, a părăsit acest domeniu pentru a-și urma visul de a utiliza tehnologia pentru a îmbunătăți sănătatea. În prezent, ocupă funcția de director de produs la Blue Shield of California, unde este înconjurată de multe date, probleme dificile și oportunități de a avea un impact pozitiv.

Discutăm despre noua sa carte: Lumea reală a inteligenței artificiale: Un ghid practic pentru învățarea automată responsabilă

În introducerea cărții, descrieți cum, ca manager de produs la IBM, ați întâlnit pentru prima dată o problemă cu un sistem de inteligență artificială care furniza informații biasate atunci când o imagine a unei persoane într-un scaun cu rotile era clasificată de algoritm ca “loser”. Cât de mult a fost acest lucru un semnal de trezire pentru dumneavoastră cu privire la biasul în inteligența artificială?

Aș spune că nu a fost atât de mult un semnal de trezire, cât mai degrabă prima mea experiență în construirea unui produs bazat pe învățare automată (eram doar câteva luni în funcție) și nu știam suficient despre modul în care funcționează această tehnologie pentru a pune în aplicare garduri și a mitigă riscul de bias nedorit. A fost o experiență care mi-a deschis ochii asupra acestei probleme – și m-a făcut conștientă de importanța de a aborda această problemă în mod activ. Echitatea, accesul și incluziunea sunt subiecte despre care sunt pasionată – și am fost pentru o perioadă lungă de timp – am câștigat chiar și un premiu în facultate pentru activismul meu în favoarea studenților cu dizabilități. Această experiență de la IBM m-a ajutat să înțeleg din punct de vedere tehnic cât de ușor poate fi încodat biasul societal în produsele bazate pe învățare automată, dacă echipa nu ia măsuri pentru a preveni acest lucru. Mă bucuram să lucrez într-o instituție care se preocupă profund de echitate și care alocă resurse pentru a mitigă această problemă.

Ce ați învățat personal cercetând și scriind această carte?

Pe plan personal – am trebuit să găsesc timp pentru a scrie această carte în timp ce schimbam locul de muncă, aveam un copil de un an și navigam prin COVID. Am învățat cum să găsesc timp pentru a face din acest proiect o prioritate și cum să cer ajutorul familiei mele, care mi-a oferit timpul necesar pentru a-mi dedica atenția asupra scrierii cărții.

Profesional – a fost minunat să am atât de mulți participanți care au fost dispuși să împărtășească cu noi poveștile lor pentru publicare. Profesioniștii în învățare automată, în experiența mea, sunt oameni incredibil de gânditori și generoși – dispuși să ajute și să împărtășească greșeli și lecții învățate. Din nefericire, multe dintre aceste povești nu au putut fi incluse în carte sau au trebuit să fie anonimizate semnificativ, din cauza preocupărilor de a face publice informații din culise care ar putea face o companie sau o persoană să arate prost, dacă ar fi interpretate într-o lumină nefavorabilă. Deși acest lucru este, desigur, normal, personal consider că este păcat – sunt un mare susținător al învățării și creșterii din greșeli și lecții învățate, dacă acestea pot fi de ajutor pentru alții.

Ce sunt unele dintre cele mai importante lecții pe care sperați că oamenii le vor învăța din citirea acestei cărți?

Sper ca oamenii să înțeleagă că inteligența artificială nu este un lucru atât de înfricoșător sau greu de înțeles. Că este o tehnologie puternică, dar uneori și fragilă, care are nevoie de îndrumare și structură pentru a fi de succes în rezolvarea problemelor dificile. De asemenea, că utilizarea responsabilă și etică a acestei tehnologii este esențială pentru maturitate și succes – și că focalizarea pe mitigarea biasului dăunător de la început este cheia succesului în afaceri.

Un exemplu de bias de gen în inteligența artificială prezentat în carte a fost emiterea de către cardul de credit Apple (AAPL ) a unor limite de credit mai mici pentru femei decât pentru bărbați. Acesta a fost un exemplu de modul în care omiterea genului ca opțiune a dus la incapacitatea de a lua în considerare alte variabile care pot servi ca proxy pentru gen. Exemplul a arătat că, fără “intrarea” genului, a fost imposibil să se determine că rezultatul era biasat până după lansarea produsului final. Ce tipuri de intrări de date considerați că nu ar trebui să fie omise pentru a evita biasul împotriva genului sau a minorităților?

Nu există o regulă strictă – fiecare set de date, caz de utilizare și situație este diferit. Aș încuraja practicienii să se aventureze în detalii și nuanțe ale problemei pe care o rezolvă algoritmul de învățare automată – și ce bias dăunător ar putea fi încodat în acea decizie.

Cartea descrie modul în care o responsabilitate principală atunci când se comunică cu echipa de inteligență artificială este de a defini precis rezultatele care sunt importante pentru afaceri. În opinia dumneavoastră, cât de des afacerile eşuează în această sarcină?

Aș spune că, în experiența mea, de cele mai multe ori, rezultatele nu sunt definite sau sunt definite doar la un nivel general. A intra în detalii despre rezultatele specifice este un mod ușor de a pregăti echipa pentru succes de la început.

Cartea vorbește despre importanța realizării faptului că un sistem de inteligență artificială nu este un sistem “Setează și uită”. Puteți discuta pe scurt despre acest lucru?

Acesta este greșeala clasică pe care o fac majoritatea companiilor atunci când lansează un nou sistem de învățare automată în producție. Realitatea se schimbă – timpul trece, ceea ce era adevărat ieri (datele de antrenament) poate să nu mai fie adevărat mâine. Depinde de circumstanțe, dar în majoritatea cazurilor, este important să se poată învăța și ajusta și lua decizii mai bune în timp, pe baza informațiilor mai recente.

Sistemele de învățare automată sunt, în esență, factori de decizie. Pentru a face o analogie cu un exemplu uman – este ca un arbitru într-un meci de fotbal de înaltă tensiune. De multe ori, dacă este un arbitru bine antrenat și experimentat, acesta ia o decizie bună și jocul continuă – dar, uneori, arbitru face o decizie proastă – sau nu este sigur ce decizie să ia – și are nevoie să se întoarcă și să revizuiască videoul – să ceară sfatul altor persoane pentru a lua o decizie cu privire la o anumită fază a jocului. La fel, produsele bazate pe învățare automată au nevoie de feedback, antrenament și, uneori, nu sunt sigure. Au nevoie de opțiuni de rezervă și de informații noi pentru a învăța și a se îmbunătăți în timp. Un arbitru bun va învăța în timp și va deveni mai bun în a lua decizii.

Puteți vorbi despre importanța creării unei echipe transfuncționale care să poată identifica ce probleme sunt mai bine abordate prin utilizarea inteligenței artificiale?

Tehnologia de învățare automată este de obicei potrivită pentru probleme foarte dificile și specifice care nu pot fi rezolvate prin alte abordări. Orice problemă dificilă – necesită o echipă pentru a fi de succes. Când companiile sunt noi în inteligența artificială – există adesea o narativă falsă că un singur om de știință în învățare automată, sau chiar o echipă de învățare automată, poate rezolva problema singură. Niciodată nu am găsit acest lucru adevărat. Necessită o echipă cu diferite background-uri și abordări pentru a aborda o problemă dificilă – și, cu siguranță, pentru a implementa tehnologia de învățare automată cu succes în producție.

Mulțumim pentru acest interviu minunat, pentru cititorii (și, în special, pentru executivii de afaceri) care sunt interesați să afle mai multe, vă recomand să citiți cartea Lumea reală a inteligenței artificiale: Un ghid practic pentru învățarea automată responsabilă.