Alyssa Simpson Rochwerger, Co-Autor al cărții Real World AI – Seria de interviuri

Alyssa Rochwerger este un lider de produs axat pe client, dedicat construirii de produse care rezolvă probleme grele pentru oameni reali. Ea a deținut numeroase roluri de conducere în domeniul produselor pentru organizații de învățare automată. A ocupat funcția de vicepreședinte al produsului pentru Figure Eight (achiziționată de Appen), vicepreședinte al inteligenței artificiale și datelor la Appen, și director de produs la IBM Watson. Recent, a părăsit acest domeniu pentru a-și urma visul de a utiliza tehnologia pentru a îmbunătăți sănătatea. În prezent, ocupă funcția de director de produs la Blue Shield of California, unde este înconjurată de multe date, multe probleme grele și nu are decât oportunități de a avea un impact pozitiv.

Discutăm despre noua sa carte: Lumea reală a inteligenței artificiale: O ghid practic pentru învățarea automată responsabilă

În introducerea cărții, descrieți cum, ca manager de produs la IBM, ați întâlnit pentru prima dată o problemă cu un sistem de inteligență artificială care furniza informații biasate atunci când o imagine a unei persoane într-un scaun cu rotile era clasificată de algoritm ca “pierzător”. Cât de mult a fost acest lucru un semnal de trezire pentru dvs. cu privire la biasul inteligenței artificiale?

Aș spune că nu a fost atât de mult un semnal de trezire, cât mai degrabă prima mea experiență de a construi un produs bazat pe învățare automată (eram doar câteva luni în funcție) și nu știam suficient despre modul în care funcționează această tehnologie pentru a pune în aplicare garduri și a mitigă efectiv biasul nedorit. A fost o experiență revelatoare care mi-a ascuțit atenția asupra acestei probleme – și m-a făcut conștientă, înainte de a continua. Echitatea, accesul și incluziunea sunt subiecte despre care sunt pasionată – și am fost pentru o perioadă lungă de timp – am câștigat chiar și un premiu în facultate pentru activismul meu în favoarea studenților cu dizabilități. Această experiență de la IBM m-a ajutat să înțeleg din punct de vedere tehnic cât de ușor poate fi încodat biasul societal sistemic în produsele bazate pe învățare automată, dacă echipa nu ia măsuri active pentru a-l mitigă. Eram fericită să lucrez într-o instituție care se preocupă profund de echitate și alocă resurse pentru a mitigă.

Ce ați învățat personal cercetând și scriind această carte?

Pe plan personal – am trebuit să găsesc timp pentru a scrie această carte, în timp ce schimbam jobul, aveam un copil de un an și navigam prin COVID. Am învățat cum să găsesc timp pentru a face din aceasta o prioritate și cum să cer ajutor de la familia mea, ceea ce mi-a permis să acord atenție scrierii cărții.

Profesional – a fost minunat să am atât de mulți participanți care au fost de acord să împărtășească cu bunăvoință și cu generozitate poveștile lor pentru publicare. Profesioniștii în învățare automată, în experiența mea, sunt o grupă de oameni incredibil de gânditori și generoși – dispuși să ajute și să împărtășească greșeli și lecții învățate. Din nefericire, multe dintre aceste povești nu au putut fi incluse în această carte sau au trebuit să fie anonimizate în mod semnificativ, din cauza preocupării de a face publice informații din culise care ar putea face o companie sau un individ să arate rău, dacă ar fi interpretate în mod greșit. Deși acest lucru este, desigur, normal, personal, consider că este păcat – sunt o mare susținătoare a învățării și a creșterii din greșelile și experiențele trecute, dacă pot fi de ajutor altora.

Ce sunt cele mai importante lecții pe care sperați că oamenii le vor învăța din citirea acestei cărți?

Sper ca oamenii să învețe că învățarea automată nu este un lucru groaznic sau greu de înțeles. Că este o tehnologie puternică, dar uneori și fragilă, care are nevoie de îndrumare și structură pentru a fi de succes în rezolvarea problemelor grele. De asemenea, că utilizarea responsabilă și etică a acestei tehnologii este critică pentru maturitate și succes – și că focusarea pe mitigarea biasului dăunător de la început este cheia succesului în afaceri.

Un exemplu de bias de gen al inteligenței artificiale prezentat în carte a fost emiterea de către cardul de credit Apple a unor linii de credit mai mici pentru femei decât pentru bărbați. Acesta a fost un exemplu de modul în care omiterea genului ca opțiune a fost incapabilă să țină cont de alte variabile care pot servi ca proxy pentru gen. Exemplul a demonstrat că, fără “intrarea” de gen, a fost imposibil de determinat dacă rezultatul a fost biasat până după lansarea produsului final. Ce tipuri de intrări de date considerați că nu ar trebui să fie omise pentru a evita biasul împotriva genului sau a minorităților?

Nu există o regulă strictă – fiecare set de date, caz de utilizare și situație este diferit. Aș încuraja practicienii să se aventureze în detalii și nuanțe ale problemei pe care o rezolvă algoritmul de învățare automată – și ce bias dăunător ar putea fi încodat în acea decizie.

Cartea descrie modul în care o responsabilitate primară atunci când comunicați cu echipa de inteligență artificială este de a defini precis rezultatele care sunt importante pentru afaceri. În opinia dvs., cât de des afacerile eşuează în această sarcină?

Aș spune că, în experiența mea, de cele mai multe ori, rezultatele sunt fie nedescrise, fie descrise doar la un nivel general sau vag. A intra în detalii despre rezultatele specifice este un mod ușor de a pregăti echipa pentru succes de la început.

Cartea vorbește despre importanța realizării faptului că un sistem de inteligență artificială nu este un sistem de tip “Setează și uită”. Puteți discuta pe scurt despre acest lucru?

Acesta este greșeala clasică pe care majoritatea companiilor o fac atunci când lansează un nou sistem de învățare automată în producție. Realitatea se schimbă – timpul trece, ceea ce era adevărat ieri (datele de antrenament) poate să nu mai fie adevărat mâine. Depinde de circumstanțele dvs., dar în majoritatea cazurilor, este important să puteți învăța și ajusta și lua decizii mai bune în timp, pe baza unor informații mai recente.

Produsele bazate pe învățare automată sunt, în esență, factori de decizie. Pentru a face o analogie cu un exemplu uman – este ca un arbitru într-un meci de fotbal cu miză mare. De multe ori, dacă este un arbitru bine antrenat și experimentat, arbitru ia o decizie bună și jocul continuă – dar, uneori, acel arbitru face o decizie greșită – sau nu este sigur ce decizie să ia – și are nevoie să se întoarcă și să revizuiască videoul – să ceară ajutor de la alți oameni pentru a lua o decizie cu privire la o anumită fază a jocului. În mod similar, produsele de învățare automată au nevoie de feedback, antrenament și, uneori, nu sunt sigure. Au nevoie de opțiuni de rezervă pentru a se baza și de informații noi pentru a învăța și a deveni mai bune în timp. Un arbitru bun va învăța și se va îmbunătăți în timp.

Puteți vorbi despre importanța creării unei echipe transfuncționale care să poată identifica ce probleme sunt cele mai bine abordate prin utilizarea inteligenței artificiale?

Tehnologia de învățare automată este, de obicei, potrivită pentru probleme foarte grele și specifice care nu sunt rezolvate prin alte abordări. Orice problemă grea – necesită o echipă pentru a fi de succes. Când companiile sunt noi în inteligența artificială – există adesea o narativă falsă că un singur om de știință în învățare automată, sau chiar o echipă de învățare automată, poate rezolva problema singură. Nu am găsit niciodată acest lucru adevărat. Necessită o echipă cu diferite background-uri și abordări pentru a aborda o problemă grea – și, cu siguranță, pentru a implementa cu succes tehnologia de învățare automată în producție.

Mulțumim pentru acest interviu minunat, cititorilor (și, în special, executivilor de afaceri) care sunt interesați să învețe mai mult, le recomand să citească cartea Lumea reală a inteligenței artificiale: O ghid practic pentru învățarea automată responsabilă.