Prof. Julia Stoyanovich, Director al Centrului pentru Inteligență Artificială Responsabilă – Seria de Interviuri

Julia Stoyanovich, este profesor la Școala de Inginerie Tandon a NYU și director fondator al Centrului pentru Inteligență Artificială Responsabilă. Ea a depus recent mărturie în fața Comitetului pentru Tehnologie al Consiliului Municipal din New York despre o propunere de lege care ar reglementa utilizarea inteligenței artificiale pentru deciziile de angajare și ocupare a forței de muncă.

Sunteți director fondator al Centrului pentru Inteligență Artificială Responsabilă de la NYU. Ne puteți împărtăși câteva dintre inițiativele întreprinse de această organizație?

Eu coordonez Centrul pentru Inteligență Artificială Responsabilă (R/AI) de la NYU împreună cu Steven Kuyan. Steven și eu avem interese și expertiză complementare. Sunt un academic, cu o pregătire în știința calculatoarelor și cu un interes puternic pentru lucrul inspirat de utilizare la intersecția ingineriei datelor, științei datelor responsabile și politicii. Steven este directorul executiv al NYU Tandon Future Labs, o rețea de incubatoare și acceleratoare de startup-uri care a avut deja un impact economic semnificativ în NYC. Viziunea noastră pentru R/AI este de a face “inteligența artificială responsabilă” sinonimă cu “inteligența artificială”, prin combinarea cercetării aplicate, educației publice și angajamentului, și prin ajutarea companiilor mari și mici – în special a celor mici – să dezvolte inteligență artificială responsabilă.

În ultimele luni, R/AI a fost implicat activ în conversații despre supravegherea sistemelor de decizie automate (ADS). Abordarea noastră se bazează pe o combinație de activități educaționale și angajament politic.

Orașul New York examinează o propunere de lege, Int 1894, care ar reglementa utilizarea ADS în angajare prin combinarea auditării și divulgării publice. R/AI a depus comentarii publice cu privire la proiectul de lege, pe baza cercetării noastre și a insight-urilor pe care le-am adunat de la cei care caută un loc de muncă prin intermediul unor activități de implicare publică.

Am colaborat, de asemenea, cu The GovLab de la NYU și cu Institutul pentru Etică în Inteligența Artificială de la Universitatea Tehnică din München la un curs online gratuit numit “Etica Inteligenței Artificiale: Perspective Globale“, care a fost lansat la începutul acestei luni.

Un alt proiect recent al R/AI care a atras o atenție considerabilă este seria noastră de benzi desenate “Date, în mod responsabil”. Primul volum al seriei se numește “Oglindă, oglindă”, este disponibil în engleză, spaniolă și franceză și poate fi accesat cu un cititor de ecran în toate cele trei limbi. Benza desenată a primit premiul “Inovația lunii” de la Metro Lab Network și GovTech și a fost prezentată în The Toronto Star, printre altele.

Care sunt unele dintre problemele actuale sau potențiale cu privire la polarizarea inteligenței artificiale pentru deciziile de angajare și ocupare a forței de muncă?

Aceasta este o întrebare complexă care necesită să fim clari cu privire la ceea ce înțelegem prin “polarizare”. Lucrul cheie de remarcat este că sistemele automate de angajare sunt “analize predictive” – ele prevăd viitorul pe baza trecutului. Trecutul este reprezentat de date istorice despre indivizi care au fost angajați de companie și despre modul în care aceștia au performant. Sistemul este apoi “antrenat” pe aceste date, ceea ce înseamnă că identifică modele statistice și le folosește pentru a face previziuni. Aceste modele statistice sunt “magia” inteligenței artificiale, pe baza cărora se bazează modelele predictive. În mod evident, dar important, datele istorice din care au fost extrase aceste modele sunt tăcute despre indivizi care nu au fost angajați, deoarece pur și simplu nu știm cum ar fi performant aceștia pe postul pe care nu l-au obținut. Și aici intervine polarizarea. Dacă angajăm în mod sistematic mai mulți indivizi din anumite grupuri demografice și socio-economice, atunci apartenența la aceste grupuri și caracteristicile asociate cu această apartenență vor deveni parte a modelului predictiv. De exemplu, dacă vedem doar absolvenți ai universităților de top fiind angajați pentru roluri executive, atunci sistemul nu poate învăța că oamenii care au studiat la o altă școală ar putea, de asemenea, să performeze bine. Este ușor de văzut o problemă similară pentru sex, rasă și dizabilitate.

Polarizarea în inteligența artificială este mult mai largă decât doar polarizarea în date. Ea apare atunci când încercăm să folosim tehnologia într-un context în care o soluție tehnică este pur și simplu inadecvată, sau atunci când stabilim obiective greșite pentru inteligența artificială – adesea pentru că nu avem o diversitate de voci la masa de proiectare, sau atunci când renunțăm la agenția noastră în interacțiunile dintre oameni și inteligența artificială după ce inteligența artificială este implementată. Fiecare dintre aceste motive pentru polarizare merită o discuție care va dura probabil mai mult decât spațiul acestui articol permite. Și, astfel, pentru a rămâne concentrat, voi reveni la polarizarea în date.

Când explic polarizarea în date, îmi place să folosesc metafora reflexiei în oglindă. Datele sunt o imagine a lumii, o reflexie a acesteia. Când ne gândim la polarizarea în date, chestionăm această reflexie. O interpretare a “polarizării în date” este că reflexia este distorsionată – oglinda noastră subreprezintă sau suprareprezintă anumite părți ale lumii, sau distorsionează citirile. O altă interpretare a “polarizării în date” este că, chiar dacă reflexia ar fi 100% fidelă, ar fi totuși o reflexie a lumii așa cum este ea astăzi, și nu a lumii așa cum ar trebui sau ar putea fi. Important, nu este treaba datelor sau a unui algoritm să ne spună dacă este o reflexie perfectă a unei lumi defecte, sau o reflexie defectă a unei lumi perfecte, sau dacă aceste distorsionări se combină. Este treaba oamenilor – indivizilor, grupurilor, societății în ansamblu – să ajungă la un consens cu privire la faptul că suntem sau nu de acord cu lumea așa cum este ea, sau, dacă nu, cum ar trebui să o îmbunătățim.

Înapoi la analizele predictive: Cu cât disparitățile din date sunt mai puternice, ca o reflexie a trecutului, cu atât este mai probabil ca acestea să fie identificate de modelele predictive și să fie replicate – și chiar exacerbate – în viitor.

Dacă obiectivul nostru este de a îmbunătăți practicile noastre de angajare cu privire la echitate și diversitate, atunci pur și simplu nu putem externaliza această sarcină mașinilor. Trebuie să facem munca grea de a identifica cauzele reale ale polarizării în angajare și să negociem o soluție socio-juridică și tehnică cu input de la toți stakeholderii. Tehnologia are, într-adevăr, un rol de jucat în a ne ajuta să îmbunătățim starea actuală: poate să ne ajute să rămânem onești cu privire la obiectivele și rezultatele noastre. Dar să pretindem că debipolarizarea datelor sau a analizei predictive va rezolva problemele profunde de discriminare în angajare este, în cel mai bun caz, naiv.

Ați depus recent mărturie în fața Comitetului pentru Tehnologie al Consiliului Municipal din New York, o remarcă care a atras atenția a fost următoarea: “Constatăm că atât bugetul anunțătorului, cât și conținutul anunțului contribuie în mod semnificativ la înclinația livrării anunțurilor Facebook (META ). În mod critic, observăm o înclinație semnificativă a livrării de-a lungul liniilor de gen și rasă pentru “anunțuri reale” pentru oportunități de angajare și locuințe, în ciuda parametrilor de țintă neutre.” Care sunt unele soluții pentru a evita acest tip de polarizare?

Această remarcă pe care am făcut-o se bazează pe un articol de Ali și colab. intitulat “Discriminare prin optimizare: Cum livrarea de anunțuri a Facebook poate duce la rezultate polarizate.” Autorii constată că mecanismul de livrare a anunțurilor este responsabil pentru introducerea și amplificarea efectelor discriminatorii. Desigur, această constatare este foarte problematică, mai ales pe fondul opacității de la Facebook și alte platforme – Google (GOOGL ) și Twitter. Încărcătura este pe platforme pentru a demonstra în mod urgent și convingător că pot controla efectele discriminatorii, cum ar fi cele descoperite de Ali și colab. În lipsa unor astfel de demonstrații, nu pot găsi o justificare pentru utilizarea continuă a țintirii personalizate a anunțurilor în domenii precum locuințele, angajarea și alte domenii în care viața și mijloacele de subzistență ale oamenilor sunt în joc.

Cum pot oamenii de știință și dezvoltatorii de inteligență artificială să prevină cel mai bine alte polarizări neintenționate din a pătrunde în sistemele lor?

  Nu este în întregime responsabilitatea oamenilor de știință, sau a oricărui alt grup de stakeholderi, să se asigure că sistemele tehnice sunt aliniate cu valorile societății. Dar oamenii de știință sunt, într-adevăr, în fruntea acestei lupte. Ca om de știință în informatică, pot confirma atractivitatea de a crede că sistemele pe care le proiectăm sunt “obiective”, “optime” sau “corecte”. Cât de reușită este știința calculatoarelor și știința datelor – cât de influentă și de larg utilizată – este atât o binecuvântare, cât și o blestem. Noi, tehnicienii, nu mai avem luxul de a ne ascunde în spatele obiectivelor nerealizabile de obiectivitate și corectitudine. Încărcătura este pe noi să ne gândim cu atenție la locul nostru în lume și să ne educăm pe noi înșine despre procesele sociale și politice pe care le impactăm. Societatea nu-și poate permite să ne mișcăm repede și să spargem lucrurile, trebuie să ne încetinim și să reflectăm.

Este simbolic că filosofia a fost odată centrul tuturor discursurilor științifice și societale, apoi a venit matematica, apoi știința calculatoarelor. Acum, cu știința datelor pe scena principală, am făcut un cerc complet și avem nevoie de a ne reconecta cu rădăcinile noastre filosofice.

O altă recomandare pe care ați făcut-o este crearea unui public informat. Cum putem informa un public care poate nu este familiarizat cu inteligența artificială sau nu înțelege problemele asociate cu polarizarea inteligenței artificiale?

Există o nevoie urgentă de a educa oamenii non-tehnici despre tehnologie și de a educa oamenii tehnici despre implicațiile sociale ale acesteia. Realizarea ambelor obiective va necesita un angajament puternic și o investiție substanțială din partea guvernului nostru. Avem nevoie de a dezvolta materiale și metodologii educaționale pentru toate aceste grupuri și de a găsi modalități de a încuraja participarea. Și nu putem lăsa această muncă pe seama entităților comerciale. Uniunea Europeană conduce calea, cu mai multe guverne care oferă sprijin pentru educația de bază în inteligență artificială a cetățenilor săi și integrând programe de inteligență artificială în programele școlare. Noi, la R/AI, lucrăm la un curs public și accesibil, care are ca scop crearea unui public implicat care va ajuta la crearea inteligenței artificiale așa cum o dorim noi. Suntem foarte entuziasmați de această lucrare, vă rugăm să urmăriți informații suplimentare în lunile următoare.

Vă mulțumim pentru răspunsurile detaliate, cititorii care doresc să afle mai multe despre Centrul pentru Inteligență Artificială Responsabilă.