Nora Petrova, Inginer de Învățare Automată și Consultant de Inteligență Artificială la Prolific – Seria de Interviuri

Nora Petrova este Inginer de Învățare Automată și Consultant de Inteligență Artificială la Prolific. Prolific a fost fondat în 2014 și numără deja printre clienții săi organizații precum Google (GOOGL ), Universitatea Stanford, Universitatea Oxford, King’s College London și Comisia Europeană, care utilizează rețeaua sa de participanți pentru a testa produse noi, a antrena sisteme de inteligență artificială în domenii precum urmărirea privirii și a determina dacă aplicațiile lor cu interfață umană funcționează așa cum au fost concepute.

Ne puteți împărtăși informații despre backgroundul dvs. la Prolific și cariera până în prezent? Ce v-a atras spre inteligența artificială?

Rolul meu la Prolific este împărțit între a fi consilier în ceea ce privește cazurile de utilizare și oportunitățile de inteligență artificială și a fi un inginer de învățare automată mai practic. Am început cariera mea în ingineria software și am trecut treptat la învățarea automată. Am petrecut cea mai mare parte a ultimilor 5 ani concentrându-mă pe cazurile de utilizare și problemele NLP.

Ceea ce m-a atras inițial spre inteligența artificială a fost capacitatea de a învăța din date și legătura cu modul în care oamenii învăță și cum sunt structurate creierelor noastre. Cred că învățarea automată și neuroștiința pot completa una alte și ne pot ajuta să înțelegem mai bine cum să construim sisteme de inteligență artificială capabile să navigheze în lume, să arate creativitate și să aducă valoare societății.

Care sunt unele dintre cele mai mari probleme de bias în inteligența artificială de care sunteți conștient?

Biasul este inerent în datele pe care le introducem în modelele de inteligență artificială și eliminarea lui complet este foarte dificilă. Cu toate acestea, este esențial să fim conștienți de prejudecățile care se află în date și să găsim modalități de a reduce prejudecățile dăunătoare înainte de a încredința modelelor sarcini importante în societate. Cele mai mari probleme cu care ne confruntăm sunt modelele care perpetuează stereotipuri dăunătoare, prejudecăți sistemice și nedreptăți în societate. Trebuie să fim atenți la modul în care aceste modele de inteligență artificială vor fi utilizate și la influența pe care o vor avea asupra utilizatorilor lor și să ne asigurăm că sunt sigure înainte de a le aproba pentru utilizări sensibile.

Unele domenii în care modelele de inteligență artificială au demonstrat prejudecăți dăunătoare includ discriminarea grupurilor subreprezentate în admiterea la școli și universități și stereotipurile de gen care afectează negativ recrutarea femeilor. Nu numai atât, dar algoritmul de justiție penală a fost găsit să fi etichetat apărătorii afro-americani ca „risc ridicat” la o rată de aproape două ori mai mare decât cea la care a etichetat apărătorii albi în Statele Unite, în timp ce tehnologia de recunoaștere facială suferă încă de rate de eroare ridicate pentru minorități din cauza lipsei de date de antrenare reprezentative.

Exemplele de mai sus acoperă o mică parte a prejudecăților demonstrate de modelele de inteligență artificială și putem prevedea probleme mai mari care vor apărea în viitor dacă nu ne concentrăm pe reducerea prejudecăților în prezent. Este important să ținem cont de faptul că modelele de inteligență artificială învață din date care conțin aceste prejudecăți din cauza deciziilor umane influențate de prejudecăți necontrolate și inconștiente. În multe cazuri, a recurge la un decident uman nu poate elimina prejudecata. Reducerea efectivă a prejudecăților va implica înțelegerea modului în care acestea sunt prezente în datele pe care le utilizăm pentru a antrena modelele, izolarea factorilor care contribuie la predicții prejudecate și decizia colectivă a ceea ce dorim să ne bazăm pe decizii importante. Dezvoltarea unui set de standarde, astfel încât să putem evalua modelele pentru siguranță înainte de a le utiliza pentru cazuri de utilizare sensibile, va fi un pas important înainte.

Hallucinațiile inteligenței artificiale sunt o problemă uriașă pentru orice tip de inteligență artificială generativă. Ne puteți discuta cum antrenamentul uman în buclă (HITL) poate reduce aceste probleme?

Hallucinațiile în modelele de inteligență artificială sunt problematice în special în cazurile de utilizare a inteligenței artificiale generative, dar este important să notăm că nu sunt o problemă în sine. În anumite utilizări creative ale inteligenței artificiale generative, hallucinațiile sunt binevenite și contribuie la o reacție mai creativă și mai interesantă.

Pot fi problematice în cazurile de utilizare în care se pune un accent ridicat pe informații factuale. De exemplu, în domeniul sănătății, unde luarea deciziilor robuste este cheie, oferirea profesioniștilor din domeniul sănătății cu informații factuale fiabile este imperativă.

HITL se referă la sistemele care permit oamenilor să ofere feedback direct unui model pentru predicții care se află sub un anumit nivel de încredere. În contextul hallucinațiilor, HITL poate fi utilizat pentru a ajuta modelele să învețe nivelul de certitudine pe care ar trebui să îl aibă pentru diferite cazuri de utilizare înainte de a oferi o reacție. Aceste praguri vor varia în funcție de cazul de utilizare și învățarea modelelor cu privire la diferențele de rigurozitate necesare pentru a răspunde la întrebări din diferite cazuri de utilizare va fi un pas cheie pentru reducerea hallucinațiilor problematice. De exemplu, într-un caz de utilizare juridică, oamenii pot demonstra modelelor de inteligență artificială că verificarea faptelor este un pas necesar atunci când se răspunde la întrebări bazate pe documente juridice complexe cu multiple clauze și condiții.

Cum pot lucrătorii de inteligență artificială, cum ar fi cei care fac anotări de date, să ajute la reducerea potențialelor probleme de bias?

Lucrătorii de inteligență artificială pot ajuta în primul rând la identificarea prejudecăților prezente în date. Odată ce prejudecata a fost identificată, devine mai ușor să se găsească strategii de reducere a prejudecăților. Anotatorii de date pot ajuta, de asemenea, la găsirea de modalități de reducere a prejudecăților. De exemplu, pentru sarcinile de NLP, pot ajuta prin oferirea de alternative pentru fragmente problematice de text astfel încât prejudecata prezentă în limbaj să fie redusă. În plus, diversitatea în rândul lucrătorilor de inteligență artificială poate ajuta la reducerea problemelor cu prejudecățile în etichetarea datelor.

Cum vă asigurați că lucrătorii de inteligență artificială nu introduc involuntar prejudecățile umane în sistemul de inteligență artificială?

Este cu siguranță o problemă complexă care necesită o considerare atentă. Eliminarea prejudecăților umane este aproape imposibilă și lucrătorii de inteligență artificială pot introduce involuntar prejudecățile în modelele de inteligență artificială, astfel încât este cheie să se dezvolte procese care să îndrume lucrătorii către cele mai bune practici.

Unele pași care pot fi luați pentru a reduce prejudecățile umane la minimum includ:

• Antrenamentul cuprinzător al lucrătorilor de inteligență artificială cu privire la prejudecățile inconștiente și oferirea de instrumente pentru a identifica și gestiona prejudecățile lor în timpul etichetării.
• Lista de verificare care îi amintește lucrătorilor de inteligență artificială să verifice răspunsurile lor înainte de a le trimite.
• Realizarea unei evaluări care verifică nivelul de înțelegere pe care îl au lucrătorii de inteligență artificială, unde li se prezintă exemple de răspunsuri din diferite tipuri de prejudecăți și li se cere să aleagă răspunsul cel mai puțin prejudecat.

Reglementatorii de pe întreg globul intenționează să reglementeze ieșirile de inteligență artificială, ce nu înțeleg reglementatorii și ce au corect?

Este important să începem prin a spune că aceasta este o problemă foarte dificilă la care nimeni nu a găsit încă soluția. Societatea și inteligența artificială se vor evolua și vor influența una alte în moduri foarte dificil de anticipat. O parte a unei strategii eficiente pentru găsirea unor practici de reglementare robuste și utile este să acordăm atenție ceea ce se întâmplă în inteligența artificială, cum oamenii răspund la ea și ce efecte are asupra diferitelor industrii.

Cred că o piedică semnificativă în calea reglementării eficiente a inteligenței artificiale este lipsa de înțelegere a ceea ce pot și nu pot face modelele de inteligență artificială și cum funcționează. Acest lucru, la rândul său, face mai dificilă anticiparea consecințelor pe care aceste modele le vor avea asupra diferitelor sectoare și secțiuni ale societății. O altă zonă care lipsește este leadershipul în gândirea cu privire la modul de aliniere a modelelor de inteligență artificială cu valorile umane și ce înseamnă siguranța în termeni mai concreți.

Reglementatorii au căutat colaborarea cu experți în domeniul inteligenței artificiale, au fost atenți să nu sufocă inovația cu reguli prea stricte în jurul inteligenței artificiale și au început să ia în considerare consecințele inteligenței artificiale asupra înlocuirii locurilor de muncă, care sunt toate foarte importante domenii de focalizare. Este important să mergem cu atenție pe măsură ce gândurile noastre despre reglementarea inteligenței artificiale se clarifică în timp și să implicăm cât mai multe persoane pentru a aborda această problemă într-un mod democratic.

Cum pot soluțiile Prolific să ajute întreprinderile să reducă prejudecățile de inteligență artificială și alte probleme pe care le-am discutat?

Colectarea de date pentru proiectele de inteligență artificială nu a fost întotdeauna un proces bine gândit sau deliberativ. Am văzut anterior metode de extragere, offshoring și alte metode care au fost răspândite. Cu toate acestea, modul în care antrenăm inteligența artificială este crucial și modelele următoare vor trebui să fie construite pe date de calitate, intenționat colectate, de la oameni reali și de la cei cu care avem contact direct. Acesta este locul în care Prolific face o impresie.

Alte domenii, cum ar fi sondajele, cercetarea de piață sau cercetarea științifică, au învățat acest lucru de mult timp. Publicul pe care îl eșantionați are un impact semnificativ asupra rezultatelor pe care le obțineți. Inteligența artificială începe să prindă din urmă, și acum suntem la o răscruce.

Acum este momentul să începem să ne îngrijorăm de utilizarea unor mostre mai bune și să lucrăm cu grupuri mai reprezentative pentru antrenarea și rafinarea inteligenței artificiale. Ambele sunt critice pentru dezvoltarea de modele sigure, lipsite de prejudecăți și aliniate.

Prolific poate ajuta la furnizarea instrumentelor potrivite pentru întreprinderi pentru a desfășura experimente de inteligență artificială într-un mod sigur și pentru a colecta date de la participanți în care prejudecățile sunt verificate și reduse pe parcurs. Putem ajuta la furnizarea de îndrumări cu privire la cele mai bune practici în ceea ce privește colectarea de date, selecția, compensarea și tratarea corectă a participanților.

Care sunt punctele dvs. de vedere cu privire la transparența inteligenței artificiale, ar trebui utilizatorii să poată vedea ce date a fost antrenat un algoritm de inteligență artificială?

Cred că există avantaje și dezavantaje ale transparenței și un echilibru bun nu a fost încă găsit. Companiile rețin informații cu privire la datele pe care le-au utilizat pentru a antrena modelele de inteligență artificială din cauza fricii de litigii. Altele au lucrat pentru a face modelele de inteligență artificială disponibile public și au lansat toate informațiile cu privire la datele pe care le-au utilizat. Transparența totală oferă oportunități pentru exploatarea vulnerabilităților acestor modele. Secreția totală nu ajută la construirea încrederii și la implicarea societății în construirea de sisteme de inteligență artificială sigure. Un bun punct de echilibru ar oferi suficientă transparență pentru a ne face să avem încredere că modelele de inteligență artificială au fost antrenate pe date de calitate, relevante, la care am consimțit. Trebuie să acordăm atenție modului în care inteligența artificială afectează diferite industrii și să deschidem dialoguri cu părțile interesate și să ne asigurăm că dezvoltăm practici care funcționează pentru toată lumea.

Cred, de asemenea, că este important să luăm în considerare ce ar fi satisfăcător pentru utilizatori în ceea ce privește explicabilitatea. Dacă doresc să înțeleagă de ce un model produce o anumită reacție, oferirea lor a datelor brute pe care modelul a fost antrenat nu va ajuta probabil la răspunsul la întrebarea lor. Prin urmare, construirea unor instrumente bune de explicabilitate și interpretare este importantă.

Cercetarea alinierii inteligenței artificiale vizează direcționarea sistemelor de inteligență artificială către obiectivele, preferințele sau principiile etice ale oamenilor. Ne puteți discuta cum sunt antrenați lucrătorii de inteligență artificială și cum este utilizat acest lucru pentru a se asigura că inteligența artificială este aliniată cât mai bine posibil?

Acesta este un domeniu activ de cercetare și nu există încă un consens cu privire la strategiile pe care ar trebui să le utilizăm pentru a alinia modelele de inteligență artificială cu valorile umane sau chiar care set de valori ar trebui să urmărim să le aliniem.

Lucrătorii de inteligență artificială sunt, de obicei, rugați să reprezinte autentic preferințele lor și să răspundă la întrebări cu privire la preferințele lor în mod sincer, respectând în același timp principiile de siguranță, lipsă de prejudecăți, ne-dăunare și utilitate.

În ceea ce privește alinierea către obiective, principii etice sau valori, există multiple abordări care par promițătoare. Un exemplu notabil este lucrarea Institutului de Aliniere a Înțelesului cu privire la Reglarea Democratică. Există un post excelent care introduce această idee aici.

Mulțumim pentru acest interviu minunat și pentru împărtășirea punctelor dvs. de vedere cu privire la prejudecățile de inteligență artificială, cititorilor care doresc să afle mai multe despre Prolific.