Cercetătorii contestă o presupunere de lungă durată a învățării automate

Cercetătorii de la Universitatea Carnegie Mellon contestă o presupunere de lungă durată a învățării automate, și anume că există un compromis între acuratețe și echitate în algoritmii utilizați pentru a lua decizii de politică publică.

Utilizarea învățării automate crește în multe domenii, cum ar fi justiția penală, angajarea, asistența medicală și intervențiile sociale. Odată cu această creștere, apar și preocupări crescute cu privire la faptul că aceste noi aplicații pot înrăutăți inegalitățile existente. Ele pot fi deosebit de dăunătoare pentru minoritățile rasiale sau persoanele cu dezavantaje economice.

Reglarea unui sistem

Există ajustări constante ale datelor, etichetelor, antrenamentului modelului, sistemelor de scorare și altor aspecte ale sistemului pentru a preveni prejudecățile. Cu toate acestea, presupunerea teoretică a fost că sistemul devine mai puțin precis atunci când există mai multe dintre aceste ajustări.

Echipa de la CMU a încercat să conteste această teorie într-un nou studiu publicat în Nature Machine Intelligence.

Rayid Ghani este profesor în Departamentul de Știință a Calculatoarelor și al Învățării Automate (MLD) și al Colegiului Heinz de Sisteme Informaționale și Politici Publice. El a fost alături de Kit Rodolfa, cercetător științific în MLD; și Hemank Lamba, cercetător postdoctoral în SCS.

Testarea aplicațiilor din lumea reală

Cercetătorii au testat această presupunere în aplicații din lumea reală și au descoperit că compromisul este neglijabil în multe domenii de politică.

“Într-adevăr, puteți obține ambele. Nu trebuie să sacrifici acuratețea pentru a construi sisteme care sunt corecte și echitabile”, a spus Ghani. “Dar acest lucru necesită să proiectați intenționat sisteme care să fie corecte și echitabile. Sistemele standard nu vor funcționa.”

Echipa s-a concentrat pe situațiile în care resursele solicitate sunt limitate. Alocarea acestor resurse este ajutată de învățarea automată.

Ei s-au concentrat pe sistemele din patru domenii:

• prioritizarea asistenței medicale limitate pe baza riscului unei persoane de a reveni la închisoare pentru a reduce reinserția;
• previziunea încălcărilor grave de securitate pentru a depune mai bine inspectorii de locuințe limitați ai orașului;
• modelarea riscului de a nu absolve școala liceală la timp pentru a identifica persoanele care au nevoie de sprijin suplimentar;
• și ajutarea profesorilor să atingă obiectivele de strângere de fonduri pentru nevoile clasei.

Cercetătorii au descoperit că modelele optimizate pentru acuratețe pot prezice în mod eficient rezultatele de interes. Cu toate acestea, ele au demonstrat și disparități considerabile în recomandările pentru intervenții.

Rezultatele importante au apărut atunci când cercetătorii au aplicat ajustări la ieșirile modelelor care vizau îmbunătățirea echității. Ei au descoperit că nu a existat nicio pierdere de acuratețe atunci când disparitățile bazate pe rasă, vârstă sau venit au fost eliminate.

“Vrem ca comunitățile de inteligență artificială, știință a calculatoarelor și învățare automată să înceteze să accepte această presupunere a unui compromis între acuratețe și echitate și să înceapă să proiecteze intenționat sisteme care maximizează ambele”, a spus Rodolfa. “Sperăm că factorii de decizie politică vor îmbrățișa învățarea automată ca un instrument în procesul de luare a deciziilor pentru a ajuta la realizarea unor rezultate echitabile.”