Coaliția pentru Etica Inteligenței Artificiale Condemnă Algoritmii de Prezicere a Criminalității

Marți, un număr de cercetători în domeniul inteligenței artificiale, eticieni, oameni de știință și sociologi au publicat un articol în care argumentează că cercetătorii academici ar trebui să înceteze să mai urmărească cercetarea care încearcă să prezică probabilitatea ca un individ să comită un act criminal, pe baza unor variabile precum statistici și scanări faciale.

Articolul a fost scris de Coaliția pentru Tehnologie Critică, care a argumentat că utilizarea unor astfel de algoritmi perpetuează un ciclu de prejudecăți împotriva minorităților. Multe studii despre eficacitatea algoritmilor de recunoaștere facială și a celor de poliție predictivă au constatat că acești algoritmi tind să judece mai aspru minoritățile, ceea ce autorii articolului consideră că se datorează inegalităților din sistemul de justiție. Sistemul de justiție produce date biasate, iar algoritmii antrenați pe aceste date propagă aceste biasuri, argumentează Coaliția pentru Tehnologie Critică. Coaliția susține că însăși noțiunea de “criminalitate” este adesea bazată pe rasă și, prin urmare, cercetarea efectuată asupra acestor tehnologii presupune neutralitatea algoritmilor, când, în realitate, nu există o astfel de neutralitate.

Așa cum raportează The Verge, un mare editor de lucrări academice, Springer, plănuia să publice un studiu intitulat “Un model de rețea neurală profundă pentru prezicerea criminalității utilizând procesarea de imagini”. Autorii studiului au susținut că au proiectat un algoritm de recunoaștere facială capabil să prezică șansa ca un individ să comită o infracțiune fără bias și cu o acuratețe de aproximativ 80%. Cu toate acestea, Coaliția pentru Tehnologie Critică a scris o scrisoare deschisă către Springer, cerând editorului să nu publice studiul sau alte studii care implică cercetări similare.

“Difuzarea acestei lucrări de către un editor important precum Springer ar reprezenta un pas semnificativ către legitimarea și aplicarea în lumea reală a unor cercetări repetat demontate și social dăunătoare”, argumentează coaliția.

Springer a declarat că nu va publica articolul, așa cum a raportat MIT Technology Review. Springer a declarat că articolul a fost depus pentru o conferință viitoare, dar, după procesul de evaluare de către peer-review, articolul a fost respins pentru publicare.

Coaliția pentru Tehnologie Critică susține că articolul de prezicere a criminalității este doar un exemplu al unei tendințe mai largi și dăunătoare, în care inginerii și cercetătorii în inteligență artificială încearcă să prezică comportamentul pe baza unor date sensibile și social construite. Coaliția susține, de asemenea, că multe dintre cercetări se bazează pe idei și teorii științifice dubioase, care nu sunt susținute de dovezi disponibile în biologie și psihologie. Ca exemplu, cercetători de la Princeton și Google (GOOGL ) au publicat un articol care avertizează că algoritmii care pretind a putea prezice criminalitatea pe baza caracteristicilor faciale se bazează pe pseudștiințe discreditate și periculoase, cum ar fi fiziognomia. Cercetătorii au avertizat împotriva utilizării învățării automate pentru a reînvia teorii demontate, care au fost utilizate pentru a susține sisteme rasiste.

Momentul recent al mișcării Black Lives Matter a determinat multe companii care utilizează algoritmi de recunoaștere facială să reevalueze utilizarea acestor sisteme. Cercetările au arătat că acești algoritmi sunt adesea biasați, pe baza unor date de antrenare ne-reprezentative și biasate.

Semnatarii scrisorii, pe lângă faptul că argumentează că cercetătorii în inteligență artificială ar trebui să renunțe la cercetarea algoritmilor de prezicere a criminalității, au recomandat, de asemenea, ca cercetătorii să reevalueze modul în care se măsoară succesul modelelor de inteligență artificială. Membrii coaliției recomandă ca impactul social al algoritmilor să fie o metrică a succesului, pe lângă metrici precum precizia, rechemarea și acuratețea. Așa cum scriu autorii articolului:

“Dacă inteligența artificială urmează să aducă ‘bunul social’ pe care îl promovează în propunerile de grant și în comunicatele de presă, cercetătorii din acest domeniu trebuie să reflecteze activ asupra structurilor de putere (și asupra opresiunilor care le însoțesc) care fac posibilă munca lor.”