Grantul NSF și Amazon sprijină cercetarea la NYU pentru a ajuta orașele să reducă prejudecățile în procesele de luare a deciziilor bazate pe IA

O echipă de cercetători de la Universitatea New York va dezvolta metode și instrumente noi pentru a minimiza prejudecățile sistemice și a produce impacturi de politică publică mai echitabile în domenii precum inspecțiile de locuințe, poliția și instanțele de judecată.

Sub un grant de 1 milion de dolari de la Fundația Națională pentru Știință (NSF) și Amazon (AMZN ), profesorul de științe computaționale Daniel B. Neill va conduce proiectul de cercetare de trei ani, axat pe utilizarea în creștere a inteligenței artificiale (IA) de către organizațiile publice din sectorul urban, inclusiv crearea de instrumente open-source pentru evaluarea și corectarea prejudecăților.

“Deciziile umane și deciziile algoritmice au potențialul de a avea prejudecăți sistemice care pot duce la rezultate slabe, precum disparitățile și inegalitățile pe linii rasiale, de gen și socio-economice”, a spus Neill, membru al facultății de la Centrul pentru Știința și Progresul Urban (CUSP) de la Școala de Inginerie NYU Tandon și profesor la Școala de Servicii Publice Wagner a Universității NYU.

“Ce vrem să înțelegem este cum algoritmii pot îmbunătăți deciziile umane prin eliminarea prejudecăților implicite și să dezvoltăm metode și instrumente pentru a ajuta la proiectarea și implementarea intervențiilor de politică în orașe.”

În analiza atât a riscurilor, cât și a beneficiilor deciziilor algoritmice, echipa de proiect va dezvolta o nouă conceptualizare a echității, constând în șapte etape distincte: date, modele, predicții, recomandări, decizii, impacturi și rezultate. Acest “pipeline de echitate de la capăt la capăt” va ține cont de multiple surse de prejudecăți, va modela modul în care prejudecățile se propagă prin pipeline pentru a rezulta în impacturi inegale și va evalua sensibilitatea la prejudecățile nemăsurate.

În al doilea rând, echipa va construi un cadru metodologic general pentru identificarea și corectarea prejudecăților la fiecare etapă a pipeline-ului, un fel de “scanare a prejudecăților”, împreună cu instrumente de sprijin decizional algoritmic care oferă recomandări unui decident uman (precum “împingerea” algoritmică pentru a ghida deciziile umane spre echitate).

În final, echipa de proiect va crea noi metrice pentru măsurarea prezenței și a extinderii prejudecăților în domeniile justiției penale și a locuințelor, precum și instrumentele care pot fi utilizate pentru: (a) reducerea incarceraților prin furnizarea de intervenții de sprijin echitabile pentru populațiile implicate în justiție; (b) prioritizarea inspecțiilor și reparațiilor de locuințe; (c) evaluarea și îmbunătățirea echității procedurilor judiciare civile și penale; și (d) analiza impacturilor sănătății disparate ale expunerilor adverse la mediu, inclusiv locuințe de calitate slabă și practici de poliție agresive și inechitabile.

“Impactul final al acestui proiect este de a promova justiția socială pentru cei care trăiesc în orașe și care se bazează pe serviciile orașului sau sunt implicați în sistemul de justiție, prin evaluarea și mitigarea prejudecăților în procesele de luare a deciziilor și reducerea disparităților”, a spus Neill, care este, de asemenea, directorul Laboratorului de Învățare pentru Binele Comun al Universității NYU și membru al facultății de la Institutul de Științe Matematice Courant.

Pe lângă Neill, echipa de cercetare include Ravi Shroff, asistent profesor la CUSP și Școala Steinhardt de Cultură, Educație și Dezvoltare Umană a Universității NYU; Constantine Kontokosta, profesor la Institutul Marron de Management Urban al Universității NYU și facultate asociată la Școala de Inginerie NYU Tandon; și Edward McFowland III, profesor la Școala de Management Carlson a Universității Minnesota.

Grantul a fost acordat în cadrul Programului NSF pentru Echitate în Inteligența Artificială în Colaborare cu Amazon (2040898).