NSF & Amazon Grant Supports Research at NYU to Help Cities Reduce Biases in AI Supported decision-making

O echipă de cercetători de la Universitatea din New York va dezvolta metode și instrumente noi menite să minimizeze prejudecățile sistemice și să producă impacturi de politică publică mai echitabile în domenii precum inspecțiile de locuințe, poliția și instanțele de judecată.

Sub un grant de 1 milion de dolari de la National Science Foundation (NSF) și Amazon, profesorul de științe computaționale Daniel B. Neill va conduce proiectul de cercetare de trei ani, axat pe utilizarea în creștere a Inteligenței Artificiale (AI) de către organizațiile publice din sectorul urban, lucrare care va include crearea de instrumente open-source pentru evaluarea și corectarea prejudecăților.

„Deciziile umane și deciziile algoritmice au potențialul de a avea prejudecăți sistemice care pot duce la rezultate slabe, precum disparitățile și inegalitatea pe linii rasiale, de gen și socioeconomice”, a declarat Neill, membru al facultății de la Center for Urban Science and Progress (CUSP) de la NYU Tandon School of Engineering, și profesor la Școala de Servicii Publice Wagner a NYU.

„Ceea ce dorim să înțelegem este cum algoritmii pot îmbunătăți deciziile umane prin eliminarea prejudecăților implicite și să dezvoltăm metode și instrumente pentru a ajuta la proiectarea și implementarea intervențiilor de politică în orașe.”

În examinarea riscurilor și beneficiilor deciziilor algoritmice, echipa de proiect va dezvolta o nouă conceptualizare a echității, constând în șapte etape distincte: date, modele, predicții, recomandări, decizii, impacturi și rezultate. Acest „pipelină de echitate de la capăt la capăt” va ține cont de multiple surse de prejudecăți, va modela modul în care prejudecățile se propagă prin pipelină pentru a rezulta în rezultate inegale și va evalua sensibilitatea la prejudecățile nemăsurate.

În al doilea rând, echipa va construi un cadru metodologic general pentru identificarea și corectarea prejudecăților la fiecare etapă a pipelină, un fel de scanare a prejudecăților, împreună cu instrumente de sprijin decizional algoritmic care oferă recomandări unui decident uman (cum ar fi „împingerea” algoritmică pentru a ghida deciziile umane către echitate).

În final, echipa de proiect va crea noi metrice pentru măsurarea prezenței și a extinderii prejudecăților în domeniul justiției penale și al locuințelor, precum și instrumentele care pot fi utilizate pentru: (a) reducerea incarceraților prin furnizarea de intervenții de sprijin echitabile pentru populațiile implicate în justiție; (b) prioritizarea inspecțiilor și reparațiilor de locuințe; (c) evaluarea și îmbunătățirea echității procedurilor din instanțele civile și penale; și (d) analiza impacturilor sanitare disparate ale expunerilor adverse la mediu, inclusiv locuințe de slabă calitate și practici de poliție agresive și incorecte.

„Impactul final al acestui lucru este de a promova justiția socială pentru cei care trăiesc în orașe și care se bazează pe serviciile orașului sau sunt implicați în sistemul de justiție, prin evaluarea și mitigarea prejudecăților în procesele de luare a deciziilor și reducerea disparităților”, a declarat Neill, care este, de asemenea, directorul Laboratorului de învățare pentru binele comun al NYU și membru al facultății de la Institutul de științe matematice Courant al NYU.

Pe lângă Neill, echipa de cercetare include Ravi Shroff, asistent profesor la CUSP și Școala Steinhardt de Cultură, Educație și Dezvoltare Umană a NYU; Constantine Kontokosta, profesor la Institutul Marron de Management Urban al NYU și facultate asociată la NYU Tandon; și Edward McFowland III, profesor la Școala de Management Carlson a Universității din Minnesota.

Grantul a fost acordat în cadrul Programului NSF pentru echitate în Inteligența Artificială în colaborare cu Amazon (2040898).