NSF og Amazon-støtte til forskning på NYU for at hjælpe byer med at reducere fordomme i AI-understøttet beslutningstagning

Et hold af forskere ved New York University vil udvikle nye metoder og værktøjer med det formål at minimere systemiske fordomme og producere mere retfærdige offentlige politikresultater på områder som byens boliginspektioner, politi og domstole.

Under en $1 million grant fra National Science Foundation (NSF) og Amazon (AMZN ), vil professor Daniel B. Neill lede det tre-årige forskningsprojekt, der er centreret om den voksende brug af kunstig intelligens (AI) af urbane, offentlige sektorer – arbejde, der vil inkludere oprettelsen af open-source-værktøjer til vurdering og korrektion af fordomme.

“Menneskelige beslutninger og algorithmiske beslutninger har potentiale for systematiske fordomme, der kan føre til dårlige resultater som ulighed og uretfærdighed på tværs af raciale, køns- og socioøkonomiske linjer,” sagde Neill, der er medlem af fakulttet ved Center for Urban Science and Progress (CUSP) ved NYU Tandon School of Engineering, og professor ved NYU’s Wagner Graduate School of Public Service.

“Det, vi ønsker at forstå, er, hvordan algoritmer kan forbedre menneskelige beslutninger ved at eliminere implicitte fordomme, og udvikle metoder og værktøjer til at hjælpe med at designe og implementere politiske interventioner i byer.”

Ved at undersøge både risici og fordele ved algorithmisk beslutningstagning, vil projektteamet udvikle en ny, rørledningslignende konceptualisering af retfærdighed, der består af syv distinkte faser: data, modeller, forudsigelser, anbefalinger, beslutninger, resultater og udfald. Denne “end-to-end retfærdighedsrørledning” vil tage hensyn til multiple kilder til fordomme, modelere, hvordan fordomme spreder sig gennem rørledningen og resulterer i uretfærdige resultater, og vurderer følsomheden over for umålte fordomme.

Anden, vil teamet opbygge en generel metodisk ramme for at identificere og korrigere fordomme på hvert trin af rørledningen, en slags fordomsskanning, sammen med algorithmiske beslutningsstøtteværktøjer, der giver anbefalinger til en menneskelig beslutningstager (såsom algorithmiske “nudges” til at guide menneskelige beslutninger mod retfærdighed).

Til sidst vil projektteamet oprette nye målinger for at måle tilstedeværelsen og omfanget af fordomme i straffesags- og boligdomæner, og værktøjerne, der kan bruges til: (a) at reducere fængsling ved at give retfærdige interventioner til retssags involverede befolkninger; (b) at prioritere boliginspektioner og reparationer; (c) at vurderer og forbedrer retfærdigheden af civile og straffesagslige retsforhandlinger; og (d) at analysere de forskellige sundhedsindvirkninger af dårlige miljøpåvirkninger, herunder dårlig kvalitet boliger og aggressiv, uretfærdig politipraksis.

“Det endelige formål med dette arbejde er at fremme social retfærdighed for dem, der bor i byer og afhænger af byens tjenester eller er involveret i retssystemet, ved at vurderer og mindske fordomme i beslutningsprocesser og reducere uligheder,” sagde Neill, der også er direktør for NYU’s Learning for Good Laboratory og en fakultetsmedlem ved NYU’s Courant Institute of Mathematical Sciences.

Ud over Neill, består forskningsteamet af Ravi Shroff, en assistantprofessor ved CUSP og NYU’s Steinhardt School of Culture, Education, and Human Development; Constantine Kontokosta, en professor ved NYU’s Marron Institute of Urban Management og associeret fakultet ved NYU Tandon; og Edward McFowland III, en professor ved University of Minnesota’s Carlson School of Management.

Støtten blev givet under NSF Program on Fairness in Artificial Intelligence in Collaboration with Amazon (2040898).

ta, en professor ved NYU’s Marron Institute of Urban Management og associeret fakultet ved NYU Tandon; og Edward McFowland III, en professor ved University of Minnesota’s Carlson School of Management. Støtten blev givet under NSF Program on Fairness in Artificial Intelligence in Collaboration with Amazon (2040898).