NSF och Amazon-stöd för forskning vid NYU för att hjälpa städer minska fördomar i AI-stödda beslutsprocesser

Ett team av forskare vid New York University kommer att utveckla nya metoder och verktyg i syfte att minimera systematiska fördomar och producera mer rättvisa offentliga politiska påverkansområden, såsom stadsbostadsinspektioner, polisverksamhet och domstolsförfaranden.

Under ett bidrag på 1 miljon dollar från National Science Foundation (NSF) och Amazon (AMZN ), kommer professor Daniel B. Neill att leda det treåriga forskningsprojektet som fokuserar på den växande användningen av artificiell intelligens (AI) av urbana, offentliga sektorns organisationer – ett arbete som kommer att inkludera skapandet av öppen källkod för verktyg för att bedöma och korrigera fördomar.

“Mänskliga beslut och algoritmiska beslut har potential för systematiska fördomar som kan leda till dåliga nedströmsresultat, såsom ojämlikheter och ojämlikhet över ras-, kön- och socioekonomiska linjer”, sa Neill, en medlem av fakulteten vid Center for Urban Science and Progress (CUSP) vid NYU Tandon School of Engineering, och professor vid NYU:s Wagner Graduate School of Public Service.

“Vad vi vill förstå är hur algoritmer kan förbättra mänskligt beslutsfattande genom att eliminera implicita fördomar, och att utveckla metoder och verktyg för att hjälpa dem som designar och genomför politiska ingripanden i städer.”

Vid undersökning av både riskerna och fördelarna med algoritmiskt beslutsfattande, kommer projektteamet att utveckla en ny, pipelinerad konceptualisering av rättvisa som består av sju distinkta stadier: data, modeller, förutsägelser, rekommendationer, beslut, påverkan och resultat. Denna “rättvisepipeline” kommer att ta hänsyn till flera källor till fördomar, modellera hur fördomar sprids genom pipelinen för att resultera i ojämlika resultat, och bedöma känslighet för ouppmätta fördomar.

Sedan kommer teamet att bygga en allmän metodologisk ram för att identifiera och korrigera fördomar vid varje stadium av pipelinen, en sorts fördomsskanning, tillsammans med algoritmiskt beslutsstöd som tillhandahåller rekommendationer till en mänsklig beslutsfattare (såsom algoritmiska “knuffar” för att vägleda mänskliga beslut mot rättvisa).

Slutligen kommer projektteamet att skapa nya mått för att mäta förekomsten och omfattningen av fördomar inom straffrätt och bostäder, och verktyg som kan användas för att: (a) minska fängslande genom att tillhandahålla stödinsatser till rättssystemets deltagare; (b) prioritera bostadsinspektioner och reparationer; (c) bedöma och förbättra rättvisan i civila och straffrättsliga förfaranden; och (d) analysera de ojämlika hälsoeffekterna av ogynnsamma miljöexponeringar, inklusive dålig bostad och aggressiv, orättvis polispraxis.

“Det slutliga syftet med detta arbete är att främja social rättvisa för de som bor i städer och som är beroende av stadstjänster eller är involverade i rättssystemet, genom att bedöma och mildra fördomar i beslutsprocesser och minska ojämlikheter”, sa Neill, som också är chef för NYU:s Learning for Good Laboratory och en fakultetsmedlem vid NYU:s Courant Institute of Mathematical Sciences.

Förutom Neill, består forskningsteamet av Ravi Shroff, en biträdande professor vid CUSP och NYU:s Steinhardt School of Culture, Education, and Human Development; Constantine Kontokosta, en professor vid NYU:s Marron Institute of Urban Management och associerad fakultetsmedlem vid NYU Tandon; och Edward McFowland III, en professor vid University of Minnesotas Carlson School of Management.

Bidraget beviljades inom ramen för NSF:s program för rättvisa i artificiell intelligens i samarbete med Amazon (2040898).

ta, en professor vid NYU:s Marron Institute of Urban Management och associerad fakultetsmedlem vid NYU Tandon; och Edward McFowland III, en professor vid University of Minnesotas Carlson School of Management. Bidraget beviljades inom ramen för NSF:s program för rättvisa i artificiell intelligens i samarbete med Amazon (2040898).