Subvention de la NSF et d’Amazon pour soutenir la recherche à NYU afin d’aider les villes à réduire les préjugés dans la prise de décision assistée par l’IA

Une équipe de chercheurs de l’Université de New York développera de nouvelles méthodes et outils visant à minimiser les préjugés systémiques et à produire des impacts de politique publique plus équitables dans des domaines tels que les inspections de logements, la police et les tribunaux.

Dans le cadre d’une subvention de 1 million de dollars de la National Science Foundation (NSF) et d’Amazon (AMZN ), le professeur de sciences informatiques Daniel B. Neill dirigera le projet de recherche de trois ans axé sur l’utilisation croissante de l’intelligence artificielle (IA) par les organisations urbaines du secteur public – un travail qui inclura la création d’outils open source pour évaluer et corriger les préjugés.

« Les décisions humaines et les décisions algorithmiques ont un potentiel de préjugés systémiques qui peuvent conduire à de mauvais résultats en aval, tels que des disparités et des inégalités le long des lignes raciales, de genre et socio-économiques », a déclaré Neill, membre de la faculté du Center for Urban Science and Progress (CUSP) à la NYU Tandon School of Engineering, et professeur à la Wagner Graduate School of Public Service de NYU.

« Ce que nous voulons comprendre, c’est comment les algorithmes peuvent améliorer la prise de décision humaine en éliminant les préjugés implicites, et développer des méthodes et des outils pour aider ceux qui conçoivent et mettent en œuvre des interventions politiques dans les villes. »

En examinant à la fois les risques et les avantages de la prise de décision algorithmique, l’équipe de projet développera une nouvelle conceptualisation de l’équité en sept étapes distinctes : données, modèles, prédictions, recommandations, décisions, impacts et résultats. Ce « pipeline d’équité de bout en bout » tiendra compte de multiples sources de préjugés, modélisera la façon dont les préjugés se propagent dans le pipeline pour aboutir à des résultats inéquitables et évaluera la sensibilité aux préjugés non mesurés.

Deuxièmement, l’équipe construira un cadre méthodologique général pour identifier et corriger les préjugés à chaque étape du pipeline, une sorte d’analyse de préjugés, ainsi que des outils de soutien décisionnel algorithmique qui fournissent des recommandations à un décideur humain (tels que des « incitations » algorithmiques pour guider les décisions humaines vers l’équité).

Enfin, l’équipe de projet créera de nouvelles métriques pour mesurer la présence et l’ampleur des préjugés dans les domaines de la justice pénale et du logement, ainsi que les outils qui peuvent être utilisés pour : (a) réduire l’incarcération en fournissant équitablement des interventions de soutien aux populations impliquées dans la justice ; (b) donner la priorité aux inspections et réparations de logements ; (c) évaluer et améliorer l’équité des procédures judiciaires civiles et pénales ; et (d) analyser les impacts sanitaires disparates des expositions environnementales défavorables, y compris les logements de mauvaise qualité et les pratiques de police agressives et injustes.

« L’impact ultime de ce travail est de faire progresser la justice sociale pour ceux qui vivent dans les villes et qui dépendent des services municipaux ou sont impliqués dans le système de justice, en évaluant et en atténuant les préjugés dans les processus de prise de décision et en réduisant les disparités », a déclaré Neill, également directeur du Laboratoire d’apprentissage pour le bien de NYU et membre de la faculté de l’Institut des sciences mathématiques de Courant de NYU.

En plus de Neill, l’équipe de recherche comprend Ravi Shroff, professeur adjoint au CUSP et à la Steinhardt School of Culture, Education, and Human Development de NYU ; Constantine Kontokosta, professeur à l’Institut de gestion urbaine Marron de NYU et membre associé de la faculté de NYU Tandon ; et Edward McFowland III, professeur à la Carlson School of Management de l’Université du Minnesota.

La subvention a été accordée dans le cadre du programme de la NSF sur l’équité dans l’intelligence artificielle en collaboration avec Amazon (2040898).

ta, professeur à l’Institut de gestion urbaine Marron de NYU et membre associé de la faculté de NYU Tandon ; et Edward McFowland III, professeur à la Carlson School of Management de l’Université du Minnesota. La subvention a été accordée dans le cadre du programme de la NSF sur l’équité dans l’intelligence artificielle en collaboration avec Amazon (2040898).