Subvention de la NSF et d’Amazon pour soutenir la recherche à NYU afin d’aider les villes à réduire les préjugés dans la prise de décision assistée par l’IA

Une équipe de chercheurs de l’Université de New York développera de nouvelles méthodes et outils visant à minimiser les préjugés systémiques et à produire des impacts de politique publique plus équitables dans des domaines tels que les inspections de logements, la police et les tribunaux.

Dans le cadre d’une subvention de 1 million de dollars de la National Science Foundation (NSF) et d’Amazon, le professeur de sciences informatiques Daniel B. Neill dirigera le projet de recherche de trois ans axé sur l’utilisation croissante de l’intelligence artificielle (IA) par les organisations du secteur public urbain – un travail qui inclura la création d’outils open source pour évaluer et corriger les préjugés.

« Les décisions humaines et les décisions algorithmiques ont un potentiel de préjugés systémiques qui peuvent entraîner de mauvais résultats en aval, tels que des disparités et des inégalités le long des lignes raciales, de genre et socio-économiques », a déclaré Neill, membre de la faculté du Center for Urban Science and Progress (CUSP) à la NYU Tandon School of Engineering, et professeur à l’école de service public Wagner Graduate School of Public Service de NYU.

« Ce que nous voulons comprendre, c’est comment les algorithmes peuvent améliorer la prise de décision humaine en éliminant les préjugés implicites, et développer des méthodes et des outils pour aider ceux qui conçoivent et mettent en œuvre des interventions politiques dans les villes. »

En examinant à la fois les risques et les avantages de la prise de décision algorithmique, l’équipe de projet développera une nouvelle conceptualisation pipelinée de l’équité composée de sept étapes distinctes : données, modèles, prédictions, recommandations, décisions, impacts et résultats. Ce « pipeline d’équité de bout en bout » tiendra compte de multiples sources de préjugés, modélisera la façon dont les préjugés se propagent dans le pipeline pour aboutir à des résultats inéquitables et évaluera la sensibilité aux préjugés non mesurés.

Deuxièmement, l’équipe créera un cadre méthodologique général pour identifier et corriger les préjugés à chaque étape du pipeline, une sorte de balayage de préjugés, ainsi que des outils de soutien décisionnel algorithmique qui fournissent des recommandations à un décideur humain (comme des « incitations » algorithmiques pour guider les décisions humaines vers l’équité).

Enfin, l’équipe de projet créera de nouvelles métriques pour mesurer la présence et l’ampleur des préjugés dans les domaines de la justice pénale et du logement, ainsi que les outils qui peuvent être utilisés pour : (a) réduire l’incarcération en fournissant de manière équitable des interventions de soutien aux populations impliquées dans la justice ; (b) donner la priorité aux inspections et réparations de logements ; (c) évaluer et améliorer l’équité des procédures judiciaires civiles et pénales ; et (d) analyser les impacts sanitaires disparates des expositions environnementales adverses, y compris les logements de mauvaise qualité et les pratiques de police agressives et injustes.

« L’impact ultime de ce travail est de faire progresser la justice sociale pour ceux qui vivent dans les villes et qui dépendent des services de la ville ou sont impliqués dans le système de justice, en évaluant et en atténuant les préjugés dans les processus de prise de décision et en réduisant les disparités », a déclaré Neill, également directeur du Laboratoire d’apprentissage pour le bien de NYU et membre de la faculté de l’Institut de sciences mathématiques Courant de NYU.

En plus de Neill, l’équipe de recherche comprend Ravi Shroff, professeur adjoint au CUSP et à l’école Steinhardt de la culture, de l’éducation et du développement humain de NYU ; Constantine Kontokosta, professeur à l’Institut Marron de gestion urbaine de NYU et membre associé de la faculté de l’école d’ingénierie NYU Tandon ; et Edward McFowland III, professeur à l’école de gestion Carlson de l’Université du Minnesota.

La subvention a été accordée dans le cadre du programme de la NSF sur l’équité dans l’intelligence artificielle en collaboration avec Amazon (2040898).