Subvención de la NSF y Amazon para apoyar la investigación en la NYU para ayudar a las ciudades a reducir los sesgos en la toma de decisiones con apoyo de IA

Un equipo de investigadores de la Universidad de Nueva York desarrollará nuevos métodos y herramientas destinados a minimizar los sesgos sistémicos y producir impactos de política pública más equitativos en áreas como las inspecciones de viviendas, la policía y los tribunales.

Bajo una subvención de $1 millón de la Fundación Nacional de Ciencias (NSF) y Amazon (AMZN ), el profesor de Ciencias de la Computación Daniel B. Neill liderará el proyecto de investigación de tres años centrado en el creciente uso de la Inteligencia Artificial (IA) por parte de organizaciones urbanas y del sector público—un trabajo que incluirá la creación de herramientas de código abierto para evaluar y corregir sesgos.

“Las decisiones humanas y las decisiones algorítmicas tienen el potencial de sesgos sistemáticos que pueden llevar a resultados deficientes, como disparidades e inequidad en las líneas raciales, de género y socioeconómicas”, dijo Neill, miembro de la facultad del Centro de Ciencia Urbana y Progreso (CUSP) en la Escuela de Ingeniería NYU Tandon, y profesor en la Escuela de Servicio Público de Graduados Wagner.

“Lo que queremos entender es cómo los algoritmos pueden mejorar la toma de decisiones humanas eliminando sesgos implícitos, y desarrollar métodos y herramientas para ayudar a aquellos que diseñan e implementan intervenciones de política en las ciudades”.

Al investigar tanto los riesgos como los beneficios de la toma de decisiones algorítmicas, el equipo del proyecto desarrollará una nueva conceptualización de equidad en pipelined, que consiste en siete etapas distintas: datos, modelos, predicciones, recomendaciones, decisiones, impactos y resultados. Esta “tubería de equidad de extremo a extremo” tendrá en cuenta múltiples fuentes de sesgo, modelará cómo los sesgos se propagan a través de la tubería para dar lugar a resultados inequitativos y evaluará la sensibilidad a los sesgos no medidos.

En segundo lugar, el equipo construirá un marco metodológico general para identificar y corregir sesgos en cada etapa de la tubería, una especie de escaneo de sesgos, junto con herramientas de apoyo a la toma de decisiones algorítmicas que proporcionen recomendaciones a un tomador de decisiones humano (como “empujones” algorítmicos para guiar las decisiones humanas hacia la equidad).

Finalmente, el equipo del proyecto creará nuevas métricas para medir la presencia y la extensión del sesgo en los dominios de justicia penal y vivienda, y las herramientas que se pueden utilizar para: (a) reducir la incarceración proporcionando intervenciones de apoyo de manera equitativa a las poblaciones involucradas en la justicia; (b) priorizar las inspecciones y reparaciones de viviendas; (c) evaluar y mejorar la equidad de los procedimientos judiciales civiles y penales; y (d) analizar los impactos sanitarios dispares de las exposiciones ambientales adversas, incluyendo la vivienda de mala calidad y las prácticas policiales agresivas y poco justas.

“El impacto final de este trabajo es avanzar en la justicia social para aquellos que viven en ciudades y que dependen de los servicios de la ciudad o están involucrados en el sistema de justicia, evaluando y mitigando los sesgos en los procesos de toma de decisiones y reduciendo las disparidades”, dijo Neill, también director del Laboratorio de Aprendizaje para el Bien de la NYU y miembro de la facultad del Instituto de Ciencias Matemáticas Courant de la NYU.

Además de Neill, el equipo de investigación incluye a Ravi Shroff, profesor asistente en CUSP y en la Escuela de Cultura, Educación y Desarrollo Humano Steinhardt de la NYU; Constantine Kontokosta, profesor en el Instituto de Gestión Urbana Marron de la NYU y profesor asociado en la Escuela de Ingeniería NYU Tandon; y Edward McFowland III, profesor en la Escuela de Gestión Carlson de la Universidad de Minnesota.

La subvención se otorgó bajo el Programa de la NSF sobre Equidad en Inteligencia Artificial en Colaboración con Amazon (2040898).

ta, un profesor en el Instituto de Gestión Urbana Marron de la NYU y profesor asociado en la Escuela de Ingeniería NYU Tandon; y Edward McFowland III, un profesor en la Escuela de Gestión Carlson de la Universidad de Minnesota. La subvención se otorgó bajo el Programa de la NSF sobre Equidad en Inteligencia Artificial en Colaboración con Amazon (2040898).