Subsídio da NSF e da Amazon Apoia Pesquisa na NYU para Ajudar Cidades a Reduzir Vieses em Decisões Apoiadas por IA

Uma equipe de pesquisadores da New York University desenvolverá novos métodos e ferramentas visando minimizar vieses sistêmicos e produzir impactos de políticas públicas mais equitativos em áreas como inspeções de habitação, policiamento e tribunais.

Com um subsídio de $1 milhão da National Science Foundation (NSF) e da Amazon (AMZN ), o Professor de Ciência da Computação Daniel B. Neill liderará o projeto de pesquisa de três anos centrado no uso crescente de Inteligência Artificial (IA) por organizações urbanas do setor público — trabalho que incluirá a criação de ferramentas de código aberto para avaliar e corrigir vieses.

“Decisões humanas e decisões algorítmicas têm potencial para vieses sistemáticos que podem levar a resultados ruins downstream, como disparidades e desigualdade em linhas raciais, de gênero e socioeconômicas”, disse Neill, membro da faculdade do Center for Urban Science and Progress (CUSP) na NYU Tandon School of Engineering, e professor na Wagner Graduate School of Public Service.

“O que queremos entender é como algoritmos podem melhorar a tomada de decisões humanas eliminando vieses implícitos e desenvolver métodos e ferramentas para ajudar aqueles que projetam e implementam intervenções políticas nas cidades.”

Ao investigar os riscos e benefícios da tomada de decisões algorítmicas, a equipe de projeto desenvolverá uma nova conceituação de justiça em pipeline, consistindo em sete estágios distintos: dados, modelos, previsões, recomendações, decisões, impactos e resultados. Esse “pipeline de justiça de ponta a ponta” levará em conta múltiplas fontes de viés, modelará como os vieses se propagam pelo pipeline para resultar em resultados inequívocos e avaliará a sensibilidade a vieses não medidos.

Em segundo lugar, a equipe construirá um quadro metodológico geral para identificar e corrigir vieses em cada estágio do pipeline, uma espécie de varredura de vieses, juntamente com ferramentas de apoio à decisão algorítmica que forneçam recomendações a um tomador de decisões humano (como “empurrões” algorítmicos para guiar decisões humanas em direção à justiça).

Finalmente, a equipe de projeto criará novas métricas para medir a presença e a extensão de vieses nos domínios da justiça criminal e habitação, e as ferramentas que podem ser usadas para: (a) reduzir a encarceramento fornecendo intervenções de apoio de forma equitativa a populações envolvidas com a justiça; (b) priorizar inspeções e reparos de habitação; (c) avaliar e melhorar a justiça de processos judiciais cíveis e criminais; e (d) analisar os impactos de saúde desiguais de exposições ambientais adversas, incluindo habitação de baixa qualidade e práticas policiais agressivas e injustas.

“O impacto final desse trabalho é avançar a justiça social para aqueles que vivem em cidades e que dependem de serviços urbanos ou estão envolvidos com o sistema de justiça, avaliando e mitigando vieses em processos de tomada de decisões e reduzindo disparidades”, disse Neill, também diretor do Laboratório de Aprendizado para o Bem da NYU e membro da faculdade do Instituto de Ciências Matemáticas Courant.

Além de Neill, a equipe de pesquisa inclui Ravi Shroff, professor assistente da CUSP e da Steinhardt School of Culture, Education, and Human Development; Constantine Kontokosta, professor do Marron Institute of Urban Management e faculdade associada da NYU Tandon; e Edward McFowland III, professor da Carlson School of Management da Universidade de Minnesota.

O subsídio foi concedido pelo Programa da NSF sobre Justiça em Inteligência Artificial em Colaboração com a Amazon (2040898).

ta, um professor no Instituto de Gestão Urbana Marron da NYU e faculdade associada da NYU Tandon; e Edward McFowland III, um professor na Carlson School of Management da Universidade de Minnesota. O subsídio foi concedido pelo Programa da NSF sobre Justiça em Inteligência Artificial em Colaboração com a Amazon (2040898).