NSF & Amazon 资助支持纽约大学研究，以帮助城市减少人工智能支持决策中的偏见

纽约大学的一组研究人员将开发新的方法和工具，以最小化系统偏见，并在城市住房检查、警务和法院等领域产生更公平的公共政策影响。

在国家科学基金会（NSF）和Amazon的100万美元资助下，计算机科学教授Daniel B. Neill将领导这项为期三年的研究项目，重点是城市公共部门组织日益增长的人工智能（AI）使用——这项工作将包括创建开放源码工具来评估和纠正偏见。

“人类决策和算法决策都有系统偏见的潜力，这可能导致贫困、种族、性别和社会经济差距等下游结果不佳，”Neill说，他是城市科学与进步中心(CUSP)和NYU Tandon 工程学院的教师成员，以及NYU的Wagner 公共服务研究生院的教授。

“我们希望了解算法如何通过消除隐含偏见来增强人类决策，并开发方法和工具来帮助城市政策干预的设计者和实施者。”

在研究算法决策的风险和益处时，项目团队将开发一个新的、流水线式的公平概念，包括七个不同的阶段：数据、模型、预测、推荐、决策、影响和结果。这“从端到端的公平流水线”将考虑多个偏见来源，模拟偏见如何通过流水线传播以产生不公平的结果，并评估对未测量偏见的敏感性。

其次，团队将建立一个识别和纠正流水线每个阶段偏见的一般方法框架，类似于偏见扫描，以及算法决策支持工具，提供给人类决策者（如算法“提示”引导人类决策朝着公平性方向）的推荐。

最后，项目团队将创建新的指标来衡量刑事司法和住房领域偏见的存在和程度，以及可以用来：（a）通过为司法相关人群提供公平的支持干预来减少监禁；（b）优先考虑住房检查和维修；（c）评估和改进民事和刑事诉讼程序的公平性；（d）分析不良环境暴露（包括住房质量差和不公平的警务实践）的差异性健康影响。

“这项工作的最终影响是推进城市居民和依赖城市服务或参与司法系统的人的社会公正，通过评估和减轻决策过程中的偏见并减少差异，”Neill说，他也是NYU 学习与善行实验室的主任和NYU 库兰特数学科学研究所的教师成员。

除了Neill外，研究团队还包括Ravi Shroff，CUSP和NYU 斯坦哈特文化、教育和人类发展学院的助理教授；Constantine Kontokosta，NYU 城市管理马龙研究所的教授和NYU Tandon的关联教师；以及Edward McFowland III，明尼苏达大学卡尔森管理学院的教授。

该资助是在NSF 人工智能公平性合作计划（2040898）下获得的。