国家科学基金会和亚马逊资助纽约大学研究，以帮助城市减少人工智能支持决策中的偏见

纽约大学的一组研究人员将开发新的方法和工具，以最小化系统偏见，并在城市住房检查、执法和法院等领域产生更公平的公共政策影响。

在国家科学基金会（NSF）和亚马逊的100万美元资助下，计算机科学教授Daniel B. Neill将领导这项为期三年的研究项目，重点是城市公共部门组织日益增长的使用人工智能（AI）——这项工作包括创建开放源代码工具来评估和纠正偏见。

“人类决策和算法决策都可能存在系统偏见，这可能导致下游结果不佳，例如种族、性别和社会经济线上的差异和不平等，”尼尔说，他是城市科学和进步中心（CUSP）和NYU Tandon工程学院的教授，以及NYU Wagner公共服务研究生院的教授。

“我们想了解的是如何通过消除隐含偏见来增强人类决策，并开发方法和工具来帮助城市政策干预的设计者和实施者。”

在研究算法决策的风险和益处时，项目团队将开发一个新的、流水线式的公平概念，包括七个不同的阶段：数据、模型、预测、推荐、决策、影响和结果。这一“端到端的公平流水线”将考虑多个偏见来源，模拟偏见如何通过流水线传播以产生不公平的结果，并评估对未测量偏见的敏感性。

其次，团队将建立一个一般的方法框架，用于识别和纠正流水线每个阶段的偏见，以及一种偏见扫描，并提供算法决策支持工具，向人类决策者提供推荐（例如算法“推动”人类决策朝向公平性）。

最后，项目团队将创建新的指标来衡量刑事司法和住房领域偏见的存在和程度，以及可以用来：（a）通过公平地为司法相关人群提供支持干预来减少监禁；（b）优先考虑住房检查和维修；（c）评估和改进民事和刑事诉讼的公平性；（d）分析不良环境暴露的差异性健康影响，包括Poor-quality住房和激进、不公平的执法行为。

“这项工作的最终影响是通过评估和减轻决策过程中的偏见来促进城市居民和依赖城市服务或参与司法系统的人的社会公正，”尼尔说，他也是NYU学习与善行实验室的主任和NYU Courant数学科学研究所的教师。

除了尼尔外，研究团队还包括拉维·什罗夫（Ravi Shroff），CUSP和NYU Steinhardt文化、教育和人类发展学院的助理教授；康斯坦丁·康托科斯塔（Constantine Kontokosta），NYU城市管理学院的教授和NYU Tandon的相关教师；以及爱德华·麦克福兰三世（Edward McFowland III），明尼苏达大学卡尔森管理学院的教授。

该资助是在NSF与亚马逊合作的人工智能公平性计划（2040898）下获得的。