Грант NSF и Amazon поддерживает исследования в NYU, чтобы помочь городам уменьшить предвзятости в принятии решений с поддержкой ИИ

Команда исследователей в Нью-Йоркском университете разработает новые методы и инструменты, направленные на минимизацию системных предвзятостей и производство более справедливых воздействий на такие области, как городские жилищные инспекции, полицейская деятельность и суды.

В рамках гранта в размере 1 миллиона долларов от Национального научного фонда (NSF) и Amazon профессор компьютерных наук Даниэль Б. Нилл возглавит трехлетний исследовательский проект, сосредоточенный на растущем использовании искусственного интеллекта (ИИ) городскими, государственными организациями – работой, которая будет включать создание открытых инструментов для оценки и исправления предвзятостей.

«Человеческие решения и алгоритмические решения имеют потенциал системных предвзятостей, которые могут привести к плохим последствиям, таким как расхождения и неравенство по расовым, гендерным и социально-экономическим линиям», – сказал Нилл, член факультета Центра городских научных и прогрессивных исследований (CUSP) в Школе инженерии NYU Tandon и профессор в Школе государственной службы Вагнера NYU.

«Мы хотим понять, как алгоритмы могут улучшить человеческое принятие решений, исключая неявные предвзятости, и разработать методы и инструменты для помощи тем, кто проектирует и реализует политические вмешательства в городах».

Изучая риски и выгоды алгоритмического принятия решений, команда проекта разработает новую, трубопроводную концептуализацию справедливости, состоящую из семи различных стадий: данные, модели, прогнозы, рекомендации, решения, воздействия и результаты. Этот «конвейер справедливости» будет учитывать множество источников предвзятости, моделировать, как предвзятости распространяются через конвейер, чтобы привести к несправедливым результатам, и оценивать чувствительность к неучтенным предвзятостям.

Во-вторых, команда разработает общую методологическую основу для выявления и исправления предвзятостей на каждой стадии конвейера, своего рода сканера предвзятостей, а также инструменты поддержки алгоритмического принятия решений, которые предоставляют рекомендации человеческому принятию решений (например, алгоритмические «подсказки», чтобы направлять человеческие решения к справедливости).

Наконец, команда проекта создаст новые метрики для измерения наличия и степени предвзятости в области уголовного правосудия и жилищного обеспечения, а также инструменты, которые можно использовать для: (а) снижения количества заключенных под стражу путем обеспечения справедливых поддерживающих вмешательств для вовлеченных в правосудие населения; (б) определения приоритетов жилищных инспекций и ремонтов; (в) оценки и улучшения справедливости гражданских и уголовных судебных разбирательств; и (г) анализа различного воздействия на здоровье неблагоприятных экологических факторов, включая плохое качество жилья и агрессивные, несправедливые полицейские практики.

«Окончательное воздействие этой работы заключается в продвижении социальной справедливости для тех, кто живет в городах и кто полагается на городские услуги или участвует в системе правосудия, путем оценки и смягчения предвзятостей в процессах принятия решений и снижения расхождений», – сказал Нилл, также директор Лаборатории обучения для добра NYU и член факультета Института математических наук Куранта.

Помимо Нилла, команда исследователей включает Рави Шроффа, доцента в CUSP и Школе культуры, образования и развития человека Штейнхарда; Константина Контокосту, профессора в Институте городского управления Маррон и ассоциированного факультета в Школе инженерии NYU Tandon; и Эдварда Макфоуленда III, профессора в Школе менеджмента Карлсона Университета Миннесоты.

Грант был предоставлен в рамках Программы NSF по справедливости в искусственном интеллекте в сотрудничестве с Amazon (2040898).