NSF и Amazon Grant поддерживают исследования в Нью-Йоркском университете, чтобы помочь городам уменьшить предубеждения в ИИ.

Группа исследователей из Нью-Йоркского университета разработает новые методы и инструменты, направленные на минимизацию системных предубеждений и обеспечение более справедливого воздействия государственной политики на такие области, как городские жилищные инспекции, полиция и суды.

В рамках гранта в размере 1 миллиона долларов от Национального научного фонда (NSF) и Amazon профессор информатики Дэниел Б. Нил возглавит трехлетний исследовательский проект, посвященный растущему использованию искусственного интеллекта (ИИ) городскими организациями государственного сектора. это будет включать создание инструментов с открытым исходным кодом для оценки и исправления предвзятостей.

«Человеческие решения и алгоритмические решения могут привести к систематическим искажениям, которые могут привести к плохим последствиям, таким как неравенство и несправедливость по расовым, гендерным и социально-экономическим признакам», — сказал Нил, член факультета Университета. Центр городской науки и прогресса (КУСП) на Инженерная школа Нью-Йоркского университета в Тандонеи профессор Нью-Йоркского университета Высшая школа государственной службы Вагнера.

«Мы хотим понять, как алгоритмы могут улучшить процесс принятия решений человеком, устраняя неявные предубеждения, а также разработать методы и инструменты, которые помогут тем, кто разрабатывает и реализует политические меры в городах».

Изучая как риски, так и преимущества алгоритмического принятия решений, команда проекта разработает новую конвейерную концепцию справедливости, состоящую из семи отдельных этапов: данные, модели, прогнозы, рекомендации, решения, воздействия и результаты. Этот «сквозной конвейер справедливости» будет учитывать несколько источников предвзятости, моделировать, как предубеждения распространяются по конвейеру, приводя к несправедливым результатам, и оценивать чувствительность к неизмеренным предубеждениям.

Во-вторых, команда создаст общую методологическую основу для выявления и исправления предвзятости на каждом этапе конвейера, своего рода сканирование предвзятости, наряду с алгоритмическими инструментами поддержки принятия решений, которые предоставляют рекомендации человеку, принимающему решение (например, алгоритмические «подталкивания» направлять человеческие решения в сторону справедливости).

Наконец, проектная группа создаст новые показатели для измерения наличия и степени предвзятости в сферах уголовного правосудия и жилищного строительства, а также инструменты, которые можно использовать для: (а) сокращения количества заключенных за счет справедливого оказания поддержки населению, вовлеченному в правосудие; (b) уделять первоочередное внимание проверкам и ремонту жилья; (c) оценивать и повышать справедливость гражданского и уголовного судопроизводства; и (d) проанализировать разрозненные последствия для здоровья неблагоприятного воздействия окружающей среды, включая некачественное жилье и агрессивные, несправедливые методы работы полиции.

«Конечным результатом этой работы является продвижение социальной справедливости для тех, кто живет в городах и зависит от городских служб или связан с системой правосудия, путем оценки и смягчения предубеждений в процессах принятия решений и уменьшения неравенства», — сказал Нил. также директор Лаборатории обучения во благо Нью-Йоркского университета и преподаватель Института математических наук Куранта Нью-Йоркского университета.

Помимо Нила, в исследовательскую группу входят Рави Шрофф, доцент CUSP и Школы культуры, образования и человеческого развития им. Штейнхардта при Нью-Йоркском университете; Константин Контокоста, профессор Марронского института городского управления Нью-Йоркского университета и ассоциированный преподаватель Нью-Йоркского университета Тандон; и Эдвард Макфауленд III, профессор Школы менеджмента Карлсона Миннесотского университета.

Грант был предоставлен в рамках программы NSF по справедливости в области искусственного интеллекта в сотрудничестве с Amazon (2040898).