Этика
Грант NSF и Amazon поддерживает исследования в Нью-Йоркском университете для помощи городам в снижении предубеждений в процессах принятия решений с поддержкой ИИ
Добавьте Unite.AI в избранные источники в Google
Команда исследователей в Нью-Йоркском университете разработает новые методы и инструменты, направленные на минимизацию системных предубеждений и обеспечение более справедливого воздействия государственной политики на такие области, как жилищные инспекции, полиция и суды.
В рамках гранта в размере 1 миллиона долларов от Национального научного фонда (NSF) и Amazon (AMZN ) профессор компьютерных наук Дэниел Б. Нилл возглавит трехлетний исследовательский проект, посвященный растущему использованию искусственного интеллекта (ИИ) городскими, государственными организациями – работой, которая будет включать создание открытых инструментов для оценки и исправления предубеждений.
«Человеческие решения и алгоритмические решения имеют потенциал системных предубеждений, которые могут привести к плохим последствиям, таким как неравенство и несправедливость по расовым, гендерным и социально-экономическим линиям», – сказал Нилл, член факультета Центра городских наук и прогресса (CUSP) в Школе инженерии Нью-Йоркского университета Тандона и профессор Школы государственной службы имени Роберта Ф. Вагнера.
«Мы хотим понять, как алгоритмы могут улучшить человеческое принятие решений, исключая неявные предубеждения, и разработать методы и инструменты для помощи тем, кто проектирует и реализует политические вмешательства в городах».
Изучая как риски, так и выгоды алгоритмического принятия решений, команда проекта разработает новую, концептуализированную модель справедливости, состоящую из семи различных стадий: данные, модели, прогнозы, рекомендации, решения, воздействия и результаты. Этот «конвейер справедливости» будет учитывать множество источников предубеждений, моделировать, как предубеждения распространяются через конвейер, чтобы привести к несправедливым результатам, и оценивать чувствительность к неучтенным предубеждениям.
Во-вторых, команда создаст общую методологическую основу для выявления и исправления предубеждений на каждой стадии конвейера, своего рода сканирования предубеждений, а также инструменты поддержки алгоритмического принятия решений, которые предоставляют рекомендации человеческому решающему (такие как алгоритмические «подсказки», направленные на то, чтобы руководить человеческими решениями к справедливости).
Наконец, команда проекта создаст новые метрики для измерения присутствия и степени предубеждений в области уголовного правосудия и жилищного обеспечения, а также инструменты, которые можно использовать для: (а) снижения уровня заключения под стражу путем обеспечения справедливых поддерживающих вмешательств для вовлеченных в правосудие популяций; (б) определения приоритетов жилищных инспекций и ремонтов; (в) оценки и улучшения справедливости гражданских и уголовных судебных разбирательств; и (г) анализа неравномерного воздействия на здоровье неблагоприятных экологических воздействий, включая плохое качество жилья и агрессивные, несправедливые полицейские практики.
«Окончательное воздействие этой работы заключается в продвижении социальной справедливости для тех, кто живет в городах и кто полагается на городские услуги или вовлечен в систему правосудия, путем оценки и смягчения предубеждений в процессах принятия решений и снижения неравенства», – сказал Нилл, также директор Лаборатории обучения для добра Нью-Йоркского университета и член факультета Института математических наук имени Куранта.
Помимо Нилла, в состав исследовательской команды входят Рави Шрофф, помощник профессора в CUSP и Школе культуры, образования и развития человека Штейнхарда; Константин Контокоста, профессор в Институте городского управления Маррона и связанный факультет в Школе инженерии Тандона; и Эдвард Макфоуленд III, профессор в Школе менеджмента Карлсона Университета Миннесоты.
Грант был предоставлен в рамках программы NSF по справедливости в искусственном интеллекте в сотрудничестве с Amazon (2040898).
та, профессор в Институте городского управления Маррона и связанный факультет в Школе инженерии Тандона; и Эдвард Макфоуленд III, профессор в Школе менеджмента Карлсона Университета Миннесоты. Грант был предоставлен в рамках программы NSF по справедливости в искусственном интеллекте в сотрудничестве с Amazon (2040898).
