NSF 및 아마존 그랜트, 뉴욕대 연구 지원으로 도시에서 인공 지능 지원 의사 결정의 편향 줄이기

뉴욕 대학교의 연구팀은 도시 하우징 검사, 경찰, 법원 등 다양한 분야에서 공공 정책의 불평등한 영향을 최소화하고 더 공정한 결과를 도출하기 위한 새로운 방법과 도구를 개발할 것입니다.

국가 과학 재단(National Science Foundation, NSF)과 아마존의 100만 달러의 그랜트를 통해 컴퓨터 과학 교수 다니엘 B. 닐(Daniel B. Neill)이 3년간의 연구 프로젝트를 주도할 것입니다. 이 프로젝트는 도시 공공 부문 조직에서 인공 지능(AI)의 사용이 증가하고 있는 상황에서 편향을 평가하고 수정하는 오픈 소스 도구를 개발하는 데 중점을 두고 있습니다. (AMZN )

“인간의 결정과 알고리즘의 결정은 체계적인 편향을 가질 수 있으며, 이는 인종, 성별, 사회 경제적 선에 따라 불균형과 불공평을 초래할 수 있습니다.”라고 닐은 말했습니다. 닐은 뉴욕 대학교의 도시 과학 진보 센터(Center for Urban Science and Progress, CUSP)와 NYU 탠던 공과 대학(NYU Tandon School of Engineering),以及 뉴욕 대학교의 와그너 대학원(Wagner Graduate School of Public Service) 교수입니다.

“알고리즘이 인간의 의사 결정에 어떻게 기여할 수 있는지, 그리고 편향을 제거하여 더 공정한 결과를 얻을 수 있는지 이해하고 싶습니다.”

이 프로젝트 팀은 알고리즘 의사 결정의 위험과 이점을 모두 조사할 것입니다. 그들은 7개의 구체적인 단계(데이터, 모델, 예측, 추천, 결정, 영향, 결과)로 구성된 새로운 공정성 파이프라인을 개발할 것입니다. 이 파이프라인은 여러 편향의 원인을 고려하여 불공평한 결과가 어떻게 발생하는지 모델링하고, 측정되지 않은 편향에 대한 민감도를 평가할 것입니다.

둘째, 팀은 각 단계에서 편향을 식별하고 수정하는 일반적인 방법론적 프레임워크를 개발할 것입니다. 또한 알고리즘 의사 결정 지원 도구를 제공하여 인간의 의사 결정에 대한 추천을 제공할 것입니다(예: 알고리즘 “넛지”를 통해 인간의 의사 결정이 공정성을 향상시킵니다).

마지막으로, 프로젝트 팀은 범죄 정의와 주택 분야에서 편향의 존재와 정도를 측정하는 새로운 지표를 개발할 것입니다. 또한 다음과 같은 도구를 개발할 것입니다: (a) 정의에涉及된 인구를 위해 공정한 지원 개입을 제공하여 투옥을 줄임; (b) 주택 검사와 수리를 우선순위로 함; (c) 민사 및 형사 법정 절차의 공정성을 평가하고 개선함; (d) 부적절한 환경 노출(예: 저품질 주택, 불공정한 경찰 관행)의 차별적인 건강 영향 분석.

“이 연구의 궁극적인 영향은 도시에서 생활하는 사람들과 도시 서비스나 정의 시스템과 관련된 사람들에게 사회 정의를 증진하는 것입니다. 의사 결정 과정에서 편향을 평가하고 완화하여 불균형을 줄이는 데 있습니다.”라고 닐은 말했습니다. 닐은 또한 뉴욕 대학교의 러닝 포 굿 연구소(Learning for Good Laboratory) 디렉터이며, 뉴욕 대학교의 쿠란트 수학 과학 연구소(Courant Institute of Mathematical Sciences) 교수입니다.

연구 팀에는 라비 슈로프(Ravi Shroff), 뉴욕 대학교의 스타인하트 학교(Steinhardt School of Culture, Education, and Human Development)와 CUSP의 조교수; 콘스탄틴 콘토코스타(Constantine Kontokosta), 뉴욕 대학교의 마론 도시 관리 연구소(Marron Institute of Urban Management) 교수이자 NYU 탠던의 연계 교수; 그리고 에드워드 맥파울랜드 3세(Edward McFowland III), 미네소타 대학교의 칼슨 경영 대학(Carlson School of Management) 교수가 있습니다.

이 그랜트는 아마존과 협력하여 인공 지능의 공정성에 관한 NSF 프로그램(2040898)에 따라 제공되었습니다.