윤리

NSF 및 아마존 그랜트, 뉴욕대 연구 지원으로 도시에서 인공 지능 지원 의사 결정의 편향 줄이기

Antoine Tardif
Unite.AI를 Google의 선호 소스에 추가
핵심 포인트NYU 연구진은 도시 의사결정의 편향을 평가하고 교정하기 위한 오픈소스 도구를 구축할 것이다.
더 보기
  • NYU 연구진은 도시 의사결정의 편향을 평가하고 교정하기 위한 오픈소스 도구를 구축할 것이다.
  • 이 프로젝트는 데이터에서 결과에 이르는 일곱 단계에 걸쳐 공정성을 매핑하여 편향이 어떻게 전파되는지 추적한다.
  • 새로운 지표는 형사 사법과 주거를 대상으로 하여 수감을 줄이고 법원의 공정성을 개선할 것이다.

뉴욕 대학교의 연구팀은 도시 하우징 검사, 경찰, 법원 등 다양한 분야에서 공공 정책의 불평등한 영향을 최소화하고 더 공정한 결과를 도출하기 위한 새로운 방법과 도구를 개발할 것입니다.

국가 과학 재단(National Science Foundation, NSF)과 아마존의 100만 달러의 그랜트를 통해 컴퓨터 과학 교수 다니엘 B. 닐(Daniel B. Neill)이 3년간의 연구 프로젝트를 주도할 것입니다. 이 프로젝트는 도시 공공 부문 조직에서 인공 지능(AI)의 사용이 증가하고 있는 상황에서 편향을 평가하고 수정하는 오픈 소스 도구를 개발하는 데 중점을 두고 있습니다. (AMZN )

“인간의 결정과 알고리즘의 결정은 체계적인 편향을 가질 수 있으며, 이는 인종, 성별, 사회 경제적 선에 따라 불균형과 불공평을 초래할 수 있습니다.”라고 닐은 말했습니다. 닐은 뉴욕 대학교의 도시 과학 진보 센터(Center for Urban Science and Progress, CUSP)와 NYU 탠던 공과 대학(NYU Tandon School of Engineering),以及 뉴욕 대학교의 와그너 대학원(Wagner Graduate School of Public Service) 교수입니다.

“알고리즘이 인간의 의사 결정에 어떻게 기여할 수 있는지, 그리고 편향을 제거하여 더 공정한 결과를 얻을 수 있는지 이해하고 싶습니다.”

이 프로젝트 팀은 알고리즘 의사 결정의 위험과 이점을 모두 조사할 것입니다. 그들은 7개의 구체적인 단계(데이터, 모델, 예측, 추천, 결정, 영향, 결과)로 구성된 새로운 공정성 파이프라인을 개발할 것입니다. 이 파이프라인은 여러 편향의 원인을 고려하여 불공평한 결과가 어떻게 발생하는지 모델링하고, 측정되지 않은 편향에 대한 민감도를 평가할 것입니다.

둘째, 팀은 각 단계에서 편향을 식별하고 수정하는 일반적인 방법론적 프레임워크를 개발할 것입니다. 또한 알고리즘 의사 결정 지원 도구를 제공하여 인간의 의사 결정에 대한 추천을 제공할 것입니다(예: 알고리즘 “넛지”를 통해 인간의 의사 결정이 공정성을 향상시킵니다).

마지막으로, 프로젝트 팀은 범죄 정의와 주택 분야에서 편향의 존재와 정도를 측정하는 새로운 지표를 개발할 것입니다. 또한 다음과 같은 도구를 개발할 것입니다: (a) 정의에涉及된 인구를 위해 공정한 지원 개입을 제공하여 투옥을 줄임; (b) 주택 검사와 수리를 우선순위로 함; (c) 민사 및 형사 법정 절차의 공정성을 평가하고 개선함; (d) 부적절한 환경 노출(예: 저품질 주택, 불공정한 경찰 관행)의 차별적인 건강 영향 분석.

“이 연구의 궁극적인 영향은 도시에서 생활하는 사람들과 도시 서비스나 정의 시스템과 관련된 사람들에게 사회 정의를 증진하는 것입니다. 의사 결정 과정에서 편향을 평가하고 완화하여 불균형을 줄이는 데 있습니다.”라고 닐은 말했습니다. 닐은 또한 뉴욕 대학교의 러닝 포 굿 연구소(Learning for Good Laboratory) 디렉터이며, 뉴욕 대학교의 쿠란트 수학 과학 연구소(Courant Institute of Mathematical Sciences) 교수입니다.

연구 팀에는 라비 슈로프(Ravi Shroff), 뉴욕 대학교의 스타인하트 학교(Steinhardt School of Culture, Education, and Human Development)와 CUSP의 조교수; 콘스탄틴 콘토코스타(Constantine Kontokosta), 뉴욕 대학교의 마론 도시 관리 연구소(Marron Institute of Urban Management) 교수이자 NYU 탠던의 연계 교수; 그리고 에드워드 맥파울랜드 3세(Edward McFowland III), 미네소타 대학교의 칼슨 경영 대학(Carlson School of Management) 교수가 있습니다.

이 그랜트는 아마존과 협력하여 인공 지능의 공정성에 관한 NSF 프로그램(2040898)에 따라 제공되었습니다.

앙투안은 Unite.AI의 비전 있는 리더이자 창립 파트너로, AI와 로봇공학의 미래를 만들어 가고 발전시키는 데 변함없는 열정을 쏟고 있습니다. 여러 기업을 창업한 그는 AI가 전기만큼 사회를 크게 변화시킬 것이라고 믿으며, 혁신적인 기술과 범용 인공지능(AGI)의 잠재력에 관해 자주 열정적으로 이야기합니다.

미래학자로서 이러한 혁신이 세상을 어떻게 바꿀지 탐구하는 데 전념하고 있습니다. 또한 미래를 새롭게 정의하고 산업 전반을 변화시키는 첨단 기술에 대한 투자에 초점을 맞춘 플랫폼인 Securities.io의 설립자입니다.