기계 학습의 오랜 가정을 도전하는 연구자들

카네기 멜런 대학교의 연구자들은 기계 학습 알고리즘에서 정확성과 공정성 사이의 트레이드오프가 있다는 오랜 가정을 도전하고 있습니다.

기계 학습의 사용은 범죄 정의, 고용, 의료 서비스 제공 및 사회 서비스 개입과 같은 많은 분야에서 증가하고 있습니다. 이 성장과 함께 기존의 불평등을 악화시킬 수 있는 새로운 응용 프로그램에 대한 우려도 증가하고 있습니다.

시스템 조정

데이터, 레이블, 모델 훈련, 스코어링 시스템 및 시스템의 다른 측면에서 지속적인 조정이 이루어져서 편향을 방지하기 위해 노력하고 있습니다. 그러나 이론적인 가정은 이러한 조정이 더 많이 이루어질수록 시스템이 덜 정확해진다는 것입니다.

CMU 팀은 새로운 연구에서 이 이론을 도전했습니다. 이 연구는 Nature Machine Intelligence에 발표되었습니다.

레이드 가니는 컴퓨터 과학부의 기계 학습 부서와 하인츠 대학의 정보 시스템 및 공공 정책 부서의 교수입니다. 그는 킷 로돌파, 기계 학습 부서의 연구 과학자와 헤만크 람바, 컴퓨터 과학부의 박사 후 연구원과 함께 연구를 수행했습니다.

실제 세계 응용 프로그램 테스트

연구자들은 실제 세계 응용 프로그램에서 이 가정을 테스트했으며, 그 결과는 많은 정책 영역에서 트레이드오프가 무시할 수 있는 수준임을 발견했습니다.

“실제로 두 가지를 모두 얻을 수 있습니다. 공정하고 평등한 시스템을 구축하기 위해 정확성을 희생할 필요는 없습니다.” 가니는 말했다. “그러나 이를 위해서는 의도적으로 공정하고 평등한 시스템을 설계해야 합니다. 즉시 사용할 수 있는 시스템은 작동하지 않습니다.”

연구 팀은 수요가 높은 자원이 제한된 상황에 초점을 맞췄습니다. 이러한 자원의 할당은 기계 학습의 도움을 받습니다.

그들은 네 가지 영역에 대한 시스템에 초점을 맞췄습니다:

• 재범 방지를 위해 감옥에 다시 들어가는 위험이 높은 사람을 우선적으로 정신 건강 치료를 받을 수 있도록 하는 것;
• 도시의 제한된 주택 검사원을 더 잘 배치하기 위해 심각한 안전 위반을 예측하는 것;
• 고등학교를 kịp시 졸업하지 못할 학생의 위험을 모델링하여 추가 지원이 필요한 학생을 식별하는 것;
• 교사들이 교실 필요에 대한 크라우드펀딩 목표를 달성하도록 도와주는 것.

연구자들은 모델이 관심 있는 결과를 효과적으로 예측할 수 있음을 발견했습니다. 그러나 모델은 또한 개입에 대한 추천에서 상당한 불평등을 보여주었습니다.

중요한 결과는 연구자들이 공정성을 향상시키기 위해 모델의 출력에 조정을 적용했을 때 나타났습니다. 그들은 인종, 연령 또는 소득에 기반한 불평등을 제거했을 때 정확성이 손실되지 않는다는 것을 발견했습니다.

“우리는 인공 지능, 컴퓨터 과학 및 기계 학습 커뮤니티가 정확성과 공정성 사이의 트레이드오프에 대한 가정을 더 이상 받아들이지 않도록 하고, 두 가지를 모두 최대화하는 시스템을 의도적으로 설계하기 시작하기를 바랍니다.” 로돌파는 말했다. “우리는 정책 결정에서 기계 학습을 도구로 사용하여 평등한 결과를 달성하는 데 도움이 되기를 희망합니다.”