컴퓨터 과학자, 인공 지능의 편향성 해결에 나서다

프린스턴과 스탠퍼드 대학교의 컴퓨터 과학자들은 인공 지능(AI)의 편향성 문제를 해결하기 위해 노력하고 있다. 그들은 더 공정한 데이터 세트를 생성하는 방법을 개발하고 있으며, 이 데이터 세트에는 사람들의 이미지들이 포함되어 있다. 연구자들은 ImageNet이라는 데이터베이스와密切하게 협력하고 있으며, ImageNet은 1,300만 개 이상의 이미지로 구성된 데이터베이스이다.過去 10년 동안 ImageNet은 컴퓨터 비전의 발전에 크게 기여해 왔다. 연구자들은 자신의 방법을 사용하여 데이터베이스를 개선하는 데 필요한 조치를 권고했다.

ImageNet에는 물체, 풍경, 사람들의 이미지들이 포함되어 있다. 이미지 분류를 위한 기계 학습 알고리즘을 개발하는 연구자들은 ImageNet을 데이터 소스로 사용한다. 데이터베이스의 크기가 매우 크기 때문에 자동화된 이미지 수집과 크라우드소싱 기반의 이미지 주석이 필요했다. 현재 ImageNet 팀은 편향성과 다른 문제들을 해결하기 위해 노력하고 있다. 이미지에는 종종 ImageNet의 구성에서 비롯된 예상치 못한 결과로 사람들의 이미지가 포함되어 있다.

Olga Russakovsky는 공동 저자이며 프린스턴 대학교의 컴퓨터 과학 조교수이다.

“컴퓨터 비전은 현재 매우 잘 작동하기 때문에 다양한 상황에서广泛하게 배포되고 있다”고 그는 말했다. “이제는 컴퓨터 비전이 세계에 미치는 영향에 대해 논의하고 공정성 문제를 생각할 때이다.”

새로운 논문에서 ImageNet 팀은 비주얼적이지 않은 개념과 공격적인 카테고리를 체계적으로 식별했다. 이러한 카테고리에는 인종적 및 성적 특성이 포함되어 있었으며, 팀은 데이터베이스에서 이러한 카테고리를 제거하는 것을 제안했다. 팀은 또한 사용자가 연령, 성별 표현, 피부 색상에 따라 사람들의 이미지 세트를 지정하고检索할 수 있는 도구를 개발했다. 목표는 사람들의 얼굴과 이미지에서의 활동을 더 공정하게 분류하는 알고리즘을 생성하는 것이다.

연구자들의 연구는 1월 30일 바르셀로나에서 열린 공平성, 책임성, 투명성에 관한 컴퓨터 과학 회의에서 발표되었다.

“이러한 종류의 대화에 참여하기 위해 핵심 기술 전문성을 갖춘 연구자와 연구소가 필요하다”고 Russakovsky는 말했다. “데이터를 대규모로 수집해야 하며, 이는 크라우드소싱을 통해 가장 효율적이고 확립된 파이프라인을 통해 수행되기 때문에, 어떻게 하면 더 공정하게 할 수 있을까? 이 논문의 핵심 메시지는 건설적인 해결책에 관한 것이다.”

ImageNet은 2009년 프린스턴과 스탠퍼드 대학교의 컴퓨터 과학자들에 의해 시작되었다. 이는 학술 연구자와 교육자를 위한 리소스로 설계되었다. 시스템의 생성은 프린스턴의 동문이자 교수인 Fei-Fei Li가 주도했다.

ImageNet은 크라우드소싱을 통해 매우 큰 레이블이 붙은 이미지 데이터베이스가 될 수 있었다. 사용된 주요 플랫폼 중 하나는 Amazon (AMZN ) Mechanical Turk(MTurk)였으며, 작업자들은 후보 이미지들을 검증하기 위해 급여를 받았다. 이것은 일부 문제를 일으켰으며, 편향성과 부적절한 카테고리화가 많았다.

첫 저자 Kaiyu Yang은 컴퓨터 과학의 대학원생이다.

“사람들에게 후보 이미지 세트에서 올바른 이미지를 선택하도록 요청하면, 사람들은 어떤 이미지를 선택하도록 압력을 느끼며, 그러한 이미지는 일반적으로 특징적이거나 고정관념적인 특징을 가진 이미지가 된다”고 그는 말했다.

연구의 첫 부분은 ImageNet에서 잠재적으로 공격적이거나 민감한 사람 카테고리를 필터링하는 것이었다. 공격적인 카테고리는 그들이 포함하는 비속어 또는 인종적 또는 성적 비방을 포함하는 것으로 정의되었다. 민감한 카테고리 중 하나는 성적 취향 또는 종교에 따라 사람들을 분류하는 것이었다. 다양한 배경을 가진 12명의 대학원생이 카테고리를 주석으로 표시하기 위해 招かれた으며, 그들은 자신이 불확실한 카테고리를 민감한 것으로 표시하도록 지시받았다. 약 54%의 카테고리가 제거되었으며, 이는 ImageNet의 2,932개 사람 카테고리 중 1,593개였다.

MTurk 작업자들은 남은 카테고리의 “이미지 가능성”을 1에서 5까지의 척도에서 평가했다. 158개의 카테고리가 안전하고 이미지 가능성으로 분류되었으며, 4 이상의 등급을 받았다. 이러한 필터링된 카테고리 세트에는 133,000개 이상의 이미지들이 포함되어 있었으며, 이는 컴퓨터 비전 알고리즘을 훈련하는 데 매우 유용할 수 있다.

연구자들은 이미지에 있는 사람들의 인구 통계적 대표성을 연구했으며, ImageNet의 편향성을 평가했다. 검색 엔진에서 제공되는 콘텐츠는 종종 남성, 밝은 피부를 가진 사람들, 18세에서 40세 사이의 성인들을 과도하게 대표한다.

“사람들은 이미지 검색 결과의 인구 통계적 분포가 매우 편향되어 있음을 발견했으며, 이는 ImageNet의 분포도 편향되어 있기 때문이다”고 Yang은 말했다. “이 논문에서 우리는 편향된 정도를 이해하고, 분포를 균형잡히게 하는 방법을 제안하려고 했다.”

연구자들은 미국의 반차별법에서 보호되는 세 가지 속성, 즉 피부 색상, 성별 표현, 연령을 고려했다. MTurk 작업자들은 각 이미지의 사람마다 이러한 속성을 주석으로 표시했다.

결과는 ImageNet의 콘텐츠가 상당한 편향성을 가지고 있음을 보여주었다. 가장 대표되지 못한 사람들은 어두운 피부를 가진 사람들, 여성들, 40세 이상의 성인들이었다.

사용자가 원하는 방식으로 인구 통계적으로 균형 잡힌 이미지 세트를 얻을 수 있는 웹 인터페이스 도구가 설계되었다.

“우리는 인구 통계적 균형을 맞추는 올바른 방법을 말하고 싶지 않다”고 Yang은 말했다. “분포는 세계의 다른 지역에서 다를 수 있으며, 예를 들어 미국의 피부 색상 분포는 아시아 국가들과 다르다. 따라서 우리는 이 문제를 사용자에게 맡기고, 단지 균형 잡힌 이미지 세트를检索할 수 있는 도구를 제공한다.”

ImageNet 팀은 현재 기술적 업데이트와 데이터베이스를 개선하는 데 노력하고 있다. 또한 이 연구에서 개발된 필터링과 재균형 조정을 구현하려고 한다. ImageNet은 업데이트와 함께 재출시될 예정이며, 컴퓨터 비전 연구 커뮤니티로부터의 피드백을 요청할 것이다.

이 논문은 또한 프린스턴의 박사 과정 학생인 Klint Qinami와 컴퓨터 과학 조교수인 Jia Deng가 공동 저술했다. 연구는 국가 과학 재단의 지원을 받았다.