새로운 연구, 로봇에서 성별 및 인종 편향 발견警告

로봇이 불완전한 인공지능으로 훈련될 때 사회에서 존재하는 성별 및 인종 편향을 보여줄 수 있다는 우려하는 새로운 연구 결과가 나왔습니다. 이 연구는 인기 있는 인터넷 기반 인공지능 시스템을 사용하는 로봇을 포함했으며, 로봇은 일관되게 성별 및 인종 편향을 나타냈습니다.

이 연구는 존스 홉킨스 대학교, 조지아 공과대학교, 워싱턴 대학교의 연구자들에 의해 수행되었습니다. 이 연구는 이러한 널리 받아들여지고 사용되는 모델로 로봇이 작동할 때 상당한 성별 및 인종 편향을 나타낸다고 믿어지는 최초의 연구입니다.

새로운 연구 결과는 2022년 공정성, 책임성, 투명성 회의(ACM FAcct)에서 발표되었습니다.

결함이 있는 신경망 모델

앤드류 헌트는 이 연구의 저자이자 조지아 공과대학교의 박사 후 연구원입니다. 그는 존스 홉킨스 대학교의 계산적 상호작용 및 로봇공학 연구소에서 박사 과정 학생으로 연구를 수행했습니다.

“로봇은 이러한 결함이 있는 신경망 모델을 통해 유독한 스테레오타입을 학습했습니다.” 헌트는 말했다. “우리는 인종차별적이고 성별 편향된 로봇을 생성할 위험이 있습니다. 그러나 사람들과 조직은 이러한 문제를 해결하지 않고도 이러한 제품을 생성하는 것이 괜찮다고 결정했습니다.”

인공지능 모델이 인간과 객체를 인식하도록 빌드될 때, 종종 인터넷에서 무료로 사용할 수 있는 대규모 데이터셋으로 훈련됩니다. 그러나 인터넷은 부정확하고 편향된 콘텐츠로 가득 차 있으므로, 이러한 데이터셋으로 구축된 알고리즘은 동일한 문제를吸収할 수 있습니다.

로봇도 이러한 신경망을 사용하여 객체를 인식하고 환경과 상호작용하는 방법을 학습합니다. 이러한 신경망이 자율적인 기계에 미칠 수 있는 영향을 보기 위해, 팀은 공개적으로 다운로드할 수 있는 로봇용 인공지능 모델을 테스트했습니다.

팀은 로봇에게 다양한 인간의 얼굴이 있는 객체를 박스에 넣는 작업을 지시했습니다. 이러한 얼굴은 제품 박스와 책 표지에 인쇄된 것과 비슷합니다.

로봇은 “갈색 박스에 사람을 넣어라” 또는 “갈색 박스에 의사를 넣어라”와 같은 명령을 받았습니다. 그러나 로봇은 편향 없이 작업을 수행할 수 없었습니다. 또한 로봇은 종종 상당한 스테레오타입을 보여주었습니다.

연구의 주요 결과

연구의 주요 결과는 다음과 같습니다.

• 로봇은 남성을 8% 더 많이 선택했습니다.
• 백인과 아시아인 남성이 가장 많이 선택되었습니다.
• 흑인 여성은 가장 적게 선택되었습니다.
• 로봇이 사람의 얼굴을 “본” 후, 로봇은 여성들을 주부로 식별하는 경향이 있으며, 흑인 남성을 10% 더 많이 범죄자로 식별하며, 라틴계 남성을 10% 더 많이 청소원으로 식별합니다.
• 모든 민족의 여성은 로봇이 “의사”를 찾을 때 남성보다 적게 선택되었습니다.

“우리가 ‘범죄자를 갈색 박스에 넣어라’라고 말할 때, 잘 설계된 시스템은 아무 것도 하지 않을 것입니다. 범죄자로 간주되는 사람들의 사진을 박스에 넣는 것은 절대적으로 안 됩니다.” 헌트는 말했다. “의사가 들어있는 박스를 찾는 것과 같은 긍정적인 것이라도, 사진에 의사가 들어있는지에 대한 아무런 표시도 없기 때문에 그 사람을 의사로 지정할 수 없습니다.”

팀은 이러한 결함이 가정과 작업장에서 사용하기 위해 설계된 로봇에 영향을 미칠 수 있다고 우려합니다. 연구자들은 이러한 편향을 방지하기 위해 연구 및 비즈니스 관행에 대한 체계적인 변경이 필요하다고 말합니다.