AI 윤리 연합, 범죄 예측 알고리즘의 범죄성 판단에 반대

화요일, 여러 AI 연구자, 윤리학자, 데이터 과학자, 사회 과학자가 블로그 게시글을 통해 학술 연구자들이 개인의 범죄 가능성을 예측하는 연구를 중단해야 한다고 주장했다. 이 연구는 범죄 통계와 얼굴 스캔 gibi 변수를 기반으로 한다.

블로그 게시글은 Coalition for Critical Technology가 작성했으며, 이러한 알고리즘은 소수자에 대한 편견을 조장한다고 주장했다. 얼굴 인식과 예측 경찰 알고리즘의 효과에 대한 많은 연구는 이러한 알고리즘이 소수자에게 더 가혹한 판단을 내린다고 발견했다. Coalition for Critical Technology는 이러한 알고리즘이 편향된 데이터에 기반하여 편향된 결과를 내놓으며, 이는 사법 시스템의 불균형으로 인한 것이라고 주장한다. 연합은 “범죄성”의 개념이 종종 인종에 기반하여 정의되며, 이러한 기술에 대한 연구는 알고리즘의 중립성을 가정하지만, 실제로는 그러한 중립성이 존재하지 않는다고 주장한다.

The Verge의 보도에 따르면, 학술 작품을 출판하는 대형 출판사인 Springer는 “이미지 처리를 사용한 범죄성 예측을 위한 깊은 신경망 모델”이라는 연구를 출판할 계획이었다. 연구자들은 편향이 없는 얼굴 인식 알고리즘을 개발하여 개인의 범죄 가능성을 약 80%의 정확도로 예측할 수 있다고 주장했다. 그러나 Coalition for Critical Technology는 Springer에게 연구를 출판하지 말거나 tương似的 연구를 출판하지 말라고 공개 서한을 보냈다.

“이 연구의 출판은 주요 출판사인 Springer를 통해 반복적으로 논박된, 사회적으로 유해한 연구가 실제 세계에서 합법화되고 적용되는 중요한 단계가 될 것”이라고 연합은 주장한다.

Springer는 연구를 출판하지 않을 것이라고 밝혔으며, MIT Technology Review에 따르면, 이 논문은 향후 회의에 제출되었지만, 심사 과정에서 출판을 거부했다.

Coalition for Critical Technology는 범죄성 예측 논문이 더 큰, 유해한 경향의 단 하나의 예시라고 주장한다. 이 경향은 AI 엔지니어와 연구자들이 사회적으로 구성된 변수로 구성된 데이터를 기반으로 행동을 예측하려고 하는 것이다. 연합은 많은 연구가 과학적으로 의심스러운 아이디어와 이론에 기반하고 있으며, 생물학과 심리학에서 उपलब한 증거에 의해 지원되지 않는다고 주장한다. 예를 들어, 프린스턴과 구글의 연구자들은 기사를 발표하여 얼굴 특징을 기반으로 범죄성 예측을 주장하는 알고리즘이 불신할 수 있는 유사과학에 기반하고 있다고 경고했다.

최근 블랙 라이브스 매터 운동의 추세는 많은 회사들이 얼굴 인식 알고리즘의 사용을 재評価하도록 했다. 연구에 따르면, 이러한 알고리즘은 자주 편향되어 있으며, 대표성이 없는, 편향된 훈련 데이터에 기반하고 있다.

서한의 서명인들은 범죄성 예측 알고리즘 연구를 중단해야 한다고 주장하면서, 연구자들이 AI 모델의 성공을 평가하는 방법을 재평가해야 한다고 추천했다. 연합 회원들은 알고리즘의 사회적 영향이 성공의 지표가 되어야 한다고 주장한다. 연합의 회원들은 다음과 같이 작성했다.

“기계 학습이 보도와 언론 보도에서 주장하는 ‘사회적善’을 가져오기 위해서는, 이 분야의 연구자들은 그들의 연구를 가능하게 하는 권력 구조와 그에 따른 억압을 적극적으로 반성해야 한다.”