미국에서 처음으로 잘못된 알고리즘으로 인한 잘못된 체포 사례 발생

지난 주, 뉴욕 타임즈는 미국에서 처음으로 잘못된 알고리즘으로 인한 잘못된 체포 사례를 보도했습니다. 이 사건은 디트로이트에서 발생했으며, 로버트 줄리안-보르차크 윌리엄스라는 아프리카계 미국인 남성이 가게 절도범으로 잘못 식별되어 체포되었습니다.

미국 시민 자유 연합(ACLU)은 즉시 행동을 취해 디트로이트 경찰에 대한 고소를 제기했습니다. 윌리엄스의 경우가 기각되고 디트로이트의 범죄 데이터베이스에서 그의 정보가 삭제되도록 ACLU가 압력을 행사한 후, 검찰은 그 요청을 수락했습니다.

이 사건은 미국에서 처음으로 발생한 것으로, 세계적으로 국가가 얼굴 인식 기술을 사용하는 것과 관련된 심각한 문제를 고조시키고 있습니다.

얼굴 인식 시스템의 문제점

얼굴 인식 시스템은 이미 논란의 대상이었습니다. 최근 미국과 세계 여러 곳에서 경찰의 폭력과 차별에 대한 시위가 벌어지면서, 그 논란은 더욱 커졌습니다.

이 기술은 새로운 측면을 법 집행에 가져왔지만, 많은 결점을 가지고 있습니다.

이러한 알고리즘은 새로운 문제를 가져왔습니다.

거짓 고소

윌리엄스가 잘못 식별된 절도 사건은 2018년 10월에 발생했습니다. 감시 카메라 영像是 2019년 3월에 미시간 주의 얼굴 인식 데이터베이스에 업로드되었습니다.

윌리엄스의 사진은 사진 라인업에 포함되었고, 보안 경비원이 그를 범인으로 식별했습니다.

ACLU에 따르면, 그 경비원은 실제로 절도를 목격하지 못했습니다.

1월에 윌리엄스는 디트로이트 경찰서로부터 체포 사실을 통보받았습니다. 그는 그 전화 통화를 장난으로 생각했지만, 1시간 후 경찰이 그의 집에 나타났습니다.

윌리엄스는 구금 센터로 연행되어 모자이크 사진, 지문, DNA를 채취한 후, 그날 밤 경찰서에서 구금되었습니다.

그 후에 그는 범죄를 저지르지 않았음에도 불구하고, 잘못된 식별으로 인해 심문을 받았습니다.

윌리엄스의 사건은 체포 후 2주 만에 기각되었습니다. 그러나 더 큰 규모에서 볼 때, 이 사건은 개인 정보 보호와 관련된 심각한 문제를 나타냅니다. 정부와 법 집행 기관이 얼굴 인식 소프트웨어를 사용하는 경우가 증가하고 있습니다. 이 사건은 중국과 같은 국가에서 이미 발생하고 있는 심각한 문제의 시작일 수 있습니다.

윌리엄스의 경우, 그의 DNA 샘플, 모자이크 사진, 지문이 모두 기술의 직접적인 결과로 파일에 저장되었습니다. 또한 그의 체포 기록도 남아 있습니다.

사립 회사가 법 집행 기관과 협력

윌리엄스의 사건은 IBM, 마이크로소프트, 아마존과 같은 주요 회사들이 법 집행 기관에 얼굴 인식 기술을 제공하지 않겠다고 발표한 이후 발생했습니다.

첫 번째로 이러한 결정을 내린 회사는 IBM이었으며, CEO 아빈드 크리슈나는 의회에 일반적인 얼굴 인식 또는 분석 소프트웨어를 더 이상 제공하지 않겠다고 밝혔습니다. 또한 회사에서는 이 기술의 연구와 개발을 중단했습니다.

“IBM은 모든 얼굴 인식 기술,包括 다른 벤더의 얼굴 인식 기술,을 대량 감시, 인종 차별, 기본적 인권과 자유의 침해, 또는 우리의 가치와 투명성의 원칙과 일치하지 않는 목적으로 사용하는 것을 강력히 반대합니다. 우리는 국내 법 집행 기관이 얼굴 인식 기술을 사용해야 하는지 여부와 방법에 대한 국가적 대화를 시작할 때가 되었다고 믿습니다.”라고 회사는 밝혔습니다.

아마존은 법 집행 기관이 회사의 Rekognition 얼굴 인식 플랫폼을 사용하는 것을 1년 동안 중단한다고 발표했습니다.

이 발표는 IBM의 결정 직후 이루어졌습니다.

얼굴 인식 기술과 차별 문제에 관한 가장 중요한 연구 중 하나는 2018년 조이 부올라무비니와 팀니트 게브루가 공동으로 수행한 연구입니다. 부올라무비니는 MIT 미디어 랩의 연구원이며, 게브루는 마이크로소프트 연구소의 회원입니다.

2018년의 연구에 따르면, “기계 학습 알고리즘은 인종과 성별과 같은 클래스를 기반으로 차별할 수 있습니다.”

로버트 줄리안-보르차크 윌리엄스의 경우는 미국에 거주하는 많은 사람들에게 매우 우려되는 사례입니다. 그러나 이것은 전 세계적으로 발생하는 일의 시작일 수 있습니다. 정부와 법 집행 기관이 얼굴 인식 기술을 사용하는 경우는 이제 막 시작되고 있으며, 이를 비윤리적으로 사용하는 것을 막을 수 있는 규제는 거의 없습니다. 중국의 광범위한 감시 또는 미국에서 윌리엄스가 잘못 식별된 경우와 같이, 이 기술은 이전에 존재하지 않았던 새로운 개인 정보 보호와 인권 침해의 가능성을 세계 인구에게 제공합니다.