์ธ๊ณต์ง๋ฅ
๋ฏธ๊ตญ์์ ์๋ชป๋ ์๊ณ ๋ฆฌ์ฆ์ผ๋ก ์ธํ ์ฒซ ์๋ชป๋ ๊ตฌ๊ธ ์ฌ๋ก ๋ฐ์
지난 주, 뉴욕 타임즈는 미국에서 잘못된 알고리즘으로 인한 첫 잘못된 구금 사례를 보도했다. 이 사건은 디트로이트에서 로버트 줄리안-보르차크 윌리엄스(Robert Julian-Borchak Williams)라는 아프리카계 미국인 남성이 가짜로 매칭된 보안 영상으로 인해 구금되었다.
미국 시민 자유 연합(ACLU)은 즉시 조치를 취하고 디트로이트 경찰에 대한 불만을 제기했다. 윌리엄스의 사건을 기각하고 디트로이트의 범죄 데이터베이스에서 그의 정보를 삭제하도록 ACLU가 압력을 행사한 후 검찰은 그 조치를 취했다.
이 개발은 미국에서 처음 있는 일이며, 국가가 얼굴 인식 기술을 사용함으로써 발생하는 심각한 문제를 강조한다.
얼굴 인식 시스템의 문제
얼굴 인식 시스템은 오래전부터 논란의 대상이 되어 왔으며, 프라이버시와 잘못된 고발에 대해 우려하는 사람들 사이에서 점점 더 논쟁의 대상이 되고 있다.
최근 미국과 전 세계에서 경찰의 폭력과 차별에 대한 시위가 발생함에 따라 이러한 우려는 더욱 증가했다.
이러한 알고리즘은 법 집행에 새로운 측면을 가져왔으며 많은 결점이 있다.
잘못된 고발
윌리엄스가 가짜로 고발된 강도 사건은 2018년 10월에 발생했다. 감시 비디오는 2019년 3월에 미시간 주의 얼굴 인식 데이터베이스에 업로드되었다.
윌리엄스의 사진은 사진 배열에 포함되었으며, 보안 경비원이 그를 범죄자로 확인했다.
ACLU에 따르면, 그 경비원은 실제로 강도 사건을 목격하지 않았다.
1월, 윌리엄스는 디트로이트 경찰서로부터 구금되었다는 전화 통화를 받았다. 그는 그것을 장난전화로 생각했지만, 1시간 후 경찰이 그의 집에 도착했다.
윌리엄스는 구금 센터로 끌려가서 그의 무고 사진, 지문, DNA를 채취했으며, 그 후 경찰서에서 밤을 보냈다.
그 후에 그는 범죄를 저지르지 않았음에도 불구하고 조사를 받았다. 모두 잘못된 인식 시스템으로 인해 발생한 일이었다.
윌리엄스의 사건은 구금 후 2주 만에 기각되었지만, 더 큰 규모에서 이 사건은 프라이버시에 대한重大한 의미를 가지고 있다. 정부와 법 집행 기관이 얼굴 인식 소프트웨어를 사용하는 경우가 증가함에 따라 이 사건은 심각한 위반의 시작일 수 있다. 중국과 같은 국가에서는 이미 이러한 위반이 발생하고 있지만, 미국에서는 아직 공공연하게 발생하지 않았다.
윌리엄스의 DNA 샘플, 무고 사진, 지문이 모두 기술의 직접적인 결과로 파일에 저장되어 있다. 또한 그의 구금 기록도 남아 있다.
개인 회사와 법 집행
윌리엄스의 사건은 주요 회사들인 IBM, Microsoft, Amazon이 법 집행 기관에 얼굴 인식 기술을 제공하는 것을 중단한 후 발생했다.
첫 번째로这样한 회사는 IBM이었으며, CEO 아빈드 크리슈나는 의회에 일반적인 목적의 얼굴 인식 또는 분석 소프트웨어를 더 이상 제공하지 않겠다고 밝혔다. 또한 회사는 기술의 연구와 개발을 중단했다.
“IBM은 강력하게 반대하며, 다른 벤더가 제공하는 얼굴 인식 기술을 포함한 모든 [얼굴 인식] 기술의 사용을 금지한다. 대량 감시, 인종 프로파일링, 기본적인 인권과 자유의 침해, 또는 우리의 가치와 투명성의 원칙과 일치하지 않는 모든 목적에 대한 사용을 금지한다”고 회사는 밝혔다. “우리는 지금이 국내 법 집행 기관이 얼굴 인식 기술을 사용해야 하는지 여부와 방법에 대한 국가적 대화를 시작할 때가 되었다고 믿는다.”
Amazon은 법 집행 기관이 회사의 Rekognition 얼굴 인식 플랫폼을 사용하는 것을 1년 동안 중단한다고 발표했다.
이 발표는 IBM의 결정 후 며칠 만에 이루어졌다.
얼굴 인식 기술과 차별에 관한 문제에서 가장 중요한 연구는 2018년에 조이 부올라무비니와 팀니트 게브루가 공동으로 수행한 연구이다. 부올라무비니는 MIT 미디어 랩의 연구원이며, 게브루는 Microsoft 연구소의 회원이다.
2018年的 연구에서는 “기계 학습 알고리즘은 인종과 성별과 같은 클래스를 기반으로 차별할 수 있다”고 밝혔다.
로버트 줄리안-보르차크 윌리엄스의 사건은 미국에 거주하는 많은 사람들에게 매우 우려되는 문제이지만, 이것은全球적으로 발생하는 일의 지표이기도 하다. 정부와 법 집행 기관이 얼굴 인식 기술을 사용하는 것은 이제 막 시작되었으며, 이를 불법적으로 사용하지 못하도록 방지하는 것이 거의 없다. 중국의 얼굴 인식 기술을 사용한 감시 또는 미국의 윌리엄스 사건과 같은 잘못된 확인과 같은 기술은 이전에 존재하지 않았던 프라이버시와 인권 침해의 새로운 집합을 세계 인구에게 노출시킨다.
