EUA Veem Primeiro Caso de Prisão Ilegal Devido a um Algoritmo Ruim

Na semana passada, o New York Times relatou o primeiro caso de prisão ilegal causada por um algoritmo ruim nos Estados Unidos. O incidente ocorreu em Detroit quando Robert Julian-Borchak Williams, um homem afro-americano, foi preso após ser falsamente identificado como o indivíduo que cometeu um roubo em uma loja.

A União Americana pelas Liberdades Civis (ACLU) rapidamente tomou medidas e apresentou uma queixa contra a polícia de Detroit. Após a ACLU exigir que o caso de Williams fosse arquivado e suas informações fossem removidas dos bancos de dados criminais em Detroit, os promotores seguiram em frente com essas ações.

Esse desenvolvimento é o primeiro do seu tipo nos Estados Unidos e destaca algumas preocupações sérias que estão começando a surgir em todo o mundo com o uso de tecnologia de reconhecimento facial pelo Estado.

Problemas com Sistemas de Reconhecimento Facial

Sistemas de reconhecimento facial têm sido um tema de controvérsia por um tempo, tornando-se cada vez mais um ponto de debate entre aqueles que se preocupam com a privacidade e as falsas acusações.

Com os recentes protestos em todo o país e em muitas partes do mundo contra a brutalidade policial e a discriminação, essa escrutínio só aumentou.

Esses algoritmos trouxeram um novo aspecto para a aplicação da lei e estão cheios de falhas.

A Falsa Acusação

O roubo pelo qual Williams foi falsamente identificado ocorreu em outubro de 2018. O vídeo de vigilância foi então carregado no banco de dados de reconhecimento facial do estado de Michigan em março de 2019.

A foto de Williams conseguiu entrar em uma linha de reconhecimento, onde um segurança o identificou como o autor do crime.

De acordo com a ACLU, o segurança nunca realmente testemunhou o roubo pessoalmente.

Em janeiro, Williams recebeu uma ligação do Departamento de Polícia de Detroit informando-o de sua prisão. Quando ele descartou a ligação como uma brincadeira, a polícia chegou à sua casa apenas uma hora depois.

Williams foi então levado a um centro de detenção, onde teve sua foto, impressões digitais e DNA coletados, e foi subsequentemente detido a noite toda na estação.

O que se seguiu foi um interrogatório por um crime que ele nunca cometeu, tudo devido a um sistema de reconhecimento defeituoso.

O caso de Williams foi arquivado duas semanas após sua prisão, mas em uma escala maior, esse incidente significou muito mais e tem implicações enormes para a privacidade. Com o uso crescente de software de reconhecimento facial por governos e agências de aplicação da lei, esse caso pode ser o início de sérias violações, que já estão ocorrendo em nações como a China, mas ainda não chegaram aos EUA, pelo menos ao conhecimento do público.

Uma dessas violações é que a amostra de DNA, a foto e as impressões digitais de Williams agora estão arquivadas como resultado direto da tecnologia. Além disso, sua prisão está registrada.

Empresas Privadas e Aplicação da Lei

O caso de Williams ocorre quando grandes empresas como IBM, Microsoft (MSFT ) e Amazon (AMZN ) pararam de fornecer sua tecnologia de reconhecimento facial para as agências de aplicação da lei.

A primeira grande empresa a fazê-lo foi a IBM, quando o CEO Arvind Krishna enviou uma carta ao Congresso sobre não oferecer mais software ou análise de reconhecimento facial de propósito geral. Além disso, a empresa interrompeu sua pesquisa e desenvolvimento da tecnologia.

“A IBM se opõe firmemente e não tolerará o uso de qualquer tecnologia de reconhecimento facial, incluindo a tecnologia de reconhecimento facial oferecida por outros fornecedores, para vigilância em massa, perfil racial, violações de direitos humanos e liberdades básicas, ou qualquer propósito que não seja consistente com nossos valores e Princípios de Confiança e Transparência”, de acordo com a carta. “Acreditamos que agora é o momento de iniciar um diálogo nacional sobre se e como a tecnologia de reconhecimento facial deve ser empregada pelas agências de aplicação da lei doméstica.”

A Amazon seguiu o exemplo quando anunciou uma moratória de um ano sobre permitir que as agências de aplicação da lei usem a plataforma de reconhecimento facial Rekognition da empresa.

O anúncio veio apenas alguns dias após a decisão da IBM.

Um dos trabalhos mais importantes feitos sobre a questão da discriminação e tecnologia de reconhecimento facial foi um artigo de 2018 co-escrito por Joy Buolamwini e Timnit Gebru. Buolamwini é uma pesquisadora no MIT Media Lab, e Gebru é uma membro da Microsoft Research.

O artigo de 2018 descobriu que “algoritmos de aprendizado de máquina podem discriminar com base em classes como raça e gênero”, entre outras coisas.

O caso de Robert Julian-Borchak Williams é extremamente preocupante para muitos que vivem nos Estados Unidos, mas também é um indicador do que está acontecendo em todo o mundo. O uso de tecnologia de reconhecimento facial por governos e agências de aplicação da lei está apenas começando, e há muito pouco em vigor para evitar que seja usado de forma antiética. Seja o uso generalizado da tecnologia de reconhecimento facial pela China para vigilância, ou o caso de Williams sendo falsamente identificado nos Estados Unidos, a tecnologia abre a população mundial para um conjunto de novas violações de privacidade e direitos humanos que anteriormente não existiam.