Stati Uniti: primo caso di arresto illegittimo a causa di un algoritmo difettoso

La scorsa settimana, il New York Times ha riportato il primo caso di arresto illegittimo causato da un algoritmo difettoso negli Stati Uniti. L’incidente si è verificato a Detroit quando Robert Julian-Borchak Williams, un uomo afroamericano, è stato arrestato dopo essere stato falsamente identificato in un video di sorveglianza che mostrava un individuo che commetteva un furto.

L’American Civil Liberties Union (ACLU) ha rapidamente preso azione e presentato una denuncia contro la polizia di Detroit. Dopo che l’ACLU ha chiesto che il caso di Williams fosse archiviato e le sue informazioni fossero rimosse dalle banche dati criminali di Detroit, i procuratori hanno proceduto a quelle azioni.

Questo sviluppo è il primo del suo genere negli Stati Uniti e mette in luce alcune preoccupazioni serie che stanno iniziando a sorgere in tutto il mondo con l’uso della tecnologia di riconoscimento facciale da parte dello stato.

Problemi con i sistemi di riconoscimento facciale

I sistemi di riconoscimento facciale sono stati oggetto di controversia per un po’ di tempo, diventando sempre più un punto di dibattito tra coloro che sono preoccupati per la privacy e le false accuse.

Con le recenti proteste in tutto il paese e in molte parti del mondo contro la brutalità della polizia e la discriminazione, quella scrutinio è solo aumentato.

Questi algoritmi hanno portato un nuovo aspetto alla applicazione della legge e sono pieni di difetti.

L’accusa falsa

Il furto per cui Williams è stato falsamente identificato si è verificato nel ottobre 2018. Il video di sorveglianza è stato poi caricato nel database di riconoscimento facciale dello stato del Michigan nel marzo 2019.

La foto di Williams è riuscita a finire in una lineup di foto, dove un guardia di sicurezza ha identificato Williams come colui che ha commesso il crimine.

Secondo l’ACLU, quel guardia non ha mai realmente testimoniato il furto di persona.

A gennaio, Williams ha ricevuto una telefonata dal dipartimento di polizia di Detroit che lo informava del suo arresto. Quando ha ignorato la chiamata come uno scherzo, la polizia è arrivata a casa sua solo un’ora dopo.

Williams è stato poi portato in un centro di detenzione dove gli sono state prese le impronte digitali, il DNA e la foto segnaletica, e è stato successivamente trattenuto tutta la notte alla stazione.

Quello che è seguito è stato un interrogatorio per un crimine che non ha mai commesso, tutto a causa di un sistema di riconoscimento difettoso.

Il caso di Williams è stato archiviato due settimane dopo il suo arresto, ma su una scala più grande, questo incidente ha significato molto di più e ha implicazioni massive per la privacy. Con l’uso crescente di software di riconoscimento facciale da parte dei governi e delle agenzie di applicazione della legge, questo caso potrebbe essere l’inizio di gravi violazioni, che già si stanno verificando in nazioni come la Cina ma che non sono ancora arrivate negli Stati Uniti, almeno secondo la conoscenza pubblica.

Una di queste violazioni è che il campione di DNA di Williams, la sua foto segnaletica e le sue impronte digitali sono ora tutte in archivio come risultato diretto della tecnologia. Non solo, ma il suo arresto è anche registrato.

Aziende private e applicazione della legge

Il caso di Williams arriva mentre grandi aziende come IBM, Microsoft (MSFT ) e Amazon (AMZN ) hanno smesso di fornire la loro tecnologia di riconoscimento facciale alle agenzie di applicazione della legge.

La prima grande azienda a farlo è stata IBM quando il CEO Arvind Krishna ha inviato una lettera al Congresso su non offrire più software di riconoscimento facciale o analisi di scopo generale. Inoltre, l’azienda ha interrotto la ricerca e lo sviluppo della tecnologia.

“IBM si oppone fermamente e non tollererà l’uso di alcuna tecnologia di riconoscimento facciale, compresa la tecnologia di riconoscimento facciale offerta da altri fornitori, per la sorveglianza di massa, la profilazione razziale, le violazioni dei diritti umani e delle libertà fondamentali, o per qualsiasi scopo che non sia coerente con i nostri valori e principi di fiducia e trasparenza”, secondo la lettera. “Crediamo che ora sia il momento di iniziare un dibattito nazionale su come e se la tecnologia di riconoscimento facciale debba essere utilizzata dalle agenzie di applicazione della legge domestiche.”

Amazon ha seguito l’esempio quando ha annunciato una moratoria di un anno sull’uso della piattaforma di riconoscimento facciale Rekognition da parte delle agenzie di applicazione della legge.

L’annuncio è arrivato solo pochi giorni dopo la decisione di IBM.

Uno dei lavori più importanti riguardo al problema della discriminazione e della tecnologia di riconoscimento facciale è stato un documento del 2018 coautore da Joy Buolamwini e Timnit Gebru. Buolamwini è un ricercatore al MIT Media Lab, e Gebru è un membro di Microsoft Research.

Il documento del 2018 ha scoperto che “gli algoritmi di apprendimento automatico possono discriminare in base a classi come razza e genere”, tra le altre cose.

Il caso di Robert Julian-Borchak Williams è estremamente preoccupante per molti che vivono negli Stati Uniti, ma è anche un indicatore di ciò che sta accadendo in tutto il mondo. L’uso della tecnologia di riconoscimento facciale da parte dei governi e delle agenzie di applicazione della legge sta solo iniziando, e c’è molto poco in atto per prevenirne l’uso non etico. Se si tratta dell’uso diffuso della tecnologia di riconoscimento facciale da parte della Cina per la sorveglianza, o del caso di Williams che è stato falsamente identificato negli Stati Uniti, la tecnologia apre la popolazione mondiale a un nuovo insieme di violazioni della privacy e dei diritti umani che in precedenza non esistevano.