USA ser første tilfelle av urettmessig arrestasjon på grunn av dårlig algoritme

Forrige uke, The New York Times rapporterte den første tilfelle av en urettmessig arrestasjon forårsaket av en dårlig algoritme i USA. Hendelsen skjedde i Detroit da Robert Julian-Borchak Williams, en afroamerikansk mann, ble arrestert etter å ha blitt feilaktig sammenlignet med sikkerhetsbilder som viste en person som begikk butikktyveri. 

Den amerikanske borgerrettighetsorganisasjonen (ACLU) tok raskt aksjon og sendte inn en klage mot Detroit-politiet. Etter at ACLU presset på for at Williams’ sak skulle bli forkastet og hans informasjon fjernet fra kriminaldatabasene i Detroit, gikk aktoratet videre med disse handlingene.

Dette er den første hendelsen av sin type i USA, og den understreker noen alvorlige bekymringer som begynner å oppstå over hele verden med bruk av ansiktsgjenkjenningsteknologi av staten.

Problemer med ansiktsgjenkjenningssystemer

Ansiktsgjenkjenningssystemer har vært et omstridt tema i en stund, og det blir stadig mer debattert blant de som er bekymret for personvern og feilaktige anklager.

Med de nylige protestene over hele landet og i mange deler av verden mot politibrutalitet og diskriminering, har denne skarpeisen bare økt. 

Disse algoritmene har ført til en helt ny dimensjon i lovhåndheving og er full av feil. 

Den feilaktige anklagen

Ranet som Williams ble feilaktig identifisert som havende begått, skjedde i oktober 2018. Overvåkingsvideoen ble deretter lastet opp til Michigans delstats ansiktsgjenkjenningdatabase i mars 2019. 

Williams’ foto kom med i en fotopresentasjon, der en sikkerhetsvakt identifiserte Williams som den som hadde begått forbrytelsen. 

Ifølge ACLU, hadde vakten aldri faktisk vært vitne til ranet førstehånd.

I januar mottok Williams et telefonopppring fra Detroit-politiet som gjorde ham oppmerksom på hans arrestasjon. Da han avviste oppringningen som en spøk, ankom politiet hans hjem bare en time senere.

Williams ble deretter tatt til et forvaringssted hvor han fikk tatt mugshot, fingeravtrykk og DNA, og han ble deretter holdt hele natten på stasjonen. 

Det som fulgte, var en avhøring for en forbrytelse han aldri hadde begått, bare på grunn av et feilaktig gjenkjenningssystem.

Williams’ sak ble forkastet to uker etter hans arrestasjon, men på en større skala, betydde denne hendelsen mye mer og har massive implikasjoner for personvern. Med den økende bruken av ansiktsgjenkjenningssystemer av myndigheter og lovhåndheving, kan denne saken være begynnelsen på alvorlige overtredelser, som allerede har funnet sted i land som Kina, men som ennå ikke har nådd offentligheten i USA.

En slik overtredelse er at Williams’ DNA-prøve, mugshot og fingeravtrykk nå er på fil som en direkte følge av teknologien. Ikke bare det, men hans arrestasjon er også på rekord.

Private selskaper og lovhåndheving

Williams’ sak kommer som store selskaper som IBM, Microsoft og Amazon har stoppet å levere sin ansiktsgjenkjenningsteknologi til lovhåndheving.

Det første store selskapet som gjorde dette, var IBM da CEO Arvind Krishna sendte et brev til Kongressen om å ikke lenger tilby generell ansiktsgjenkjenning eller analyseprogramvare. I tillegg stoppet selskapet all forskning og utvikling av teknologien.

“IBM er sterkt imot og vil ikke godkjenne bruk av noen [ansiktsgjenkjenningsteknologi], inkludert ansiktsgjenkjenningsteknologi tilbudt av andre leverandører, for masseovervåking, rasistisk profilering, overtredelser av grunnleggende menneskerettigheter og friheter, eller noen formål som ikke er i samsvar med våre verdier og prinsipper for tillit og transparens,” ifølge brevet. “Vi mener nå er tiden kommet for å starte en nasjonal dialog om hvorvidt og hvordan ansiktsgjenkjenningsteknologi skal brukes av innenlandske lovhåndhevingsetater.”

Amazon fulgte opp når de kunngjorde en ettårs moratorium på å tillate lovhåndheving å bruke selskapets Rekognition ansiktsgjenkjenningplattform. 

Kunngjøringen kom bare noen dager etter IBMs beslutning.

En av de viktigste arbeidene som er gjort med hensyn til problemet med diskriminering og ansiktsgjenkjenningsteknologi, var en 2018-artikkel skrevet av Joy Buolamwini og Timnit Gebru. Buolamwini er en forsker ved MIT Media Lab, og Gebru er medlem ved Microsoft Research. 

2018-artikkelen fant at “maskinlæringsalgoritmer kan diskriminere basert på klasser som rase og kjønn,” blant annet. 

Saken til Robert Julian-Borchak Williams er ekstremt bekymringsverdig for mange som bor i USA, men det er også en indikator på hva som skjer over hele verden. Bruken av ansiktsgjenkjenningsteknologi av myndigheter og lovhåndhevingsetater er bare i gang, og det er svært lite på plass for å forhindre at det brukes uetisk. Enten det er Kinas omfattende bruk av ansiktsgjenkjenningsteknologi for overvåking, eller saken til Williams som ble feilaktig identifisert i USA, åpner teknologien opp verden for en rekke nye personverns- og menneskerettighetsbrudd som tidligere ikke eksisterte.