USA zaznamenaly první případ nesprávného zatčení kvůli špatnému algoritmu

Minulý týden The New York Times uvedla první případ nesprávného zatčení způsobeného špatným algoritmem ve Spojených státech. Incident se udál v Detroitu, kdy Robert Julian-Borchak Williams, afroamerický muž, byl zatčen poté, co byl falešně identifikován jako osoba na bezpečnostních záznamech, která spáchala krádež.

Americká unie občanských svobod (ACLU) rychle zasáhla a podala stížnost proti detroitské policii. Po tom, co ACLU požadovala, aby byl Williamsův případ zrušen a jeho informace byly odstraněny z trestních databází v Detroitu, žalobci pokračovali v těchto akcích.

Tento vývoj je prvním svého druhu ve Spojených státech a zdůrazňuje vážné obavy, které začínají vznikat po celém světě s používáním technologie rozpoznávání obličeje státem.

Problémy s systémy rozpoznávání obličeje

Systémy rozpoznávání obličeje jsou již nějakou dobu předmětem kontroverze a stávají se stále více diskutovaným tématem mezi těmi, kdo se obávají soukromí a falešných obvinění.

S nedávnými protesty po celé zemi a ve mnoha částech světa proti policejní brutalitě a diskriminaci se tato kontrola ještě zvýšila.

Tyto algoritmy přinesly zcela nový aspekt do vymáhání práva a jsou plné chyb.

Falešné obvinění

Loupež, za kterou byl Williams falešně identifikován, se udál v říjnu 2018. Bezpečnostní video bylo poté nahráno do michiganské státní databáze rozpoznávání obličeje v březnu 2019.

Williamsův foto se podařilo dostat do fotografické řady, kde ho bezpečnostní stráž identifikoval jako toho, kdo spáchal zločin.

Podle ACLU tento stráž nikdy osobně neviděl loupež.

V lednu Williams dostal telefonát od detroitské policie, který ho informoval o jeho zatčení. Když telefonoval jako žert, policie přišla k jeho domu jen hodinu později.

Williams byl poté odvezen do vazební stanice, kde mu byly odebrány otisky prstů, DNA a následně byl držen celou noc na stanici.

Co následovalo, byla výslech za zločin, který nikdy nespáchal, všechno kvůli chybnému systému rozpoznávání.

Williamsův případ byl zrušen dva týdny po jeho zatčení, ale v širším měřítku tento incident znamenal mnohem více a má obrovské důsledky pro soukromí. S rostoucím používáním softwaru pro rozpoznávání obličeje vládami a policejními složkami se tento případ může stát začátkem vážných porušení, která již probíhají v zemích jako Čína, ale dosud nebyly veřejně známy ve Spojených státech.

Jedním z takových porušení je, že Williamsův vzorek DNA, otisky prstů a fotografie jsou nyní všechny na souboru jako přímý výsledek technologie. Nejen to, ale jeho zatčení je také zaznamenáno.

Soukromé společnosti a vymáhání práva

Williamsův případ nastal, když velké společnosti jako IBM, Microsoft (MSFT ) a Amazon (AMZN ) přestaly poskytovat svou technologii rozpoznávání obličeje policejním složkám.

První velkou společností, která tak učinila, byla IBM, když generální ředitel Arvind Krishna poslal dopis Kongresu o přestání nabízet obecnou technologii rozpoznávání obličeje nebo analytický software. Kromě toho společnost zastavila výzkum a vývoj této technologie.

„IBM pevně odmítá a nebude schvalovat použití jakékoliv technologie rozpoznávání obličeje, včetně technologie rozpoznávání obličeje nabízené jinými dodavateli, pro hromadnou surveillanci, rasové profilování, porušování základních lidských práv a svobod nebo jakýkoli účel, který není v souladu s našimi hodnotami a zásadami důvěry a transparentnosti,“ podle dopisu. „Věříme, že nyní je čas zahájit národní diskusi o tom, zda a jak by měla být technologie rozpoznávání obličeje používána domácími policejními agenturami.“

Amazon následoval, když oznámil jednoleté moratorium na používání platformy rozpoznávání obličeje Rekognition policejními složkami.

Oznámení přišlo jen několik dní po IBM rozhodnutí.

Jednou z nejvýznamnějších prací souvisejících s problémem diskriminace a technologií rozpoznávání obličeje byla práce z roku 2018, kterou spoluvytvořili Joy Buolamwini a Timnit Gebru. Buolamwini je výzkumník v MIT Media Lab a Gebru je členkou Microsoft Research.

Práce z roku 2018 zjistila, že „algoritmy strojového učení mohou diskriminovat na základě tříd, jako je rasa a pohlaví“, mezi jinými věcmi.

Případ Roberta Juliana-Borchaka Williamse je extrémně znepokojivý pro mnoho lidí, kteří žijí ve Spojených státech, ale je to také ukazatel toho, co se děje po celém světě. Používání technologie rozpoznávání obličeje vládami a policejními složkami se teprve rozjíždí a je velmi málo toho, co by tomu mohlo zabránit v tom, aby byla používána neeticky. Buď to je čínské široké používání technologie rozpoznávání obličeje pro surveillanci, nebo případ Williamse, který byl falešně identifikován ve Spojených státech, tato technologie otevírá světovou populaci novým porušením soukromí a lidských práv, která dříve neexistovala.