Yhdysvallat näki ensimmäisen tapauksen virheellisestä pidätyksestä huonon algoritmin vuoksi

Viime viikolla The New York Times raportoi ensimmäisestä tapauksesta, jossa huono algoritmi aiheutti virheellisen pidätyksen Yhdysvalloissa. Tapaus sattui Detroitissa, kun Robert Julian-Borchak Williams, afroamerikkalainen mies, pidätettiin, kun hänet virheellisesti tunnistettiin turvallisuuskameran kuvamateriaaliin, jossa näkyi henkilö, joka teki kaapparinryöstön. 

Amerikan kansalaisvapausjärjestö (ACLU) ryhtyi välittömästi toimiin ja jätti valituksen Detroitin poliisille. Kun ACLU vaati Williamsin tapauksen hylkäämistä ja hänen tietojensa poistamista Detroitin rikosrekistereistä, syyttäjät suostuivat tähän.

Tämä kehitys on ensimmäinen laatuaan Yhdysvalloissa, ja se korostaa joitakin vakavia huolenaiheita, jotka ovat alkaneet ilmetä maailmanlaajuisesti valtion käytettyä kasvojentunnistusteknologiaa.

Ongelmat kasvojentunnistusjärjestelmissä

Kasvojentunnistusjärjestelmät ovat olleet kiistanalaisia jonkin aikaa, ja ne ovat yhä enenevissä määrin kiistelyn aihe yksityisyyden ja virheellisten syytösten suhteen.

Viimeaikaisien mielenosoitusten myötä ympäri maata ja maailmaa poliisiväkivallan ja syrjinnän vastaisesti, tarkastelua on alettu tehostaa.

Nämä algoritmit ovat tuoneet uuden ulottuvuuden lainvalvontaan ja ne ovat täynnä virheitä. 

Virheellinen syytös

Ryöstö, josta Williamsia virheellisesti epäiltiin, tapahtui lokakuussa 2018. Valvontavideo ladattiin Michiganin osavaltion kasvojentunnistusrekisteriin maaliskuussa 2019. 

Williamsin valokuva pääsi valokuvavalikoimaan, jossa turvallisuusvartija tunnisti Williamsin rikoksen tekijäksi. 

ACLU:n mukaan vartija ei ollut todistamassa ryöstöä itse.

Tammikuussa Williams vastaanotti puhelun Detroitin poliisilaitoksesta, jossa hänen kerrottiin olevan pidätettynä. Kun hän luuli puhelua pilapuheluksi, poliisi saapui hänen kotiinsa vain tunnin kuluttua.

Williams vietiin pidätyskeskukseen, jossa häneltä otettiin valokuva, sormenjäljet ja DNA-näyte, ja hänet pidettiin yötä poliisiasemalla. 

Tämän jälkeen seurasi kuulustelu rikoksesta, jota hän ei ollut tehnyt, kaiken aikaa virheellisen tunnistusjärjestelmän vuoksi.

Williamsin tapaus hylättiin kaksi viikkoa pidätyksen jälkeen, mutta laajemmassa mittakaavassa tämä tapaus merkitsi paljon enemmän ja sillä on suuria vaikutuksia yksityisyyteen. Kasvojentunnistusohjelmistojen käytön lisääntyessä hallitusten ja lainvalvontaviranomaisten keskuudessa tämä tapaus voi olla alkuna vakaville loukkauksille, jotka ovat jo alkaneet toteutua maissa kuten Kiinassa, mutta eivät ole vielä saavuttaneet julkista tietoisuutta Yhdysvalloissa.

Yksi tällainen loukkaus on, että Williamsin DNA-näyte, valokuva ja sormenjäljet ovat nyt kaikki tiedostossa suoraan teknologian seurauksena. Ei pelkästään tämä, vaan myös hänen pidätyksensä on kirjattu.

Yksityiset yritykset ja lainvalvonta

Williamsin tapaus tuli julki, kun suuret yritykset kuten IBM, Microsoft ja Amazon lopettivat kasvojentunnistusteknologiansa toimittamisen lainvalvontaviranomaisille.

Ensimmäinen suuri yritys, joka teki tämän, oli IBM, kun toimitusjohtaja Arvind Krishna lähetti kirjeen kongressille, jossa kerrottiin, että yleispätevän kasvojentunnistuksen tai analyysiohjelmistojen tarjoaminen lopetetaan. Lisäksi yritys lopetti teknologian tutkimuksen ja kehittämisen.

”IBM vastustaa jyrkästi ja ei hyväksy minkäänlaista [kasvojentunnistus]tekniikan käyttöä, mukaan lukien muiden toimittajien tarjoamaa kasvojentunnistusteknologiaa, joukkotarkkailuun, rotuprofilointiin, perusihmisoikeuksien ja vapauksien loukkaamiseen tai mihin tahansa tarkoitukseen, joka ei ole yhdenmukainen arvojemme ja Luottamuksen ja avoimuuden periaatteiden kanssa”, kirjeessä sanotaan. ”Uskomme, että nyt on aika aloittaa kansallinen keskustelu siitä, pitäisikö kasvojentunnistusteknologiaa käyttää kotimaisten lainvalvontaviranomaisten toiminnassa.”

Amazon seurasi perässä, kun se ilmoitti vuoden moratorion poliisin käytölle yrityksen Rekognition-kasvojentunnistusalustalla. 

Ilmoitus tehtiin vain muutama päivä IBM:n päätöksen jälkeen.

Yksi tärkeimmistä töistä, jotka on tehty syrjinnän ja kasvojentunnistusteknologian ongelman suhteen, oli 2018 tutkimus, jonka tekijöinä olivat Joy Buolamwini ja Timnit Gebru. Buolamwini on tutkija MIT Media Labissa, ja Gebru on jäsen Microsoft Researchissa. 

Vuoden 2018 tutkimuksessa todettiin, että ”konenäköalgoritmit voivat syrjiä perustuen luokkiin kuten rotuun ja sukupuoleen”, muun muassa. 

Robert Julian-Borchak Williamsin tapaus on erittäin huolestuttava monille, jotka asuvat Yhdysvalloissa, mutta se on myös osoitus siitä, mitä tapahtuu maailmanlaajuisesti. Kasvojentunnistusteknologian käyttö hallitusten ja lainvalvontaviranomaisten toiminnassa on vasta alkamassa, ja siitä ei ole vielä paljon sääntelyä. Olipa kyseessä Kiinan laaja käyttö kasvojentunnistusteknologiaa valvontaan tai Williamsin tapaus, jossa hänet virheellisesti tunnistettiin Yhdysvalloissa, teknologia avaa maailman väestölle uuden joukon yksityisyyden ja ihmisoikeuksien loukkaamisia, joita ei aiemmin ollut olemassa.