Yhdysvallat näkee ensimmäisen tapauksen väärästä pidätyksestä huonon algoritmin vuoksi

Viime viikolla The New York Times raportoi ensimmäisen tapauksen väärästä pidätyksestä, joka johtui huonosta algoritmista Yhdysvalloissa. Tapaus tapahtui Detroitissa, kun Robert Julian-Borchak Williams, afroamerikkalainen mies, pidätettiin, kun hänet virheellisesti tunnistettiin turvallisuuskameran kuvasta, jossa näkyi henkilö, joka teki kaappauksen.

Amerikan kansalaisvapausjärjestö (ACLU) ryhtyi nopeasti toimiin ja jätti valituksen Detroitin poliisille. Kun ACLU vaati Williamsin tapauksen hylkäämistä ja hänen tietojensa poistamista Detroitin rikosrekisteristä, syyttäjät suorittivat nämä toimenpiteet.

Tämä kehitys on ensimmäinen laatuaan Yhdysvalloissa, ja se korostaa joitakin vakavia huolenaiheita, jotka alkavat nousta esiin ympäri maailmaa valtion käytettyä kasvojentunnistusteknologiaa.

Kasvojentunnistusjärjestelmien ongelmat

Kasvojentunnistusjärjestelmät ovat olleet kiistanalaisia jo jonkin aikaa, ja ne ovat yhä enemmän kiistelyn aiheena niiden huolenaiheiden vuoksi, jotka liittyvät yksityisyyteen ja väärään syytöksiin.

Viimeaikaisien mielenosoitusten myötä ympäri maata ja maailmaa poliisiväkivaltaa ja syrjintää vastaan, tarkastelu on vain lisääntynyt.

Nämä algoritmit ovat tuoneet uuden ulottuvuuden lainvalvontaan ja ne ovat täynnä virheitä.

Väärä syytös

Ryöstö, josta Williamsia väärin syytettiin, tapahtui lokakuussa 2018. Valvontavideo ladattiin Michiganin osavaltion kasvojentunnistustietokantaan maaliskuussa 2019.

Williamsin valokuva pääsi valokuvavalikoimaan, jossa turvallisuusvartija tunnisti Williamsin rikoksen tekijäksi.

ACLU:n mukaan vartija ei ollut todistanut ryöstöä suoraan.

Tammikuussa Williams sai puhelun Detroitin poliisilaitokselta, jossa hänen kerrottiin olevan pidätettynä. Kun hän luuli puhelua pilana, poliisi saapui hänen kotiinsa vain tunnin kuluttua.

Williams vietiin pidätyskeskukseen, jossa häneltä otettiin valokuva, sormenjäljet ja DNA-näyte, ja hänet pidätettiin yöksi asemalla.

Tämän jälkeen seurasi kuulustelu rikoksesta, jota hän ei ollut tehnyt, kaiken tämän vuoksi huonon kasvojentunnistusjärjestelmän takia.

Williamsin tapaus hylättiin kaksi viikkoa pidätyksestä, mutta laajemmassa mittakaavassa tämä tapaus merkitsi paljon enemmän ja sillä on suuria vaikutuksia yksityisyyteen. Kasvojentunnistusohjelmistojen käytön lisääntyessä hallitusten ja lainvalvontaviranomaisten keskuudessa, tämä tapaus voi olla alku vakaville rikkomuksille, jotka ovat jo alkaneet Kiinassa, mutta eivät ole vielä tulleet julki Yhdysvalloissa.

Yksi tällainen rikkomus on, että Williamsin DNA-näyte, valokuva ja sormenjäljet ovat nyt kaikki tiedostossa suoraan teknologian seurauksena. Hänen pidätyksensä on myös kirjattu.

Yksityiset yritykset ja lainvalvonta

Williamsin tapaus tuli suurten yritysten, kuten IBM, Microsoftin ja Amazonin, lopettaneen kasvojentunnistusteknologian toimittamisen lainvalvontaviranomaisille.

Ensimmäinen suuri yritys, joka teki tämän, oli IBM, kun toimitusjohtaja Arvind Krishna lähetti kirjeen kongressille, jossa hän ilmoitti, että yhtiö ei enää tarjoa yleispätevää kasvojentunnistusta tai analyysiohjelmistoa. Lisäksi yhtiö lopetti tutkimuksen ja kehityksen tällaiselle teknologialle.

“IBM vastustaa ja ei hyväksy kasvojentunnistusteknologian käyttöä, mukaan lukien muiden toimittajien tarjoamaa kasvojentunnistusteknologiaa, joukkovainojen, rotusyrjinnän, perusihmisoikeuksien ja vapauksien loukkaamiseen tai mihin tahansa tarkoitukseen, joka ei ole yhtensäisiä arvojamme ja Luottamuksen ja avoimuuden periaatteidemme kanssa”, kirjeessä sanotaan. “Uskomme, että nyt on aika aloittaa kansallinen keskustelu siitä, tulisiko kasvojentunnistusteknologiaa käyttää kotimaisten lainvalvontaviranomaisten toiminnassa.”

Amazon (AMZN ) seurasi esimerkkiä, kun se ilmoitti vuoden moratorion lainvalvontaviranomaisten käytölle yhtiön Rekognition-kasvojentunnistusohjelmistosta.

Ilmoitus tehtiin vain muutama päivä IBM:n päätöksen jälkeen.

Yksi tärkeimmistä töistä, jotka on tehty kasvojentunnistusteknologian ja syrjinnän ongelman parissa, oli vuoden 2018 tutkimus, jonka tekijöinä olivat Joy Buolamwini ja Timnit Gebru. Buolamwini on tutkija MIT Media Labissa, ja Gebru on jäsen Microsoft (MSFT ) Researchissa.

Vuoden 2018 tutkimuksessa todettiin, että “konenäköalgoritmit voivat syrjiä luokkia kuten rotu ja sukupuoli”, muun muassa.

Robert Julian-Borchak Williamsin tapaus on erittäin huolestuttava monille, jotka asuvat Yhdysvalloissa, mutta se on myös osoitus siitä, mitä tapahtuu ympäri maailmaa. Kasvojentunnistusteknologian käyttö hallitusten ja lainvalvontaviranomaisten toiminnassa on vasta alkanut, ja siitä ei ole vielä paljon sääntelyä, jotta sitä ei käytettäisiin epäeettisesti. Olipa kyse Kiinan laajasta kasvojentunnistusteknologian käytöstä valvontaan tai Williamsin tapauksesta, jossa hän oli väärin tunnistettu Yhdysvalloissa, teknologia avaa maailman väestölle uuden joukon yksityisyyden ja ihmisoikeuksien loukkaamisen, joita ei aiemmin ollut olemassa.