SUA văd primul caz de arestare greșită din cauza unui algoritm prost

Săptămâna trecută, a raportat New York Times primul caz de arestare abuzivă cauzată de un algoritm prost în Statele Unite. Incidentul a avut loc în Detroit, când Robert Julian-Borchak Williams, un bărbat afro-american, a fost arestat după ce a fost corelat în mod fals cu imagini de securitate care arată o persoană făcând furturi. 

Uniunea Americană pentru Libertăți Civile (ACLU) a luat rapid măsuri și a depus o plângere împotriva poliției din Detroit. După ce ACLU a făcut eforturi pentru respingerea cazului lui Williams și eliminarea informațiilor sale din bazele de date penale din Detroit, procurorii au continuat cu acele acțiuni.

Această dezvoltare este prima de acest gen în Statele Unite și evidențiază unele preocupări serioase care încep să apară pe tot globul odată cu utilizarea tehnologiei de recunoaștere facială de către stat.

Probleme cu sistemele de recunoaștere facială

Sistemele de recunoaștere facială au fost subiect de controversă pentru o vreme, devenind din ce în ce mai mult un punct de dezbatere în rândul celor preocupați de confidențialitate și acuzații false.

Odată cu protestele recente în toată țara și în multe părți ale lumii împotriva brutalității și discriminării poliției, acest control a crescut. 

Acești algoritmi au adus un aspect cu totul nou pentru aplicarea legii și sunt plini de defecte. 

Acuzația falsă

Jaful pe care Williams a fost identificat în mod fals ca fiind comis a avut loc în octombrie 2018. Videoclipul de supraveghere a fost apoi încărcat în baza de date de recunoaștere facială a statului Michigan în martie 2019. 

Fotografia lui Williams a reușit să se transforme într-o linie de fotografii, unde un agent de securitate l-a identificat pe Williams ca fiind cel care a comis crima. 

Potrivit ACLU, acel gardian nu a fost niciodată martor direct la jaf.

În ianuarie, Williams a primit un apel telefonic de la Departamentul de Poliție din Detroit care l-a adus la cunoștință despre arestarea sa. Când a ignorat apelul ca pe o farsă, poliția a ajuns la el acasă doar o oră mai târziu.

Williams a fost apoi dus la un centru de detenție unde i s-au luat fotografia, amprentele și ADN-ul, iar ulterior a fost ținut toată noaptea la stație. 

Ceea ce a urmat a fost un interogatoriu pentru o infracțiune pe care nu a comis-o niciodată, totul din cauza unui sistem de recunoaștere defectuos.

Cazul lui Williams a fost respins la două săptămâni după arestarea sa, dar la o scară mai mare, acest incident a însemnat mult mai mult și are implicații masive pentru confidențialitate. Odată cu utilizarea din ce în ce mai mare a software-ului de recunoaștere facială de către guverne și forțele de ordine, acest caz ar putea fi începutul unor încălcări grave, care s-au desfășurat deja în țări precum China, dar nu au ajuns încă în SUA, cel puțin din cunoștința publicului.

O astfel de încălcare este aceea că proba de ADN, fotografia și amprentele digitale ale lui Williams sunt acum toate în dosar ca rezultat direct al tehnologiei. Nu numai atât, dar arestarea lui este înregistrată.

Companii private și forțele de ordine

Cazul lui Williams vine în momentul în care companii importante precum IBM, Microsoft și Amazon au încetat să ofere tehnologia lor de recunoaștere facială forțelor de ordine.

Prima companie importantă care a făcut acest lucru a fost IBM, când CEO-ul Arvind Krishna a trimis o scrisoare Congresului despre nu mai oferă software de analiză sau recunoaștere facială de uz general. În plus, compania și-a oprit cercetarea și dezvoltarea tehnologiei.

„IBM se opune ferm și nu va tolera utilizarea oricărei tehnologii [de recunoaștere facială], inclusiv a tehnologiei de recunoaștere facială oferită de alți furnizori, pentru supraveghere în masă, profilare rasială, încălcări ale drepturilor și libertăților fundamentale ale omului sau orice scop care nu este în concordanță cu noastre. valorile și principiile încrederii și transparenței”, potrivit scrisorii. „Credem că acum este momentul să începem un dialog național privind dacă și cum ar trebui utilizată tehnologia de recunoaștere facială de către agențiile interne de aplicare a legii.”

Amazon a urmat exemplul când a anunțat un un moratoriu de un an privind permiterea autorităților de aplicare a legii să utilizeze platforma de recunoaștere facială Rekognition a companiei. 

Anunțul a venit la doar câteva zile după decizia IBM.

Una dintre cele mai importante lucrări efectuate în ceea ce privește problema discriminării și tehnologia recunoașterii faciale a fost a Hârtie 2018 în colaborare cu Joy Buolamwini și Timnit Gebru. Buolamwini este cercetător la MIT Media Lab, iar Gebru este membru la Microsoft Research. 

Lucrarea din 2018 a constatat că „algoritmii de învățare automată pot discrimina în funcție de clase precum rasă și sex”, printre altele. 

Cazul lui Robert Julian-Borchak Williams este extrem de îngrijorător pentru mulți dintre cei care locuiesc în Statele Unite, dar este și un indicator al ceea ce se întâmplă pe tot globul. Utilizarea tehnologiei de recunoaștere facială de către guverne și agențiile de aplicare a legii este abia la început și există foarte puține măsuri care să împiedice utilizarea ei în mod neetic. Fie că este vorba de utilizarea pe scară largă de către China a tehnologiei de recunoaștere facială pentru supraveghere sau de cazul în care Williams a fost identificat în mod fals în Statele Unite, tehnologia deschide populația lumii către un set de noi încălcări ale vieții private și ale drepturilor omului care nu existau anterior.