Statele Unite au înregistrat primul caz de arestare abuzivă datorită unui algoritm defect

Săptămâna trecută, The New York Times a raportat primul caz de arestare abuzivă cauzată de un algoritm defect în Statele Unite. Incidentul a avut loc în Detroit, când Robert Julian-Borchak Williams, un bărbat afro-american, a fost arestat după ce a fost fals identificat cu o persoană care a comis un furt din magazin.

Uniunea pentru Libertăți Civile din America (ACLU) a luat rapid măsuri și a depus o plângere împotriva poliției din Detroit. După ce ACLU a cerut ca cazul lui Williams să fie respins și informațiile sale să fie șterse din bazele de date penale din Detroit, procurorii au procedat la aceste acțiuni.

Acest eveniment este primul de acest fel în Statele Unite și subliniază unele preocupări grave care încep să apară în întreaga lume cu privire la utilizarea tehnologiei de recunoaștere facială de către stat.

Problemele sistemelor de recunoaștere facială

Sistemele de recunoaștere facială au fost un subiect de controversă de ceva timp, devenind tot mai mult un punct de dezbatere între cei care se preocupă de confidențialitate și acuzații false.

Cu protestele recente din țară și din multe părți ale lumii împotriva brutalității poliției și discriminării, această atenție a crescut și mai mult.

Acești algoritmi au adus o nouă dimensiune aplicării legii și sunt plini de defecte.

Acuzația falsă

Furtul pentru care Williams a fost fals identificat a avut loc în octombrie 2018. Videoclipul de supraveghere a fost ulterior încărcat în baza de date de recunoaștere facială a statului Michigan în martie 2019.

Fotografia lui Williams a ajuns într-un șir de fotografii, unde un păzitor de securitate l-a identificat pe Williams ca fiind cel care a comis infracțiunea.

Conform ACLU, acel păzitor nu a fost martor ocular al furtului.

În ianuarie, Williams a primit un apel telefonic de la Departamentul de Poliție din Detroit, care îl informa despre arestarea sa. Când a ignorat apelul ca pe o glumă, poliția a sosit la casa lui doar o oră mai târziu.

Williams a fost dus apoi la un centru de detenție, unde i s-au luat fotografia, amprentele și probele de ADN, și a fost ținut toată noaptea la stație.

Ce a urmat a fost un interogatoriu pentru o crimă pe care nu a comis-o, tot din cauza unui sistem de recunoaștere defect.

Cazul lui Williams a fost respins două săptămâni după arestarea sa, dar la o scară mai largă, acest incident a însemnat mult mai mult și are implicații masive pentru confidențialitate. Cu utilizarea crescândă a software-ului de recunoaștere facială de către guverne și agenții de aplicare a legii, acest caz poate fi începutul unor încălcări grave, care au început deja să se desfășoare în țări precum China, dar care încă nu au ajuns în Statele Unite, cel puțin în ceea ce știe publicul.

O astfel de încălcare este că mostrele de ADN, fotografia și amprentele lui Williams sunt acum toate înregistrate ca urmare directă a tehnologiei. Nu numai atât, dar arestarea sa este înregistrată.

Companii private și aplicarea legii

Cazul lui Williams vine în momentul în care companii majore precum IBM, Microsoft (MSFT ) și Amazon (AMZN ) au încetat să mai furnizeze tehnologia de recunoaștere facială agențiilor de aplicare a legii.

Prima companie majoră care a făcut acest lucru a fost IBM, când directorul general Arvind Krishna a trimis o scrisoare Congresului în care a anunțat că nu vor mai oferi software de recunoaștere facială sau analiză generală. În plus, compania a oprit cercetarea și dezvoltarea tehnologiei.

„IBM se opune ferm și nu va tolera utilizarea oricărei tehnologii de recunoaștere facială, inclusiv a tehnologiei de recunoaștere facială oferite de alți furnizori, pentru supraveghere în masă, profilare rasială, încălcări ale drepturilor și libertăților fundamentale ale omului sau orice scop care nu este în concordanță cu valorile și principiile noastre de Încredere și Transparență”, conform scrisorii. „Credem că acum este momentul să începem un dialog național despre modul în care tehnologia de recunoaștere facială ar trebui să fie utilizată de agențiile de aplicare a legii din țară.”

Amazon a urmat exemplul când a anunțat o moratoriu de un an asupra utilizării de către agențiile de aplicare a legii a platformei de recunoaștere facială Rekognition a companiei.

Anunțul a venit la doar câteva zile după decizia IBM.

Una dintre cele mai importante lucrări efectuate cu privire la problema discriminării și tehnologiei de recunoaștere facială a fost un studiu din 2018 co-autor de Joy Buolamwini și Timnit Gebru. Buolamwini este cercetător la MIT Media Lab, iar Gebru este membru la Microsoft Research.

Studiul din 2018 a constatat că „algoritmii de învățare automată pot discrimina pe baza unor clase precum rasa și sexul”, printre altele.

Cazul lui Robert Julian-Borchak Williams este extrem de îngrijorător pentru mulți care trăiesc în Statele Unite, dar este și un indicator al ceea ce se întâmplă în întreaga lume. Utilizarea tehnologiei de recunoaștere facială de către guverne și agenții de aplicare a legii abia începe, și există foarte puțin pentru a preveni