SHBA sheh rastin e parë të arrestimit të gabuar për shkak të algoritmit të keq

Javen e shkuar, raportoi New York Times rasti i parë i një arrestimi të gabuar të shkaktuar nga një algoritëm i keq në Shtetet e Bashkuara. Incidenti ndodhi në Detroit kur Robert Julian-Borchak Williams, një afrikano-amerikan, u arrestua pasi u lidh në mënyrë të rreme me pamjet e sigurisë që tregonin një individ duke kryer vjedhje në dyqan. 

Unioni Amerikan i Lirive Civile (ACLU) ndërmori shpejt veprime dhe paraqiti një ankesë kundër policisë së Detroitit. Pasi ACLU shtyu që çështja e Williams të pushohej dhe informacioni i tij të hiqej nga bazat e të dhënave kriminale në Detroit, prokurorët vazhduan me këto veprime.

Ky zhvillim është i pari i këtij lloji në Shtetet e Bashkuara dhe nxjerr në pah disa shqetësime serioze që kanë filluar të lindin në të gjithë globin me përdorimin e teknologjisë së njohjes së fytyrës nga shteti.

Probleme me sistemet e njohjes së fytyrës

Sistemet e njohjes së fytyrës kanë qenë objekt polemikash për një kohë, duke u bërë gjithnjë e më shumë një pikë debati midis atyre që shqetësohen për privatësinë dhe akuzat e rreme.

Me protestat e fundit në të gjithë vendin dhe në shumë pjesë të botës kundër brutalitetit dhe diskriminimit policor, ky shqyrtim vetëm sa është rritur. 

Këto algoritme kanë sjellë një aspekt krejtësisht të ri për zbatimin e ligjit dhe janë plot me të meta. 

Akuza e rreme

Grabitja që Williams u identifikua në mënyrë të rreme se kishte kryer ndodhi në tetor 2018. Videoja e vëzhgimit u ngarkua më pas në bazën e të dhënave të njohjes së fytyrës të shtetit të Miçiganit në mars 2019. 

Fotografia e Williams arriti të shndërrohej në një grup fotografish, ku një roje sigurie e identifikoi Williams si atë që kreu krimin. 

Sipas ACLU, ai roje nuk e ka parë kurrë grabitjen nga dora e parë.

Në janar, Williams mori një telefonatë nga Departamenti i Policisë së Detroitit duke e vënë në dijeni për arrestimin e tij. Kur ai e shpërfilli thirrjen si një shaka, policia mbërriti në shtëpinë e tij vetëm një orë më vonë.

Williams u dërgua më pas në një qendër paraburgimi, ku iu mor një fotografi, gjurmët e gishtërinjve dhe ADN-ja, dhe më pas u mbajt gjatë gjithë natës në stacion. 

Ajo që pasoi ishte një marrje në pyetje për një krim që ai nuk e kreu kurrë, gjithçka për shkak të një sistemi njohjeje të gabuar.

Çështja e Williams u pushua dy javë pas arrestimit të tij, por në një shkallë më të gjerë, ky incident do të thoshte shumë më tepër dhe ka implikime masive për privatësinë. Me përdorimin në rritje të softuerit të njohjes së fytyrës nga qeveritë dhe forcat e rendit, ky rast mund të jetë fillimi i shkeljeve serioze, të cilat tashmë janë shpalosur në vende si Kina, por nuk kanë mbërritur ende në SHBA, të paktën në dijeninë e publikut.

Një shkelje e tillë është se mostra e ADN-së, fotografia dhe gjurmët e gishtërinjve të Williams janë tani të gjitha në dosje si rezultat i drejtpërdrejtë i teknologjisë. Jo vetëm kaq, por arrestimi i tij është në procesverbal.

Kompanitë Private dhe Zbatimi i Ligjit

Rasti i Williams vjen pasi kompanitë e mëdha si IBM, Microsoft dhe Amazon kanë ndaluar së ofruari teknologjinë e tyre të njohjes së fytyrës për zbatimin e ligjit.

Kompania e parë e madhe që e bëri këtë ishte IBM kur CEO Arvind Krishna i dërgoi një letër Kongresit rreth nuk ofron më softuer për njohjen ose analizën e fytyrës për qëllime të përgjithshme. Për më tepër, kompania ndaloi kërkimin dhe zhvillimin e teknologjisë.

“IBM kundërshton me vendosmëri dhe nuk do të pranojë përdorimin e ndonjë teknologjie [të njohjes së fytyrës], duke përfshirë teknologjinë e njohjes së fytyrës të ofruar nga shitës të tjerë, për mbikëqyrje masive, profilizimin racor, shkelje të të drejtave dhe lirive themelore të njeriut, ose ndonjë qëllim që nuk është në përputhje me vlerat dhe parimet e besimit dhe transparencës”, thuhet në letrën. "Ne besojmë se tani është koha për të filluar një dialog kombëtar nëse dhe si teknologjia e njohjes së fytyrës duhet të përdoret nga agjencitë vendase të zbatimit të ligjit."

Amazon ndoqi shembullin kur ata njoftuan një moratorium një vjeçar për lejimin e zbatimit të ligjit për të përdorur platformën e njohjes së fytyrës të kompanisë Njohja. 

Njoftimi erdhi vetëm disa ditë pas vendimit të IBM.

Një nga punët më të rëndësishme të bëra në lidhje me çështjen e diskriminimit dhe teknologjisë së njohjes së fytyrës ishte një Letër 2018 bashkëautor nga Joy Buolamwini dhe Timnit Gebru. Buolamwini është një studiues në MIT Media Lab dhe Gebru është anëtar në Microsoft Research. 

Punimi i vitit 2018 zbuloi se "algoritmet e të mësuarit me makinë mund të diskriminojnë bazuar në klasa si raca dhe gjinia", ndër të tjera. 

Rasti i Robert Julian-Borchak Williams është jashtëzakonisht shqetësues për shumë njerëz që jetojnë në Shtetet e Bashkuara, por është gjithashtu një tregues i asaj që po ndodh në të gjithë globin. Përdorimi i teknologjisë së njohjes së fytyrës nga qeveritë dhe agjencitë e zbatimit të ligjit sapo po merr hov dhe ka shumë pak në vend për ta parandaluar atë që të përdoret në mënyrë joetike. Qoftë përdorimi i përhapur i Kinës i teknologjisë së njohjes së fytyrës për vëzhgim, apo rasti i identifikimit të rremë të Williams në Shtetet e Bashkuara, teknologjia e hap popullsinë botërore ndaj një sërë shkeljesh të reja të privatësisë dhe të drejtave të njeriut që më parë nuk ekzistonin.