Stany Zjednoczone doświadczają pierwszego przypadku niesłusznego aresztu spowodowanego przez złe algorytmy

W zeszłym tygodniu The New York Times reported the first case of a wrongful arrest caused by a bad algorithm in the United States. The incident took place in Detroit when Robert Julian-Borchak Williams, an African-American man, was arrested after being falsely matched to security footage showing an individual committing shoplifting. 

The American Civil Liberties Union (ACLU) quickly took action and filed a complaint against the Detroit police. After the ACLU pushed for Williams’ case to be dismissed and his information removed from the criminal databases in Detroit, the prosecutors went ahead with those actions.

This development is the first of its kind in the United States, and it highlights some serious concerns that are beginning to arise throughout the globe with the use of facial recognition technology by the state.

Problemy z systemami rozpoznawania twarzy

Systemy rozpoznawania twarzy były przedmiotem kontrowersji od dłuższego czasu, coraz częściej stając się punktem debaty wśród osób zaniepokojonych prywatnością i fałszywymi oskarżeniami.

Wraz z niedawnymi protestami w całym kraju i na wielu częściach świata przeciwko policyjnej brutalności i dyskryminacji, ta kontrola tylko się zwiększyła. 

Te algorytmy przyniosły nowy aspekt do egzekwowania prawa i są pełne wad. 

Fałszywe oskarżenie

Napad, za który Williams został niesłusznie oskarżony, miał miejsce w październiku 2018 roku. Nagranie z monitoringu zostało następnie przesłane do bazy danych rozpoznawania twarzy stanu Michigan w marcu 2019 roku. 

Zdjęcie Williamsa trafiło do zestawu zdjęć, gdzie ochroniarz zidentyfikował Williamsa jako osobę, która popełniła przestępstwo. 

Według ACLU, ochroniarz nie był naocznym świadkiem napadu.

W styczniu Williams otrzymał telefon od Wydziału Policji w Detroit, informujący go o jego aresztowaniu. Kiedy potraktował telefon jako żart, policja przyjechała do jego domu zaledwie godzinę później.

Williams został następnie zabrany do centrum detencyjnego, gdzie zostały pobrane jego odciski palców, zdjęcie i próbka DNA, a następnie został przetrzymany przez całą noc w komisariacie. 

Co nastąpiło później, to przesłuchanie w sprawie przestępstwa, którego nie popełnił, wszystko dzięki wadliwemu systemowi rozpoznawania.

Sprawa Williamsa została umorzona dwa tygodnie po jego aresztowaniu, ale w szerszym zakresie ten incydent oznaczał znacznie więcej i miał ogromne implikacje dla prywatności. Wraz ze wzrastającym wykorzystaniem oprogramowania do rozpoznawania twarzy przez rządy i organy ścigania, ten przypadek mógł być początkiem poważnych naruszeń, które już mają miejsce w krajach takich jak Chiny, ale jeszcze nie dotknęły USA, przynajmniej według publicznej wiedzy.

Jednym z takich naruszeń jest to, że próbka DNA Williamsa, jego zdjęcie i odciski palców są teraz wszystkie w aktach jako bezpośredni wynik technologii. Nie tylko to, ale także jego aresztowanie jest w rejestrze.

Prywatne firmy i organy ścigania

Sprawa Williamsa pojawiła się, gdy takie firmy jak IBM, Microsoft (MSFT ) i Amazon (AMZN ) zaprzestały dostarczania swojej technologii rozpoznawania twarzy organom ścigania.

Pierwszą dużą firmą, która to zrobiła, był IBM, gdy CEO Arvind Krishna wysłał list do Kongresu o przestaniu oferowania oprogramowania do rozpoznawania twarzy lub analizy ogólnego przeznaczenia. Ponadto firma wstrzymała badania i rozwój tej technologii.

“IBM stanowczo sprzeciwia się i nie będzie tolerować wykorzystania jakiejkolwiek technologii rozpoznawania twarzy, w tym technologii rozpoznawania twarzy oferowanej przez innych dostawców, do masowej inwigilacji, profilowania rasowego, naruszeń podstawowych praw i wolności ludzkich lub jakiegokolwiek celu, który nie jest zgodny z naszymi wartościami i Zasadami Zaufania i Przejrzystości,” według listu. “Uważamy, że teraz jest czas, aby rozpocząć narodową debatę na temat tego, czy i jak technologia rozpoznawania twarzy powinna być wykorzystywana przez krajowe agencje ścigania.”

Amazon poszedł za ich przykładem, gdy ogłosił roczne moratorium na pozwalanie organom ścigania na korzystanie z platformy rozpoznawania twarzy Rekognition firmy. 

Ogłoszenie to miało miejsce zaledwie kilka dni po decyzji IBM.

Jedną z najważniejszych prac dotyczących kwestii dyskryminacji i technologii rozpoznawania twarzy była praca z 2018 roku współautorska Joy Buolamwini i Timnit Gebru. Buolamwini jest badaczem w MIT Media Lab, a Gebru jest członkiem Microsoft Research. 

Praca z 2018 roku wykazała, że “algorytmy uczenia maszynowego mogą dyskryminować na podstawie klas takich jak rasa i płeć,” wśród innych rzeczy. 

Sprawa Roberta Juliana-Borchaka Williamsa jest niezwykle niepokojąca dla wielu osób mieszkających w Stanach Zjednoczonych, ale jest to również wskaźnik tego, co dzieje się na całym świecie. Użycie technologii rozpoznawania twarzy przez rządy i agencje ścigania dopiero zaczyna się, a jest bardzo mało mechanizmów, które mogą powstrzymać je od niewłaściwego użycia. Niezależnie od tego, czy jest to powszechne użycie technologii rozpoznawania twarzy w Chinach do celów inwigilacji, czy sprawa Williamsa, który został niesłusznie zidentyfikowany w Stanach Zjednoczonych, ta technologia otwiera populację świata na nowy zestaw naruszeń prywatności i praw człowieka, które wcześniej nie istniały.