США зафіксували перший випадок помилкового арешту через поганий алгоритм

Минулого тижня The New York Times повідомила про перший випадок помилкового арешту, спричиненого поганим алгоритмом у Сполучених Штатах. Інцидент стався у Детройті, коли Роберт Джуліан-Борчак Вільямс, афроамериканець, був арештований після того, як був помилково ідентифікований у записі з камер спостереження, який показував особу, що скоїла крадіжку.

Американський союз громадянських свобод (ACLU) швидко відреагував і подав скаргу проти поліції Детройта. Після того, як ACLU домігся скасування справи Вільямса та видалення його даних з кримінальних баз даних у Детройті, прокурори погодилися на ці дії.

Цей розвиток подій є першим такого роду у Сполучених Штатах і підкреслює серйозні побоювання, які починають виникати у світі щодо використання технології розпізнавання облич державою.

Проблеми з системами розпізнавання облич

Системи розпізнавання облич уже деякий час є предметом суперечок, все частіше ставши темою дискусій серед тих, хто турбується про приватність і помилкові звинувачення.

З недавніми протестами по всій країні та у багатьох частинах світу проти поліцейської жорстокості та дискримінації, ця увага ще більше зросла.

Ці алгоритми принесли новий аспект у правоохоронну діяльність і повні помилок.

Помилкова звинувачення

Крадіжка, у скоєнні якої Вільямса помилково ідентифікували, сталася у жовтні 2018 року. Відеозапис було завантажено до бази даних розпізнавання облич штату Мічиган у березні 2019 року.

Фотографія Вільямса потрапила до фотолайнупу, де охоронець ідентифікував Вільямса як того, хто скоїв злочин.

За даними ACLU, цей охоронець ніколи не був безпосереднім свідком крадіжки.

У січні Вільямс отримав телефонний дзвінок від поліції Детройта, який повідомляв йому про його арешт. Коли він проігнорував дзвінок, поліція приїхала до його будинку вже через годину.

Вільямса було взято до центру утримання, де йому зробили фотографію, взяли відбитки пальців і ДНК, і він провів всю ніч на поліцейській станції.

Після цього відбулося допит щодо злочину, якого він не скоїв, все через несправний систему розпізнавання.

Справа Вільямса була закрита через два тижні після арешту, але у більш широкому сенсі цей інцидент мав велике значення і мав великі наслідки для приватності. З зростаючим використанням програмного забезпечення для розпізнавання облич урядами та правоохоронними органами, цей випадок міг бути початком серйозних порушень, які вже відбуваються в країнах, таких як Китай, але ще не стали публічно відомими у США.

Одним з таких порушень є те, що зразок ДНК Вільямса, його фотографія та відбитки пальців тепер знаходяться у файлі внаслідок технології. Окрім того, його арешт також знаходиться в реєстрі.

Приватні компанії та правоохоронні органи

Справа Вільямса сталася після того, як великі компанії, такі як IBM, Microsoft (MSFT ) та Amazon (AMZN ), припинили постачання своєї технології розпізнавання облич правоохоронним органам.

Першою великою компанією, яка зробила це, став IBM, коли генеральний директор Арвінд Крішна надіслав лист до Конгресу про припинення надання загального програмного забезпечення для розпізнавання облич або аналізу. Окрім того, компанія припинила дослідження та розробку цієї технології.

“IBM рішуче виступає проти та не схвалює використання будь-якої технології розпізнавання облич, включаючи технологію розпізнавання облич, запропоновану іншими постачальниками, для масового спостереження, расової дискримінації, порушень основних прав і свобод людини, або будь-якої мети, яка не відповідає нашим цінностям та принципам довіри та прозорості”, – зазначено у листі. “Ми вважаємо, що зараз час почати національний діалог про те, чи слід використовувати технологію розпізнавання облич правоохоронними органами та як це слід робити.”

Amazon пішла тим же шляхом, коли оголосила про однорічний мораторій на використання правоохоронними органами платформи розпізнавання облич Rekognition компанії.

Цей оголошення було зроблено всього через кілька днів після рішення IBM.

Одним з найважливіших робіт щодо питання дискримінації та технології розпізнавання облич став доповідь 2018 року, написана Джой Буоламвіні та Тімнітом Гебру. Буоламвіні – дослідник у MIT Media Lab, а Гебру – член команди Microsoft Research.

У доповіді 2018 року було встановлено, що “алгоритми машинного навчання можуть дискримінувати на основі таких класів, як раса та стать”, серед іншого.

Справа Роберта Джуліана-Борчака Вільямса викликає велике занепокоєння серед тих, хто живе у США, але це також індикатор того, що відбувається у світі. Використання технології розпізнавання облич урядами та правоохоронними органами тільки починається, і зараз дуже мало того, що могло б запобігти її використанню неетично. Чи то це широке використання технології розпізнавання облич у Китаї для спостереження, чи справа Вільямса, який був помилково ідентифікований у США, ця технологія відкриває нові порушення приватності та прав людини, які раніше не існували.