США столкнулись с первым случаем незаконного ареста из-за плохого алгоритма

На прошлой неделе The New York Times сообщила о первом случае незаконного ареста, вызванного плохим алгоритмом в Соединенных Штатах. Инцидент произошел в Детройте, когда Роберт Джулиан-Борчак Уильямс, афроамериканец, был арестован после того, как был ошибочно идентифицирован как человек, показанный на записи камеры наблюдения, совершивший кражу.

Американский союз гражданских свобод (ACLU) быстро принял меры и подал жалобу против полиции Детройта. После того, как ACLU потребовал отменить дело Уильямса и удалить его информацию из базы данных полиции Детройта, прокуроры выполнили эти действия.

Это развитие событий является первым в своем роде в Соединенных Штатах и подчеркивает серьезные проблемы, которые начинают возникать во всем мире с использованием технологии распознавания лиц государством.

Проблемы с системами распознавания лиц

Системы распознавания лиц уже давно являются предметом споров и все чаще становятся предметом обсуждения среди тех, кто обеспокоен конфиденциальностью и ложными обвинениями.

С недавними протестами по всей стране и во многих частях мира против полицейского насилия и дискриминации, эта проверка только усилилась.

Эти алгоритмы принесли совершенно новый аспект в правоохранительные органы и полны ошибок.

Ложное обвинение

Ограбление, в котором Уильямс был ошибочно идентифицирован как участник, произошло в октябре 2018 года. Запись с камеры наблюдения была затем загружена в базу данных распознавания лиц штата Мичиган в марте 2019 года.

Фотография Уильямса попала в фотолинию, где охранник идентифицировал Уильямса как человека, совершившего преступление.

По данным ACLU, этот охранник никогда не был свидетелем ограбления лично.

В январе Уильямс получил звонок от полиции Детройта, в котором ему сообщили об его аресте. Когда он проигнорировал звонок как шутку, полиция прибыла к его дому всего через час.

Уильямс был затем доставлен в центр содержания под стражей, где у него были взяты отпечатки пальцев, фотография и анализ ДНК, и он был содержан всю ночь на станции.

После этого последовал допрос по поводу преступления, которое он никогда не совершал, все из-за неисправной системы распознавания.

Дело Уильямса было прекращено через две недели после его ареста, но в более широком смысле этот инцидент имел гораздо большее значение и имел серьезные последствия для конфиденциальности. С все более широким использованием программного обеспечения для распознавания лиц правительствами и правоохранительными органами, этот случай может стать началом серьезных нарушений, которые уже произошли в странах, таких как Китай, но еще не стали известны в США, по крайней мере, общественности.

Одним из таких нарушений является то, что образец ДНК Уильямса, его фотография и отпечатки пальцев теперь все находятся в файле в результате технологии. Не только это, но и его арест находится в записи.

Частные компании и правоохранительные органы

Дело Уильямса произошло после того, как крупные компании, такие как IBM, Microsoft (MSFT ) и Amazon (AMZN ), перестали предоставлять свою технологию распознавания лиц правоохранительным органам.

Первой крупной компанией, сделавшей это, была IBM, когда генеральный директор Арвинд Кришна отправил письмо в Конгресс о прекращении предоставления общего программного обеспечения для распознавания лиц или анализа. Кроме того, компания прекратила исследования и разработку этой технологии.

“IBM категорически противостоит и не будет терпеть использование любой технологии распознавания лиц, включая технологию распознавания лиц, предлагаемую другими поставщиками, для массового наблюдения, расовой дискриминации, нарушений основных прав и свобод человека или любых целей, которые не соответствуют нашим ценностям и принципам доверия и прозрачности”, – говорится в письме. “Мы считаем, что сейчас самое время начать национальный диалог о том, следует ли использовать технологию распознавания лиц правоохранительными органами и как это следует делать.”

Amazon последовал этому примеру, когда объявил о однолетней моратории на использование правоохранительными органами платформы распознавания лиц Rekognition.

Объявление было сделано всего через несколько дней после решения IBM.

Одной из наиболее важных работ, связанных с проблемой дискриминации и технологией распознавания лиц, была статья 2018 года, написанная Джой Буоламвини и Тимнит Гебру. Буоламвини – исследователь в MIT Media Lab, а Гебру – член Microsoft Research.

В статье 2018 года было обнаружено, что “алгоритмы машинного обучения могут дискриминировать на основе таких классов, как раса и пол”, среди прочего.

Дело Роберта Джулиана-Борчака Уильямса крайне тревожно для многих, кто живет в Соединенных Штатах, но это также индикатор того, что происходит во всем мире. Использование технологии распознавания лиц правительствами и правоохранительными органами только начинается, и очень малое сделано, чтобы предотвратить его использование неэтично. Будь то широкое использование технологии распознавания лиц в Китае для наблюдения или дело Уильямса, ошибочно идентифицированного в Соединенных Штатах, эта технология открывает население мира для нового набора нарушений конфиденциальности и прав человека, которые ранее не существовали.