Красный волк, синий волк: распознавание лиц с помощью искусственного интеллекта и слежка за палестинцами

Немногие места на Земле находятся под таким пристальным наблюдением, как оккупированные палестинские территории.

На улицах Хеврона, в переполненные контрольно-пропускные пункты В Восточном Иерусалиме и в повседневной жизни миллионов людей передовые системы искусственного интеллекта теперь выполняют функции одновременно привратника и сторожа.

За камерами и базами данных скрываются два невероятно эффективных инструмента: Красный Волк и Синий Волк — системы распознавания лиц, созданные не для удобства или коммерции, а для контроля.

Их работа: сканировать лица, сопоставлять их с обширными базами данных биометрических данных и решать, может ли человек свободно передвигаться или его следует остановить.

Эти системы вызывают такую тревогу не только из-за самой технологии, но и из-за того, как они используются. нацеливание на все население по этническому признаку, сбор данных без согласия и внедрение алгоритмов в механизмы оккупации.

В следующих разделах мы рассмотрим, как работают эти системы ИИ, где они применяются, к каким злоупотреблениям они приводят и почему они важны далеко за пределами Палестины.

Как действуют Красный Волк и Синий Волк

Blue Wolf — это мобильное приложение, которое носят солдаты во время патрулирования. Фотографирование лица палестинца мгновенно запускает перекрёстную проверку по обширному хранилищу биометрических данных, которое солдаты часто называют Волчья стая.

Ответ предельно прост: цветовой код. Зелёная предполагает пропуск; желтый означает остановиться и задать вопрос; red сигналы задерживают или запрещают вход.

Blue Wolf — это не просто инструмент поиска. Он регистрирует новые лица. Если фотография не совпадает, изображение и метаданные можно добавить в базу данных, создав или расширив профиль. Подразделениям рекомендуется фотографировать как можно больше лиц, чтобы «улучшить» систему.

Red Wolf переносит идентификацию на сам контрольно-пропускной пункт. Стационарные камеры на турникетах сканируют каждое лицо, входящее в клетку. Система сравнивает шаблон лица с зарегистрированными профилями и отображает на экране те же цвета триажа.

Если система вас не распознаёт, вы не проходите проверку. Ваше лицо сканируется и регистрируется для следующего раза.

Искусственный интеллект и машинное обучение под капотом

Точные поставщики и архитектура моделей не разглашаются. Но поведение соответствует стандарту. компьютерное зрение трубопровод:

• Обнаружение: Камеры или датчики телефона определяют лицо в кадре.
• Достопримечательность: Ключевые точки (глаза, нос, уголки рта) отображаются на карте для нормализации позы и освещения.
• Встраивание: Глубокая нейронная сеть преобразует лицо в компактный вектор («отпечаток лица»).
• Совпадение: Этот вектор сравнивается с сохраненными вложениями с использованием косинусного сходства или поиска ближайшего соседа.
• Принятие решения: Если сходство превышает пороговое значение, профиль возвращается со статусом; в противном случае может быть создан новый профиль.

Отличительной особенностью здесь является специфичность популяции. Обучающие и референтные данные в подавляющем большинстве состоят из лиц палестинцев. Это концентрирует эффективность модели на одной группе и, по сути, кодифицирует форму цифрового профилирования.

В масштабе системы, вероятно, используют вывод края Для повышения скорости (телефоны и устройства на контрольно-пропускных пунктах используют оптимизированные модели) с асинхронной синхронизацией с центральными серверами. Это минимизирует задержку на турникете и поддерживает актуальность центральной базы данных.

Пороговые значения можно настроить программно. Их повышение снижает количество ложных срабатываний, но увеличивает количество ложных срабатываний; снижение приводит к обратному эффекту. В условиях контрольно-пропускных пунктов стимулы склоняются к чрезмерной маркировке, перекладывая бремя ошибок на гражданских лиц.

Данные, метки и дрейф

Распознавание лица настолько «хорош», насколько хороши его данные.

Массовые фотосъёмки Blue Wolf служат своего рода сбором данных. Лица фотографируются при разном освещении и под разным углом, а затем к ним добавляются метки: личность, адрес, родственные связи, род занятий и уровень безопасности.

Эти метки не являются истинными данными. Это административные утверждения, которые могут быть устаревшими, предвзятыми или неверными. Когда такие метки используются для переобучения модели, ошибки превращаются в признаки.

Со временем дрейф набора данных Незаметно. Дети взрослеют. Люди меняют внешность. Нехватка «жёстких» примеров (похожих людей, окклюзии, маски) может привести к увеличению количества ошибок в реальном мире. Если мониторинг и балансировка слабы, система постепенно деградирует, сохраняя при этом прежнюю ауру уверенности на контрольной точке.

Где он развернут и как масштабируется

Сектор H2 Хеврона Это настоящий тигель. Десятки внутренних контрольно-пропускных пунктов регулируют передвижение по улицам Старого города и к домам палестинцев.

Красный Волк закреплен на некоторых турникетах, создавая воронка обязательной регистрации. Blue Wolf следует за ним пешком, расширяя зону охвата до рынков, переулков и частных домов.

In Власти Восточного Иерусалима развернули многоуровневую систему видеонаблюдения с использованием искусственного интеллекта в палестинских кварталах. и вокруг святых мест. Камеры распознают и отслеживают людей на расстоянии, позволяя аресты после событий прогоняя видео через поиск по лицам.

Плотность видеонаблюдения имеет значение. Чем больше камер и точек съёмки, тем полнее граф населения: кто где живёт, кто к кому ходит, кто что посещает. После того, как этот граф сформирован, он используется не только для распознавания, но и для сетевой аналитики и моделей образа жизни.

Хеврон: город, находящийся под цифровой изоляцией

Жители описывают контрольно-пропускные пункты Это больше похоже не на пограничный переход, а на автоматические ворота. Красный экран может заблокировать кому-то дорогу на его собственную улицу до тех пор, пока не появится человек, который отменит контроль, — если вообще появится.

Помимо контроля доступа, сетка камер пронизывает повседневную жизнь. Объективы торчат из крыш и фонарных столбов. Некоторые направлены во дворы и окна. Люди сокращают время визитов, меняют маршруты и стараются не задерживаться на улице.

Социальные издержки незначительны, но ощутимы: меньше посиделок во дворе, меньше случайных разговоров, меньше уличных игр для детей. Город становится тихим не потому, что он безопасен, а потому, что за ним наблюдают.

Восточный Иерусалим: камеры на каждом углу

В Старом городе Восточного Иерусалима и прилегающих районах распознавание лиц осуществляется на основе обширной сети видеонаблюдения.

Видеозаписи доступны для поиска. Лица участников протеста можно сопоставить спустя несколько дней. Логика проста: вы можете уйти сегодня, но вы… не будет покинуть базу данных.

Жители говорят о развивающемся «втором чувстве» — осознании каждого купола, установленного на столбе, — и о внутреннем цензоре, который при этом возникает.

Кризис прав человека

Пересекаются сразу несколько красных линий:

• Равенство: На этих контрольно-пропускных пунктах биометрической сортировке подвергаются только палестинцы. Отдельные маршруты защищают поселенцев от аналогичной проверки.
• Согласие: Регистрация недобровольна. Отказ от сканирования означает отказ от движения.
• Прозрачность: Люди не могут видеть, оспаривать или исправлять данные, которые ими управляют.
• Пропорциональность: Постоянно действующая биометрическая сеть с низким коэффициентом трения по умолчанию рассматривает всю популяцию как подозрительную.

Распознавание лиц также ошибочно идентифицирует — особенно при плохом освещении, частичной окклюзии или изменении возраста. В таких условиях ложное совпадение может привести к задержанию или отказу в проходе; пропущенное совпадение может привести к застреванию у турникета.

Психологические потери

Жизнь под постоянным наблюдением ИИ учит осторожности.

Люди избегают скоплений людей, меняют привычный распорядок дня и более пристально следят за детьми. Слова на публике взвешиваются. Движения просчитываются.

Многие описывают дегуманизирующий эффект низведения до уровня зеленый, желтый или красный Код. Двоичное суждение машины становится самым важным фактом вашего дня.

Управление, право и подотчетность

В самом Израиле распознавание лиц столкнулось с сопротивлением со стороны властей, пытавшихся защитить конфиденциальность. На оккупированных территориях действует иной правовой режим, и военные заказы перевешивают гражданские нормы конфиденциальности.

Основные пробелы:

• Нет независимого надзора с возможностью аудита наборов данных, пороговых значений или уровня ошибок.
• Отсутствие апелляционного процесса для лиц, ошибочно помеченных или зарегистрированных.
• Неопределенное удержание и правила обмена биометрическими данными и производными профилями.
• Цель ползучести риск, поскольку наборы данных и инструменты перепрофилируются для целей разведки и сетевого наблюдения.

Без обязательных ограничений траектория по умолчанию будет расширение: больше камер, более широкие списки наблюдения, более глубокая интеграция с другими наборами данных (телефоны, транспортные средства, коммунальные службы).

Внутри цикла принятия решений

Распознавание лиц здесь работает не изолированно. Оно интегрировано с:

• Списки наблюдения: Списки имен, адресов и «партнеров», которые управляют результатами цветовой кодировки.
• Правила геозонирования: Места или временные интервалы, требующие повышенного внимания.
• Оператор UX: Простая цветовая сортировка, которая поощряет предвзятость автоматизации — человеческое почтение к машинному продукту.
• Панели управления: Тепловые карты, оповещения и статистика, которые могут превратить «больше остановок» в «более высокую эффективность».

Как только показатели управления начинают ценить объем — больше сканирований, больше флагов, больше «находок», — система начинает двигаться в сторону максимизации сопротивления для управляемого ею населения.

Чем это отличается от обычного наблюдения

Red Wolf/Blue Wolf выделяются тремя особенностями:

1. Обязательный захват: Перемещение часто требует сканирования. Отказ от сканирования равнозначен блокировке.
2. Популяционная специфичность: Модель и база данных ориентированы на одну этническую группу, что подразумевает дискриминацию.
3. Операционная интеграция: Выходные данные мгновенно блокируют доступ и запускают меры принудительного исполнения, а не только проводят анализ постфактум.

Элементы перекликаются с другими практиками по всему миру: плотные сетки камер, поиск лиц на кадрах протестов, предиктивное наблюдение за полицией на основе искаженных меток.

Но сочетание военной оккупации и контролируемых искусственным интеллектом перемещений выглядит необычайно разительным. Оно демонстрирует, как современное компьютерное зрение может усилить системы сегрегации, делая их быстрее, тише и сложнее для оспаривания.

Сотрудники службы безопасности утверждают, что эти инструменты предотвращают насилие и облегчают проверку более эффективным.

Критики возражают, что «эффективная занятость» не является этической апгрейдацией. Она просто индустриализирует контроль — и перекладывает цену ошибки на гражданских лиц, у которых нет никакой возможности обратиться за помощью.

Что посмотреть дальше

• Модель ползучести: Расширение от идентификации лица до аналитики походки, голоса и поведения.
• Настройка порога: Изменения в политике, которые незаметно повышают или понижают планку ставок — и гражданское бремя.
• Объединение данных: Связывание биометрических данных с метаданными телекоммуникаций, считывателями номерных знаков, платежами и коммунальными услугами.
• Экспорт: Принятие другими правительствами аналогичных «проверенных в боевых условиях» систем, позиционируемых как решения для умных городов или обеспечения безопасности границ.

Заключение: Предупреждение миру

На турникете в Хевроне или в переулке у Дамасских ворот ИИ стал постоянным лицом, принимающим решения относительно перемещений человека.

Опасность представляет не только камера. Опасность представляет система: обязательная регистрация, непрозрачные базы данных, мгновенная сортировка и правовой вакуум, из-за которого целый народ постоянно находится под подозрением.

То, что нормализуется, — это шаблон — способ управлять с помощью алгоритмовПеред всем миром стоит выбор: принять этот шаблон или провести жёсткую линию, прежде чем автоматическая подозрительность станет нормой общественной жизни.