Как ограниченные экосистемы в общественной безопасности подвергают риску кризис конфиденциальности данных в Америке

Расширяющийся фронт искусственного интеллекта и данные, которые он требует

Искусственный интеллект быстро меняет то, как мы живем, работаем и управляем. В области общественного здравоохранения и общественных услуг инструменты ИИ обещают большую эффективность и более быстрое принятие решений. Однако под поверхностью этого преобразования растет дисбаланс: наша способность собирать данные опережает нашу способность управлять ими ответственно.

Это выходит за рамки простого технического вызова и становится кризисом конфиденциальности. От программного обеспечения для предсказательного полицейского надзора до инструментов слежения и автоматических считывателей номерных знаков данные о отдельных лицах собираются, анализируются и используются с беспрецедентной скоростью.

Я видел это вблизи. Как бывший специальный агент ФБР по кибербезопасности и сейчас генеральный директор ведущей технологической компании общественной безопасности, я работал как в государственном, так и в частном секторе. Одно ясно: если мы не исправим способ, которым мы обрабатываем конфиденциальность данных сейчас, ИИ только усугубит существующие проблемы. И одна из самых больших проблем – ограниченные экосистемы.

Что такое ограниченные экосистемы и почему они опасны в общественной безопасности?

Ограниченные экосистемы – это закрытые системы, где одна компания контролирует доступ, поток и использование данных. Они распространены в рекламе и социальных сетях (например, платформы Facebook, Google и Amazon), но все чаще они появляются и в общественной безопасности.

Компании общественной безопасности играют ключевую роль в современной полицейской инфраструктуре, однако проприетарная природа некоторых этих систем означает, что они не всегда предназначены для беспрепятственного взаимодействия с инструментами других поставщиков.

Эти ограниченные экосистемы могут предлагать мощную функциональность, например, облачные записи с камер на теле или автоматические считыватели номерных знаков, но они также создают монополию над тем, как данные хранятся, доступны и анализируются. Полицейские департаменты часто оказываются в долгосрочных контрактах с проприетарными системами, которые не взаимодействуют друг с другом. Результат? Фрагментация, изолированные идеи и неспособность эффективно реагировать в обществе, когда это имеет значение.

Общественность не знает, и это проблема

Большинство людей не осознают, сколько их личной информации поступает в эти системы. Во многих городах ваше местоположение, транспорт, онлайн-активность и даже эмоциональное состояние могут быть выведены и отслежены через patchwork ИИ-инструментов. Эти инструменты могут быть представлены как улучшения в борьбе с преступностью, но в отсутствие прозрачности и регулирования они могут легко быть неправильно использованы.

И не только то, что данные существуют, но и то, что они существуют в ограниченных экосистемах, контролируемых частными компаниями с минимальным надзором. Например, инструменты считывания номерных знаков теперь есть в тысячах сообществ по всей территории США, собирая данные и подпитывая их в свою проприетарную сеть. Полицейские департаменты часто даже не владеют оборудованием; они его арендуют, что означает, что поток данных, анализ и оповещения диктуются поставщиком, а не общественным консенсусом.

Почему это должно вызвать красные флаги

ИИ требует данных для функционирования. Но когда данные заперты внутри ограниченных экосистем, их нельзя перекрестно проверить, проверить или оспорить. Это означает, что решения о том, кого остановить, куда направить ресурсы или кого пометить как угрозу, принимаются на основе частичной, иногда неточной информации.

Риск? Плохие решения, потенциальные нарушения гражданских свобод и растущий разрыв между полицейскими департаментами и обществом, которое они обслуживают. Прозрачность разрушается. Доверие испаряется. И инновации тормозятся, потому что новые инструменты не могут выйти на рынок, если они не соответствуют ограничениям этих ограниченных систем.

В сценарии, где система распознавания номерных знаков неправильно помечает украденный автомобиль на основе устаревших или общих данных, без возможности проверить эту информацию на разных платформах или проверить, как это решение было принято, офицеры могут действовать на основе ложных положительных результатов. Мы уже видели инциденты, где неправильная технология привела к необоснованным арестам или эскалации конфронтаций. Эти результаты не являются гипотетическими; они происходят в сообществах по всей стране.

Что на самом деле нужно правоохранительным органам

Вместо того, чтобы запирать данные, нам нужны открытые экосистемы, которые поддерживают безопасное, стандартизированное и совместимое обмен данными. Это не означает жертвование конфиденциальностью. Напротив, это единственный способ обеспечить соблюдение правил защиты конфиденциальности.

Некоторые платформы работают в этом направлении. Например, FirstTwo предлагает инструменты реального времени для ситуационной осведомленности, которые подчеркивают ответственное интеграцию публично доступных данных. Другие, такие как ForceMetrics, сосредоточены на объединении различных наборов данных, таких как вызовы 911, записи поведенческого здоровья и предыдущая история инцидентов, чтобы дать офицерам лучший контекст на поле. Но важно, что эти системы построены с учетом потребностей общественной безопасности и уважения к обществу, а не как после мысли.

Создание инфраструктуры, ориентированной на конфиденциальность

Подход, ориентированный на конфиденциальность, означает больше, чем просто удаление конфиденциальной информации. Это означает ограничение доступа к данным, если нет четкой, законной необходимости. Это означает документирование того, как принимаются решения, и обеспечение возможности аудита третьими сторонами. Это означает партнерство с заинтересованными сторонами общества и группами по защите гражданских прав для формирования политики и реализации. Эти шаги приводят к укреплению безопасности и общей легитимности.

Несмотря на технологические достижения, мы все еще действуем в правовом вакууме. В США нет комплексного федерального законодательства о конфиденциальности данных, что оставляет агентства и поставщиков создавать свои собственные правила по мере продвижения. Европа имеет GDPR, который предлагает дорожную карту для использования данных на основе согласия и подотчетности. США, с другой стороны, имеют фрагментированную систему государственных политик, которые неадекватно решают сложности ИИ в общественных системах.

Это должно измениться. Нам нужны четкие, обязательные стандарты того, как правоохранительные органы и организации общественной безопасности собирают, хранят и обмениваются данными. И нам нужно включить заинтересованные стороны общества в разговор. Согласие, прозрачность и подотчетность должны быть встроены на каждом уровне системы, от закупки до реализации до повседневного использования.

Итог: Без совместимости конфиденциальность страдает

В общественной безопасности на кону стоят жизни. Идея о том, что один поставщик может контролировать доступ к критически важным данным и ограничивать, как и когда они используются, не только неэффективна. Это неэтично.

Нам нужно выйти за рамки мифа о том, что инновации и конфиденциальность противоречат друг другу. Ответственный ИИ означает более справедливые, эффективные и подотчетные системы. Это означает отказ от привязки к поставщику, приоритет совместимости и требование открытых стандартов. Потому что в демократии ни одна компания не должна контролировать данные, которые решают, кто получает помощь, кто останавливается или кто остается позади.