Cómo los jardines amurallados en la seguridad pública están expuestos a la crisis de privacidad de datos de América

La frontera en expansión de la IA y los datos que demanda

La inteligencia artificial está cambiando rápidamente cómo vivimos, trabajamos y gobernamos. En la salud pública y los servicios públicos, las herramientas de IA prometen una mayor eficiencia y una toma de decisiones más rápida. Pero debajo de la superficie de esta transformación hay un desequilibrio creciente: nuestra capacidad para recopilar datos ha superado nuestra capacidad para gobernarlos de manera responsable.

Esto va más allá de un desafío tecnológico para ser una crisis de privacidad. Desde el software de policía predictiva hasta las herramientas de vigilancia y los lectores de matrículas automatizados, los datos sobre los individuos se están acumulando, analizando y actuando a una velocidad sin precedentes. Y sin embargo, la mayoría de los ciudadanos no tienen idea de quién posee sus datos, cómo se utilizan o si se están protegiendo.

Lo he visto de cerca. Como un agente especial de ciberseguridad de la FBI retirado y ahora el director ejecutivo de una empresa líder de tecnología de seguridad pública, he trabajado en ambos sectores, el gobierno y el privado. Una cosa es clara: si no arreglamos la forma en que manejamos la privacidad de los datos ahora, la IA solo hará que los problemas existentes empeoren. Y uno de los problemas más grandes! Los jardines amurallados.

¿Qué son los jardines amurallados y por qué son peligrosos en la seguridad pública?

Los jardines amurallados son sistemas cerrados donde una empresa controla el acceso, el flujo y el uso de los datos. Son comunes en la publicidad y las redes sociales (piense en plataformas como Facebook, Google y Amazon), pero cada vez más, están apareciendo en la seguridad pública también.

Las empresas de seguridad pública juegan un papel clave en la infraestructura de la policía moderna, sin embargo, la naturaleza propietaria de algunos de estos sistemas significa que no siempre están diseñados para interactuar fluidamente con herramientas de otros proveedores.

Estos jardines amurallados pueden ofrecer funcionalidades poderosas como footage de cámaras corporales en la nube o lectores de matrículas automatizados, pero también crean un monopolio sobre cómo se almacenan, acceden y analizan los datos. Las agencias de aplicación de la ley a menudo se encuentran bloqueadas en contratos a largo plazo con sistemas propietarios que no se comunican entre sí. El resultado? Fragmentación, conocimientos en silos y la incapacidad de responder eficazmente en la comunidad cuando más se necesita.

El público no lo sabe, y eso es un problema

La mayoría de las personas no se dan cuenta de cuánta información personal está fluyendo hacia estos sistemas. En muchas ciudades, su ubicación, vehículo, actividad en línea y incluso su estado emocional pueden ser inferidos y rastreados a través de una patchwork de herramientas de IA. Estas herramientas pueden ser comercializadas como mejoras en la lucha contra el crimen, pero en ausencia de transparencia y regulación, pueden ser fácilmente mal utilizadas.

Y no es solo que los datos existan, sino que existen en ecosistemas amurallados que son controlados por empresas privadas con una supervisión mínima. Por ejemplo, herramientas como los lectores de matrículas ahora están en miles de comunidades en todo EE. UU., recopilando datos y alimentando su red propietaria. Los departamentos de policía a menudo no poseen ni siquiera el hardware, lo alquilan, lo que significa que el flujo de datos, el análisis y las alertas están dictados por un proveedor y no por un consenso público.

Por qué esto debería levantar banderas rojas

La IA necesita datos para funcionar. Pero cuando los datos están bloqueados dentro de jardines amurallados, no pueden ser cruzados, validados o desafiados. Esto significa que las decisiones sobre quién es detenido, dónde se asignan los recursos o quién es señalado como una amenaza están siendo tomadas en función de información parcial, a veces inexacta.

El riesgo? Malas decisiones, posibles violaciones de las libertades civiles y un creciente vacío entre los departamentos de policía y las comunidades a las que sirven. La transparencia se erosiona. La confianza se evapora. Y la innovación se estanca, porque las nuevas herramientas no pueden entrar en el mercado a menos que se ajusten a las limitaciones de estos sistemas amurallados.

En un escenario en el que un sistema de reconocimiento de matrículas incorrectamente señala un vehículo robado en función de datos desactualizados o compartidos, sin la capacidad de verificar esa información a través de plataformas o auditar cómo se tomó esa decisión, los oficiales pueden actuar en función de falsos positivos. Ya hemos visto incidentes en los que tecnología defectuosa llevó a arrestos incorrectos o a confrontaciones escaladas. Estos resultados no son hipotéticos, están sucediendo en comunidades de todo el país.

Qué es lo que realmente necesita la aplicación de la ley

En lugar de bloquear los datos, necesitamos ecosistemas abiertos que apoyen el intercambio de datos seguro, estandarizado e interoperable. Eso no significa sacrificar la privacidad. Al contrario, es la única forma de garantizar que las protecciones de privacidad se hagan cumplir.

Algunas plataformas están trabajando hacia esto. Por ejemplo, FirstTwo ofrece herramientas de conciencia situacional en tiempo real que enfatizan la integración responsable de datos públicamente disponibles. Otros, como ForceMetrics, se centran en combinar conjuntos de datos dispares como llamadas al 911, registros de salud conductual y antecedentes de incidentes para dar a los oficiales un mejor contexto en el terreno. Pero crucialmente, estos sistemas están diseñados con las necesidades de seguridad pública y el respeto a la comunidad como prioridad, no como una consideración posterior.

Construyendo una infraestructura de privacidad primero

Un enfoque de privacidad primero significa más que simplemente redactar información sensible. Significa limitar el acceso a los datos a menos que haya una necesidad clara y legítima. Significa documentar cómo se toman las decisiones y permitir auditorías de terceros. Significa asociarse con partes interesadas de la comunidad y grupos de derechos civiles para dar forma a las políticas y la implementación. Estos pasos resultan en una seguridad reforzada y una legitimidad general.

A pesar de los avances tecnológicos, todavía operamos en un vacío legal. EE. UU. carece de legislación federal integral sobre privacidad de datos, lo que deja a las agencias y a los proveedores que hacen sus propias reglas a medida que avanzan. Europa tiene GDPR, que ofrece una hoja de ruta para el uso de datos basado en el consentimiento y la rendición de cuentas. EE. UU., por contraste, tiene un mosaico fragmentado de políticas a nivel estatal que no abordan adecuadamente las complejidades de la IA en los sistemas públicos.

Eso necesita cambiar. Necesitamos estándares claros y aplicables sobre cómo las agencias de aplicación de la ley y las organizaciones de seguridad pública recopilan, almacenan y comparten datos. Y necesitamos incluir a las partes interesadas de la comunidad en la conversación. El consentimiento, la transparencia y la rendición de cuentas deben estar integrados en cada nivel del sistema, desde la adquisición hasta la implementación y el uso diario.

La línea inferior: Sin interoperabilidad, la privacidad sufre

En la seguridad pública, las vidas están en juego. La idea de que un proveedor pueda controlar el acceso a datos críticos para la misión y restringir cómo y cuándo se utilizan no es solo ineficiente. Es poco ético.

Necesitamos ir más allá del mito de que la innovación y la privacidad están en conflicto. La IA responsable significa sistemas más equitativos, efectivos y responsables. Significa rechazar el bloqueo del proveedor, priorizar la interoperabilidad y exigir estándares abiertos. Porque en una democracia, ninguna empresa debe controlar los datos que deciden quién recibe ayuda, quién es detenido o quién se queda atrás.