Comment les jardins clos dans la sécurité publique exposent la crise de confidentialité des données en Amérique

La frontière en expansion de l’IA et des données qu’elle exige

L’intelligence artificielle change rapidement la façon dont nous vivons, travaillons et gouvernons. Dans la santé publique et les services publics, les outils d’IA promettent plus d’efficacité et une prise de décision plus rapide. Mais en dessous de cette transformation, il y a un déséquilibre croissant : notre capacité à collecter des données a dépassé notre capacité à les gérer de manière responsable.

Ceci va au-delà d’un simple défi technologique pour devenir une crise de confidentialité. Des logiciels de police prédictive aux outils de surveillance et aux lecteurs de plaques d’immatriculation automatisés, des données sur les individus sont accumulées, analysées et mises en œuvre à une vitesse sans précédent. Et pourtant, la plupart des citoyens n’ont aucune idée de qui possède leurs données, de la façon dont elles sont utilisées ou si elles sont protégées.

J’ai vu cela de près. En tant qu’ancien agent spécial du FBI en cybersécurité et maintenant PDG d’une entreprise de technologie de sécurité publique de premier plan, j’ai travaillé à la fois dans le gouvernement et le secteur privé. Une chose est claire : si nous ne réglons pas la façon dont nous traitons la confidentialité des données maintenant, l’IA ne fera qu’aggraver les problèmes existants. Et l’un des plus grands problèmes ? Les jardins clos.

Qu’est-ce que les jardins clos et pourquoi sont-ils dangereux dans la sécurité publique ?

Les jardins clos sont des systèmes fermés où une entreprise contrôle l’accès, le flux et l’utilisation des données. Ils sont courants dans la publicité et les médias sociaux (pensez à des plateformes comme Facebook, Google et Amazon) mais de plus en plus, ils apparaissent également dans la sécurité publique.

Les entreprises de sécurité publique jouent un rôle clé dans l’infrastructure de police moderne, cependant, la nature propriétaire de certains de ces systèmes signifie qu’ils ne sont pas toujours conçus pour interagir de manière fluide avec les outils d’autres fournisseurs.

Ces jardins clos peuvent offrir une fonctionnalité puissante comme des images de caméras de surveillance en ligne ou des lecteurs de plaques d’immatriculation automatisés, mais ils créent également un monopole sur la façon dont les données sont stockées, accessibles et analysées. Les agences de police se retrouvent souvent verrouillées dans des contrats à long terme avec des systèmes propriétaires qui ne communiquent pas entre eux. Le résultat ? La fragmentation, les connaissances cloisonnées et l’incapacité de répondre efficacement dans la communauté lorsqu’il en va le plus.

Le public ne sait pas, et c’est un problème

La plupart des gens ne réalisent pas à quel point leurs informations personnelles sont intégrées dans ces systèmes. Dans de nombreuses villes, votre emplacement, votre véhicule, votre activité en ligne et même votre état émotionnel peuvent être déduits et suivis à travers un patchwork d’outils d’IA. Ces outils peuvent être commercialisés comme des améliorations de lutte contre la criminalité, mais en l’absence de transparence et de réglementation, ils peuvent facilement être mal utilisés.

Et ce n’est pas seulement que les données existent, mais qu’elles existent dans des écosystèmes clos contrôlés par des entreprises privées avec un contrôle minimal. Par exemple, des outils comme les lecteurs de plaques d’immatriculation sont maintenant présents dans des milliers de communautés à travers les États-Unis, collectant des données et les intégrant dans leur réseau propriétaire. Les départements de police ne possèdent même pas toujours le matériel, ils le louent, ce qui signifie que le pipeline de données, l’analyse et les alertes sont dictés par un fournisseur et non par un consensus public.

Pourquoi cela devrait-il soulever des drapeaux rouges

L’IA a besoin de données pour fonctionner. Mais lorsque les données sont verrouillées à l’intérieur de jardins clos, elles ne peuvent pas être croisées, validées ou contestées. Cela signifie que les décisions concernant qui est arrêté, où les ressources sont allouées ou qui est signalé comme une menace sont prises sur la base d’informations partielles, parfois inexactes.

Le risque ? De mauvaises décisions, de possibles violations des libertés civiles et un écart croissant entre les départements de police et les communautés qu’ils servent. La transparence s’érode. La confiance s’évapore. Et l’innovation est étouffée, car de nouveaux outils ne peuvent pas entrer sur le marché à moins de se conformer aux contraintes de ces systèmes clos.

Dans un scénario où un système de reconnaissance de plaques d’immatriculation signale incorrectement un véhicule volé sur la base de données obsolètes ou partagées, sans la possibilité de vérifier ces informations sur différentes plateformes ou d’auditer la façon dont cette décision a été prise, les agents peuvent agir sur la base de faux positifs. Nous avons déjà vu des incidents où des technologies défectueuses ont conduit à des arrestations erronées ou à des confrontations exacerbées. Ces résultats ne sont pas hypothétiques, ils se produisent dans des communautés à travers le pays.

Ce dont les forces de l’ordre ont vraiment besoin

Au lieu de verrouiller les données, nous avons besoin d’écosystèmes ouverts qui soutiennent un partage de données sécurisé, normalisé et interopérable. Cela ne signifie pas sacrifier la confidentialité. Au contraire, c’est la seule façon de garantir que les protections de confidentialité soient appliquées.

Certaines plateformes travaillent dans cette direction. Par exemple, FirstTwo offre des outils de conscience situationnelle en temps réel qui mettent l’accent sur une intégration responsable de données publiquement disponibles. D’autres, comme ForceMetrics, se concentrent sur la combinaison de jeux de données disparates tels que les appels au 911, les dossiers de santé comportementale et l’historique des incidents précédents pour donner aux agents un meilleur contexte sur le terrain. Mais de manière cruciale, ces systèmes sont conçus avec les besoins de sécurité publique et le respect de la communauté comme priorité, et non comme une afterthought.

Construire une infrastructure de confidentialité

Une approche de confidentialité signifie plus que la suppression d’informations sensibles. Cela signifie limiter l’accès aux données à moins qu’il n’y ait un besoin clair et légal. Cela signifie documenter la façon dont les décisions sont prises et permettre des audits de tiers. Cela signifie s’associer à des parties prenantes de la communauté et à des groupes de défense des droits civils pour façonner les politiques et la mise en œuvre. Ces étapes aboutissent à une sécurité renforcée et à une légitimité globale.

Malgré les progrès technologiques, nous opérons toujours dans un vide juridique. Les États-Unis manquent de législation fédérale globale sur la confidentialité des données, laissant les agences et les fournisseurs établir leurs propres règles. L’Europe a le RGPD, qui offre une feuille de route pour une utilisation des données basée sur le consentement et la responsabilité. Les États-Unis, en revanche, ont un patchwork fragmenté de politiques au niveau des États qui ne répondent pas de manière adéquate aux complexités de l’IA dans les systèmes publics.

Cela doit changer. Nous avons besoin de normes claires et applicables sur la façon dont les forces de l’ordre et les organisations de sécurité publique collectent, stockent et partagent des données. Et nous devons inclure les parties prenantes de la communauté dans la conversation. Le consentement, la transparence et la responsabilité doivent être intégrés dans chaque niveau du système, de l’approvisionnement à la mise en œuvre en passant par l’utilisation quotidienne.

Le point clé : sans interopérabilité, la confidentialité souffre

Dans la sécurité publique, des vies sont en jeu. L’idée qu’un seul fournisseur puisse contrôler l’accès à des données critiques et restreindre la façon dont et quand elles sont utilisées n’est pas seulement inefficace. C’est contraire à l’éthique.

Nous devons dépasser le mythe selon lequel l’innovation et la confidentialité sont incompatibles. Une IA responsable signifie des systèmes plus équitables, efficaces et responsables. Cela signifie rejeter le verrouillage des fournisseurs, donner la priorité à l’interopérabilité et exiger des normes ouvertes. Parce que dans une démocratie, aucune entreprise ne devrait contrôler les données qui déterminent qui reçoit de l’aide, qui est arrêté ou qui est laissé pour compte.