Wendy Gilbert, Vice-présidente senior des produits, Mark43 – Série d’entretiens

Wendy Gilbert, Vice-présidente senior des produits chez Mark43, compte plus de deux décennies d’expérience dans la technologie de sécurité publique, avec une carrière qui s’est déroulée dans des rôles de direction en gestion de produits dans des organisations telles que CentralSquare Technologies, TriTech Software Systems et VisionAIR. Ayant progressé de manière constante dans des rôles axés sur les systèmes de gestion des dossiers (RMS) et les plateformes de sécurité publique, elle dirige maintenant la stratégie produit chez Mark43, où elle est responsable de l’évolution des solutions cloud natives utilisées par les agences de police. Son parcours reflète une spécialisation approfondie dans la modernisation des logiciels critiques pour les premiers intervenants, avec un accent sur la convivialité, la conformité et l’efficacité opérationnelle dans des environnements à haute pression.

Mark43 est un fournisseur leader de logiciels de sécurité publique cloud natifs, offrant une plateforme intégrée qui comprend la gestion des dossiers (RMS), la dispatch assistée par ordinateur (CAD), l’analyse et les outils mobiles conçus pour les services de police et les services d’urgence. Conçu sur une architecture SaaS, la plateforme permet aux agences de rationaliser la rédaction de rapports, de gérer les affaires et d’accéder à des données en temps réel depuis n’importe où, réduisant ainsi de manière significative la charge administrative et améliorant les temps de réponse. Ses systèmes sont conçus pour remplacer les infrastructures héritées par des solutions évolutives, sécurisées et mobiles, aidant ainsi plus de centaines d’agences à améliorer la conscience de la situation, la collaboration et les résultats de sécurité publique globaux.

Vous avez passé plus de deux décennies à créer des produits au sein de sociétés comme VisionAIR, TriTech, CentralSquare et maintenant Mark43. Comment votre perspective sur la technologie de sécurité publique a-t-elle évolué, et qu’est-ce qui vous semble fondamentalement différent dans cette vague actuelle d’adoption de l’IA ?

La technologie a beaucoup changé au cours des deux dernières décennies. Pendant la majeure partie de cette période, la technologie était conçue pour soutenir la mission après les faits. Les systèmes captaient ce qui s’était passé, mais ils n’aidaient pas activement à déterminer ce qui devait se passer ensuite. C’est ce qui est fondamentalement différent maintenant.

Pour la première fois, nous ne ajoutons pas simplement de la technologie aux flux de travail de la sécurité publique. Nous réimaginons ces systèmes comme étant nativement IA dès le départ, ce qui change complètement le rôle de la technologie. Nous passons des systèmes d’enregistrement aux systèmes d’action. Au lieu de simplement documenter les incidents, nous aidons les agences à interpréter, à prioriser et à agir en temps réel. C’est la première fois dans ma carrière que j’ai vu la technologie fonctionner vraiment à la vitesse que la sécurité publique mérite, qui est de livrer des produits qui peuvent transformer la façon dont les agences fonctionnent au quotidien et, en fin de compte, améliorer les résultats de la sécurité publique.

Les recherches de Mark43 montrent un fort soutien pour l’IA parmi les forces de l’ordre, mais également une attente claire de surveillance humaine. Qu’est-ce que l’implication humaine significative ressemble-t-elle dans les opérations quotidiennes ?

Dans chaque décision de produit que nous prenons, le principe est clair. L’IA soutient. Les humains décident.

L’IA peut structurer un rapport, mettre en surface des liens entre les dossiers ou mettre en évidence des informations clés dans un appel. Mais un agent, un dispatcheur ou un enquêteur est toujours celui qui applique son jugement et prend la décision. Dans la pratique, cela signifie que l’IA accélère le chemin vers la compréhension tout en maintenant la responsabilité avec l’humain. Elle rédige, suggère et relie, mais elle ne décide pas.

C’est particulièrement important dans les flux de travail CAD et RMS, où les décisions ont de réelles conséquences. Le rôle de l’IA est de réduire la friction et la charge cognitive afin que les professionnels de la sécurité publique puissent se concentrer sur tout ce qui nécessite leur expertise.

Une préoccupation récurrente est de savoir si les rapports et les décisions assistés par l’IA tiendront devant les tribunaux. Comment concevez-vous des systèmes qui sont non seulement utiles sur le plan opérationnel mais également défendables sur le plan juridique ?

En venant d’un contexte CAD et RMS, la défensibilité n’est pas un « nice-to-have ». Si les dossiers d’un système ne peuvent pas résister devant les tribunaux, les outils ne sont pas prêts pour une utilisation en matière de sécurité publique.

Cela commence par la transparence. Chaque sortie générée par l’IA doit être directement liée à ses données sources. Les utilisateurs doivent être en mesure de retracer exactement d’où vient l’information, comment elle a été générée et comment elle a été utilisée. Si cette chaîne n’est pas claire, le système ne tiendra pas sous scrutiny. Le système doit également connaître ses limites. Lorsque les données sont incomplètes, nous concevons l’IA pour mettre en surface cette lacune, et non pour essayer de la résoudre par elle-même. Elle ne devine pas.

Un autre élément crucial est l’alignement sur la façon dont les agences fonctionnent réellement. L’IA ne peut pas dicter la politique ou le flux de travail. Elle doit se conformer aux exigences juridiques, aux normes de déclaration et aux réalités opérationnelles de chaque agence.

Nous intégrons la configurabilité directement dans le système. Les validations de conformité et les autorisations d’IA peuvent être définies au niveau du rapport et du code d’infraction, de sorte que les agences puissent choisir où l’assistance de l’IA est appropriée et où elle ne l’est pas. Par exemple, une agence peut activer le support de l’IA pour les incidents de niveau inférieur tout en le restreignant dans les cas qui portent un standard de preuve plus élevé.

Nous maintenons également une transparence totale sur l’utilisation de l’IA. Chaque instance d’implication de l’IA est consignée, et l’historique complet des brouillons est préservé dans le rapport. Cela crée un dossier clair et examinable qui soutient à la fois la responsabilité interne et le contrôle juridique externe.

Ces systèmes doivent résister à l’examen des superviseurs, des avocats et du public pour être utiles sur le plan opérationnel et efficaces.

À partir de votre expérience, où l’IA apporte-t-elle déjà une valeur mesurable dans la sécurité publique aujourd’hui, et où est-elle encore en deçà des attentes ?

La valeur la plus immédiate se trouve dans les flux de travail de base sur lesquels j’ai travaillé toute ma carrière.

La rédaction de rapports est essentielle, mais c’est également une ponction persistante sur le temps. L’IA change cela en transformant la documentation en quelque chose qui se produit aux côtés du travail, et non après. C’est un changement significatif pour les agents et les agences qui gèrent les contraintes de personnel.

Mais le changement plus important se produit dans la façon dont les agences passent de l’information à l’action. L’IA peut mettre en surface ce qui compte en temps réel, et non juste après les faits. Là où je vois le fossé, ce n’est pas dans la technologie. C’est dans la façon dont les organisations l’opérationnalisent. L’IA nécessite des politiques claires, une gouvernance et une formation pour être efficace. Les agences qui la traitent comme une transformation de flux de travail voient des résultats. Si les agences la voient uniquement comme une fonctionnalité, elle n’ouvrira pas la même opportunité.

Les préjugés demeurent l’un des défis les plus critiques de l’IA, en particulier dans les forces de l’ordre où les données historiques peuvent refléter des problèmes systémiques. Comment Mark43 aborde-t-il la mitigation des préjugés tout en maintenant l’exactitude et la confiance dans ses systèmes ?

Les préjugés sont une préoccupation réelle, en particulier dans les systèmes qui s’appuient sur des données historiques.

D’un point de vue produit, la réponse n’est pas de masquer la façon dont le système fonctionne. C’est de le rendre plus transparent et plus responsable. Nous nous concentrons sur l’amélioration de la qualité des données au point d’entrée, la cohérence des sorties et la garantie qu’il y a toujours une révision humaine. Dans les systèmes CAD et RMS, de meilleures données conduisent à de meilleures décisions. L’IA devrait renforcer cela, et non le saper.

L’objectif est de fonder les décisions sur des informations plus complètes et cohérentes, tout en garantissant que chaque sortie puisse être examinée, audité et améliorée avec le temps.

La transparence et la traçabilité sont souvent discutées comme des exigences pour une IA responsable. Qu’est-ce que la traçabilité complète ressemble-t-elle dans la pratique pour les agences utilisant des outils alimentés par l’IA ?

Dans les systèmes de sécurité publique, la traçabilité a toujours été essentielle. L’IA élève la barre.

Pour les agences utilisant l’IA, il devrait y avoir une visibilité complète sur ce qui a été généré, quelles données l’ont informé et comment il a été utilisé. Rien ne devrait exister sans une connexion claire avec le dossier sous-jacent. Chaque sortie devrait être explicative. Chaque étape devrait être examinable. C’est ainsi que l’on construit des systèmes qui peuvent être dignes de confiance, non seulement sur le plan opérationnel, mais aussi sur le plan public.

De nombreuses agences de sécurité publique s’appuient encore sur des systèmes hérités et des données fragmentées. Quelle est l’importance de la modernisation des infrastructures avant que l’IA puisse vraiment apporter des résultats significatifs ?

L’IA n’est puissante que si elle repose sur une base solide. J’ai travaillé avec des environnements CAD et RMS hérités pendant une grande partie de ma carrière, et j’ai vu de mes propres yeux à quel point les systèmes fragmentés limitent ce que les agences peuvent faire. Les enquêteurs utilisant ces systèmes doivent souvent interroger plusieurs outils pour simplement comprendre un seul cas. Cela n’est pas durable.

L’IA dépend de données connectées et accessibles. Si les systèmes sont cloisonnés ou nécessitent des contournements manuels, l’IA ne peut pas livrer des résultats significatifs. Elle devient une autre couche de complexité au lieu d’un multiplicateur de force. Les infrastructures modernes et cloud natives débloquent la possibilité pour l’IA sur une plateforme connectée complète.

Y a-t-il un avenir où l’IA participe activement aux flux de travail comme la gestion des affaires ou la dispatch, et où les limites devraient-elles être établies ?

L’IA continuera de s’intégrer plus profondément dans les flux de travail, en particulier dans des domaines tels que la gestion des appels, le triage et la gestion des affaires. Elle coordonnera de plus en plus les flux de travail, priorisera les actions et mettra en surface les prochaines étapes en temps réel. Cependant, dans la sécurité publique, il faudra établir des limites claires. L’IA peut recommander, prioriser et mettre en surface des informations clés. Elle peut réduire le temps nécessaire pour passer de l’information à l’action. Mais les décisions qui affectent la vie des gens doivent rester entre les mains de professionnels formés. Notre objectif est la clarté et la confiance au bon moment.

La confiance du public est essentielle dans la police, en particulier lors de l’introduction de nouvelles technologies. Quelles sont les garanties les plus efficaces pour assurer que l’IA renforce la confiance plutôt que de la saper ?

Nous reconnaissons que la confiance est quelque chose que les agences de sécurité publique travaillent à gagner chaque jour. La technologie doit répondre à la même norme. Pour l’IA, cela commence par la visibilité et la transparence. Les utilisateurs doivent comprendre ce que le système fait et pourquoi. Cela nécessite également de la cohérence, de la gouvernance et la capacité d’examiner les résultats avec le temps. Nous construisons avec une boucle de rétroaction directe du terrain, car la confiance est établie à travers l’utilisation réelle et la validation continue.

En regardant les prochaines années, comment vous attendez-vous que le rôle de l’IA dans la sécurité publique évolue d’un soutien administratif vers une prise de décision en temps réel ?

L’IA sera intégrée à tout le cycle de vie de la sécurité publique, du moment où un appel est reçu à la façon dont une affaire est résolue. Le plus grand changement sera la vitesse à laquelle les agences peuvent passer de l’information à l’action. Cela a toujours été le défi dans les systèmes CAD et RMS. Nous nous dirigeons vers un modèle où le système comprend comment votre agence fonctionne, anticipe les premières étapes d’un flux de travail et aide à les exécuter, tout en restant centré sur l’humain.

Le rôle de l’IA est de réduire la charge administrative, d’unifier les systèmes fragmentés, de mettre en surface les bonnes informations au bon moment et de soutenir de meilleures décisions sous pression. L’IA ne peut pas remplacer l’expérience. Elle aide à garantir que les personnes en première ligne sont mieux informées, préparées et soutenues dans chaque décision qu’elles prennent.

Merci pour cette grande interview. Les lecteurs qui souhaitent en savoir plus peuvent visiter Mark43.