Ben Ha, Directeur de l’Architecture des Solutions, Gouvernement, Juridique et Conformité, Veritone – Série d’entretiens

Ben Ha est le Directeur de l’Architecture des Solutions pour la division Gouvernement, Juridique et Conformité de Veritone. Ben a plus de 15 ans d’expérience dans l’industrie logicielle, servant principalement dans un rôle de pré-ventes technique. Ben travaille avec des clients dans le domaine du gouvernement et du droit depuis les 4 dernières années.

Veritone conçoit des solutions d’IA centrées sur l’humain. Les logiciels et services de Veritone permettent aux individus au sein de certaines des plus grandes et des plus reconnaissables marques mondiales de fonctionner de manière plus efficace, d’accélérer la prise de décision et d’augmenter la rentabilité.

Comment iDEMS de Veritone s’intègre-t-il aux systèmes de forces de l’ordre existants, et quels avantages spécifiques apporte-t-il ?

Les systèmes existants des forces de l’ordre (LEA) ont généralement des données provenant de nombreuses sources différentes, comme des systèmes de caméras portables, des systèmes de gestion de vidéos et d’autres caméras et appareils. iDEMS permet aux LEA de créer des connexions dans ces systèmes existants avec une API ou d’autres chemins d’intégration. Il virtualise ensuite ces systèmes, permettant aux forces de l’ordre de conserver les données maîtres là où elles se trouvent dans les systèmes sources. À l’intérieur de l’application Veritone Investigate, l’utilisateur a accès à un fichier proxy à basse résolution qu’il peut utiliser pour visualiser, partager, rechercher, analyser, etc. Puisque les données sont dans un emplacement central, il est plus facile pour l’utilisateur de passer par le processus d’enquête sans avoir à basculer entre des applications cloisonnées.

Veritone Investigate permet également à l’utilisateur de tirer parti de la cognition d’IA pour analyser ce qui se trouve à l’intérieur du contenu lui-même. En d’autres termes, les LEA peuvent utiliser l’IA pour structurer les données non structurées, fournissant des informations de métadonnées qui rendent les recherches beaucoup plus faciles. La plupart des systèmes ne font que stocker les données et ne contiennent pas d’informations sur les mots prononcés ou les visages et les objets à l’intérieur du contenu. Avec Investigate et la solution iDEMS, l’IA est intégrée de manière native et s’exécute automatiquement lors de l’ingestion, éliminant ainsi le besoin de regarder ou d’écouter manuellement le contenu pour obtenir le contexte, ce qui accélère le processus d’enquête.

Quels sont les exigences techniques pour que les forces de l’ordre mettent en œuvre iDEMS de Veritone ?

Les LEA n’ont pas besoin de disposer d’exigences techniques importantes pour mettre en œuvre iDEMS de Veritone – en fait, la solution fonctionnera avec presque toutes les tailles de LEA, quel que soit le système qu’elles possèdent ou non. Puisque Veritone dispose d’adaptateurs d’ingestion qui peuvent se connecter à diverses API, la seule chose dont dispose l’LEA est quelqu’un ayant accès à ces systèmes existants. De plus, iDEMS est basé sur le cloud, et l’LEA aura besoin d’une connexion Internet à haut débit et d’un navigateur Web moderne.

Pouvez-vous fournir plus de détails sur la façon dont Veritone Track se différencie des technologies de reconnaissance faciale traditionnelles en termes de précision et d’efficacité ?

La reconnaissance faciale traditionnelle repose sur les caractéristiques faciales visibles (yeux, nez, bouche, etc.) pour identifier une personne d’intérêt. Le problème est que si la vidéo ne capture pas le visage de la personne, la technologie ne peut pas identifier ou suivre cette personne. Par exemple, si les images ne capturent que le dos de quelqu’un, le visage est masqué ou caché par un capuchon, ou que la vidéo n’a pas un angle optimal du visage, la reconnaissance faciale ne fonctionnera pas.

À l’inverse, Veritone Track traite les personnes potentiellement intéressantes comme des objets dans un processus appelé objets similaires à des humains (HLO). Grâce aux HLO, Veritone Track peut créer une « empreinte de personne » unique de cette personne en fonction d’attributs visuellement distinctifs. Ces attributs visuellement distinctifs pourraient être un chapeau, des lunettes, un sac à dos ou si elles portent quelque chose dans leur main, même le contraste de couleur entre leurs vêtements et leurs chaussures. Cela prend également en compte le type de corps de la personne, par exemple la longueur du bras, la stature, le poids, etc.

Une fois cette empreinte de personne construite, Veritone Track intègre un travail de police traditionnel via une boucle humaine qui examine et valide les correspondances potentielles. Finalement, cette méthode est plus précise et plus efficace que les technologies de reconnaissance faciale traditionnelles.

Comment l’utilisation d’objets similaires à des humains (HLO) dans Veritone Track améliore-t-elle le processus d’identification par rapport à l’utilisation de la reconnaissance faciale ?

L’utilisation d’HLO améliore le processus d’identification car elle n’exige pas que l’LEA ait accès aux mêmes variables que la reconnaissance faciale traditionnelle, c’est-à-dire un visage humain entièrement visible. Veritone Track est flexible car il utilisera toutes les informations disponibles, quelle que soit la qualité de la vidéo, la résolution ou l’angle (haut sur le plafond ou au niveau des yeux) de la caméra. Malgré les avantages de Veritone Track, il et la reconnaissance faciale ne sont pas mutuellement exclusifs – les LEA peuvent utiliser les deux technologies simultanément. Par exemple, les LEA pourraient utiliser Veritone Track pour construire une empreinte de personne à partir de grandes quantités de vidéos de qualité inférieure tout en exécutant une reconnaissance faciale sur des échantillons de vidéos de personnes potentiellement intéressantes.

Comment le système alimenté par l’IA de Veritone aide-t-il à accélérer les enquêtes tout en maintenant des normes élevées de gestion des preuves ?

Veritone Investigate, Veritone Track ou toutes les applications de Veritone pour le secteur public utilisent l’IA pour accélérer considérablement les processus manuels pour les LEA, réduisant des semaines ou des jours de travail à quelques heures, ce qui est de plus en plus critique face aux pénuries de personnel en cours. Malgré cette vitesse accrue, Veritone maintient des normes élevées de gestion des preuves en ne faisant pas entièrement confiance aux sorties de l’IA. Ces solutions laissent le dernier mot à l’enquêteur humain pour examiner les résultats finals. La technologie de Veritone permet également aux humains de se conformer à des normes élevées de gestion des preuves et de chaîne de custody. De même, ils disposent de journaux d’audit intégrés, afin que l’LEA puisse voir comment l’enquêteur est arrivé au résultat final. Pour résumer, l’IA ne remplace pas les humains – elle améliore simplement leurs capacités.

L’IA dans les forces de l’ordre soulève des inquiétudes quant à la persécution erronée des minorités, en particulier avec des villes comme Détroit, Michigan, qui connaissent plusieurs arrestations erronées en moins d’un an. Comment Veritone aborde-t-elle ces défis éthiques ?

Tout d’abord, Veritone utilise toujours des garde-fous et des mesures de sécurité pour minimiser la possibilité de persécution erronée. Par exemple, Veritone Track n’utilise pas de marqueurs biométriques tels que les caractéristiques faciales pour construire des empreintes de personne, mais repose plutôt sur les vêtements, le type de corps, etc. Deuxièmement, ces outils ne grattent jamais Internet, les médias sociaux ou de grandes bases de données comme une agence de passeport pour obtenir des données. Lorsqu’une LEA utilise nos solutions dans une affaire ou une enquête active, elle ne peut comparer les preuves photo ou vidéo téléchargées qu’à une base de données de contrevenants connus ayant des dossiers d’arrestation. Dans le cas de ce qui s’est passé à Détroit, Michigan, les forces de l’ordre ont utilisé une solution qui a récupéré des données à partir de l’ensemble d’Internet sans qu’un enquêteur humain soit « dans la boucle » pour valider les résultats, ce qui a abouti à la persécution erronée de citoyens innocents.

Pouvez-vous élaborer sur la façon dont l’IA de Veritone garantit l’exactitude des pistes générées ?

L’IA de Veritone génère des pistes potentielles que les enquêteurs humains peuvent poursuivre. Même si l’IA fournit à l’enquêteur des résultats et des découvertes utiles, la personne prend toujours la décision finale. À nouveau, l’affaire de Détroit, Michigan, a vu les forces de l’ordre faire confiance à la reconnaissance faciale seule pour faire le travail. Cette confiance aveugle s’est avérée problématique car ces modèles reposaient sur des données qui ont abouti à des préjugés démographiques ou raciaux.

De plus, les données que Veritone choisit pour entraîner ses moteurs et modèles d’IA sont représentatives du contenu. Avant de former les données, Veritone supprimera les éléments de vidéo et d’audio sensibles des sources telles que les caméras portables, les vidéos en voiture, les images de vidéosurveillance, etc., ou utilisera des données non sensibles accessibles au public. De même, Veritone validera les résultats avec les commentaires des clients pour une amélioration continue.

Comment Veritone gère-t-elle le potentiel pour l’IA à perpétuer les préjugés existants au sein des données des forces de l’ordre ?

Veritone utilise une approche à plusieurs modèles qui fonctionne avec de nombreux fournisseurs tiers pour obtenir une perspective plus large plutôt que de compter uniquement sur un modèle d’IA. En particulier, cette méthode permet à Veritone de normaliser à l’intérieur d’une catégorie donnée de cognition d’IA, telle que la transcription, la traduction, la reconnaissance faciale, la détection d’objets ou la reconnaissance de texte. En exploitant la « sagesse de la foule », Veritone peut exécuter le même contenu contre plusieurs modèles au sein de la même catégorie de cognition d’IA pour aider à se prémunir contre les préjugés.

Quelles mesures sont prises pour garantir que les applications d’IA de Veritone ne portent pas atteinte aux droits à la vie privée ?

Il existe deux meilleures pratiques que les applications d’IA de Veritone suivent pour garantir qu’elles ne portent pas atteinte aux droits à la vie privée. Un : les données du client restent les données du client à tout moment. Ils ont le droit de gérer, de supprimer ou de faire ce qu’ils veulent avec leurs données. Même si les données du client s’exécutent dans l’environnement cloud sécurisé de Veritone, ils conservent la pleine propriété. Deux : Veritone n’utilise jamais les données du client sans leur permission ou consentement. En particulier, Veritone n’utilise pas les données du client pour réentraîner les modèles d’IA. La sécurité et la vie privée sont de la plus grande importance, et les clients ne travailleront qu’avec des modèles pré-entraînés qui utilisent des données supprimées de toutes les informations sensibles, biométriques et personnelles.

Comment Veritone équilibre-t-elle le besoin d’une avancée technologique rapide avec des considérations éthiques et un impact sociétal ?

Lors du développement de l’IA à un rythme rapide, la tendance est d’utiliser autant de données que possible et de les récolter en permanence pour améliorer et grandir. Même si une telle approche tend à aboutir à une maturité accélérée du modèle d’IA, elle ouvre diverses préoccupations éthiques, de confidentialité et sociétales.

À cette fin, Veritone recherche toujours le meilleur de l’IA. Lors de la vague d’IA générative, Veritone a eu un accès précoce à la technologie d’OpenAI et d’autres partenaires. Cependant, au lieu de faire progresser et de déployer de nouvelles solutions immédiatement, nous nous sommes demandé : « Comment nos clients utiliseront-ils réellement l’IA dans un cas d’utilisation approprié ? » En d’autres termes, après avoir examiné la mission et les points de douleur des LEA, nous avons déterminé comment appliquer l’IA générative de manière responsable, en gardant les humains au centre tout en permettant aux utilisateurs d’atteindre leurs objectifs et de surmonter les défis.

Par exemple, Veritone Investigate comporte un grand modèle de langage privé et isolé du réseau qui peut résumer des conversations orales ou du contenu. Si une caméra portable capture un incident ou qu’un enquêteur interroge quelqu’un, Veritone Investigate peut transcrire ce contenu et le résumer automatiquement, ce qui est très utile pour les détectives ou les enquêteurs qui doivent fournir un résumé d’une entrevue entière en un court paragraphe au procureur ou à l’accusation. Néanmoins, la personne a toujours la possibilité d’examiner la sortie générée par l’IA pour apporter les modifications nécessaires avant de la soumettre.

Je vous remercie pour cette grande interview, les lecteurs qui souhaitent en savoir plus peuvent visiter Veritone.