Entretiens

Andrew Nassar, directeur technique d’IC Realtime – Série d’entretiens

Antoine Tardif
Ajouter Unite.AI à vos sources préférées sur Google
Andrew Nassar, CTO of IC Realtime, against a light gray background.
Points clésBunker exécute l'analyse IA principale sur une passerelle locale NVIDIA Jetson afin de…
Voir plus
  • Bunker exécute l'analyse IA principale sur une passerelle locale NVIDIA Jetson afin de réduire la dépendance au cloud et d'accélérer les alertes.
  • Nassar refuse de développer des fonctionnalités d'identité biométrique car la surveillance doit décrire des événements plutôt que profiler des personnes.
  • L'IA en périphérie n'est pas une politique de confidentialité puisque les services cloud gèrent encore l'accès à distance et l'historique vidéo.

Andrew Nassar est directeur technique d’IC Realtime, où il a contribué à guider l’entreprise dans son évolution, des caméras analogiques à l’enregistrement numérique, à la surveillance à distance et à l’analyse vidéo assistée par l’IA. Fort de plus de 20 ans d’expérience dans le secteur de la vidéosurveillance, il s’attache à transformer les avancées en vision par ordinateur et en informatique en périphérie en outils pratiques pour comprendre les événements, retrouver des séquences vidéo et améliorer les opérations de sécurité.

IC Realtime conçoit des systèmes et des logiciels de vidéosurveillance pour les environnements résidentiels et commerciaux. Sa plateforme Bunker intègre l’analyse par IA aux systèmes de caméras compatibles grâce à une passerelle dédiée équipée de NVIDIA Jetson, qui permet de recevoir des alertes contextuelles et d’effectuer des recherches vidéo en langage naturel. La plateforme combine l’analyse locale et des services connectés au cloud pour l’accès à distance et l’historique vidéo.

Vous avez contribué à guider IC Realtime dans ses transitions, des caméras analogiques à l’enregistrement numérique, à la surveillance à distance, puis à l’IA. Qu’est-ce qui vous a convaincu que l’IA pouvait transformer en profondeur la vidéosurveillance, et quelles avancées ont rendu possible l’analyse vidéo sophistiquée en périphérie du réseau ?

Nous utilisons l’apprentissage automatique et la vision par ordinateur dans nos caméras depuis des années. Cette technologie est devenue beaucoup plus utile lorsque le système a pu aider à comprendre un événement et à retrouver les séquences vidéo pertinentes, au lieu de simplement produire davantage de vidéos à examiner. Un propriétaire veut savoir ce qui mérite son attention. Une entreprise veut pouvoir retrouver un incident sans passer des heures à le chercher.

Bunker met cette approche en œuvre sur place, au moyen d’une passerelle dédiée équipée de NVIDIA Jetson. En rapprochant des caméras l’analyse principale, on peut réduire la nécessité d’envoyer chaque tâche d’analyse vers le cloud et améliorer la réactivité. L’avancée concrète réside dans l’association du calcul local et d’un logiciel qui transforme les vidéos en alertes contextuelles et en événements consultables.

Mon critère reste la valeur démontrée. La technologie doit résoudre un problème réel dans l’environnement où le client l’utilisera. Une démonstration réussie n’est que le début du processus.

En prenant Bunker comme exemple, pourriez-vous nous expliquer ce qui se passe entre la capture d’un événement par une caméra et la réception d’une alerte par un utilisateur ? Quelles fonctions d’IA sont exécutées localement, lesquelles nécessitent encore le cloud, et quelles données quittent les lieux ?

Dans les grandes lignes, une caméra compatible transmet la vidéo à la passerelle Bunker, où l’analyse principale par IA est effectuée sur place. La plateforme associe l’activité détectée à des événements vidéo et peut envoyer une alerte contextuelle accompagnée d’une capture d’image et d’une description en langage courant. L’utilisateur peut ensuite visionner la vidéo dans l’application.

Bunker repose sur une architecture hybride. La connexion au cloud permet l’accès à distance, les services par abonnement et l’historique vidéo ; il serait donc trompeur de dire que la plateforme fonctionne sans cloud ou qu’aucune vidéo ne quitte les lieux. L’important, c’est la manière dont ces données sont protégées lorsqu’elles quittent les lieux. Toutes les données sont chiffrées en transit, y compris la vidéo en direct, qui reste chiffrée depuis la passerelle jusqu’à l’écran de la personne qui la visionne. L’infrastructure intermédiaire la relaie, mais ne peut pas la visionner. Chaque passerelle s’authentifie au moyen de son propre certificat, et non d’identifiants partagés, et les séquences stockées dans le cloud sont chiffrées.

Les clients devraient recevoir une explication claire de ce flux, notamment des fonctions qui dépendent d’Internet et de ce qui se passe lorsque la connexion est interrompue.

Les caméras de sécurité fonctionnent sous la pluie, dans l’obscurité, face à l’éblouissement et dans des environnements en constante évolution. Quelle est la défaillance la plus difficile que vous ayez rencontrée sur le terrain, et comment mesurez-vous si les améliorations réduisent les fausses alertes sans augmenter le nombre d’incidents non détectés ?

Je travaille dans ce secteur depuis plus de 20 ans, et la technologie des caméras a considérablement progressé, notamment en faible luminosité et dans des conditions difficiles. Les images nocturnes et bruitées sont désormais presque aussi nettes que celles prises en journée. Malgré cela, la pluie, l’éblouissement, le brouillard et la neige peuvent encore réduire la précision d’un modèle d’IA. De meilleurs capteurs ne font pas disparaître ces variables.

Nous avons donc opté pour une approche dynamique, qui s’adapte aux environnements changeants et aux différents moments de la journée, plutôt que de reposer sur une configuration unique et fixe. Au cours des deux dernières années de développement, nous avons consacré des milliers d’heures à des essais sur le terrain, dans de véritables installations, et pas seulement avec des caméras sur un banc d’essai. Nous avons conçu le système en tenant compte des enseignements tirés de ces déploiements.

Je n’évaluerais pas une amélioration au seul fait qu’elle réduit le nombre de notifications. Il faut se demander si elle élimine les alertes non pertinentes tout en détectant les incidents importants. Réduire le bruit n’a d’intérêt que si le système reste utile lorsqu’un événement important se produit.

Détecter une personne ou un véhicule n’est pas la même chose que déterminer si un comportement est préoccupant. Comment définissez-vous une anomalie, adaptez-vous cette définition à chaque lieu et évitez-vous que le système considère une activité sans danger comme une menace ?

La détection d’un objet ne permet pas, à elle seule, de savoir s’il y a un problème. Une livraison à l’entrée principale et une activité dans une zone à accès restreint peuvent concerner le même type d’objet, mais nécessiter des réponses très différentes. Il faut partir du cas d’usage du client et du contexte propre à chaque site.

Je distinguerais un événement qui mérite d’être examiné de la conclusion selon laquelle quelqu’un représente une menace. Le système devrait aider une personne à comprendre ce qui a été observé et pourquoi cela a été signalé, en lui donnant accès aux images correspondantes. Il ne devrait pas inciter l’utilisateur à considérer toute activité inhabituelle comme une preuve d’acte répréhensible.

À mesure que ces systèmes gagnent en capacité, le défi consiste à rendre ce contexte utile sans exagérer ce que l’IA sait. Le jugement humain reste important, en particulier lorsqu’une alerte peut entraîner une action lourde de conséquences.

La recherche en langage naturel promet de remplacer des heures d’examen manuel des images. Comment votre système relie-t-il la description d’un utilisateur à la bonne séquence vidéo, et comment vérifiez-vous qu’il ne manque aucun événement, qu’il ne renvoie pas de correspondances erronées et que les descriptions générées par l’IA sont bien étayées par les images ?

L’idée est de permettre de rechercher dans les vidéos en employant les mots qu’une personne utiliserait naturellement. Lorsqu’une activité est détectée, Bunker crée des descriptions horodatées associées aux événements vidéo. La question de l’utilisateur sert à interroger cet index et à afficher les images pertinentes. L’utilisateur dispose ainsi d’un point de départ sans avoir à parcourir manuellement l’enregistrement en entier.

Les images doivent rester la référence pour vérifier le résultat. Une description générée facilite la recherche, mais elle ne doit pas être considérée comme plus fiable que ce que la caméra a réellement capté.

Pour les tests, je distinguerais trois questions : le système a-t-il manqué un événement pertinent ? A-t-il renvoyé un élément qui ne correspond pas à la demande ? La description mentionne-t-elle quelque chose que les images ne permettent pas d’établir ? Il s’agit de modes de défaillance différents. Il ne suffirait pas d’évaluer uniquement si la recherche renvoie une réponse qui semble plausible.

Quelles contraintes le matériel NVIDIA Jetson impose-t-il en matière de taille des modèles, de précision, de consommation électrique et de nombre de flux de caméra que vous pouvez analyser ? Comment maintenez-vous des performances fiables avec des caméras tierces plus anciennes, lorsque la capacité de traitement est atteinte ou en cas de perte de la connexion Internet ?

La question de conception consiste à fournir une analyse utile avec les ressources disponibles sur le site. La complexité du modèle, le volume de vidéo traité et le délai de réponse requis doivent tous respecter les limites de fonctionnement de la passerelle. C’est pourquoi le nombre de flux pris en charge ne suffit pas, à lui seul, à rendre compte des performances.

Au lancement, Bunker prévoit de prendre en charge jusqu’à 10 flux de caméra. Les caméras ONVIF compatibles permettent aux clients de conserver leur matériel existant, mais la compatibilité doit tout de même être vérifiée pour chaque installation. Les profils, le micrologiciel, la qualité d’image et les fonctionnalités utilisées sont autant de facteurs importants.

Nous devons également parler de la résilience avec précision. Le traitement local et les services connectés au cloud sont des éléments distincts du système ; la présence d’une passerelle de périphérie ne signifie pas que toutes les fonctionnalités fonctionneront normalement en cas de panne Internet. Les mises à jour contribuent elles aussi à la fiabilité. Chaque mise à jour est signée et vérifiée sur la passerelle avant son installation ; les anciennes versions vulnérables sont rejetées et, en cas d’échec, la mise à jour est automatiquement annulée. Une mise à jour défectueuse ne devrait pas être à l’origine de l’interruption du système de sécurité d’un site.

Le traitement local, à lui seul, ne répond pas à toutes les questions relatives à la confidentialité. Où Bunker stocke-t-il les images, les requêtes de recherche et les métadonnées générées par l’IA, combien de temps les conserve-t-il et qui peut y accéder ? Comment améliorez-vous vos modèles sans présumer que vous pouvez accéder aux images privées de vos clients ?

Je suis d’accord. « IA en périphérie » ne constitue pas une politique de confidentialité complète. Les clients doivent comprendre où vont leurs données, quelles données sont conservées et qui peut y accéder. Cela concerne aussi bien les requêtes de recherche et les descriptions générées que les vidéos.

Les images et les bases de données qui sous-tendent le service sont chiffrées au repos. Les mots de passe sont hachés et les sessions expirent : même une violation de la base de données ne permettrait donc à personne d’obtenir des identifiants utilisables. La passerelle elle-même est également chiffrée ; si l’appareil est volé, il ne donne accès ni aux images ni aux identifiants. L’offre de lancement de Bunker comprenait 60 jours d’historique vidéo dans le cloud avec les forfaits Standard et 365 jours avec Premium, ainsi que Video Vault, qui permet au client d’enregistrer les extraits de son choix.

Nous n’utilisons pas les images des clients pour entraîner nos modèles et ne créons pas de modèles biométriques à partir des personnes filmées par les caméras. Le fait qu’un client utilise le produit ne nous autorise pas à réutiliser ses vidéos privées.

La controverse autour de Flock Safety a soulevé des questions sur les personnes autorisées à rechercher des données de vidéosurveillance et sur la révocation adéquate des accès. Même si votre modèle de déploiement est différent, quelles leçons s’appliquent à vos systèmes et quelles mesures de protection devraient être obligatoires plutôt que facultatives ?

La levée de boucliers contre Flock ne concerne pas vraiment l’IA. Elle porte sur les personnes autorisées à accéder aux données et à les consulter. Une grande partie des critiques a porté sur la sécurité des comptes, notamment lorsque des élus ont demandé pourquoi l’authentification multifacteur n’était pas obligatoire. Dès lors qu’un mot de passe volé suffit pour effectuer des recherches dans un système de vidéosurveillance, l’endroit où le modèle s’exécute n’a plus d’importance.

Avec Bunker, seuls les utilisateurs auxquels le propriétaire du système a accordé un accès peuvent consulter les données de ce système. Nous ne les partageons pas avec des tiers, nous n’utilisons pas les données des clients pour entraîner nos modèles et nous ne créons pas de modèles biométriques.

La sécurité doit commencer au niveau de l’appareil et se poursuivre jusqu’au compte. Chaque passerelle Bunker est livrée avec sa propre identité cryptographique : aucun mot de passe par défaut n’est donc à modifier ni à rechercher pour un éventuel attaquant. Le micrologiciel est vérifié à chaque démarrage, les mises à jour sont signées et contrôlées avant leur installation, et l’accès aux comptes est protégé par une authentification multifacteur. En outre, les accès doivent être supprimés rapidement lorsqu’ils ne sont plus nécessaires, et les activités sensibles doivent laisser une trace vérifiable. La confiance repose sur la capacité à expliquer qui a fait quoi.

Les personnes filmées par une caméra ne sont souvent pas celles qui l’ont achetée. Comment la vidéosurveillance par IA doit-elle prendre en compte la vie privée des voisins, des employés, des visiteurs et des passants, et y a-t-il des fonctionnalités que vous refuseriez délibérément de développer ?

L’installation doit avoir un objectif clairement défini, qui doit orienter ce qui est capté, ce qui est analysé et les personnes autorisées à consulter les résultats. Vouloir sécuriser une entrée ne signifie pas que toutes les activités sur une propriété voisine doivent figurer dans des archives consultables par recherche.

L’identité est une limite que nous nous sommes fixée. Bunker ne crée pas de modèles biométriques et n’associe aucune identité aux personnes qu’il détecte. Il décrit ce qui s’est passé, et non qui est une personne. Ainsi, le système se concentre sur les événements plutôt que sur le suivi ou le profilage des personnes.

Des fonctionnalités plus nombreuses n’apportent pas automatiquement plus de valeur. Si une fonctionnalité pose un sérieux problème de confiance sans répondre à un besoin clairement établi du client, c’est une raison de ne pas la développer.

Au cours des trois à cinq prochaines années, quelle capacité importante pensez-vous que l’IA en périphérie permettra d’offrir au-delà de la détection et de la recherche actuelles, et quel problème technique ou de confiance faudra-t-il résoudre avant qu’elle puisse être adoptée à grande échelle ?

Honnêtement, l’avenir de l’IA est encore largement inconnu, et son évolution est plus rapide que tout ce que j’ai vu au cours de ma carrière. Nous suivons ces changements presque quotidiennement et cherchons à déterminer comment ils peuvent véritablement profiter aux utilisateurs de notre plateforme.

Les aspects qui comptent le plus pour nous sont le contexte, la compréhension et les systèmes qui continuent d’apprendre et de s’améliorer. L’objectif est d’aider quelqu’un à comprendre une situation en évolution et à décider de ce qui requiert son attention, plutôt que de devoir reconstituer le fil à partir d’une succession de notifications distinctes.

Le défi technique consiste à obtenir des résultats fiables dans des environnements changeants et en respectant les limites du matériel local. Le défi en matière de confiance consiste à rendre faciles à comprendre les limites du système et ses pratiques concernant les données. Les utilisateurs doivent savoir ce qu’il a observé, ce qu’il a déduit et à quel moment une personne doit prendre la décision.

Merci pour cet excellent entretien. Les lecteurs qui souhaitent découvrir des caméras de sécurité professionnelles, des enregistreurs et des systèmes de vidéosurveillance assistés par IA peuvent consulter le site d’IC Realtime.

Antoine est un dirigeant visionnaire et associé fondateur d’Unite.AI, animé par une passion inébranlable pour façonner et promouvoir l’avenir de l’IA et de la robotique. Entrepreneur ayant créé plusieurs entreprises, il estime que l’IA transformera la société autant que l’électricité et parle souvent avec enthousiasme du potentiel des technologies de rupture et de l’intelligence artificielle générale (AGI).

En tant que prospectiviste, il se consacre à l’étude de la manière dont ces innovations façonneront notre monde. Il est également le fondateur de Securities.io, une plateforme consacrée à l’investissement dans les technologies de pointe qui redéfinissent l’avenir et transforment des secteurs entiers.