Entrevistas

Andrew Nassar, director de tecnología de IC Realtime: serie de entrevistas

Antoine Tardif
Añade Unite.AI a tus fuentes preferidas en Google
Andrew Nassar, CTO of IC Realtime, against a light gray background.
Puntos claveBunker ejecuta el análisis central de IA en una puerta de enlace local NVIDIA Jetson…
Ver más
  • Bunker ejecuta el análisis central de IA en una puerta de enlace local NVIDIA Jetson para reducir la dependencia de la nube y acelerar las alertas.
  • Nassar se niega a crear funciones de identidad biométrica porque la vigilancia debe describir eventos en lugar de perfilar a las personas.
  • La IA en el borde no es una política de privacidad, ya que los servicios en la nube siguen gestionando el acceso remoto y el historial de video.

Andrew Nassar es director de tecnología de IC Realtime, donde ha contribuido a guiar a la empresa en su transición de las cámaras analógicas a la grabación digital, la supervisión remota y el análisis de video asistido por IA. Con más de 20 años de experiencia en el sector de la videovigilancia, se centra en convertir los avances en visión artificial y computación en el borde en herramientas prácticas para comprender eventos, encontrar grabaciones y mejorar las operaciones de seguridad.

IC Realtime diseña sistemas y software de videovigilancia para entornos residenciales y comerciales. Su plataforma Bunker incorpora análisis de IA a sistemas de cámaras compatibles mediante una pasarela dedicada basada en NVIDIA Jetson, que permite enviar alertas contextuales y realizar búsquedas de video en lenguaje natural. La plataforma combina el análisis local con servicios conectados a la nube para el acceso remoto y el historial de video.

Ha ayudado a dirigir IC Realtime durante las transiciones de las cámaras analógicas a la grabación digital, la supervisión remota y, ahora, la IA. ¿Qué le convenció de que la IA podía cambiar radicalmente la videovigilancia y qué avances han hecho posible realizar análisis de video sofisticados en el borde?

Llevamos años trabajando con aprendizaje automático y visión artificial en nuestras cámaras. Esta tecnología se volvió mucho más útil cuando el sistema pudo ayudar a alguien a comprender un evento y encontrar las grabaciones pertinentes, en lugar de limitarse a generar más video para revisar. Un propietario quiere saber qué merece atención. Una empresa quiere encontrar un incidente sin pasar horas buscándolo.

Bunker lleva ese enfoque a una pasarela dedicada NVIDIA Jetson instalada en la propiedad. Trasladar el análisis central más cerca de las cámaras puede reducir la dependencia del envío de cada tarea analítica a la nube y mejorar la capacidad de respuesta. El avance práctico consiste en combinar la computación local con un software que convierte el video en alertas contextuales y eventos que se pueden buscar.

Mi criterio sigue siendo que el valor esté demostrado. La tecnología debe resolver un problema real en el entorno donde el cliente la utilizará. Una buena demostración es el comienzo de ese proceso.

Tomando Bunker como ejemplo, ¿podría explicarnos qué sucede desde que una cámara capta un evento hasta que el usuario recibe una alerta? ¿Qué funciones de IA se ejecutan localmente, cuáles siguen necesitando la nube y qué datos salen de la propiedad?

A grandes rasgos, una cámara compatible envía video a Bunker Gateway y el análisis central de IA se realiza en esa pasarela, dentro de la propiedad. La plataforma vincula la actividad detectada con eventos de video y puede enviar una alerta contextual con una instantánea y una descripción en lenguaje sencillo. Después, el usuario puede revisar el video en la aplicación.

Bunker utiliza una arquitectura híbrida. La conexión a la nube permite el acceso remoto, los servicios de suscripción y el historial de video, por lo que sería engañoso decir que la plataforma no depende de la nube o que ningún video sale de la propiedad. Lo importante es cómo se protegen esos datos cuando salen. Todo se cifra durante la transmisión, incluido el video en directo, que permanece cifrado desde la pasarela hasta la pantalla del usuario. La infraestructura intermedia lo retransmite, pero no puede verlo. Cada pasarela se autentica con su propio certificado, nunca con credenciales compartidas, y las grabaciones almacenadas en la nube están cifradas.

Los clientes deben recibir una explicación clara de ese flujo, incluidas las funciones que dependen de Internet y lo que ocurre cuando se interrumpe la conexión.

Las cámaras de seguridad funcionan bajo la lluvia, en la oscuridad y con deslumbramientos, además de estar expuestas a entornos en constante cambio. ¿Cuál es el fallo más difícil que ha encontrado en condiciones reales y cómo mide si las mejoras reducen las falsas alarmas sin aumentar los incidentes que pasan inadvertidos?

Llevo más de 20 años en este sector y la tecnología de las cámaras ha mejorado muchísimo, sobre todo con poca luz y en condiciones difíciles. Hoy, las imágenes nocturnas y con ruido son casi tan nítidas como las diurnas. Aun así, la lluvia, los deslumbramientos, la niebla y la nieve pueden reducir la precisión de un modelo de IA. Los mejores sensores no eliminan esas variables.

Por eso optamos por un enfoque dinámico que se adapta a los cambios del entorno y a las distintas horas del día, en lugar de depender de una única configuración fija. Durante los últimos dos años de desarrollo, hemos dedicado miles de horas a realizar pruebas en instalaciones reales, no solo con cámaras en un banco de pruebas, y hemos diseñado el sistema a partir de lo que aprendimos en esas implementaciones.

No evaluaría una mejora basándome únicamente en que haya menos notificaciones. La cuestión es si elimina las alertas irrelevantes y, al mismo tiempo, sigue detectando los incidentes importantes. Reducir el ruido solo tiene valor si el sistema sigue siendo útil cuando ocurre algo importante.

Detectar a una persona o un vehículo no es lo mismo que determinar si su comportamiento resulta preocupante. ¿Cómo define una anomalía, adapta esa definición a cada lugar y evita que el sistema considere una amenaza una actividad inofensiva?

La detección de un objeto no permite saber, por sí sola, si hay un problema. Una entrega en la entrada principal y una actividad en una zona restringida pueden implicar el mismo tipo de objeto, pero requieren respuestas muy distintas. El punto de partida debe ser el caso de uso del cliente y el contexto específico de esa propiedad.

Yo distinguiría entre un suceso que merece revisarse y concluir que alguien representa una amenaza. El sistema debería ayudar a entender qué se observó y por qué se señaló, y permitir acceder a las imágenes correspondientes. No debería alentar a los usuarios a considerar cualquier actividad desconocida como prueba de una conducta indebida.

A medida que estos sistemas se vuelven más capaces, el reto consiste en hacer que ese contexto sea útil sin exagerar lo que la IA sabe. El criterio humano sigue siendo importante, sobre todo cuando una alerta podría dar lugar a una acción con consecuencias importantes.

La búsqueda en lenguaje natural promete sustituir horas de revisión manual de grabaciones. ¿Cómo conecta su sistema la descripción de un usuario con el video adecuado y cómo comprueban si se han pasado por alto sucesos, se han encontrado coincidencias incorrectas o se han generado descripciones con IA que las imágenes no respaldan?

La idea es que se pueda buscar en los videos con el lenguaje que una persona usaría de forma natural. A medida que detecta actividad, Bunker crea descripciones con marcas de tiempo asociadas a los sucesos grabados. La pregunta del usuario se utiliza para buscar en ese registro indexado y mostrar las imágenes pertinentes. Así, el usuario cuenta con un punto de partida sin tener que recorrer manualmente toda la grabación.

Las imágenes deberían seguir siendo la base para comprobar el resultado. Una descripción generada es útil para orientarse, pero no debería considerarse más fiable que lo que la cámara captó realmente.

Para las pruebas, separaría tres preguntas: ¿El sistema pasó por alto algún suceso pertinente? ¿Recuperó algo que no coincide con la solicitud? ¿La descripción incluyó algo que las imágenes no respaldan? Son modos de fallo distintos. No bastaría con evaluar únicamente si la búsqueda devuelve una respuesta que parece plausible.

¿Qué limitaciones impone el hardware NVIDIA Jetson en cuanto al tamaño de los modelos, la precisión, el consumo de energía y el número de transmisiones de cámaras que se pueden analizar? ¿Cómo mantienen un rendimiento fiable al utilizar cámaras antiguas de terceros, al llegar al límite de la capacidad de procesamiento o al perder la conexión a Internet?

La cuestión de diseño es cómo ofrecer análisis útiles con los recursos disponibles en la propiedad. La complejidad del modelo, la cantidad de video que se procesa y el tiempo de respuesta requerido deben ajustarse a los límites operativos de la pasarela. Por eso, el número de transmisiones compatibles, por sí solo, no da una imagen completa del rendimiento.

Los planes de lanzamiento de Bunker admiten hasta 10 transmisiones de cámara. Las cámaras ONVIF compatibles permiten a los clientes conservar el hardware que ya tienen, pero la compatibilidad debe verificarse para cada instalación. Influyen los perfiles, el firmware, la calidad de imagen y las funciones que se utilicen.

También debemos ser precisos al hablar de resiliencia. El procesamiento local y los servicios conectados a la nube son partes distintas del sistema, y contar con una pasarela periférica no significa que todas las funciones vayan a operar con normalidad durante una interrupción de Internet. Las actualizaciones también forman parte de la fiabilidad. Cada actualización se firma y se verifica en la pasarela antes de instalarse; se rechazan las versiones anteriores vulnerables y, si una actualización falla, el sistema revierte automáticamente a la versión previa. Una actualización defectuosa no debería dejar fuera de servicio el sistema de seguridad de una propiedad.

La inferencia local, por sí sola, no responde a todas las preguntas sobre privacidad. ¿Dónde almacena Bunker las grabaciones, las consultas de búsqueda y los metadatos generados por IA, durante cuánto tiempo los conserva y quién puede acceder a ellos? ¿Cómo mejoran sus modelos sin dar por sentado que tienen acceso a las grabaciones privadas de los clientes?

Estoy de acuerdo. La «IA en el borde» no constituye una política de privacidad completa. Los clientes deben saber adónde van sus datos, qué se conserva y quién puede acceder a ellos; esto incluye tanto las consultas de búsqueda y las descripciones generadas como los videos.

Las grabaciones y las bases de datos que respaldan el servicio están cifradas en reposo. Las contraseñas se almacenan mediante hashes y las sesiones caducan, de modo que ni siquiera una filtración de la base de datos proporcionaría credenciales funcionales. La propia pasarela también está cifrada, así que el robo de un dispositivo no da acceso a las grabaciones ni a las credenciales. La oferta de lanzamiento de Bunker incluía 60 días de historial de video en la nube con Standard y 365 días con Premium, además de Video Vault para los clips que el cliente decida guardar.

No utilizamos las grabaciones de los clientes para entrenar nuestros modelos ni creamos plantillas biométricas de las personas que captan las cámaras. Que un cliente utilice el producto no significa que nos dé permiso para reutilizar sus videos privados.

La controversia en torno a Flock Safety ha puesto de relieve las preguntas sobre quién puede buscar en los datos de vigilancia y si el acceso se revoca debidamente. Aunque su modelo de implementación es distinto, ¿qué lecciones se aplican a sus sistemas y qué salvaguardas deberían ser obligatorias en lugar de opcionales?

La reacción contra Flock no tiene que ver realmente con la IA, sino con quién puede acceder a los datos y buscarlos. Gran parte del escrutinio se centró en la seguridad de las cuentas, incluida la pregunta de los legisladores sobre por qué la autenticación multifactor no era obligatoria. Si basta con una contraseña robada para buscar en un sistema de vigilancia, da igual dónde se ejecute el modelo.

Con Bunker, las únicas personas que pueden acceder a los datos de un sistema son aquellas a quienes su propietario ha concedido acceso. No compartimos esos datos con terceros, no utilizamos los datos de los clientes para entrenar nuestros modelos y no creamos plantillas biométricas.

La seguridad debe empezar en el dispositivo y extenderse hasta la cuenta. Cada puerta de enlace de Bunker viene con su propia identidad criptográfica, por lo que no hay contraseñas predeterminadas que cambiar ni que un atacante pueda averiguar. El firmware se verifica en cada arranque, las actualizaciones se firman y se comprueban antes de instalarse, y los inicios de sesión están protegidos mediante autenticación multifactor. Además, se debe revocar el acceso cuanto antes cuando ya no sea necesario, y las actividades sensibles deben dejar un registro auditable. La confianza depende de poder explicar quién hizo qué.

Las personas captadas por una cámara a menudo no son quienes la compraron. ¿Cómo debería la vigilancia con IA tener en cuenta la privacidad de los vecinos, los empleados, los visitantes y los transeúntes? ¿Hay capacidades que se negarían deliberadamente a desarrollar?

La instalación debe tener un propósito definido, y ese propósito debe guiar qué se capta, qué se analiza y quién puede ver los resultados. Querer proteger una entrada no significa que todas las actividades de una propiedad vecina deban pasar a formar parte de un registro consultable.

Uno de los límites que hemos establecido es la identidad. Bunker no crea plantillas biométricas ni asocia una identidad a ninguna persona que detecta. Describe lo que ocurrió, no quién es alguien. Así, el sistema se centra en los sucesos, en lugar de rastrear o perfilar a las personas.

Una mayor capacidad no implica automáticamente más valor. Si una función genera un grave problema de confianza sin resolver un problema claro del cliente, esa es una razón para no desarrollarla.

De aquí a tres a cinco años, ¿qué capacidad significativa espera que la IA en el borde haga posible, más allá de la detección y la búsqueda actuales, y qué problema técnico o de confianza debe resolverse antes de que merezca una adopción generalizada?

Sinceramente, el futuro de la IA aún es territorio inexplorado y avanza más rápido que cualquier cosa que haya visto en mi carrera. Seguimos estos cambios casi a diario y analizamos dónde pueden beneficiar realmente a quienes usan nuestra plataforma.

Las áreas que más nos importan son el contexto, la comprensión y los sistemas que siguen aprendiendo y mejorando. El valor reside en ayudar a alguien a comprender una situación en desarrollo y decidir qué requiere atención, en vez de tener que reconstruirla a partir de una serie de notificaciones independientes.

El reto técnico consiste en hacerlo de manera fiable en entornos cambiantes y dentro de los límites del hardware local. El reto de confianza es que los límites del sistema y sus prácticas de gestión de datos sean fáciles de entender. Las personas necesitan saber qué observó, qué dedujo y en qué momento debe intervenir una persona para tomar la decisión.

Gracias por esta excelente entrevista. Los lectores que deseen conocer cámaras de seguridad profesionales, grabadores y sistemas de videovigilancia con IA pueden visitar IC Realtime.

Antoine es un líder visionario y socio fundador de Unite.AI, impulsado por una pasión inquebrantable por dar forma e impulsar el futuro de la IA y la robótica. Como emprendedor que ha fundado varias empresas, cree que la IA transformará la sociedad tanto como la electricidad y suele hablar con entusiasmo del potencial de las tecnologías disruptivas y de la inteligencia artificial general (AGI).

Como futurista, se dedica a explorar cómo estas innovaciones darán forma a nuestro mundo. Además, es el fundador de Securities.io, una plataforma centrada en invertir en tecnologías de vanguardia que están redefiniendo el futuro y transformando sectores enteros.