Interviste

Andrew Nassar, direttore tecnico di IC Realtime – Serie di interviste

Antoine Tardif
Aggiungi Unite.AI alle tue fonti preferite su Google
Andrew Nassar, CTO of IC Realtime, against a light gray background.
Punti chiaveBunker esegue l'analisi AI principale su un gateway locale NVIDIA Jetson per ridurre la…
Vedi di più
  • Bunker esegue l'analisi AI principale su un gateway locale NVIDIA Jetson per ridurre la dipendenza dal cloud e velocizzare gli avvisi.
  • Nassar rifiuta di sviluppare funzionalità di identità biometrica perché la sorveglianza dovrebbe descrivere eventi anziché profilare le persone.
  • L'Edge AI non è una politica sulla privacy poiché i servizi cloud gestiscono comunque l'accesso remoto e la cronologia video.

Andrew Nassar è il direttore tecnico di IC Realtime, dove ha contribuito a guidare l’azienda nel passaggio dalle telecamere analogiche alla registrazione digitale, al monitoraggio remoto e all’analisi video assistita dall’IA. Con oltre 20 anni di esperienza nel settore della videosorveglianza, si concentra sulla trasformazione dei progressi nella visione artificiale e nell’elaborazione ai margini della rete in strumenti pratici per comprendere gli eventi, trovare i filmati e migliorare le operazioni di sicurezza.

IC Realtime progetta sistemi e software di videosorveglianza per ambienti residenziali e commerciali. La sua piattaforma Bunker aggiunge l’analisi IA ai sistemi di telecamere compatibili tramite un gateway dedicato basato su NVIDIA Jetson, consentendo avvisi contestuali e la ricerca di video in linguaggio naturale. La piattaforma combina l’analisi locale con servizi connessi al cloud per l’accesso remoto e la cronologia video.

Ha contribuito a guidare IC Realtime nei passaggi dalle telecamere analogiche alla registrazione digitale, al monitoraggio remoto e, ora, all’IA. Cosa l’ha convinta che l’IA potesse cambiare radicalmente la videosorveglianza e quali progressi hanno reso praticabile l’analisi video sofisticata ai margini della rete?

Lavoriamo da anni con l’apprendimento automatico e la visione artificiale sulle nostre telecamere. Questa opportunità è diventata molto più utile quando il sistema ha potuto aiutare le persone a comprendere un evento e a trovare i filmati pertinenti, invece di limitarsi a produrre altri video da esaminare. Chi possiede una casa vuole sapere a cosa prestare attenzione. Un’azienda vuole trovare un incidente senza passare ore a cercarlo.

Bunker porta questo approccio in un gateway dedicato NVIDIA Jetson installato presso la proprietà. Avvicinare alle telecamere l’analisi fondamentale può ridurre la dipendenza dall’invio al cloud di ogni attività di analisi e migliorare la reattività. Il progresso concreto consiste nella combinazione di elaborazione locale e software che trasforma i video in avvisi contestuali ed eventi consultabili tramite ricerca.

Il mio criterio rimane il valore dimostrato. La tecnologia deve risolvere un problema reale nell’ambiente in cui il cliente la userà. Una buona dimostrazione è il punto di partenza del processo.

Prendendo Bunker come esempio, può spiegarci cosa accade tra la ripresa di un evento da parte di una telecamera e la ricezione di un avviso da parte dell’utente? Quali funzioni IA vengono eseguite localmente, quali richiedono ancora il cloud e quali dati lasciano la proprietà?

In linea generale, una telecamera compatibile invia il video al Bunker Gateway e l’analisi IA fondamentale viene eseguita sul gateway installato presso la proprietà. La piattaforma collega le attività rilevate agli eventi video e può inviare un avviso contestuale con un’istantanea e una descrizione in linguaggio semplice. L’utente può quindi rivedere il video nell’app.

Bunker utilizza un’architettura ibrida. La connettività cloud consente l’accesso remoto, i servizi in abbonamento e la cronologia video; sarebbe quindi fuorviante definire la piattaforma indipendente dal cloud o affermare che nessun video lasci la proprietà. Ciò che conta è come vengono protetti i dati quando escono dalla proprietà. Tutto viene cifrato durante il trasferimento, compresi i video in diretta, che rimangono cifrati dal gateway fino allo schermo di chi li visualizza. L’infrastruttura intermedia li trasmette, ma non può guardarli. Ogni gateway si autentica con un proprio certificato, mai con credenziali condivise, e i filmati archiviati nel cloud sono cifrati.

I clienti dovrebbero ricevere una spiegazione chiara di questo flusso, compreso quali funzioni dipendono da Internet e cosa accade quando la connessione non è disponibile.

Le telecamere di sicurezza operano sotto la pioggia, al buio, in presenza di riflessi e in ambienti in continuo cambiamento. Qual è il problema più difficile che ha incontrato sul campo e come misura se i miglioramenti riducono i falsi allarmi senza aumentare gli incidenti non rilevati?

Lavoro in questo settore da oltre 20 anni e la tecnologia delle telecamere è migliorata notevolmente, soprattutto in condizioni di scarsa illuminazione e in situazioni difficili. Oggi le immagini notturne e disturbate dal rumore sono quasi nitide quanto quelle diurne. Ciò nonostante, pioggia, riflessi, nebbia e neve possono ancora ridurre la precisione di un modello di IA. Sensori migliori non eliminano queste variabili.

Abbiamo quindi scelto un approccio dinamico, che si adatta ai cambiamenti dell’ambiente e alle diverse ore del giorno, invece di affidarsi a un’unica configurazione fissa. Nel corso degli ultimi due anni di sviluppo abbiamo dedicato migliaia di ore ai test in installazioni reali, non soltanto con telecamere su un banco di prova, e abbiamo progettato il sistema sulla base di quanto appreso da queste implementazioni.

Non valuterei un miglioramento basandomi soltanto sulla diminuzione del numero di notifiche. La domanda è se elimina gli avvisi irrilevanti continuando a rilevare gli incidenti importanti. Ridurre il rumore è utile solo se il sistema rimane efficace quando accade qualcosa di importante.

Rilevare una persona o un veicolo è diverso dal decidere che un comportamento sia preoccupante. Come definite un’anomalia, adattate questa definizione a ogni luogo e impedite al sistema di considerare una minaccia un’attività innocua?

Rilevare un oggetto, di per sé, non permette di stabilire se ci sia un problema. Una consegna all’ingresso principale e un’attività in un’area riservata possono coinvolgere lo stesso tipo di oggetto, ma richiedere risposte molto diverse. Il punto di partenza dovrebbe essere il caso d’uso del cliente e il contesto specifico di quella proprietà.

Distinguerei un evento che merita di essere esaminato dalla conclusione che qualcuno rappresenti una minaccia. Il sistema dovrebbe aiutare a capire che cosa è stato osservato e perché è stato segnalato, consentendo di consultare le riprese originali. Non dovrebbe indurre a considerare ogni attività insolita come prova di un comportamento illecito.

Man mano che questi sistemi diventano più capaci, la sfida consiste nel rendere utile il contesto senza esagerare ciò che l’IA sa. Il giudizio umano resta importante, soprattutto quando un avviso può portare a un’azione con conseguenze rilevanti.

La ricerca in linguaggio naturale promette di sostituire ore di revisione manuale delle riprese. In che modo il vostro sistema collega la descrizione di un utente al video giusto e come verificate che non vengano tralasciati eventi, che non vengano restituiti risultati non pertinenti o che le descrizioni generate dall’IA non vadano oltre ciò che le riprese mostrano?

L’idea è rendere i video consultabili usando il linguaggio che una persona userebbe spontaneamente. Quando rileva un’attività, Bunker crea descrizioni associate agli eventi video e contrassegnate con data e ora. La domanda dell’utente viene usata per cercare in questo archivio indicizzato e individuare le riprese pertinenti. In questo modo l’utente può iniziare la ricerca senza dover scorrere manualmente l’intera registrazione.

Le riprese dovrebbero restare il riferimento per verificare il risultato. Una descrizione generata è utile per orientarsi, ma non dovrebbe essere considerata più attendibile di ciò che la telecamera ha effettivamente ripreso.

Per i test, distinguerei tre domande: il sistema ha tralasciato un evento pertinente? Ha recuperato qualcosa che non corrisponde alla richiesta? La descrizione ha incluso elementi non supportati dalle riprese? Si tratta di modalità di errore diverse. Non sarebbe sufficiente valutare soltanto se la ricerca restituisce una risposta apparentemente plausibile.

Quali compromessi impone l’hardware NVIDIA Jetson in termini di dimensioni del modello, accuratezza, consumo energetico e numero di flussi video delle telecamere che è possibile analizzare? Come mantenete prestazioni affidabili quando si usano telecamere di terze parti meno recenti, si raggiunge il limite della capacità di elaborazione o si perde la connessione a Internet?

La questione progettuale è come fornire analisi utili usando le risorse disponibili presso la struttura. La complessità del modello, la quantità di video da elaborare e i tempi di risposta richiesti devono tutti rientrare nei limiti operativi del gateway. Per questo, il solo numero di flussi supportati non basta a descrivere tutte le prestazioni del sistema.

I piani di lancio di Bunker supportano fino a 10 flussi video delle telecamere. Le telecamere ONVIF compatibili consentono ai clienti di mantenere l’hardware esistente, ma la compatibilità deve comunque essere verificata per ogni installazione. Contano i profili, il firmware, la qualità delle immagini e le funzionalità utilizzate.

Dobbiamo anche essere precisi quando parliamo di resilienza. L’elaborazione locale e i servizi connessi al cloud sono componenti diverse del sistema, e la presenza di un gateway edge non significa che tutte le funzionalità continuino a funzionare normalmente durante un’interruzione della connessione a Internet. Anche gli aggiornamenti fanno parte dell’affidabilità. Prima dell’installazione, ogni aggiornamento viene firmato e verificato sul gateway; le versioni precedenti vulnerabili vengono rifiutate e, se un aggiornamento non va a buon fine, il sistema ripristina automaticamente la versione precedente. Un aggiornamento difettoso non dovrebbe mandare fuori servizio il sistema di sicurezza di una struttura.

L’elaborazione locale, da sola, non risponde a tutte le domande sulla privacy. Dove vengono archiviati da Bunker i filmati, le query di ricerca e i metadati generati dall’IA, per quanto tempo vengono conservati e chi può accedervi? Come migliorate i vostri modelli senza dare per scontato di poter accedere ai filmati privati dei clienti?

Sono d’accordo. «IA edge» non è una politica sulla privacy completa. I clienti devono capire dove vanno i loro dati, quali informazioni vengono conservate e chi può accedervi; questo vale per le query di ricerca e le descrizioni generate, oltre che per i video.

I filmati e i database alla base del servizio sono cifrati quando non sono in uso. Le password sono sottoposte ad hashing e le sessioni scadono, quindi nemmeno una violazione di un database fornirebbe a qualcuno credenziali funzionanti. Anche il gateway è cifrato, perciò un dispositivo rubato non rivelerebbe né filmati né credenziali. L’offerta iniziale di Bunker includeva 60 giorni di cronologia video nel cloud con Standard e 365 giorni con Premium, oltre a Video Vault, per le clip che il cliente sceglie di salvare.

Non utilizziamo i filmati dei clienti per addestrare i nostri modelli e non creiamo modelli biometrici delle persone riprese dalle telecamere. Il fatto che un cliente utilizzi il prodotto non ci autorizza a riutilizzare i suoi video privati.

Le polemiche legate a Flock Safety hanno sollevato interrogativi su chi possa cercare nei dati di sorveglianza e sull’eventuale revoca dell’accesso. Sebbene il vostro modello di implementazione sia diverso, quali insegnamenti si applicano ai vostri sistemi e quali misure di sicurezza dovrebbero essere obbligatorie anziché facoltative?

La reazione negativa nei confronti di Flock non riguarda davvero l’IA. Riguarda chi può accedere ai dati e cercarvi informazioni. Gran parte delle critiche si è concentrata sulla sicurezza degli account, anche con esponenti politici che chiedevano perché l’autenticazione a più fattori non fosse obbligatoria. Quando basta una password rubata per cercare informazioni in un sistema di sorveglianza, non importa dove venga eseguito il modello.

Con Bunker, solo gli utenti a cui il proprietario del sistema ha concesso l’accesso possono consultare i dati di quel sistema. Non li condividiamo con terze parti, non utilizziamo i dati dei clienti per addestrare i nostri modelli e non creiamo modelli biometrici.

La sicurezza deve partire dal dispositivo e arrivare fino all’account. Ogni gateway Bunker viene fornito con una propria identità crittografica, quindi non ci sono password predefinite da cambiare né password che un aggressore possa cercare. Il firmware viene verificato a ogni avvio, gli aggiornamenti sono firmati e controllati prima dell’installazione e gli accessi sono protetti con l’autenticazione a più fattori. Inoltre, gli accessi dovrebbero essere revocati tempestivamente quando non sono più necessari e le attività sensibili dovrebbero lasciare una traccia verificabile. La fiducia dipende dalla possibilità di spiegare chi ha fatto cosa.

Le persone riprese da una telecamera spesso non sono quelle che l’hanno acquistata. In che modo la videosorveglianza basata sull’IA dovrebbe tutelare la privacy di vicini, dipendenti, visitatori e passanti? E ci sono funzionalità che vi rifiutereste deliberatamente di sviluppare?

L’installazione deve avere uno scopo ben definito, che dovrebbe guidare ciò che viene ripreso, ciò che viene analizzato e chi può vedere i risultati. Voler proteggere un ingresso non significa che ogni attività che si svolge in una proprietà vicina debba confluire in un archivio consultabile.

Una linea che abbiamo tracciato riguarda l’identità. Bunker non crea modelli biometrici e non associa un’identità a nessuno dei soggetti che rileva. Descrive ciò che è accaduto, non chi è una persona. In questo modo il sistema si concentra sugli eventi, anziché tracciare o profilare le persone.

Più funzionalità non significano automaticamente più valore. Se una funzione crea un serio problema di fiducia senza risolvere un problema concreto dei clienti, è un motivo per non svilupparla.

Guardando ai prossimi tre-cinque anni, quale capacità significativa pensi che l’IA edge renderà possibile oltre alle funzioni di rilevamento e ricerca disponibili oggi? E quale problema tecnico o di fiducia occorre risolvere prima che meriti un’adozione su larga scala?

A dire il vero, il futuro dell’IA è ancora inesplorato e si sta evolvendo più rapidamente di qualsiasi altra cosa abbia visto nel corso della mia carriera. Seguiamo questi cambiamenti quasi ogni giorno e valutiamo dove possano davvero essere utili alle persone che utilizzano la nostra piattaforma.

Gli aspetti che più ci interessano sono il contesto, la comprensione e i sistemi che continuano ad apprendere e a migliorare. Il valore sta nell’aiutare qualcuno a comprendere una situazione in evoluzione e a decidere a cosa prestare attenzione, invece di dover mettere insieme una serie di notifiche separate.

La sfida tecnica consiste nel farlo in modo affidabile in ambienti mutevoli e rispettando i limiti dell’hardware locale. La sfida legata alla fiducia consiste nel rendere comprensibili i limiti del sistema e le sue pratiche di gestione dei dati. Le persone devono sapere che cosa ha osservato, che cosa ha dedotto e quando spetta a una persona prendere la decisione.

Grazie per la bella intervista. I lettori che desiderano scoprire telecamere di sicurezza professionali, registratori e sistemi di videosorveglianza basati sull’IA possono visitare IC Realtime.

Antoine è un leader visionario e socio fondatore di Unite.AI, animato da una passione incrollabile per plasmare e promuovere il futuro dell’IA e della robotica. Imprenditore che ha fondato diverse aziende, ritiene che l’IA trasformerà la società quanto l’elettricità e parla spesso con entusiasmo del potenziale delle tecnologie dirompenti e dell’intelligenza artificiale generale (AGI).

In qualità di futurologo, si dedica a esplorare come queste innovazioni plasmeranno il nostro mondo. È inoltre il fondatore di Securities.io, una piattaforma incentrata sugli investimenti in tecnologie all’avanguardia che stanno ridefinendo il futuro e trasformando interi settori.