Interviews

Andrew Nassar, teknologidirektør hos IC Realtime – interviewserie

Antoine Tardif
Føj Unite.AI til dine foretrukne kilder på Google
Andrew Nassar, CTO of IC Realtime, against a light gray background.
NøglepunkterBunker kører kerne-AI-analyse på en lokal NVIDIA Jetson-gateway for at reducere…
Vis mere
  • Bunker kører kerne-AI-analyse på en lokal NVIDIA Jetson-gateway for at reducere afhængigheden af cloud og gøre alarmer hurtigere.
  • Nassar nægter at bygge biometriske identitetsfunktioner, fordi overvågning bør beskrive hændelser frem for at profilere personer.
  • Edge-AI er ikke en privatlivspolitik, da cloudtjenester stadig håndterer fjernadgang og videohistorik.

Andrew Nassar er teknologidirektør hos IC Realtime, hvor han har været med til at lede virksomheden gennem skiftet fra analoge kameraer til digital optagelse, fjernovervågning og AI-assisteret videoanalyse. Med mere end 20 års erfaring fra overvågningsbranchen fokuserer han på at omsætte fremskridt inden for computersyn og edge computing til praktiske værktøjer, der gør det muligt at forstå hændelser, finde optagelser og forbedre sikkerhedsarbejdet.

IC Realtime udvikler videoovervågningssystemer og software til private hjem og erhverv. Virksomhedens Bunker-platform tilføjer AI-analyse til kompatible kamerasystemer via en dedikeret gateway, der drives af NVIDIA Jetson, og understøtter kontekstuelle alarmer og videosøgning på naturligt sprog. Platformen kombinerer lokal analyse med cloudbaserede tjenester til fjernadgang og videohistorik.

Du har været med til at lede IC Realtime gennem overgangen fra analoge kameraer til digital optagelse, fjernovervågning og nu AI. Hvad overbeviste dig om, at AI kunne ændre overvågning grundlæggende, og hvilke fremskridt har gjort avanceret videoanalyse praktisk ved kanten af netværket?

Vi har arbejdet med maskinlæring og computersyn i vores kameraer i årevis. Mulighederne blev langt mere anvendelige, da systemet kunne hjælpe nogen med at forstå en hændelse og finde de relevante optagelser i stedet for blot at producere mere video, der skulle gennemgås. En boligejer vil gerne vide, hvad der kræver opmærksomhed. En virksomhed vil gerne finde en hændelse uden at bruge timevis på at lede.

Bunker gør denne tilgang tilgængelig via en dedikeret NVIDIA Jetson-gateway på ejendommen. Når den centrale analyse flyttes tættere på kameraerne, kan afhængigheden af at sende alle analyseopgaver til skyen mindskes, samtidig med at reaktionstiden forbedres. Det praktiske fremskridt ligger i kombinationen af lokal databehandling og software, der omdanner video til kontekstuelle alarmer og søgbare hændelser.

Mit kriterium er stadig, om løsningen har dokumenteret værdi. Teknologien skal løse et reelt problem i det miljø, hvor kunden skal bruge den. En vellykket demonstration er begyndelsen på den proces.

Kan du med Bunker som eksempel gennemgå, hvad der sker fra det øjeblik, et kamera optager en hændelse, til en bruger modtager en alarm? Hvilke AI-funktioner kører lokalt, hvad kræver stadig skyen, og hvilke data forlader ejendommen?

Overordnet sender et kompatibelt kamera video til Bunker Gateway, hvor den centrale AI-analyse foregår på gatewayen på ejendommen. Platformen knytter registreret aktivitet til videohændelser og kan sende en kontekstuel alarm med et øjebliksbillede og en beskrivelse i et letforståeligt sprog. Brugeren kan derefter gennemgå videoen i appen.

Bunker bygger på en hybrid arkitektur. Cloudforbindelsen understøtter fjernadgang, abonnementstjenester og videohistorik, så det ville være misvisende at kalde platformen uafhængig af skyen eller hævde, at ingen video forlader ejendommen. Det afgørende er, hvordan dataene beskyttes, når de forlader ejendommen. Alt krypteres under overførsel, også livevideo, som forbliver krypteret hele vejen fra gatewayen til brugerens skærm. Den mellemliggende infrastruktur videresender videoen, men kan ikke se den. Hver gateway godkendes med sit eget certifikat, aldrig med delte loginoplysninger, og optagelser, der lagres i skyen, er krypterede.

Kunderne bør få en tydelig forklaring på dette dataflow, herunder hvilke funktioner der afhænger af internetforbindelsen, og hvad der sker, når forbindelsen er nede.

Overvågningskameraer fungerer i regn, mørke og blændende lys samt i miljøer, der hele tiden ændrer sig. Hvad er den vanskeligste fejl i den virkelige verden, du er stødt på, og hvordan måler I, om forbedringer mindsker antallet af falske alarmer uden at øge antallet af oversete hændelser?

Jeg har arbejdet i branchen i mere end 20 år, og kamerateknologien er blevet markant bedre, især i svagt lys og under vanskelige forhold. Natoptagelser og billeder med billedstøj er nu næsten lige så tydelige som optagelser i dagslys. Alligevel kan regn, blændende lys, tåge og sne stadig forringe en AI-models nøjagtighed. Bedre sensorer fjerner ikke disse faktorer.

Derfor valgte vi en dynamisk tilgang, der tilpasser sig skiftende omgivelser og tidspunkter på dagen, i stedet for at basere os på én fast konfiguration. I løbet af de seneste to års udvikling har vi brugt tusindvis af timer på at teste i installationer under virkelige forhold, ikke kun kameraer på en testbænk, og vi har bygget systemet på baggrund af det, disse installationer har lært os.

Jeg ville ikke bedømme en forbedring ud fra et lavere antal notifikationer alene. Spørgsmålet er, om den fjerner irrelevante alarmer og samtidig stadig registrerer de hændelser, der betyder noget. Det er kun værdifuldt at reducere støjen, hvis systemet stadig er nyttigt, når der sker noget vigtigt.

Det er ikke det samme at registrere en person eller et køretøj som at afgøre, om adfærden er bekymrende. Hvordan definerer I en anomali, tilpasser definitionen til hvert sted og forhindrer systemet i at opfatte harmløs aktivitet som en trussel?

Et registreret objekt fortæller ikke i sig selv, om der er et problem. En levering ved hovedindgangen og aktivitet i et område med adgangsbegrænsning kan involvere samme type objekt, men kræve vidt forskellige reaktioner. Udgangspunktet bør være kundens anvendelsesbehov og forholdene på den pågældende ejendom.

Jeg ville skelne mellem en hændelse, der er værd at undersøge, og en konklusion om, at nogen udgør en trussel. Systemet bør hjælpe en person med at forstå, hvad der blev observeret, og hvorfor det blev fremhævet, samt give adgang til de underliggende optagelser. Det bør ikke tilskynde brugeren til at betragte enhver ukendt aktivitet som tegn på lovovertrædelser.

Efterhånden som disse systemer bliver mere avancerede, består udfordringen i at gøre konteksten nyttig uden at overdrive, hvad AI’en ved. Menneskelig dømmekraft er stadig vigtig, især når en advarsel kan føre til en handling med betydelige konsekvenser.

Naturlig sprogsøgning lover at erstatte timevis af manuel gennemgang af optagelser. Hvordan forbinder jeres system en brugers beskrivelse med den rigtige video, og hvordan tester I for oversete hændelser, forkerte match eller AI-genererede beskrivelser, som optagelserne ikke understøtter?

Idéen er at gøre video søgbar med det sprog, en person naturligt ville bruge. Når der registreres aktivitet, opretter Bunker tidsstemplede beskrivelser, der knyttes til videohændelser. En brugers spørgsmål bruges til at søge i dette indekserede arkiv og finde relevante optagelser. Det giver brugeren et sted at begynde uden manuelt at skulle spole gennem hele optagelsen.

Optagelserne bør være grundlaget for at kontrollere resultatet. En genereret beskrivelse er nyttig til at finde rundt, men bør ikke betragtes som mere troværdig end det, kameraet rent faktisk har optaget.

Når jeg tester, ville jeg skelne mellem tre spørgsmål: Overså systemet en relevant hændelse? Hentede det noget, der ikke stemmer overens med anmodningen? Indeholder beskrivelsen noget, som optagelserne ikke underbygger? Det er forskellige typer fejl. Det er ikke nok kun at vurdere, om søgningen giver et svar, der virker plausibelt.

Hvilke kompromiser medfører NVIDIA Jetson-hardware, når det gælder modellernes størrelse, nøjagtighed, strømforbrug og antallet af kamerafeeds, I kan analysere? Hvordan opretholder I en pålidelig ydeevne, når I bruger ældre tredjepartskameraer, når I når grænsen for behandlingskapaciteten, eller når internetforbindelsen afbrydes?

Designudfordringen er at levere nyttige analyser inden for de ressourcer, der er til rådighed på ejendommen. Modellernes kompleksitet, mængden af video, der behandles, og den nødvendige svartid skal alle holde sig inden for gatewayens driftsgrænser. Derfor giver antallet af understøttede streams ikke i sig selv et fuldstændigt billede af ydeevnen.

Bunkers planer ved lanceringen understøtter op til 10 kamerastreams. Kompatible ONVIF-kameraer gør det muligt for kunderne at beholde deres eksisterende udstyr, men kompatibiliteten skal stadig verificeres for hver installation. Profiler, firmware, billedkvalitet og de funktioner, der bruges, har alle betydning.

Vi skal også være præcise, når vi taler om robusthed. Lokal behandling og cloudtilsluttede tjenester er forskellige dele af systemet, og en edge-gateway betyder ikke, at alle funktioner fungerer normalt under en internetafbrydelse. Opdateringer er også en del af driftssikkerheden. Hver opdatering signeres og verificeres på gatewayen, før den installeres, ældre sårbare versioner afvises, og en mislykket opdatering rulles automatisk tilbage. En dårlig opdatering bør ikke være årsagen til, at en ejendoms sikkerhedssystem går offline.

Lokal inferens besvarer ikke i sig selv alle spørgsmål om privatliv. Hvor gemmer Bunker optagelser, søgeforespørgsler og AI-genererede metadata, hvor længe opbevares de, og hvem har adgang til dem? Hvordan forbedrer I jeres modeller uden at gå ud fra, at I har adgang til kundernes private optagelser?

Det er jeg enig i. »Edge AI« er ikke en fuldstændig privatlivspolitik. Kunderne skal vide, hvor deres data sendes hen, hvad der opbevares, og hvem der har adgang til det. Det gælder både søgeforespørgsler og genererede beskrivelser såvel som video.

Optagelser og databaserne bag tjenesten er krypteret, når de er lagret. Adgangskoder hashes, og sessioner udløber, så selv et databrud ikke ville give nogen adgangsoplysninger, der virker. Selve gatewayen er også krypteret, så en stjålen enhed ikke giver adgang til optagelser eller loginoplysninger. Bunkers tilbud ved lanceringen omfattede 60 dages videohistorik i skyen på Standard og 365 dage på Premium samt Video Vault til klip, som kunden vælger at gemme.

Vi bruger ikke kundernes optagelser til at træne vores modeller, og vi opretter ikke biometriske skabeloner af personer, som kameraerne optager. At en kunde bruger produktet, giver os ikke tilladelse til at genbruge kundens private video.

Kontroversen omkring Flock Safety har sat fokus på spørgsmål om, hvem der kan søge i overvågningsdata, og om adgangen bliver tilbagekaldt korrekt. Selvom jeres implementeringsmodel er anderledes, hvilke erfaringer er relevante for jeres systemer, og hvilke sikkerhedsforanstaltninger bør være obligatoriske frem for valgfrie?

Modreaktionen mod Flock handler egentlig ikke om AI. Den handler om, hvem der kan få adgang til dataene og søge i dem. Meget af kritikken drejede sig om kontosikkerhed, herunder at lovgivere spurgte, hvorfor multifaktorgodkendelse ikke var obligatorisk. Når en stjålen adgangskode er nok til at søge i et overvågningssystem, er det ligegyldigt, hvor modellen kører.

Med Bunker er det kun de brugere, som systemets ejer har givet adgang, der kan få adgang til systemets data. Vi deler dem ikke med tredjeparter, bruger ikke kundedata til at træne vores modeller og opretter ikke biometriske skabeloner.

Sikkerheden skal begynde ved enheden og følge med hele vejen til kontoen. Hver Bunker-gateway leveres med sin egen kryptografiske identitet, så der ikke er nogen standardadgangskoder, der skal ændres, eller som en angriber kan finde frem til. Firmwaren verificeres ved hver opstart, opdateringer signeres og kontrolleres, før de installeres, og login beskyttes med multifaktorgodkendelse. Derudover bør adgangen fjernes hurtigt, når der ikke længere er brug for den, og følsomme aktiviteter bør efterlade et spor, der kan revideres. Tillid afhænger af, at man kan redegøre for, hvem der gjorde hvad.

Personer, som et kamera optager, er ofte ikke dem, der har købt det. Hvordan bør AI-overvågning tage hensyn til naboers, medarbejderes, besøgendes og forbipasserendes privatliv, og er der funktioner, I bevidst ville afstå fra at udvikle?

Installationen skal have et klart defineret formål, og det formål bør styre, hvad der optages, hvad der analyseres, og hvem der kan se resultaterne. At ville sikre en indgang betyder ikke, at enhver aktivitet på en naboejendom skal indgå i en søgbar registrering.

En grænse, vi har trukket, handler om identitet. Bunker opretter ikke biometriske skabeloner og knytter ikke en identitet til nogen, systemet registrerer. Det beskriver, hvad der skete, ikke hvem en person er. På den måde holder systemet fokus på hændelser frem for på at spore eller profilere mennesker.

Flere funktioner betyder ikke automatisk større værdi. Hvis en funktion skaber et alvorligt tillidsproblem uden at løse et klart kundeproblem, er det en grund til ikke at udvikle den.

Hvis vi ser tre til fem år frem, hvilken betydningsfuld funktion forventer du, at edge-AI vil muliggøre ud over dagens detektion og søgning – og hvilket teknisk problem eller tillidsproblem skal løses, før teknologien fortjener at blive taget bredt i brug?

Helt ærligt er AI’s fremtid ukendt territorium lige nu, og udviklingen går hurtigere end noget, jeg har oplevet i min karriere. Vi følger udviklingen næsten dagligt og undersøger, hvor den reelt kan være til gavn for dem, der bruger vores platform.

De områder, der betyder mest for os, er kontekst, forståelse og systemer, der løbende lærer og bliver bedre. Værdien ligger i at hjælpe nogen med at forstå en situation under udvikling og beslutte, hvad der kræver opmærksomhed, i stedet for at skulle stykke en række enkeltstående notifikationer sammen.

Den tekniske udfordring er at gøre det pålideligt i skiftende omgivelser og inden for den lokale hardwares begrænsninger. Tillidsudfordringen er at gøre systemets begrænsninger og datahåndtering lette at forstå. Folk skal vide, hvad systemet observerede, hvad det udledte, og hvornår et menneske skal træffe afgørelsen.

Tak for det gode interview. Læsere, der ønsker at udforske professionelle sikkerhedskameraer, optagere og AI-drevne videoovervågningssystemer, bør besøge IC Realtime.

Antoine er en visionær leder og stiftende partner i Unite.AI, drevet af en urokkelig passion for at forme og fremme fremtiden for AI og robotteknologi. Som serieiværksætter mener han, at AI vil forandre samfundet lige så grundlæggende som elektriciteten, og han taler ofte begejstret om potentialet i banebrydende teknologier og kunstig generel intelligens (AGI).

Som fremtidsforsker er han optaget af at undersøge, hvordan disse innovationer vil forme vores verden. Han er desuden grundlægger af Securities.io, en platform med fokus på investering i avancerede teknologier, der omdefinerer fremtiden og omformer hele brancher.