Intervjuer
Andrew Nassar, teknologidirektør i IC Realtime – intervjuserie

Viktige punkterBunker kjører kjerne-AI-analyse på en lokal NVIDIA Jetson-gateway for å redusere…
Vis mer
- Bunker kjører kjerne-AI-analyse på en lokal NVIDIA Jetson-gateway for å redusere avhengigheten av skyen og fremskynde varsler.
- Nassar nekter å bygge biometriske identitetsfunksjoner fordi overvåking bør beskrive hendelser i stedet for å profilere personer.
- Edge-AI er ikke en personvernpolicy siden skytjenester fortsatt håndterer ekstern tilgang og videohistorikk.
Andrew Nassar er teknologidirektør i IC Realtime, der han har bidratt til å lede selskapet gjennom overgangen fra analoge kameraer til digitalt opptak, fjernovervåking og KI-assistert videoanalyse. Med mer enn 20 års erfaring fra overvåkingsbransjen arbeider han med å omsette fremskritt innen datasyn og kantdatabehandling til praktiske verktøy for å forstå hendelser, finne videomateriale og forbedre sikkerhetsarbeidet.
IC Realtime utvikler videoovervåkingssystemer og programvare for boliger og næringsbygg. Bunker-plattformen deres tilfører KI-analyse til kompatible kamerasystemer via en egen gateway drevet av NVIDIA Jetson, med støtte for kontekstuelle varsler og videosøk med naturlig språk. Plattformen kombinerer lokal analyse med skytilkoblede tjenester for fjerntilgang og videohistorikk.
Du har bidratt til å lede IC Realtime gjennom overgangene fra analoge kameraer til digitalt opptak, fjernovervåking og nå KI. Hva overbeviste deg om at KI kunne endre overvåking grunnleggende, og hvilke fremskritt har gjort avansert videoanalyse praktisk ute ved kanten av nettverket?
Vi har arbeidet med maskinlæring og datasyn i kameraene våre i mange år. Muligheten ble langt mer nyttig da systemet kunne hjelpe noen med å forstå en hendelse og finne det relevante videomaterialet, i stedet for bare å produsere mer video som måtte gjennomgås. En boligeier vil vite hva som krever oppmerksomhet. En bedrift vil finne en hendelse uten å bruke timevis på å lete.
Bunker tar denne tilnærmingen i bruk via en egen NVIDIA Jetson-gateway på eiendommen. Når kjerneanalysen flyttes nærmere kameraene, blir man mindre avhengig av å sende hver eneste analyseoppgave til skyen, og systemet kan reagere raskere. Det praktiske fremskrittet ligger i kombinasjonen av lokal databehandling og programvare som gjør video om til kontekstuelle varsler og søkbare hendelser.
Mitt utgangspunkt er fortsatt dokumentert nytte. Teknologien må løse et reelt problem i det miljøet kunden skal bruke den i. En god demonstrasjon er begynnelsen på den prosessen.
Kan du bruke Bunker som eksempel og forklare hva som skjer fra et kamera fanger opp en hendelse til en bruker mottar et varsel? Hvilke KI-funksjoner kjøres lokalt, hva krever fortsatt skyen, og hvilke data forlater eiendommen?
På et overordnet nivå sender et kompatibelt kamera video til Bunker Gateway, og kjerneanalysen med KI skjer på denne gatewayen på eiendommen. Plattformen knytter registrert aktivitet til videohendelser og kan sende et kontekstuelt varsel med et øyeblikksbilde og en beskrivelse i klart språk. Deretter kan brukeren se gjennom videoen i appen.
Bunker bruker en hybridarkitektur. Skytilkobling gir støtte for fjerntilgang, abonnementstjenester og videohistorikk, så det ville være misvisende å kalle plattformen uavhengig av skyen eller å si at ingen video forlater eiendommen. Det viktige er hvordan dataene beskyttes når de forlater eiendommen. All data krypteres under overføring, også direktesendt video, som forblir kryptert hele veien fra gatewayen til skjermen til den som ser på. Infrastrukturen mellom dem videresender videoen, men kan ikke se den. Hver gateway autentiseres med sitt eget sertifikat, aldri med delte påloggingsopplysninger, og videomateriale som lagres i skyen, er kryptert.
Kundene bør få en tydelig forklaring på denne dataflyten, blant annet hvilke funksjoner som er avhengige av internett, og hva som skjer når forbindelsen er nede.
Sikkerhetskameraer brukes i regn, mørke, motlys og miljøer som stadig endrer seg. Hva er den vanskeligste feilen i virkelige driftsforhold du har opplevd, og hvordan måler dere om forbedringer reduserer falske alarmer uten at flere hendelser overses?
Jeg har vært i denne bransjen i mer enn 20 år, og kamerateknologien har blitt dramatisk bedre, særlig i svakt lys og krevende forhold. Nattbilder og bilder med mye bildestøy er nå nesten like klare som bilder tatt i dagslys. Likevel kan regn, motlys, tåke og snø fortsatt redusere nøyaktigheten til en KI-modell. Bedre sensorer fjerner ikke disse faktorene.
Derfor valgte vi en dynamisk tilnærming som tilpasser seg skiftende miljøer og tidspunkter på dagen, i stedet for å basere oss på én fast konfigurasjon. I løpet av de siste to årene med utvikling har vi brukt tusenvis av timer på testing i reelle installasjoner, ikke bare på kameraer på en benk, og vi har bygget systemet på det disse utplasseringene har lært oss.
Jeg ville ikke vurdert en forbedring ut fra et lavere antall varsler alene. Spørsmålet er om den fjerner irrelevante varsler samtidig som den fortsatt fanger opp hendelsene som betyr noe. Det er bare verdifullt å redusere støyen hvis systemet fortsatt er nyttig når noe viktig skjer.
Det er forskjell på å registrere en person eller et kjøretøy og å avgjøre om atferden er bekymringsfull. Hvordan definerer dere et avvik, tilpasser definisjonen til hvert sted og hindrer systemet i å oppfatte harmløs aktivitet som en trussel?
Et objekt som er registrert, forteller ikke i seg selv om det er et problem. En levering ved inngangsdøren og aktivitet i et område med adgangsbegrensning kan involvere samme type objekt, men kreve svært ulike reaksjoner. Utgangspunktet bør være kundens bruksområde og forholdene på den aktuelle eiendommen.
Jeg ville skilt mellom en hendelse det er verdt å undersøke, og en konklusjon om at noen utgjør en trussel. Systemet bør hjelpe folk med å forstå hva som ble observert, og hvorfor det ble vist fram, samtidig som de får tilgang til de underliggende videoopptakene. Det bør ikke oppmuntre brukeren til å tolke enhver ukjent aktivitet som bevis på noe galt.
Etter hvert som disse systemene blir mer avanserte, er utfordringen å gjøre denne konteksten nyttig uten å overdrive hva KI-en vet. Menneskelig skjønn er fortsatt viktig, særlig når et varsel kan føre til en handling med store konsekvenser.
Naturlig språksøk lover å gjøre det unødvendig å bruke timevis på å gå gjennom opptak manuelt. Hvordan kobler systemet deres en brukers beskrivelse til riktig video, og hvordan tester dere om systemet overser hendelser, finner feil treff eller lager KI-genererte beskrivelser som ikke støttes av opptakene?
Målet er å gjøre det mulig å søke i video med det språket folk bruker til daglig. Når aktivitet oppdages, lager Bunker tidsstemplede beskrivelser knyttet til videohendelser. Brukerens spørsmål brukes til å søke i denne indekserte oversikten og finne relevante opptak. Det gir brukeren et utgangspunkt uten at hele opptaket må spoles gjennom manuelt.
Opptaket bør være grunnlaget for å kontrollere resultatet. En generert beskrivelse er nyttig for å finne fram, men bør ikke tillegges større autoritet enn det kameraet faktisk fanget opp.
Når jeg tester systemet, ville jeg skilt mellom tre spørsmål: Overså systemet en relevant hendelse? Hentet det fram noe som ikke samsvarer med forespørselen? Inneholdt beskrivelsen noe som ikke støttes av opptaket? Dette er ulike typer feil. Det er ikke nok å bare vurdere om søket gir et svar som virker plausibelt.
Hvilke avveininger innebærer bruk av NVIDIA Jetson-maskinvare når det gjelder modellstørrelse, nøyaktighet, strømforbruk og hvor mange kamerafeeder dere kan analysere? Hvordan opprettholder dere pålitelig ytelse med eldre tredjepartskameraer, når prosesseringskapasiteten er nådd, eller når internettforbindelsen faller ut?
Utfordringen er å levere nyttige analyser innenfor ressursene som er tilgjengelige på eiendommen. Modellens kompleksitet, mengden video som behandles, og den nødvendige responstiden må alle være innenfor gatewayens driftsgrenser. Derfor gir ikke antallet strømmer systemet støtter, alene et fullstendig bilde av ytelsen.
Bunkers planer ved lansering støtter opptil 10 kamer strø mmer. Med kompatible ONVIF-kameraer kan kundene beholde maskinvaren de allerede har, men kompatibiliteten må fortsatt verifiseres for hver installasjon. Profiler, fastvare, bildekvalitet og hvilke funksjoner som brukes, har betydning.
Vi må også være presise når vi snakker om robusthet. Lokal prosessering og skytilkoblede tjenester er ulike deler av systemet, og det at man har en edge-gateway, betyr ikke at alle funksjoner fungerer som normalt ved et internettbrudd. Oppdateringer er også en del av påliteligheten. Hver oppdatering signeres og verifiseres på gatewayen før den installeres, eldre sårbare versjoner avvises, og en mislykket oppdatering rulles automatisk tilbake. Det skal ikke være en feilslått oppdatering som setter sikkerhetssystemet på en eiendom ut av drift.
Lokal inferens alene besvarer ikke alle spørsmål om personvern. Hvor lagrer Bunker videoopptak, søkespørsmål og KI-genererte metadata, hvor lenge oppbevares de, og hvem har tilgang til dem? Hvordan forbedrer dere modellene uten å gå ut fra at dere har tilgang til kundenes private videoopptak?
Det er jeg enig i. «Edge KI» er ikke en fullstendig personvernerklæring. Kundene må forstå hvor dataene deres sendes, hva som lagres, og hvem som har tilgang til dem. Dette gjelder søkespørsmål og genererte beskrivelser så vel som video.
Videoopptakene og databasene som ligger til grunn for tjenesten, er kryptert når de er lagret. Passord hashes, og økter utløper, slik at et databaseinnbrudd ikke gir noen fungerende påloggingsopplysninger. Selve gatewayen er også kryptert, så en stjålet enhet ikke gir tilgang til opptak eller påloggingsopplysninger. Bunkers tilbud ved lansering inkluderte 60 dagers skylagring av video historikk med Standard og 365 dager med Premium, samt Video Vault for klipp kunden velger å lagre.
Vi bruker ikke kundenes videoopptak til å trene modellene våre, og vi oppretter ikke biometriske maler av noen som fanges opp av kameraene. At en kunde bruker produktet, betyr ikke at vi har tillatelse til å bruke kundens private video på nytt.
Kontroversen rundt Flock Safety har satt søkelys på spørsmål om hvem som kan søke i overvåkingsdata, og om tilgangen blir tilbakekalt på riktig måte. Selv om utrullingsmodellen deres er annerledes, hvilke lærdommer er relevante for systemene deres, og hvilke sikkerhetstiltak bør være obligatoriske snarere enn valgfrie?
Kritikken mot Flock handler egentlig ikke om KI. Den handler om hvem som kan få tilgang til dataene og søke i dem. Mye av granskingen dreide seg om kontosikkerhet, blant annet da folkevalgte spurte hvorfor flerfaktorautentisering ikke var obligatorisk. Hvis et stjålet passord er nok til å søke i et overvåkingssystem, spiller det ingen rolle hvor modellen kjører.
Med Bunker er det bare brukere som systemets eier har gitt tilgang, som får tilgang til systemets data. Vi deler ikke dataene med tredjeparter, bruker ikke kundedata til å trene modellene våre og oppretter ikke biometriske maler.
Sikkerheten må begynne på enheten og følge med hele veien til kontoen. Hver Bunker-gateway leveres med sin egen kryptografiske identitet, så det finnes ingen standardpassord som må endres, eller som en angriper kan finne fram til. Fastvaren verifiseres ved hver oppstart, oppdateringer signeres og kontrolleres før de installeres, og pålogginger beskyttes med flerfaktorautentisering. I tillegg bør tilgangen fjernes raskt når den ikke lenger trengs, og sensitive aktiviteter bør etterlate et revisjonsspor. Tillit avhenger av at man kan forklare hvem som gjorde hva.
Folk som fanges opp av et kamera, er ofte ikke de som har kjøpt det. Hvordan bør KI-overvåking ivareta personvernet til naboer, ansatte, besøkende og forbipasserende, og finnes det funksjoner dere bevisst ville la være å utvikle?
Installasjonen må ha et klart definert formål, og dette formålet bør styre hva som fanges opp, hva som analyseres, og hvem som får se resultatene. Ønsket om å sikre en inngang betyr ikke at all aktivitet på en naboeiendom skal bli del av en søkbar logg.
En grense vi har trukket, gjelder identitet. Bunker oppretter ikke biometriske maler og knytter ikke identitet til noen det oppdager. Systemet beskriver hva som skjedde, ikke hvem noen er. Dermed holder vi systemet rettet mot hendelser, ikke mot å spore eller profilere mennesker.
Flere funksjoner betyr ikke automatisk større verdi. Hvis en funksjon skaper et alvorlig tillitsproblem uten å løse et tydelig kundeproblem, er det en grunn til ikke å utvikle den.
Når du ser tre til fem år fram i tid, hvilken meningsfull funksjonalitet tror du KI på kantenheter vil åpne for utover dagens deteksjon og søk – og hvilket teknisk problem eller tillitsproblem må løses før teknologien fortjener bred utbredelse?
Helt ærlig er KI-ens framtid fortsatt ukjent farvann, og utviklingen går raskere enn noe jeg har sett i løpet av karrieren min. Vi følger disse endringene nesten daglig og undersøker hvor de faktisk kan være til nytte for dem som bruker plattformen vår.
Områdene som betyr mest for oss, er kontekst, forståelse og systemer som fortsetter å lære og bli bedre. Verdien ligger i å hjelpe noen med å forstå en situasjon under utvikling og avgjøre hva som trenger oppmerksomhet, i stedet for å sette sammen en rekke enkeltstående varsler.
Den tekniske utfordringen er å få dette til å fungere pålitelig i skiftende omgivelser og innenfor begrensningene til den lokale maskinvaren. Tillitsutfordringen er å gjøre systemets begrensninger og praksis for håndtering av data enkle å forstå. Folk må vite hva systemet observerte, hva det utledet, og når et menneske må ta avgjørelsen.
Takk for et flott intervju. Lesere som ønsker å utforske profesjonelle sikkerhetskameraer, opptakere og KI-drevne videoovervåkingssystemer, bør besøke IC Realtime.












