Rozhovory

Andrew Nassar, technický ředitel společnosti IC Realtime – série rozhovorů

Antoine Tardif
Přidejte Unite.AI mezi své preferované zdroje na Google
Andrew Nassar, CTO of IC Realtime, against a light gray background.
Klíčové bodyBunker provádí základní analýzu AI na místní bráně NVIDIA Jetson, aby snížil závislost…
Zobrazit více
  • Bunker provádí základní analýzu AI na místní bráně NVIDIA Jetson, aby snížil závislost na cloudu a zrychlil upozornění.
  • Nassar odmítá vytvářet funkce biometrické identity, protože sledování má popisovat události, nikoli profilovat lidi.
  • Edge AI není zásadou ochrany soukromí, protože cloudové služby stále zajišťují vzdálený přístup a historii videa.

Andrew Nassar je technickým ředitelem společnosti IC Realtime, kde pomáhal firmu provést přechodem od analogových kamer k digitálnímu záznamu, vzdálenému monitorování a analýze videa s využitím umělé inteligence. V oboru kamerových bezpečnostních systémů působí více než 20 let a zaměřuje se na to, jak proměnit pokroky v počítačovém vidění a výpočtech na okraji sítě v praktické nástroje pro porozumění událostem, vyhledávání záznamů a zlepšování bezpečnostních činností.

IC Realtime navrhuje kamerové bezpečnostní systémy a software pro domácnosti i komerční prostory. Její platforma Bunker rozšiřuje kompatibilní kamerové systémy o analýzu pomocí umělé inteligence prostřednictvím specializované brány využívající NVIDIA Jetson, která umožňuje zasílání upozornění s kontextem a vyhledávání ve videu pomocí přirozeného jazyka. Platforma spojuje místní analýzu se službami připojenými ke cloudu, které zajišťují vzdálený přístup a historii videozáznamů.

Pomáhal jste vést IC Realtime při přechodu od analogových kamer k digitálnímu záznamu, vzdálenému monitorování a nyní i k umělé inteligenci. Co vás přesvědčilo, že umělá inteligence může kamerové zabezpečení zásadně změnit, a jaké pokroky umožnily provádět sofistikovanou analýzu videa prakticky přímo na místě?

Strojové učení a počítačové vidění v našich kamerách využíváme už řadu let. Tyto technologie začaly být mnohem užitečnější, když systém dokázal lidem pomoci porozumět události a najít příslušný záznam, místo aby pouze vytvářel další video ke kontrole. Majitel domu chce vědět, čemu je třeba věnovat pozornost. Firma chce najít záznam o incidentu, aniž by musela trávit hodiny jeho hledáním.

Bunker přináší tento přístup prostřednictvím specializované brány NVIDIA Jetson přímo v daném objektu. Přesunutí základní analýzy blíže ke kamerám může omezit závislost na odesílání každé analytické úlohy do cloudu a zlepšit rychlost odezvy. Praktický přínos spočívá v propojení místního výpočetního výkonu se softwarem, který převádí video na upozornění s kontextem a události, v nichž lze vyhledávat.

Mým měřítkem je i nadále prokazatelný přínos. Technologie musí řešit skutečný problém v prostředí, kde ji zákazník bude používat. Dobrá ukázka je začátkem tohoto procesu.

Můžete nám na příkladu systému Bunker popsat, co se děje od okamžiku, kdy kamera zachytí událost, až po chvíli, kdy uživatel dostane upozornění? Které funkce umělé inteligence běží místně, které stále vyžadují cloud a jaká data opouštějí objekt?

Kompatibilní kamera v zásadě odesílá video do brány Bunker Gateway a základní analýza pomocí umělé inteligence probíhá přímo v této bráně v daném objektu. Platforma propojuje zjištěnou aktivitu s videozáznamy událostí a může odeslat upozornění s kontextem, které obsahuje snímek a srozumitelný textový popis. Uživatel si pak může video prohlédnout v aplikaci.

Bunker využívá hybridní architekturu. Připojení ke cloudu umožňuje vzdálený přístup, předplatné služeb a uchovávání historie videozáznamů, takže by bylo zavádějící označovat platformu za zcela nezávislou na cloudu nebo tvrdit, že z objektu neodchází žádné video. Důležité je, jak jsou tato data chráněna, když objekt opustí. Veškerá data jsou při přenosu šifrována, včetně živého videa, které zůstává šifrované od brány až po obrazovku diváka. Infrastruktura mezi nimi video pouze přenáší, ale nemůže ho sledovat. Každá brána se ověřuje vlastním certifikátem, nikdy pomocí sdílených přihlašovacích údajů, a záznamy uložené v cloudu jsou šifrované.

Zákazníci by měli dostat jasné vysvětlení tohoto postupu, včetně toho, které funkce závisejí na připojení k internetu a co se stane, když připojení vypadne.

Bezpečnostní kamery fungují v dešti, tmě, oslnivém světle i v neustále se měnícím prostředí. S jakým nejtěžším problémem v reálném provozu jste se setkal a jak měříte, zda vylepšení omezují falešné poplachy, aniž by vedla k častějšímu přehlédnutí incidentů?

V tomto oboru působím více než 20 let a technologie kamer se výrazně zlepšila, zejména při snímání za slabého osvětlení a v náročných podmínkách. Noční a zašuměné záběry jsou nyní téměř stejně čisté jako denní. Déšť, oslnění, mlha a sníh však stále mohou snižovat přesnost modelu umělé inteligence. Lepší snímače tyto proměnné neodstraní.

Zvolili jsme proto dynamický přístup, který se přizpůsobuje měnícím se podmínkám a denní době, místo aby spoléhal na jediné pevné nastavení. Během posledních dvou let vývoje jsme věnovali tisíce hodin testování v reálných instalacích, nikoli pouze kamer na testovacím stole, a systém jsme navrhli na základě poznatků z těchto nasazení.

Úspěšnost vylepšení bych neposuzoval pouze podle nižšího počtu upozornění. Podstatné je, zda se podaří odstranit nepodstatná upozornění a přitom zachytit důležité incidenty. Omezení rušivých upozornění má smysl jen tehdy, pokud systém zůstane užitečný ve chvíli, kdy se stane něco důležitého.

Zjištění osoby nebo vozidla se liší od posouzení, zda je jejich chování znepokojivé. Jak definujete anomálii, jak tuto definici přizpůsobujete jednotlivým místům a jak bráníte systému, aby neškodnou aktivitu považoval za hrozbu?

Samotné zjištění objektu vám neřekne, zda jde o problém. Doručení zásilky u hlavního vchodu a aktivita v prostoru s omezeným přístupem mohou zahrnovat stejný typ objektu, ale vyžadovat zcela odlišné reakce. Východiskem by měly být potřeby zákazníka a kontext konkrétního objektu.

Rozlišoval bych mezi událostí, kterou stojí za to prověřit, a závěrem, že někdo představuje hrozbu. Systém by měl člověku pomoci pochopit, co bylo zaznamenáno a proč na to byl upozorněn, a umožnit mu přístup k původnímu záznamu. Neměl by uživatele vést k tomu, aby každou neznámou aktivitu považoval za důkaz protiprávního jednání.

S rostoucími schopnostmi těchto systémů je výzvou využít kontext tak, aby byl užitečný, a přitom nepřeceňovat, co AI ví. Lidský úsudek zůstává důležitý, zejména když by upozornění mohlo vést k závažnému rozhodnutí.

Vyhledávání v přirozeném jazyce slibuje, že nahradí hodiny ručního procházení záznamů. Jak váš systém propojí uživatelův popis s odpovídajícím videem a jak testujete, zda nepřehlédne události, nenajde nesprávné záznamy nebo nevytvoří popisy pomocí AI, které záznam nepodporuje?

Cílem je umožnit vyhledávání ve videu pomocí výrazů, které by člověk přirozeně použil. Když systém zaznamená aktivitu, Bunker vytváří popisy s časovým razítkem, které přiřazuje k událostem ve videu. Uživatelův dotaz slouží k vyhledávání v tomto indexovaném záznamu a k zobrazení relevantního záznamu. Uživatel tak získá výchozí bod, aniž by musel ručně procházet celý záznam.

Záznam by měl zůstat základem pro ověření výsledku. Vygenerovaný popis je užitečný při orientaci, neměl by však být považován za spolehlivější než to, co kamera skutečně zaznamenala.

Při testování bych oddělil tři otázky: Přehlédl systém relevantní událost? Našel něco, co neodpovídá požadavku? Obsahoval popis něco, co záznam nepodporuje? Jde o různé typy selhání. Nestačilo by hodnotit pouze to, zda vyhledávání vrátí odpověď, která vypadá věrohodně.

Jaká omezení přináší hardware NVIDIA Jetson, pokud jde o velikost modelu, přesnost, spotřebu energie a počet kamerových streamů, které můžete analyzovat? Jak udržujete spolehlivý výkon při použití starších kamer jiných výrobců, při dosažení limitu výpočetní kapacity nebo při výpadku internetového připojení?

Otázkou při návrhu je, jak poskytovat užitečnou analýzu s využitím prostředků dostupných v daném objektu. Složitost modelu, objem zpracovávaného videa i požadovaná doba odezvy se musí vejít do provozních limitů brány. Proto samotný počet podporovaných streamů nevypovídá o výkonu úplně.

Při uvedení na trh bude Bunker podporovat až 10 kamerových streamů. Kompatibilní kamery ONVIF umožňují zákazníkům ponechat si stávající zařízení, kompatibilitu je však přesto třeba ověřit při každé instalaci. Záleží na profilech, firmwaru, kvalitě obrazu i používaných funkcích.

Musíme také přesně mluvit o odolnosti systému. Lokální zpracování a služby propojené s cloudem jsou různé části systému a přítomnost edge brány neznamená, že všechny funkce budou při výpadku internetu fungovat běžným způsobem. K spolehlivosti patří i aktualizace. Každá aktualizace je před instalací digitálně podepsána a ověřena přímo v bráně, starší zranitelné verze jsou odmítnuty a při neúspěšné aktualizaci se systém automaticky vrátí k předchozí verzi. Právě vadná aktualizace by neměla vyřadit bezpečnostní systém objektu z provozu.

Samotné lokální odvozování neřeší všechny otázky ochrany soukromí. Kde Bunker ukládá záznamy, vyhledávací dotazy a metadata vytvořená pomocí AI, jak dlouho je uchovává a kdo k nim má přístup? Jak své modely vylepšujete, aniž byste předpokládali, že máte přístup k soukromým záznamům zákazníků?

Souhlasím. „Edge AI“ není úplná zásada ochrany soukromí. Zákazníci potřebují vědět, kam jejich data putují, co se uchovává a kdo k nim má přístup; to se týká vyhledávacích dotazů a vytvořených popisů stejně jako videa.

Záznamy i databáze, na nichž služba stojí, jsou šifrovány při uložení. Hesla jsou ukládána jako hash a platnost relací vyprší, takže ani při úniku databáze by nikdo nezískal funkční přihlašovací údaje. Šifrována je i samotná brána, takže při odcizení zařízení z něj nelze získat záznamy ani přihlašovací údaje. Nabídka Bunkeru při uvedení na trh zahrnovala 60 dnů cloudové historie videa v tarifu Standard a 365 dnů v tarifu Premium a také funkci Video Vault pro klipy, které se zákazník rozhodne uložit.

Záznamy zákazníků nepoužíváme k trénování našich modelů a nevytváříme biometrické šablony osob zachycených kamerami. To, že zákazník produkt používá, nám nedává svolení znovu využívat jeho soukromé video.

Kontroverze kolem společnosti Flock Safety upozornila na otázky, kdo může vyhledávat v datech z kamerového dohledu a zda se přístup včas a řádně odebírá. Ačkoli je váš způsob nasazení odlišný, jaké poznatky lze uplatnit i na vaše systémy a která ochranná opatření by měla být povinná, nikoli volitelná?

Vlna kritiky namířená proti Flock se ve skutečnosti netýká AI. Jde o to, kdo se může dostat dovnitř a vyhledávat v datech. Velká část kritiky se soustředila na zabezpečení účtů; zákonodárci se například ptali, proč nebylo vícefaktorové ověřování povinné. Když k vyhledávání v systému kamerového dohledu stačí odcizené heslo, nezáleží na tom, kde model běží.

V systému Bunker mají k datům přístup pouze uživatelé, kterým přístup udělil vlastník daného systému. Data nesdílíme s třetími stranami, nepoužíváme zákaznická data k trénování našich modelů a nevytváříme biometrické šablony.

Zabezpečení musí začínat u zařízení a pokračovat až k účtu. Každá brána Bunker se dodává s vlastní kryptografickou identitou, takže není třeba měnit žádná výchozí hesla a útočník je nemůže ani snadno zjistit. Při každém spuštění se ověřuje firmware, aktualizace jsou podepsané a před instalací se kontrolují a přihlašování je chráněno vícefaktorovým ověřováním. Kromě toho je třeba přístup neprodleně odebrat, jakmile už není potřeba, a citlivé činnosti by měly zanechávat kontrolovatelný záznam. Důvěra závisí na tom, zda lze vysvětlit, kdo co udělal.

Lidé zachycení kamerou často nejsou těmi, kdo si ji pořídili. Jak by měl dohled s využitím AI zohledňovat soukromí sousedů, zaměstnanců, návštěvníků a kolemjdoucích? A jsou nějaké funkce, které byste záměrně odmítli vyvíjet?

Instalace musí mít jasně vymezený účel a ten by měl určovat, co se zachycuje, co se analyzuje a kdo může výsledky vidět. To, že chce někdo zabezpečit vchod, neznamená, že se každá činnost na sousedním pozemku musí stát součástí prohledávatelného záznamu.

Jednu hranici jsme si stanovili v oblasti identifikace. Bunker nevytváří biometrické šablony ani nepřiřazuje identitu nikomu, koho detekuje. Popisuje, co se stalo, nikoli kdo dotyčný je. Díky tomu se systém zaměřuje na události, nikoli na sledování nebo profilování lidí.

Více funkcí automaticky neznamená větší hodnotu. Pokud nějaká funkce představuje vážný problém z hlediska důvěry, aniž by řešila jasně definovaný problém zákazníků, je to důvod ji nevyvíjet.

Když se podíváte tři až pět let dopředu, jakou významnou schopnost podle vás edge AI přinese nad rámec dnešního rozpoznávání a vyhledávání – a jaký technický problém nebo problém s důvěrou je třeba vyřešit, než si zaslouží široké přijetí?

Upřímně řečeno, budoucnost AI je v tuto chvíli neprobádaným územím a vývoj postupuje rychleji než cokoli, co jsem za svou kariéru zažil. Tyto změny sledujeme téměř každý den a zkoumáme, kde mohou skutečně prospět lidem, kteří naši platformu používají.

Největší význam pro nás mají kontext, porozumění a systémy, které se průběžně učí a zlepšují. Jejich přínos spočívá v tom, že někomu pomohou pochopit vyvíjející se situaci a rozhodnout, čemu je třeba věnovat pozornost, místo aby si musel skládat obraz z řady nesouvisejících oznámení.

Technickou výzvou je dosáhnout toho spolehlivě v měnícím se prostředí a v mezích možností místního hardwaru. Výzvou v oblasti důvěry je srozumitelně vysvětlit omezení systému a způsob nakládání s daty. Lidé potřebují vědět, co systém zaznamenal, co z toho vyvodil a kdy musí rozhodnout člověk.

Děkujeme za skvělý rozhovor. Čtenáři, kteří chtějí prozkoumat profesionální bezpečnostní kamery, rekordéry a systémy videodohledu s využitím AI, mohou navštívit IC Realtime.

Antoine je vizionářský lídr a zakládající partner Unite.AI, kterého pohání neochvějné nadšení pro utváření a podporu budoucnosti umělé inteligence a robotiky. Jako podnikatel, který založil několik společností, věří, že AI promění společnost stejně zásadně jako elektřina, a často s nadšením hovoří o potenciálu převratných technologií a obecné umělé inteligence (AGI).

Jako futurista se věnuje zkoumání toho, jak tyto inovace budou utvářet náš svět. Je také zakladatelem Securities.io, platformy zaměřené na investice do špičkových technologií, které nově definují budoucnost a proměňují celá odvětví.