Wywiady
Andrew Nassar, dyrektor ds. technicznych IC Realtime – cykl wywiadów

Kluczowe punktyBunker wykonuje główną analizę AI na lokalnej bramie NVIDIA Jetson, aby ograniczyć…
Zobacz więcej
- Bunker wykonuje główną analizę AI na lokalnej bramie NVIDIA Jetson, aby ograniczyć zależność od chmury i przyspieszyć alerty.
- Nassar odmawia tworzenia funkcji biometrycznej identyfikacji, ponieważ nadzór powinien opisywać zdarzenia, a nie profilować ludzi.
- Edge AI nie jest polityką prywatności, ponieważ usługi w chmurze nadal obsługują zdalny dostęp i historię wideo.
Andrew Nassar jest dyrektorem ds. technicznych w IC Realtime, gdzie pomagał kierować firmą podczas przechodzenia od kamer analogowych do cyfrowego zapisu obrazu, zdalnego monitoringu i analizy wideo wspomaganej przez SI. Ma ponad 20 lat doświadczenia w branży monitoringu i koncentruje się na przekładaniu postępów w dziedzinie widzenia komputerowego i przetwarzania brzegowego na praktyczne narzędzia do rozumienia zdarzeń, wyszukiwania nagrań i usprawniania działań związanych z bezpieczeństwem.
IC Realtime projektuje systemy i oprogramowanie do monitoringu wizyjnego w obiektach mieszkalnych i komercyjnych. Jej platforma Bunker rozszerza możliwości kompatybilnych systemów kamer o analizę SI, która odbywa się za pośrednictwem dedykowanej bramy opartej na NVIDIA Jetson, umożliwiając wysyłanie kontekstowych alertów i wyszukiwanie nagrań wideo za pomocą języka naturalnego. Platforma łączy analizę lokalną z usługami połączonymi z chmurą, zapewniającymi zdalny dostęp i historię nagrań wideo.
Pomagał Pan kierować IC Realtime podczas przechodzenia od kamer analogowych do cyfrowego zapisu obrazu i zdalnego monitoringu, a obecnie także do SI. Co przekonało Pana, że SI może zasadniczo zmienić monitoring i jakie postępy sprawiły, że zaawansowana analiza wideo stała się praktyczna na brzegu sieci?
Od lat wykorzystujemy uczenie maszynowe i widzenie komputerowe w naszych kamerach. Możliwości znacznie wzrosły, gdy system zaczął pomagać użytkownikom zrozumieć zdarzenie i znaleźć odpowiednie nagranie, zamiast po prostu generować więcej materiału do przejrzenia. Właściciel domu chce wiedzieć, co wymaga uwagi. Firma chce znaleźć incydent bez spędzania wielu godzin na przeszukiwaniu nagrań.
Bunker przenosi to podejście na dedykowaną bramę NVIDIA Jetson zainstalowaną na terenie obiektu. Przeniesienie kluczowych analiz bliżej kamer może ograniczyć konieczność przesyłania każdego zadania analitycznego do chmury i przyspieszyć działanie systemu. Praktyczny postęp polega na połączeniu lokalnych obliczeń z oprogramowaniem, które przekształca obraz wideo w kontekstowe alerty i zdarzenia możliwe do wyszukania.
Moim niezmiennym kryterium jest potwierdzona wartość. Technologia musi rozwiązywać rzeczywisty problem w środowisku, w którym klient będzie z niej korzystać. Dobra demonstracja to dopiero początek tego procesu.
Na przykładzie Bunker może Pan opisać, co dzieje się od chwili, gdy kamera zarejestruje zdarzenie, do momentu otrzymania alertu przez użytkownika? Które funkcje SI działają lokalnie, które nadal wymagają chmury i jakie dane opuszczają teren obiektu?
Ogólnie rzecz biorąc, kompatybilna kamera przesyła obraz wideo do Bunker Gateway, a kluczowa analiza SI odbywa się na tej bramie, na terenie obiektu. Platforma łączy wykrytą aktywność ze zdarzeniami zarejestrowanymi na wideo i może wysłać kontekstowy alert zawierający migawkę oraz opis prostym językiem. Użytkownik może następnie obejrzeć nagranie w aplikacji.
Bunker wykorzystuje architekturę hybrydową. Łączność z chmurą zapewnia zdalny dostęp, usługi subskrypcyjne i historię nagrań wideo, dlatego byłoby mylące twierdzić, że platforma działa całkowicie bez chmury lub że żadne nagrania wideo nie opuszczają terenu obiektu. Istotne jest to, w jaki sposób dane są chronione, gdy go opuszczają. Wszystkie dane są szyfrowane podczas przesyłania, także obraz wideo na żywo, który pozostaje zaszyfrowany od bramy aż po ekran odbiorcy. Infrastruktura pośrednicząca przekazuje go dalej, ale nie może go oglądać. Każda brama uwierzytelnia się za pomocą własnego certyfikatu, a nie współdzielonych danych uwierzytelniających, natomiast nagrania przechowywane w chmurze są szyfrowane.
Klienci powinni otrzymać jasne wyjaśnienie tego procesu, w tym informację, które funkcje wymagają dostępu do internetu i co się dzieje w razie utraty połączenia.
Kamery monitoringu działają w deszczu, ciemności, przy silnym odblasku i w nieustannie zmieniających się warunkach. Z jaką najtrudniejszą awarią w rzeczywistych warunkach się Pan zetknął i jak mierzycie, czy wprowadzane ulepszenia ograniczają liczbę fałszywych alarmów, nie zwiększając ryzyka przeoczenia incydentów?
Pracuję w tej branży od ponad 20 lat, a technologia kamer znacznie się rozwinęła, szczególnie w zakresie działania przy słabym oświetleniu i w trudnych warunkach. Obraz nocny i zaszumiony jest teraz niemal tak wyraźny jak obraz dzienny. Mimo to deszcz, odblaski, mgła i śnieg nadal mogą obniżać dokładność modelu SI. Lepsze czujniki nie eliminują tych zmiennych.
Dlatego wybraliśmy dynamiczne podejście, które dostosowuje się do zmieniających się warunków i pory dnia, zamiast opierać się na jednej, niezmiennej konfiguracji. W ciągu ostatnich 2 lat prac rozwojowych poświęciliśmy tysiące godzin na testy w rzeczywistych instalacjach, a nie tylko na kamerach ustawionych na stole laboratoryjnym, i stworzyliśmy system na podstawie wniosków płynących z tych wdrożeń.
Nie oceniałbym ulepszenia wyłącznie na podstawie mniejszej liczby powiadomień. Liczy się to, czy pozwala wyeliminować nieistotne alerty, a jednocześnie nadal wykrywać ważne incydenty. Ograniczenie szumu informacyjnego ma wartość tylko wtedy, gdy system pozostaje użyteczny, gdy wydarzy się coś istotnego.
Wykrycie osoby lub pojazdu to co innego niż stwierdzenie, że dane zachowanie budzi niepokój. Jak definiujecie anomalię, dostosowujecie tę definicję do konkretnego miejsca i zapobiegacie uznawaniu przez system nieszkodliwej aktywności za zagrożenie?
Samo wykrycie obiektu nie mówi, czy doszło do problemu. Dostawa przy głównym wejściu i aktywność w strefie o ograniczonym dostępie mogą dotyczyć tego samego rodzaju obiektu, ale wymagają zupełnie różnych reakcji. Punktem wyjścia powinny być potrzeby klienta i kontekst konkretnej nieruchomości.
Odróżniłbym zdarzenie warte sprawdzenia od wniosku, że ktoś stanowi zagrożenie. System powinien pomagać zrozumieć, co zaobserwowano i dlaczego zwróciło to uwagę, a także zapewniać dostęp do nagrania źródłowego. Nie powinien skłaniać użytkownika do traktowania każdej nieznanej aktywności jako dowodu niewłaściwego postępowania.
Wraz ze wzrostem możliwości tych systemów wyzwaniem staje się takie wykorzystanie kontekstu, by był pomocny, a zarazem nie wyolbrzymiał tego, co wie AI. Ludzka ocena pozostaje ważna, zwłaszcza gdy alert może prowadzić do poważnych konsekwencji.
Wyszukiwanie w języku naturalnym ma pozwolić zaoszczędzić wiele godzin ręcznego przeglądania nagrań. W jaki sposób system łączy opis podany przez użytkownika z właściwym nagraniem i jak sprawdzacie, czy nie pomija zdarzeń, nie zwraca niepasujących wyników ani nie generuje opisów AI, których nie potwierdza nagranie?
Chodzi o to, by można było przeszukiwać nagrania w języku, którym ludzie posługują się na co dzień. Gdy system wykryje aktywność, Bunker tworzy opisy ze znacznikami czasu, powiązane ze zdarzeniami na nagraniu. Pytanie użytkownika służy do przeszukania zindeksowanego zbioru i wyświetlenia odpowiednich nagrań. Dzięki temu użytkownik otrzymuje punkt wyjścia do dalszych poszukiwań i nie musi ręcznie przewijać całego nagrania.
Podstawą weryfikacji wyniku powinno pozostać nagranie. Wygenerowany opis ułatwia nawigację, ale nie powinien być uznawany za bardziej wiarygodny niż to, co rzeczywiście zarejestrowała kamera.
Podczas testów rozdzieliłbym trzy pytania: Czy system przeoczył istotne zdarzenie? Czy zwrócił coś, co nie odpowiada zapytaniu? Czy opis zawierał informacje, których nie potwierdza nagranie? To różne rodzaje błędów. Nie wystarczy ocenić jedynie, czy wyszukiwanie zwraca odpowiedź, która wydaje się wiarygodna.
Jakie kompromisy wymusza sprzęt NVIDIA Jetson w kwestii wielkości modelu, dokładności, zużycia energii i liczby analizowanych obrazów z kamer? Jak zapewniacie niezawodne działanie w przypadku starszych kamer innych firm, osiągnięcia limitu mocy obliczeniowej lub utraty połączenia z internetem?
Najważniejsze jest to, jak zapewnić użyteczną analizę w granicach zasobów dostępnych w danej lokalizacji. Złożoność modelu, ilość przetwarzanego obrazu i wymagany czas reakcji muszą mieścić się w limitach pracy bramy. Dlatego sama liczba obsługiwanych strumieni nie daje pełnego obrazu wydajności.
Plany Bunker dotyczące premiery zakładają obsługę maksymalnie 10 strumieni z kamer. Zgodność z ONVIF pozwala klientom zachować dotychczasowy sprzęt, ale trzeba ją zweryfikować w każdej instalacji. Znaczenie mają profile, oprogramowanie układowe, jakość obrazu i używane funkcje.
Musimy też precyzyjnie mówić o odporności systemu na awarie. Przetwarzanie lokalne i usługi połączone z chmurą to różne elementy systemu, a sama obecność bramy brzegowej nie oznacza, że wszystkie funkcje działają normalnie podczas przerwy w dostępie do internetu. Aktualizacje również wpływają na niezawodność. Każda aktualizacja jest podpisywana i weryfikowana na bramie przed instalacją, starsze, podatne na ataki wersje są odrzucane, a nieudana aktualizacja powoduje automatyczne przywrócenie poprzedniej wersji. Wadliwa aktualizacja nie powinna doprowadzać do wyłączenia systemu bezpieczeństwa w danej lokalizacji.
Samo przetwarzanie brzegowe nie odpowiada na wszystkie pytania dotyczące prywatności. Gdzie Bunker przechowuje nagrania, zapytania wyszukiwania i metadane generowane przez AI, jak długo je zachowuje i kto ma do nich dostęp? Jak ulepszacie modele, nie zakładając dostępu do prywatnych nagrań klientów?
Zgadzam się. „Sztuczna inteligencja brzegowa” to niekompletna polityka prywatności. Klienci muszą wiedzieć, dokąd trafiają ich dane, jakie dane są przechowywane i kto ma do nich dostęp. Dotyczy to zarówno zapytań wyszukiwania i wygenerowanych opisów, jak i nagrań wideo.
Nagrania i bazy danych obsługujące usługę są szyfrowane w spoczynku. Hasła są haszowane, a sesje wygasają, więc nawet naruszenie bezpieczeństwa bazy danych nie zapewniłoby nikomu działających danych logowania. Sama brama również jest szyfrowana, dlatego skradzione urządzenie nie daje dostępu ani do nagrań, ani do danych uwierzytelniających. Oferta Bunker w momencie premiery obejmowała 60 dni historii nagrań w chmurze w planie Standard i 365 dni w planie Premium, a także Video Vault do przechowywania klipów wybranych przez klienta.
Nie wykorzystujemy nagrań klientów do trenowania naszych modeli i nie tworzymy wzorców biometrycznych osób uchwyconych przez kamery. Korzystanie z produktu przez klienta nie oznacza, że możemy ponownie wykorzystywać jego prywatne nagrania.
Kontrowersje wokół Flock Safety uwypukliły pytania o to, kto może przeszukiwać dane z monitoringu i czy dostęp jest prawidłowo odbierany. Choć wasz model wdrażania systemu jest inny, jakie wnioski mają zastosowanie również do waszych rozwiązań i które zabezpieczenia powinny być obowiązkowe, a nie opcjonalne?
Sprzeciw wobec Flock nie dotyczy tak naprawdę AI. Chodzi o to, kto może uzyskać dostęp do danych i je przeszukiwać. Wiele zastrzeżeń dotyczyło bezpieczeństwa kont, między innymi tego, że ustawodawcy pytali, dlaczego uwierzytelnianie wieloskładnikowe nie było obowiązkowe. Jeśli skradzione hasło wystarczy, by przeszukiwać system monitoringu, nie ma znaczenia, gdzie działa model.
W przypadku Bunker dostęp do danych systemu mają wyłącznie użytkownicy, którym udzielił go właściciel tego systemu. Nie udostępniamy tych danych podmiotom zewnętrznym, nie wykorzystujemy danych klientów do trenowania naszych modeli i nie tworzymy wzorców biometrycznych.
Bezpieczeństwo musi zaczynać się na urządzeniu i obejmować także konto. Każda brama Bunker jest dostarczana z własną tożsamością kryptograficzną, więc nie ma domyślnych haseł, które trzeba zmieniać lub które napastnik mógłby odgadnąć. Oprogramowanie układowe jest weryfikowane przy każdym uruchomieniu, aktualizacje są podpisywane i sprawdzane przed instalacją, a logowanie chroni uwierzytelnianie wieloskładnikowe. Ponadto należy niezwłocznie odbierać dostęp, gdy przestaje być potrzebny, a działania związane z wrażliwymi danymi powinny pozostawiać możliwy do skontrolowania ślad. Zaufanie zależy od możliwości wyjaśnienia, kto i co zrobił.
Osoby uchwycone przez kamerę często nie są tymi, które ją kupiły. Jak systemy monitoringu oparte na sztucznej inteligencji powinny uwzględniać prywatność sąsiadów, pracowników, gości i przechodniów? Czy są funkcje, których celowo nie zdecydowalibyście się tworzyć?
Instalacja musi mieć jasno określony cel, a to właśnie on powinien wyznaczać, co jest rejestrowane i analizowane oraz kto może zobaczyć wyniki. Chęć zabezpieczenia wejścia nie oznacza, że każda aktywność na sąsiedniej posesji powinna trafiać do przeszukiwalnego archiwum.
Jedną z granic, które wyznaczyliśmy, jest identyfikacja. Bunker nie tworzy wzorców biometrycznych ani nie przypisuje tożsamości wykrywanym osobom. Opisuje to, co się wydarzyło, a nie to, kim ktoś jest. Dzięki temu system skupia się na zdarzeniach, a nie na śledzeniu czy profilowaniu ludzi.
Większe możliwości nie oznaczają automatycznie większej wartości. Jeśli dana funkcja stwarza poważny problem związany z zaufaniem, a jednocześnie nie rozwiązuje jasno określonego problemu klienta, to jest to powód, by jej nie tworzyć.
Patrząc w perspektywie trzech do pięciu lat, jaką istotną możliwość, wykraczającą poza dzisiejsze wykrywanie i wyszukiwanie, według Ciebie odblokuje sztuczna inteligencja brzegowa — i jaki problem techniczny lub związany z zaufaniem trzeba rozwiązać, zanim technologia ta zasłuży na powszechne wdrożenie?
Szczerze mówiąc, przyszłość sztucznej inteligencji jest dziś nieznana, a zmiany zachodzą szybciej niż cokolwiek, co widziałem w swojej karierze. Niemal codziennie śledzimy te zmiany i sprawdzamy, w jaki sposób mogą rzeczywiście przynieść korzyści osobom korzystającym z naszej platformy.
Najważniejsze są dla nas kontekst, rozumienie i systemy, które nieustannie się uczą i doskonalą. Wartość polega na tym, że pomagają komuś zrozumieć rozwijającą się sytuację i zdecydować, na co należy zwrócić uwagę, zamiast samodzielnie składać w całość serię odrębnych powiadomień.
Wyzwanie techniczne polega na tym, by system działał niezawodnie w zmiennych warunkach i w granicach możliwości lokalnego sprzętu. Z kolei wyzwaniem związanym z zaufaniem jest takie przedstawienie ograniczeń systemu i zasad przetwarzania danych, aby łatwo było je zrozumieć. Ludzie muszą wiedzieć, co system zaobserwował, co wywnioskował oraz w jakich sytuacjach decyzję musi podjąć człowiek.
Dziękujemy za świetny wywiad. Czytelnicy, którzy chcieliby poznać profesjonalne kamery i rejestratory do monitoringu oraz systemy nadzoru wizyjnego oparte na sztucznej inteligencji, powinni odwiedzić IC Realtime.












