Інтерв’ю
Ендрю Насар, технічний директор IC Realtime — серія інтерв’ю

Ключові моментиBunker виконує основний аналіз ШІ на локальному шлюзі NVIDIA Jetson, щоб зменшити…
Показати більше
- Bunker виконує основний аналіз ШІ на локальному шлюзі NVIDIA Jetson, щоб зменшити залежність від хмари та прискорити сповіщення.
- Нассар відмовляється створювати функції біометричної ідентифікації, оскільки спостереження має описувати події, а не профілювати людей.
- Периферійний ШІ не є політикою конфіденційності, оскільки хмарні сервіси все ще обробляють віддалений доступ і історію відео.
Ендрю Насар — технічний директор IC Realtime, де він допомагав компанії долати перехід від аналогових камер до цифрового запису, дистанційного моніторингу та аналізу відео за допомогою ШІ. Маючи понад 20 років досвіду в галузі відеоспостереження, він зосереджується на тому, як перетворити досягнення в комп’ютерному зорі та периферійних обчисленнях на практичні інструменти для розуміння подій, пошуку відеозаписів і вдосконалення систем безпеки.
IC Realtime розробляє системи відеоспостереження та програмне забезпечення для житлових і комерційних об’єктів. Її платформа Bunker додає аналіз за допомогою ШІ до сумісних систем камер через спеціальний шлюз на базі NVIDIA Jetson, забезпечуючи контекстні сповіщення та пошук у відео природною мовою. Платформа поєднує локальний аналіз із підключеними до хмари сервісами для віддаленого доступу та зберігання історії відео.
Ви допомагали керувати IC Realtime під час переходу від аналогових камер до цифрового запису, дистанційного моніторингу, а тепер і до ШІ. Що переконало вас у тому, що ШІ може докорінно змінити відеоспостереження, і які досягнення зробили складний аналіз відео практичним безпосередньо на периферійних пристроях?
Ми вже багато років використовуємо машинне навчання та комп’ютерний зір у наших камерах. Ці технології стали значно кориснішими, коли система навчилася допомагати людям розуміти, що сталося, і знаходити потрібні відеозаписи, а не просто створювати ще більше відео для перегляду. Власникові будинку важливо знати, на що варто звернути увагу. Підприємству потрібно знаходити записи про інциденти, не витрачаючи на пошук багато годин.
Bunker переносить цей підхід на спеціальний шлюз NVIDIA Jetson, розміщений на об’єкті. Перенесення основного аналізу ближче до камер може зменшити потребу надсилати кожне аналітичне завдання до хмари та підвищити швидкість реагування. Практичний поступ полягає в поєднанні локальних обчислень і програмного забезпечення, яке перетворює відео на контекстні сповіщення та події, доступні для пошуку.
Мій головний критерій — підтверджена користь. Технологія має розв’язувати реальну проблему в тих умовах, у яких клієнт її використовуватиме. Хороша демонстрація — лише початок цього процесу.
На прикладі Bunker розкажіть, будь ласка, що відбувається від моменту, коли камера фіксує подію, до отримання сповіщення користувачем. Які функції ШІ виконуються локально, для чого досі потрібна хмара і які дані залишають об’єкт?
Якщо коротко, сумісна камера надсилає відео на шлюз Bunker, а основний аналіз за допомогою ШІ виконується на цьому шлюзі безпосередньо на об’єкті. Платформа пов’язує виявлену активність із відеоподіями та може надіслати контекстне сповіщення зі знімком і зрозумілим текстовим описом. Після цього користувач може переглянути відео в застосунку.
Bunker використовує гібридну архітектуру. Підключення до хмари забезпечує віддалений доступ, роботу передплатних сервісів і зберігання історії відео, тож було б неправильно називати платформу повністю незалежною від хмари або стверджувати, що відео не залишає об’єкт. Важливо те, як захищаються ці дані, коли вони все ж передаються за його межі. Усі дані шифруються під час передавання, зокрема й відео в реальному часі, яке залишається зашифрованим від шлюзу аж до екрана глядача. Проміжна інфраструктура лише передає його, але не може переглядати. Кожен шлюз проходить автентифікацію за допомогою власного сертифіката — спільні облікові дані не використовуються, а відеозаписи, що зберігаються в хмарі, зашифровані.
Клієнтам слід чітко пояснювати цей процес, зокрема які функції залежать від інтернету та що відбувається в разі втрати з’єднання.
Камери спостереження працюють під дощем, у темряві, за яскравого відблиску та в умовах, що постійно змінюються. Яка найскладніша проблема в реальних умовах траплялася вам і як ви оцінюєте, чи зменшують удосконалення кількість хибних тривог, не збільшуючи кількості пропущених інцидентів?
Я працюю в цій галузі понад 20 років, і технології камер значно вдосконалилися, особливо в умовах слабкого освітлення та інших складних обставин. Тепер нічні зображення та зображення з перешкодами за чіткістю майже не поступаються денним. Однак дощ, відблиски, туман і сніг усе ще можуть знижувати точність моделей ШІ. Кращі сенсори не усувають цих чинників.
Тому ми обрали динамічний підхід, який адаптується до змін довкілля та часу доби, замість того щоб покладатися на незмінну конфігурацію. За останні два роки розробки ми витратили тисячі годин на випробування в реальних умовах — на встановлених системах, а не лише на камерах у лабораторії, — і створили систему з урахуванням висновків, зроблених під час такого розгортання.
Я б не оцінював удосконалення лише за зменшенням кількості сповіщень. Важливо, чи система відсіює зайві сповіщення, водночас виявляючи важливі інциденти. Зменшення кількості хибних сповіщень має сенс лише тоді, коли система залишається корисною в критичний момент.
Виявити людину чи транспортний засіб — не те саме, що визначити, чи викликає поведінка занепокоєння. Як ви визначаєте аномалію, пристосовуєте це визначення до кожного місця та запобігаєте тому, щоб система сприймала нешкідливу активність як загрозу?
Саме по собі виявлення об’єкта не дає змоги визначити, чи є проблема. Доставка до головного входу та активність у зоні з обмеженим доступом можуть стосуватися того самого типу об’єкта, але вимагати зовсім різної реакції. Відправною точкою мають бути потреби клієнта та особливості конкретного об’єкта.
Я б розмежував подію, яку варто перевірити, і висновок про те, що хтось становить загрозу. Система має допомагати людині зрозуміти, що саме було зафіксовано і чому на це звернули увагу, та надавати доступ до відповідного відеозапису. Вона не повинна спонукати користувача сприймати кожну незнайому активність як доказ правопорушення.
Що більше можливостей з’являється в таких систем, то важливіше зробити цей контекст корисним і водночас не перебільшувати, що саме знає ШІ. Людське судження залишається важливим, особливо коли сповіщення може призвести до серйозних наслідків.
Пошук природною мовою обіцяє позбавити потреби годинами переглядати відеозаписи вручну. Як ваша система пов’язує опис користувача з потрібним відео і як ви перевіряєте, чи не пропускає вона події, чи не знаходить невідповідні збіги та чи не містять згенеровані ШІ описи того, чого на відео немає?
Ідея полягає в тому, щоб шукати відео словами, якими людина користувалася б у звичайному спілкуванні. Коли система виявляє активність, Bunker створює описи з часовими позначками, пов’язані з відеоподіями. Запит користувача використовується для пошуку в цьому індексованому архіві та виявлення відповідних відеофрагментів. Так користувач отримує відправну точку й може не переглядати весь запис вручну, перемотуючи його кадр за кадром.
Перевіряючи результат, потрібно насамперед спиратися на відеозапис. Згенерований опис корисний для навігації, але його не слід вважати достовірнішим за те, що насправді зафіксувала камера.
Під час тестування я б окремо розглядав три запитання: чи пропустила система важливу подію? Чи знайшла вона щось, що не відповідає запиту? Чи містить опис твердження, які не підтверджуються відеозаписом? Це різні типи помилок. Недостатньо оцінювати лише те, чи видає пошук відповідь, яка на перший погляд здається правдоподібною.
Які компроміси зумовлює використання обладнання NVIDIA Jetson щодо розміру моделей, точності, енергоспоживання та кількості відеопотоків із камер, які можна аналізувати? Як забезпечити стабільну роботу зі старими сторонніми камерами, за досягнення межі обчислювальної потужності або втрати інтернет-з’єднання?
Під час проєктування потрібно з’ясувати, як забезпечити корисний аналіз у межах ресурсів, доступних на конкретному об’єкті. Складність моделі, обсяг відео, що обробляється, і потрібний час відгуку мають відповідати робочим обмеженням шлюзу. Тому сама лише кількість потоків, які підтримуються, не дає повного уявлення про продуктивність системи.
Плани Bunker на запуск передбачають підтримку до 10 потоків із камер. Завдяки сумісним камерам ONVIF клієнти можуть і надалі використовувати наявне обладнання, однак сумісність усе одно потрібно перевіряти під час кожного встановлення. Важливі профілі, прошивка, якість зображення та функції, які використовуються.
Також важливо точно говорити про стійкість системи до збоїв. Локальна обробка та підключені до хмари сервіси — це різні складові системи, і наявність периферійного шлюзу не означає, що під час перебоїв з інтернетом усі функції працюватимуть у звичайному режимі. Оновлення також впливають на надійність. Кожне оновлення підписується й перевіряється на шлюзі перед установленням; старі вразливі версії відхиляються, а в разі невдалого оновлення система автоматично повертається до попередньої версії. Невдале оновлення не повинно виводити з ладу систему безпеки об’єкта.
Самої лише локальної обробки недостатньо, щоб відповісти на всі питання про приватність. Де Bunker зберігає відеозаписи, пошукові запити та метадані, згенеровані ШІ, як довго вони зберігаються і хто має до них доступ? Як ви вдосконалюєте свої моделі, не припускаючи, що маєте доступ до приватних відеозаписів клієнтів?
Згоден. «ШІ на периферії» — це ще не повноцінна політика захисту приватності. Клієнти мають розуміти, куди потрапляють їхні дані, що зберігається і хто має до цього доступ. Це стосується не лише відео, а й пошукових запитів та згенерованих описів.
Відеозаписи й бази даних, на яких працює сервіс, шифруються під час зберігання. Паролі хешуються, а термін дії сеансів закінчується, тож навіть у разі витоку бази даних зловмисники не отримають облікових даних, які дають змогу ввійти в систему. Сам шлюз також зашифрований, тому в разі викрадення пристрою з нього не можна отримати ні відеозаписи, ні облікові дані. На момент запуску Bunker пропонував 60 днів зберігання історії хмарного відео в тарифі Standard і 365 днів — у Premium, а також Video Vault для кліпів, які клієнт вирішив зберегти.
Ми не використовуємо відеозаписи клієнтів для навчання наших моделей і не створюємо біометричних шаблонів людей, зафіксованих камерами. Використання клієнтом продукту не означає, що він дозволяє нам повторно використовувати його приватні відеозаписи.
Суперечки навколо Flock Safety привернули увагу до питань про те, хто може шукати дані відеоспостереження та чи належно відкликається доступ. Хоча ваша модель розгортання відрізняється, які уроки можна з цього винести для ваших систем і які засоби захисту мають бути обов’язковими, а не факультативними?
Негативна реакція на Flock насправді стосується не стільки ШІ, скільки того, хто може отримати доступ до даних і шукати в них інформацію. Значна частина критики зводилася до безпеки облікових записів; зокрема, законодавці запитували, чому багатофакторна автентифікація не була обов’язковою. Якщо для пошуку в системі відеоспостереження достатньо викраденого пароля, не має значення, де працює модель.
У Bunker доступ до даних системи мають лише користувачі, яким його надав власник цієї системи. Ми не передаємо ці дані третім сторонам, не використовуємо дані клієнтів для навчання наших моделей і не створюємо біометричних шаблонів.
Безпека має починатися на рівні пристрою й поширюватися аж до облікового запису. Кожен шлюз Bunker постачається з власною криптографічною ідентичністю, тож немає стандартних паролів, які потрібно змінювати або які зловмисник міг би знайти. Прошивка перевіряється під час кожного запуску, оновлення підписуються й перевіряються перед установленням, а вхід захищений багатофакторною автентифікацією. Крім того, доступ слід оперативно скасовувати, щойно в ньому зникає потреба, а конфіденційні дії мають залишати запис, придатний для аудиту. Довіра залежить від можливості пояснити, хто і що зробив.
Люди, яких фіксує камера, часто не є тими, хто її придбав. Як системи відеоспостереження зі штучним інтелектом мають захищати приватність сусідів, працівників, відвідувачів і перехожих? Чи є функції, які ви свідомо відмовилися б розробляти?
Мета встановлення системи має бути чітко визначена, і саме вона повинна визначати, що фіксується, що аналізується та кому доступні результати. Бажання захистити вхід не означає, що кожна дія на сусідній території має потрапляти до запису, доступного для пошуку.
Одна з установлених нами меж стосується ідентифікації. Bunker не створює біометричних шаблонів і не пов’язує виявлених людей із їхніми особами. Система описує, що сталося, а не те, ким є людина. Завдяки цьому вона зосереджується на подіях, а не на стеженні за людьми чи складанні їхніх профілів.
Більше можливостей не обов’язково означає більшу цінність. Якщо функція створює серйозну проблему з довірою, але не розв’язує чітко визначеної проблеми клієнта, це привід не розробляти її.
Якщо зазирнути на три-п’ять років уперед, яку важливу нову можливість, окрім нинішніх функцій виявлення та пошуку, на вашу думку, відкриє периферійний ШІ? І яку технічну проблему або проблему довіри потрібно розв’язати, перш ніж ця технологія заслуговуватиме на широке впровадження?
Відверто кажучи, майбутнє ШІ наразі незвідане, а зміни відбуваються швидше, ніж будь-коли за всю мою кар’єру. Ми стежимо за ними майже щодня й шукаємо способи справді принести користь людям, які користуються нашою платформою.
Для нас найважливіші контекст, розуміння та системи, які постійно навчаються й удосконалюються. Цінність полягає в тому, щоб допомогти людині зрозуміти ситуацію, що розвивається, і визначити, на що слід звернути увагу, замість того щоб складати цілісну картину з окремих сповіщень.
Технічне завдання — забезпечити надійну роботу в мінливих умовах і в межах можливостей локального обладнання. Завдання, пов’язане з довірою, — зробити зрозумілими обмеження системи та її практики роботи з даними. Люди мають знати, що система зафіксувала, які висновки зробила і в яких випадках рішення має ухвалювати людина.
Дякуємо за чудове інтерв’ю! Читачам, які хочуть ознайомитися з професійними камерами відеоспостереження, реєстраторами та системами відеоспостереження на основі ШІ, варто відвідати IC Realtime.












