インタビュー

IC RealtimeのCTO、Andrew Nassar氏に聞く:インタビューシリーズ

Antoine Tardif
Unite.AI を Google の優先ソースに追加
Andrew Nassar, CTO of IC Realtime, against a light gray background.
要点バンカーはクラウド依存を減らし警告を迅速化するため、中核的なAI分析をローカルのNVIDIA Jetsonゲートウェイ上で実行する。
もっと見る
  • バンカーはクラウド依存を減らし警告を迅速化するため、中核的なAI分析をローカルのNVIDIA Jetsonゲートウェイ上で実行する。
  • ナサールは監視は人をプロファイリングするのではなく出来事を記述すべきだとして、生体識別機能の構築を拒否する。
  • クラウドサービスが依然としてリモートアクセスと映像履歴を扱うため、エッジAIはプライバシーポリシーではない。

Andrew Nassar氏はIC RealtimeのCTOを務め、アナログカメラからデジタル録画、遠隔監視、AIを活用した映像分析へと移り変わるなかで、同社を導く役割を担ってきました。監視業界で20年以上の経験を持ち、コンピュータービジョンやエッジコンピューティングの進歩を、状況の把握、映像の検索、セキュリティ運用の改善に役立つ実用的なツールへとつなげることに注力しています。

IC Realtimeは、住宅および商業施設向けのビデオ監視システムとソフトウェアを設計しています。同社のBunkerプラットフォームは、NVIDIA Jetsonを搭載した専用ゲートウェイを通じて、対応カメラシステムにAI分析機能を追加し、状況に応じたアラートや自然言語による映像検索を可能にします。このプラットフォームは、ローカルでの分析と、遠隔アクセスや映像履歴を利用できるクラウド接続サービスを組み合わせています。

アナログカメラからデジタル録画、遠隔監視、そして現在のAIに至るまで、IC Realtimeの変革を主導してこられました。AIが監視を根本的に変えると確信したのはなぜですか。また、高度な映像分析をエッジで実用化するうえで、どのような技術の進歩が役立ちましたか?

当社は長年にわたり、カメラに機械学習とコンピュータービジョンを活用してきました。システムが単に確認すべき映像を増やすのではなく、出来事を理解し、関連する映像を見つける手助けをできるようになって、可能性は大きく広がりました。住宅所有者は、何に注意すべきかを知りたいと考えています。企業は、何時間もかけて検索することなく、インシデントを見つけたいと考えています。

Bunkerは、このアプローチを施設に設置する専用のNVIDIA Jetsonゲートウェイで実現します。中核となる分析処理をカメラの近くに移すことで、あらゆる分析タスクをクラウドに送る必要性を減らし、応答性を高められます。実用面での進歩は、ローカルコンピューティングと、映像を状況に応じたアラートや検索可能なイベントに変換するソフトウェアを組み合わせたことです。

私が今も重視しているのは、実証された価値です。テクノロジーは、顧客が実際に使う環境で現実の問題を解決しなければなりません。優れたデモは、そのプロセスの出発点です。

Bunkerを例に、カメラが出来事を捉えてからユーザーにアラートが届くまでの流れを説明していただけますか?AI機能のうち、ローカルで動作するもの、依然としてクラウドを必要とするもの、そして施設の外に送信されるデータについて教えてください。

大まかに言うと、対応カメラからBunker Gatewayへ映像が送られ、AIの中核となる分析は施設内のゲートウェイで行われます。このプラットフォームは、検知した動きを映像イベントにひも付け、スナップショットと平易な説明を添えた状況対応型のアラートを送信できます。その後、ユーザーはアプリで映像を確認できます。

Bunkerはハイブリッド型のアーキテクチャを採用しています。クラウド接続は、遠隔アクセス、サブスクリプションサービス、映像履歴を支えるため、このプラットフォームをクラウド不要と呼んだり、映像が施設の外に出ないと言ったりするのは誤解を招きます。重要なのは、データが外部に送信される際にどのように保護されるかです。ライブ映像を含むすべてのデータは転送中に暗号化され、ライブ映像はゲートウェイから視聴者の画面に届くまで暗号化されたままです。経路上のインフラはデータを中継しますが、その内容を見ることはできません。各ゲートウェイは固有の証明書で認証され、認証情報が共有されることはありません。また、クラウドに保存される映像も暗号化されています。

顧客には、インターネット接続が必要な機能や、接続が切れた場合の動作を含め、データの流れについて明確な説明が必要です。

防犯カメラは、雨や暗闇、まぶしい光、絶えず変化する環境のなかで稼働します。実際の現場で経験した最も難しい障害は何ですか。また、見逃しを増やさずに誤警報を減らせているかどうかを、どのように測定していますか?

私はこの業界で20年以上働いてきましたが、カメラ技術はとりわけ低照度や厳しい環境で大きく進歩しました。夜間やノイズの多い映像も、今では昼間とほぼ同じくらい鮮明です。それでも、雨、まぶしさ、霧、雪によってAIモデルの精度が低下することはあります。センサーの性能が向上しても、こうした要因をなくすことはできません。

そこで私たちは、固定された設定に頼るのではなく、環境や時間帯の変化に応じて調整する動的なアプローチを選びました。過去2年間の開発では、実際の設置環境で何千時間ものテストを重ねました。ベンチ上のカメラだけでテストしたのではありません。そうした実環境での導入から得た知見を基に、システムを構築してきました。

通知数が減ったというだけで、改善を評価することはできません。重要なのは、関係のないアラートを減らしながら、見逃してはならないインシデントを検知し続けられるかどうかです。ノイズを減らすことに価値があるのは、重要な出来事が起きた際にもシステムが役立つ場合に限られます。

人や車両を検知することと、その行動を懸念すべきものと判断することは別です。異常をどのように定義し、その定義を場所ごとにどう調整するのでしょうか。また、無害な行動を脅威とみなさないよう、システムをどのように設計していますか?

物体を検知しただけでは、問題があるかどうかは分かりません。正面玄関への配達と立ち入り制限区域での活動は、同じ種類の物体が関わっていても、必要な対応は大きく異なる場合があります。まず顧客の利用目的と、その施設固有の状況を考慮すべきです。

確認する価値のある出来事と、誰かが脅威であるという結論は区別すべきです。システムは、何が観察され、なぜそれが提示されたのかを利用者が理解できるよう、元の映像を確認できる形で支援する必要があります。見慣れない行動をすべて不正行為の証拠とみなすよう、利用者を促してはなりません。

こうしたシステムの能力が高まるにつれ、AIが把握していることを誇張せずに、その背景情報を役立てることが課題になります。アラートを受けて重大な措置が取られる可能性がある場合は、とりわけ人間の判断が重要です。

自然言語検索を使えば、映像を手作業で何時間も確認する必要がなくなると期待されています。利用者の説明を該当する映像にどう結び付けているのでしょうか。また、イベントの見落とし、誤った一致、映像が裏付けていないAI生成の説明を、どのように検証していますか?

目指しているのは、誰もが普段使う言葉で映像を検索できるようにすることです。活動を検知すると、Bunkerは映像内のイベントに関連付けた、タイムスタンプ付きの説明を作成します。利用者の質問を使ってその索引付き記録を検索し、関連する映像を提示します。これにより、録画全体を手作業でくまなく確認しなくても、調査を始める手掛かりが得られます。

結果を確認する際は、映像を判断の根拠とすべきです。生成された説明は映像内を探すのに役立ちますが、カメラが実際に捉えた内容よりも信頼できるものとして扱ってはなりません。

検証では、次の3つの問いを分けて考えます。システムは関連するイベントを見落としたか。検索結果に、依頼内容と一致しないものが含まれていたか。説明に、映像で裏付けられない内容が含まれていたか。これらはそれぞれ異なる失敗の種類です。検索結果が一見もっともらしいかどうかだけを評価しても不十分です。

NVIDIA Jetsonのハードウェアによって、モデルの規模、精度、消費電力、分析できるカメラ映像の数には、どのような制約が生じますか?古い他社製カメラを使う場合、処理能力の上限に達した場合、またはインターネット接続が失われた場合に、信頼性の高い性能をどう維持していますか?

設計上の課題は、施設で利用できるリソースの範囲内で、有用な分析を提供することです。モデルの複雑さ、処理する映像の量、求められる応答時間のすべてを、ゲートウェイの動作上の制限に収める必要があります。そのため、対応ストリーム数だけでは性能の全体像は分かりません。

Bunkerの発売時の計画では、最大10台のカメラストリームに対応します。ONVIF対応カメラを利用すれば、顧客は既存の機器を使い続けられますが、設置ごとに互換性を確認する必要があります。プロファイル、ファームウェア、画質、利用する機能はいずれも重要です。

耐障害性についても、正確に説明する必要があります。ローカル処理とクラウド接続サービスはシステムの異なる構成要素であり、エッジゲートウェイがあっても、インターネット障害時にすべての機能が通常どおり動作するわけではありません。アップデートも信頼性を左右します。すべてのアップデートはインストール前にゲートウェイ上で署名と検証が行われ、脆弱性のある古いバージョンは拒否されます。アップデートに失敗した場合は、自動的にロールバックされます。不適切なアップデートによって、施設のセキュリティシステムが停止するようなことがあってはなりません。

ローカル推論だけでは、プライバシーに関するあらゆる疑問には答えられません。Bunkerは映像、検索クエリ、AI生成メタデータをどこに保存し、どのくらいの期間保持するのでしょうか。また、誰がそれらにアクセスできますか?顧客のプライベートな映像にアクセスできることを前提とせずに、どのようにモデルを改善していますか?

そのとおりです。「エッジAI」は、プライバシーポリシーのすべてを説明するものではありません。顧客は、データの保存先、保持されるデータ、そのアクセス権を持つ人を把握する必要があります。対象となるのは映像だけでなく、検索クエリや生成された説明も同様です。

映像とサービスを支えるデータベースは、保存時に暗号化されます。パスワードはハッシュ化され、セッションには有効期限があるため、データベースが侵害されても、攻撃者が有効なログイン情報を入手することはできません。ゲートウェイ自体も暗号化されているため、機器を盗まれても映像や認証情報が漏れることはありません。Bunkerの発売時の提供内容には、Standardで60日間、Premiumで365日間のクラウド映像履歴に加え、顧客が保存を選んだクリップを保管するVideo Vaultが含まれていました。

顧客の映像をモデルの学習には使用せず、カメラに映った人物の生体認証テンプレートも作成しません。顧客が製品を利用しているからといって、そのプライベートな映像を再利用する許可を得たことにはなりません。

Flock Safetyをめぐる論争により、誰が監視データを検索できるのか、またアクセス権が適切に取り消されているのかという問題が浮き彫りになりました。導入形態は異なりますが、同社の事例から貴社のシステムに生かせる教訓は何でしょうか。また、任意ではなく必須とすべき安全策は何ですか?

Flockへの反発は、実際にはAIの問題ではありません。誰がシステムにアクセスしてデータを検索できるのかという問題です。批判の多くはアカウントのセキュリティに向けられ、複数の議員が多要素認証を必須にしなかった理由を問いただしました。盗まれたパスワードだけで監視システムを検索できるなら、モデルがどこで動作するかは問題ではありません。

Bunkerでは、システムのデータにアクセスできるのは、システム所有者から権限を付与された利用者だけです。第三者とデータを共有せず、顧客データをモデルの学習に使わず、生体認証テンプレートも作成しません。

セキュリティはデバイスから始まり、アカウントに至るまで一貫して確保されなければなりません。Bunkerのゲートウェイにはそれぞれ固有の暗号学的 ID が組み込まれているため、変更が必要な初期設定のパスワードも、攻撃者が探し出せるパスワードもありません。ファームウェアは起動のたびに検証され、アップデートは署名を確認したうえでインストール前に検査されます。また、ログインは多要素認証で保護されています。それに加え、アクセスが不要になった場合は速やかに権限を削除し、機密性の高い操作は監査可能な記録として残すべきです。信頼を得るには、誰が何をしたのかを説明できなければなりません。

カメラに撮影される人が、そのカメラを購入した人とは限らないこともよくあります。AI監視では、近隣住民や従業員、訪問者、通行人のプライバシーにどのように配慮すべきでしょうか。また、意図的に開発しないと決めている機能はありますか?

設置の目的を明確に定め、その目的に沿って、何を撮影し、何を分析し、誰が結果を閲覧できるのかを決める必要があります。出入口の安全を確保したいからといって、隣接する敷地でのあらゆる活動を検索可能な記録に残してよいわけではありません。

私たちが一線を画していることの一つが、個人の特定です。Bunkerは生体認証テンプレートを作成せず、検知した人に個人を特定する情報を結び付けることもありません。記録するのは何が起きたかであり、その人が誰かではありません。これにより、システムの焦点を人の追跡やプロファイリングではなく、事象に置くことができます。

機能が増えれば、自動的に価値も高まるわけではありません。明確な顧客の課題を解決しないまま、信頼を大きく損なう機能であれば、開発しない理由になります。

今後3〜5年を見据えたとき、エッジAIは現在の検知や検索を超えて、どのような意義ある機能を実現すると考えますか。また、その機能が広く普及するに値するものとなる前に、技術面や信頼面で解決すべき課題は何でしょうか?

率直に言うと、AIの未来は今のところ未知の領域であり、私のキャリアで見てきたどんなものよりも速いペースで進化しています。私たちはほぼ毎日その変化を追い、自社のプラットフォームを使う人々に本当に役立つのはどのような点かを探っています。

私たちが特に重視しているのは、状況の把握や理解、そして学習と改善を続けるシステムです。価値があるのは、別々の通知をつなぎ合わせるのではなく、進行中の状況を理解し、何に注意を向けるべきかを判断する手助けをすることです。

技術面での課題は、環境が変化しても、また現場のハードウェアの性能に制約があっても、これを確実に実現することです。信頼面での課題は、システムの限界やデータの取り扱いを分かりやすくすることです。何を観察し、何を推論したのか、そして人間がいつ判断を下す必要があるのかを、利用者が把握できなければなりません。

素晴らしいインタビューをありがとうございました。プロ仕様の防犯カメラやレコーダー、AI搭載の映像監視システムに関心のある読者は、IC Realtimeをご覧ください。

アントワーヌは、先見の明を持つリーダーであり、Unite.AIの創業パートナーです。AIとロボティクスの未来を形作り、その発展を促すことに揺るぎない情熱を注いでいます。複数の企業を立ち上げてきた起業家として、AIは電気と同じほど社会を大きく変えると考えており、革新的な技術や汎用人工知能(AGI)の可能性について熱く語ることがよくあります。

未来を展望するフューチャリストとして、こうした革新が世界をどのように形作るかを探究しています。また、未来を再定義し、業界全体を変革する最先端技術への投資に焦点を当てたプラットフォーム、Securities.ioの創設者でもあります。