Interviews

Andrew Nassar, CTO von IC Realtime – Interviewreihe

Antoine Tardif
Unite.AI zu deinen bevorzugten Quellen auf Google hinzufügen
Andrew Nassar, CTO of IC Realtime, against a light gray background.
Wichtige PunkteBunker führt die zentrale KI-Analyse auf einem lokalen NVIDIA Jetson Gateway aus, um…
Mehr anzeigen
  • Bunker führt die zentrale KI-Analyse auf einem lokalen NVIDIA Jetson Gateway aus, um die Abhängigkeit von der Cloud zu verringern und Warnmeldungen zu beschleunigen.
  • Nassar weigert sich, biometrische Identitätsfunktionen zu entwickeln, weil Überwachung Ereignisse beschreiben und nicht Menschen profilieren sollte.
  • Edge-KI ist keine Datenschutzrichtlinie, da Cloud-Dienste weiterhin Fernzugriff und Videoverlauf verwalten.

Andrew Nassar ist CTO von IC Realtime. In dieser Funktion hat er das Unternehmen durch den Wandel von Analogkameras zu digitaler Aufzeichnung, Fernüberwachung und KI-gestützter Videoanalyse begleitet. Mit mehr als 20 Jahren Erfahrung in der Überwachungsbranche konzentriert er sich darauf, Fortschritte bei Computer Vision und Edge-Computing in praktische Werkzeuge umzusetzen, mit denen sich Ereignisse nachvollziehen, Aufnahmen finden und Sicherheitsabläufe verbessern lassen.

IC Realtime entwickelt Videoüberwachungssysteme und Software für den Einsatz in Wohn- und Geschäftsumgebungen. Die Plattform Bunker ergänzt kompatible Kamerasysteme über ein spezielles Gateway mit NVIDIA Jetson um KI-Analysen und ermöglicht kontextbezogene Benachrichtigungen sowie die Videosuche in natürlicher Sprache. Die Plattform verbindet lokale Analysen mit cloudgestützten Diensten für den Fernzugriff und den Zugriff auf den Videoverlauf.

Sie haben IC Realtime durch den Wandel von Analogkameras zu digitaler Aufzeichnung, Fernüberwachung und nun auch KI geführt. Was hat Sie davon überzeugt, dass KI die Überwachung grundlegend verändern könnte, und welche Fortschritte haben anspruchsvolle Videoanalysen direkt am Netzwerkrand praktikabel gemacht?

Wir arbeiten schon seit Jahren mit maschinellem Lernen und Computer Vision in unseren Kameras. Der Ansatz wurde deutlich nützlicher, als das System Menschen dabei helfen konnte, ein Ereignis zu verstehen und die relevanten Aufnahmen zu finden, statt einfach nur mehr Videomaterial zu erzeugen, das gesichtet werden muss. Hausbesitzer möchten wissen, worauf sie achten sollten. Unternehmen möchten einen Vorfall finden, ohne stundenlang suchen zu müssen.

Bunker bringt diesen Ansatz mit einem speziellen NVIDIA-Jetson-Gateway direkt auf das Grundstück. Werden zentrale Analysen näher an den Kameras ausgeführt, muss nicht mehr jede Analyseaufgabe in die Cloud übertragen werden, und die Reaktionsfähigkeit kann sich verbessern. Der praktische Fortschritt liegt in der Verbindung von lokaler Rechenleistung und Software, die Videos in kontextbezogene Benachrichtigungen und durchsuchbare Ereignisse umwandelt.

Mein Maßstab ist nach wie vor der nachgewiesene Nutzen. Die Technologie muss ein echtes Problem in der Umgebung lösen, in der der Kunde sie einsetzen wird. Eine gelungene Vorführung ist der erste Schritt in diesem Prozess.

Können Sie am Beispiel von Bunker erläutern, was zwischen der Erfassung eines Ereignisses durch eine Kamera und dem Erhalt einer Benachrichtigung durch einen Nutzer geschieht? Welche KI-Funktionen laufen lokal, wofür wird weiterhin die Cloud benötigt und welche Daten verlassen das Grundstück?

Grob gesagt überträgt eine kompatible Kamera das Videomaterial an das Bunker Gateway, und die zentralen KI-Analysen werden auf diesem Gateway direkt auf dem Grundstück ausgeführt. Die Plattform verknüpft erkannte Aktivitäten mit Videoereignissen und kann eine kontextbezogene Benachrichtigung mit einem Standbild und einer verständlichen Beschreibung senden. Anschließend kann sich der Nutzer das Video in der App ansehen.

Bunker nutzt eine hybride Architektur. Die Cloud-Anbindung ermöglicht den Fernzugriff, Abonnementdienste und den Zugriff auf den Videoverlauf. Daher wäre es irreführend, die Plattform als cloudfrei zu bezeichnen oder zu behaupten, dass keine Videos das Grundstück verlassen. Entscheidend ist, wie diese Daten geschützt werden, wenn sie das Grundstück verlassen. Sämtliche Daten werden während der Übertragung verschlüsselt. Das gilt auch für Live-Videos, die vom Gateway bis zum Bildschirm des Betrachters durchgehend verschlüsselt bleiben. Die dazwischenliegende Infrastruktur leitet sie weiter, kann sie aber nicht ansehen. Jedes Gateway authentifiziert sich mit einem eigenen Zertifikat, niemals mit gemeinsam genutzten Zugangsdaten, und in der Cloud gespeicherte Aufnahmen sind verschlüsselt.

Kunden sollten eine klare Erklärung dieses Datenflusses erhalten, einschließlich der Information, welche Funktionen eine Internetverbindung voraussetzen und was bei einem Verbindungsausfall geschieht.

Überwachungskameras müssen bei Regen, Dunkelheit und Gegenlicht sowie in ständig wechselnden Umgebungen funktionieren. Was war der schwierigste Fehler, auf den Sie in der Praxis gestoßen sind, und wie messen Sie, ob Verbesserungen Fehlalarme verringern, ohne gleichzeitig dazu zu führen, dass mehr Vorfälle übersehen werden?

Ich bin seit mehr als 20 Jahren in dieser Branche tätig, und die Kameratechnologie hat sich dramatisch verbessert, besonders bei wenig Licht und unter schwierigen Bedingungen. Nachtaufnahmen und verrauschte Bilder sind inzwischen fast so klar wie Aufnahmen bei Tageslicht. Dennoch können Regen, Gegenlicht, Nebel und Schnee die Genauigkeit eines KI-Modells weiterhin beeinträchtigen. Bessere Sensoren beseitigen diese Einflussfaktoren nicht.

Deshalb haben wir uns für einen dynamischen Ansatz entschieden, der sich an wechselnde Umgebungen und Tageszeiten anpasst, statt sich auf eine einzige feste Konfiguration zu verlassen. In den vergangenen zwei Jahren Entwicklungsarbeit haben wir Tausende Stunden in Tests unter realen Einsatzbedingungen investiert – nicht nur mit Kameras auf einem Prüfstand – und das System auf Grundlage unserer Erkenntnisse aus diesen Installationen entwickelt.

Ich würde eine Verbesserung nicht allein an einer geringeren Zahl von Benachrichtigungen festmachen. Entscheidend ist, ob dadurch irrelevante Meldungen wegfallen und zugleich wichtige Vorfälle weiterhin erkannt werden. Weniger Störmeldungen sind nur dann von Nutzen, wenn das System auch bei einem wichtigen Ereignis zuverlässig bleibt.

Eine Person oder ein Fahrzeug zu erkennen, ist etwas anderes, als ein Verhalten als bedenklich einzustufen. Wie definieren Sie eine Anomalie, passen diese Definition an den jeweiligen Standort an und verhindern, dass das System harmloses Verhalten als Bedrohung einstuft?

Ein erkanntes Objekt sagt für sich genommen noch nichts darüber aus, ob ein Problem vorliegt. Bei einer Lieferung am Haupteingang und bei Aktivitäten in einem Sperrbereich kann es sich um denselben Objekttyp handeln, doch die erforderlichen Reaktionen unterscheiden sich stark. Ausgangspunkt sollten der Anwendungsfall des Kunden und die besonderen Gegebenheiten des jeweiligen Grundstücks sein.

Ich würde zwischen einem Ereignis, das überprüft werden sollte, und der Schlussfolgerung unterscheiden, dass jemand eine Bedrohung darstellt. Das System sollte Menschen dabei helfen zu verstehen, was beobachtet wurde und warum es angezeigt wurde, und ihnen Zugang zum zugrunde liegenden Videomaterial ermöglichen. Es sollte Nutzer nicht dazu verleiten, jede ungewohnte Aktivität als Hinweis auf ein Fehlverhalten zu betrachten.

Je leistungsfähiger diese Systeme werden, desto wichtiger ist es, den Kontext nutzbar zu machen, ohne zu übertreiben, was die KI weiß. Menschliches Urteilsvermögen bleibt wichtig, insbesondere wenn eine Warnmeldung zu einer folgenreichen Maßnahme führen könnte.

Die Suche in natürlicher Sprache verspricht, stundenlanges manuelles Durchsehen von Videomaterial überflüssig zu machen. Wie ordnet Ihr System der Beschreibung eines Nutzers das passende Video zu, und wie testen Sie, ob Ereignisse übersehen, falsche Treffer geliefert oder KI-generierte Beschreibungen erstellt werden, die nicht durch das Videomaterial belegt sind?

Die Idee ist, Videos mit den Worten durchsuchbar zu machen, die Menschen ganz natürlich verwenden würden. Sobald Aktivitäten erkannt werden, erstellt Bunker mit Zeitstempeln versehene Beschreibungen, die den Videoereignissen zugeordnet sind. Die Frage eines Nutzers dient dazu, diesen indexierten Datensatz zu durchsuchen und relevante Aufnahmen anzuzeigen. So erhalten Nutzer einen Ausgangspunkt, ohne die gesamte Aufzeichnung manuell durchsehen zu müssen.

Das Videomaterial sollte die Grundlage für die Überprüfung des Ergebnisses bleiben. Eine automatisch erzeugte Beschreibung ist zur Orientierung hilfreich, sollte aber nicht als verlässlicher gelten als das, was die Kamera tatsächlich aufgenommen hat.

Bei Tests würde ich drei Fragen getrennt betrachten: Hat das System ein relevantes Ereignis übersehen? Hat es etwas gefunden, das nicht zur Anfrage passt? Enthielt die Beschreibung etwas, das durch das Videomaterial nicht belegt ist? Das sind unterschiedliche Fehlerarten. Es reicht nicht aus, nur zu beurteilen, ob die Suche eine plausibel wirkende Antwort liefert.

Welche Kompromisse bringt NVIDIA-Jetson-Hardware hinsichtlich Modellgröße, Genauigkeit, Stromverbrauch und der Anzahl der Kamerabilder mit sich, die Sie analysieren können? Wie gewährleisten Sie eine zuverlässige Leistung bei älteren Kameras von Drittanbietern, wenn die Verarbeitungskapazität ausgeschöpft ist oder die Internetverbindung ausfällt?

Die zentrale Designfrage lautet, wie sich mit den vor Ort verfügbaren Ressourcen eine aussagekräftige Analyse bereitstellen lässt. Die Komplexität des Modells, die Menge der verarbeiteten Videodaten und die erforderliche Reaktionszeit müssen allesamt innerhalb der Betriebsgrenzen des Gateways liegen. Deshalb sagt die Anzahl der unterstützten Videostreams allein nicht alles über die Leistung aus.

Zum Marktstart unterstützt Bunker bis zu 10 Kamerastreams. Dank kompatibler ONVIF-Kameras können Kunden ihre vorhandene Hardware weiterverwenden; die Kompatibilität muss jedoch für jede Installation überprüft werden. Profile, Firmware, Bildqualität und die verwendeten Funktionen spielen dabei alle eine Rolle.

Auch beim Thema Ausfallsicherheit müssen wir präzise sein. Lokale Verarbeitung und mit der Cloud verbundene Dienste sind unterschiedliche Bestandteile des Systems. Ein Edge-Gateway bedeutet nicht, dass bei einem Internetausfall alle Funktionen wie gewohnt arbeiten. Auch Updates gehören zur Zuverlässigkeit. Jedes Update wird auf dem Gateway signiert und überprüft, bevor es installiert wird; ältere, verwundbare Versionen werden abgelehnt, und bei einem fehlgeschlagenen Update wird automatisch ein Rollback durchgeführt. Ein fehlerhaftes Update sollte nicht dazu führen, dass die Sicherheitsanlage eines Objekts ausfällt.

Lokale Inferenz allein beantwortet nicht alle Fragen zum Datenschutz. Wo speichert Bunker Videomaterial, Suchanfragen und KI-generierte Metadaten, wie lange werden sie aufbewahrt und wer kann darauf zugreifen? Wie verbessern Sie Ihre Modelle, ohne Zugriff auf private Aufnahmen Ihrer Kunden vorauszusetzen?

Da stimme ich zu. „Edge-KI“ ist keine vollständige Datenschutzrichtlinie. Kunden müssen wissen, wohin ihre Daten übermittelt werden, welche Daten gespeichert werden und wer darauf zugreifen kann. Das gilt neben Videos auch für Suchanfragen und generierte Beschreibungen.

Videomaterial und die Datenbanken hinter dem Dienst werden im Ruhezustand verschlüsselt. Passwörter werden gehasht und Sitzungen laufen ab. Selbst bei einem Datenbankdiebstahl erhielte also niemand gültige Anmeldedaten. Auch das Gateway selbst ist verschlüsselt, sodass ein gestohlenes Gerät weder Aufnahmen noch Zugangsdaten preisgibt. Das Startangebot von Bunker umfasste 60 Tage Cloud-Videospeicherung bei Standard und 365 Tage bei Premium sowie Video Vault für Clips, die Kunden speichern möchten.

Wir verwenden keine Kundenaufnahmen zum Trainieren unserer Modelle und erstellen keine biometrischen Vorlagen von Personen, die von den Kameras erfasst werden. Wenn ein Kunde unser Produkt nutzt, ist das keine Erlaubnis für uns, seine privaten Videos anderweitig zu verwenden.

Die Kontroverse um Flock Safety hat Fragen dazu aufgeworfen, wer Überwachungsdaten durchsuchen kann und ob Zugriffsrechte ordnungsgemäß entzogen werden. Auch wenn sich Ihr Bereitstellungsmodell unterscheidet: Welche Lehren lassen sich daraus für Ihre Systeme ziehen, und welche Schutzmaßnahmen sollten verpflichtend statt optional sein?

Die Kritik an Flock dreht sich nicht wirklich um die KI. Es geht darum, wer Zugang erhält und die Daten durchsuchen kann. Ein großer Teil der Kritik bezog sich auf die Kontosicherheit. So fragten Abgeordnete, warum die Mehr-Faktor-Authentifizierung nicht verpflichtend war. Wenn ein gestohlenes Passwort ausreicht, um ein Überwachungssystem zu durchsuchen, spielt es keine Rolle, wo das Modell ausgeführt wird.

Bei Bunker haben nur diejenigen Zugriff auf die Daten eines Systems, denen der Eigentümer dieses Systems Zugriff gewährt hat. Wir geben diese Daten nicht an Dritte weiter, verwenden keine Kundendaten zum Trainieren unserer Modelle und erstellen keine biometrischen Vorlagen.

Sicherheit muss beim Gerät beginnen und bis zum Benutzerkonto reichen. Jedes Bunker-Gateway wird mit einer eigenen kryptografischen Identität ausgeliefert. Es gibt also keine Standardpasswörter, die geändert werden müssten oder die ein Angreifer herausfinden könnte. Die Firmware wird bei jedem Start überprüft, Updates werden signiert und vor der Installation kontrolliert, und Anmeldungen sind durch Multi-Faktor-Authentifizierung geschützt. Darüber hinaus sollte der Zugriff umgehend entzogen werden, sobald er nicht mehr benötigt wird, und sensible Aktivitäten sollten nachvollziehbar protokolliert werden. Vertrauen setzt voraus, dass sich erklären lässt, wer was getan hat.

Die von einer Kamera erfassten Personen sind oft nicht diejenigen, die sie gekauft haben. Wie sollte die KI-gestützte Überwachung die Privatsphäre von Nachbarn, Beschäftigten, Besuchern und Passanten berücksichtigen, und gibt es Funktionen, deren Entwicklung Sie bewusst ablehnen würden?

Für die Installation muss ein klarer Zweck festgelegt werden, und dieser Zweck sollte bestimmen, was erfasst und analysiert wird und wer die Ergebnisse sehen kann. Der Wunsch, einen Eingang zu sichern, bedeutet nicht, dass jede Aktivität auf einem Nachbargrundstück Teil eines durchsuchbaren Protokolls werden sollte.

Eine Grenze, die wir gezogen haben, betrifft die Identität. Bunker erstellt keine biometrischen Vorlagen und ordnet niemandem, den das System erfasst, eine Identität zu. Es beschreibt, was geschehen ist, nicht, wer jemand ist. So konzentriert sich das System auf Ereignisse statt darauf, Menschen zu verfolgen oder Profile von ihnen zu erstellen.

Mehr Funktionen bedeuten nicht automatisch mehr Nutzen. Wenn eine Funktion ein ernstes Vertrauensproblem schafft, ohne ein klares Kundenproblem zu lösen, ist das ein Grund, sie nicht zu entwickeln.

Welche bedeutende neue Fähigkeit wird KI am Netzwerkrand Ihrer Einschätzung nach in den kommenden drei bis fünf Jahren über die heutigen Möglichkeiten zur Erkennung und Suche hinaus erschließen – und welches technische oder vertrauensbezogene Problem muss gelöst werden, bevor sie breite Anwendung verdient?

Ehrlich gesagt ist die Zukunft der KI derzeit noch unerforscht, und sie entwickelt sich schneller als alles, was ich im Laufe meiner Karriere erlebt habe. Wir verfolgen diese Veränderungen fast täglich und prüfen, wo sie den Menschen, die unsere Plattform nutzen, tatsächlich zugutekommen können.

Am wichtigsten sind für uns Kontext, Verständnis und Systeme, die kontinuierlich lernen und sich verbessern. Der Nutzen liegt darin, jemandem zu helfen, eine sich entwickelnde Situation zu verstehen und zu entscheiden, worauf es ankommt, statt eine Reihe einzelner Benachrichtigungen selbst zusammensetzen zu müssen.

Die technische Herausforderung besteht darin, dies in wechselnden Umgebungen und innerhalb der Grenzen der lokalen Hardware zuverlässig zu leisten. Die Herausforderung im Hinblick auf Vertrauen besteht darin, die Grenzen des Systems und seinen Umgang mit Daten leicht verständlich zu machen. Die Menschen müssen wissen, was das System beobachtet und abgeleitet hat und wann ein Mensch die Entscheidung treffen muss.

Vielen Dank für das großartige Interview. Leserinnen und Leser, die sich näher mit professionellen Sicherheitskameras, Aufzeichnungsgeräten und KI-gestützten Videoüberwachungssystemen befassen möchten, sollten IC Realtime besuchen.

Antoine ist eine visionäre Führungspersönlichkeit und Gründungspartner von Unite.AI. Ihn treibt eine unerschütterliche Leidenschaft an, die Zukunft von KI und Robotik zu gestalten und voranzubringen. Als Serienunternehmer ist er überzeugt, dass KI die Gesellschaft ebenso grundlegend verändern wird wie die Elektrizität. Er spricht häufig begeistert über das Potenzial bahnbrechender Technologien und künstlicher allgemeiner Intelligenz (AGI).

Als Futurist widmet er sich der Frage, wie diese Innovationen unsere Welt prägen werden. Darüber hinaus ist er Gründer von Securities.io, einer Plattform mit Schwerpunkt auf Investitionen in Spitzentechnologien, die die Zukunft neu definieren und ganze Branchen umgestalten.