Ben Ha, Solutions Architect Director, Government, Legal & Compliance division, Veritone – Interview Series

Ben Ha ist der Solutions Architect Director für Veritones Government, Legal und Compliance Division. Ben hat über 15 Jahre Erfahrung in der Softwareindustrie, hauptsächlich in einer technischen Pre-Sales-Rolle. Ben arbeitet seit 4 Jahren mit Kunden im Bereich Regierung und Recht.

Veritone entwickelt menschzentrierte KI-Lösungen. Veritones Software und Dienstleistungen ermöglichen es Einzelpersonen in vielen der größten und bekanntesten Marken der Welt, effizienter zu arbeiten, Entscheidungen zu beschleunigen und die Rentabilität zu steigern.

Wie integriert sich Veritones iDEMS in bestehende Systeme der Strafverfolgung und welche spezifischen Effizienzen bringt es?

Die bestehenden Systeme von Strafverfolgungsbehörden (LEAs) verfügen typischerweise über Daten aus vielen verschiedenen Quellen, wie Body-Worn-Camera-Systemen, Video-Management-Systemen und anderen Kameras und Geräten. iDEMS ermöglicht es LEAs, Verbindungen zu diesen bestehenden Systemen über eine API oder andere Integrationswege herzustellen. Es virtualisiert dann über diese Systeme, sodass die Strafverfolgung die Master-Daten an ihrem ursprünglichen Ort in den Quellsystemen behalten kann. Innerhalb der Veritone Investigate-Anwendung hat der Benutzer Zugriff auf eine niedrigauflösende Proxy-Datei, die er für die Anzeige, Freigabe, Suche, Analyse usw. nutzen kann. Da die Daten an einem zentralen Ort gespeichert sind, ist es für den Benutzer einfacher, den Ermittlungsprozess ohne Wechsel zwischen isolierten Anwendungen durchzuführen.

Veritone Investigate ermöglicht es dem Benutzer auch, AI-Kognition zu nutzen, um den Inhalt selbst zu analysieren. Mit anderen Worten: LEAs können AI nutzen, um unstrukturierte Daten zu strukturieren und Metadaten-Informationen bereitzustellen, die das Auffinden von Dingen erheblich erleichtern. Die meisten Systeme fungieren lediglich als Datenspeicher und enthalten keine Informationen über die gesprochenen Wörter oder die Gesichter und Objekte im Inhalt. Mit Investigate und der iDEMS-Lösung ist AI nativ integriert und läuft automatisch nach der Aufnahme, wodurch die Notwendigkeit, Inhalte manuell anzusehen oder anzuhören, um Kontext zu erhalten, entfällt und der Ermittlungsprozess beschleunigt wird.

Was sind die technischen Anforderungen für Strafverfolgungsbehörden, um Veritones iDEMS zu implementieren?

LEAs benötigen keine erheblichen technischen Anforderungen, um Veritones iDEMS zu implementieren – tatsächlich funktioniert die Lösung mit fast jedem LEA, unabhängig von den vorhandenen Systemen. Da Veritone Ingestions-Adapter hat, die mit verschiedenen APIs verbunden werden können, benötigt das LEA lediglich jemanden mit Zugriff auf diese bestehenden Systeme. Außerdem ist iDEMS cloudbasiert, und das LEA benötigt eine schnelle Internetverbindung und einen modernen Webbrowser.

Können Sie weitere Details zu dem liefern, wie Veritone Track sich von herkömmlichen Gesichtserkennungstechnologien in Bezug auf Genauigkeit und Effizienz unterscheidet?

Herkömmliche Gesichtserkennung verlässt sich auf sichtbare Gesichtsmerkmale (Augen, Nase, Mund usw.), um eine Person von Interesse zu identifizieren. Das Problem ist, dass die Technologie die Person nicht identifizieren oder verfolgen kann, wenn das Video nicht das Gesicht der Person erfasst. Wenn beispielsweise das Video nur den Rücken der Person erfasst, das Gesicht durch eine Maske oder einen Hoodie verdeckt ist oder das Video nicht den optimalen Winkel des Gesichts hat, funktioniert die Gesichtserkennung nicht.

Alternativ behandelt Veritone Track potenzielle Personen von Interesse als Objekte in einem Prozess, der als menschenähnliche Objekte (HLOs) bezeichnet wird. Durch HLOs kann Veritone Track einen eindeutigen “Personenabdruck” dieser Person auf der Grundlage visuell unterscheidbarer Merkmale erstellen. Diese visuell unterscheidbaren Merkmale könnten ein Hut, Brillen, Rucksack oder das Tragen von etwas in der Hand sein, sogar der Kontrast zwischen ihrer Kleidung und Schuhen. Es berücksichtigt auch den Körperbau der Person, z. B. ArmLänge, Statur, Gewicht usw.

Nachdem dieser Personenabdruck erstellt wurde, integriert Veritone Track altmodische Polizeiarbeit durch einen menschlichen Ansatz, der potenzielle Übereinstimmungen überprüft und bestätigt. Letztendlich ist diese Methode genauer und effizienter als herkömmliche Gesichtserkennungstechnologien.

Wie verbessert die Verwendung menschenähnlicher Objekte (HLOs) in Veritone Track den Identifizierungsprozess im Vergleich zur Verwendung von Gesichtserkennung?

Die Nutzung von HLOs verbessert den Identifizierungsprozess, da sie nicht erfordert, dass das LEA Zugriff auf die gleichen Variablen wie herkömmliche Gesichtserkennung hat, d. h. ein vollständig sichtbares menschliches Gesicht. Veritone Track ist flexibel, da es jede verfügbare Information nutzen kann, unabhängig von der Qualität des Videos, der Auflösung oder dem Winkel (hoch oben an der Decke oder auf Augenhöhe) der Kamera. Trotz der Vorteile von Veritone Track sind es und Gesichtserkennung nicht gegenseitig ausschließend – LEAs können beide Technologien gleichzeitig nutzen. Beispielsweise könnten LEAs Veritone Track verwenden, um einen Personenabdruck aus großen Mengen an niedrigauflösenden Videos zu erstellen, während sie gleichzeitig Gesichtserkennung auf Video-Proben von Frontalansichten einer potenziellen Person von Interesse durchführen.

Wie hilft Veritones KI-gestütztes System dabei, Ermittlungen zu beschleunigen und gleichzeitig hohe Standards bei der Beweisbehandlung aufrechtzuerhalten?

Veritone Investigate, Veritone Track oder alle Veritone-Anwendungen im öffentlichen Sektor nutzen KI, um manuelle Prozesse für LEAs dramatisch zu beschleunigen, wodurch Wochen oder Tage Arbeit in wenige Stunden umgewandelt werden, was bei anhaltenden Personalmangel immer kritischer wird. Trotz dieser beschleunigten Geschwindigkeit hält Veritone hohe Standards bei der Beweisbehandlung aufrecht, indem es dem menschlichen Ermittler das letzte Wort lässt, um die endgültigen Ergebnisse zu überprüfen. Veritones Technologie ermöglicht es auch Menschen, hohe Standards bei der Beweisbehandlung und der Beweiskette einzuhalten. Ebenso verfügen sie über integrierte Audit- Trails, sodass das LEA sehen kann, wie der Ermittler zu dem endgültigen Ergebnis gelangt ist. Kurz gesagt: KI ersetzt keine Menschen – sie verbessert lediglich ihre Fähigkeiten.

KI in der Strafverfolgung wirft Bedenken hinsichtlich der unrechtmäßigen Verfolgung von Minderheiten auf, insbesondere in Städten wie Detroit, Michigan, die mehrere unrechtmäßige Verhaftungen in weniger als 1 Jahr erlebt haben. Wie geht Veritone auf diese ethischen Herausforderungen ein?

Zunächst verwendet Veritone immer Schutzmechanismen und Sicherheitsvorkehrungen, um die Möglichkeit unrechtmäßiger Verfolgung zu minimieren. Beispielsweise verwendet Veritone Track keine biometrischen Marker wie Gesichtsmerkmale, um Personenabdrücke zu erstellen, sondern verlässt sich auf Kleidung, Körperbau usw. Zweitens scannen diese Tools nicht das Internet, soziale Medien oder große Datenbanken wie eine Passbehörde, um Daten zu erhalten. Wenn ein LEA unsere Lösungen in einem laufenden Fall oder einer Ermittlung verwendet, kann es nur hochgeladene Foto- oder Video-Beweise mit einer Datenbank bekannter Straftäter mit Verurteilungen vergleichen. Im Fall von dem, was in Detroit, Michigan, passierte, verwendete die Strafverfolgung eine Lösung, die Daten aus dem gesamten Internet ohne menschliche Überprüfung der Ergebnisse sammelte, was letztendlich zu unrechtmäßiger Verfolgung unschuldiger Bürger führte.

Können Sie erläutern, wie Veritones KI die Genauigkeit der generierten Hinweise sicherstellt?

Veritones KI generiert potenzielle Hinweise, die menschliche Ermittler verfolgen können. Während die KI dem Ermittler nützliche Ergebnisse und Erkenntnisse liefert, trifft die Person immer noch die endgültige Entscheidung. Wiederum sah der Fall in Detroit, Michigan, die Strafverfolgung, die allein auf Gesichtserkennung vertraute, um die Aufgabe zu erledigen. Dieses blindes Vertrauen war letztendlich problematisch, da diese Modelle auf Daten basierten, die demografische oder rassistische Vorurteile aufwiesen.

Darüber hinaus wählt Veritone die Daten, die es zum Trainieren seiner KI-Modelle und -Motoren verwendet, sorgfältig aus. Bevor es die Daten trainiert, entfernt Veritone sensible Video- und Audio-Elemente aus Quellen wie Body-Worn-Cameras, In-Car-Video, CCTV-Aufnahmen usw. oder verwendet öffentlich zugängliche nicht sensible Daten. Ebenso validiert Veritone die Ergebnisse mit Kundenfeedback für kontinuierliche Verbesserungen.

Wie geht Veritone mit dem Potenzial um, dass KI bestehende Vorurteile innerhalb der Strafverfolgungsdaten aufrechterhält?

Veritone verwendet einen mehrstufigen Ansatz, der mit vielen verschiedenen Drittanbietern zusammenarbeitet, um eine größere Perspektive zu erhalten, anstatt sich rein auf ein KI-Modell zu verlassen. Insbesondere ermöglicht dieser Ansatz es Veritone, innerhalb einer bestimmten Kategorie der KI-Kognition, wie Transkription, Übersetzung, Gesichtserkennung, Objekterkennung oder Texterkennung, zu standardisieren. Durch die Nutzung der “Weisheit der Menge” kann Veritone den gleichen Inhalt gegen mehrere Modelle innerhalb der gleichen Kategorie der KI-Kognition laufen lassen, um Vorurteile zu vermeiden.

Welche Schritte werden unternommen, um sicherzustellen, dass Veritones KI-Anwendungen nicht gegen Privatsphäre-Rechte verstoßen?

Es gibt zwei bewährte Verfahren, denen Veritones KI-Anwendungen folgen, um sicherzustellen, dass sie nicht gegen Privatsphäre-Rechte verstoßen. Einerseits bleiben die Daten des Kunden immer die Daten des Kunden. Sie haben das Recht, ihre Daten zu verwalten, zu löschen oder damit zu verfahren, wie sie es wünschen. Obwohl die Daten des Kunden in Veritones sicheren cloudbasierten Umgebung ausgeführt werden, behält der Kunde die volle Eigentumsrechte. Andererseits verwendet Veritone die Daten des Kunden nie ohne deren Zustimmung. Insbesondere verwendet Veritone die Daten des Kunden nicht, um KI-Modelle neu zu trainieren. Sicherheit und Privatsphäre sind von größter Bedeutung, und Kunden werden nur mit vorgefertigten Modellen arbeiten, die Daten verwenden, die alle sensiblen, biometrischen und personenbezogenen Informationen entfernt haben.

Wie balanciert Veritone den Bedarf an schnellem technologischem Fortschritt mit ethischen Überlegungen und gesellschaftlicher Auswirkung?

Wenn man KI mit hoher Geschwindigkeit entwickelt, besteht die Tendenz, so viel Daten wie möglich zu verwenden und kontinuierlich zu sammeln, um das Wachstum und die Verbesserung zu beschleunigen. Obwohl dieser Ansatz tatsächlich zu einer beschleunigten Reife des KI-Modells führt, wirft er verschiedene ethische, Datenschutz- und gesellschaftliche Bedenken auf.

Daher sucht Veritone immer nach der besten KI. Während des generativen KI-Booms hatte Veritone frühzeitig Zugang zu Technologien von OpenAI und anderen Partnern. Anstatt jedoch voranzuschreiten und neue Lösungen sofort bereitzustellen, fragten wir: “Wie werden unsere Kunden tatsächlich KI in einem ordnungsgemäßen Anwendungsfall nutzen?” Mit anderen Worten: Nachdem wir die Mission und die Schmerzpunkte von LEAs untersucht hatten, bestimmten wir, wie man generative KI auf verantwortungsvolle Weise einsetzen kann, die den Menschen in den Mittelpunkt stellt und es den Nutzern ermöglicht, ihre Ziele zu erreichen und Herausforderungen zu überwinden.

Beispielsweise verfügt Veritone Investigate über ein privates und netzwerkisoliertes großes Sprachmodell, das gesprochene Konversationen oder Inhalte zusammenfassen kann. Wenn eine Body-Worn-Camera ein Ereignis aufnimmt oder ein Ermittler jemanden interviewt, kann Veritone Investigate diesen Inhalt transkribieren und automatisch zusammenfassen, was sehr hilfreich für Detektive oder Ermittler ist, die eine Zusammenfassung eines gesamten Interviews in einem kurzen Absatz für die Staatsanwaltschaft oder die Strafverfolgung benötigen. Dennoch hat die Person immer noch die Chance, die von der KI generierten Ausgaben zu überprüfen und erforderliche Änderungen vorzunehmen, bevor sie eingereicht werden.

Vielen Dank für das großartige Interview. Leser, die mehr erfahren möchten, sollten Veritone besuchen.