Ben Ha, Solutions Architect Director, Overheid, Juridisch en Compliance divisie, Veritone – Interview Serie

Ben Ha is de Solutions Architect Director voor Veritone’s overheids-, juridische en compliance divisie. Ben heeft meer dan 15 jaar ervaring in de software-industrie, voornamelijk in een technische pre-sales rol. Ben werkt al 4 jaar met klanten in de overheids- en juridische sector.

Veritone ontwikkelt mensgerichte AI-oplossingen. Veritone’s software en diensten stellen individuen bij veel van ‘s werelds grootste en meest herkenbare merken in staat om efficiënter te werken, beslissingen te versnellen en winstgevendheid te verhogen.

Hoe integreert Veritone’s iDEMS met bestaande systemen voor handhaving van de wet en welke specifieke efficiëntie introduceert het?

De bestaande systemen van handhavingsinstanties (LEA’s) hebben doorgaans gegevens van veel verschillende bronnen, zoals body-worn camera’s, video management systemen en andere camera’s en apparaten. iDEMS stelt LEA’s in staat om verbindingen te maken in die bestaande systemen met een API of andere integratiepaden. Vervolgens virtualiseert het over de bestaande systemen heen, waardoor de handhavingsinstantie de mastergegevens op de oorspronkelijke locatie kan houden. Binnen de Veritone Investigate-toepassing heeft de gebruiker toegang tot een laagresolutieproxybestand dat kan worden gebruikt voor weergave, delen, zoeken, analyseren, enz. Omdat de gegevens op één centrale locatie staan, is het voor de gebruiker gemakkelijker om het onderzoeksproces door te gaan zonder tussen afgesloten toepassingen te hoeven schakelen.

Veritone Investigate stelt de gebruiker ook in staat om AI-cognitie te gebruiken om de inhoud zelf te analyseren. Met andere woorden, LEA’s kunnen AI gebruiken om ongestructureerde gegevens te structureren, waardoor metadata-informatie wordt verstrekt die het vinden van dingen veel gemakkelijker maakt. De meeste systemen fungeren alleen als gegevensopslag en bevatten geen informatie over de gesproken woorden of de gezichten of objecten in de inhoud. Met Investigate en de iDEMS-oplossing is AI native ingebouwd en wordt deze automatisch uitgevoerd bij het opnemen, waardoor de noodzaak om handmatig naar de inhoud te kijken of te luisteren om context te verkrijgen, wordt geëlimineerd, waardoor het onderzoeksproces wordt versneld.

Wat zijn de technische vereisten voor handhavingsinstanties om Veritone’s iDEMS te implementeren?

Handhavingsinstanties hoeven geen significante technische vereisten te hebben om Veritone’s iDEMS te implementeren – in feite werkt de oplossing met bijna elk formaat handhavingsinstantie, ongeacht welke systemen ze wel of niet hebben. Omdat Veritone ingestion adapters heeft die kunnen aansluiten op verschillende API’s, heeft de handhavingsinstantie alleen iemand nodig met toegang tot die bestaande systemen. Bovendien is iDEMS cloud-based en heeft de handhavingsinstantie een snelle internetverbinding en een moderne webbrowser nodig.

Kunt u meer details geven over hoe Veritone Track zich onderscheidt van traditionele gezichtsherkenningstechnologieën in termen van nauwkeurigheid en efficiëntie?

Traditionele gezichtsherkenning is afhankelijk van zichtbare gezichtskenmerken (ogen, neus, mond, enz.) om een persoon van interesse te identificeren. Het probleem is dat als de video het gezicht van de persoon niet vastlegt, de technologie de persoon niet kan identificeren of volgen. Als de beelden bijvoorbeeld alleen de rug van iemand vastleggen, het gezicht van de persoon wordt bedekt door een masker of hoodie, of de video niet de optimale hoek van het gezicht heeft, werkt de gezichtsherkenning niet.

Als alternatief behandelt Veritone Track potentiële personen van interesse als objecten in een proces dat bekend staat als mensachtige objecten (HLO’s). Door middel van HLO’s kan Veritone Track een unieke “persoonprint” van die persoon maken op basis van visueel onderscheidende kenmerken. Deze visueel onderscheidende kenmerken kunnen een hoed, bril, rugzak of zelfs de kleurcontrast tussen kleding en schoenen zijn. Het houdt ook rekening met het lichaamstype van de persoon, bijv. arm lengte, gestalte, gewicht, enz.

Na het maken van die persoonprint, voegt Veritone Track ouderwetse politiewerk toe door middel van een mens-in-de-lus die potentiële overeenkomsten beoordeelt en verifieert. Uiteindelijk is deze methode nauwkeuriger en efficiënter dan traditionele gezichtsherkenningstechnologieën.

Hoe verbetert het gebruik van mensachtige objecten (HLO’s) in Veritone Track het identificatieproces in vergelijking met het gebruik van gezichtsherkenning?

Het gebruik van HLO’s verbetert het identificatieproces omdat het niet vereist dat de handhavingsinstantie toegang heeft tot dezelfde variabelen als traditionele gezichtsherkenning, bijv. een volledig zichtbaar menselijk gezicht. Veritone Track is flexibel en zal alle beschikbare informatie gebruiken, ongeacht de kwaliteit van de beelden, de resolutie of de hoek (hoge plafond of ooghoogte) van de camera. Ondanks de voordelen van Veritone Track, zijn het en gezichtsherkenning niet wederzijds exclusief – handhavingsinstanties kunnen beide technologieën tegelijkertijd gebruiken. Bijvoorbeeld, handhavingsinstanties kunnen Veritone Track gebruiken om een persoonprint te maken van grote hoeveelheden lage kwaliteit video, terwijl ze tegelijkertijd gezichtsherkenning uitvoeren op video-voorbeelden van frontale opnamen van een potentiële persoon van interesse.

Hoe helpt Veritone’s AI-gebaseerde systeem bij het versnellen van onderzoeken terwijl het hoge standaarden van bewijsbehandeling handhaaft?

Veritone Investigate, Veritone Track, of alle publieke sector applicaties van Veritone gebruiken AI om handmatige processen voor handhavingsinstanties aanzienlijk te versnellen, waardoor weken of dagen werk wordt teruggebracht tot een paar uur, wat steeds kritieker wordt in het licht van aanhoudende personeelstekorten. Ondanks deze versnelde snelheid, handhaaft Veritone hoge standaarden van bewijsbehandeling door de AI-uitvoer niet volledig te vertrouwen. Deze oplossingen laten de finale zeg hebben aan de menselijke onderzoeker om de finale resultaten te controleren. Veritone’s technologie stelt ook mensen in staat om te voldoen aan hoge standaarden van bewijsbehandeling en keten van bewijs. Bovendien hebben ze ingebouwde audit trails, zodat de handhavingsinstantie kan zien hoe de onderzoeker tot het finale resultaat is gekomen. Met andere woorden, AI vervangt mensen niet – het verhoogt alleen hun capaciteiten.

AI in handhaving roept zorgen op over onterechte vervolging van minderheden, vooral met steden als Detroit, Michigan die meerdere onterechte arrestaties hebben meegemaakt in minder dan 1 jaar meerdere onterechte arrestaties. Hoe adresseert Veritone deze ethische uitdagingen?

Ten eerste gebruikt Veritone altijd beveiligingsmaatregelen en -voorzieningen om de mogelijkheid van onterechte vervolging tot een minimum te beperken. Bijvoorbeeld, Veritone Track gebruikt geen biometrische markers zoals gezichtskenmerken om persoonprints te maken, maar vertrouwt op kleding, lichaamstype, enz. Ten tweede, deze tools scannen nooit het internet, sociale media of grote databases zoals een paspoortagentschap om gegevens te verkrijgen. Wanneer een handhavingsinstantie onze oplossingen gebruikt in een actief onderzoek of zaak, kan het alleen foto- of videobewijs vergelijken met een database van bekende daders met arrestaties. In het geval van wat er in Detroit, Michigan gebeurde, gebruikten de handhavingsinstanties een oplossing die gegevens van het internet haalde zonder dat een menselijke onderzoeker “in de lus” was om de resultaten te valideren, wat resulteerde in onterechte vervolging van onschuldige burgers.

Kunt u meer details geven over hoe Veritone’s AI de nauwkeurigheid van de gegenereerde leidraden waarborgt?

Veritone’s AI genereert potentiële leidraden die door menselijke onderzoekers kunnen worden nagegaan. Hoewel de AI de onderzoeker nuttige bevindingen en resultaten biedt, neemt de persoon nog steeds de finale beslissing. Nogmaals, het geval in Detroit, Michigan zag handhavingsinstanties die blindelings op gezichtsherkenning vertrouwden om de taak te doen. Dit blind vertrouwen was uiteindelijk problematisch omdat deze modellen afhankelijk waren van gegevens die resulteerden in demografisch of raciaal geassocieerde vooroordelen.

Verder kiest Veritone gegevens om zijn AI-motoren en -modellen te trainen die representatief zijn voor de inhoud. Voordat de gegevens worden getraind, zal Veritone gevoelige video- en audio-elementen uit bronnen zoals body-worn camera’s, in-car video, CCTV-beelden, enz. of openbaar beschikbare niet-gevoelige gegevens verwijderen. Evenzo zal Veritone resultaten valideren met klantfeedback voor continue verbetering.

Hoe gaat Veritone om met het potentieel van AI om bestaande vooroordelen binnen handhavingsgegevens te versterken?

Veritone gebruikt een multi-model benadering die samenwerkt met veel verschillende derde partijen om een bredere perspectief te verkrijgen in plaats van afhankelijk te zijn van één AI-model. In het bijzonder stelt deze methode Veritone in staat om te standaardiseren binnen een bepaalde categorie van AI-cognitie, zoals transcriptie, vertaling, gezichtsherkenning, objectdetectie of tekstherkenning. Door de “wijsheid van de menigte” te benutten, kan Veritone dezelfde inhoud tegen meerdere modellen binnen dezelfde categorie van AI-cognitie laten lopen om te helpen beschermen tegen vooroordelen.

Welke stappen worden genomen om ervoor te zorgen dat Veritone’s AI-toepassingen geen inbreuk maken op privacyrechten?

Er zijn twee beste praktijken die Veritone’s AI-toepassingen volgen om ervoor te zorgen dat ze geen inbreuk maken op privacyrechten. Ten eerste blijft de klantgegevens de klantgegevens op alle tijden. Zij hebben het recht om hun gegevens te beheren, te verwijderen of er alles mee te doen wat ze willen. Hoewel de klantgegevens in Veritone’s beveiligde cloud-gehoste omgeving worden uitgevoerd, behouden ze de volledige eigendom. Ten tweede gebruikt Veritone nooit de klantgegevens zonder hun toestemming of goedkeuring. In het bijzonder gebruikt Veritone de klantgegevens nooit om AI-modellen opnieuw te trainen. Beveiliging en privacy zijn van het grootste belang, en klanten zullen alleen werken met vooraf getrainde modellen die gegevens bevatten die zijn geschrapt van alle gevoelige, biometrische en persoonlijk identificeerbare informatie.

Hoe balanceert Veritone de behoefte aan snelle technologische vooruitgang met ethische overwegingen en maatschappelijke impact?

Wanneer AI op een snelle manier wordt ontwikkeld, is de neiging om zoveel mogelijk gegevens te gebruiken en deze voortdurend te oogsten om te verbeteren en te groeien. Hoewel een dergelijke aanpak resulteert in een versnelde volwassenheid van het AI-model, opent het ook verschillende ethische, privacy- en maatschappelijke zorgen.

Daarom zoekt Veritone altijd naar de beste AI. Tijdens de generatieve AI-hype had Veritone vroeg toegang tot technologie van OpenAI en andere partners. Echter, in plaats van vooruit te gaan en nieuwe oplossingen onmiddellijk te implementeren, vroegen we ons af: “Hoe zullen onze klanten AI daadwerkelijk gebruiken binnen een juist gebruiksscenario?” Met andere woorden, na het onderzoeken van de missie en de pijnpunten van handhavingsinstanties, bepaalden we hoe we Generatieve AI op een verantwoorde manier konden toepassen die mensen centraal stelde, terwijl gebruikers hun doelen konden bereiken en uitdagingen overwinnen.

Als voorbeeld bevat Veritone Investigate een privé- en netwerk-geïsoleerd groot taalmodel dat gesproken conversaties of inhoud kan samenvatten. Als een body-worn camera een incident vastlegt of een onderzoeker iemand interviewt, kan Veritone Investigate die inhoud transcriberen en automatisch samenvatten, wat zeer nuttig is voor rechercheurs of onderzoekers die een samenvatting van een heel interview in een korte alinea aan het OM of de aanklager moeten geven. Desondanks heeft de persoon nog steeds de kans om de door AI gegenereerde uitvoer te controleren en nodige bewerkingen en wijzigingen aan te brengen voordat deze wordt ingediend.

Bedankt voor het geweldige interview, lezers die meer willen leren, moeten Veritone bezoeken.