Ben Ha, Solutionsarkitekt Direktør, Regering, Juridisk og Overholdelse afdeling, Veritone – Intervieu Serie

Ben Ha er Solutionsarkitekt Direktør for Veritones Regering, Juridisk og Overholdelse afdeling. Ben har mere end 15 års erfaring i softwareindustrien, hvor han primært har arbejdet i en teknisk forsalgsrolle. Ben har arbejdet med kunder i regerings- og juridisk sektor i de sidste 4 år.

Veritone designer menneskecentreret AI-løsninger. Veritones software og tjenester giver mulighed for, at personer i nogle af verdens største og mest kendte mærker kan arbejde mere effektivt, accelerere beslutningstagning og øge profiten.

Hvordan integrerer Veritones iDEMS med eksisterende lovgivningsmyndighedssystemer, og hvilke specifikke effektiviteter introducerer det?

Lovgivningsmyndigheders (LEA) eksisterende systemer har normalt data fra mange forskellige kilder, som f.eks. body-worn kamera systemer, video management systemer og andre kameraer og enheder. iDEMS giver LEA mulighed for at opbygge forbindelser i disse eksisterende systemer med en API eller andre integrationsveje. Det virtualiserer derefter over disse systemer, så lovgivningsmyndighederne kan beholde masterdata, hvor det er i kildesystemerne. Inden for Veritone Investigate-applikationen har brugeren adgang til en lavopløselig proxyfil, som kan bruges til visning, deling, søgning, analyse osv. Fordi data er på ét centralt sted, er det lettere for brugeren at gå igennem undersøgelsesprocessen uden at skifte mellem siloede applikationer.

Veritone Investigate giver også brugeren mulighed for at udnytte AI-kognition til at analysere, hvad der er indeholdt i selv indholdet. Med andre ord kan LEA bruge AI til at strukturere ustruktureret data, hvilket giver metadataoplysninger, der gør det lettere at finde ting. De fleste systemer fungerer kun som dataopbevaring og indeholder ikke oplysninger om de ord, der er tale om, eller ansigter eller objekter indeholdt i indholdet. Med Investigate og iDEMS-løsningen er AI naturligt integreret og køres automatisk ved indtagelse, hvilket eliminerer behovet for at manuelt se eller lytte til indhold for at få kontekst, hvilket accelererer undersøgelsesprocessen.

Hvilke tekniske krav skal lovgivningsmyndigheder have for at implementere Veritones iDEMS?

LEA behøver ikke at have betydelige tekniske krav for at implementere Veritones iDEMS – faktisk vil løsningen fungere med næsten enhver størrelse LEA, uanset hvilke systemer de har eller ikke har på plads. Fordi Veritone har indtagelsesadaptere, der kan tilslutte sig forskellige API’er, er det eneste, LEA behøver, en person med adgang til disse eksisterende systemer. Desuden er iDEMS cloud-baseret, og LEA har brug for en højhastigheds internetforbindelse og en moderne webbrowser.

Kan du give mere detaljer om, hvordan Veritone Track adskiller sig fra traditionelle ansigtsgenkendelsesteknologier i forhold til nøjagtighed og effektivitet?

Traditionel ansigtsgenkendelse afhænger af synlige ansigtsfunktioner (øjne, næse, mund osv.) for at identificere en person af interesse. Problemet er, at hvis videoen ikke fanger personens ansigt, kan teknologien ikke identificere eller spore den enkelte. F.eks. hvis optagelsen kun fanger personens ryg, er personens ansigt dækket af en maske eller hættetrøje, eller videoen har ikke en optimal vinkel på ansigtet, fungerer ansigtsgenkendelsen ikke.

Alternativt behandler Veritone Track potentielle personer af interesse som objekter i en proces kendt som menneske-lignende objekter (HLO). Gennem HLO kan Veritone Track bygge en unik “personprint” af den enkelte baseret på visuelt forskellige attributter. Disse visuelt forskellige attributter kan være en hat, briller, rygsæk eller hvis de bærer noget i hånden, selv farvekontrasten mellem deres tøj og sko. Det tager også personens kropstype, f.eks. armens længde, højde, vægt osv.

Efter at have bygget denne personprint, integrerer Veritone Track gammeldags politiarbejde gennem en menneske-i-løkken, der gennemgår og verificerer potentielle match. Til sidst er denne metode mere nøjagtig og effektiv end traditionelle ansigtsgenkendelsesteknologier.

Hvordan forbedrer brugen af menneske-lignende objekter (HLO) i Veritone Track identifikationsprocessen i forhold til brugen af ansigtsgenkendelse?

At udnytte HLO forbedrer identifikationsprocessen, fordi det ikke kræver, at LEA har adgang til de samme variable som traditionel ansigtsgenkendelse, dvs. et fuldt synligt menneskeansigt. Veritone Track er fleksibelt, da det vil bruge den information, der er tilgængelig, uanset videoens kvalitet, opløsning eller kameraets vinkel (højt oppe på loftet eller på øjenhøjde). Trods Veritone Tracks fordele kan det og ansigtsgenkendelse ikke udelukke hinanden – LEA kan bruge begge teknologier samtidigt. F.eks. kunne LEA bruge Veritone Track til at konstruere en personprint fra store mængder af lavkvalitetsvideo, mens de kører ansigtsgenkendelse på videoeksempler af frontale skud af en potentiel person af interesse.

Hvordan hjælper Veritones AI-drevne system med at fremskynde undersøgelser, mens det opretholder høje standarder for håndtering af beviser?

Veritone Investigate, Veritone Track eller alle Veritones offentlige sektorsapplikationer bruger AI til dramatisk at accelerere manuelle processer for LEA, reducerer uger eller dages værdi af arbejde til få timer, hvilket er stadig mere kritisk midt i pågående mandskabsmangel. Trods denne accelererede hastighed opretholder Veritone høje standarder for håndtering af beviser ved ikke fuldstændigt at stole på AI-udgang. Disse løsninger giver den endelige beslutning til den menneskelige undersøger til at gennemgå de endelige resultater. Veritones teknologi giver også mulighed for, at mennesker kan opfylde høje standarder for håndtering af beviser og bevisekvens. Ligeså har de indbyggede revisionsstier, så LEA kan se, hvordan undersøgeren nåede frem til det endelige resultat. Med andre ord erstatter AI ikke mennesker – det forbedrer blot deres evner.

AI i lovgivning vækker bekymring om forkert forfølgelse af minoriteter, især med byer som Detroit, Michigan, der oplever flere forkerte anholdelser på under 1 år. Hvordan håndterer Veritone disse etiske udfordringer?

Først bruger Veritone altid sikkerhedsforanstaltninger og -forholdsregler til at minimere muligheden for forkert forfølgelse. F.eks. bruger Veritone Track ikke biometriske markører som ansigtsfunktioner til at bygge personprint, men afhænger af tøj, kropstype osv. For det andet søger disse værktøjer aldrig på internettet, sociale medier eller store databaser som et paskontor for at få data. Når en LEA bruger vores løsninger i en aktiv sag eller undersøgelse, kan den kun sammenligne uploadet foto- eller video-bevis mod en database over kendte gerningsmænd med anholdelsesrekorder. I tilfældet med, hvad der skete i Detroit, Michigan, brugte lovgivningsmyndighederne en løsning, der hentede data fra hele internettet uden en menneskelig undersøger til at validere resultaterne, hvilket resulterede i forkert forfølgelse af uskyldige borgere.

Kan du uddybe, hvordan Veritones AI sikrer nøjagtigheden af de led, der genereres?

Veritones AI genererer potentielle led, som menneskelige undersøgere kan forfølge. Mens AI giver undersøgeren nyttige fund og resultater, træffer personen den endelige beslutning. Atter en gang så lovgivningsmyndighederne i Detroit, Michigan, tillid til ansigtsgenkendelse alene til at gøre jobbet. Denne blinde tillid var ultimativt problematisk, da disse modeller afhængigt af data, der resulterede i demografisk eller racemæssigt forbundne fordomme.

Desuden vælger Veritone data til at træne AI-motorer og -modeller, der er repræsentative for indholdet. Før træning af data vil Veritone redigere følsomme video- og lydelementer fra kilder som body-worn kameraer, bilvideo, CCTV-optagelser osv. eller bruge offentligt tilgængelige ikke-følsomme data. Ligeså vil Veritone validere resultater med kundefeedback for kontinuerlig forbedring.

Hvordan håndterer Veritone muligheden for, at AI kan fastholde eksisterende fordomme inden for lovgivning?

Veritone bruger en flermodell-tilgang, der arbejder med mange forskellige tredjepartsleverandører for at få en større perspektiv end at afhænge kun af en AI-model. Særligt giver denne metode Veritone mulighed for at standardisere inden for en given kategori af AI-kognition, såsom transskription, oversættelse, ansigtsgenkendelse, objektdetektion eller tekstgenkendelse. Ved at udnytte “visdommen fra mængden” kan Veritone køre det samme indhold mod multiple modeller inden for samme kategori af AI-kognition for at hjælpe med at beskytte mod fordomme.

Hvordan sikrer Veritones AI-applikationer, at de ikke krænker privatlivsrettigheder?

Der er to bedste praksis, som Veritones AI-applikationer følger for at sikre, at de ikke krænker privatlivsrettigheder. Én: kundens data forbliver kundens data på alle tidspunkter. De har retten til at administrere, slette eller gøre, hvad de vil, med deres data. Selvom kundens data køres i Veritones sikre cloud-baserede miljø, beholder de fuld ejendomsret. To: Veritone bruger aldrig kundens data uden deres tilladelse eller samtykke. Særligt bruger Veritone ikke kundens data til at genoptræne AI-modeller. Sikkerhed og privatliv er af yderste vigtighed, og kunderne vil kun arbejde med forudindlærte modeller, der bruger data, der er redigeret for alle følsomme, biometriske og personlige identifikationsoplysninger.

Hvordan balancerer Veritone behovet for hurtig teknologisk udvikling med etiske overvejelser og samfundsmæssig påvirkning?

Når man udvikler AI i en hurtig takt, er tendensen til at bruge så meget data som muligt og kontinuerligt høste det for at forbedre og vokse. Selvom en sådan tilgang resulterer i en accelereret modning af AI-modellen, åbner det op for forskellige etiske, privatlivs- og samfundsmæssige bekymringer.

Til den ende søger Veritone altid den bedste AI. Under den generative AI-bølge havde Veritone tidlig adgang til teknologi fra OpenAI og andre partnere. Men i stedet for at skynde sig frem og deployere nye løsninger med det samme, spurgte vi, “Hvordan vil vores kunder faktisk bruge AI inden for en ordentlig brugsmodel?” Med andre ord, efter at have undersøgt missionen og smertepunkterne for LEA, bestemte vi, hvordan vi kunne anvende Generativ AI på en ansvarlig måde, der holder mennesker i centrum, samtidig med at brugerne kan opnå deres mål og overvinde udfordringer.

For eksempel har Veritone Investigate en privat og netværks-isoleret stor sprogmodel, der kan sammenfatte talekonversationer eller indhold. Hvis en body-worn kamera fanger en episode eller en undersøger interviewer nogen, kan Veritone Investigate transkribere dette indhold og automatisk sammenfatte det, hvilket er meget nyttigt for detektiver eller undersøgere, der skal give en sammenfatning af et helt interview i en kort paragraf til DA eller anklagemyndigheden. Trods alt har personen stadig mulighed for at gennemgå den AI-genererede udgang og foretage nødvendige redigeringer og ændringer, før det indsendes.

Tak for det gode interview, læsere, der ønsker at lære mere, skal besøge Veritone.