Ben Ha, Solutions Architect Director, Government, Legal & Compliance division, Veritone – Intervju-serie

Ben Ha er Solutions Architect Director for Veritones avdeling for regjering, rettsvesen og etterlevelse. Ben har over 15 års erfaring i programvareindustrien, hovedsakelig i en teknisk forsalgsrolle. Ben har arbeidet med kunder i regjering og rettsvesen i løpet av de siste 4 årene.

Veritone designer menneske-sentrerte AI-løsninger. Veritones programvare og tjenester gir mennesker i noen av verdens største og mest kjente merker mulighet til å fungere mer effektivt, accelerere beslutningstaking og øke lønnsomheten.

Hvordan integrerer Veritones iDEMS med eksisterende rettsvesensystemer, og hvilke spesifikke effektiviteter introduserer det?

Rettsvesenets eksisterende systemer har vanligvis data fra mange forskjellige kilder, som kroppsbærende kameraer, videostyringssystemer og andre kameraer og enheter. iDEMS lar rettsvesenet bygge forbindelser i disse eksisterende systemene med en API eller andre integrasjonsveier. Det virtualiserer over disse systemene, og lar rettsvesenet beholde masterdataene der de er i kildesystemene. Inninside Veritone Investigate-applikasjonen har brukeren tilgang til en lavoppløselig proxyfil som kan brukes til visning, deling, søking, analyse osv. Fordi dataene er i ett sentralt sted, er det enklere for brukeren å gå gjennom etterforskningen uten å måtte bytte mellom siloede applikasjoner.

Veritone Investigate lar også brukeren bruke AI-kognition til å analysere hva som er inni innholdet selv. Med andre ord kan rettsvesenet bruke AI til å strukturere ustrukturert data, og gi metadatainformasjon som gjør det mye enklere å finne ting. De fleste systemer fungerer bare som datalagring og inneholder ikke informasjon om ord som er sagt eller ansikter eller objekter inni innholdet. Med Investigate og iDEMS-løsningen er AI innbygget og kjører automatisk ved innlasting, og eliminerer behovet for å manuelt se eller lytte til innhold for å få kontekst, og akselerer etterforskningen.

Hvilke tekniske krav må rettsvesenet ha for å implementere Veritones iDEMS?

Rettsvesenet trenger ikke å ha betydelige tekniske krav for å implementere Veritones iDEMS – faktisk vil løsningen fungere med nesten alle størrelser på rettsvesenet, uavhengig av hvilke systemer de har eller ikke har i gang. Fordi Veritone har innlastingsadaptere som kan koble til forskjellige API-er, er det eneste rettsvesenet trenger en person med tilgang til disse eksisterende systemene. Dessuten er iDEMS basert på skytjenester, og rettsvesenet trenger en høyhastighets internettforbindelse og en moderne nettleser.

Kan du gi mer detaljer om hvordan Veritone Track skiller seg fra tradisjonelle ansiktsgjenkjenningsteknologier når det gjelder nøyaktighet og effektivitet?

Tradisjonell ansiktsgjenkjenning baserer seg på synlige ansiktsforskjeller (øyne, nese, munn osv.) for å identifisere en person av interesse. Problemet er at hvis videoen ikke fanger personens ansikt, kan teknologien ikke identifisere eller spore denne personen. For eksempel, hvis fotografiene bare fanger noenones rygg, eller personens ansikt er dekket av en maske eller hette, eller videoen ikke har en optimal vinkel på ansiktet, vil ansiktsgjenkjenningen ikke fungere.

Alternativt behandler Veritone Track potensielle personer av interesse som objekter i en prosess kjent som menneske-lignende objekter (HLO-er). Gjennom HLO-er kan Veritone Track bygge en unik “person-avtrykk” av denne personen basert på visuelt forskjellige attributter. Disse visuelt forskjellige attributtene kan være en hatt, briller, ryggsekk eller hvis de bærer noe i hånden, selv fargekontrasten mellom klærne og skoene. Det tar også hensyn til personens kroppsbygning, f.eks. arm-lengde, høyde, vekt osv.

Etter å ha bygget denne person-avtrykket, inkorporerer Veritone Track gammeldags politiarbeid gjennom en menneske-i-løkken som gjennomgår og verifiserer potensielle sammenligninger. Til slutt er denne metoden mer nøyaktig og effektiv enn tradisjonelle ansiktsgjenkjenningsteknologier.

Hvordan forbedrer Veritone Tracks bruk av menneske-lignende objekter (HLO-er) identifiseringsprosessen sammenlignet med å bruke ansiktsgjenkjenning?

Å bruke HLO-er forbedrer identifiseringsprosessen fordi det ikke krever at rettsvesenet har tilgang til samme variabler som tradisjonell ansiktsgjenkjenning, dvs. et fullt synlig menneskeansikt. Veritone Track er fleksibelt og vil bruke all informasjon som er tilgjengelig, uavhengig av kvaliteten på fotografiene, oppløsningen eller vinkelen (høyt oppe på taket eller på øyehøyde) på kameraet. Til tross for fordelene med Veritone Track, er det og ansiktsgjenkjenning ikke gjensidig exclusive – rettsvesenet kan bruke begge teknologier samtidig. For eksempel kan rettsvesenet bruke Veritone Track til å konstruere en person-avtrykk fra store mengder lavkvalitetsvideo, mens de kjører ansiktsgjenkjenning på videoeksempler av frontansikt av en potensiell person av interesse.

Hvordan hjelper Veritones AI-drevne system i å akselerere etterforskninger samtidig som det opprettholder høye standarder for håndtering av bevis?

Veritone Investigate, Veritone Track eller alle Veritones offentlige sektorsapplikasjoner bruker AI til å dramatisk akselerere manuelle prosesser for rettsvesenet, og reduserer uker eller dagers arbeid til noen timer, noe som er stadig mer kritisk midt i pågående bemanningsmangler. Til tross for denne akselererte hastigheten, opprettholder Veritone høye standarder for håndtering av bevis ved å ikke fullt ut stole på AI-utdata. Disse løsningene lar den endelige avgjørelsen til den menneskelige etterforskeren til å gjennomgå de endelige resultater. Veritones teknologi lar også mennesker konformere til høye standarder for håndtering av bevis og beviskjede. Liksom har de bygget inn audit-spor, så rettsvesenet kan se hvordan etterforskeren kom frem til det endelige resultatet. Enkelt uttrykt, AI erstatter ikke mennesker – det forbedrer bare deres evner.

AI i rettsvesenet våkner bekymringer om feilaktig forfølgelse av minoriteter, spesielt med byer som Detroit, Michigan som erfaring flere feilaktige arrestasjoner i løpet av mindre enn 1 år. Hvordan håndterer Veritone disse etiske utfordringene?

Først og fremst bruker Veritone alltid sikkerhetsforanstaltninger og -beskyttelse for å minimere muligheten for feilaktig forfølgelse. For eksempel bruker Veritone Track ikke biometriske markører som ansiktsforskjeller for å bygge person-avtrykk, men baserer seg på klær, kroppsbygning osv. For det andre, disse verktøyene scraper ikke internettet, sosiale medier eller store databaser som et passkontor for å hente data. Når et rettsvesen bruker våre løsninger i en aktiv sak eller etterforskning, kan det bare sammenligne lastet opp foto- eller video-bevis mot en database over kjente lovbrytere med arrest-records. I tilfelle det som skjedde i Detroit, Michigan, brukte rettsvesenet en løsning som hentet data fra hele internettet uten at en menneskelig etterforsker var “i løkken” for å verifisere resultater, noe som resulterte i feilaktig forfølgelse av uskyldige borgere.

Kan du utdype hvordan Veritones AI sikrer nøyaktigheten av de ledetrådene som genereres?

Veritones AI genererer potensielle ledetråder som menneskelige etterforskere kan følge opp. Mens AI-en gir etterforskeren nyttige funn og resultater, tar personen den endelige avgjørelsen. Igjen, i Detroit, Michigan-saken, stolte rettsvesenet på ansiktsgjenkjenning alene for å gjøre jobben. Dette blinde tilliten var ultimate problematisk, da disse modellene baserte seg på data som resulterte i demografisk eller rase-assosierte bias.

For øvrig velger Veritone dataene som brukes til å trene AI-motorene og -modellene med omsorg. Før trening av dataene, vil Veritone redigere sensitive video- og lydelementer fra kilder som kroppsbærende kameraer, bil-video, overvåkingskamera osv., eller bruke offentlig tilgjengelig, ikke-sensitiv data. Liksom vil Veritone validere resultater med kunde-tilbakemelding for kontinuerlig forbedring.

Hvordan håndterer Veritone muligheten for at AI kan videreføre eksisterende bias innenfor rettsvesenets data?

Veritone bruker en fler-modell-tilnærming som samarbeider med mange forskjellige tredjeparts-leverandører for å få en større perspektiv enn å basere seg på en enkelt AI-modell. Spesielt lar denne metoden Veritone standardisere innenfor en gitt kategori av AI-kognition, som f.eks. transkripsjon, oversettelse, ansiktsgjenkjenning, objekt-gjenkjenning eller tekst-gjenkjenning. Ved å bruke “visdommen fra mengden”, kan Veritone kjøre samme innhold mot flere modeller innenfor samme kategori av AI-kognition for å beskytte mot bias.

Hvilke skritt tas for å sikre at Veritones AI-applikasjoner ikke krenker privatretten?

Det finnes to beste praksis som Veritones AI-applikasjoner følger for å sikre at de ikke krenker privatretten. Først og fremst: kundens data forblir alltid kundens data. De har retten til å administrere, slette eller gjøre hva de vil med deres data. Selv om kundens data kjører i Veritones sikre sky-baserte miljø, beholder de full eierskap. For det andre: Veritone bruker aldri kundens data uten deres tillatelse eller samtykke. Spesielt bruker Veritone ikke kundens data til å trene AI-modeller på nytt. Sikkerhet og privatliv er av største betydning, og kunder vil bare arbeide med forhånds-trente modeller som bruker data som er redigert for all sensitiv, biometrisk og personlig identifiserbar informasjon.

Hvordan balanserer Veritone behovet for rask teknologisk fremgang med etiske overveielser og samfunnsmessig innvirkning?

Når det utvikles AI i raskt tempo, er det en tendens til å bruke så mye data som mulig og kontinuerlig høste det for å forbedre og vokse. Mens en slik tilnærming faktisk resulterer i akselerert modning av AI-modellen, åpner det opp for ulike etiske, privatlivs- og samfunnsmessige bekymringer.

For å møte dette, er Veritone alltid på utkikk etter beste AI. Under den generative AI-bølgen, hadde Veritone tidlig tilgang til teknologi fra OpenAI og andre partnere. Men i stedet for å skynde seg og deployere nye løsninger umiddelbart, spurte vi: “Hvordan vil våre kunder faktisk bruke AI i en korrekt brukssak?” Med andre ord, etter å ha undersøkt oppdrag og utfordringer for rettsvesenet, bestemte vi hvordan å anvende generativ AI på en ansvarlig måte som beholdt mennesker i sentrum, samtidig som brukerne kunne oppnå målene og overvinne utfordringene.

For eksempel har Veritone Investigate en privat og nettverks-isolert stor språkmodell som kan sammenfatte tale-samtaler eller innhold. Hvis en kroppsbærende kamera fanger en hendelse eller en etterforsker intervjuer noen, kan Veritone Investigate transkribere dette innholdet og automatisk sammenfatte det, noe som er svært nyttig for detektiver eller etterforskere som må need to provide a summary of an entire interview in a short paragraph to the DA or prosecution. Nevertheless, the person still has the chance to review the AI-generated output to make necessary edits and changes before submission. Thank you for the great interview, readers who wish to learn more should visit Veritone.