Ben Ha, lösningsarkitekt direktör, Government, Legal & Compliance division, Veritone – Intervju-serie

Ben Ha är lösningsarkitekt direktör för Veritones avdelning för regering, juridik och regelefterlevnad. Ben har över 15 års erfarenhet inom programvaruindustrin, främst i en teknisk försäljningsroll. Ben har arbetat med kunder inom regerings- och juridiksektorn under de senaste 4 åren.

Veritone utformar människocentrerade AI-lösningar. Veritones programvara och tjänster ger individer på många av världens största och mest erkända varumärken möjlighet att arbeta mer effektivt, accelerera beslutsfattandet och öka lönsamheten.

Hur integrerar Veritones iDEMS med befintliga system för lagföring, och vilka specifika effektivitetsvinster introducerar det?

Lagföringsmyndigheternas (LEA) befintliga system har vanligtvis data från många olika källor, som till exempel kroppsburna kameror, videohanteringssystem och andra kameror och enheter. iDEMS tillåter LEA att bygga anslutningar till dessa befintliga system med hjälp av API eller andra integrationsvägar. Det virtuella lagret på toppen av dessa system tillåter lagföringsmyndigheterna att behålla masterdata där den finns i källsystemen. Inom Veritone Investigate har användaren tillgång till en lågupplöst proxyfil som kan användas för visning, delning, sökning, analys med mera. Eftersom data finns på en central plats är det lättare för användaren att gå igenom utredningsprocessen utan att behöva växla mellan isolerade applikationer.

Veritone Investigate tillåter också användaren att utnyttja AI-kognition för att analysera innehållet i sig. Med andra ord kan LEA använda AI för att strukturera ostrukturerad data, vilket ger metadatainformation som gör det lättare att hitta saker. De flesta system fungerar bara som datalagring och innehåller inte information om de ord som talas eller ansikten och föremål inom innehållet. Med Investigate och iDEMS-lösningen är AI inbyggt och körs automatiskt vid inkörseln, vilket eliminerar behovet av att manuellt titta på eller lyssna på innehåll för att få sammanhang, vilket accelererar utredningsprocessen.

Vilka är de tekniska kraven för lagföringsmyndigheter för att implementera Veritones iDEMS?

Lagföringsmyndigheterna behöver inte ha betydande tekniska krav för att implementera Veritones iDEMS – faktum är att lösningen fungerar med nästan alla storlekar på LEA, oavsett vilka system de har eller inte har på plats. Eftersom Veritone har inkörseladapter som kan ansluta till olika API behöver LEA bara någon med tillgång till dessa befintliga system. Dessutom är iDEMS molnbaserat, och LEA behöver en höghastighetsinternetanslutning och en modern webbläsare.

Kan du ge mer information om hur Veritone Track skiljer sig från traditionella ansiktsigenkännings-teknologier när det gäller noggrannhet och effektivitet?

Traditionell ansiktsigenkänning bygger på synliga ansiktsdrag (ögon, näsa, mun etc.) för att identifiera en person av intresse. Problemet är att om videon inte fångar personens ansikte kan tekniken inte identifiera eller spåra den enskilda. Till exempel, om filmen bara fångar någons rygg, personens ansikte är täckt av en mask eller huva, eller videon inte har en optimal vinkel på ansiktet, fungerar ansiktsigenkänningen inte.

I stället behandlar Veritone Track potentiella personer av intresse som föremål i en process som kallas mänskliga föremål (HLO). Genom HLO kan Veritone Track bygga en unik “personskrivelse” av den enskilda baserat på visuellt urskiljbara attribut. Dessa attribut kan vara en hatt, glasögon, ryggsäck eller om de bär något i handen, även färgkontrasten mellan kläder och skor. Det tar också hänsyn till personens kroppstyp, t.ex. armens längd, längd, vikt etc.

Efter att ha byggt den här personskrivelsen inkorporerar Veritone Track gammaldags polisarbete genom en människa-i-loopen som granskar och verifierar potentiella matchningar. Slutligen är denna metod mer exakt och effektiv än traditionella ansiktsigenkännings-teknologier.

Hur förbättrar användningen av mänskliga föremål (HLO) i Veritone Track identifieringsprocessen jämfört med att använda ansiktsigenkänning?

Användningen av HLO förbättrar identifieringsprocessen eftersom den inte kräver att LEA har tillgång till samma variabler som traditionell ansiktsigenkänning, d.v.s. ett fullständigt synligt mänskligt ansikte. Veritone Track är flexibel och kommer att använda all tillgänglig information oavsett kvaliteten på filmen, upplösningen eller vinkeln (högt upp på taket eller på ögonhöjd) på kameran. Trots fördelarna med Veritone Track är det och ansiktsigenkänning inte ömsesidigt uteslutande – LEA kan använda båda teknologierna samtidigt. Till exempel kan LEA använda Veritone Track för att konstruera en personskrivelse från stora mängder lågkvalitativ video medan de kör ansiktsigenkänning på videoprover av framsidans skott av en potentiell person av intresse.

Hur hjälper Veritones AI-drivna system till att påskynda utredningar samtidigt som de upprätthåller höga standarder för bevisshantering?

Veritone Investigate, Veritone Track eller alla Veritones applikationer för offentlig sektor använder AI för att dramatiskt påskynda manuella processer för LEA, vilket reducerar veckor eller dagars arbete till ett par timmar, vilket är alltmer kritiskt i och med den pågående personalbristen. Trots denna påskyndade hastighet upprätthåller Veritone höga standarder för bevisshantering genom att inte helt lita på AI-utdata. Dessa lösningar lämnar det slutliga ordet till den mänskliga utredaren för att granska de slutliga resultaten. Veritones teknologi möjliggör också för människor att följa höga standarder för bevisshantering och beviskedja. Dessutom har de inbyggda revisions-spår, så att LEA kan se hur utredaren kom fram till det slutliga resultatet. Enkelt uttryckt, AI ersätter inte människor – det förbättrar bara deras förmågor.

AI inom lagföring väcker oro för felaktig förföljelse av minoriteter, särskilt med städer som Detroit, Michigan som upplever flera felaktiga arresteringar på mindre än 1 år. Hur hanterar Veritone dessa etiska utmaningar?

Först använder Veritone alltid skyddsräcken och säkerhetsåtgärder för att minimera möjligheten till felaktig förföljelse. Till exempel använder Veritone Track inte biometriska markörer som ansiktsdrag för att bygga personskrivelse, utan förlitar sig på kläder, kroppstyp etc. För det andra skrapar dessa verktyg aldrig internet, sociala medier eller stora databaser som en passmyndighet för att hämta data. När en LEA använder våra lösningar i ett aktivt ärende eller utredning kan de bara jämföra uppladdad foto- eller videobevis mot en databas med kända brottslingar med arresteringsregister. I fallet med vad som hände i Detroit, Michigan, använde lagföringsmyndigheterna en lösning som hämtade data från hela internet utan att en mänsklig utredare var “i loopen” för att validera resultaten, vilket resulterade i felaktig förföljelse av oskyldiga medborgare.

Kan du utveckla hur Veritones AI säkerställer noggrannheten i de ledtrådar som genereras?

Veritones AI genererar potentiella ledtrådar som mänskliga utredare kan följa upp. Medan AI ger utredaren användbara fynd och resultat, fattar personen fortfarande det slutliga beslutet. Återigen, fallet i Detroit, Michigan, såg lagföringsmyndigheterna lita blint på ansiktsigenkänning för att göra jobbet. Detta blinda förtroende var slutligen problematiskt eftersom dessa modeller förlitade sig på data som resulterade i demografiska eller rasrelaterade bias.

Dessutom väljer Veritone att träna sina AI-motorer och modeller med data som är representativa för innehållet. Innan de tränar data kommer Veritone att sudda ut känsliga video- och ljud-element från källor som kroppsburna kameror, bilkameror, CCTV-film med mera, eller använda offentligt tillgängliga icke-känsliga data. Dessutom kommer Veritone att validera resultaten med kundfeedback för kontinuerlig förbättring.

Hur hanterar Veritone möjligheten för AI att förstärka befintliga bias inom lagföringsdata?

Veritone använder en flermodell-approach som arbetar med många olika tredjepartsleverantörer för att få en större perspektiv snarare än att förlita sig på en enda AI-modell. Särskilt tillåter denna metod Veritone att standardisera inom en given kategori av AI-kognition, såsom transkription, översättning, ansiktsigenkänning, objektdetektion eller textigenkänning. Genom att utnyttja “visdomen i folkmassan” kan Veritone köra samma innehåll mot flera modeller inom samma kategori av AI-kognition för att hjälpa till att skydda mot bias.

Vilka steg tas för att säkerställa att Veritones AI-applikationer inte kränker integritetsrättigheter?

Det finns två bästa metoder som Veritones AI-applikationer följer för att säkerställa att de inte kränker integritetsrättigheter. En: kundens data förblir alltid kundens data. De har rätt att hantera, ta bort eller göra vad de vill med sin data. Även om kundens data körs i Veritones säkra molnbaserade miljö, behåller de full äganderätt. Två: Veritone använder aldrig kundens data utan deras tillstånd eller samtycke. Särskilt använder Veritone inte kundens data för att omträna AI-modeller. Säkerhet och integritet är av största vikt, och kunder kommer bara att arbeta med förtränade modeller som använder data som suddats bort från all känslig, biometrisk och personlig identifierbar information.

Hur balanserar Veritone behovet av snabb teknisk utveckling med etiska överväganden och samhällelig påverkan?

När man utvecklar AI i en snabb takt, tenderar man att använda så mycket data som möjligt och kontinuerligt skörda den för att förbättra och växa. Medan en sådan strategi tenderar att resultera i en accelererad mognad av AI-modellen, öppnar den upp olika etiska, integritets- och samhälleliga problem.

För att komma till rätta med detta är Veritone alltid på jakt efter den bästa AI. Under den generativa AI-boomen hade Veritone tidig tillgång till teknologi från OpenAI och andra partners. Men i stället för att skynda på och distribuera nya lösningar omedelbart, frågade vi, “Hur kommer våra kunder att använda AI inom ett korrekt användningsfall?” Med andra ord, efter att ha undersökt LEA:s uppdrag och smärt-punkter, bestämde vi oss för att tillämpa generativ AI på ett ansvarsfullt sätt som höll människor i centrum, samtidigt som användarna kunde uppnå sina mål och övervinna utmaningar.

Tack för den underbara intervjun, läsare som vill lära sig mer bör besöka Veritone.