Ben Ha, Solutions Architect Director, Government, Legal & Compliance division, Veritone – Interview Series

Ben Ha è il Solutions Architect Director per la divisione Government, Legal e Compliance di Veritone. Ben ha oltre 15 anni di esperienza nel settore del software, lavorando principalmente in un ruolo di pre-vendita tecnica. Ben ha lavorato con clienti nel settore governativo e legale negli ultimi 4 anni.

Veritone progetta soluzioni di intelligenza artificiale centrate sull’uomo. Il software e i servizi di Veritone consentono ai dipendenti di molte delle più grandi e riconoscibili aziende del mondo di funzionare in modo più efficiente, accelerare la presa di decisioni e aumentare la redditività.

Come si integra la soluzione iDEMS di Veritone con i sistemi di applicazione della legge esistenti e quali efficienze specifiche introduce?

I sistemi esistenti delle agenzie di applicazione della legge (LEA) hanno di solito dati provenienti da molte fonti diverse, come ad esempio sistemi di telecamere indossabili, sistemi di gestione video e altre telecamere e dispositivi. iDEMS consente alle LEA di creare collegamenti in questi sistemi esistenti tramite un’API o altri percorsi di integrazione. Quindi, virtualizza sopra questi sistemi, consentendo alle forze di polizia di mantenere i dati master dove si trovano nei sistemi di origine. All’interno dell’applicazione Veritone Investigate, l’utente ha accesso a un file proxy a bassa risoluzione che può utilizzare per la visualizzazione, la condivisione, la ricerca, l’analisi, ecc. Poiché i dati sono in un’unica posizione centrale, è più facile per l’utente eseguire il processo di indagine senza passare tra applicazioni isolate.

Veritone Investigate consente inoltre all’utente di sfruttare la cognizione dell’IA per analizzare cosa si trova all’interno del contenuto stesso. In altre parole, le LEA possono utilizzare l’IA per strutturare dati non strutturati, fornendo informazioni di metadati che rendono più facile trovare le cose. La maggior parte dei sistemi funziona semplicemente come archiviazione di dati e non contiene informazioni sui parole pronunciate o sui volti o oggetti all’interno del contenuto. Con Investigate e la soluzione iDEMS, l’IA è integrata in modo nativo e funziona automaticamente al momento dell’ingestione, eliminando la necessità di guardare o ascoltare manualmente il contenuto per ottenere il contesto, accelerando il processo di indagine.

Quali sono i requisiti tecnici per le agenzie di applicazione della legge per implementare la soluzione iDEMS di Veritone?

Le LEA non necessitano di requisiti tecnici significativi per implementare la soluzione iDEMS di Veritone – in realtà, la soluzione funziona con quasi tutte le LEA, indipendentemente da quali sistemi abbiano o meno in atto. Poiché Veritone dispone di adattatori di ingestione che possono connettersi con vari API, l’unica cosa di cui le LEA avranno bisogno è qualcuno con accesso a questi sistemi esistenti. Inoltre, iDEMS è basato su cloud e le LEA avranno bisogno di una connessione internet ad alta velocità e di un browser web moderno.

È possibile fornire ulteriori dettagli su come Veritone Track si differenzia dalle tecnologie di riconoscimento facciale tradizionali in termini di accuratezza ed efficienza?

Il riconoscimento facciale tradizionale si basa su caratteristiche facciali visibili (occhi, naso, bocca, ecc.) per identificare una persona di interesse. Il problema è che se il video non cattura il viso della persona, la tecnologia non può identificare o tracciare quell’individuo. Ad esempio, se le immagini catturano solo la schiena di qualcuno, il viso della persona è coperto da una maschera o un cappuccio, o il video non ha un angolo ottimale del viso, il riconoscimento facciale non funziona.

In alternativa, Veritone Track tratta le potenziali persone di interesse come oggetti in un processo noto come oggetti simili a esseri umani (HLO). Attraverso gli HLO, Veritone Track può creare una “impronta personale” unica di quell’individuo in base ad attributi visivamente distinguibili. Questi attributi visivamente distinguibili potrebbero essere un cappello, occhiali, zaino o se stanno trasportando qualcosa nella loro mano, anche il contrasto di colore tra i loro vestiti e le scarpe. Considera anche il tipo di corpo della persona, ad esempio la lunghezza del braccio, la statura, il peso, ecc.

Dopo aver creato quell’impronta personale, Veritone Track incorpora il vecchio lavoro di polizia attraverso un anello umano che esamina e verifica le corrispondenze potenziali. In definitiva, questo metodo è più preciso ed efficiente delle tecnologie di riconoscimento facciale tradizionali.

Come l’utilizzo di oggetti simili a esseri umani (HLO) in Veritone Track migliora il processo di identificazione rispetto all’utilizzo del riconoscimento facciale?

Sfruttare gli HLO migliora il processo di identificazione perché non richiede alle LEA di avere accesso alle stesse variabili del riconoscimento facciale tradizionale, ad esempio un viso umano completamente visibile. Veritone Track è flessibile in quanto utilizzerà qualsiasi informazione disponibile indipendentemente dalla qualità del video, dalla risoluzione o dall’angolo (alto sul soffitto o a livello degli occhi) della telecamera. Nonostante i vantaggi di Veritone Track, esso e il riconoscimento facciale non sono mutuamente esclusivi – le LEA possono utilizzare entrambe le tecnologie contemporaneamente. Ad esempio, le LEA potrebbero utilizzare Veritone Track per costruire un’impronta personale da grandi quantità di video di bassa qualità mentre eseguono il riconoscimento facciale su campioni video di fotografie frontali di una persona potenzialmente di interesse.

Come il sistema alimentato da intelligenza artificiale di Veritone aiuta ad accelerare le indagini mantenendo allo stesso tempo alti standard di gestione delle prove?

Veritone Investigate, Veritone Track o tutte le applicazioni del settore pubblico di Veritone utilizzano l’IA per accelerare notevolmente i processi manuali per le LEA, riducendo settimane o giorni di lavoro in poche ore, il che è sempre più critico tra le attuali carenze di personale. Nonostante questa velocità accelerata, Veritone mantiene alti standard di gestione delle prove senza affidarsi completamente ai risultati dell’IA. Queste soluzioni lasciano l’ultima parola all’investigatore umano per esaminare i risultati finali. La tecnologia di Veritone consente inoltre agli esseri umani di conformarsi agli alti standard di gestione delle prove e della catena di custodia. Allo stesso modo, hanno percorsi di audit integrati, quindi le LEA possono vedere come l’investigatore è arrivato al risultato finale. In poche parole, l’IA non sostituisce gli esseri umani – li migliora semplicemente.

L’IA nelle forze di polizia solleva preoccupazioni riguardo alla persecuzione errata di minoranze, soprattutto con città come Detroit, Michigan che stanno sperimentando molteplici arresti errati in meno di 1 anno. Come affronta Veritone queste sfide etiche?

Innanzitutto, Veritone utilizza sempre paratie e misure di sicurezza per minimizzare la possibilità di persecuzione errata. Ad esempio, Veritone Track non utilizza marcatori biometrici come le caratteristiche facciali per creare impronte personale, ma si basa su abbigliamento, tipo di corpo, ecc. In secondo luogo, questi strumenti non setacciano mai internet, i social media o enormi database come un’agenzia di passaporti per ottenere dati. Quando una LEA utilizza le nostre soluzioni in un caso o indagine attiva, può confrontare solo le prove fotografiche o video caricate contro un database di noti autori di reati con registri di arresto. Nel caso di ciò che è accaduto a Detroit, Michigan, le forze di polizia hanno utilizzato una soluzione che ha raccolto dati da tutto internet senza che un investigatore umano fosse “nella loop” per convalidare i risultati, portando alla persecuzione errata di cittadini innocenti.

È possibile elaborare come l’IA di Veritone garantisce l’accuratezza dei lead generati?

L’IA di Veritone genera potenziali lead che gli investigatori umani possono perseguire. Mentre l’IA fornisce all’investigatore risultati e scoperte utili, la persona prende comunque la decisione finale. Ancora una volta, il caso di Detroit, Michigan, ha visto le forze di polizia che si affidavano al solo riconoscimento facciale per fare il lavoro. Questa fiducia cieca è stata alla fine problematica poiché questi modelli si basavano su dati che hanno portato a pregiudizi demografici o razziali associati.

Inoltre, i dati che Veritone sceglie per formare i suoi motori e modelli di IA sono rappresentativi del contenuto. Prima di formare i dati, Veritone cancellerà gli elementi video e audio sensibili da fonti come telecamere indossabili, video in auto, immagini CCTV, ecc. o utilizzerà dati pubblicamente disponibili non sensibili. Allo stesso modo, Veritone convaliderà i risultati con il feedback dei clienti per il miglioramento continuo.

Come Veritone gestisce la possibilità che l’IA perpetui i pregiudizi esistenti all’interno dei dati delle forze di polizia?

Veritone utilizza un approccio a multi-modello che funziona con molti fornitori di terze parti per ottenere una prospettiva più ampia piuttosto che affidarsi puramente a un modello di IA. In particolare, questo metodo consente a Veritone di standardizzare all’interno di una categoria di cognizione dell’IA, come la trascrizione, la traduzione, il riconoscimento facciale, il riconoscimento di oggetti o il riconoscimento di testo. Sfruttando la “saggezza della folla”, Veritone può eseguire lo stesso contenuto contro più modelli all’interno della stessa categoria di cognizione dell’IA per aiutare a guardare contro i pregiudizi.

Quali passaggi vengono intrapresi per garantire che le applicazioni di IA di Veritone non violino i diritti alla privacy?

Ci sono due best practice che le applicazioni di IA di Veritone seguono per garantire che non violino i diritti alla privacy. Uno: i dati del cliente rimangono sempre i dati del cliente. Hanno il diritto di gestire, cancellare o fare ciò che vogliono con i loro dati. Sebbene i dati del cliente funzionino nell’ambiente cloud-hosted sicuro di Veritone, essi mantengono la piena proprietà. Due: Veritone non utilizza mai i dati del cliente senza il loro permesso o consenso. In particolare, Veritone non utilizza i dati del cliente per riaddestrare i modelli di IA. La sicurezza e la privacy sono di importanza fondamentale e i clienti lavoreranno solo con modelli pre-addestrati che utilizzano dati cancellati di tutte le informazioni sensibili, biometriche e personali.

Come Veritone bilancia la necessità di rapido progresso tecnologico con considerazioni etiche e impatto sociale?

Quando si sviluppa l’IA a un ritmo rapido, la tendenza è quella di utilizzare quanti più dati possibile e di raccoglierli continuamente per migliorare e crescere. Sebbene questo approccio tenda a risultare in una maturità accelerata del modello di IA, apre vari problemi etici, di privacy e sociali.

A questo proposito, Veritone cerca sempre il meglio dell’IA. Durante la febbre dell’IA generativa, Veritone ha avuto un accesso anticipato alla tecnologia di OpenAI e altri partner. Tuttavia, invece di procedere e distribuire nuove soluzioni immediatamente, abbiamo chiesto: “Come i nostri clienti utilizzeranno effettivamente l’IA all’interno di un caso d’uso appropriato?” In altre parole, dopo aver esaminato la missione e i punti dolenti delle LEA, abbiamo determinato come applicare l’IA generativa in modo responsabile, mantenendo gli esseri umani al centro e consentendo agli utenti di raggiungere i loro obiettivi e superare le sfide.

Ad esempio, Veritone Investigate presenta un modello di linguaggio grande e isolato in rete che può riassumere conversazioni o contenuti parlati. Se una telecamera indossabile cattura un incidente o un investigatore intervista qualcuno, Veritone Investigate può trascrivere quel contenuto e riassumerlo automaticamente, il che è molto utile per i detective o gli investigatori che devono fornire un riassunto di un’intera intervista in un breve paragrafo al procuratore distrettuale o alla procura. Tuttavia, la persona ha ancora la possibilità di esaminare l’output generato dall’IA per apportare le modifiche e i tagli necessari prima della presentazione.

Grazie per la grande intervista, i lettori che desiderano saperne di più possono visitare Veritone.