Ben Ha, Diretor de Arquitetura de Soluções, Divisão de Governo, Jurídico e Conformidade, Veritone – Série de Entrevistas

Ben Ha é o Diretor de Arquitetura de Soluções para a divisão de Governo, Jurídico e Conformidade da Veritone. Ben tem mais de 15 anos de experiência na indústria de software, atuando principalmente em um papel de pré-vendas técnico. Ben tem trabalhado com clientes no espaço governamental e jurídico nos últimos 4 anos.

Veritone projeta soluções de IA centradas no ser humano. O software e os serviços da Veritone permitem que indivíduos em muitas das maiores e mais reconhecidas marcas do mundo operem de forma mais eficiente, acelerem a tomada de decisões e aumentem a lucratividade.

Como o iDEMS da Veritone se integra aos sistemas de aplicação da lei existentes e quais eficiências específicas ele introduz?

Os sistemas existentes das agências de aplicação da lei (LEAs) normalmente têm dados de muitas fontes diferentes, como sistemas de câmeras corporais, sistemas de gerenciamento de vídeo e outras câmeras e dispositivos. O iDEMS permite que as LEAs construam conexões nesses sistemas existentes com uma API ou outros caminhos de integração. Em seguida, ele virtualiza sobre esses sistemas, permitindo que as agências de aplicação da lei mantenham os dados mestres onde estão nos sistemas de origem. Dentro do aplicativo Veritone Investigate, o usuário tem acesso a um arquivo de proxy de baixa resolução que pode ser usado para visualizar, compartilhar, pesquisar, analisar, etc. Como os dados estão em um local central, é mais fácil para o usuário passar pelo processo de investigação sem alternar entre aplicativos isolados.

O Veritone Investigate também permite que o usuário utilize a cognição de IA para analisar o que está dentro do conteúdo em si. Em outras palavras, as LEAs podem usar a IA para estruturar dados não estruturados, fornecendo informações de metadados que tornam a busca de coisas muito mais fácil. A maioria dos sistemas atua apenas como armazenamento de dados e não contém informações sobre as palavras faladas ou os rostos ou objetos dentro do conteúdo. Com o Investigate e a solução iDEMS, a IA é nativamente integrada e é executada automaticamente após a ingestão, eliminando a necessidade de assistir ou ouvir o conteúdo manualmente para obter contexto, acelerando o processo de investigação.

Quais são os requisitos técnicos para as agências de aplicação da lei implementarem o iDEMS da Veritone?

As LEAs não precisam possuir requisitos técnicos significativos para implementar o iDEMS da Veritone – na verdade, a solução funcionará com quase qualquer tamanho de LEA, independentemente dos sistemas que eles tenham ou não em vigor. Como a Veritone tem adaptadores de ingestão que podem se conectar a várias APIs, a única coisa que a LEA precisará é de alguém com acesso a esses sistemas existentes. Além disso, o iDEMS é baseado em nuvem e a LEA precisará de uma conexão de internet de alta velocidade e um navegador da web moderno.

Pode fornecer mais detalhes sobre como o Veritone Track se diferencia das tecnologias de reconhecimento facial tradicionais em termos de precisão e eficiência?

O reconhecimento facial tradicional depende de recursos faciais visíveis (olhos, nariz, boca, etc.) para identificar uma pessoa de interesse. O problema é que, se o vídeo não captura o rosto da pessoa, a tecnologia não pode identificar ou rastrear esse indivíduo. Por exemplo, se a filmagem captura apenas as costas de alguém, o rosto está coberto por uma máscara ou capuz, ou o vídeo não tem um ângulo ótimo do rosto, o reconhecimento facial não funcionará.

Alternativamente, o Veritone Track trata potenciais pessoas de interesse como objetos em um processo conhecido como objetos humanos semelhantes (HLOs). Através dos HLOs, o Veritone Track pode construir uma “impressão digital” única dessa pessoa com base em atributos visualmente distinguíveis. Esses atributos visualmente distinguíveis podem ser um chapéu, óculos, mochila ou se a pessoa estiver carregando algo em sua mão, mesmo a contraste de cor entre suas roupas e sapatos. Ele também considera o tipo de corpo da pessoa, por exemplo, comprimento do braço, estatura, peso, etc.

Depois de construir essa impressão digital, o Veritone Track incorpora o trabalho policial tradicional por meio de um laço humano que revisa e verifica possíveis combinações. Em última análise, esse método é mais preciso e eficiente do que as tecnologias de reconhecimento facial tradicionais.

Como o uso de objetos humanos semelhantes (HLOs) no Veritone Track melhora o processo de identificação em comparação com o uso de reconhecimento facial?

A utilização de HLOs melhora o processo de identificação porque não exige que a LEA tenha acesso às mesmas variáveis que o reconhecimento facial tradicional, ou seja, um rosto humano completamente visível. O Veritone Track é flexível, pois usará qualquer informação disponível, independentemente da qualidade da filmagem, da resolução ou do ângulo (alto no teto ou no nível dos olhos) da câmera. Apesar das vantagens do Veritone Track, ele e o reconhecimento facial não são mutuamente exclusivos – as LEAs podem usar ambas as tecnologias simultaneamente. Por exemplo, as LEAs poderiam usar o Veritone Track para construir uma impressão digital a partir de grandes quantidades de vídeo de baixa qualidade, enquanto executam o reconhecimento facial em amostras de vídeo de tiros frontais de uma possível pessoa de interesse.

Como o sistema de IA da Veritone ajuda a acelerar as investigações, mantendo altos padrões de manipulação de evidências?

O Veritone Investigate, o Veritone Track ou todas as aplicações de setor público da Veritone usam a IA para acelerar dramaticamente os processos manuais para as LEAs, reduzindo semanas ou dias de trabalho para apenas algumas horas, o que é cada vez mais crítico diante das atuais escassezes de pessoal. Apesar dessa velocidade acelerada, a Veritone mantém altos padrões de manipulação de evidências, não confiando totalmente nos resultados da IA. Essas soluções deixam a palavra final para o investigador humano revisar os resultados finais. A tecnologia da Veritone também permite que os humanos se conformem a altos padrões de manipulação de evidências e cadeia de custódia. Da mesma forma, eles têm trilhas de auditoria incorporadas, para que a LEA possa ver como o investigador chegou ao resultado final. Em resumo, a IA não substitui os humanos – apenas melhora suas capacidades.

A IA na aplicação da lei levanta preocupações sobre a perseguição injusta de minorias, especialmente em cidades como Detroit, Michigan, que experimentam múltiplas prisões injustas em menos de 1 ano. Como a Veritone aborda esses desafios éticos?

Em primeiro lugar, a Veritone sempre usa guardrails e medidas de segurança para minimizar a possibilidade de perseguição injusta. Por exemplo, o Veritone Track não usa marcadores biométricos, como recursos faciais, para construir impressões digitais, mas confia em roupas, tipo de corpo, etc. Em segundo lugar, essas ferramentas nunca vasculham a internet, as mídias sociais ou grandes bancos de dados, como uma agência de passaportes, para obter dados. Quando uma LEA usa nossas soluções em um caso ou investigação ativa, ela pode comparar apenas evidências de foto ou vídeo carregadas contra um banco de dados de ofensores conhecidos com registros de prisão. No caso do que aconteceu em Detroit, Michigan, a aplicação da lei usou uma solução que pegou dados de toda a internet sem um investigador humano “no loop” para validar os resultados, resultando na perseguição injusta de cidadãos inocentes.

Pode elaborar sobre como a IA da Veritone garante a precisão das pistas geradas?

A IA da Veritone gera pistas potenciais que os investigadores humanos podem perseguir. Embora a IA forneça ao investigador resultados e descobertas úteis, a pessoa ainda toma a decisão final. Mais uma vez, o caso de Detroit, Michigan, viu a aplicação da lei confiando apenas no reconhecimento facial para fazer o trabalho. Essa confiança cega foi, em última análise, problemática, pois esses modelos confiavam em dados que resultavam em vieses associados demograficamente ou racialmente.

Além disso, os dados que a Veritone escolhe para treinar seus motores e modelos de IA são representativos do conteúdo. Antes de treinar os dados, a Veritone irá redigir elementos de vídeo e áudio sensíveis de fontes como câmeras corporais, vídeo em carro, CCTV, etc., ou usará dados públicos não sensíveis. Da mesma forma, a Veritone validará os resultados com feedback do cliente para melhoria contínua.

Como a Veritone lida com a possibilidade de a IA perpetuar vieses existentes dentro dos dados da aplicação da lei?

A Veritone usa uma abordagem de múltiplos modelos que trabalha com muitos provedores de terceiros para obter uma perspectiva maior, em vez de confiar apenas em um modelo de IA. Em particular, esse método permite que a Veritone padronize dentro de uma categoria de cognição de IA, como transcrição, tradução, reconhecimento facial, detecção de objetos ou reconhecimento de texto. Ao aproveitar a “sabedoria da multidão”, a Veritone pode executar o mesmo conteúdo contra vários modelos dentro da mesma categoria de cognição de IA para ajudar a proteger contra vieses.

Quais são os passos tomados para garantir que as aplicações de IA da Veritone não infrinjam os direitos de privacidade?

Há duas práticas recomendadas que as aplicações de IA da Veritone seguem para garantir que elas não infrinjam os direitos de privacidade. Uma: os dados do cliente permanecem como dados do cliente a todo momento. Eles têm o direito de gerenciar, excluir ou fazer o que quiserem com seus dados. Embora os dados do cliente sejam executados no ambiente de nuvem seguro da Veritone, eles retêm a propriedade total. Dois: a Veritone nunca usa os dados do cliente sem permissão ou consentimento. Em particular, a Veritone não usa os dados do cliente para retreinar modelos de IA. A segurança e a privacidade são de suma importância, e os clientes só trabalharão com modelos pré-treinados que usam dados redigidos de todas as informações sensíveis, biométricas e de identificação pessoal.

Como a Veritone equilibra a necessidade de avanço tecnológico rápido com considerações éticas e impacto social?

Quando se desenvolve a IA a um ritmo acelerado, a tendência é usar o máximo de dados possível e colher continuamente para melhorar e crescer. Embora essa abordagem resulte na maturidade acelerada do modelo de IA, ela abre várias preocupações éticas, de privacidade e sociais.

Para esse fim, a Veritone sempre procura a melhor IA. Durante a febre da IA gerativa, a Veritone teve acesso antecipado à tecnologia da OpenAI e de outros parceiros. No entanto, em vez de avançar e implantar soluções novas imediatamente, perguntamos: “Como nossos clientes realmente usarão a IA dentro de um caso de uso apropriado?” Em outras palavras, após examinar a missão e os pontos de dor das LEAs, determinamos como aplicar a IA gerativa de forma responsável, mantendo os humanos no centro, permitindo que os usuários atinjam seus objetivos e superem desafios.

Por exemplo, o Veritone Investigate apresenta um modelo de linguagem grande e privado, isolado em rede, que pode resumir conversas faladas ou conteúdo. Se uma câmera corporal captura um incidente ou um investigador entrevista alguém, o Veritone Investigate pode transcrever esse conteúdo e resumi-lo automaticamente, o que é muito útil para detetives ou investigadores que precisam fornecer um resumo de toda a entrevista em um curto parágrafo para o DA ou a promotoria. No entanto, a pessoa ainda tem a chance de revisar a saída gerada pela IA para fazer edições e alterações necessárias antes da apresentação.

Obrigado pela grande entrevista, leitores que desejam aprender mais devem visitar Veritone.