Ben Ha, Diretor de Arquitetura de Soluções, Divisão de Governo, Jurídico e Conformidade, Veritone – Série de Entrevistas

Ben Ha é o Diretor de Arquitetura de Soluções para a divisão de Governo, Jurídico e Conformidade da Veritone. Ben tem mais de 15 anos de experiência na indústria de software, atuando principalmente em um papel de pré-vendas técnico. Ben vem trabalhando com clientes no espaço governamental e jurídico nos últimos 4 anos.

Veritone projeta soluções de IA centradas no ser humano. O software e os serviços da Veritone permitem que indivíduos em muitas das maiores e mais reconhecidas marcas do mundo operem de forma mais eficiente, acelerem a tomada de decisões e aumentem a lucratividade.

Como o iDEMS da Veritone se integra aos sistemas de aplicação da lei existentes e quais eficiências específicas ele introduz?

As agências de aplicação da lei (LEAs) têm sistemas existentes que normalmente têm dados de muitas fontes diferentes, como sistemas de câmeras corporais, sistemas de gerenciamento de vídeo e outras câmeras e dispositivos. O iDEMS permite que as LEAs criem conexões nesses sistemas existentes com uma API ou outros caminhos de integração. Em seguida, ele virtualiza sobre esses sistemas, permitindo que as agências de aplicação da lei mantenham os dados mestres onde eles estão nos sistemas de origem. Dentro do aplicativo Veritone Investigate, o usuário tem acesso a um arquivo de proxy de baixa resolução que pode ser usado para visualização, compartilhamento, pesquisa, análise, etc. Como os dados estão em um local central, é mais fácil para o usuário passar pelo processo de investigação sem alternar entre aplicativos isolados.

O Veritone Investigate também permite que o usuário utilize a cognição de IA para analisar o que está dentro do conteúdo em si. Em outras palavras, as LEAs podem usar a IA para estruturar dados não estruturados, fornecendo informações de metadados que tornam a busca de coisas muito mais fácil. A maioria dos sistemas atua apenas como armazenamento de dados e não contém informações sobre as palavras faladas ou os rostos ou objetos dentro do conteúdo. Com o Investigate e a solução iDEMS, a IA é nativamente integrada e é executada automaticamente após a ingestão, eliminando a necessidade de assistir ou ouvir manualmente o conteúdo para obter contexto, acelerando o processo de investigação.

Quais são os requisitos técnicos para que as agências de aplicação da lei implementem o iDEMS da Veritone?

As LEAs não precisam possuir requisitos técnicos significativos para implementar o iDEMS da Veritone – na verdade, a solução funcionará com quase qualquer tamanho de LEA, independentemente dos sistemas que eles tenham ou não em vigor. Como a Veritone tem adaptadores de ingestão que podem se conectar a várias APIs, a única coisa que a LEA precisará é de alguém com acesso a esses sistemas existentes. Além disso, o iDEMS é baseado em nuvem, e a LEA precisará de uma conexão de internet de alta velocidade e um navegador da web moderno.

Como o Veritone Track se diferencia das tecnologias de reconhecimento facial tradicionais em termos de precisão e eficiência?

O reconhecimento facial tradicional depende de recursos faciais visíveis (olhos, nariz, boca, etc.) para identificar uma pessoa de interesse. O problema é que, se o vídeo não captura o rosto da pessoa, a tecnologia não pode identificar ou rastrear esse indivíduo. Por exemplo, se a filmagem captura apenas as costas de alguém, o rosto da pessoa está coberto por uma máscara ou capuz, ou o vídeo não tem um ângulo ótimo do rosto, o reconhecimento facial não funcionará.

Em alternativa, o Veritone Track trata os possíveis indivíduos de interesse como objetos em um processo conhecido como objetos semelhantes a humanos (HLOs). Através dos HLOs, o Veritone Track pode criar uma “impressão digital” única dessa pessoa com base em atributos visualmente distinguíveis. Esses atributos visualmente distinguíveis podem ser um chapéu, óculos, mochila ou se a pessoa estiver carregando algo na mão, até a contraste de cor entre as roupas e os sapatos. Ele também considera o tipo de corpo da pessoa, por exemplo, comprimento do braço, estatura, peso, etc.

Após criar essa impressão digital, o Veritone Track incorpora o trabalho policial tradicional por meio de um laço humano que revisa e verifica as correspondências potenciais. Em última análise, esse método é mais preciso e eficiente do que as tecnologias de reconhecimento facial tradicionais.

Como o uso de objetos semelhantes a humanos (HLOs) no Veritone Track melhora o processo de identificação em comparação com o uso de reconhecimento facial?

A utilização de HLOs melhora o processo de identificação porque não exige que a LEA tenha acesso às mesmas variáveis que o reconhecimento facial tradicional, ou seja, um rosto humano completamente visível. O Veritone Track é flexível, pois usará qualquer informação disponível, independentemente da qualidade da filmagem, da resolução ou do ângulo (alto no teto ou no nível dos olhos) da câmera. Apesar das vantagens do Veritone Track, ele e o reconhecimento facial não são mutuamente exclusivos – as LEAs podem usar ambas as tecnologias simultaneamente. Por exemplo, as LEAs poderiam usar o Veritone Track para construir uma impressão digital a partir de grandes quantidades de vídeo de baixa qualidade, enquanto executam o reconhecimento facial em amostras de vídeo de tiros frontais de uma possível pessoa de interesse.

Como o sistema de IA da Veritone ajuda a acelerar as investigações, mantendo altos padrões de manipulação de evidências?

O Veritone Investigate, o Veritone Track ou todos os aplicativos de setor público da Veritone usam a IA para acelerar dramaticamente os processos manuais para as LEAs, reduzindo semanas ou dias de trabalho para apenas algumas horas, o que é cada vez mais crítico diante das atuais escassezes de pessoal. Apesar dessa velocidade acelerada, a Veritone mantém altos padrões de manipulação de evidências, não confiando totalmente nos resultados da IA. Essas soluções deixam a palavra final para o investigador humano revisar os resultados finais. A tecnologia da Veritone também permite que os humanos atuem de acordo com altos padrões de manipulação de evidências e cadeia de custódia. Da mesma forma, eles têm trilhas de auditoria incorporadas, para que a LEA possa ver como o investigador chegou ao resultado final. Em resumo, a IA não substitui os humanos – ela apenas melhora suas capacidades.

A IA na aplicação da lei levanta preocupações sobre a perseguição errada de minorias, especialmente com cidades como Detroit, Michigan, experimentando múltiplas prisões erradas em menos de 1 ano. Como a Veritone aborda esses desafios éticos?

Primeiro, a Veritone sempre usa guardrails e medidas de segurança para minimizar a possibilidade de perseguição errada. Por exemplo, o Veritone Track não usa marcadores biométricos, como recursos faciais, para criar impressões digitais, mas depende de roupas, tipo de corpo, etc. Em segundo lugar, essas ferramentas nunca vasculham a internet, as mídias sociais ou grandes bancos de dados, como uma Agência de Passaporte, para obter dados. Quando uma LEA usa nossas soluções em um caso ou investigação ativa, ela só pode comparar evidências de foto ou vídeo carregadas contra um banco de dados de infractores conhecidos com registros de prisão. No caso do que aconteceu em Detroit, Michigan, a aplicação da lei usou uma solução que coletou dados de toda a internet sem um investigador humano “no loop” para validar os resultados, resultando na perseguição errada de cidadãos inocentes.

Pode elaborar sobre como a IA da Veritone garante a precisão das pistas geradas?

A IA da Veritone gera pistas potenciais que os investigadores humanos podem perseguir. Embora a IA forneça ao investigador resultados e descobertas úteis, a pessoa ainda toma a decisão final. Mais uma vez, o caso de Detroit, Michigan, viu a aplicação da lei confiando apenas no reconhecimento facial para fazer o trabalho. Essa confiança cega foi, em última análise, problemática, pois esses modelos dependiam de dados que resultavam em vieses demográficos ou raciais associados.

Além disso, os dados que a Veritone escolhe para treinar seus motores e modelos de IA são representativos do conteúdo. Antes de treinar os dados, a Veritone irá redigir elementos de vídeo e áudio sensíveis de fontes como câmeras corporais, vídeo em carro, filmagens de CCTV, etc., ou usará dados públicos não sensíveis. Da mesma forma, a Veritone validará os resultados com feedback dos clientes para melhoria contínua.

Como a Veritone lida com o potencial de a IA perpetuar vieses existentes dentro dos dados de aplicação da lei?

A Veritone usa uma abordagem de múltiplos modelos que trabalha com muitos fornecedores terceirizados para obter uma perspectiva mais ampla, em vez de depender puramente de um modelo de IA. Em particular, esse método permite que a Veritone padronize dentro de uma categoria específica de cognição de IA, como transcrição, tradução, reconhecimento facial, detecção de objetos ou reconhecimento de texto. Ao aproveitar a “sabedoria da multidão”, a Veritone pode executar o mesmo conteúdo contra vários modelos dentro da mesma categoria de cognição de IA para ajudar a proteger contra vieses.

Quais são os passos tomados para garantir que os aplicativos de IA da Veritone não infrinjam os direitos de privacidade?

Existem duas práticas recomendadas que os aplicativos de IA da Veritone seguem para garantir que não infrinjam os direitos de privacidade. Uma: os dados do cliente permanecem como dados do cliente o tempo todo. Eles têm o direito de gerenciar, excluir ou fazer o que quiserem com seus dados. Embora os dados do cliente sejam executados no ambiente de nuvem seguro da Veritone, eles retêm a propriedade total. Dois: a Veritone nunca usa os dados do cliente sem permissão ou consentimento. Em particular, a Veritone não usa os dados do cliente para retreinar modelos de IA. A segurança e a privacidade são de suma importância, e os clientes só trabalharão com modelos pré-treinados que usem dados redigidos de todas as informações sensíveis, biométricas e de identificação pessoal.

Como a Veritone equilibra a necessidade de avanço tecnológico rápido com considerações éticas e impacto social?

Quando se desenvolve a IA a um ritmo acelerado, a tendência é usar o máximo de dados possível e colher continuamente para melhorar e crescer. Embora essa abordagem tenda a resultar na maturidade acelerada do modelo de IA, ela abre várias preocupações éticas, de privacidade e sociais.

Para esse fim, a Veritone está sempre procurando a melhor IA. Durante a febre da IA gerativa, a Veritone teve acesso antecipado à tecnologia da OpenAI e de outros parceiros. No entanto, em vez de avançar e implantar novas soluções imediatamente, perguntamos: “Como nossos clientes realmente usarão a IA dentro de um caso de uso apropriado?” Em outras palavras, após examinar a missão e os pontos de dor das LEAs, determinamos como aplicar a IA Gerativa de forma responsável, mantendo os humanos no centro, permitindo que os usuários atinjam seus objetivos e superem desafios.

Por exemplo, o Veritone Investigate apresenta um modelo de linguagem grande e isolado da rede que pode resumir conversas faladas ou conteúdo. Se uma câmera corporal capturar um incidente ou um investigador entrevistar alguém, o Veritone Investigate pode transcrever esse conteúdo e resumi-lo automaticamente, o que é muito útil para detetives ou investigadores que precisam fornecer um resumo de uma entrevista inteira em um parágrafo curto para o DA ou promotor. No entanto, a pessoa ainda tem a chance de revisar a saída gerada pela IA para fazer edições e alterações necessárias antes da apresentação.

Obrigado pela grande entrevista, leitores que desejam aprender mais devem visitar Veritone.