Ben Ha, Director de Arquitectura de Soluciones, División de Gobierno, Legal y Cumplimiento, Veritone – Serie de Entrevistas

Ben Ha es el Director de Arquitectura de Soluciones para la división de Gobierno, Legal y Cumplimiento de Veritone. Ben tiene más de 15 años de experiencia en la industria del software, sirviendo principalmente en un papel de pre-ventas técnico. Ben ha estado trabajando con clientes en el espacio gubernamental y legal durante los últimos 4 años.

Veritone diseña soluciones de inteligencia artificial centradas en el ser humano. El software y los servicios de Veritone permiten a las personas en algunas de las marcas más grandes y reconocibles del mundo funcionar de manera más eficiente, acelerar la toma de decisiones y aumentar la rentabilidad.

¿Cómo se integra la solución iDEMS de Veritone con los sistemas de aplicación de la ley existentes, y qué eficiencias específicas introduce?

Los sistemas existentes de las agencias de aplicación de la ley (LEA) suelen tener datos de muchas fuentes diferentes, como sistemas de cámaras portátiles, sistemas de gestión de video y otras cámaras y dispositivos. iDEMS permite a las LEA construir conexiones en esos sistemas existentes con una API o otros caminos de integración. Luego, virtualiza sobre esos sistemas, permitiendo a las agencias de aplicación de la ley mantener los datos maestros donde están en los sistemas de origen. Dentro de la aplicación Veritone Investigate, el usuario tiene acceso a un archivo de proxy de baja resolución que puede utilizar para ver, compartir, buscar, analizar, etc. Debido a que los datos están en un lugar central, es más fácil para el usuario pasar por el proceso de investigación sin cambiar entre aplicaciones siloeadas.

Veritone Investigate también permite al usuario utilizar la cognición de inteligencia artificial para analizar lo que hay dentro del contenido en sí. En otras palabras, las LEA pueden utilizar la inteligencia artificial para estructurar datos no estructurados, proporcionando información de metadatos que hace que encontrar cosas sea mucho más fácil. La mayoría de los sistemas simplemente actúan como almacenamiento de datos y no contienen información sobre las palabras habladas o las caras u objetos dentro del contenido. Con Investigate y la solución iDEMS, la inteligencia artificial está integrada de forma nativa y se ejecuta automáticamente al ingerir, eliminando la necesidad de ver o escuchar manualmente el contenido para obtener contexto, acelerando el proceso de investigación.

¿Cuáles son los requisitos técnicos para que las agencias de aplicación de la ley implementen la solución iDEMS de Veritone?

Las LEA no necesitan tener requisitos técnicos significativos para implementar la solución iDEMS de Veritone, de hecho, la solución funcionará con casi cualquier tamaño de LEA, independientemente de los sistemas que tengan o no en su lugar. Debido a que Veritone tiene adaptadores de ingesta que pueden conectarse con varias API, lo único que necesitará la LEA es alguien con acceso a esos sistemas existentes. Además, iDEMS es basado en la nube, y la LEA necesitará una conexión a Internet de alta velocidad y un navegador web moderno.

¿Puede proporcionar más detalles sobre cómo Veritone Track se diferencia de las tecnologías de reconocimiento facial tradicionales en términos de precisión y eficiencia?

El reconocimiento facial tradicional se basa en características faciales visibles (ojos, nariz, boca, etc.) para identificar a una persona de interés. El problema es que si el video no captura la cara de la persona, la tecnología no puede identificar o rastrear a esa persona. Por ejemplo, si la filmación solo captura la espalda de alguien, la cara de la persona está cubierta por una máscara o capucha, o el video no tiene un ángulo óptimo de la cara, el reconocimiento facial no funcionará.

Alternativamente, Veritone Track trata a las personas potenciales de interés como objetos en un proceso conocido como objetos humanoides (HLO). A través de HLO, Veritone Track puede construir una “huella digital” única de esa persona basada en atributos visualmente distinguibles. Estos atributos visualmente distinguibles podrían ser un sombrero, gafas, mochila o si están llevando algo en la mano, incluso el contraste de color entre su ropa y zapatos. También considera el tipo de cuerpo de la persona, por ejemplo, la longitud del brazo, la estatura, el peso, etc.

Después de construir esa huella digital, Veritone Track incorpora el trabajo policial tradicional a través de un bucle humano que revisa y verifica las coincidencias potenciales. En última instancia, este método es más preciso y eficiente que las tecnologías de reconocimiento facial tradicionales.

¿Cómo mejora el uso de objetos humanoides (HLO) en Veritone Track el proceso de identificación en comparación con el uso de reconocimiento facial?

El uso de HLO mejora el proceso de identificación porque no requiere que la LEA tenga acceso a las mismas variables que el reconocimiento facial tradicional, es decir, una cara humana completamente visible. Veritone Track es flexible en el sentido de que utilizará cualquier información disponible, independientemente de la calidad de la filmación, la resolución o el ángulo (alto en el techo o a nivel de ojos) de la cámara. A pesar de las ventajas de Veritone Track, no es mutuamente exclusivo con el reconocimiento facial, las LEA pueden utilizar ambas tecnologías simultáneamente. Por ejemplo, las LEA podrían utilizar Veritone Track para construir una huella digital de una persona a partir de grandes cantidades de video de baja calidad, mientras ejecutan reconocimiento facial en muestras de video de disparos frontales de una persona potencial de interés.

¿Cómo ayuda el sistema de inteligencia artificial de Veritone a acelerar las investigaciones mientras mantiene altos estándares de manejo de evidencia?

Veritone Investigate, Veritone Track o todas las aplicaciones de sector público de Veritone utilizan la inteligencia artificial para acelerar dramáticamente los procesos manuales para las LEA, reduciendo semanas o días de trabajo a solo unas horas, lo que es cada vez más crítico en medio de las escaseces de personal en curso. A pesar de esta velocidad acelerada, Veritone mantiene altos estándares de manejo de evidencia al no confiar completamente en las salidas de la inteligencia artificial. Estas soluciones dejan la última palabra al investigador humano para revisar los resultados finales. La tecnología de Veritone también permite a los humanos ajustarse a altos estándares de manejo de evidencia y cadena de custodia. Asimismo, tienen registros de auditoría incorporados, por lo que la LEA puede ver cómo el investigador llegó al resultado final. En resumen, la inteligencia artificial no reemplaza a los humanos, simplemente mejora sus capacidades.

La inteligencia artificial en la aplicación de la ley plantea preocupaciones sobre la persecución injusta de minorías, especialmente con ciudades como Detroit, Michigan experimentando varios arrestos falsos en menos de 1 año. ¿Cómo aborda Veritone estos desafíos éticos?

Primero, Veritone siempre utiliza guardrails y medidas de seguridad para minimizar la posibilidad de persecución injusta. Por ejemplo, Veritone Track no utiliza marcadores biométricos como características faciales para construir huellas digitales, sino que se basa en ropa, tipo de cuerpo, etc. En segundo lugar, estas herramientas nunca raspan Internet, redes sociales o grandes bases de datos como una agencia de pasaportes para obtener datos. Cuando una LEA utiliza nuestras soluciones en un caso o investigación activa, solo puede comparar evidencia de foto o video subida contra una base de datos de delincuentes conocidos con registros de arresto. En el caso de lo que sucedió en Detroit, Michigan, la aplicación de la ley utilizó una solución que obtuvo datos de todo Internet sin que un investigador humano estuviera “en el bucle” para validar los resultados, lo que resultó en la persecución injusta de ciudadanos inocentes.

¿Puede elaborar sobre cómo la inteligencia artificial de Veritone garantiza la precisión de las pistas generadas?

La inteligencia artificial de Veritone genera pistas potenciales que los investigadores humanos pueden perseguir. Mientras que la inteligencia artificial proporciona al investigador hallazgos y resultados útiles, la persona todavía toma la decisión final. De nuevo, el caso de Detroit, Michigan, vio a la aplicación de la ley confiando solo en el reconocimiento facial para hacer el trabajo. Esta confianza ciega resultó problemática, ya que estos modelos se basaron en datos que resultaron en sesgos demográficos o raciales asociados.

Además, los datos que Veritone elige para entrenar sus motores y modelos de inteligencia artificial son representativos del contenido. Antes de entrenar los datos, Veritone redactará elementos de video y audio sensibles de fuentes como cámaras portátiles, video en coche, filmación de CCTV, etc., o utilizará datos no sensibles disponibles públicamente. Asimismo, Veritone validará los resultados con comentarios de los clientes para una mejora continua.

¿Cómo maneja Veritone el potencial de que la inteligencia artificial perpetúe sesgos existentes dentro de los datos de la aplicación de la ley?

Veritone utiliza un enfoque de múltiples modelos que trabaja con muchos proveedores de terceros para obtener una perspectiva más amplia en lugar de confiar únicamente en un modelo de inteligencia artificial. En particular, este método permite a Veritone estandarizar dentro de una categoría determinada de cognición de inteligencia artificial, como transcripción, traducción, reconocimiento facial, detección de objetos o reconocimiento de texto. Al aprovechar la “sabiduría de la multitud”, Veritone puede ejecutar el mismo contenido contra múltiples modelos dentro de la misma categoría de cognición de inteligencia artificial para ayudar a proteger contra sesgos.

¿Qué pasos se toman para garantizar que las aplicaciones de inteligencia artificial de Veritone no infrinjan los derechos de privacidad?

Hay dos mejores prácticas que las aplicaciones de inteligencia artificial de Veritone siguen para garantizar que no infrinjan los derechos de privacidad. Uno: los datos del cliente permanecen siendo los datos del cliente en todo momento. Tienen el derecho de gestionar, eliminar o hacer lo que deseen con sus datos. Aunque los datos del cliente se ejecutan en el entorno seguro de la nube de Veritone, retienen la propiedad total. Dos: Veritone nunca utiliza los datos del cliente sin su permiso o consentimiento. En particular, Veritone no utiliza los datos del cliente para volver a entrenar modelos de inteligencia artificial. La seguridad y la privacidad son de la máxima importancia, y los clientes solo trabajarán con modelos preentrenados que utilizan datos redactados de toda información sensible, biométrica y de identificación personal.

¿Cómo equilibra Veritone la necesidad de avance tecnológico rápido con consideraciones éticas y de impacto social?

Cuando se desarrolla la inteligencia artificial a un ritmo rápido, la tendencia es utilizar la mayor cantidad de datos posible y cosecharlos continuamente para mejorar y crecer. Si bien este enfoque tiende a resultar en una madurez acelerada del modelo de inteligencia artificial, abre various preocupaciones éticas, de privacidad y sociales.

Con ese fin, Veritone siempre busca la mejor inteligencia artificial. Durante la fiebre de la inteligencia artificial generativa, Veritone tuvo acceso temprano a la tecnología de OpenAI y otros socios. Sin embargo, en lugar de avanzar y desplegar soluciones nuevas de inmediato, preguntamos: “¿Cómo utilizarán nuestros clientes realmente la inteligencia artificial dentro de un caso de uso adecuado?” En otras palabras, después de examinar la misión y los puntos dolorosos de las LEA, determinamos cómo aplicar la inteligencia artificial generativa de una manera responsable que mantuviera a los humanos en el centro mientras permitía a los usuarios lograr sus objetivos y superar desafíos.

Por ejemplo, Veritone Investigate cuenta con un modelo de lenguaje grande aislado y privado que puede resumir conversaciones habladas o contenido. Si una cámara portátil captura un incidente o un investigador entrevista a alguien, Veritone Investigate puede transcribir ese contenido y resumirlo automáticamente, lo cual es muy útil para detectives o investigadores que necesitan proporcionar un resumen de una entrevista completa en un breve párrafo al fiscal o la fiscalía. Sin embargo, la persona todavía tiene la oportunidad de revisar la salida generada por la inteligencia artificial para realizar los cambios y ediciones necesarios antes de la presentación.

Gracias por la gran entrevista, los lectores que deseen aprender más pueden visitar Veritone.