Entrevistas
Ben Ha, Director de Arquitectura de Soluciones, Gobierno, Legal y Cumplimiento, Veritone – Serie de Entrevistas
Ben Ha es el Director de Arquitectura de Soluciones para la división de Gobierno, Legal y Cumplimiento de Veritone. Ben tiene más de 15 años de experiencia en la industria del software, sirviendo principalmente en un papel de pre-ventas técnico. Ben ha estado trabajando con clientes en el espacio gubernamental y legal durante los últimos 4 años.
Veritone diseña soluciones de inteligencia artificial centradas en el ser humano. El software y los servicios de Veritone permiten a las personas en muchas de las marcas más grandes y reconocibles del mundo funcionar de manera más eficiente, acelerar la toma de decisiones y aumentar la rentabilidad.
¿Cómo se integra la iDEMS de Veritone con los sistemas de aplicación de la ley existentes, y qué eficiencias específicas introduce?
Los sistemas existentes de las agencias de aplicación de la ley (LEAs) suelen tener datos de muchas fuentes diferentes, como sistemas de cámaras corporales, sistemas de gestión de video y otras cámaras y dispositivos. La iDEMS permite a las LEAs establecer conexiones en esos sistemas existentes con una API u otros caminos de integración. Luego, virtualiza sobre los sistemas, permitiendo que las agencias de aplicación de la ley mantengan los datos maestros donde están en los sistemas de origen. Dentro de la aplicación Veritone Investigate, el usuario tiene acceso a un archivo de proxy de baja resolución que puede utilizar para ver, compartir, buscar, analizar, etc. Debido a que los datos están en un lugar central, es más fácil para el usuario pasar por el proceso de investigación sin cambiar entre aplicaciones silo.
La Veritone Investigate también permite al usuario aprovechar la cognición de inteligencia artificial para analizar lo que hay dentro del contenido en sí. En otras palabras, las LEAs pueden utilizar la inteligencia artificial para estructurar datos no estructurados, proporcionando información de metadatos que hace que encontrar cosas sea mucho más fácil. La mayoría de los sistemas simplemente actúan como almacenamiento de datos y no contienen información sobre las palabras habladas o las caras u objetos dentro del contenido. Con Investigate y la solución iDEMS, la inteligencia artificial está integrada de forma nativa y se ejecuta automáticamente al ingerir, eliminando la necesidad de ver o escuchar manualmente el contenido para obtener contexto, acelerando el proceso de investigación.
¿Cuáles son los requisitos técnicos para que las agencias de aplicación de la ley implementen la iDEMS de Veritone?
Las LEAs no necesitan tener requisitos técnicos significativos para implementar la iDEMS de Veritone, de hecho, la solución funcionará con casi cualquier tamaño de LEA, independientemente de los sistemas que tengan o no en su lugar. Debido a que Veritone tiene adaptadores de ingesta que pueden conectarse con varias API, lo único que necesitará la LEA es alguien con acceso a esos sistemas existentes. Además, la iDEMS es basada en la nube, y la LEA necesitará una conexión a Internet de alta velocidad y un navegador web moderno.
¿Puede proporcionar más detalles sobre cómo Veritone Track se diferencia de las tecnologías de reconocimiento facial tradicionales en términos de precisión y eficiencia?
El reconocimiento facial tradicional se basa en características faciales visibles (ojos, nariz, boca, etc.) para identificar a una persona de interés. El problema es que si el video no captura la cara de la persona, la tecnología no puede identificar o rastrear a ese individuo. Por ejemplo, si la filmación solo captura la espalda de alguien, la cara de la persona está cubierta por una máscara o capucha, o el video no tiene un ángulo óptimo de la cara, el reconocimiento facial no funcionará.
En cambio, Veritone Track trata a las posibles personas de interés como objetos en un proceso conocido como objetos similares a humanos (HLO). A través de los HLO, Veritone Track puede crear una “huella digital de persona” única de ese individuo en función de atributos visualmente distinguibles. Estos atributos visualmente distinguibles podrían ser un sombrero, gafas, mochila o si están llevando algo en la mano, incluso el contraste de color entre su ropa y zapatos. También considera el tipo de cuerpo de la persona, por ejemplo, la longitud del brazo, la estatura, el peso, etc.
Después de crear esa huella digital de persona, Veritone Track incorpora un trabajo de policía tradicional a través de un bucle de retroalimentación humano que revisa y verifica las coincidencias potenciales. En última instancia, este método es más preciso y eficiente que las tecnologías de reconocimiento facial tradicionales.
¿Cómo mejora el uso de objetos similares a humanos (HLO) en Veritone Track el proceso de identificación en comparación con el uso de reconocimiento facial?
La utilización de HLO mejora el proceso de identificación porque no requiere que la LEA tenga acceso a las mismas variables que el reconocimiento facial tradicional, es decir, una cara humana completamente visible. Veritone Track es flexible en el sentido de que utilizará cualquier información disponible, independientemente de la calidad de la filmación, la resolución o el ángulo (alto en el techo o a nivel de ojos) de la cámara. A pesar de las ventajas de Veritone Track, no es mutuamente excluyente con el reconocimiento facial, las LEAs pueden utilizar ambas tecnologías simultáneamente. Por ejemplo, las LEAs podrían utilizar Veritone Track para construir una huella digital de persona a partir de grandes cantidades de video de baja calidad, mientras ejecutan reconocimiento facial en muestras de video de disparos frontales de una posible persona de interés.
¿Cómo ayuda el sistema de inteligencia artificial de Veritone a acelerar las investigaciones mientras mantiene altos estándares de manejo de pruebas?
Veritone Investigate, Veritone Track o todas las aplicaciones del sector público de Veritone utilizan la inteligencia artificial para acelerar dramáticamente los procesos manuales para las LEAs, reduciendo semanas o días de trabajo a solo unas horas, lo cual es cada vez más crítico en medio de las escaseces de personal en curso. A pesar de esta velocidad acelerada, Veritone mantiene altos estándares de manejo de pruebas al no confiar completamente en las salidas de la inteligencia artificial. Estas soluciones dejan la última palabra al investigador humano para revisar los resultados finales. La tecnología de Veritone también permite a los humanos ajustarse a altos estándares de manejo de pruebas y cadena de custodia. Asimismo, tienen registros de auditoría incorporados, por lo que la LEA puede ver cómo el investigador llegó al resultado final. En resumen, la inteligencia artificial no reemplaza a los humanos, simplemente mejora sus capacidades.
La inteligencia artificial en la aplicación de la ley plantea preocupaciones sobre la persecución errónea de minorías, especialmente con ciudades como Detroit, Michigan experimentando varios arrestos falsos en menos de 1 año. ¿Cómo aborda Veritone estos desafíos éticos?
Primero, Veritone siempre utiliza guardrails y medidas de seguridad para minimizar la posibilidad de persecución errónea. Por ejemplo, Veritone Track no utiliza marcadores biométricos como características faciales para crear huellas digitales de persona, sino que se basa en ropa, tipo de cuerpo, etc. En segundo lugar, estas herramientas nunca rascan Internet, las redes sociales o grandes bases de datos como una Agencia de Pasaportes para obtener datos. Cuando una LEA utiliza nuestras soluciones en un caso o investigación activa, solo puede comparar evidencia de foto o video cargada contra una base de datos de delincuentes conocidos con registros de arresto. En el caso de lo que sucedió en Detroit, Michigan, la aplicación de la ley utilizó una solución que obtuvo datos de todo Internet sin que un investigador humano estuviera “en el bucle” para validar los resultados, lo que resultó en la persecución errónea de ciudadanos inocentes.
¿Puede elaborar sobre cómo la inteligencia artificial de Veritone garantiza la precisión de las pistas generadas?
La inteligencia artificial de Veritone genera posibles pistas que los investigadores humanos pueden perseguir. Si bien la inteligencia artificial proporciona al investigador resultados y hallazgos útiles, la persona todavía toma la decisión final. Nuevamente, el caso de Detroit, Michigan, vio a la aplicación de la ley confiando solo en el reconocimiento facial para hacer el trabajo. Esta confianza ciega resultó problemática, ya que estos modelos se basaron en datos que resultaron en sesgos demográficos o raciales asociados.
Además, los datos que Veritone elige para entrenar sus motores y modelos de inteligencia artificial son representativos del contenido. Antes de entrenar los datos, Veritone redactará elementos de video y audio sensibles de fuentes como cámaras corporales, video en coche, footage de CCTV, etc., o utilizará datos no sensibles disponibles públicamente. Asimismo, Veritone validará los resultados con comentarios de los clientes para una mejora continua.
¿Cómo maneja Veritone el potencial de que la inteligencia artificial perpetúe sesgos existentes dentro de los datos de la aplicación de la ley?
Veritone utiliza un enfoque de múltiples modelos que funciona con muchos proveedores de terceros para obtener una perspectiva más amplia en lugar de confiar únicamente en un modelo de inteligencia artificial. En particular, este método permite a Veritone estandarizar dentro de una categoría determinada de cognición de inteligencia artificial, como transcripción, traducción, reconocimiento facial, detección de objetos o reconocimiento de texto. Al aprovechar la “sabiduría de la multitud”, Veritone puede ejecutar el mismo contenido contra múltiples modelos dentro de la misma categoría de cognición de inteligencia artificial para ayudar a proteger contra sesgos.
¿Qué pasos se toman para asegurar que las aplicaciones de inteligencia artificial de Veritone no infrinjan los derechos de privacidad?
Hay dos mejores prácticas que las aplicaciones de inteligencia artificial de Veritone siguen para asegurar que no infrinjan los derechos de privacidad. Uno: los datos del cliente permanecen siendo los datos del cliente en todo momento. Tienen el derecho de gestionar, eliminar o hacer lo que quieran con sus datos. Aunque los datos del cliente se ejecutan en el entorno seguro en la nube de Veritone, conservan la propiedad total. Dos: Veritone nunca utiliza los datos del cliente sin su permiso o consentimiento. En particular, Veritone no utiliza los datos del cliente para volver a entrenar los modelos de inteligencia artificial. La seguridad y la privacidad son de la máxima importancia, y los clientes solo trabajarán con modelos preentrenados que utilizan datos redactados de toda su información sensible, biométrica y de identificación personal.
¿Cómo equilibra Veritone la necesidad de avance tecnológico rápido con consideraciones éticas y impacto social?
Al desarrollar la inteligencia artificial a un ritmo rápido, la tendencia es utilizar la mayor cantidad de datos posible y cosecharlos continuamente para mejorar y crecer. Si bien este enfoque tiende a resultar en una madurez acelerada del modelo de inteligencia artificial, abre various preocupaciones éticas, de privacidad y sociales.
Con ese fin, Veritone siempre busca lo mejor en inteligencia artificial. Durante la fiebre de la inteligencia artificial generativa, Veritone tuvo acceso temprano a la tecnología de OpenAI y otros socios. Sin embargo, en lugar de avanzar y desplegar nuevas soluciones de inmediato, preguntamos: “¿Cómo utilizarán nuestros clientes realmente la inteligencia artificial dentro de un caso de uso adecuado?” En otras palabras, después de examinar la misión y los puntos dolorosos de las LEAs, determinamos cómo aplicar la inteligencia artificial generativa de una manera responsable que mantuviera a los humanos en el centro mientras permitía a los usuarios lograr sus objetivos y superar desafíos.
Por ejemplo, Veritone Investigate cuenta con un modelo de lenguaje grande aislado y privado que puede resumir conversaciones habladas o contenido. Si una cámara corporal captura un incidente o un investigador entrevista a alguien, Veritone Investigate puede transcribir ese contenido y resumirlo automáticamente, lo cual es muy útil para detectives o investigadores que necesitan proporcionar un resumen de una entrevista completa en un breve párrafo al fiscal o la fiscalía. Sin embargo, la persona todavía tiene la oportunidad de revisar la salida generada por la inteligencia artificial para hacer los edits y cambios necesarios antes de la presentación.
Gracias por la gran entrevista, los lectores que deseen aprender más pueden visitar Veritone.
