Las 5 mejores herramientas y técnicas de detección de deepfake (mayo de 2024)

En la era digital, los deepfakes se han convertido en una importante amenaza a la autenticidad del contenido en línea. Estos sofisticados videos generados por IA pueden imitar de manera convincente a personas reales, lo que hace cada vez más difícil distinguir la realidad de la ficción. Sin embargo, a medida que la tecnología detrás de los deepfakes ha avanzado, también lo han hecho las herramientas y técnicas diseñadas para detectarlos. En este blog, exploraremos las cinco principales herramientas y técnicas de detección de deepfakes disponibles en la actualidad.

1. Centinela

(Imagen: Centinela)

Sentinel es una plataforma líder de protección basada en IA que ayuda a los gobiernos democráticos, las agencias de defensa y las empresas a detener la amenaza de las falsificaciones profundas. La tecnología de Sentinel es utilizada por organizaciones líderes en Europa. El sistema funciona al permitir que los usuarios carguen medios digitales a través de su sitio web o API, que luego se analizan automáticamente en busca de falsificación de IA. El sistema determina si el medio es un deepfake o no y proporciona una visualización de la manipulación.

La tecnología de detección de falsificaciones profundas de Sentinel está diseñada para proteger la integridad de los medios digitales. Utiliza algoritmos avanzados de inteligencia artificial para analizar los medios cargados y determinar si han sido manipulados. El sistema proporciona un informe detallado de sus hallazgos, incluida una visualización de las áreas de los medios que han sido alteradas. Esto permite a los usuarios ver exactamente dónde y cómo se han manipulado los medios.

Características clave de Sentinel:

• Detección de falsificación profunda basada en IA
• Utilizado por organizaciones líderes en Europa
• Permite a los usuarios cargar medios digitales para su análisis
• Proporciona una visualización de la manipulación.

2. Detector de falsificaciones profundas en tiempo real de Intel

Intel ha introducido un detector de falsificaciones profundas en tiempo real conocido como FakeCatcher. Esta tecnología puede detectar videos falsos con una tasa de precisión del 96% y arrojar resultados en milisegundos. El detector, diseñado en colaboración con Umur Ciftci de la Universidad Estatal de Nueva York en Binghamton, utiliza hardware y software de Intel, se ejecuta en un servidor y se conecta a través de una plataforma basada en la web.

FakeCatcher busca pistas auténticas en videos reales, evaluando lo que nos hace humanos: un "flujo de sangre" sutil en los píxeles de un video. Cuando nuestro corazón bombea sangre, nuestras venas cambian de color. Estas señales de flujo sanguíneo se recopilan de todo el rostro y los algoritmos traducen estas señales en mapas espaciotemporales. Luego, mediante el aprendizaje profundo, puede detectar instantáneamente si un video es real o falso.

Características clave del detector de falsificaciones profundas en tiempo real de Intel:

• Desarrollado en colaboración con la Universidad Estatal de Nueva York en Binghamton
• Puede detectar videos falsos con una tasa de precisión del 96 %
• Devuelve resultados en milisegundos
• Utiliza un "flujo de sangre" sutil en los píxeles de un video para detectar falsificaciones profundas

3. Verificamos

(Imagen: WeVerify)

WeVerify es un proyecto destinado a desarrollar métodos y herramientas inteligentes de análisis de desinformación y verificación de contenido humano en el circuito. El proyecto se centra en analizar y contextualizar las redes sociales y el contenido web dentro del ecosistema en línea más amplio para exponer el contenido fabricado. Esto se logra a través de la verificación de contenido multimodal, el análisis de redes sociales, la desacreditación microdirigida y una base de datos pública basada en blockchain de falsificaciones conocidas.

Características clave de WeVerify:

• Desarrolla métodos y herramientas inteligentes de análisis de desinformación y verificación de contenido humano en el circuito.
• Analiza y contextualiza las redes sociales y el contenido web.
• Expone contenido fabricado a través de verificación de contenido multimodal, análisis de redes sociales y desacreditación micro-dirigida
• Utiliza una base de datos pública basada en blockchain de falsificaciones conocidas

4. Herramienta de autenticación de video de Microsoft**

(Imagen: Microsoft)

Video Authenticator Tool de Microsoft es una poderosa herramienta que puede analizar una foto fija o un video para proporcionar una puntuación de confianza que indique si los medios han sido manipulados. Detecta el límite de fusión de los elementos falsos profundos y sutiles en escala de grises que son indetectables para el ojo humano. También proporciona esta puntuación de confianza en tiempo real, lo que permite la detección inmediata de falsificaciones profundas.

Video Authenticator Tool utiliza algoritmos avanzados de inteligencia artificial para analizar los medios y detectar signos de manipulación. Busca cambios sutiles en los elementos de la escala de grises de los medios, que a menudo son un signo revelador de una falsificación profunda. La herramienta proporciona una puntuación de confianza en tiempo real, lo que permite a los usuarios determinar rápidamente si los medios son auténticos o no.

Características clave de la herramienta Video Authenticator de Microsoft:

• Analiza fotos fijas o videos
• Proporciona una puntuación de confianza en tiempo real
• Detecta cambios sutiles en la escala de grises
• Permite la detección inmediata de deepfakes

5. Detección de falsificaciones profundas utilizando discrepancias entre fonemas y visemas

Esta técnica innovadora, desarrollada por investigadores de la Universidad de Stanford y la Universidad de California, explota el hecho de que los visemas, que denotan la dinámica de la forma de la boca, a veces son diferentes o inconsistentes con el fonema hablado. Esta inconsistencia es un defecto común en los deepfakes, ya que la IA a menudo tiene dificultades para hacer coincidir perfectamente el movimiento de la boca con las palabras habladas.

La técnica Phoneme-Viseme Mismatch utiliza algoritmos avanzados de inteligencia artificial para analizar el video y detectar estas inconsistencias. Compara el movimiento de la boca (visemas) con las palabras habladas (fonemas) y busca cualquier desajuste. Si se detecta una falta de coincidencia, es una fuerte indicación de que el video es un deepfake.

Características clave de la detección de falsificaciones profundas mediante discrepancias entre fonemas y visemas:

• Desarrollado por investigadores de la Universidad de Stanford y la Universidad de California
• Explota las inconsistencias entre visemas y fonemas en deepfakes
• Utiliza algoritmos avanzados de IA para detectar discrepancias
• Proporciona una fuerte indicación de deepfake si se detecta una falta de coincidencia

El futuro de la detección de falsificaciones profundas

A medida que navegamos por el panorama digital del siglo XXI, el espectro de las falsificaciones profundas se cierne sobre nosotros. Estos videos generados por IA, que pueden imitar de manera convincente a personas reales, representan una amenaza significativa para la autenticidad del contenido en línea. Tienen el potencial de interrumpir todo, desde las relaciones personales hasta las elecciones políticas, lo que hace que la necesidad de herramientas y técnicas de detección de falsificaciones profundas sea más crítica que nunca.

Las cinco herramientas y técnicas de detección de falsificaciones profundas que hemos explorado en este blog representan la vanguardia de este campo. Utilizan algoritmos avanzados de IA para analizar y detectar falsificaciones profundas con una precisión impresionante. Cada herramienta y técnica ofrece un enfoque único para la detección de falsificación profunda, desde el análisis de los elementos sutiles en escala de grises de un video hasta el seguimiento de las expresiones faciales y los movimientos de los sujetos.

Sentinel, por ejemplo, usa IA para analizar medios digitales y determinar si ha sido manipulado, proporcionando una visualización de la manipulación. La herramienta Video Authenticator de Microsoft, por otro lado, proporciona una puntuación de confianza en tiempo real que indica si una foto fija o un video han sido manipulados. Estas herramientas, junto con las otras que hemos analizado, lideran la lucha contra las falsificaciones profundas y ayudan a garantizar la autenticidad del contenido en línea.

Sin embargo, a medida que la tecnología detrás de los deepfakes sigue avanzando, también deben hacerlo nuestros métodos de detección. El desarrollo de la tecnología deepfake es un objetivo que se mueve rápidamente, y nuestras herramientas y técnicas deben evolucionar para mantener el ritmo. Esto requerirá investigación y desarrollo continuos, así como la colaboración entre investigadores, empresas tecnológicas y legisladores.

Además, es importante recordar que la tecnología por sí sola no puede resolver el problema de las falsificaciones profundas. La educación y la conciencia también son cruciales. Todos debemos convertirnos en consumidores más perspicaces de contenido en línea, cuestionando la fuente de la información y buscando signos de manipulación. Si nos mantenemos informados sobre los últimos desarrollos en tecnología y detección de deepfakes, todos podemos desempeñar un papel en la lucha contra esta amenaza.