Sistema de Alerta Temprana para Desinformación Desarrollado con IA

Los investigadores de la Universidad de Notre Dame están trabajando en un proyecto para combatir la desinformación en línea, incluyendo campañas de medios para incitar la violencia, sembrar la discordia y entrometerse en las elecciones democráticas.

El equipo de investigadores se basó en la inteligencia artificial (IA) para desarrollar un sistema de alerta temprana. El sistema podrá identificar imágenes manipuladas, videos deepfake y desinformación en línea. Es un sistema escalable y automatizado que utiliza la recuperación de imágenes basada en contenido. Luego puede aplicar técnicas basadas en la visión por computadora para identificar memes políticos en varias redes sociales.

Tim Weninger es profesor asociado en el Departamento de Ciencias y Ingeniería de la Computación en Notre Dame.

“Los memes son fáciles de crear y aún más fáciles de compartir”, dijo Weninger. “Cuando se trata de memes políticos, estos pueden ser utilizados para ayudar a salir a votar, pero también pueden ser utilizados para difundir información inexacta y causar daño”.

Weninger colaboró con Walter Scheirer, profesor asistente en el Departamento de Ciencias y Ingeniería de la Computación en Notre Dame, junto con miembros del equipo de investigación.

Elecciones Generales de 2019 en Indonesia

El equipo probó el sistema con las elecciones generales de 2019 en Indonesia. Recopilaron más de dos millones de imágenes y contenido, provenientes de diversas fuentes en Twitter y Instagram relacionadas con las elecciones.

En las elecciones, el candidato centrista de izquierda en el cargo derrotó al candidato populista conservador. Después de las elecciones, estallaron protestas violentas en las que murieron ocho personas y cientos más resultaron heridas. El estudio del equipo encontró que se lanzaron campañas espontáneas y coordinadas en las redes sociales con el objetivo de influir en las elecciones y incitar a la violencia.

Las campañas coordinadas utilizaron imágenes manipuladas, que proyectaban afirmaciones falsas y tergiversaban ciertos eventos. Se fabricaron noticias y memes con el uso de logotipos de noticias legítimas, con el objetivo de provocar a los ciudadanos y partidarios de ambos partidos.

El Resto del Mundo

Las elecciones generales de 2019 en Indonesia son una representación de lo que puede suceder en el resto del mundo. La desinformación, especialmente difundida a través de las redes sociales, puede amenazar los procesos democráticos.

El equipo de investigación de Notre Dame incluyó expertos en forensia digital y especialistas en estudios de paz. Según el equipo, el sistema se está desarrollando para marcar el contenido manipulado, con el objetivo de prevenir la violencia y advertir a los periodistas o monitores de elecciones sobre posibles amenazas.

El sistema aún se encuentra en la fase de investigación y desarrollo, pero eventualmente será escalable y personalizado para que los usuarios monitoren el contenido. Algunos de los mayores desafíos en el desarrollo del sistema incluyen determinar la mejor manera de escalar la ingesta y procesamiento de datos. Según Scheirer, el sistema se está evaluando actualmente y el próximo paso es la transición al uso operativo.

Existe la posibilidad de que el sistema se utilice para monitorear las elecciones generales de 2020 en los Estados Unidos, que se espera que vean grandes cantidades de desinformación y manipulación.

“La era de la desinformación ha llegado”, dijo Scheirer. “Un deepfake que reemplace a actores en una película popular puede parecer divertido y ligero, pero imagina un video o un meme creado con el único propósito de enfrentar a un líder mundial contra otro, diciendo palabras que no dijeron en realidad. Imagina con qué rapidez ese contenido podría ser compartido y difundido en las plataformas. Considera las consecuencias de esas acciones”.