Sistema de Alerta Temprana para Desinformación Desarrollado con IA

Los investigadores de la Universidad de Notre Dame están trabajando en un proyecto para combatir la desinformación en línea, incluyendo campañas de medios para incitar la violencia, sembrar discordia y interferir en las elecciones democráticas.

El equipo de investigadores se basó en la inteligencia artificial (IA) para desarrollar un sistema de alerta temprana. El sistema podrá identificar imágenes manipuladas, videos deepfake y desinformación en línea. Es un sistema escalable y automatizado que utiliza la recuperación de imágenes basada en contenido. Luego, puede aplicar técnicas basadas en visión por computadora para identificar memes políticos en varias redes sociales.

Tim Weninger es profesor asociado en el Departamento de Ciencias y Ingeniería de la Computación de Notre Dame.

“Los memes son fáciles de crear y aún más fáciles de compartir”, dijo Weninger. “Cuando se trata de memes políticos, estos pueden ser utilizados para ayudar a salir a votar, pero también pueden ser utilizados para difundir información inexacta y causar daño”.

Weninger colaboró con Walter Scheirer, profesor asistente en el Departamento de Ciencias y Ingeniería de la Computación de Notre Dame, junto con miembros del equipo de investigación.

Elecciones Generales de 2019 en Indonesia

El equipo probó el sistema con las elecciones generales de 2019 en Indonesia. Recopilaron más de dos millones de imágenes y contenido, provenientes de diversas fuentes en Twitter y Instagram relacionadas con las elecciones.

En las elecciones, el candidato de centro-izquierda y centrista derrotó al candidato conservador y populista. Después de las elecciones, estallaron protestas violentas en las que murieron ocho personas y cientos más resultaron heridas. El estudio del equipo encontró que se lanzaron campañas espontáneas y coordinadas en las redes sociales con el objetivo de influir en las elecciones y incitar a la violencia.

Las campañas coordinadas utilizaron imágenes manipuladas, que proyectaban afirmaciones falsas y tergiversaban ciertos eventos. Se fabricaron historias y memes con el uso de logotipos de noticias legítimas, con el objetivo de provocar a los ciudadanos y partidarios de ambos partidos.

El Resto del Mundo

Las elecciones generales de 2019 en Indonesia son un ejemplo de lo que puede suceder en el resto del mundo. La desinformación, especialmente difundida a través de las redes sociales, puede amenazar los procesos democráticos.

El equipo de investigación de Notre Dame incluyó expertos en forensia digital y especialistas en estudios de paz. Según el equipo, el sistema se está desarrollando para marcar contenido manipulado, con el objetivo de prevenir la violencia y advertir a los periodistas o monitores de elecciones sobre posibles amenazas.

El sistema todavía se encuentra en la fase de investigación y desarrollo, pero eventualmente será escalable y personalizable para que los usuarios puedan monitorear el contenido. Algunos de los mayores desafíos en el desarrollo del sistema incluyen determinar la mejor manera de escalar la ingesta y el procesamiento de datos. Según Scheirer, el sistema actualmente se está evaluando, y el próximo paso será la transición al uso operativo.

Hay una posibilidad de que el sistema se utilice para monitorear las elecciones generales de 2020 en los Estados Unidos, que se espera que vean grandes cantidades de desinformación y manipulación.

“La era de la desinformación ha llegado”, dijo Scheirer. “Un deepfake que reemplaza a actores en una película popular puede parecer divertido y ligero, pero imagina un video o un meme creado con el único propósito de enfrentar a un líder mundial contra otro – diciendo palabras que no dijeron en realidad. Imagina cuán rápido se podría compartir y difundir ese contenido en las plataformas. Considera las consecuencias de esas acciones”.