Sistema de Alerta Precoce para Desinformação Desenvolvido com IA

Pesquisadores da Universidade de Notre Dame estão trabalhando em um projeto para combater a desinformação online, incluindo campanhas midiáticas para incitar violência, semear discórdia e interferir em eleições democráticas.

A equipe de pesquisadores confiou na inteligência artificial (IA) para desenvolver um sistema de alerta precoce. O sistema será capaz de identificar imagens manipuladas, vídeos deepfake e desinformação online. É um sistema escalável e automatizado que usa recuperação de imagens baseada em conteúdo. Em seguida, pode aplicar técnicas baseadas em visão computacional para identificar memes políticos em várias redes sociais.

Tim Weninger é professor associado no Departamento de Ciência e Engenharia da Computação em Notre Dame.

“Memes são fáceis de criar e ainda mais fáceis de compartilhar”, disse Weninger. “Quando se trata de memes políticos, esses podem ser usados para ajudar a mobilizar o voto, mas também podem ser usados para espalhar informações imprecisas e causar danos.”

Weninger colaborou com Walter Scheirer, professor assistente no Departamento de Ciência e Engenharia da Computação em Notre Dame, juntamente com membros da equipe de pesquisa.

Eleições Gerais de 2019 na Indonésia

A equipe testou o sistema com as eleições gerais de 2019 na Indonésia. Eles coletaram mais de dois milhões de imagens e conteúdo, provenientes de várias fontes no Twitter e Instagram relacionadas às eleições.

Nas eleições, o candidato centrista de esquerda e incumbente derrotou o candidato conservador e populista. Após as eleições, protestos violentos irromperam, nos quais oito pessoas morreram e centenas mais ficaram feridas. O estudo da equipe encontrou que houve campanhas espontâneas e coordenadas lançadas nas mídias sociais com o objetivo de influenciar as eleições e incitar violência.

As campanhas coordenadas usaram imagens manipuladas, que projetavam alegações falsas e distorciavam certos eventos. Histórias e memes foram fabricados com o uso de logotipos de notícias legítimas, com o objetivo de provocar cidadãos e apoiadores de ambos os partidos.

O Resto do Mundo

As eleições gerais de 2019 na Indonésia são uma representação do que pode acontecer no resto do mundo. A desinformação, especialmente disseminada pelas mídias sociais, pode ameaçar os processos democráticos.

A equipe de pesquisa em Notre Dame incluiu especialistas em forense digital e especialistas em estudos de paz. De acordo com a equipe, o sistema está sendo desenvolvido para sinalizar conteúdo manipulado, com o objetivo de prevenir a violência e alertar jornalistas ou monitores de eleições sobre ameaças potenciais.

O sistema ainda está na fase de pesquisa e desenvolvimento, mas eventualmente será escalável e personalizado para que os usuários monitorem o conteúdo. Alguns dos maiores desafios no desenvolvimento do sistema incluem determinar a melhor maneira de aumentar a ingestão e processamento de dados. De acordo com Scheirer, o sistema está sendo avaliado, com a próxima etapa sendo a transição para uso operacional.

Há uma chance de que o sistema possa ser usado para monitorar as eleições gerais de 2020 nos Estados Unidos, que devem ver quantidades massivas de desinformação e manipulação.

“A era da desinformação está aqui”, disse Scheirer. “Um deepfake substituindo atores em um filme popular pode parecer divertido e leve, mas imagine um vídeo ou um meme criado com o único propósito de colocar um líder mundial contra outro – dizendo palavras que não foram realmente ditas. Imagine como rapidamente esse conteúdo pode ser compartilhado e disseminado por plataformas. Considere as consequências dessas ações.”