Engenheiros de IA Desenvolvem Método para Detectar Intenção daqueles que Espalham Desinformação

Lidar com desinformação na era digital é um problema complexo. Não apenas a desinformação precisa ser identificada, marcada e corrigida, mas também a intenção daqueles responsáveis por fazer a afirmação deve ser distinguida. Uma pessoa pode espalhar desinformação involuntariamente ou apenas estar dando sua opinião sobre um assunto, mesmo que seja relatado como fato posteriormente. Recentemente, uma equipe de pesquisadores e engenheiros de IA da Dartmouth criou uma estrutura que pode ser usada para derivar opinião de relatórios de “notícias falsas”.

Como relata o ScienceDaily, o estudo da equipe da Dartmouth foi publicado recentemente no Journal of Experimental & Theoretical Artificial Intelligence. Enquanto estudos anteriores tentaram identificar notícias falsas e combater a desinformação, este pode ser o primeiro estudo que visou identificar a intenção do falante em uma peça de notícia. Embora uma história verdadeira possa ser distorcida em várias formas enganosas, é importante distinguir se a desinformação foi intencional. A equipe de pesquisa argumenta que a intenção é importante ao considerar a desinformação, pois a desinformação só é possível se houver intenção de enganar. Se um indivíduo não percebeu que estava espalhando desinformação ou se estava apenas dando sua opinião, não há desinformação.

Eugene Santos Jr., professor de engenharia da Escola de Engenharia Thayer da Dartmouth, explicou ao ScienceDaily por que seu modelo tenta distinguir a intenção enganosa:

“A intenção enganosa de enganar os ouvintes propositadamente representa uma ameaça muito maior do que erros involuntários. Até onde sabemos, nosso algoritmo é o único método que detecta a desinformação e, ao mesmo tempo, discrimina atos maliciosos de atos benignos.”

Para construir seu modelo, a equipe de pesquisa analisou as características do raciocínio enganoso. O algoritmo resultante pode distinguir a intenção de enganar de outras formas de comunicação, concentrando-se nas discrepâncias entre os argumentos passados de uma pessoa e suas declarações atuais. O modelo construído pela equipe de pesquisa precisa de grandes quantidades de dados que possam ser usados para medir como uma pessoa se desvia de seus argumentos passados. Os dados de treinamento que a equipe usou para treinar seu modelo consistiam em dados coletados de uma pesquisa de opiniões sobre tópicos controversos. Mais de 100 pessoas deram sua opinião sobre esses tópicos controversos. Dados também foram coletados de avaliações de 20 hotéis diferentes, consistindo em 400 avaliações fictícias e 800 avaliações reais.

De acordo com Santos, a estrutura desenvolvida pelos pesquisadores pode ser aprimorada e aplicada por organizações de notícias e leitores, para que eles possam analisar o conteúdo de artigos de “notícias falsas”. Os leitores podem examinar os artigos para a presença de opiniões e determinar por si mesmos se um argumento lógico foi usado. Santos também disse que a equipe deseja examinar o impacto da desinformação e os efeitos em cascata que ela tem.

A cultura popular muitas vezes retrata comportamentos não verbais, como expressões faciais, como indicadores de que alguém está mentindo, mas os autores do estudo observam que esses comportamentos não são sempre indicadores confiáveis de mentira. Deqing Li, coautor do artigo, explicou que sua pesquisa encontrou que modelos baseados na intenção de raciocínio são melhores indicadores de mentira do que diferenças comportamentais e verbais. Li explicou que modelos de intenção de raciocínio “são melhores para distinguir mentiras intencionais de outros tipos de distorção de informações”.

O trabalho dos pesquisadores da Dartmouth não é o único avanço recente no combate à desinformação com IA. Artigos de notícias com títulos de cliques muitas vezes mascaram a desinformação. Por exemplo, eles muitas vezes implicam que um evento ocorreu quando, na verdade, outro evento ocorreu.

Como relatado pelo AINews, uma equipe de pesquisadores das Universidades do Estado do Arizona e da Pensilvânia colaborou para criar uma IA que pudesse detectar títulos de cliques. Os pesquisadores pediram às pessoas que escrevessem seus próprios títulos de cliques e também escreveram um programa para gerar títulos de cliques. Ambas as formas de títulos foram usadas para treinar um modelo que pudesse detectar títulos de cliques de forma eficaz, independentemente de terem sido escritos por máquinas ou pessoas.

De acordo com os pesquisadores, seu algoritmo foi cerca de 14,5% mais preciso ao detectar títulos de cliques do que outras IAs haviam sido no passado. O pesquisador principal do projeto e professor associado do College of Information Sciences and Technology da Universidade da Pensilvânia, Dongwon Lee, explicou como seu experimento demonstra a utilidade de gerar dados com uma IA e alimentá-los novamente em um pipeline de treinamento.

“Este resultado é bastante interessante, pois demonstramos com sucesso que dados de treinamento de cliques gerados por máquina podem ser alimentados novamente em um pipeline de treinamento para treinar uma ampla variedade de modelos de aprendizado de máquina para ter um desempenho aprimorado”, explicou Lee.