Modelo de IA Pode Identificar Disseminadores de Desinformação Antes que Eles Aten

Um modelo de IA criado por pesquisadores da Universidade de Sheffield pode potencialmente determinar quais usuários do Twitter irão postar desinformação antes que eles realmente o façam. Se o modelo se provar confiável, ele poderia ser usado para complementar os métodos existentes de combate à desinformação nas mídias sociais.

De acordo com o TechXplore, o estudo foi liderado por pesquisadores do Departamento de Ciência da Computação da Universidade de Sheffield, incluindo Dr. Nikos Aletras e Yida Mu. O estudo foi publicado no jornal PeerJ e detalha os métodos usados para prever se um usuário de mídia social é provável de disseminar desinformação postando conteúdo de fontes de notícias não confiáveis.

A equipe de pesquisa coletou mais de 1 milhão de tweets de mais de 6.000 usuários do Twitter, todos disponíveis publicamente. A equipe aplicou técnicas de processamento de linguagem natural para preparar os dados para o treinamento de um modelo de IA. O modelo de IA era um modelo de classificação binária, rotulando os usuários como prováveis de compartilhar informações de fontes não confiáveis ou não prováveis de compartilhar. Após o modelo ser treinado nos dados, ele foi capaz de alcançar uma precisão de classificação de aproximadamente 79,7%.

Quando analisando os resultados do desempenho do modelo, os pesquisadores descobriram que os usuários que usavam linguagem grosseira e constantemente tweetavam sobre religião e política eram mais prováveis de postar informações de fontes não confiáveis. Em particular, houve um uso pesado de palavras como “liberal”, “mídia”, “governo”, “Israel” e “islã”. Enquanto isso, os usuários que postavam informações de fontes confiáveis tendiam a usar palavras como “eu vou”, “vou fazer”, “quero”, “humor”, “animado” e “aniversário”. Além disso, eles geralmente compartilhavam histórias sobre suas vidas pessoais, como interações com amigos, emoções ou informações sobre seus hobbies.

Os achados do estudo podem ajudar as empresas de mídia social, como Facebook (META ), Reddit e Twitter, a engenharem novas maneiras de combater a disseminação de informações falsas online. A pesquisa também pode ajudar psicólogos e cientistas sociais a entender melhor o comportamento que leva à disseminação de informações falsas em uma rede social.

Como Aletras explicou de acordo com o TechXplore, as mídias sociais se transformaram em uma das principais maneiras pelas quais as pessoas obtêm notícias. Milhões de usuários ao redor do mundo obtêm histórias de notícias através do Facebook e do Twitter todos os dias, mas essas plataformas também se tornaram ferramentas para disseminar desinformação em toda a sociedade. Aletras continuou explicando que identificar tendências confiáveis no comportamento do usuário pode ajudar a combater a desinformação. Como Aletras explicou, há uma “correlação entre o uso de linguagem grosseira e a disseminação de conteúdo não confiável que pode ser atribuída à alta hostilidade política online”.

De acordo com Mu, analisar o comportamento dos usuários que compartilham informações de fontes não confiáveis pode ajudar as plataformas de mídia social a prevenir a disseminação de notícias falsas no nível do usuário, complementando os métodos de verificação de fatos existentes que funcionam no nível do post ou da fonte de notícias. Como Mu disse via TechXplore:

“Estudar e analisar o comportamento dos usuários que compartilham conteúdo de fontes de notícias não confiáveis pode ajudar as plataformas de mídia social a prevenir a disseminação de notícias falsas no nível do usuário, complementando os métodos de verificação de fatos existentes que funcionam no nível do post ou da fonte de notícias.”

A pesquisa realizada por Aletras e Mu pode ser um exemplo de uso de IA para combater a desinformação gerada por IA. Nos últimos meses, houve um aumento na desinformação em torno da política local e nacional, com grande parte do conteúdo gerado e disseminado por algoritmos de IA. Redes neurais profundas foram empregadas para construir fotografias realistas e perfis de contas falsas que servem como disseminadores de notícias falsas. A pesquisa de Aletras e Mu pode ajudar as empresas de mídia social a descobrir quais contas são falsas, contas de bot criadas com o propósito de disseminar propaganda e desinformação prejudiciais.