Facebook Remove Contas Geradas por IA e Usadas para Perpetuar Teorias da Conspiração

As empresas de mídia social vêm tentando controlar a desinformação antes da temporada de eleições de 2020 de várias maneiras. Enquanto o Twitter recentemente proibiu anúncios políticos em sua plataforma, o Facebook (META ) acaba de anunciar que fechou centenas de contas, grupos e páginas falsas. Muitas dessas contas parecem ter imagens de perfil geradas por inteligência artificial e muitas foram supostamente usadas para disseminar desinformação e teorias da conspiração.

Conforme relatado pela Forbes, o Facebook afirmou que as contas e páginas banidas estavam vinculadas à rede “Beleza da Vida” ou “TheBL”, que o Facebook disse estar vinculada ao grupo de publicação de notícias conservadoras, o Epoch Times. De acordo com o Facebook, o Epoch Media Group gastou quase $9,5 milhões em publicidade por meio de muitas das páginas e grupos agora banidos, com muitos dos posts contendo teorias da conspiração pró-Trump. Embora o Epoch Media Group negue as acusações, o Facebook afirmou que trabalhou em estreita colaboração com pesquisadores independentes, como a Graphika e o Laboratório de Pesquisa Forense Digital do Conselho Atlântico (DFRLab), para determinar a natureza das contas e páginas antes de tomar medidas contra elas.

De acordo com o Facebook, as contas foram removidas por “comportamento inautêntico coordenado”, intencionalmente enganando os outros sobre suas identidades e por tentar interferir na política. Conforme relatado pelo CNET, o Facebook disse que as contas frequentemente postavam conteúdo promovendo candidatos políticos específicos e ideologia, focando em eleições conservadoras, políticas conservadoras e forte apoio ao presidente Trump.

O Facebook publicou um relatório de 39 páginas sobre o evento, cobrindo muitas de suas descobertas. Um dos aspectos notáveis do relatório do Facebook foi que muitas das contas banidas foram criadas com a ajuda de IA. Os pesquisadores do Facebook afirmam no relatório:

“Dezenas dessas contas falsas tinham fotos de perfil geradas por inteligência artificial, no primeiro grande desdobramento de faces falsas conhecido pelos autores deste relatório.”

De acordo com as descobertas do relatório, as imagens geradas por IA não eram perfeitas, com detalhes frequentemente revelando sua verdadeira natureza. Elementos contíguos de uma imagem, como os óculos ou o cabelo de uma pessoa, eram frequentemente assimétricos. Além disso, detalhes de fundo eram frequentemente borrosos e distorcidos. No entanto, esses elementos podem não ser notáveis à primeira vista, especialmente considerando os pequenos tamanhos de imagens de perfil em uma cadeia de comentários do Facebook. Muitos dos perfis falsos também pareciam ter informações de perfil falsas e até mesmo posts falsos, potencialmente gerados por IA.

Conforme relatado pelo NBC, o chefe de política de segurança do Facebook, Nathaniel Gleicher, afirmou que o comportamento das contas é o que as denunciou como inautênticas e que as tentativas de usar imagens e informações de perfil falsas não ajudam a proteger as contas da descoberta. Gleicher afirmou que as imagens geradas por IA estavam realmente tornando as contas mais propensas a serem descobertas. Disse Gleicher:

“Detectamos essas contas porque elas estavam envolvidas em comportamento falso. Usar perfis gerados por IA como uma maneira de se fazer parecer mais real não ajuda. A maior lição aqui é a gravidade da rede em usar identidades falsas… O que é novo aqui é que isso é supostamente uma empresa de mídia com base nos EUA, utilizando atores estrangeiros fingindo ser americanos para impulsionar conteúdo político. Já vimos isso muitas vezes com atores estatais no passado.”

No entanto, os pesquisadores independentes da Graphika e do Conselho Atlântico afirmaram que a facilidade com que os atores ruins conseguiram criar tantas imagens e dar às suas contas uma aparência de autenticidade “é uma preocupação”. O Facebook e outras empresas de mídia social estão sob pressão para intensificar os esforços para combater a proliferação de desinformação política, uma tarefa que exigirá manter a liderança tecnológica sobre aqueles que buscam disseminar desinformação.

Antes que o Facebook removesse as contas, páginas e grupos, o conteúdo postado por essas entidades alcançou milhões de pessoas. Relatadamente, pelo menos 55 milhões de contas seguiram uma das 89 páginas banidas. A maioria dos seguidores eram contas não americanas. Ao todo, cerca de 600 contas, 90 páginas e 150 grupos foram removidos do Facebook. Aproximadamente 70 contas também foram removidas do Instagram.

A notícia vem justo quando o Facebook está iniciando um desafio de detecção de DeepFake, que irá até março de 2020. O Twitter também recentemente baniu quase 6.000 contas que suspeita terem origem na Arábia Saudita e postado conteúdo enganoso intencionalmente.