Facebook Remove Contas Geradas Por IA E Usadas Para Perpetuar Teorias Da Conspiração

As empresas de mídia social vêm tentando controlar a desinformação antes da temporada eleitoral de 2020 de várias maneiras. Enquanto o Twitter recentemente proibiu anúncios políticos de sua plataforma, o Facebook acaba de anunciar que fechou centenas de contas, grupos e páginas falsas. Muitas dessas contas parecem ter imagens de perfil geradas por inteligência artificial, e muitas foram supostamente usadas para disseminar desinformação e teorias da conspiração.

Como relatado pela Forbes, o Facebook declarou que as contas e páginas banidas estavam vinculadas à rede “Beauty of Life”, ou “TheBL”, que o Facebook disse estar vinculada ao grupo de publicação de notícias conservadoras, o Epoch Times. De acordo com o Facebook, o Epoch Media Group gastou quase $9,5 milhões em publicidade por meio de muitas das páginas e grupos agora banidos, com muitas das postagens contendo teorias da conspiração pró-Trump. Embora o Epoch Media Group negue as acusações, o Facebook afirmou que trabalhou em estreita colaboração com pesquisadores independentes, como Graphika e o Laboratório de Pesquisa Forense Digital do Conselho Atlântico (DFRLab), para determinar a natureza das contas e páginas antes de tomar medidas contra elas.

De acordo com o Facebook, as contas foram removidas por “comportamento inautêntico coordenado”, intencionalmente enganando os outros sobre suas identidades e por tentar interferir na política. De acordo com o CNET, o Facebook disse que as contas frequentemente postavam conteúdo promovendo candidatos e ideologias políticas específicas, se concentrando em eleições conservadoras, políticas conservadoras e forte apoio ao presidente Trump.

O Facebook publicou um relatório de 39 páginas sobre o evento, cobrindo muitas de suas descobertas. Um dos aspectos notáveis do relatório do Facebook foi que muitas das contas banidas foram criadas com a ajuda de IA. Os pesquisadores do Facebook afirmam no relatório:

“Dezenas dessas contas falsas tinham fotos de perfil geradas por inteligência artificial, no primeiro grande desdobramento de faces falsas conhecido pelos autores deste relatório.”

De acordo com as descobertas do relatório, as imagens geradas por IA não eram perfeitas, com detalhes que frequentemente davam sua verdadeira natureza. Elementos contíguos de uma imagem, como óculos ou cabelo de uma pessoa, eram frequentemente assimétricos. Além disso, detalhes de fundo eram frequentemente borrados e distorcidos. No entanto, esses elementos podem não ser notáveis à primeira vista, especialmente considerando os tamanhos de imagem pequenos de fotos de perfil em uma cadeia de comentários do Facebook. Muitos dos perfis falsos também pareciam ter informações de perfil falsas e até postagens falsas, potencialmente geradas por IA.

Como a NBC relatou, o chefe de política de segurança do Facebook, Nathaniel Gleicher, afirmou que o comportamento das contas foi o que as denunciou como inautênticas e que as tentativas de usar imagens e informações de perfil falsas não ajudam a proteger as contas da descoberta. Gleicher afirmou que as imagens geradas por IA estavam realmente tornando as contas mais propensas a serem capturadas. Disse Gleicher:

“Detectamos essas contas porque elas estavam engajadas em comportamento falso. Usar perfis gerados por IA como uma maneira de se fazer parecer mais real não ajuda. A maior lição aqui é a gravidade da rede em usar identidades falsas… O que é novo aqui é que esta é supostamente uma empresa de mídia com base nos EUA, utilizando atores estrangeiros se passando por americanos para impulsionar conteúdo político. Já vimos isso muito com atores estatais no passado.”

No entanto, os pesquisadores independentes da Graphika e do Conselho Atlântico afirmaram que a facilidade com que os atores ruins foram capazes de criar tantas imagens e dar às suas contas uma aparência de autenticidade “é uma preocupação”. O Facebook e outras empresas de mídia social estão sob pressão para intensificar os esforços para combater a proliferação de desinformação política, uma tarefa que exigirá estar à frente tecnologicamente daqueles que buscam disseminar desinformação.

Antes que o Facebook removesse as contas, páginas e grupos, o conteúdo postado por essas entidades alcançou milhões de pessoas. Relatou-se que pelo menos 55 milhões de contas seguiram uma das 89 páginas banidas diferentes. A maioria dos seguidores eram contas não americanas. No total, cerca de 600 contas, 90 páginas e 150 grupos foram removidos do Facebook. Aproximadamente 70 contas também foram removidas do Instagram.

A notícia vem justo quando o Facebook está iniciando um desafio de detecção de DeepFake, que irá até março de 2020. O Twitter também recentemente proibiu quase 6000 contas que suspeita terem origem na Arábia Saudita e postado conteúdo enganosamente falso.