Como o AI do Facebook Espalha Desinformação e Ameaça a Democracia

Dan Tunkelang, que supervisionou a pesquisa de IA no LinkedIn, afirmou: “No momento em que as recomendações têm o poder de influenciar decisões, elas se tornam um alvo para spammers, golpistas e outras pessoas com menos que nobres motivações.”

Essa é a dificuldade que as empresas de mídia social, como o Facebook, estão enfrentando. O Facebook usa feedback implícito para rastrear cliques, visualizações e outros comportamentos de usuário mensuráveis. Isso é usado para projetar o que é identificado como um “motor de recomendação”, um sistema de IA que tem o poder final de decidir quem vê que conteúdo e quando.

O Facebook otimizou seu motor de recomendação para maximizar o engajamento do usuário, que é medido pelo tempo gasto no plataforma do Facebook. A maximização do tempo tem prioridade sobre qualquer outra variável, incluindo a qualidade ou precisão do que está sendo recomendado.

O sistema é projetado para recompensar manchetes sensacionalistas que engajam os usuários explorando vieses cognitivos, mesmo que essas manchetes sejam escritas por trolls russos com a intenção de dividir a sociedade ou influenciar eleições políticas.

Como o Facebook Usa a IA

Há uma falta de conscientização sobre como o Facebook usa a IA para decidir o que seus usuários veem e interagem. Primeiramente, é necessário entender o que é o viés de confirmação. Psychology Today descreve isso como:

O viés de confirmação é a tendência de procurar, interpretar, favorecer e lembrar informações de uma maneira que confirme ou apoie as crenças ou valores anteriores.

O Facebook entende que os usuários são mais propensos a clicar em notícias que alimentam a tendência humana de buscar confirmação de viés. Isso estabelece um precedente perigoso para a propagação de teorias da conspiração e para a criação de câmaras de eco, onde os usuários são alimentados exclusivamente com o que querem ver, independentemente da precisão ou do impacto social do que está sendo visto.

Um estudo do MIT foi capaz de demonstrar que notícias falsas no Twitter se espalham 6 vezes mais rápido do que notícias reais.

Isso significa que tanto o Twitter quanto o Facebook podem ser armados. Enquanto o Twitter permite que qualquer um siga feeds com pontos de vista estreitos ou tendenciosos, o Facebook vai além. Um usuário no Facebook atualmente não tem como controlar ou medir o que está sendo visto, isso é controlado inteiramente pelo motor de recomendação do Facebook, como ele mede o engajamento do usuário e como ele otimiza para esse mesmo engajamento do usuário.

O Facebook tenta moldar e prever os desejos de seus usuários. O Facebook estima em que medida um usuário gostará ou não de uma notícia que ainda não foi experimentada pelo usuário. Para evitar uma perda no engajamento do usuário, o Facebook então escolhe contornar notícias que possam reduzir o nível de engajamento e escolhe, em vez disso, engajar o usuário alimentando notícias que alimentam o viés de confirmação, garantindo mais cliques, comentários, curtidas e compartilhamentos.

O Facebook também usa filtragem colaborativa automática de ações e opiniões históricas de usuário para combinar automaticamente participantes (amigos) com opiniões semelhantes. O Facebook usa uma função de utilidade que prevê e classifica matematicamente suas preferências para itens que você deseja ver.

Isso faz com que os usuários caiam em um buraco, eles estão presos em notícias falsas, sendo alimentados com conteúdo que reforça seu viés. O conteúdo apresentado é intrinsicamente projetado com o objetivo de influenciar o que você clica.

Se você acredita na conspiração de que Bill Gates está tentando microchipar a população humana usando vacinas, por que o Facebook deveria apresentar evidências contraditórias que possam fazê-lo desengajar da plataforma? Se você apoia um determinado candidato político, por que o Facebook deveria oferecer notícias que possam contradizer suas visões positivas sobre esse mesmo candidato?

Como se isso não fosse suficiente, o Facebook também se envolve no que é conhecido como “prova social”. A prova social é o conceito de que as pessoas seguirão as ações da multidão. A ideia é que, como muitas outras pessoas se comportam de uma certa maneira, deve ser o comportamento correto.

O Facebook fornece essa prova social no contexto de curtidas, comentários ou compartilhamentos. Como apenas certos amigos podem ver a notícia (a menos que eles procurem especificamente a notícia de um usuário), a prova social serve apenas para reforçar o viés de confirmação.

O Facebook também usa bolhas de filtro para limitar a exposição a pontos de vista contraditórios, contraditórios e desafiadores.

Anúncios do Facebook

Usuários do Facebook podem estar clicando em anúncios sem saber que estão sendo apresentados com anúncios. A razão disso é simples: se há um anúncio, apenas a primeira pessoa que é apresentada com o anúncio verá o anúncio com a disclaimer. Se esse usuário compartilha o anúncio, todos os amigos da lista de amigos simplesmente veem o “compartilhamento” como um item de notícia, pois o Facebook intencionalmente dropa a disclaimer do anúncio. Imediatamente, os usuários baixam a guarda, eles não conseguem diferenciar entre o que é um anúncio e o que teria aparecido organicamente em sua notícia.

Compartilhamentos do Facebook

Infelizmente, as coisas pioram. Se um usuário tem 1000 amigos que compartilham conteúdo simultaneamente, o motor de recomendação priorizará o conteúdo da minoria que compartilha as mesmas visões, mesmo que essas visões sejam teorias da conspiração não comprovadas. O usuário então estará sob a ilusão de que esses itens de notícia estão sendo vistos por todos. Ao interagir com essa notícia, esses usuários estão otimizando a prova social uns dos outros.

Se um usuário tentar esclarecer outro usuário sobre um item enganoso ou falso, o ato de comentar ou interagir com a notícia simplesmente aumenta o tempo de engajamento do usuário original. Esse loop de feedback faz com que o Facebook reforce a interação desse usuário com notícias falsas adicionais.

Isso causa uma câmara de eco, uma bolha de filtro onde um usuário é treinado para acreditar apenas no que vê. A verdade é simplesmente uma ilusão.

Seriedade do Problema

Mais de 10 milhões de pessoas interagiram com uma notícia que alegava que o Papa Francisco havia saído em favor da eleição de Trump em 2016. Não havia evidências disso, era simplesmente uma notícia falsa que veio da Rússia, mas essa foi a notícia mais compartilhada no Facebook nos três meses que antecederam a eleição de 2016.

A notícia foi gerada por uma fazenda de trolls russa que se chama “Internet Research Agency”. Essa mesma organização foi responsável por promover e compartilhar no Twitter e no Facebook artigos que incitam a raiva, a favor da demonização do movimento Black Lives Matter, e armas de notícias falsas que espalham alegações falsas sobre políticos americanos.

O Comitê Selecional de Inteligência lançou um relatório de 85 páginas detalhando as Campanhas de Medidas Ativas Russas e Interferências, a maior parte das quais envolvia a propagação de notícias falsas divisivas e propaganda que tinham o único objetivo de influenciar a eleição presidencial de 2016 nos EUA.

Avançando para a eleição de 2020, o problema só intensificou. Em setembro de 2020, após uma dica do FBI, o Facebook e o Twitter terminaram contas de mídia social para uma organização de notícias que se chamava PeaceData, ligada aos esforços de propaganda do Estado russo.

Infelizmente, fechar contas é uma solução temporária e ineficaz. As contas russas frequentemente tomam a forma de solicitações de amizade, frequentemente com perfis atraentes que visam homens, ou contas de usuário hackeadas com um histórico de postagens regulares. Essas contas hackeadas lentamente mudam para postagens mais políticas, até que sejam dominadas por propaganda ou teorias da conspiração.

Um usuário inocente pode não estar ciente de que a conta de um amigo foi comprometida. Se esse usuário for vulnerável a teorias da conspiração, ele pode interagir com o item de notícia falsa, o troll russo, que frequentemente é um bot, então fornece prova social adicional na forma de curtidas ou comentários.

Usuários vulneráveis são frequentemente aqueles que menos entendem como a tecnologia e a IA funcionam. A população com mais de 65 anos, que é a mais propensa a votar, também é a mais propensa a espalhar notícias falsas, como relatado pelo New York Times.

De acordo com o estudo, os usuários do Facebook com 65 anos ou mais publicaram sete vezes mais artigos de sites de notícias falsas do que adultos com 29 anos ou menos. A falta de alfabetização midiática digital deixa esse grupo despreparado para uma notícia que não é baseada em fatos ou precisão, mas exclusivamente em engajamento do usuário.

Atores malignos estão tirando proveito do motor de recomendação do Facebook, que explora nossos vieses cognitivos contra nós. Essas mesmas organizações otimizaram o abuso da IA do Facebook para espalhar teorias da conspiração e propaganda. Teorias da conspiração que podem parecer inofensivas no início, são frequentemente usadas como funis para supremacia branca, nacionalismo de extrema direita ou QAnon, uma teoria da conspiração bizarra que envolve Trump tentando salvar o mundo de pedófilos liberais, uma conspiração que não tem base na realidade.

Resumo

O Facebook claramente está ciente de que há um problema e anunciou publicamente uma estratégia que se concentra em remover conteúdo que viola os Padrões da Comunidade do Facebook. O problema é que excluir contas é uma medida temporária e ineficaz quando as contas são geradas em massa por bots ou quando há um grande número de contas de usuário hackeadas. Isso também não resolve o problema de que a maioria do compartilhamento é feita por usuários regulares que não estão cientes de que estão espalhando desinformação.

Adicionar rótulos de advertência simplesmente serve para reforçar teorias da conspiração de que as gigantes das mídias sociais são tendenciosas contra os conservadores, que são os mais suscetíveis a notícias falsas.

A solução precisa ser um novo motor de recomendação que não apenas meça o engajamento do usuário, mas também seja otimizado para a felicidade do usuário, entregando a verdade e promovendo uma consciência aprimorada.

Enquanto isso, o Facebook deve seguir o caminho que o Twitter tomou para banir anúncios políticos.

Por fim, uma pergunta importante precisa ser feita. Se as pessoas não têm mais escolha sobre as notícias que veem, quando é que isso deixa de ser uma recomendação e se torna controle mental?

Leitura Recomendada:

Campanhas de Medidas Ativas Russas e Interferências – Relatório do Comitê Selecional de Inteligência do Senado dos EUA.

O Papel Chocante que Prevê o Fim da Democracia – Por Rick Shenkman, fundador da History News Network da Universidade George Washington.

Pessoas Mais Velhas Compartilham Notícias Falsas no Facebook Mais – Por New York Times