O Facebook usa bots e simulações para tentar contrariar o comportamento ruim dos usuários

O Facebook (META ) projetou uma nova IA destinada a detectar melhor comportamentos prejudiciais, danosos e ilegais. Como relata o The Verge, os pesquisadores do departamento de IA do Facebook em Londres criaram um simulador de Facebook impulsionado por IA chamado “WW”, que é usado para simular o comportamento de golpistas, comerciantes de produtos ilegais, spammers e outros atores ruins em uma versão simulada do próprio Facebook.

O simulador do Facebook conhecido como “WW”, que recebeu seu nome de uma truncagem de “WWW”, foi revelado pelo Facebook em um artigo publicado em abril deste ano. O WW é uma versão clonada e contida do Facebook destinada a ajudar no teste de várias ferramentas e algoritmos do Facebook.

A empresa recentemente divulgou mais detalhes sobre alguns de seus usos para o WW, um deles sendo a simulação de atores ruins por meio da IA. Ao usar uma série de bots para simular comportamentos como golpes, spam, assédio e mais, os pesquisadores esperam ser capazes de detectar e contrariar melhor o comportamento prejudicial por parte dos usuários.

De acordo com o engenheiro do Facebook Mark Harman, citado pelo The Verge, espera-se que o WW seja uma ferramenta valiosa na redução de vários comportamentos prejudiciais no Facebook. Por exemplo, Harman acredita que as simulações podem ser usadas para desenvolver melhores métodos de detecção de golpistas.

Os engenheiros do Facebook imitaram o comportamento de golpistas do Facebook na vida real, criando dois grupos de bots: um grupo de alvos e um grupo de golpistas. Os golpistas frequentemente vasculham redes de amigos, explorando os amigos dos usuários, para encontrar um alvo potencial. Esse comportamento foi imitado pelos bots de golpistas, à medida que os engenheiros experimentavam diferentes métodos para evitar que o bot inocente fosse golpeado. As táticas que eles experimentaram incluíam várias restrições, como limitar a quantidade de mensagens privadas que um bot poderia enviar por minuto.

Há algumas maneiras pelas quais a simulação do Facebook difere do real. Em primeiro lugar, a simulação do Facebook não inclui elementos visuais, então os dados derivados da simulação são todos na forma de dados numéricos e estatísticas sobre interações entre bots. Em segundo lugar, todos os atores na simulação são bots, que não são capazes de interagir com usuários reais. A simulação do WW também não pode levar em conta coisas como a intenção do usuário ou o conteúdo de uma conversa específica, pois apenas as ações de enviar mensagens, fazer comentários, etc. são simuladas.

De acordo com Harman, esse processo de experimentação com restrições é semelhante a planejadores urbanos tentando reduzir a velocidade em certas estradas, colocando “lombadas”. Semelhante a como um planejador de cidades experimentaria criando lombadas e, em seguida, coletando dados sobre sua utilidade, os engenheiros analisaram como as mensagens e interações entre os bots variavam em seu simulador, à medida que variavam parâmetros e restrições. Harman explica que o objetivo é obter uma ideia de quais mudanças poderiam ser feitas na plataforma do Facebook para inibir o comportamento prejudicial, sem limitar severamente o comportamento normal ou o fluxo livre de tráfego.

Harman também explica que o benefício de usar o WW para suas simulações é que as ações que eles estudam ocorrem em infraestrutura real do Facebook, o que lhes dá uma ideia muito melhor de como suas mudanças propostas poderiam afetar os usuários reais do Facebook. Qualquer aplicação dessas descobertas terá que esperar um pouco, pois, no momento, o WW e sua simulação estão apenas na fase de pesquisa. Harman e outros pesquisadores do Facebook não aplicarão realmente suas descobertas à versão ao vivo do Facebook ainda, pois ainda há muito trabalho a ser feito. O grupo de pesquisa precisa determinar se as simulações que criam correspondem adequadamente ao comportamento humano real.

O principal benefício do WW, de acordo com Harman, é sua capacidade de operar em uma escala massiva, permitindo que os pesquisadores do Facebook verifiquem as consequências potenciais de milhares de pequenas alterações, todas por meio das simulações que produz.

No futuro, os pesquisadores podem deixar os bots brincar e experimentar por um tempo, para ver que tipo de interações eles criam por conta própria, o que pode ser algo que os pesquisadores nem sequer estão antecipando.

“No momento, o foco principal é treinar os bots para imitar coisas que sabemos que acontecem na plataforma. Mas, em teoria e na prática, os bots podem fazer coisas que não vimos antes”, disse Harman. “Isso é algo que queremos, porque, em última análise, queremos ficar à frente do comportamento ruim, em vez de continuar jogando catch up.”

Se tudo correr bem, o Facebook pode começar a fazer modificações com base nas simulações do WW até o final de 2020.