Facebook utilise des bots et des simulations pour essayer de contrer les mauvais comportements des utilisateurs

Facebook a conçu un nouvel IA destiné à mieux détecter les comportements nuisibles, préjudiciables et illégaux. Comme le rapporte The Verge, les chercheurs du département IA de Facebook à Londres ont créé un simulateur Facebook piloté par IA appelé “WW”, qui est utilisé pour simuler le comportement des escrocs, des marchands de produits illégaux, des spammeurs et d’autres acteurs malveillants sur une version simulée de Facebook lui-même.

Le simulateur Facebook appelé “WW”, dont le nom est une abréviation de “WWW”, a été révélé par Facebook dans un document publié en avril de cette année. WW est une version clonée et contenue de Facebook destinée à aider à tester divers outils et algorithmes de Facebook.

La société vient de divulguer plus de détails concernant certaines de ses utilisations de WW, dont l’une est la simulation d’acteurs malveillants par IA. En utilisant un certain nombre de bots pour simuler des comportements tels que l’escroquerie, le spam, le harcèlement et plus, les chercheurs espèrent qu’ils pourront mieux détecter et contrer les comportements nuisibles des utilisateurs.

Selon l’ingénieur de Facebook Mark Harman, cité par The Verge, il est prévu que WW sera un outil précieux pour limiter les différents comportements nuisibles sur Facebook. Par exemple, Harman pense que les simulations peuvent être utilisées pour concevoir de meilleures méthodes de détection des escrocs.

Les ingénieurs de Facebook ont imité le comportement des escrocs de Facebook dans la vie réelle en créant deux groupes de bots : un groupe de cibles et un groupe d’escrocs. Les escrocs cherchent souvent à travers les réseaux d’amis, en explorant les amis des utilisateurs, pour trouver une cible potentielle. Ce comportement a été imité par les bots escrocs alors que les ingénieurs expérimentaient avec différentes méthodes pour empêcher le bot innocent d’être escroqué. Les tactiques qu’ils ont expérimentées incluaient de nombreuses contraintes comme la limitation du nombre de messages privés qu’un bot pouvait envoyer par minute.

Il y a quelques façons dont la simulation de Facebook diffère de la version réelle. Tout d’abord, la simulation de Facebook ne contient pas d’éléments visuels, donc les données dérivées de la simulation sont sous forme de données numériques et de statistiques sur les interactions entre les bots. Ensuite, tous les acteurs de la simulation sont des bots, qui ne sont pas capables d’interagir avec des utilisateurs réels. La simulation WW ne peut pas non plus tenir compte de choses comme l’intention de l’utilisateur ou le contenu d’une conversation donnée, car seuls les actions d’envoi de messages, de commentaires, etc. sont simulés.

Selon Harman, ce processus d’expérimentation avec des contraintes est similaire à celui des urbanistes qui tentent de réduire la vitesse sur certaines routes en posant des “dos d’âne”. De même que les urbanistes expérimentent avec la création de dos d’âne et collectent des données sur leur utilité, les ingénieurs ont analysé comment les messages et les interactions entre les bots variaient dans leur simulateur à mesure qu’ils variaient les paramètres et les contraintes. Harman explique que l’objectif est d’avoir une idée des changements qui pourraient être apportés à la plateforme de Facebook pour inhiber les comportements nuisibles sans limiter sévèrement les comportements normaux, ou le flux de trafic.

Harman explique également que l’avantage de l’utilisation de WW pour leurs simulations est que les actions qu’ils étudient se produisent sur l’infrastructure réelle de Facebook, ce qui leur donne une meilleure idée de la façon dont leurs changements proposés pourraient avoir un impact sur les utilisateurs réels de Facebook. Toute application de ces découvertes devra attendre un certain temps, car pour le moment, WW et sa simulation ne sont qu’à l’étape de la recherche. Harman et les autres chercheurs de Facebook n’appliqueront pas encore leurs découvertes à la version en direct de Facebook, car il reste encore beaucoup de travail à faire. Le groupe de recherche doit s’assurer que les simulations qu’ils créent correspondent adéquatement au comportement humain réel.

Le principal avantage de WW, selon Harman, est sa capacité à fonctionner à grande échelle, permettant aux chercheurs de Facebook de vérifier les conséquences potentielles de milliers de petites modifications, le tout grâce aux simulations qu’il produit.

À l’avenir, les chercheurs pourraient laisser les bots jouer et expérimenter pendant un certain temps, pour voir quels types d’interactions ils créent par eux-mêmes, ce qui peut souvent être quelque chose que les chercheurs n’anticipent même pas.

“Actuellement, l’objectif principal est de former les bots pour imiter les choses que nous savons se produire sur la plateforme. Mais en théorie et en pratique, les bots peuvent faire des choses que nous n’avons pas vues auparavant”, a déclaré Harman. “C’est en fait quelque chose que nous voulons, car nous voulons finalement devancer les mauvais comportements plutôt que de jouer constamment à rattraper le retard.”

Si tout se passe bien, Facebook pourrait commencer à apporter des modifications basées sur les simulations de WW d’ici la fin de 2020.