Les chercheurs commencent à former l’intelligence artificielle pour lutter contre les discours de haine en ligne

Les fausses informations et les discours de haine en ligne deviennent un problème non pas quotidien, mais minute par minute. Selon IkigaiLab, Facebook (META ) et Twitter ont dû fermer plus de 1,5 milliard et 70 millions de comptes respectivement pour essayer de freiner la propagation des fausses informations et des discours de haine dans le monde.

Cependant, pour l’instant, une telle tâche nécessite une énorme puissance humaine et des heures de travail presque constantes pour ne prendre qu’une petite partie de la glace des discours de haine. Pour résoudre le problème, les chercheurs dans de nombreux laboratoires commencent à former l’intelligence artificielle (IA) pour les aider dans cette tâche énorme.

Ikigai cite le système Rosetta que Facebook utilise pour comprendre l’authenticité des actualités, des images ou d’autres contenus téléchargés sur ce média social. Comme il est expliqué, ce que Rosetta fait est analyser « le mot, l’image, la langue, la police, la date de la publication parmi d’autres variables et tente de voir si les informations présentées sont authentiques ou non ». Après que le système ait rassemblé les informations et compte tenu du fait que l’IA n’est pas encore tout à fait « apte à comprendre les allusions, les références, les sous-entendus et les contextes dans lesquels le contenu a été publié », les modérateurs humains prennent le relais et guident le système d’IA pour découvrir les discours de haine et les fausses informations.

Pour essayer de développer davantage la capacité des systèmes d’IA à couvrir toutes les nuances possibles qui caractérisent les discours de haine, une équipe de chercheurs à l’UC Santa Barbara et Intel (INTC ), comme le rapporte TheNextWeb (TNW), « a pris des milliers de conversations des communautés les plus sordides de Reddit et Gab et les a utilisées pour développer et former l’IA pour lutter contre les discours de haine ».

Selon leur rapport, pour ce faire, le groupe conjoint de chercheurs a créé un ensemble de données spécifique présentant « des milliers de conversations spécialement sélectionnées pour s’assurer qu’elles seraient remplies de discours de haine ». Ils ont également utilisé une liste des groupes de Reddit qui sont principalement caractérisés par l’utilisation de discours de haine compilée par Justin Caffier de Vox.

Les chercheurs ont fini par collecter « plus de 22 000 commentaires de Reddit et plus de 33 000 de Gab ». Ils ont découvert que les deux sites présentent des mots clés de haine populaires similaires, mais les distributions sont très différentes.

Ils ont noté que, en raison de ces différences, il est très difficile pour les médias sociaux d’intervenir en temps réel, car le flux de discours de haine est si élevé qu’il nécessiterait des personnes innombrables pour le suivre.

Pour résoudre le problème, l’équipe de recherche a commencé à former l’IA pour intervenir. Leur base de données initiale a été envoyée aux travailleurs d’Amazon (AMZN ) Turk pour être étiquetée. Après avoir identifié les instances individuelles de discours de haine, les travailleurs ont créé des phrases que l’IA utiliserait « pour dissuader les utilisateurs de publier des discours de haine similaires à l’avenir ».

Sur la base de cela, l’équipe « a exécuté ce jeu de données et sa base de données d’interventions à travers divers systèmes d’apprentissage automatique et de traitement du langage naturel et a créé une sorte de prototype pour un système d’IA d’intervention contre les discours de haine en ligne ».

Les résultats obtenus étaient excellents, mais comme le développement est encore à un stade précoce, le système n’est pas encore prêt à être utilisé activement. Comme il est expliqué, « le système, en théorie, devrait détecter les discours de haine et envoyer immédiatement un message à l’auteur pour lui faire savoir pourquoi il ne devrait pas publier des choses qui représentent clairement des discours de haine. Cela repose sur plus que la simple détection de mots clés – pour que l’IA fonctionne, elle doit comprendre le contexte ».