L’intelligence artificielle est maintenant utilisée pour détecter le cyberharcèlement chez les enfants d’âge scolaire

Les données sur le harcèlement, l’automutilation et le cyberharcèlement parmi les enfants d’âge scolaire dans le monde entier deviennent alarmantes. Comme le présente Jun Wu, les données des États-Unis montrent qu’en 2017, Selon le National Center for Education Statistics et le Bureau of Justice, environ 20 % des élèves âgés de 12 à 18 ans ont subi du harcèlement. Selon le Center for Disease Control and Prevention, 19 % des élèves de la 9e à la 12e année rapportent avoir été harcelés sur le terrain scolaire au cours des 12 mois précédant l’enquête.

Ce qui devient encore plus alarmant, se propageant au-delà des terrains scolaires eux-mêmes, est la montée du cyberharcèlement. Comme le souligne Wu, “le harcèlement dans les forums en ligne, par courriels et sur les plateformes de médias sociaux peut souvent être plus préjudiciable à la santé mentale de la victime que le harcèlement en personne. Le cyberharcèlement peut souvent être une escalade du harcèlement scolaire. En même temps, le harcèlement peut commencer sur les médias sociaux, puis se propager dans la classe.”

En Australie, les chercheurs signalent un phénomène appelé Momo, qui consiste en une situation dans laquelle “les prédateurs en ligne prenaient le personnage de Momo et contactaient les enfants via les médias sociaux, leur demandant de se faire du mal, a provoqué des vagues de préoccupation dans les écoles à travers le pays.”

La prévention d’un tel harcèlement et des dommages auto-infligés causés par la dépression a incité de nombreux développeurs d’intelligence artificielle à chercher des solutions à ce problème répandu.

Comme le rapporte SkyNews, certaines écoles britanniques ont commencé à utiliser un outil d’IA appelé AS Tracking, développé par une société appelée STEER, qui est utilisé dans 150 écoles en Grande-Bretagne. L’outil consiste en un test psychologique en ligne que les élèves doivent passer, et en septembre 2019, le test sera passé par 50 000 élèves.

Comme cela est expliqué, le test demande aux élèves d’imaginer un espace où ils se sentent à l’aise, puis pose une série de questions abstraites, telles que “à quel point est-il facile pour quelqu’un de pénétrer dans votre espace ?” L’enfant peut alors répondre en cliquant sur un bouton sur une échelle allant de “très facile” à “très difficile”. Les résultats sont envoyés à STEER, “qui compare les données avec son modèle psychologique, puis signale les élèves qui ont besoin d’attention sur son tableau de bord pour les enseignants.”

Selon le Dr Jo Walker, co-fondateur de STEER, “notre outil met en évidence les enfants particuliers qui luttent à ce stade de leur développement et indique aux enseignants comment cet enfant pense.” Il ajoute que “depuis l’introduction de cet outil, le collège a constaté une diminution de 20 % des actes d’automutilation.”

Dans son analyse, Wu mentionne un certain nombre de développeurs d’IA aux États-Unis qui aident à résoudre le problème. Securly utilise l’IA pour créer “un filtrage Web, une surveillance du cyberharcèlement et des alertes pour les écoles. Les écoles peuvent fournir des appareils Apple (AAPL ) et des Chromebooks aux élèves tout en surveillant les activités en ligne des élèves. Les parents peuvent également utiliser les applications sur leurs appareils personnels pour surveiller les activités en ligne de leurs enfants.” Bark utilise l’IA pour surveiller les messages texte, YouTube, les courriels et 24 réseaux sociaux différents pour alerter les parents de problèmes de sécurité potentiels. SN Technologies Corp va plus loin, car ses solutions d’IA utilisent la reconnaissance faciale pour suivre les “élèves noirs” dans les écoles à partir de vidéos de caméras de surveillance dans les écoles elles-mêmes.

En Australie, la startup de cybersécurité Saasyan Assure a développé une méthode d’IA qui pourrait aider les enseignants à suivre les élèves lorsqu’ils regardaient des vidéos du “défi Momo”. Greg Margossian, responsable de Saasyan Assure, a déclaré que son entreprise “a simplement veillé à ce que le mot-clé ‘Momo’ soit dans toutes les bases de données des clients, sans qu’ils y pensent.” Il est ajouté que l’entreprise “propose un logiciel d’abonnement qui peut être ajouté à tous les appareils scolaires pour créer une trace historique de l’utilisation de l’ordinateur de chaque élève et alerter les enseignants si des risques, allant du harcèlement à l’automutilation ou à la violence, apparaissent.”