Identifier les crowdturfeurs Instagram avec l’apprentissage automatique

Des chercheurs en Italie et en Iran affirment avoir formulé le premier système d’apprentissage automatique capable de reconnaître l’activité de “crowdturfing” (c’est-à-dire des comptes d’influenceurs humains, et non automatisés) sur la plateforme Instagram. Les crowdturfeurs sont de vraies personnes qui effectuent des services de “construction de profil” pour des plateformes qui vendent une telle activité à grande échelle.

La nouvelle méthode affirme avoir un score de précision d’environ 95 %, et utilise un apprentissage semi-supervisé dans les systèmes de traitement du langage naturel (NLP).

Les auteurs affirment que, à leur connaissance, leur système représente le premier détecteur de crowdturfing (CT) capable de détecter de manière fiable les comptes non-automatisés qui s’engagent dans des interactions de profil et des augmentations de likes payées.

Pour accomplir cela, les auteurs ont acheté 1 293 profils de crowdturfing à 11 fournisseurs de plateformes CT afin d’obtenir des données pour entraîner leur détecteur CT. Puisque Instagram a des mesures anti-robots efficaces en place, les chercheurs notent que ceux qui cherchent à exploiter la grande base d’utilisateurs de la plateforme à des fins commerciales se sont tournés vers le paiement d’influenceurs Instagram réels pour “s’engager de manière stratégique” avec des comptes “clients”, principalement en partageant des commentaires ou en lien avec des activités liées aux commentaires sur les publications.

Après avoir entraîné le modèle, les auteurs l’ont utilisé pour analyser les profils d’engagement de 20 “mégainfluenceurs”, chacun ayant plus d’un million d’abonnés, et ont conclu que « plus de 20 % de leur engagement était artificiel ».

Le document est intitulé Nous sommes tous dans un Truman Show? Détection de crowdturfing Instagram grâce à l’auto-formation, et provient de cinq chercheurs de l’Université de Padoue en Italie et de l’Université Imam Reza en Iran.

Violation des conditions d’utilisation d’Instagram

Contrairement à Twitter, qui est apprécié des chercheurs en médias sociaux en raison de son engagement à aider la recherche, Instagram ne fournit pas d’API ou de dumps de données mis à jour pour aider les chercheurs, et interdit la navigation à moteur dans ses conditions d’utilisation. Par conséquent, la première tâche des chercheurs a été d’obtenir une exemption de leur comité d’examen institutionnel, justifiée par des travaux antérieurs qui ont utilisé une approche similaire pour étudier les “activités souterraines”.

Les services de crowdturfing ont été achetés pour de nouveaux comptes Instagram créés par les chercheurs à leurs fins, tous lesquels ont été supprimés après l’expérience, éliminant ainsi la participation d’utilisateurs “légitimes”. Ni les comptes d’influenceurs étudiés ni les services de plateformes CT ne sont nommés.

Un autre obstacle éthique a été que les chercheurs ne pouvaient pas demander le consentement des influenceurs étudiés, en raison de l’effet Hawthorne (c’est-à-dire qu’il pourrait avoir modifié le comportement des influenceurs), et cette exemption a également été accordée par le comité d’examen.

Enfin, puisque Instagram permet la “collecte manuelle” de données, les chercheurs ont compromis sur leur violation des conditions d’utilisation en réglant leurs outils de scraping automatisés à “vitesse humaine”, ce qui a nécessité une phase de collecte de données de cinq mois.

Humains à vendre

Les chercheurs ont acheté 100 “faux abonnés” à chacun de 11 fournisseurs (non nommés).

Le document indique*:

‘Tous les fournisseurs que nous avons sélectionnés s’engagent à livrer des abonnés qui interagissent avec les profils cibles en les aimant et en commentant leurs publications pour augmenter leur taux d’engagement.

‘Ces profils CT sont identifiés comme des abonnés de haute qualité et coûtent généralement plus que les profils “de base” faux. La fiabilité de ces fournisseurs est soutenue par des plateformes de révision célèbres comme TrustPilot.’

Du document, statistiques sur les fournisseurs de plateformes CT (anonymisés), chaque marché pour des comptes d’influenceurs ‘corrompus’ du monde réel. Ce tableau présente des informations signalées par les fournisseurs et récupérées par les chercheurs à travers l’analyse des 100 profils achetés à chaque source. Source: https://arxiv.org/pdf/2206.12904.pdf

Le coût moyen d’achat d’un influenceur Instagram, note le document, n’est pas élevé, environ 3 $ pour 100 “abonnés de haute qualité”. Les auteurs notent:

‘La plupart des fournisseurs livrent les abonnés dans quelques heures. Ils offrent une protection contre les pertes, ce qui signifie que le nombre d’abonnés que le client achète restera stable dans le temps ou que de nouveaux abonnés seront livrés pour remplacer les pertes.’

Les chercheurs rapportent que certains de leurs comptes Instagram frais ont subi une perte de 15-20 % d’abonnés CT après un mois, mais que dans certains cas, ils ont gagné plus que prévu. Pour le fournisseur de plateforme CT le plus cher (CT-10, dans le tableau ci-dessus), seuls trois abonnés ont été perdus après un mois.

Le document note que le rapport suiveur/suivi devient plus “authentique” plus vous payez au fournisseur de plateforme CT, le deuxième fournisseur le plus cher offrant un rapport très proche de la ligne de base d’un utilisateur standard.

Une caractéristique d’un compte Instagram CT est que son profil sera rarement défini sur “privé” (un fait qui a permis de tirer des données des faux abonnés, puisque la plupart des analyses se sont concentrées sur les profils et les commentaires associés), bien que cela ne devrait pas être considéré comme un signal fiable à cet égard.

‘Les personnes qui rejoignent ces plateformes sont intéressées à générer un minimum de publications qui les rendent fiables, à l’exception de quelques cas (CT-4, CT-10). Les profils de mauvaise qualité présentent un déséquilibre très élevé entre les abonnés et les suivis, et le nombre moyen de publications est proche de 0, bien en dessous des profils CT.’

Données

Les chercheurs ont collecté des données à travers une mise en œuvre du framework d’automatisation de navigateur Selenium. L’ensemble de données résultant comprend des informations de profil de 1 293 utilisateurs CT et 1 307 utilisateurs non-CT.

Cette quantité d’échantillons relativement faible a rendu possible la mise de Selenium à une vitesse humaine crédible sur une période de temps rationnelle. De plus, les auteurs notent que le pouvoir représentatif/interprétatif des techniques d’apprentissage semi-supervisé s’adapte très bien aux petits ensembles de données. Après avoir expérimenté, pour des raisons d’exhaustivité, un modèle entièrement supervisé, les chercheurs concluent:

‘[Les] résultats en mode semi-supervisé ne diffèrent pas significativement de ceux en mode supervisé. Cela suggère que les profils CT partagent des caractéristiques très similaires, et que l’algorithme peut converger [à partir d’un petit nombre de] données étiquetées.’

Les auteurs ont rassemblé toutes les données disponibles à partir du code source des pages de profil des utilisateurs “compromis”, y compris des détails généralement obscurcis lors de la mise en page, tels que l’élément #videos.

Ils ont ensuite prétraité les fonctionnalités de données en supprimant celles qui avaient une variance nulle ou faible, et enfin converti toutes les données catégorielles ou non numériques en fonctionnalités strictement numériques ou booléennes.

Caractéristiques de l’ensemble de données final.

Méthode et explorations

Outre Selenium, les technologies utilisées dans les expériences incluent: une version de SpaCy mise en œuvre avec un pipeline basé sur un transformateur; un classificateur d’auto-formation de scikit learn; et le framework Instaloader.

Il n’y a pas de section de résultats traditionnelle dans le nouveau document, car il traite d’un objectif (c’est-à-dire l’inférence automatisée de comptes Instagram corrompus) qui s’écarte de l’objectif central à ce jour (c’est-à-dire l’inférence automatisée d’activité de robot sur Instagram), ce qui signifie qu’il n’y a pas de travail antérieur comparable.

Les chercheurs ont adopté une large gamme de méthodes sur les utilisateurs achetés disponibles, (qu’ils estiment confortablement qualifier de “faux” plutôt que de simples “non-CT”, puisque ces comptes réels mènent des activités d’engagement payées et non organiques), à travers une gamme de technologies liées au traitement du langage naturel.

Parmi les aspects étudiés figuraient l’analyse de langage (qui, dans le monde CT, défaut presque toujours à l’anglais, bien que les plateformes CT offrent également des abonnés non anglophones géolocalisés); les comptes de commentaires (où les utilisateurs faux s’approchent très près de la fréquence des utilisateurs réels, par crainte de détection); et l’analyse de mots courants:

Nuages de mots de faux utilisateurs et d’utilisateurs réels.

Le document note que la prévalence du mot “dokter” (voir image ci-dessus) dans les comptes faux semble être liée à une campagne interne spécifique:

‘“Dokter” [apparaît] dans 1 069 commentaires distincts. En investiguant davantage les comptes qui spamment [ce] mot, nous avons trouvé une petite partie de ce qui semble être un botnet dont l’objectif est de spammer les comptes de “médecins Instagram”. Tous ces profils de médecins ont un lien WhatsApp Entreprise qui, une fois cliqué, démarre une conversation avec un message pour compléter.’

Dans la mesure où les chercheurs peuvent le déduire, cet artefact étrange peut être un vestige d’un grand botnet qu’ils ont découvert lors de la recherche d’activités de vrais utilisateurs Instagram.

Au total, les chercheurs ont collecté 603 007 commentaires à partir de publications sur 248 388 utilisateurs Instagram uniques, dont, selon les auteurs, 55 719 étaient des comptes de crowdturfing.

Le document note avec intérêt la domination de thèmes à connotation féminine dans les données collectées. Ayant utilisé GPU-PDMM (une technique développée pour les publications obligatoirement courtes sur Twitter) pour extraire 12 830 commentaires appropriés à partir d’un corpus de 121 822 commentaires, l’algorithme a constaté que dans la considération du contenu de 12 hommes et 8 femmes, la majorité des commentaires traitent de sujets liés aux femmes.

Les 10 principaux sujets extraits de faux commentaires dans l’une des expériences des chercheurs.

Les chercheurs concluent:

‘[Alors que] Instagram et la communauté de recherche se sont concentrés beaucoup sur la détection de robots et de comptes automatisés, nous croyons que davantage d’études devraient être menées sur les activités de crowdturfing, qui ont un impact négatif sur le marketing d’influence, la plateforme Instagram et la plupart de ses utilisateurs.’

* L’URL de TrustPilot citée par les chercheurs a été omise.

Publié pour la première fois le 28 juin 2022.