Identificazione dei Crowdturfers di Instagram con Machine Learning

I ricercatori in Italia e in Iran affermano di aver formulato il primo sistema di apprendimento automatico in grado di riconoscere l’attività di “crowdturfing” (influenzatori umani, piuttosto che account automatizzati) sulla piattaforma Instagram. I crowdturfers sono persone reali che forniscono servizi di “costruzione del profilo” a piattaforme che vendono tali attività a livello wholesale.

Il nuovo metodo afferma di avere un punteggio di accuratezza del 95% e utilizza l’apprendimento semi-supervisionato nei sistemi di Elaborazione del Linguaggio Naturale (NLP).

Gli autori affermano che, per quanto ne sanno, il loro sistema rappresenta il primo sistema di rilevamento del crowdturfing (CT) in grado di individuare in modo affidabile account non-bot coinvolti in attività di engagement e boosting del profilo a pagamento.

Per realizzare ciò, gli autori hanno acquistato 1293 profili di crowdturfing da 11 fornitori di piattaforme CT al fine di ottenere dati per addestrare il loro rilevatore CT. Poiché Instagram ha una serie di misure anti-bot efficaci, i ricercatori notano che coloro che cercano di sfruttare la piattaforma per scopi commerciali hanno iniziato a pagare influencer Instagram autentici per “interagire strategicamente” con account “client”, principalmente condividendoli o attraverso attività correlate ai commenti sui post.

Dopo aver addestrato il modello, gli autori lo hanno utilizzato per analizzare i profili di engagement di 20 “mega-influencer”, ciascuno con oltre 1 milione di follower, concludendo che ‘più del 20% del loro engagement era artificiale’.

Il documento è intitolato Siamo tutti in uno show di Truman? Individuazione del crowdturfing di Instagram attraverso l’auto-addestramento e proviene da cinque ricercatori dell’Università di Padova in Italia e dell’Università Imam Reza in Iran.

Violazione dei Termini di Servizio di Instagram

A differenza di Twitter, preferito dai ricercatori di social media a causa del suo impegno nel favorire la ricerca, Instagram non fornisce alcun API o dump di dati aggiornati per aiutare i ricercatori, ma proibisce la navigazione guidata da macchina nei suoi Termini di Servizio. Pertanto, il primo compito dei ricercatori è stato quello di ottenere un’esenzione dal loro Institutional Review Board, giustificata da lavori precedenti che hanno utilizzato un approccio simile per indagare su “attività sotterranee”.

I servizi di crowdturfing sono stati acquistati per account Instagram freschi creati dai ricercatori per i loro scopi, tutti i quali sono stati cancellati dopo l’esperimento, evitando così il coinvolgimento di utenti “legittimi”. Né gli account influencer studiati né i servizi di piattaforma CT sono stati nominati.

Un altro ostacolo etico è stato che i ricercatori non potevano richiedere il consenso degli influencer in fase di studio, a causa dell’effetto Hawthorne (ovvero, avrebbe potuto cambiare il comportamento degli influencer), e anche questa esenzione è stata concessa dal IRB.

Infine, poiché Instagram consente la “raccolta manuale” dei dati, i ricercatori hanno compromesso la violazione dei Termini di Servizio impostando gli strumenti di scraping automatizzati alla “velocità umana”, il che ha richiesto una fase di raccolta dei dati di cinque mesi.

Esseri Umani in Vendita

I ricercatori hanno acquistato 100 profili di “follower falsi” da ciascuno di 11 fornitori (non nominati).

Il documento afferma*:

‘Tutti i fornitori che abbiamo selezionato garantiscono di consegnare follower che interagiscono con i profili target mettendo “mi piace” e commentando i loro post per aumentare il loro tasso di engagement.

‘Questi profili CT sono identificati come follower di alta qualità e di solito costano più dei profili “base” falsi. L’affidabilità di questi fornitori è supportata da piattaforme di recensione famose come TrustPilot.’

Dal documento, statistiche sui fornitori di piattaforme CT (anonimi), ciascuno un mercato per account influencer “corrotti” del mondo reale. Questa tabella riporta informazioni segnalate dai fornitori e recuperate dai ricercatori attraverso l’analisi dei 100 profili acquistati da ciascun fornitore. Fonte: https://arxiv.org/pdf/2206.12904.pdf

Il costo medio per l’acquisto di un influencer Instagram, nota il documento, non è così alto, circa 3 dollari per 100 follower di “alta qualità”. Gli autori notano:

‘La maggior parte dei fornitori consegna i follower entro poche ore. Offrono una protezione contro la perdita, che significa che il numero di follower acquistati rimarrà stabile nel tempo o nuovi follower verranno consegnati per rimpiazzare quelli persi.’

I ricercatori riportano che alcuni dei loro account Instagram freschi hanno subito una perdita del 15-20% di follower CT dopo un mese, ma che in alcuni casi hanno guadagnato più di quanto previsto. Per il fornitore CT più costoso (CT-10, nella tabella sopra), solo tre follower sono stati persi dopo un mese.

Il documento nota che il rapporto tra follower e follower diventa più “autentico” quanto più si paga al fornitore CT, con il secondo fornitore più costoso che offre un rapporto molto vicino a quello di un utente standard.

Una caratteristica di un account CT di Instagram è che il suo profilo sarà raramente impostato su “privato” (un fatto che ha consentito di raccogliere dati dai follower falsi acquistati, poiché la maggior parte delle analisi si è concentrata sui profili e sui commenti relativi), anche se ciò non dovrebbe essere considerato un segnale affidabile in questo senso.

‘Le persone che si uniscono a queste piattaforme sono interessate a generare un numero minimo di post che le renda affidabili, tranne pochi casi (CT-4, CT-10). I profili di bassa qualità mostrano un alto squilibrio tra follower e follower, e il numero medio di post è vicino a 0, ben al di sotto dei profili CT.’

Dati

I ricercatori hanno raccolto dati attraverso un’implementazione del framework di automazione del browser Selenium. Il set di dati risultante include informazioni sul profilo di 1293 utenti CT e 1307 utenti non CT.

Questa quantità di campioni ammissibilmente bassa ha reso possibile impostare Selenium su una velocità umana credibile nel corso di un periodo di tempo razionale. Inoltre, gli autori notano, il potere rappresentativo/interpretativo delle tecniche di apprendimento semi-supervisionato si adatta molto bene a set di dati più piccoli. Dopo aver sperimentato, per completezza, con un modello completamente supervisionato, i ricercatori concludono:

‘[I] risultati nella modalità semi-supervisionata non differiscono significativamente da quelli in modalità supervisionata. Ciò suggerisce che i profili CT condividono caratteristiche molto simili e che l’algoritmo può convergere [con una piccola quantità di] dati etichettati.’

Gli autori hanno raccolto tutti i dati disponibili dal codice sorgente delle pagine dei profili degli utenti “compromessi”, compresi dettagli generalmente oscurati quando visualizzati, come l’elemento #video.

Quindi, hanno pre-elaborato le caratteristiche dei dati rimuovendo quelle con varianza zero o bassa e, infine, hanno convertito qualsiasi dato categorico o non numerico in caratteristiche strettamente numeriche o booleane.

Caratteristiche del set di dati finale.

Metodo e Esplorazioni

Oltre a Selenium, le tecnologie utilizzate negli esperimenti includono: una versione di SpaCy implementata con una pipeline basata su trasformatori; un classificatore di auto-addestramento scikit learn self-training; e il framework Instaloader.

Non c’è una sezione di “risultati” consueta nel nuovo documento, poiché si occupa di un obiettivo (ovvero, l’inferenza automatica di account Instagram “corrotti”) che si discosta dal locus centrale di interesse fino ad oggi (ovvero, l’inferenza automatica di attività di bot automatizzati su Instagram), il che significa che non c’è un lavoro precedente con cui confrontarlo.

I ricercatori hanno adottato una vasta gamma di metodi sugli utenti acquistati disponibili, (che ritengono di poter descrivere come “falsi” piuttosto che solo “non-CT”, poiché questi account autentici stanno conducendo attività di engagement e boosting del profilo non organico a pagamento), attraverso una serie di tecnologie correlate all’NLP.

Tra gli aspetti studiati c’erano l’analisi del linguaggio (che, nel mondo CT, quasi sempre si limita all’inglese, anche se le piattaforme CT offrono anche follower non inglesi geolocalizzati); il conteggio dei commenti (dove gli utenti falsi si attengono molto alla frequenza degli utenti reali, per paura di essere rilevati); e l’analisi delle parole comuni:

Nuvole di parole di utenti falsi e reali.

Il documento nota che la prevalenza della parola “dokter” (vedi immagine sopra) nei profili falsi sembra essere legata a una campagna interna specifica:

‘“Dokter” [è apparso] in 1069 commenti distinti. Indagando ulteriormente sugli account che hanno diffuso [questa] parola, abbiamo trovato una piccola parte di ciò che sembra essere un botnet il cui obiettivo è quello di spamming “account di dottori di Instagram”. Tutti questi profili di dottori hanno un collegamento WhatsApp business che, una volta cliccato, avvia una chat con un messaggio per completare.’

Per quanto i ricercatori possano dedurre, questo strano artefatto può essere un residuo di un grande botnet che hanno incontrato mentre cercavano attività di utenti Instagram reali.

Nel complesso, i ricercatori hanno raccolto 603.007 commenti da post su 248.388 utenti Instagram univoci, dei quali, gli autori stanno, 55.719 erano account di crowdturfing.

Il documento nota con interesse la predominanza di argomenti a tema femminile nei dati raccolti. Dopo aver utilizzato GPU-PDMM (una tecnica sviluppata per i post obbligatoriamente brevi su Twitter) per estrarre 12.830 commenti adatti da un corpus di 121.822 commenti, l’algoritmo ha trovato che, considerando il contenuto di 12 maschi e 8 femmine, la maggior parte dei commenti riguarda argomenti femminili.

I 10 argomenti principali estratti da commenti falsi in uno degli esperimenti dei ricercatori.

I ricercatori concludono:

‘[Mentre] Instagram e la comunità di ricerca si sono concentrate molto sulla rilevazione di bot e account automatizzati, crediamo che ulteriori studi dovrebbero essere condotti sulle attività CT, che hanno un impatto negativo sul marketing degli influencer, sulla piattaforma Instagram e sulla maggior parte dei suoi utenti.’

* L’URL di TrustPilot citato dai ricercatori è stato omesso.

Pubblicato per la prima volta il 28 giugno 2022.