Identificarea crowdturferilor de pe Instagram cu ajutorul învățării automate

Cercetătorii din Italia și Iran susțin că au creat primul sistem de învățare automată capabil să recunoască activitatea de “crowdturfing” a conturilor de influencer umane (și nu automate) de pe platforma Instagram. Crowdturferii sunt oameni reali care efectuează servicii de “construire a profilului” pentru platforme care vând astfel de activități în mod gros.

Noua metodă afirmă că are un scor de acuratețe de aproximativ 95% și utilizează învățarea semi-supervizată în sistemele de procesare a limbajului natural (NLP).

Autorii afirmă că, după cunoștința lor, sistemul lor reprezintă primul sistem de detectare a crowdturfing-ului (CT) care poate identifica în mod fiabil conturile non-automate care sunt implicate în angajamentul de profil și îmbunătățirea plătită.

Pentru a realiza acest lucru, autorii au cumpărat 1293 de profiluri de crowdturfing de la 11 furnizori de platforme CT, pentru a obține date pentru a antrena detectorul CT. Deoarece Instagram are o serie de măsuri anti-robot eficiente, cercetătorii notează că cei care doresc să exploateze baza imensă de utilizatori a platformei pentru scopuri comerciale s-au întors spre plata influencerilor reali de pe Instagram pentru a “se implica strategic” cu conturile “client”, în principal prin partajarea de comentarii sau prin activități legate de comentarii pe postări.

După ce au antrenat modelul, autorii l-au lansat pentru a analiza profilurile de angajament ale a 20 de “mega-influenceri”, fiecare cu peste 1 milion de urmăritori, concluzionând că “mai mult de 20% din angajamentul lor a fost artificial”.

Articolul paper se intitulează Suntem toți într-un spectacol Truman? Identificarea crowdturfing-ului de pe Instagram prin auto-antrenare și provine de la cinci cercetători de la Universitatea din Padova, Italia și Universitatea Imam Reza din Iran.

Încălcarea termenilor și condițiilor de utilizare ale Instagram

În contrast cu Twitter, preferat de cercetătorii de social media datorită angajamentului său de a ajuta la cercetare, Instagram nu oferă niciun API sau actualizări de date pentru a ajuta cercetătorii, dar interzice navigarea condusă de mașini în termenii și condițiile sale. Prin urmare, prima sarcină a cercetătorilor a fost să obțină o excepție de la Consiliul de Revizie Instituțională, justificată de lucrări anterioare care au utilizat o abordare similară pentru a investiga “activitățile subterane”.

Serviciile de crowdturfing au fost cumpărate pentru conturi noi de Instagram create de cercetători pentru scopurile lor, toate fiind șterse după experiment, eliminând implicarea “utilizatorilor legitimi”. Nici conturile de influencer studiate, nici serviciile de platforme CT nu sunt numite.

O altă barieră etică a fost că cercetătorii nu au putut solicita consimțământul influencerilor care erau studiați, din cauza efectului Hawthorne (adică ar fi putut schimba comportamentul influencerilor), și această excepție a fost acordată și de IRB.

În final, deoarece Instagram permite “colectarea manuală” a datelor, cercetătorii au făcut un compromis cu încălcarea termenilor și condițiilor de utilizare prin setarea instrumentelor lor de scrapare automate la “viteză umană”, ceea ce a necesitat o fază de colectare a datelor de cinci luni.

Oameni de vânzare

Cercetătorii au cumpărat 100 de profiluri “urmaritori falsi” de la 11 furnizori (fără nume).

Articolul afirmă*:

‘Toți furnizorii pe care i-am selectat se asigură că livrează urmăritori care interacționează cu profilurile țintă, prin aprecieri și comentarii pe postările lor, pentru a-și îmbunătăți rata de angajament.

‘Aceste profiluri CT sunt identificate ca urmăritori de înaltă calitate și, de obicei, costă mai mult decât profilurile “de bază” false. Confiabilitatea acestor furnizori este susținută de platforme de recenzii renumite, cum ar fi TrustPilot.’

Din articol, statistici despre furnizorii de platforme CT (anonimi), fiecare fiind o piață pentru conturi de influencer “corupte” din lumea reală.

Prețul mediu de cumpărare a unui influencer de pe Instagram, notează articolul, nu este foarte mare, aproximativ 3 dolari pentru 100 de “urmăritori de înaltă calitate”. Autorii notează:

‘Majoritatea furnizorilor livrează urmăritorii în câteva ore. Ei oferă o protecție împotriva scăderii numărului de urmăritori, ceea ce înseamnă că numărul de urmăritori cumpărați de client va rămâne stabil în timp sau vor fi livrați noi urmăritori pentru a înlocui cei pierduți.’

Cercetătorii raportează că unele dintre conturile noi de Instagram au suferit o pierdere de 15-20% din urmăritorii CT după o lună, dar că, în anumite cazuri, au câștigat mai mult decât se așteptau. Pentru cel mai scump furnizor de servicii CT (CT-10, în tabelul de mai sus), doar trei urmăritori au fost pierduți după o lună.

Articolul notează că raportul dintre urmăritori și cei care urmăresc devine mai “autentic” cu cât se plătește mai mult furnizorului de servicii CT, furnizorul cel mai scump oferind un raport foarte apropiat de cel al unui utilizator standard.

Unul dintre caracteristicile unui cont de Instagram CT este că profilul său va fi rareori setat la “privat” (un fapt care a permis extragerea de date de la urmăritorii falsi cumpărați, deoarece majoritatea analizelor s-au concentrat pe profiluri și comentarii conexe), deși acest lucru nu ar trebui să fie considerat un semnal fiabil în acest sens.

‘Oamenii care se alătură acestor platforme sunt interesați să genereze un număr minim de postări care să îi facă credibili, cu excepția câtorva cazuri (CT-4, CT-10). Profilele de calitate scăzută prezintă un dezechilibru foarte mare între urmăritori și cei care urmăresc, iar numărul mediu de postări este aproape de 0, mult sub cel al profilurilor CT.’

Date

Cercetătorii au colectat date prin implementarea unui cadru de automatizare a browserului Selenium. Setul de date rezultat include informații despre profil de la 1293 de utilizatori CT și 1307 utilizatori non-CT.

Această cantitate de eșantion, în mod evident, mică, a făcut posibilă setarea Selenium la o viteză umană credibilă, pe o perioadă de timp rațională. În plus, autorii notează că puterea reprezentativă/interpretativă a tehnicilor de învățare semi-supervizate se potrivește foarte bine cu seturi de date mici. După ce au experimentat, pentru scopuri de exhaustivitate, cu un model complet supervizat, cercetătorii concluzionează:

‘Rezultatele în modul semi-supervizat nu diferă semnificativ de cele dintr-un mod supervizat. Acest lucru sugerează că profilele CT au caracteristici foarte asemănătoare și că algoritmul poate converge [prin o cantitate mică de] date etichetate.’

Autorii au colectat toate datele disponibile din codul sursă al paginilor de profil ale utilizatorilor “compromiși”, inclusiv detalii care sunt, de obicei, obscure atunci când sunt afișate, cum ar fi elementul #videos.

Apoi, au pre-procesat caracteristicile datelor prin eliminarea celor cu varianță zero sau scăzută și, în final, au convertit orice date categorice sau non-numerice în caracteristici strict numerice sau booleane.

Caracteristicile setului final de date.

Metodă și explorări

Pe lângă Selenium, tehnologiile utilizate în experimente includ: o versiune a SpaCy implementată cu o pipeline bazată pe transformatori; un clasificator de auto-antrenare scikit learn self-training classifier; și cadru Instaloader.

Nu există o secțiune obișnuită de “rezultate” în noul articol, deoarece se ocupă de un obiectiv (adică inferența automată a conturilor corupte de pe Instagram) care se abate de la centrul de interes principal până în prezent (adică inferența automată a activității automate a bot-urilor pe Instagram), ceea ce înseamnă că nu există niciun studiu anterior similar cu care să se poată compara.

Cercetătorii au adoptat o gamă largă de metode pentru utilizatorii cumpărați disponibili, (pe care se simt confortabil să îi descrie ca “falsi” mai degrabă decât doar “non-CT”, deoarece aceste conturi reale efectuează activități de angajament plătit și non-organic), într-o serie de tehnologii legate de NLP.

Printre aspectele studiate s-au numărat analiza limbajului (care, în lumea CT, aproape întotdeauna se rezumă la engleză, deși platformele CT oferă și urmăritori non-englezi geo-localizați); numărul de comentarii (unde utilizatorii falsi se apropie foarte mult de frecvența utilizatorilor reali, din teama de a fi detectați); și analiza cuvintelor comune:

Norul de cuvinte de la utilizatorii falsi și reali.

Articolul notează că prevalența cuvântului “dokter” (vezi imaginea de mai sus) în conturile false pare să se refere la o campanie internă specifică:

‘“Dokter” [a apărut] în 1069 de comentarii distincte. Prin investigarea ulterioară a conturilor care au spamat [acest] cuvânt, am găsit o mică parte a ceea ce pare a fi un botnet al cărui obiectiv este să spam-e “conturile doctorilor de pe Instagram”. Toate profilele acestor doctori au o legătură cu WhatsApp pentru afaceri, care, odată accesată, începe un chat cu un mesaj de finalizare.’

Cât pot cercetătorii să deducă, această ciudată relicvă poate fi un rest al unui botnet mare pe care l-au descoperit în timp ce căutau activități de la utilizatori reali de pe Instagram.

În total, cercetătorii au colectat 603.007 comentarii de la postări din 248.388 de utilizatori unici de pe Instagram, din care, autorii estimează, 55.719 au fost conturi de crowdturfing.

Articolul notează cu interes dominanța temelor cu caracter feminin în datele colectate. Folosind GPU-PDMM (o tehnică dezvoltată pentru postările obligatoriu scurte de pe Twitter) pentru a extrage 12.830 de comentarii potrivite dintr-un corpus de 121.822 de comentarii, algoritmul a găsit că, luând în considerare conținutul de la 12 bărbați și 8 femei, majoritatea comentariilor se ocupă de subiecte legate de femei.

Cele 10 subiecte extrase din comentariile false într-unul dintre experimentele cercetătorilor.

Cercetătorii concluzionează:

‘[În timp ce] Instagram și comunitatea de cercetare s-au concentrat mult pe detectarea bot-urilor și conturilor automate, credem că ar trebui efectuate mai multe studii despre activitățile CT, care afectează negativ marketingul de influencer, platforma Instagram și majoritatea utilizatorilor săi.’

* URL-ul TrustPilot citat de cercetători a fost omis.

Publicat pentru prima dată pe 28 iunie 2022.