Mengidentifikasi Crowdturfers Instagram dengan Mesin Pembelajaran

Peneliti di Italia dan Iran mengklaim telah merumuskan sistem mesin pembelajaran pertama yang dapat mengenali aktivitas ‘crowdturfing’ akun influencer manusia (bukan akun otomatis) di platform Instagram. Crowdturfers adalah orang-orang nyata yang melakukan layanan ‘pembangunan profil’ untuk platform yang menjual aktivitas tersebut secara grosir.

Metode baru ini mengklaim skor akurasi sekitar 95%, dan menggunakan pembelajaran semi-terawasi dalam sistem Pemrosesan Bahasa Alami (NLP).

Penulis mengklaim bahwa menurut pengetahuan mereka, sistem mereka mewakili detektor crowdturfing (CT) pertama yang dapat secara andal mendeteksi akun non-otomatis yang terlibat dalam aktivitas profil palsu dan penguatan.

Untuk mencapai ini, penulis membeli 1293 profil crowdturfing dari 11 penyedia platform CT untuk mendapatkan data untuk melatih detektor CT mereka. Karena Instagram memiliki sejumlah langkah anti-otomatis yang efektif, peneliti mencatat, mereka yang ingin mengeksploitasi basis pengguna besar platform untuk tujuan komersial telah beralih ke membayar influencer Instagram yang benar-benar berpengaruh untuk ‘berinteraksi secara strategis’ dengan akun ‘klien’, sebagian besar dengan berbagi komentar, atau melalui aktivitas terkait komentar pada postingan.

Setelah melatih model, penulis kemudian menganalisis profil engagement dari 20 ‘mega-influencer’, masing-masing dengan lebih dari 1 juta pengikut, menyimpulkan bahwa ‘lebih dari 20% dari engagement mereka adalah buatan’.

Makalah paper ini berjudul Apakah Kita Semua dalam Truman Show? Mengenali Crowdturfing Instagram melalui Self-Training, dan berasal dari lima peneliti di Universitas Padova di Italia, dan Universitas Imam Reza di Iran.

Melanggar Ketentuan Layanan Instagram

Tidak seperti Twitter, yang disukai oleh peneliti media sosial karena komitmennya untuk membantu penelitian, Instagram tidak hanya tidak menyediakan API atau dump data yang diperbarui untuk membantu peneliti, tetapi juga melarang penjelajahan yang digerakkan mesin dalam Ketentuan Layanan mereka. Oleh karena itu, tugas pertama peneliti adalah mendapatkan pengecualian dari Dewan Tinjauan Institusional mereka, yang dibenarkan oleh karya sebelumnya yang menggunakan pendekatan serupa untuk menyelidiki ‘aktivitas bawah tanah’.

Layanan crowdturfing dibeli untuk akun Instagram baru yang dibuat oleh peneliti untuk tujuan mereka, yang semuanya dihapus setelah eksperimen, sehingga tidak melibatkan ‘pengguna yang sah’. Akun influencer yang dipelajari maupun layanan platform CT tidak disebutkan.

Hambatan etika lainnya adalah bahwa peneliti tidak dapat meminta persetujuan dari influencer yang sedang dipelajari, karena efek Hawthorne (yaitu mungkin akan mengubah perilaku influencer), dan pengecualian ini juga diberikan oleh IRB.

Akhirnya, karena Instagram memungkinkan ‘pengumpulan data manual’, peneliti melakukan kompromi dengan pelanggaran Ketentuan Layanan mereka dengan mengatur alat pengumpulan data otomatis mereka ke ‘kecepatan manusia’, yang memerlukan fase pengumpulan data selama lima bulan.

Manusia untuk Dijual

Peneliti membeli 100 ‘pengikut palsu’ dari masing-masing 11 penyedia (yang tidak disebutkan).

Makalah tersebut menyatakan*:

‘Semua penyedia yang kami pilih memastikan untuk mengirimkan pengikut yang berinteraksi dengan profil target dengan menyukai dan mengomentari postingan mereka untuk meningkatkan tingkat engagement mereka.

‘Profil CT ini diidentifikasi sebagai pengikut berkualitas tinggi dan biasanya lebih mahal daripada profil palsu “basis”. Keandalan penyedia ini didukung oleh platform ulasan terkenal seperti TrustPilot.’

Dari makalah, statistik tentang penyedia platform CT (anonim), masing-masing sebagai pasar untuk akun influencer ‘korup’ di dunia nyata. Tabel ini menguraikan informasi yang dilaporkan oleh penyedia dan diperoleh oleh peneliti melalui analisis 100 profil yang dibeli dari setiap sumber. Sumber: https://arxiv.org/pdf/2206.12904.pdf

Biaya rata-rata untuk membeli seorang influencer Instagram, catatan makalah, tidak terlalu tinggi, sekitar $3 untuk 100 ‘pengikut berkualitas tinggi’. Penulis mencatat:

‘Sebagian besar penyedia mengirimkan pengikut dalam beberapa jam. Mereka menawarkan perlindungan penurunan, yang berarti bahwa jumlah pengikut yang dibeli oleh pelanggan akan tetap stabil selama waktu atau pengikut baru akan dikirim untuk menggantikan yang hilang.’

Peneliti melaporkan bahwa beberapa akun Instagram baru mereka mengalami kerugian 15-20% pengikut CT setelah satu bulan, tetapi dalam beberapa kasus mereka mendapatkan lebih dari yang diharapkan. Untuk penyedia CT paling mahal (CT-10, pada tabel di atas), hanya tiga pengikut yang hilang setelah satu bulan.

Makalah tersebut mencatat bahwa rasio diikuti/mengikuti menjadi lebih ‘asli’ semakin banyak Anda membayar kepada penyedia CT, dengan penyedia kedua termahal menawarkan rasio yang sangat dekat dengan baseline pengguna standar.

Salah satu karakteristik akun Instagram CT adalah bahwa profilnya jarang diatur ke ‘pribadi’ (fakta yang memungkinkan data diambil dari pengikut palsu yang dibeli, karena sebagian besar analisis berpusat pada profil dan komentar terkait), meskipun ini tidak harus dianggap sebagai ‘sinyal’ yang dapat diandalkan dalam hal ini.

‘Orang-orang yang bergabung dengan platform ini tertarik untuk menghasilkan jumlah postingan minimum yang membuat mereka dapat diandalkan, kecuali beberapa kasus (CT-4, CT-10). Profil berkualitas rendah menunjukkan ketidakseimbangan yang sangat tinggi dalam pengikut dan mengikuti, dan rata-rata jumlah postingan dekat dengan 0, jauh di bawah profil CT.’

Data

Peneliti mengumpulkan data melalui implementasi kerangka kerja browser-automating Selenium. Dataset yang dihasilkan mencakup informasi profil dari 1293 pengguna CT dan 1307 pengguna non-CT.

Jumlah sampel yang relatif rendah ini membuatnya memungkinkan untuk mengatur Selenium ke kecepatan manusia yang kredibel selama periode waktu yang rasional. Selain itu, penulis mencatat, kekuatan representatif/interpretatif dari teknik pembelajaran semi-terawasi sangat sesuai dengan dataset yang lebih kecil. Setelah bereksperimen, untuk tujuan ketelitian, dengan model yang sepenuhnya terawasi, peneliti menyimpulkan:

‘[Hasil] dalam mode semi-terawasi tidak berbeda secara signifikan dari yang dalam mode terawasi. Ini menunjukkan bahwa profil CT memiliki karakteristik yang sangat mirip, dan bahwa algoritma dapat konvergen [melalui sejumlah kecil] data yang dilabeli.’

Penulis mengumpulkan semua data yang tersedia dari kode sumber halaman profil pengguna ‘yang dikompromikan’, termasuk detail yang biasanya tersembunyi saat dirender, seperti elemen #video.

Mereka kemudian melakukan pra-pengolahan fitur data dengan menghapus fitur yang memiliki varian nol atau rendah, dan akhirnya mengubah data kategori atau non-numerik menjadi fitur numerik atau Boolean yang ketat.

Karakteristik dataset akhir.

Metode dan Eksplorasi

Selain Selenium, teknologi yang digunakan dalam eksperimen ini termasuk: versi SpaCy yang diimplementasikan dengan pipeline berbasis transformer; klasifikasi self-training scikit learn self-training; dan kerangka kerja Instaloader.

Tidak ada bagian ‘hasil’ biasa dalam makalah baru ini, karena ini menangani tujuan (yaitu, inferensi otomatis akun Instagram yang korup) yang menyimpang dari fokus utama minat hingga saat ini (yaitu, inferensi otomatis aktivitas bot pada Instagram), yang berarti bahwa tidak ada pekerjaan sebelumnya yang setara untuk dibandingkan.

Penulis mengadopsi berbagai metode pada pengguna yang dibeli yang tersedia, (yang mereka rasakan nyaman untuk digambarkan sebagai ‘palsu’ daripada hanya ‘non-CT’, karena akun yang sah ini melakukan aktivitas engagement non-organik dan berbayar), di seluruh teknologi terkait NLP.

Di antara aspek yang dipelajari adalah analisis bahasa (yang, di dunia CT, hampir selalu default ke bahasa Inggris, meskipun platform CT juga menawarkan pengikut non-Inggris yang berlokasi); hitungan komentar (di mana pengguna palsu sangat dekat dengan frekuensi pengguna nyata, karena takut terdeteksi); dan analisis kata umum:

Awan kata dari pengguna palsu dan nyata.

Makalah tersebut mencatat bahwa prevalensi kata ‘dokter’ (lihat gambar di atas) pada akun palsu tampaknya terkait dengan kampanye internal tertentu:

‘“Dokter” [muncul] dalam 1069 komentar yang berbeda. Dengan menyelidiki lebih lanjut akun yang menyebarkan [kata] ini, kami menemukan sebagian kecil dari apa yang tampaknya sebuah botnet yang tujuannya adalah untuk menyebarkan “akun dokter Instagram”. Semua profil dokter ini memiliki tautan WhatsApp bisnis yang, ketika diklik, memulai obrolan dengan pesan untuk menyelesaikan.’

Sejauh yang dapat disimpulkan oleh peneliti, artefak aneh ini mungkin merupakan sisa dari botnet besar yang mereka temukan saat mencari aktivitas dari pengguna Instagram nyata.

Totalnya, peneliti mengumpulkan 603.007 komentar dari postingan di seluruh 248.388 pengguna Instagram unik, dari mana, penulis perkirakan, 55.719 adalah akun crowdturfing.

Makalah tersebut mencatat dengan minat dominasi topik berbasis perempuan dalam data yang dikumpulkan. Setelah menggunakan GPU-PDMM (teknik yang dikembangkan untuk postingan singkat di Twitter) untuk mengekstrak 12.830 komentar yang sesuai dari korpus 121.822 komentar, algoritma menemukan bahwa dalam mempertimbangkan konten dari 12 laki-laki dan 8 perempuan, sebagian besar komentar berkaitan dengan topik terkait perempuan.

Topik 10 teratas yang diekstrak dari komentar palsu dalam salah satu eksperimen peneliti.

Peneliti menyimpulkan:

‘[Sementara] Instagram dan komunitas penelitian fokus banyak pada mendeteksi bot dan akun otomatis, kami percaya lebih banyak studi harus dilakukan pada aktivitas CT, yang berdampak negatif pada pemasaran influencer, platform Instagram, dan sebagian besar penggunanya.’

* Tautan TrustPilot yang dikutip oleh peneliti dihilangkan.

Dipublikasikan pertama kali pada 28 Juni 2022.