Ammattimaisen pahantahtoisen verkkokirjoitusten havaitseminen koneoppimisella

Kiinan ja Yhdysvaltain välinen uusi tutkimusyhteistyö tarjoaa tavan havaita pahantahtoiset verkkokaupan arvostelut, jotka on suunniteltu kilpailijoiden tuhoamiseksi tai kiristykseksi, hyödyntämällä tällaisia arvostelijoita luonteenomaista käyttäytymistä.

Järjestelmä, joka on nimetty häikäisevän käyttäjän havaitsemismalliksi (MMD), käyttää mittaamisen oppimista, tekniikkaa, jota yleisesti käytetään tietokoneen näön ja suosittelujärjestelmien yhteydessä, yhdessä recurrent neural networkin (RNN) kanssa, jotta voidaan tunnistaa ja merkitä tällaisia arvostelijoiden tuottamaa sisältöä, jonka tutkimus nimittää ammattimaisiksi pahantahtoisiksi käyttäjiksi (PMU).

Hyvä! 1 tähti

Useimmat verkkokaupan arvostelut tarjoavat kaksi muotoa käyttäjän palautetta: tähtiluokituksen (tai luokituksen 10:stä) ja tekstimuotoisen arvostelun, ja tyypillisessä tapauksessa nämä vastaavat loogisesti (ts. huono arvostelu on yhdistetty matalaan luokitus).
PMU:t kuitenkin usein kiertävät tämän logiikan joko jättämällä huonon tekstimuotoisen arvostelun korkean luokituksen kanssa tai heikon luokituksen hyvän arvostelun kanssa.
Tämä mahdollistaa käyttäjän arvostelun aiheuttamisen maineeseen vahinkoa ilman, että se laukaisee verkkokaupan sivustojen käyttämiä suhteellisen yksinkertaisia suodattimia, joilla havaitaan ja käsitellään pahantahtoisten negatiivisten arvostelijoiden tuottamaa sisältöä. Jos suodatin, joka perustuu luonnollisen kielen prosessointiin (NLP), tunnistaa herjauksen arvostelun tekstissä, tämä ‘lippu’ mitätöidään tehokkaasti korkean tähtiluokituksen (tai desimaaliluokituksen) avulla, jonka PMU on myös antanut, mikä tekee pahantahtoisen sisällön ‘neutraaliksi’ tilastollisesta näkökulmasta.

Esimerkki siitä, miten pahantahtoinen arvostelu voidaan sekoittaa tilastollisesti aitoihin arvosteluihin yhteistyöhön perustuvan suodattimien näkökulmasta, jotka yrittävät tunnistaa tämän käyttäytymisen. Lähde: https://arxiv.org/pdf/2205.09673.pdf