Ammattimaisten haitallisten verkkoarvostelujen tunnistaminen koneoppimisella

Uusi tutkimusyhteistyö Kiinan ja Yhdysvaltain välillä tarjoaa tavan havaita pahantahtoisia verkkokatsauksia, jotka on suunniteltu vahingoittamaan kilpailijoita tai helpottamaan kiristystä, hyödyntämällä tällaisia katsauksia tekevien henkilöiden ominaismerkkejä.

Järjestelmä, joka on nimeltään pahantahtoisten käyttäjien havaitsemismalli (MMD), käyttää metriikan oppimista, jota käytetään yleisesti konenäössä ja suosittelujärjestelmissä, yhdessä rekurrenttisen neuroverkon (RNN) kanssa, tunnistamaan ja merkintämään tällaisia katsauksia, joita tutkimus nimittää ammattimaisiksi pahantahtoisiksi käyttäjiksi (PMU).

Hyvä! 1 tähti

Useimmat verkkokaupan katsaukset tarjoavat kaksi muotoa käyttäjien palautetta: tähtiluokituksen (tai luokituksen 10:stä) ja tekstipohjaisen katsauksen, ja tyypillisessä tapauksessa nämä vastaavat loogisesti (ts. huono katsaus on yhdistetty matalaan luokituksen).

PMU:t kuitenkin usein kääntävät tämän logiikan, joko jättämällä huonon tekstikatsauksen korkean luokituksen kanssa tai heikon luokituksen hyvän katsauksen kanssa.

Tämä mahdollistaa käyttäjän katsauksen aiheuttamisen maineeseen kohdistuvaa vahinkoa ilman, että se laukaisee verkkokauppojen käyttämiä suhteellisen yksinkertaisia suodattimia, joilla havaitaan pahantahtoisten negatiivisten katsausten tuottajat. Jos luonnollisen kielen prosessointiin (NLP) perustuva suodatin tunnistaa herjauksen katsauksen tekstissä, tämä “lippu” mitätöidään tehokkaasti korkean tähtiluokituksen (tai desimaaliluokituksen) avulla, jonka PMU on myös antanut, mikä tekee pahantahtoisen sisällön “neutraaliksi” tilastollisesta näkökulmasta.

Esimerkki siitä, miten pahantahtoinen katsaus voidaan sekoittaa tilastollisesti aitoihin katsauksiin yhteistyöhön perustuvan suodattimen näkökulmasta, joka yrittää tunnistaa tällaista käyttäytymistä. Lähde: https://arxiv.org/pdf/2205.09673.pdf

Uusi tutkimus huomauttaa, että PMU:n tarkoituksena on usein kiristää rahaa verkkokauppoja vastineeksi katsausten muuttamisesta ja/tai luvasta ei julkaista lisää kielteisiä katsauksia. Joissakin tapauksissa toimijat ovat ad hoc yksilöitä etsimässä alennuksia, vaikka usein PMU on tilapäisesti palkattu uhriyritysten kilpailijoiden toimesta.

Pahantahtoisten katsausten peittäminen

Nykyiset automaattiset pahantahtoisten katsausten havaitsemisjärjestelmät käyttävät yhteistyöhön perustuvaa suodatusta tai sisältöpohjaista mallia ja etsivät selviä ja epäilyttäviä “poikkeuksia” – katsauksia, jotka ovat yksinomaan kielteisiä molemmilla palautemalleilla ja jotka poikkeavat merkittävästi yleisestä katsausasenteen trendistä ja luokituksen suhteen.

Toinen perinteinen ominaismerkki, johon nämä suodattimet perustuvat, on korkea julkaisutaajuus, kun taas PMU julkaisee strategisesti ja vain silloin tällöin (kunkin katsauksen edustaessa joko yksittäistä komissiota tai vaihetta pidemmässä strategiassa, jolla pyritään peittämään “taajuusmittari”).

Siksi tutkimuksen tekijät ovat integroineet ammattimaisen pahantahtoisen katsausten outo polariteetin omistettuun järjestelmään, mikä johtaa algoritmiin, joka on lähes verrattavissa ihmiskatselijan kykyyn “haistaa rotan” luokituksen ja katsauksen tekstisisällön epäjohdonmukaisuuden kautta.

MMD:n käsitteellinen arkkitehtuuri, joka koostuu kahdesta keskeisestä moduulista: pahantahtoisten käyttäjien profiilointi (MUP) ja huomioon otettava mittausoppi (MLC, harmaalla).

Vertailu aikaisempiin lähestymistapoihin

Koska MMD on, kuten tekijät toteavat, ensimmäinen järjestelmä, joka yrittää tunnistaa PMU:ita niiden ristiriitaisen julkaisutyylin perusteella, ei ole suoria aiempia töitä, joita vasten sitä voidaan vertailla. Siksi tutkijat asettivat järjestelmänsä useiden komponenttialgoritmien vastaan, joista perinteiset automaattiset suodattimet usein riippuvat, mukaan lukien K-means++-klusterointi; vanha tilastollinen poikkeusjärjestelmä (SOD); Hysad; Semi-sad; CNN-sad; ja Slanderous user Detection Recommender System (SDRS).

Tekijöiden mukaan MMD tunnistaa ammattimaiset haitalliset arvostelijat tarkimmin Amazonin [securities_stock_price_tag symbol="amzn" exchange="nasdaq"] ja Yelpin merkityissä aineistoissa. Lihavointi tarkoittaa MMD:tä ja tähti parasta tulosta. MMD hävisi vain kahdessa tehtävässä siihen jo sisältyvälle MUP-osamenetelmälle, jota ei oletuksena ole sovitettu tähän tehtävään.