Ammattimaisen pahantahtoisten verkkokatsausten havaitseminen koneoppimisella

Uusi tutkimusyhteistyö Kiinan ja Yhdysvaltain välillä tarjoaa tavan havaita pahantahtoisia verkkokatsauksia, jotka on suunniteltu vahingoittamaan kilpailijoita tai helpottamaan kiristystä, hyödyntämällä tällaisia katsauksia tekevien henkilöiden ominaismerkkejä.

Järjestelmä, joka on nimeltään pahantahtoisten käyttäjien havaitsemismalli (MMD), käyttää mittaoppimista, jota käytetään yleisesti tietokonegrafiikassa ja suosittelujärjestelmissä, yhdessä rekurrenttisen neuroverkon (RNN) kanssa, tunnistamaan ja merkintämään tällaisia katsauksia, joita tutkimus nimittää ammattimaisiksi pahantahtoisiksi käyttäjiksi (PMU).

Hyvä! 1 tähti

Useimmat verkkokaupan katsaukset tarjoavat kaksi muotoa käyttäjien palautetta: tähtiluokituksen (tai luokituksen 10:stä) ja tekstipohjaisen katsauksen, ja tyypillisessä tapauksessa nämä vastaavat loogisesti (ts. huono katsaus on yhdistetty matalaan luokituksen).

PMU:t kuitenkin usein kääntävät tämän logiikan, joko jättämällä huonon tekstikatsauksen korkean luokituksen kanssa tai heikon luokituksen hyvän katsauksen kanssa.

Tämä mahdollistaa käyttäjän katsauksen aiheuttamisen maineeseen kohdistuvaa vahinkoa ilman, että se laukaisee verkkokauppojen käyttämiä suhteellisen yksinkertaisia suodattimia, joilla havaitaan pahantahtoisten negatiivisten katsausten tuottajat. Jos luonnollisen kielen prosessointiin (NLP) perustuva suodatin tunnistaa herjauksen katsauksen tekstissä, tämä “lippu” mitätöidään tehokkaasti korkean tähtiluokituksen (tai desimaaliluokituksen) avulla, jonka PMU on myös antanut, mikä tekee pahantahtoisen sisällön “neutraaliksi” tilastollisesta näkökulmasta.

Esimerkki siitä, miten pahantahtoinen katsaus voidaan sekoittaa tilastollisesti aitoihin katsauksiin yhteistyöhön perustuvan suodattimen näkökulmasta, joka yrittää tunnistaa tällaista käyttäytymistä. Lähde: https://arxiv.org/pdf/2205.09673.pdf

Uusi tutkimus huomauttaa, että PMU:n tarkoituksena on usein kiristää rahaa verkkokauppoja vastineeksi katsausten muuttamisesta ja/tai luvasta ei julkaista lisää kielteisiä katsauksia. Joissakin tapauksissa toimijat ovat ad hoc yksilöitä etsimässä alennuksia, vaikka usein PMU on välittömästi työllistetty uhriyritysten kilpailijoiden toimesta.

Pahantahtoisten katsausten peittäminen

Nykyiset automaattiset pahantahtoisten katsausten havaitsemisjärjestelmät käyttävät yhteistyöhön perustuvaa suodatusta tai sisältöpohjaista mallia ja etsivät selviä ja epäilyttäviä “poikkeuksia” – katsauksia, jotka ovat yksinomaan kielteisiä molemmilla palautemalleilla ja jotka poikkeavat merkittävästi yleisestä katsausasenteen trendistä ja luokituksen suhteen.

Toinen perinteinen ominaismerkki, johon nämä suodattimet perustuvat, on korkea julkaisutaajuus, kun taas PMU julkaisee strategisesti ja vain silloin tällöin (kunkin katsauksen edustaessa joko yksittäistä komissiota tai vaihetta pidemmässä strategiassa, jolla pyritään peittämään “taajuusmittari”).

Siksi tutkimuksen tekijät ovat integroineet ammattimaisen pahantahtoisen katsausten outo polariteetin omistettuun järjestelmään, mikä johtaa algoritmiin, joka on lähes verrattavissa ihmiskatselijan kykyyn “haistaa rotan” luokituksen ja katsauksen tekstisisällön epäjohdonmukaisuuden kautta.

MMD:n käsitteellinen arkkitehtuuri, joka koostuu kahdesta keskeisestä moduulista: pahantahtoisten käyttäjien profiilointi (MUP) ja huomioon otettava mittausoppi (MLC, harmaalla).

Vertailu aikaisempiin lähestymistapoihin

Koska MMD on, kuten tekijät toteavat, ensimmäinen järjestelmä, joka yrittää tunnistaa PMU:ita niiden skitsofrenisen julkaisutyylin perusteella, ei ole suoria aiempia töitä, joita vasten sitä voidaan vertailla. Siksi tutkijat asettivat järjestelmänsä useiden komponenttialgoritmien vastaan, joista perinteiset automaattiset suodattimet usein riippuvat, mukaan lukien K-means++-klusterointi; vanha tilastollinen poikkeusjärjestelmä (SOD); Hysad; Semi-sad; CNN-sad; ja Slanderous user Detection Recommender System (SDRS).

Katsauksen projisointi mielipidemittaukseksi HDAN:in avulla, joka sisältää sanaupotukset ja lauseupotukset mielipidemittauksen saamiseksi.

HDAN käyttää huomioon ottamismekanismeja sana- ja lausekohtaisiin painotuksiin. Yllä olevassa kuvassa tutkijat toteavat, että sana huonompi on selvästi annettava suuremmalle painotukselle kuin kilpailevat sanat katsauksessa.

Projektin aikana HDAN otti tuotteiden luokitukset neljästä tietojoukosta tosiasiallisiksi arvoksi. Tietojoukot olivat Amazon.com; Yelp RecSys (2013); ja kaksi “todellista maailmaa” (ei kokeellista) tietojoukkoa Taobaosta ja Jindongista.

MMD hyödyntää mittausoppiä, joka pyrkii arvioimaan tarkan etäisyyden entiteettien välillä järjestelmän kaikkien suhteiden luonnehtimiseksi.

MMD alkaa yksittäisen koodauksen valitsemalla käyttäjän ja kohteen latentin tekijämallin (LFM) avulla, josta saadaan perusluokitusarvo. Samaan aikaan HDAN projisoi katsauksen sisällön mielipidemittaukseksi aputietona.

Tulokset prosessoidaan sitten pahantahtoisten käyttäjien profiilimalliin (MUP), joka antaa mielipide-erovektori – luokituksen ja katsauksen tekstisisällön arvioidun mielipidemittauksen välinen ero. Tällä tavalla voidaan ensimmäisen kerran luokitella ja merkintää PMU:ita.

Huomioon otettava mittausoppi klusteroinnissa.