Ανίχνευση επαγγελματικών κακόβουλων διαδικτυακών κριτικών με μηχανική μάθηση

Μια νέα έρευνα συνεργασίας μεταξύ Κίνας και ΗΠΑ προσφέρει έναν τρόπο ανίχνευσης κακόβουλων κριτικών ηλεκτρονικού εμπορίου που σχεδιάζονται για να υπονομεύουν τους ανταγωνιστές ή να διευκολύνουν το εκβιασμό, αξιοποιώντας την υπογραφή συμπεριφοράς τέτοιων κριτικών.

Το σύστημα, με τίτλο μοντέλο ανίχνευσης κακόβουλου χρήστη (MMD), χρησιμοποιεί Μετρική Μάθηση, μια τεχνική συνηθισμένη στην επεξεργασία εικόνων και συστήματα συστάσεων, μαζί με ένα Ανατροφοδοτούμενο Νευρωνικό Δίκτυο (RNN), για να αναγνωρίσει και να επισημάνει την έξοδο τέτοιων κριτικών, τα οποία το έγγραφο ονομάζει Επαγγελματίες Κακόβουλοι Χρήστες (PMUs).

Πολύ Καλό! 1 αστέρι

Οι περισσότερες online κριτικές ηλεκτρονικού εμπορίου παρέχουν δύο μορφές ανατροφοδότησης χρήστη: μια βαθμολογία αστέρων (ή μια βαθμολογία από 10) και μια κριτική βασισμένη σε κείμενο, και σε một τυπική περίπτωση, αυτά θα αντιστοιχούν λογικά (δηλαδή, μια κακή κριτική θα συνοδεύεται από μια χαμηλή βαθμολογία).

Οι PMUs, ωστόσο, συνήθως ανατρέπουν αυτή τη λογική, αφήνοντας είτε μια κακή κριτική με υψηλή βαθμολογία, είτε μια χαμηλή βαθμολογία συνοδευόμενη από μια καλή κριτική.

Αυτό επιτρέπει στην κριτική του χρήστη να προκαλέσει ζημιά στην φήμη χωρίς να ενεργοποιήσει τους σχετικά απλούς φίλτρες που έχουν αναπτυχθεί από τους ιστότοπους ηλεκτρονικού εμπορίου για να αναγνωρίσουν και να αντιμετωπίσουν την έξοδο των κακόβουλων αρνητικών κριτικών. Αν ένας φίλτρος βασισμένος στην Επεξεργασία Φυσικής Γλώσσας (NLP) αναγνωρίζει επιθέσεις στο κείμενο μιας κριτικής, αυτή η ‘σημαία’ ακυρώνεται αποτελεσματικά από την υψηλή βαθμολογία αστέρων (ή δεκαδικής) που ο PMU έχει επίσης ανατεθεί, καθιστώντας το κακόβουλο περιεχόμενο ‘ουδέτερο’, από στατιστική άποψη.

Ένα παράδειγμα του πώς μια κακόβουλη κριτική μπορεί να αναμιχθεί στατιστικά με γνήσιες κριτικές, από την άποψη ενός συστήματος συνεργατικής φιλτράρισής που προσπαθεί να αναγνωρίσει αυτή τη συμπεριφορά.  Πηγή: https://arxiv.org/pdf/2205.09673.pdf

Η νέα έρευνα σημειώνει ότι ο σκοπός ενός PMU είναι συχνά να εκβιάσει χρήματα από online λιανοπωλητές ως αντάλλαγμα για την τροποποίηση αρνητικών κριτικών, και/ή μια υπόσχεση να μη δημοσιεύσει άλλες αρνητικές κριτικές. Σε ορισμένες περιπτώσεις, οι ηθοποιοί είναι ad hoc άτομα που ζητούν εκπτώσεις, αν και συχνά ο PMU είναι περιστασιακά μισθωμένος από τους ανταγωνιστές του θύματος.

Καλύπτοντας Αρνητικές Κριτικές

Η τρέχουσα γενιά αυτόματων ανιχνευτών για τέτοιες κριτικές χρησιμοποιεί Συνεργατική Φιλτράριση ή μοντέλο βασισμένο στο περιεχόμενο, και αναζητούν σαφείς και αδιαμφισβήτητες ακραίες περιπτώσεις – κριτικές που είναι ομοιόμορφα αρνητικές και στις δύο μεθόδους ανατροφοδότησης, και που απομακρύνουν σημαντικά από την γενική τάση της κριτικής στάσης και βαθμολογίας.

Το άλλο κλασικό σημάδι που αυτοί οι φίλτρες βασίζονται είναι μια υψηλή συχνότητα δημοσίευσης, ενώ ένας PMU θα δημοσιεύσει στρατηγικά και μόνο περιστασιακά (καθώς κάθε κριτική μπορεί να αντιπροσωπεύει είτε μια μεμονωμένη ανάθεση, είτε ένα στάδιο σε μια μακρύτερη στρατηγική που σχεδιάζεται για να αποκρύψει τη ‘συχνότητα’ μετρικό).

Επομένως, οι ερευνητές της νέας έρευνας έχουν ενσωματώσει την περίεργη πολικότητα των επαγγελματικών κακόβουλων κριτικών σε ένα αφοσιωμένο σύστημα, με αποτέλεσμα ένα αλγόριθμο που είναι σχεδόν ισάξιος με την ικανότητα ενός ανθρώπινου κριτικού να ‘μυρίσει μια παγίδα’ στην ανισότητα μεταξύ της βαθμολογίας και του κειμένου της κριτικής.

Η εννοιολογική αρχιτεκτονική του MMD περιλαμβάνει δύο βασικές μονάδες: κατάρτιση προφίλ κακόβουλων χρηστών (MUP) και μετρική μάθηση με προσοχή (MLC, με γκρι).

Σύγκριση με προηγούμενες προσεγγίσεις

Σύμφωνα με τους συγγραφείς, το MMD είναι το πρώτο σύστημα που επιχειρεί να εντοπίσει PMU από την αντιφατική σχέση βαθμολογίας και κειμένου στις δημοσιεύσεις τους. Δεν υπάρχουν επομένως άμεσα συγκρίσιμες προηγούμενες εργασίες. Οι ερευνητές το συνέκριναν με επιμέρους αλγορίθμους στους οποίους βασίζονται συχνά τα παραδοσιακά αυτόματα φίλτρα: ομαδοποίηση K-means++, στατιστική ανίχνευση ακραίων τιμών (SOD), Hysad, Semi-sad, CNN-sad και Slanderous user Detection Recommender System (SDRS).

Στα επισημασμένα δεδομένα των Amazon [securities_stock_price_tag symbol="amzn" exchange="nasdaq"] και Yelp, το MMD εντοπίζει τους επαγγελματίες κακόβουλους αξιολογητές με τη μεγαλύτερη ακρίβεια, σύμφωνα με τους συγγραφείς. Τα έντονα γράμματα δείχνουν το MMD και ο αστερίσκος το καλύτερο αποτέλεσμα. Σε δύο μόνο εργασίες το ξεπέρασε η MUP, μια συνιστώσα που ήδη περιέχει, αλλά δεν είναι προσαρμοσμένη εξ ορισμού στη συγκεκριμένη εργασία.