Αναίρεση «Επαγγελματικών» Κακόβουλων Online Κριτικών με Μηχανική Μάθηση

Μια νέα έρευνα συνεργασίας μεταξύ Κίνας και ΗΠΑ προσφέρει έναν τρόπο ανίχνευσης κακόβουλων κριτικών ηλεκτρονικού εμπορίου που σχεδιάζονται για να υπονομεύουν τους ανταγωνιστές ή να διευκολύνουν το εκβιασμό, αξιοποιώντας την υπογραφή συμπεριφοράς τέτοιων κριτικών.

Το σύστημα, με τίτλο μοντέλο ανίχνευσης κακόβουλου χρήστη (MMD), χρησιμοποιεί Μετρική Μάθηση, μια τεχνική συνηθισμένη στην επεξεργασία εικόνων και συστήματα συστάσεων, μαζί με ένα Αναδρομικό Νευρωνικό Δίκτυο (RNN), για να αναγνωρίσει και να etiquetάρει την έξοδο τέτοιων κριτικών, τα οποία το έγγραφο ονομάζει Επαγγελματίες Κακόβουλοι Χρήστες (PMUs).

Πολύ Καλό! 1 αστέρι

Οι περισσότερες online κριτικές ηλεκτρονικού εμπορίου παρέχουν δύο μορφές ανατροφοδότησης χρήστη: μια βαθμολογία αστέρων (ή μια βαθμολογία από 10) και μια κριτική βασισμένη σε κείμενο, και σε một τυπική περίπτωση, αυτά θα αντιστοιχούν λογικά (δηλαδή, μια κακή κριτική θα συνοδεύεται από μια χαμηλή βαθμολογία).

Οι PMUs, ωστόσο, συνήθως ανατρέπουν αυτή τη λογική, αφήνοντας είτε μια κακή κριτική με υψηλή βαθμολογία, είτε μια χαμηλή βαθμολογία συνοδευόμενη από μια καλή κριτική.

Αυτό επιτρέπει στην κριτική του χρήστη να προκαλέσει ζημιά στην φήμη χωρίς να ενεργοποιήσει τους σχετικά απλούς φίλτρες που έχουν αναπτυχθεί από τους ιστότοπους ηλεκτρονικού εμπορίου για να αναγνωρίσουν και να αντιμετωπίσουν την έξοδο των κακόβουλων αρνητικών κριτικών. Αν ένας φίλτρος βασισμένος στην Επεξεργασία Φυσικής Γλώσσας (NLP) αναγνωρίζει επιθέσεις στο κείμενο μιας κριτικής, αυτή η ‘σημαία’ ακυρώνεται αποτελεσματικά από την υψηλή βαθμολογία αστέρων (ή δεκαδικής) που ο PMU έχει επίσης ανατεθεί, καθιστώντας το κακόβουλο περιεχόμενο ‘ουδέτερο’, από στατιστική άποψη.

Ένα παράδειγμα του πώς μια κακόβουλη κριτική μπορεί να αναμιχθεί στατιστικά με γνήσιες κριτικές, από την άποψη ενός συστήματος συνεργατικής φιλτράρισής που προσπαθεί να αναγνωρίσει αυτή τη συμπεριφορά.  Πηγή: https://arxiv.org/pdf/2205.09673.pdf

Η νέα έρευνα σημειώνει ότι ο σκοπός ενός PMU είναι συχνά να εκβιάσει χρήματα από online λιανοπωλητές ως αντάλλαγμα για την τροποποίηση αρνητικών κριτικών, και/ή μια υπόσχεση να δημοσιεύσει keine περαιτέρω αρνητικές κριτικές. Σε ορισμένες περιπτώσεις, οι ηθοποιοί είναι ad hoc άτομα που ζητούν εκπτώσεις, αν και συχνά ο PMU είναι κατασκευασμένος από τους ανταγωνιστές του θύματος.

Καλύπτοντας Αρνητικές Κριτικές

Η τρέχουσα γενιά αυτόματων ανιχνευτών για τέτοιες κριτικές χρησιμοποιεί Συνεργατική Φιλτράριση ή μοντέλο βασισμένο στο περιεχόμενο, και αναζητούν σαφείς και αμφισβητούμενους ‘εξωτικούς’ – κριτικές που είναι ομοιόμορφα αρνητικές σε cả τις μεθόδους ανατροφοδότησης, και που απομακρύνουν σημαντικά από την γενική τάση της κριτικής στάσης και βαθμολογίας.

Το άλλο κλασικό σημάδι που αυτοί οι φίλτρες βασίζονται είναι μια υψηλή συχνότητα δημοσίευσης, ενώ ένας PMU θα δημοσιεύσει στρατηγικά και μόνο περιστασιακά (καθώς κάθε κριτική μπορεί να αντιπροσωπεύει είτε μια ατομική επιτόκιο, είτε ένα στάδιο σε μια μακρύτερη στρατηγική που σχεδιάζεται για να αποκρύψει τη ‘συχνότητα’ μετρικό).

Επομένως, οι ερευνητές της νέας έρευνας έχουν ενσωματώσει την περίεργη πολικότητα των επαγγελματικών κακόβουλων κριτικών σε ένα αφοσιωμένο σύστημα, με αποτέλεσμα ένα αλγόριθμο που είναι σχεδόν ισάξιος με την ικανότητα ενός ανθρώπινου κριτικού να ‘μυρίσει μια παγίδα’ στην ανισότητα μεταξύ της βαθμολογίας και του κειμένου της κριτικής.

Η εννοιολογική αρχιτεκτονική για MMD, αποτελούμενη από δύο κεντρικά 모