Το Facebook Χρησιμοποιεί Bots και Προσομοιώσεις για να Αντιμετωπίσει την Κακή Συμπεριφορά των Χρηστών

Το Facebook έχει σχεδιάσει ένα νέο AI που έχει ως στόχο να ανιχνεύσει καλύτερα τις βλαβερές, επιζήμιες και παράνομες συμπεριφορές. Όπως αναφέρει το The Verge, οι ερευνητές στο τμήμα AI του Facebook στο Λονδίνο έχουν δημιουργήσει ένα προσομοιωτή Facebook που ονομάζεται “WW”, ο οποίος χρησιμοποιείται για να προσομοιώσει τη συμπεριφορά των απατεώνων, των εμπόρων παράνομων προϊόντων, των spammer και άλλων κακών ηθοποιών σε μια προσομοιωμένη έκδοση του Facebook.

Ο προσομοιωτής του Facebook, γνωστός ως “WW”, που πήρε το όνομά του από την συντομογραφία του “WWW”, αποκαλύφθηκε από το Facebook σε ένα έγγραφο που δημοσιεύθηκε τον Απρίλιο του τρέχοντος έτους. Ο WW είναι μια κλωνοποιημένη, περιεχόμενη έκδοση του Facebook που έχει ως στόχο να βοηθήσει στη δοκιμή των διάφορων εργαλείων και αλγορίθμων του Facebook.

Η εταιρεία πρόσφατα αποκάλυψε περισσότερες λεπτομέρειες σχετικά με κάποιες από τις χρήσεις του WW, μια από τις οποίες είναι η προσομοίωση των κακών ηθοποιών μέσω του AI. Με τη χρήση ενός αριθμού bots για να προσομοιώσουν τη συμπεριφορά όπως η απάτη, το spam, η παρενόχληση και άλλα, οι ερευνητές ελπίζουν ότι θα μπορέσουν να ανιχνεύσουν και να αντιμετωπίσουν καλύτερα τις βλαβερές συμπεριφορές των χρηστών.

Σύμφωνα με τον μηχανικό του Facebook Mark Harman, όπως αναφέρεται στο The Verge, προβλέπεται ότι ο WW θα είναι ένα πολύτιμο εργαλείο για την αντιμετώπιση των διάφορων βλαβερών συμπεριφορών στο Facebook. Για παράδειγμα, ο Harman πιστεύει ότι οι προσομοιώσεις μπορούν να χρησιμοποιηθούν για να σχεδιαστούν καλύτεροι τρόποι ανίχνευσης των απατεώνων.

Οι μηχανικοί του Facebook μιμήθηκαν τη συμπεριφορά των απατεώνων του Facebook στη ζωή, δημιουργώντας δύο ομάδες bots: μια ομάδα στόχων και μια ομάδα απατεώνων. Οι απατεώνες συχνά ψάχνουν μέσα στα δίκτυα των φίλων, εξερευνώντας τους φίλους των χρηστών, για να βρουν einen πιθανό στόχο. Αυτή η συμπεριφορά μιμήθηκε από τους bots απατεώνων, καθώς οι μηχανικοί πειραματίζονταν με διάφορους τρόπους για να αποτρέψουν τους αθώους bots από το να γίνουν θύματα απάτης. Οι τακτικές που πειραματίζονταν περιελάμβαναν πολλές περιορισμοί, όπως το περιορισμό του αριθμού των ιδιωτικών μηνυμάτων που μπορούσε να στείλει ένας bot ανά λεπτό.

Υπάρχουν quelques τρόποι με τους οποίους η προσομοίωση του Facebook διαφέρει από το πραγματικό. Για παράδειγμα, η προσομοίωση του Facebook δεν περιλαμβάνει κανένα οπτικό στοιχείο, οπότε τα δεδομένα που προέρχονται από την προσομοίωση είναι όλα στη μορφή αριθμητικών δεδομένων και στατιστικών για τις αλληλεπιδράσεις μεταξύ των bots. Για άλλο, όλοι οι ηθοποιοί στην προσομοίωση είναι bots, οι οποίοι δεν είναι ικανοί να αλληλεπιδράσουν με πραγματικούς χρήστες. Η προσομοίωση του WW δεν μπορεί επίσης να λάβει υπόψη πράγματα όπως η πρόθεση του χρήστη ή το περιεχόμενο μιας συγκεκριμένης συζήτησης, καθώς μόνο οι ενέργειες της αποστολής μηνυμάτων, της δημιουργίας σχολίων κ.λπ. προσομοιώνονται.

Σύμφωνα με τον Harman, αυτή η διαδικασία πειραματισμού με περιορισμούς είναι παρόμοια με τους αστικούς σχεδιαστές που προσπαθούν να μειώσουν την ταχύτητα σε ορισμένα δρόμους με την τοποθέτηση “ταχυτήτων”. Παρόμοια με τον τρόπο που ένας αστικός σχεδιαστής θα πειραματιζόταν με τη δημιουργία ταχυτήτων και στη συνέχεια συλλέγοντας δεδομένα για τη χρησιμότητά τους, οι μηχανικοί ανέλυσαν πώς τα μηνύματα και οι αλληλεπιδράσεις μεταξύ των bots ποικίλουν στην προσομοίωσή τους καθώς ποικίλουν παραμέτρους και περιορισμούς. Ο Harman εξηγεί ότι ο στόχος είναι να ληφθεί μια ιδέα για τις αλλαγές που θα μπορούσαν να γίνουν στο πλαίσιο του Facebook για να εμποδίσουν τις βλαβερές συμπεριφορές χωρίς να περιοριστούν σοβαρά οι κανονικές συμπεριφορές ή η ελεύθερη ροή της κυκλοφορίας.

Ο Harman εξηγεί επίσης ότι το πλεονέκτημα της χρήσης του WW για τις προσομοιώσεις είναι ότι οι ενέργειες που μελετούν συμβαίνουν σε πραγματική υποδομή του Facebook, η οποία τους δίνει μια πολύ καλύτερη ιδέα για το πώς οι προτεινόμενες αλλαγές θα μπορούσαν να επηρεάσουν τους πραγματικούς χρήστες του Facebook. Οποιαδήποτε εφαρμογή αυτών των ευρημάτων θα πρέπει να περιμένει κάποιο χρόνο, καθώς τώρα ο WW και η προσομοίωσή του είναι ακόμη στη φάση της έρευνας. Ο Harman και άλλοι ερευνητές του Facebook δεν θα εφαρμόσουν τις ευρήματές τους στη ζωντανή έκδοση του Facebook ακόμη, καθώς υπάρχουν ακόμη πολλά που πρέπει να γίνουν. Η ομάδα έρευνας πρέπει να διαπιστώσει ότι οι προσομοιώσεις που δημιουργούν αντιστοιχούν επαρκώς στη πραγματική ανθρώπινη συμπεριφορά.

Το κύριο πλεονέκτημα του WW, σύμφωνα με τον Harman, είναι η ικανότητά του να λειτουργεί σε μεγάλη κλίμακα, επιτρέποντας στους ερευνητές του Facebook να ελέγχουν τις πιθανές συνέπειες χιλιάδων διαφορετικών μικρών ρυθμίσεων, όλα μέσω των προσομοιώσεων που παράγει.

Στο μέλλον, οι ερευνητές μπορεί να αφήσουν τους bots να παίζουν και να πειραματίζονται για κάποιο χρόνο, για να δουν ποια είδη αλληλεπιδράσεων θα προκύψουν από μόνα τους, τα οποία μπορούν συχνά να είναι κάτι που οι ερευνητές δεν έχουν ούτε φανταστεί.

“Τώρα, ο κύριος στόχος είναι η εκπαίδευση των bots για να μιμούνται πράγματα που γνωρίζουμε ότι συμβαίνουν στην πλατφόρμα. Αλλά σε θεωρία και στην πράξη, οι bots μπορούν να κάνουν πράγματα που δεν έχουμε δει πριν”, είπε ο Harman. “Αυτό είναι στην πραγματικότητα κάτι που θέλουμε, γιατί τελικά θέλουμε να προηγηθούμε της κακής συμπεριφοράς αντί να παίζουμε συνεχώς το παιχνίδι της καταδίωξης.”

Εάν όλα πάνε καλά, το Facebook μπορεί να αρχίσει να κάνει αλλαγές με βάση τις προσομοιώσεις του WW μέχρι το τέλος του 2020.