Εκκινήσεις που Δημιουργούν Εργαλεία AI για την Ανίχνευση Εργασιακής Παρενόχλησης μέσω Ηλεκτρονικού Ταχυδρομείου

Από τότε που το κίνημα Me Too έγινε εξέχον το 2017, δίνεται όλο και περισσότερη προσοχή σε περιστατικά σεξουαλικής παρενόχλησης, συμπεριλαμβανομένης της παρενόχλησης στην εργασία και της παρενόχλησης μέσω ηλεκτρονικού ταχυδρομείου ή άμεσης ανταπόκρισης.

Όπως αναφέρθηκε από την εφημερίδα The Guardian, ερευνητές και μηχανικοί του AI έχουν δημιουργήσει εργαλεία για την ανίχνευση παρενόχλησης μέσω κειμένων, τα οποία ονομάζονται MeTooBots. Τα MeTooBots εφαρμόζονται από εταιρείες σε όλο τον κόσμο για να σημάνουν πιθανώς επιβλαβείς και παρενοχλητικές επικοινωνίες. Ένα παράδειγμα είναι ο bot της εταιρείας Nex AI, ο οποίος χρησιμοποιείται目前 από περίπου 50 διαφορετικές εταιρείες. Ο bot χρησιμοποιεί einen αλγόριθμο που εξετάζει έγγραφα εταιρειών, chat και emails και τα συγκρίνει με τα δεδομένα εκπαίδευσης για μηνύματα παρενόχλησης. Τα μηνύματα που θεωρούνται πιθανώς παρενοχλητικά ή επιβλαβή μπορούν να σταλούν σε ένα διαχειριστή ανθρώπινου δυναμικού για ανασκόπηση, αν και η Nex AI δεν έχει αποκαλύψει τους συγκεκριμένους όρους που ο bot αναζητά στις επικοινωνίες που αναλύει.

Άλλες εκκινήσεις έχουν επίσης δημιουργήσει εργαλεία ανίχνευσης παρενόχλησης με τη βοήθεια του AI. Η εκκίνηση Spot κατέχει ένα chatbot που μπορεί να ενεργοποιήσει τους υπαλλήλους να αναφέρουν ανώνυμα καταγγελίες σεξουαλικής παρενόχλησης. Ο bot θα κάνει ερωτήσεις και θα δώσει συμβουλές για να συλλέξει περισσότερες λεπτομέρειες και να προωθήσει μια έρευνα για το περιστατικό. Η Spot θέλει να βοηθήσει τις ομάδες ανθρώπινου δυναμικού να αντιμετωπίσουν θέματα παρενόχλησης με ευαίσθητο τρόπο, διατηρώντας παράλληλα την ανωνυμία.

Σύμφωνα με την εφημερίδα The Guardian, ο καθηγητής Brian Subirana, καθηγητής του MIT και του Χάρβαρντ, εξήγησε ότι οι προσπάθειες να χρησιμοποιηθεί το AI για την ανίχνευση παρενόχλησης έχουν τις περιορισμοί τους. Η παρενόχληση μπορεί να είναι πολύ λεπτή και δύσκολο να ανιχνευθεί, συχνά εκδηλώνοντας się μόνο ως ένα μοτίβο που αποκαλύπτεται όταν εξετάζονται εβδομάδες δεδομένων. Οι bot δεν μπορούν, προς το παρόν, να πάνε πέρα από την ανίχνευση ορισμένων κλειδιών λέξεων και να αναλύσουν τις ευρύτερες αλληλεπιδραστικές ή πολιτιστικές δυναμικές που θα μπορούσαν να είναι σε ισχύ. Παρά τις сложότητες της ανίχνευσης παρενόχλησης, ο Subirana πιστεύει ότι οι bot θα μπορούσαν να παίξουν ένα ρόλο στην καταπολέμηση της παρενόχλησης στο διαδίκτυο. Ο Subirana θα μπορούσε να δει τους bot να χρησιμοποιούνται για την εκπαίδευση των ανθρώπων να ανιχνεύουν παρενόχληση όταν την βλέπουν, δημιουργώντας μια βάση δεδομένων πιθανώς προβληματικών μηνυμάτων. Ο Subirana ανέφερε επίσης ότι θα μπορούσε να υπάρξει ένα εφφέ placebo που κάνει τους ανθρώπους λιγότερο πιθανό να παρενοχλήσουν τους συναδέλφους τους, ακόμη και αν υποψιάζονται ότι τα μηνύματά τους μπορεί να ελέγχονται, ακόμη και αν δεν ελέγχονται.

Ενώ ο Subirana πιστεύει ότι οι bot έχουν τις δυνατότητές τους στην καταπολέμηση της παρενόχλησης, ο Subirana επιχειρηματολόγησε επίσης ότι η εμπιστευτικότητα των δεδομένων και η ιδιωτικότητα είναι ένα σημαντικό ζήτημα. Ο Subirana δηλώνει ότι τέτοια τεχνολογία θα μπορούσε να δημιουργήσει μια ατμόσφαιρα αμφιβολίας και υποψίας εάν χρησιμοποιηθεί λανθασμένα. Η Sam Smethers, η διευθύντρια της οργάνωσης γυναικείων δικαιωμάτων Fawcett Society, εξέφρασε επίσης ανησυχίες σχετικά με τον τρόπο με τον οποίο οι bot θα μπορούσαν να χρησιμοποιηθούν λανθασμένα. Η Smethers ανέφερε:

«Θα ήθελα να εξετάσω προσεκτικά τον τρόπο με τον οποίο αναπτύσσεται η τεχνολογία, ποιος είναι πίσω της και αν η προσέγγιση που λαμβάνεται είναι ενημερωμένη από μια εργασιακή κουλτούρα που επιδιώκει να προληφθεί η παρενόχληση και να προωθήσει την ισότητα, ή αν είναι στην πραγματικότητα απλώς ένας άλλος τρόπος για να ελέγξει τους υπαλλήλους».

Οι μέθοδοι χρήσης των bot για την ανίχνευση παρενόχλησης και την προστασία της ανωνυμοφάνειας και της ιδιωτικότητας θα πρέπει να καθοριστούν μεταξύ των développeurs bot, των εταιρειών και των ρυθμιστών. Ορισμένες πιθανές μέθοδοι χρήσης της προβλεπτικής δύναμης των bot και του AI ενώ παράλληλα προστατεύεται η ιδιωτικότητα περιλαμβάνουν την διατήρηση των επικοινωνιών ανώνυμων. Για παράδειγμα, οι αναφορές θα μπορούσαν να δημιουργηθούν από τον bot που περιλαμβάνει μόνο την παρουσία πιθανώς επιβλαβούς γλώσσας και τον αριθμό των φορών που εμφανίζεται η γλώσσα. Η ομάδα ανθρώπινου δυναμικού θα μπορούσε να λάβει μια ιδέα αν η χρήση τοξικής γλώσσας μειώνεται μετά από σεμινάρια ευαισθητοποίησης ή αντίθετα θα πρέπει να είναι σε εγρήγορση για αυξημένη παρενόχληση.

Παρά τις διαφωνίες σχετικά με την उपयσιμότητα των αλγορίθμων του AI και των bot στην ανίχνευση παρενόχλησης, και οι δύο πλευρές φαίνεται να συμφωνούν ότι η τελική απόφαση για την παρέμβαση σε περιπτώσεις παρενόχλησης θα πρέπει να ληφθεί από έναν άνθρωπο, και ότι οι bot θα πρέπει να προειδοποιούν τους ανθρώπους μόνο για τα μοτίβα που ταιριάζουν και όχι να λένε οριστικά ότι κάτι ήταν μια περίπτωση παρενόχλησης.