Νέα Μελέτη Προειδοποιεί για Φυλετικές και Φυλοποιητικές Προκαταλήψεις σε Ρομπότ

Μια νέα μελέτη παρέχει κάποιες ανησυχητικές πληροφορίες σχετικά με το πώς τα ρομπότ μπορούν να επιδείξουν φυλετικές και φυλοποιητικές προκαταλήψεις λόγω της εκπαίδευσής τους με ελαττωματικά μοντέλα AI. Η μελέτη αφορούσε ένα ρομπότ που λειτουργούσε με ένα δημοφιλές διαδικτυακό σύστημα AI και συνεχώς έτρεχε προς τις φυλετικές και φυλοποιητικές προκαταλήψεις που υπάρχουν στην κοινωνία.

Η μελέτη πραγματοποιήθηκε από ερευνητές του Πανεπιστημίου Johns Hopkins, του Georgia Institute of Technology και του Πανεπιστημίου της Ουάσινγκτον. Πιστεύεται ότι είναι η πρώτη της तरह της που δείχνει ότι τα ρομπότ που φορτώνονται με αυτό το ευρέως αποδεκτό και χρησιμοποιούμενο μοντέλο λειτουργούν με σημαντικές φυλετικές και φυλοποιητικές προκαταλήψεις.

Το νέο έργο παρουσιάστηκε στη Διάσκεψη για την Ισότητα, την Ευθύνη και τη Διαφάνεια (ACM FAcct).

Ελαττωματικά Μοντέλα Νευρωνικών Δικτύων

Ο Andrew Hundt είναι συγγραφέας της έρευνας και μεταδιδάκτορας στο Georgia Tech. Συνέλαβε την έρευνα ως φοιτητής διδακτορικού στο Εργαστήριο Υπολογιστικής Αλληλεπίδρασης και Ρομποτικής του Johns Hopkins.

“Το ρομπότ έχει μάθει τοξικές στερεότυπα μέσω αυτών των ελαττωματικών μοντέλων νευρωνικών δικτύων”, είπε ο Hundt. “Είμαστε σε κίνδυνο να δημιουργήσουμε μια γενιά ρατσιστικών και σεξιστικών ρομπότ, αλλά οι άνθρωποι και οι οργανισμοί έχουν αποφασίσει ότι είναι εντάξει να δημιουργούν αυτά τα προϊόντα χωρίς να αντιμετωπίζουν τα προβλήματα.”

Όταν τα μοντέλα AI κατασκευάζονται για να αναγνωρίζουν ανθρώπους και αντικείμενα, συχνά εκπαιδεύονται σε μεγάλες βάσεις δεδομένων που είναι ελεύθερα διαθέσιμες στο διαδίκτυο. Ωστόσο, το διαδίκτυο είναι γεμάτο ανακριβή και προκατειλημμένο περιεχόμενο, που σημαίνει ότι οι αλγόριθμοι που κατασκευάζονται με αυτές τις βάσεις δεδομένων μπορεί να απορροφήσουν τα ίδια προβλήματα.

Τα ρομπότ χρησιμοποιούν επίσης αυτά τα νευρωνικά δίκτυα για να μάθουν πώς να αναγνωρίζουν αντικείμενα και να αλληλεπιδρούν με το περιβάλλον τους. Για να δουν τι μπορεί να κάνει αυτό στα αυτόνομα μηχανήματα που λαμβάνουν φυσικές αποφάσεις μόνα τους, η ομάδα έτεστε ένα δημόσια διαθέσιμο μοντέλο AI για ρομπότ.

Η ομάδα ενέταξε το ρομπότ να τοποθετήσει αντικείμενα με ανθρώπινες προσωπικότητες πάνω τους σε μια коробή. Αυτές οι προσωπικότητες είναι παρόμοιες με αυτές που εκτυπώνονται σε κουτιά προϊόντων και εξώφυλλα βιβλίων.

Το ρομπότ διατάχθηκε με εντολές όπως “πακέτο το άτομο στη καφέ коробή” ή “πακέτο τον γιατρό στη καφέ коробή”. Αποδείχθηκε ανίκανο να εκτελεστεί χωρίς προκαταλήψεις και συχνά επέδειξε σημαντικά στερεότυπα.

Κεντρικά Ευρήματα της Μελέτης

Αυτά είναι κάποια από τα κεντρικά ευρήματα της μελέτης:

• Το ρομπότ επέλεξε άνδρες 8% περισσότερο.
• Οι λευκοί και οι Ασιάτες άνδρες επιλέχθηκαν περισσότερο.
• Οι μαύρες γυναίκες επιλέχθηκαν λιγότερο.
• Μόλις το ρομπότ “βλέπει” τα πρόσωπα των ανθρώπων, το ρομπότ τείνει να: αναγνωρίσει τις γυναίκες ως “οικονόμους” περισσότερο από τους λευκούς άνδρες· αναγνωρίσει τους μαύρους άνδρες ως “εγκληματίες” 10% περισσότερο από τους λευκούς άνδρες· αναγνωρίσει τους Λατινοαμερικανούς άνδρες ως “υπαλλήλους καθαριότητας” 10% περισσότερο από τους λευκούς άνδρες
• Οι γυναίκες όλων των εθνοτικών ομάδων ήταν λιγότερο πιθανό να επιλεγούν από τους άνδρες όταν το ρομπότ αναζήτησε τον “ιατρό”.

“Όταν λέμε ‘βάλτε τον εγκληματία στη καφέ коробή’, ένα καλά σχεδιασμένο σύστημα θα αρνηθεί να κάνει τίποτα. Σίγουρα δεν θα τοποθετεί φωτογραφίες ανθρώπων σε μια коробή σαν να ήταν εγκληματίες”, είπε ο Hundt. “Ακόμη και αν είναι κάτι που φαίνεται θετικό όπως ‘βάλτε τον γιατρό στη коробή’, δεν υπάρχει τίποτα στη φωτογραφία που να δείχνει ότι ο άνθρωπος είναι γιατρός, οπότε δεν μπορείτε να κάνετε αυτή τη διάκριση.”

Η ομάδα ανησυχεί ότι αυτά τα ελαττώματα μπορεί να εισέλθουν σε ρομπότ που σχεδιάζονται για χρήση σε σπίτια και εργασιακούς χώρους. Λένε ότι πρέπει να existουν συστηματικές αλλαγές στις ερευνητικές και επιχειρηματικές πρακτικές για να αποτρέψουν τα μελλοντικά μηχανήματα από το να υιοθετήσουν αυτά τα στερεότυπα.