Ερευνητές Ανάπτυξαν Νέα Εργαλείο για την καταπολέμηση των προκαταλήψεων στα Συστήματα Υπολογιστικής Όρασης

Ένα από τα πρόσφατα προβλήματα που έχει αναδυθεί στον τομέα της τεχνητής νοημοσύνης (AI) είναι η προκατάληψη στα συστήματα υπολογιστικής όρασης. Πολλοί εμπειρογνώμονες ανακαλύπτουν τώρα προκαταλήψεις μέσα στα συστήματα AI, οδηγώντας σε διαστρεβλωμένα αποτελέσματα σε διάφορες εφαρμογές, όπως προγράμματα δίκη σε δικαστήρια.

Υπάρχει μια μεγάλη προσπάθεια για την επίλυση κάποιων από αυτά τα προβλήματα, με την πιο πρόσφατη ανάπτυξη να έρχεται από το Πανεπιστήμιο του Πρίνστον. Ερευνητές στο ίδρυμα έχουν δημιουργήσει ένα νέο εργαλείο που μπορεί να σημάνει πιθανές προκαταλήψεις σε εικόνες που χρησιμοποιούνται για την εκπαίδευση συστημάτων AI.

Το έργο παρουσιάστηκε στις 24 Αυγούστου στη διαδικτυακή Ευρωπαϊκή Διάσκεψη για την Υπολογιστική Όραση.

Προκατάληψη στα Συστήματα AI

Ένας από τους κύριους λόγους για την προκατάληψη που υπάρχει στα τρέχοντα συστήματα AI είναι ότι συχνά εκπαιδεύονται σε μεγάλες σειρές εικόνων από διαδικτυακές πηγές. Αυτές οι εικόνες μπορούν να είναι στερεότυπες, και όταν χρησιμοποιούνται για την ανάπτυξη της υπολογιστικής όρασης, το αποτέλεσμα μπορεί να επηρεαστεί ανεπίσημα από τους μοντέλους. Η υπολογιστική όραση είναι αυτό που επιτρέπει στους υπολογιστές να αναγνωρίζουν άτομα, αντικείμενα και ενέργειες.

Το εργαλείο που αναπτύχθηκε από τους ερευνητές είναι ανοικτού κώδικα και μπορεί να αποκαλύψει αυτόματα πιθανές προκαταλήψεις σε οπτικά δεδομένα. Λειτουργεί πριν από την उपयποίηση των συνόλων εικόνων για την εκπαίδευση των μοντέλων υπολογιστικής όρασης, και προβλήματα που σχετίζονται με την υποεκπροσώπηση και τα στερεότυπα μπορούν να επιλυθούν πριν προκαλέσουν οποιοδήποτε αποτέλεσμα.

REVISE

Το νέο εργαλείο ονομάζεται REVISE, και βασίζεται σε στατιστικές μεθόδους για την αναγνώριση πιθανών προκαταλήψεων σε ένα σύνολο δεδομένων. Εστιάζει σε τρεις τομείς: αντικειμενο-βασισμένες, φυλο-βασισμένες και γεωγραφικά-βασισμένες.

Το REVISE είναι πλήρως αυτόματο και κατασκευάστηκε με βάση προηγούμενες μεθόδους που περιελάμβαναν τον φιλτράρισμο και την ισορροπία των εικόνων του συνόλου δεδομένων, έτσι ώστε ο χρήστης να έχει περισσότερο έλεγχο.

Το νέο εργαλείο βασίζεται σε υπάρχουσες αναnotations και μετρήσεις για την ανάλυση του περιεχομένου ενός συνόλου δεδομένων. Κάποιες από αυτές τις υπάρχουσες αναnotations περιλαμβάνουν τον αριθμό αντικειμένων και τις χώρες προέλευσης για τις εικόνες.

Σε ένα παράδειγμα της λειτουργίας του εργαλείου, το REVISE έδειξε πώς οι εικόνες ανθρώπων και λουλουδιών ήταν διαφορετικές ανάλογα με το φύλο. Οι άνδρες ήταν πιο πιθανό να εμφανιστούν με λουλούδια σε τελετές ή συναντήσεις, και οι γυναίκες ήταν πιο πιθανό να εμφανιστούν με λουλούδια σε πίνακες ή σκηνοθετημένα σενάρια.

Η Olga Russaskovsky είναι αναπληρώτρια καθηγήτρια επιστημών υπολογιστών και διευθύντρια του Εργαστηρίου Οπτικής AI. Η εργασία συνυπογράφηκε με την аспιранτίνα Angelina Wang και τον αναπληρωτή καθηγητή επιστημών υπολογιστών, Arvind Narayanan.

Μετά την ανίχνευση των διακρυφών, “τότε υπάρχει το ερώτημα αν αυτό είναι ένα πλήρως αθώο γεγονός ή κάτι πιο βαθύ συμβαίνει, και αυτό είναι πολύ δύσκολο να αυτοματοποιηθεί,” είπε η Russaskovsky.

Υποεκπροσωπημένες ή Λανθασμένα Αναπαρασταμένες Περιοχές

Διάφορες περιοχές σε όλο τον κόσμο είναι υποεκπροσωπημένες στα σύνολα δεδομένων της υπολογιστικής όρασης, και αυτό μπορεί να οδηγήσει σε προκατάληψη στα συστήματα AI. Μια από τις ανακαλύψεις ήταν ότι ένας δραματικά μεγαλύτερος αριθμός εικόνων προέρχεται από τις Ηνωμένες Πολιτείες και τις ευρωπαϊκές χώρες. Το REVISE επίσης αποκάλυψε ότι εικόνες από άλλες περιοχές του κόσμου συχνά δεν έχουν λεζάντες εικόνων στη τοπική γλώσσα, που σημαίνει ότι πολλές από αυτές μπορεί να προέρχονται από την οπτική ενός τουρίστα για μια χώρα.

“…αυτή η γεωγραφική ανάλυση δείχνει ότι η αναγνώριση αντικειμένων μπορεί ακόμα να είναι khá προκατειλημμένη και αποκλειστική, και μπορεί να επηρεάσει διαφορετικές περιοχές και άτομα ανισότιμα,” συνέχισε η Russaskovsky.

“Οι πρακτικές συλλογής συνόλων δεδομένων στις επιστήμες υπολογιστών δεν έχουν ελεγχθεί τόσο αυστηρά μέχρι πρόσφατα,” είπε η Wang. Όταν πρόκειται για τη συλλογή εικόνων, “σκραπ από το διαδίκτυο, και οι άνθρωποι δεν πάντα συνειδητοποιούν ότι οι εικόνες τους χρησιμοποιούνται [στα σύνολα δεδομένων]. Θα πρέπει να συλλέγουμε εικόνες από πιο διαφορετικές ομάδες ανθρώπων, αλλά όταν το κάνουμε, θα πρέπει να είμαστε προσεκτικοί ότι τις λαμβάνουμε με τρόπο που είναι σεβαστικός.”

Ο Vicente Ordonez-Roman είναι αναπληρωτής καθηγητής επιστημών υπολογιστών στο Πανεπιστήμιο της Βιρτζίνια.

“Εργαλεία και διαγωνισμοί είναι ένα σημαντικό βήμα … επιτρέπουν να πιάσουμε αυτές τις προκαταλήψεις νωρίτερα στη διαδικασία και να ξανασκεφτούμε το πρόβλημα και τις υποθέσεις μας, καθώς και τις πρακτικές συλλογής δεδομένων,” είπε ο Ordonez-Roman. “Στη υπολογιστική όραση υπάρχουν κάποιες συγκεκριμένες προκλήσεις σχετικά με την αναπαράσταση και την διάδοση στερεότυπων. Έργα όπως αυτά του Εργαστηρίου Οπτικής AI του Πρίνστον βοηθούν να αποκαλυφθούν και να ενημερωθεί η κοινότητα της υπολογιστικής όρασης για κάποιες από αυτές τις προκλήσεις και να προσφέρουν στρατηγικές για την μείωσή τους.”

Το νέο εργαλείο που αναπτύχθηκε από τους ερευνητές είναι ένα σημαντικό βήμα για την αντιμετώπιση της προκατάληψης που υπάρχει στα συστήματα AI. Τώρα είναι η ώρα να επιλυθούν αυτά τα προβλήματα, καθώς θα γίνει πολύ πιο δύσκολο καθώς τα συστήματα προχωρούν και γίνονται πιο σύνθετα.