Προκαταλήψεις και Πολιτιστικές Στερεότυπες της Τεχνητής Νοημοσύνης: Αποτελέσματα, Περιορισμοί και Μείωση

Η Τεχνητή Νοημοσύνη (ΤΝ), ιδιαίτερα η Γεννητική ΤΝ, συνεχίζει να υπερβαίνει τις προσδοκίες με την ικανότητά της να κατανοήσει και να μιμηθεί την ανθρώπινη γνώση και νοημοσύνη. Ωστόσο, σε πολλές περιπτώσεις, τα αποτελέσματα ή οι προβλέψεις των συστημάτων ΤΝ μπορούν να αντανακλούν διάφορους τύπους προκαταλήψεων της ΤΝ, όπως πολιτιστικές και φυλετικές.

Το blog ” Barbies του Κόσμου” του Buzzfeed (το οποίο έχει διαγραφεί τώρα) αποκαλύπτει σαφώς αυτές τις πολιτιστικές προκαταλήψεις και ανακρίβειες. Αυτές οι “μπαρμπιέ” δημιουργήθηκαν χρησιμοποιώντας Midjourney – einen ηγέτη γεννήτορα εικόνων ΤΝ, για να δούμε πώς θα φαίνονταν οι μπαρμπιέ σε κάθε μέρος του κόσμου. Θα μιλήσουμε περισσότερο για αυτό αργότερα.

Αλλά αυτό δεν είναι η πρώτη φορά που η ΤΝ ήταν “ρατσιστική” ή παρήγαγε ανακριβή αποτελέσματα. Για παράδειγμα, το 2022, η Apple (AAPL ) κατηγορήθηκε με αγωγή για την κατηγορία ότι ο αισθητήρας οξυγόνου του Apple Watch ήταν προκατειλημμένος κατά των ανθρώπων του χρώματος. Σε μια άλλη αναφερόμενη περίπτωση, οι χρήστες του Twitter發現 ότι η αυτόματη Funktion του Twitter για το κropping εικόνων ευνοούσε τα πρόσωπα των λευκών ανθρώπων έναντι των μαύρων ατόμων και των γυναικών έναντι των ανδρών. Αυτά είναι κρίσιμα προβλήματα, και η αντιμετώπιση τους είναι σημαντικά δύσκολη.

Σε αυτό το άρθρο, θα εξετάσουμε τι είναι η προκατάληψη της ΤΝ, πώς επηρεάζει την κοινωνία μας και θα συζητήσουμε σύντομα πώς οι επαγγελματίες μπορούν να μειώσουν την προκατάληψη για να αντιμετωπίσουν προκλήσεις όπως οι πολιτιστικές στερεότυπες.

Τι είναι η Προκατάληψη της ΤΝ;

Η προκατάληψη της ΤΝ συμβαίνει όταν τα μοντέλα ΤΝ παράγουν διακριστικά αποτελέσματα κατά των bestimmter δημογραφικών ομάδων. Υπάρχουν διάφοροι τύποι προκαταλήψεων που μπορούν να εισέλθουν στα συστήματα ΤΝ και να παράγουν λανθασμένα αποτελέσματα. Κάποιοι από αυτούς τους τύπους προκαταλήψεων της ΤΝ είναι:

• Στερεοτυπική Προκατάληψη: Η στερεοτυπική προκατάληψη αναφέρεται στο φαινόμενο όπου τα αποτελέσματα ενός μοντέλου ΤΝ αποτελούνται από στερεότυπα ή αντιλαμβανόμενες έννοιες για μια bestimmte δημογραφική ομάδα.
• Φυλετική Προκατάληψη: Η φυλετική προκατάληψη στην ΤΝ συμβαίνει όταν το αποτέλεσμα ενός μοντέλου ΤΝ είναι διακριστικό και άδικο για ένα άτομο ή ομάδα με βάση την εθνικότητά τους ή φυλή.
• Πολιτιστική Προκατάληψη: Η πολιτιστική προκατάληψη συμβαίνει όταν τα αποτελέσματα ενός μοντέλου ΤΝ ευνοούν μια bestimmte πολιτιστική ομάδα έναντι μιας άλλης.

Εκτός από τις προκαταλήψεις, άλλα προβλήματα μπορούν επίσης να εμποδίσουν τα αποτελέσματα ενός συστήματος ΤΝ, όπως:

• Ανακρίβειες: Οι ανακρίβειες συμβαίνουν όταν τα αποτελέσματα που παράγονται από ένα μοντέλο ΤΝ είναι λανθασμένα λόγω ασυνεπών δεδομένων εκπαίδευσης.
• Οπτασία: Η οπτασία συμβαίνει όταν τα μοντέλα ΤΝ παράγουν πλασματικά και ψευδή αποτελέσματα που δεν βασίζονται σε πραγματικά δεδομένα.

Η Επίδραση της Προκατάληψης της ΤΝ στην Κοινωνία

Η επίδραση της προκατάληψης της ΤΝ στην κοινωνία μπορεί να είναι καταστροφική. Τα προκατειλημμένα συστήματα ΤΝ μπορούν να παράγουν ανακριβή αποτελέσματα που ενισχύουν τις προκαταλήψεις που ήδη υπάρχουν στην κοινωνία. Αυτά τα αποτελέσματα μπορούν να αυξήσουν τις διακρίσεις και τις παραβιάσεις των δικαιωμάτων, να επηρεάσουν τις διαδικασίες πρόσληψης και να μειώσουν την εμπιστοσύνη στην τεχνολογία ΤΝ.

Επίσης, τα προκατειλημμένα αποτελέσματα ΤΝ συχνά οδηγούν σε ανακριβείς προβλέψεις που μπορούν να έχουν σοβαρές συνέπειες για αθώους ανθρώπους. Για παράδειγμα, τον Αύγουστο του 2020, ο Robert McDaniel έγινε στόχος ενός εγκλήματος λόγω του αλγορίθμου προβλέψης εγκλήματος του Τμήματος Αστυνομίας του Σικάγου που τον είχε χαρακτηρίσει ως “πρόσωπο ενδιαφέροντος”.

Ομοίως, τα προκατειλημμένα συστήματα ΤΝ στην υγεία μπορούν να έχουν οξεία αποτελέσματα για τους ασθενείς. Το 2019, η Επιστήμη ανακάλυψε ότι ένας ευρέως χρησιμοποιούμενος αλγόριθμος ιατρικής στις Ηνωμένες Πολιτείες ήταν φυλετικά προκατειλημμένος κατά των ανθρώπων του χρώματος, οδηγώντας τους μαύρους ασθενείς να λαμβάνουν λιγότερη φροντίδα υψηλού κινδύνου.

Barbies του Κόσμου

Τον Ιούλιο του 2023, το Buzzfeed δημοσίευσε ένα blog που αποτελούνταν από 194 AI-γεννημένες μπαρμπιέ από όλο τον κόσμο. Η ανάρτηση έγινε ιδιαίτερα δημοφιλής στο Twitter.尽管 το Buzzfeed έγραψε μια δήλωση αποποίησης, δεν σταμάτησε τους χρήστες του διαδικτύου να επισημάνουν τις φυλετικές και πολιτιστικές ανακρίβειες. Για παράδειγμα, η AI-γεννημένη εικόνα της Γερμανικής Μπαρμπιέ φορούσε το στολείο eines SS Nazi στρατηγού.

Ομοίως, η AI-γεννημένη εικόνα μιας Μπαρμπιέ από το Νότιο Σουδάν εμφανιζόταν να κρατάει ένα πιστόλι στο πλευρό της, αντανακλώντας τις βαθιά ριζωμένες προκαταλήψεις στα αλγόριθμα ΤΝ.

Εκτός από αυτό, πολλές άλλες εικόνες έδειξαν πολιτιστικές ανακρίβειες, όπως η Μπαρμπιέ του Κατάρ που φορούσε ένα Γκούντρα, ένα παραδοσιακό καλυμμα του κεφαλιού που φορούν οι Άραβες άνδρες.

Αυτή η ανάρτηση του blog έλαβε μια μεγάλη αντίδραση για τις πολιτιστικές στερεότυπες και προκαταλήψεις. Η Λονδρέζικη Διαπιστημονική Σχολή (LIS) αποκάλεσε αυτήν την προσώπων βλάβη που πρέπει να ελέγχεται με την επιβολή προτύπων ποιότητας και την καθιέρωση σωμάτων εποπτείας ΤΝ.

Περιορισμοί των Μοντέλων ΤΝ

Η ΤΝ έχει το δυναμικό να επανακαθορίσει πολλές βιομηχανίες. Αλλά, αν σενάρια όπως αυτά που αναφέρθηκαν παραπάνω πολλαπλασιαστούν, μπορεί να οδηγήσουν σε μια πτώση της γενικής υιοθέτησης της ΤΝ, με αποτέλεσμα να χαθούν ευκαιρίες. Τέτοιες περιπτώσεις συμβαίνουν συνήθως λόγω σημαντικών περιορισμών στα συστήματα ΤΝ, όπως:

• Ελλειψη Δημιουργικότητας: Καθώς η ΤΝ μπορεί να λαμβάνει αποφάσεις μόνο με βάση τα δεδομένα εκπαίδευσης, της λείπει η δημιουργικότητα για να σκέφτεται έξω από το κουτί, γεγονός που εμποδίζει την εύρεση δημιουργικών λύσεων.

• Ελλειψη Συνειρμικής Κατανόησης: Τα συστήματα ΤΝ αντιμετωπίζουν δυσκολίες στην κατανόηση των συνειρμικών νюανς ή των γλωσσικών εκφράσεων μιας περιοχής, γεγονός που συχνά οδηγεί σε λάθη στα αποτελέσματα.

• Προκατάληψη Εκπαίδευσης: Η ΤΝ βασίζεται σε ιστορικά δεδομένα που μπορούν να περιέχουν διάφορους τύπους διακριστικών δειγμάτων. Κατά την εκπαίδευση, το μοντέλο μπορεί εύκολα να μάθει διακριστικά μοτίβα για να παράγει άδικα και προκατειλημμένα αποτελέσματα.

Πώς να Μειώσετε την Προκατάληψη στα Μοντέλα ΤΝ

Οι εμπειρογνώμονες εκτιμούν ότι μέχρι το 2026, το 90% του διαδικτυακού περιεχομένου θα μπορούσε να είναι συνθετικά παραγμένο. Έτσι, είναι σημαντικό να μειώσουμε γρήγορα τα προβλήματα που υπάρχουν στις τεχνολογίες Γεννητικής ΤΝ.

Υπάρχουν διάφοροι στρατηγικοί που μπορούν να εφαρμοστούν για να μειώσουν την προκατάληψη στα μοντέλα ΤΝ. Κάποιοι από αυτούς είναι:

• Επιβεβαιώστε την Ποιότητα των Δεδομένων: Η εισαγωγή πλήρων, ακριβών και καθαρών δεδομένων σε ένα μοντέλο ΤΝ μπορεί να βοηθήσει στη μείωση της προκατάληψης και να παράγει πιο ακριβή αποτελέσματα.
• Πολυποίκιλες Δεδομενικές Συλλογές: Η εισαγωγή πολυποίκιλων δεδομενικών συλλογών σε ένα σύστημα ΤΝ μπορεί να βοηθήσει στη μείωση της προκατάληψης, καθώς το σύστημα ΤΝ γίνεται πιο περιεκτικό με την πάροδο του χρόνου.

• Βρόχοι Ανατροφοδότησης: Με έναν συνεχή βρόχο ανατροφοδότησης και μάθησης, τα μοντέλα ΤΝ μπορούν να βελτιώσουν σταδιακά τα αποτελέσματά τους

• Αυξημένες Ρυθμίσεις: Οι παγκόσμιες ρυθμίσεις ΤΝ είναι απαραίτητες για τη διατήρηση της ποιότητας των συστημάτων ΤΝ σε όλο τον κόσμο. Έτσι, οι διεθνείς οργανισμοί πρέπει να συνεργαστούν για να εξασφαλίσουν την τυποποίηση της ΤΝ.

• Αυξημένη Υιοθέτηση Ευθύνη ΤΝ: Οι στρατηγικές Ευθύνη ΤΝ συμβάλλουν θετικά στην μείωση της προκατάληψης ΤΝ, καλλιεργώντας την ισότητα και την ακρίβεια στα συστήματα ΤΝ και εξασφαλίζοντας ότι αυτά εξυπηρετούν μια ποικιλόμορφη βάση χρηστών, ενώ επιδιώκουν τη συνεχής βελτίωση.

Με την ενσωμάτωση πολυποίκιλων δεδομενικών συλλογών, ηθικής ευθύνης και ανοιχτών μέσων επικοινωνίας, μπορούμε να εξασφαλίσουμε ότι η ΤΝ είναι μια πηγή θετικών αλλαγών σε όλο τον κόσμο.

Εάν θέλετε να μάθετε περισσότερα για την προκατάληψη και τον ρόλο της Τεχνητής Νοημοσύνης στην κοινωνία μας, διαβάστε τα ακόλουθα blogs.

• Πώς οι πόλεις υλοποιούν προηγμένα τεχνολογικά προϊόντα με την αξιοποίηση αλγορίθμων ΤΝ χωρίς προκαταλήψεις
• Η ΤΝ μπορεί να καταπολεμήσει τις ψευδείς πληροφορίες και την προκατάληψη στα νέα
• Προκατάληψη και ισότητα των συστημάτων ΤΝ εντός της οικονομικής εγκληματικότητας
• Ένας έλεγχος προκαταλήψεων ΤΝ για άρθρα ειδήσεων, διαθέσιμος σε Python