Προκατάληψη του AI & Πολιτιστικά Στερεότυπα: Ảnh hưởng, Περιορισμοί, & Μείωση

Η Τεχνητή Νοημοσύνη (AI), ιδιαίτερα το Γεννητική AI, συνεχίζει να υπερβαίνει τις προσδοκίες με την ικανότητά της να κατανοήσει και να μιμηθεί την ανθρώπινη γνώση και νοημοσύνη. Ωστόσο, σε πολλές περιπτώσεις, τα αποτελέσματα ή οι προβλέψεις των συστημάτων AI μπορούν να αντανακλούν διάφορους τύπους προκατάληψης του AI, όπως πολιτιστικά και φυλετικά.

Το blog του Buzzfeed με τίτλο “Barbies του Κόσμου” (το οποίο έχει διαγραφεί τώρα) αποκαλύπτει σαφώς αυτές τις πολιτιστικές προκαταλήψεις και ανακρίβειες. Αυτές οι ‘μπαρμπιέ’ δημιουργήθηκαν χρησιμοποιώντας Midjourney – einen ηγέτη γεννήτορα εικόνων AI, για να δούμε πώς θα φαίνονταν οι μπαρμπιέ σε κάθε μέρος του κόσμου. Θα μιλήσουμε περισσότερο για αυτό αργότερα.

Αλλά αυτό δεν είναι η πρώτη φορά που το AI έχει sido “ρατσιστικό” ή έχει παράγει ανακριβή αποτελέσματα. Για παράδειγμα, το 2022, η Apple была δικασθείσα για ισχυρισμούς ότι ο αισθητήρας οξυγόνου του αίματος του Apple Watch ήταν προκατειλημμένος κατά των ανθρώπων του χρώματος. Σε μια άλλη αναφερόμενη περίπτωση, οι χρήστες του Twitter βρήκαν ότι το αυτόματο AI cropping εικόνων του Twitter ευνοούσε τα πρόσωπα των λευκών ανθρώπων πάνω από τους μαύρους ανθρώπους και τις γυναίκες πάνω από τους άνδρες. Αυτά είναι κρίσιμα προκλήματα, και η αντιμετώπιση τους είναι σημαντικά προκλητική.

Σε αυτό το άρθρο, θα εξετάσουμε τι είναι η προκατάληψη του AI, πώς επηρεάζει την κοινωνία μας, και θα συζητήσουμε σύντομα πώς οι praktikoi μπορούν να μειώσουν την προκατάληψη για να αντιμετωπίσουν προκλήματα όπως τα πολιτιστικά στερεότυπα.

Τι είναι η Προκατάληψη του AI;

Η προκατάληψη του AI συμβαίνει όταν τα μοντέλα AI παράγουν διακριτικά αποτελέσματα κατά των bestimmter δημογραφικών ομάδων. Υπάρχουν διάφοροι τύποι προκαταλήψεων που μπορούν να εισέλθουν στα συστήματα AI και να παράγουν ανακριβή αποτελέσματα. Κάποιες από αυτές τις προκαταλήψεις του AI είναι:

• Στερεοτυπική Προκατάληψη: Η στερεοτυπική προκατάληψη αναφέρεται στο φαινόμενο όπου τα αποτελέσματα ενός μοντέλου AI αποτελούνται από στερεότυπα ή αντιλαμβανόμενες έννοιες για μια bestimmte δημογραφική ομάδα.
• Φυλετική Προκατάληψη: Η φυλετική προκατάληψη στο AI συμβαίνει όταν το αποτέλεσμα ενός μοντέλου AI είναι διακριτικό και άδικο για ένα άτομο ή ομάδα με βάση την εθνικότητα ή φυλή.
• Πολιτιστική Προκατάληψη: Η πολιτιστική προκατάληψη συμβαίνει όταν τα αποτελέσματα ενός μοντέλου AI ευνοούν έναν bestimmten πολιτισμό πάνω από έναν άλλον.

Εκτός από τις προκαταλήψεις, άλλα προβλήματα μπορούν επίσης να εμποδίσουν τα αποτελέσματα ενός συστήματος AI, όπως:

• Ανακρίβειες: Οι ανακρίβειες συμβαίνουν όταν τα αποτελέσματα που παράγονται από ένα μοντέλο AI είναι λάθος λόγω ασυνεπών δεδομένων εκπαίδευσης.
• Οπτασία: Η οπτασία συμβαίνει όταν τα μοντέλα AI παράγουν φανταστικά και ψευδή αποτελέσματα που δεν βασίζονται σε πραγματικά δεδομένα.

Η Επίπτωση της Προκατάληψης του AI στην Κοινωνία

Η επίπτωση της προκατάληψης του AI στην κοινωνία μπορεί να είναι καταστροφική. Τα προκατειλημμένα συστήματα AI μπορούν να παράγουν ανακριβή αποτελέσματα που ενισχύουν τις προκαταλήψεις που ήδη υπάρχουν στην κοινωνία. Αυτά τα αποτελέσματα μπορούν να αυξήσουν τις διακρίσεις και τις παραβιάσεις δικαιωμάτων, να επηρεάσουν τις διαδικασίες πρόσληψης, και να μειώσουν την εμπιστοσύνη στην τεχνολογία AI.

Επίσης, τα προκατειλημμένα αποτελέσματα του AI συχνά οδηγούν σε ανακριβείς προβλέψεις που μπορούν να έχουν σοβαρές συνέπειες για αθώους ανθρώπους. Για παράδειγμα, τον Αύγουστο του 2020, ο Robert McDaniel έγινε ο στόχος ενός εγκλήματος λόγω του αλγορίθμου προβλέψεων εγκλήματος του Τμήματος Αστυνομίας του Σικάγου που τον είχε χαρακτηρίσει ως “πρόσωπο ενδιαφέροντος”.

Παράλληλα, τα προκατειλημμένα συστήματα AI υγείας μπορούν να έχουν οξεία αποτελέσματα για τους ασθενείς. Το 2019, η Επιστήμη ανακάλυψε ότι ένας ευρέως χρησιμοποιούμενος αμερικανικός αλγόριθμος ιατρικού κινδύνου ήταν φυλετικά προκατειλημμένος κατά των ανθρώπων του χρώματος, οδηγώντας τους μαύρους ασθενείς να λαμβάνουν λιγότερη υψηλή διαχείριση κινδύνου.

Barbies του Κόσμου

Τον Ιούλιο του 2023, το Buzzfeed δημοσίευσε ένα blog που αποτελούνταν από 194 AI-γεννημένες μπαρμπιέ από όλο τον κόσμο. Η ανάρτηση έγινε ιδιαίτερα δημοφιλής στο Twitter.尽管 το Buzzfeed έγραψε μια δήλωση αποποίηση ευθυνών, δεν σταμάτησε τους χρήστες του διαδικτύου από το να επισημάνουν τις φυλετικές και πολιτιστικές ανακρίβειες. Για παράδειγμα, η AI-γεννημένη εικόνα της Γερμανικής Μπαρμπιέ φορούσε την στολή eines SS Ναζί στρατηγού.

Παράλληλα, η AI-γεννημένη εικόνα της Μπαρμπιέ του Νότιου Σουδάν φαίνεται να κρατάει ένα όπλο στο πλάι της, αντανακλώντας την βαθιά ριζωμένη προκατάληψη στα αλγόριθματα AI.

Εκτός από αυτό, πολλές άλλες εικόνες έδειξαν πολιτιστικές ανακρίβειες, όπως η Μπαρμπιέ του Κατάρ που φορούσε ένα Γκούτρα, ένα παραδοσιακό κάλυμμα κεφαλής που φορούν οι Άραβες άνδρες.

Αυτή η ανάρτηση έλαβε μια μεγάλη αντίδραση για πολιτιστική στερεοτυπία και προκατάληψη. Το Λονδίνο Διαπιστημονική Σχολή (LIS) ονόμασε αυτήν την προσώπων βλάβη που πρέπει να ελέγχεται με την επιβολή προτύπων ποιότητας και την καθιέρωση organismών εποπτείας AI.

Περιορισμοί των Μοντέλων AI

Η Τεχνητή Νοημοσύνη έχει το δυναμικό να μεταμορφώσει πολλές βιομηχανίες. Αλλά, αν σενάρια όπως αυτά που αναφέρθηκαν προηγουμένως πολλαπλασιαστούν, μπορεί να οδηγήσουν σε μια πτώση της γενικής υιοθέτησης του AI, με αποτέλεσμα να χαθούν ευκαιρίες. Τέτοιες περιπτώσεις συνήθως συμβαίνουν λόγω σημαντικών περιορισμών στα συστήματα AI, όπως:

• Ελλειψη Δημιουργικότητας: Καθώς το AI μπορεί να λαμβάνει αποφάσεις μόνο με βάση τα δεδομένα εκπαίδευσης, του λείπει η δημιουργικότητα για να σκεφτεί έξω από το κουτί, το οποίο εμποδίζει την δημιουργική επίλυση προβλημάτων.

• Ελλειψη Συνειδησιακής Κατανόησης: Τα συστήματα AI αντιμετωπίζουν δυσκολίες στην κατανόηση των συνειδησιακών νюανς ή των εκφράσεων της γλώσσας μιας περιοχής, που συχνά οδηγούν σε λάθη στα αποτελέσματα.

• Προκατάληψη Εκπαίδευσης: Το AI βασίζεται σε ιστορικά δεδομένα που μπορούν να περιέχουν διάφορους τύπους διακριτικών δειγμάτων. Κατά την εκπαίδευση, το μοντέλο μπορεί εύκολα να μάθει διακριτικά μοτίβα για να παράγει άδικα και προκατειλημμένα αποτελέσματα.

Πώς να Μειώσετε την Προκατάληψη στα Μοντέλα AI

Εкспέρτες εκτιμούν ότι μέχρι το 2026, το 90% του περιεχομένου στο διαδίκτυο θα μπορούσε να είναι συνθετικά γεννημένο. Έτσι, είναι σημαντικό να μειώσουμε γρήγορα τα προβλήματα που υπάρχουν στις τεχνολογίες Γεννητικής AI.

Υπάρχουν διάφορες βασικές στρατηγικές που μπορούν να εφαρμοστούν για να μειώσουν την προκατάληψη στα μοντέλα AI. Κάποιες από αυτές είναι:

• Εγγύηση Ποιότητας Δεδομένων: Η εισαγωγή πλήρων, ακριβών και καθαρών δεδομένων σε ένα μοντέλο AI μπορεί να βοηθήσει στη μείωση της προκατάληψης και να παράγει πιο ακριβή αποτελέσματα.
• Πολυποίκιλες Δεδομενικές Συλλογές: Η εισαγωγή διαφορετικών δεδομενικών συλλογών σε ένα σύστημα AI μπορεί να βοηθήσει στη μείωση της προκατάληψης, καθώς το σύστημα AI γίνεται πιο περιεκτικό με την πάροδο του χρόνου.

• Βρόχοι Ανατροφοδότησης: Με μια συνεχή ανατροφοδότηση και μάθηση βρόχο, τα μοντέλα AI μπορούν να βελτιώσουν σταδιακά τα αποτελέσματά τους

• Αυξημένα Κανονιστικά Μέτρα: Τα παγκόσμια κανονιστικά μέτρα για το AI είναι κρίσιμα για τη διατήρηση της ποιότητας των συστημάτων AI σε όλο τον κόσμο. Έτσι, οι διεθνείς οργανισμοί πρέπει να συνεργαστούν για να διασφαλίσουν την τυποποίηση του AI.

• Αυξημένη Υιοθέτηση Ευθύνης AI: Οι στρατηγικές Ευθύνης AI συμβάλλουν θετικά στη μείωση της προκατάληψης του AI, καλλιεργώντας την ισότητα και την ακρίβεια στα συστήματα AI, και διασφαλίζοντας ότι αυτά служουν μια ποικίλη βάση χρηστών ενώ επιδιώκουν τη συνεχή βελτίωση.

Με την ενσωμάτωση διαφορετικών δεδομενικών συλλογών, της ηθικής ευθύνης και των ανοικτών μέσων επικοινωνίας, μπορούμε να διασφαλίσουμε ότι το AI είναι μια πηγή θετικών αλλαγών σε όλο τον κόσμο.

Εάν θέλετε να μάθετε περισσότερα για την προκατάληψη και τον ρόλο της Τεχνητής Νοημοσύνης στην κοινωνία μας, διαβάστε τα ακόλουθα blog.

• Πώς οι πόλεις αναπτύσσουν προηγμένα τεχνολογικά προϊόντα με την αξιοποίηση αλγορίθμων AI χωρίς προκατάληψη
• Το AI μπορεί να καταπολεμήσει τις ψευδείς πληροφορίες και την προκατάληψη στις ειδήσεις
• Προκατάληψη και ισότητα των συστημάτων AI εντός της οικονομικής εγκληματικότητας
• Ένας έλεγχος προκατάληψης με βάση το AI για άρθρα ειδήσεων, διαθέσιμος σε Python