Πώς η ανθρώπινη προκατάληψη υπονομεύει τις λύσεις που υποστηρίζονται από το AI

Τον Σεπτέμβριο του περασμένου χρόνου, παγκόσμιες ηγετικές μορφές όπως ο Έλον Μασκ, ο Μαρκ Ζούκερμπεργκ και ο Σαμ Άλτμαν, ο διευθύνων σύμβουλος της OpenAI, συναντήθηκαν στην Ουάσινγκτον με σκοπό να συζητήσουν, από τη μια πλευρά, πώς ο δημόσιος και ο ιδιωτικός τομέας μπορούν να συνεργαστούν για να αξιοποιήσουν αυτή τη τεχνολογία για το μεγαλύτερο καλό, και από την άλλη πλευρά, να αντιμετωπίσουν τη ρύθμιση, ένα ζήτημα που παραμένει στο επίκεντρο της συζήτησης γύρω από το AI.

Οι δύο αυτές συζητήσεις, συχνά, οδηγούν στο ίδιο σημείο. Υπάρχει μια αυξανόμενη έμφαση στο εάν μπορούμε να κάνουμε το AI πιο ηθικό, αξιολογώντας το AI ως ένα άλλο ανθρώπινο ον του οποίου η ηθική ήταν υπό αμφισβήτηση. Ωστόσο, τι σημαίνει ηθικό AI; Το DeepMind, ένα ερευνητικό εργαστήριο της Google που επικεντρώνεται στο AI, έκδωσε πρόσφατα μια μελέτη στην οποία πρότειναν μια τριμελή δομή για την αξιολόγηση των κινδύνων του AI, συμπεριλαμβανομένων και των κοινωνικών και ηθικών κινδύνων. Αυτό το πλαίσιο περιελάμβανε την ικανότητα, την αλληλεπίδραση με τους ανθρώπους και την συστημική επίδραση, και κατέληξε στο συμπέρασμα ότι ο контέκστας ήταν κλειδί για να καθορίσει εάν ένα σύστημα AI ήταν ασφαλές.

Ένα από αυτά τα συστήματα που έχει受到 κριτικής είναι το ChatGPT, το οποίο έχει απαγορευτεί σε έως και 15 χώρες, ακόμη και αν κάποιες από αυτές τις απαγορεύσεις έχουν ανακληθεί. Με πάνω από 100 εκατομμύρια χρήστες, το ChatGPT είναι ένα από τα πιο επιτυχημένα LLMs, και έχει κατηγορηθεί συχνά για προκατάληψη. Λαμβάνοντας υπόψη τη μελέτη του DeepMind, ας ενσωματώσουμε τον контέκστα εδώ. Προκατάληψη, σε αυτό το контέκστα, σημαίνει την ύπαρξη αθέμιτων, προκατειλημμένων ή διαστρεβλωμένων προοπτικών στο κείμενο που παράγεται από μοντέλα όπως το ChatGPT. Αυτό μπορεί να συμβεί με πολλούς τρόπους–φυλετική προκατάληψη, προκατάληψη φύλου, πολιτική προκατάληψη και πολλά άλλα.

Αυτές οι προκαταλήψεις μπορούν, τελικά, να είναι επιζήμιες για το AIเอง, εμποδίζοντας τις πιθανότητες να αξιοποιήσουμε πλήρως το δυναμικό αυτής της τεχνολογίας. Πρόσφατη έρευνα από το Πανεπιστήμιο του Στάνφορντ έχει επιβεβαιώσει ότι τα LLMs όπως το ChatGPT δείχνουν σημάδια παρακμής όσον αφορά την ικανότητά τους να παρέχουν αξιόπιστες, αμερόληπτες και ακριβείς απαντήσεις, το οποίο είναι τελικά ένα εμπόδιο στην αποτελεσματική χρήση του AI.

Ένα ζήτημα που βρίσκεται στο κέντρο αυτού του προβλήματος είναι το πώς οι ανθρώπινες προκαταλήψεις μεταφέρονται στο AI,既然 είναι βαθιά εδραιωμένες στα δεδομένα που χρησιμοποιούνται για την ανάπτυξη των μοντέλων. Ωστόσο, αυτό είναι ένα βαθύτερο ζήτημα από ό,τι φαίνεται.

Αιτίες της προκατάληψης

Είναι εύκολο να αναγνωρίσουμε την πρώτη αιτία αυτής της προκατάληψης. Τα δεδομένα από τα οποία το μοντέλο μαθαίνει είναι συχνά γεμάτα στερεότυπα ή προϋπάρχουσες προκαταλήψεις που βοήθησαν να διαμορφωθούν αυτά τα δεδομένα από την αρχή, οπότε το AI, ακούσια, τελικά προκαλεί αυτές τις προκαταλήψεις επειδή αυτό είναι το μόνο που γνωρίζει να κάνει.

Ωστόσο, η δεύτερη αιτία είναι πολύ πιο σύνθετη και αντιπαραδοξική, και βάζει μια πίεση σε κάποιες από τις προσπάθειες που γίνονται για να κάνουν το AI πιο ηθικό και ασφαλές. Υπάρχουν, φυσικά, κάποιες σαφείς περιπτώσεις όπου το AI μπορεί να προκαλέσει ζημιά χωρίς να το θέλει. Για παράδειγμα, αν κάποιος ρωτήσει το AI, «Πώς μπορώ να φτιάξω μια βόμβα;» και το μοντέλο δώσει την απάντηση, συνεισφέρει στην παραγωγή ζημιάς. Η άλλη πλευρά είναι ότι όταν το AI περιορίζεται–ακόμη και αν ο λόγος είναι δικαιολογημένος–εμποδίζουμε την ικανότητά του να μάθει. Οι ανθρώπινες περιορισμοί περιορίζουν την ικανότητα του AI να μάθει από ένα ευρύτερο φάσμα δεδομένων, το οποίο εμποδίζει επίσης την παροχή χρήσιμης πληροφόρησης σε μη επιζήμιες περιπτώσεις.

Επίσης, ας θυμόμαστε ότι πολλά από αυτά τα περιοριστικά μέτρα είναι προκατειλημμένα, επίσης, επειδή προέρχονται από ανθρώπους. Οπότε, ενώ μπορούμε όλοι να συμφωνήσουμε ότι «Πώς μπορώ να φτιάξω μια βόμβα;» μπορεί να οδηγήσει σε ένα πιθανό θανατηφόρο αποτέλεσμα, άλλες ερωτήσεις που θα μπορούσαν να θεωρηθούν ευαίσθητες είναι πολύ πιο υποκειμενικές. Συνεπώς, αν περιορίσουμε την ανάπτυξη του AI σε αυτές τις κατευθύνσεις, περιορίζουμε την πρόοδο, και προωθούμε την利用 του AI μόνο για σκοπούς που θεωρούνται αποδεκτοί από εκείνους που ρυθμίζουν τα μοντέλα LLM.

Αδυναμία να προβλέψουμε τις συνέπειες

Δεν έχουμε πλήρως κατανοήσει τις συνέπειες της εισαγωγής περιορισμών στα LLMs. Ως εκ τούτου, μπορεί να προκαλούμε περισσότερη ζημιά στα αλγόριθμα από ό,τι συνειδητοποιούμε. Λαμβάνοντας υπόψη τον απίστευτα υψηλό αριθμό παραμέτρων που εμπλέκονται σε μοντέλα όπως το GPT, είναι, με τα εργαλεία που διαθέτουμε τώρα, αδύνατο να προβλέψουμε την επίδραση, και, από την οπτική μου, θα χρειαστεί περισσότερος χρόνος για να κατανοήσουμε τι είναι η επίδραση από τον χρόνο που χρειάζεται για την εκπαίδευση του νευρωνικού δικτύου.

Ως εκ τούτου, με την τοποθέτηση αυτών των περιορισμών, μπορεί να οδηγούμε, ακούσια, το μοντέλο να αναπτύξει απροσδόκητες συμπεριφορές ή προκαταλήψεις. Αυτό συμβαίνει επίσης επειδή τα μοντέλα AI είναι συχνά πολύπλοκα συστήματα πολλαπλών παραμέτρων, το οποίο σημαίνει ότι αν τροποποιήσουμε μια παράμετρο–για παράδειγμα, εισαγάγοντας einen περιορισμό–προκαλούμε μια κυματική επίδραση που διαδίδεται σε όλο το μοντέλο με τρόπους που δεν μπορούμε να προβλέψουμε.

Δυσκολία στην αξιολόγηση της «ηθικής» του AI

Δεν είναι πρακτικά εφικτό να αξιολογήσουμε εάν το AI είναι ηθικό ή όχι, επειδή το AI δεν είναι ένα πρόσωπο που ενεργεί με μια συγκεκριμένη πρόθεση. Το AI είναι ένα Μεγάλο Γλωσσικό Μοντέλο, το οποίο, από τη φύση του, δεν μπορεί να είναι πιο ή λιγότερο ηθικό. Όπως αποκάλυψε η μελέτη του DeepMind, αυτό που έχει σημασία είναι ο контέκστας στον οποίο χρησιμοποιείται, και αυτό μετρά την ηθική του ανθρώπου πίσω από το AI, όχι του AI selbst. Είναι μια ψευδαίσθηση να πιστεύουμε ότι μπορούμε να κρίνουμε το AI ως ένα ανθρώπινο ον με ηθική.

Μια πιθανή λύση που προωθείται είναι ένα μοντέλο που μπορεί να βοηθήσει το AI να λάβει ηθικές αποφάσεις. Ωστόσο, η πραγματικότητα είναι ότι δεν έχουμε ιδέα για το πώς αυτό το μαθηματικό μοντέλο της ηθικής θα μπορούσε να λειτουργήσει. Οπότε, αν δεν το κατανοούμε, πώς θα μπορούσαμε να το χτίσουμε; Υπάρχει πολλή ανθρώπινη υποκειμενικότητα στην ηθική, η οποία κάνει την εργασία της ποσοτικοποίησής της πολύ σύνθετη.

Πώς να λύσουμε αυτό το πρόβλημα;

Βάσει των προαναφερθέντων σημείων, δεν μπορούμε πραγματικά να μιλήσουμε για το εάν το AI είναι ηθικό ή όχι, επειδή κάθε υπόθεση που θεωρείται αηθική είναι μια παραλλαγή ανθρώπινων προκαταλήψεων που περιέχονται στα δεδομένα, και ένα εργαλείο που οι άνθρωποι χρησιμοποιούν για το δικό τους πρόγραμμα. Επίσης, υπάρχουν ακόμη πολλά επιστημονικά άγνωστα, όπως η επίδραση και η πιθανή ζημιά που θα μπορούσαμε να κάνουμε στα αλγόριθμα του AI με την τοποθέτηση περιορισμών.

Ως εκ τούτου, μπορεί να πει ότι ο περιορισμός της ανάπτυξης του AI δεν είναι μια βιώσιμη λύση. Όπως έχουν δείξει κάποιες από τις μελέτες που ανέφερα, αυτοί οι περιορισμοί είναι εν μέρει η αιτία της επιδείνωσης των LLMs.

Έχοντας πει αυτό, τι μπορούμε να κάνουμε γι’ αυτό;

Από την οπτική μου, η λύση βρίσκεται στη διαφάνεια. Πιστεύω ότι αν επαναφέρουμε το ανοιχτό μοντέλο που ήταν επικρατές στην ανάπτυξη του AI, μπορούμε να συνεργαστούμε για να χτίσουμε καλύτερα LLMs που θα μπορούσαν να εξοπλιστούν για να ανακουφίσουν τις ηθικές μας ανησυχίες. Αλλιώς, είναι πολύ δύσκολο να ελέγξουμε επαρκώς όλα όσα γίνονται πίσω από κλειστές πόρτες.

Μια εξαιρετική πρωτοβουλία σε αυτό το контέκστα είναι ο Δείκτης Διαφάνειας του Μοντέλου, που ανακοινώθηκε πρόσφατα από το Stanford HAI (το οποίο σημαίνει Ανθρώπινο Κεντρικό Τεχνητό Νοήμονα), ο οποίος αξιολογεί εάν οι dévelopπεροι των δέκα πιο διαδεδομένων μοντέλων AI αποκαλύπτουν επαρκείς πληροφορίες για το έργο τους και τον τρόπο με τον οποίο τα συστήματά τους χρησιμοποιούνται. Αυτό περιλαμβάνει την αποκάλυψη συνεργασιών και τρίτων développeρω, καθώς και τον τρόπο με τον οποίο χρησιμοποιείται η προσωπική δεδομένα. Είναι αξιοσημείωτο να πω ότι κανένα από τα αξιολογημένα μοντέλα δεν έλαβε υψηλή βαθμολογία, το οποίο υπογραμμίζει ένα πραγματικό πρόβλημα.

Στο τέλος της ημέρας, το AI δεν είναι τίποτα περισσότερο από Μεγάλα Γλωσσικά Μοντέλα, και το γεγονός ότι είναι ανοιχτά και μπορούν να πειραματιστούν, αντί να κατευθύνονται σε μια συγκεκριμένη κατεύθυνση, είναι αυτό που θα μας επιτρέψει να κάνουμε νέες πρωτοποριακές ανακαλύψεις σε κάθε επιστημονικό πεδίο. Ωστόσο, αν δεν υπάρχει διαφάνεια, θα είναι πολύ δύσκολο να σχεδιαστούν μοντέλα που πραγματικά λειτουργούν για το όφελος της ανθρωπότητας, και να γνωρίζουμε το βαθμό της ζημιάς που αυτά τα μοντέλα θα μπορούσαν να προκαλέσουν αν δεν ελεγχθούν επαρκώς.