Μοντέλα και πλατφόρμες AI
Τι είναι οι παραισθήσεις στα LLM; Αιτίες, ηθικά ζητήματα και πρόληψη
Βασικά σημείαΟ Yann LeCun λέει ότι τα LLM παραισθάνονται επειδή δεν έχουν κατανόηση της υποκείμενης…
Δείτε περισσότερα
- Ο Yann LeCun λέει ότι τα LLM παραισθάνονται επειδή δεν έχουν κατανόηση της υποκείμενης πραγματικότητας.
- Οι παραισθήσεις μπορούν να διαδώσουν παραπληροφόρηση μέσω ψεύτικων αποσπασμάτων, ψευδών γεγονότων και ανύπαρκτων πηγών.
- Η OpenAI και η DeepMind χρησιμοποιούν ενισχυτική μάθηση με ανθρώπινη ανατροφοδότηση για να μειώσουν τις παραισθήσεις του ChatGPT.
Τα μεγάλα μοντέλα γλώσσας (LLM) είναι συστήματα τεχνητής νοημοσύνης που μπορούν να αναλύουν και να παράγουν κείμενο που μοιάζει με αυτό του ανθρώπου. Όμως, έχουν ένα πρόβλημα – τα LLM εμφανίζουν «παραισθήσεις» (hallucinations), δηλαδή επινοούν πληροφορίες. Οι hallucinations των LLM έχουν κάνει τους ερευνητές να ανησυχούν για την πρόοδο σε αυτό το πεδίο, επειδή αν οι ερευνητές δεν μπορούν να ελέγξουν το αποτέλεσμα των μοντέλων, τότε δεν μπορούν να κατασκευάσουν κρίσιμα συστήματα που υπηρετούν την ανθρωπότητα. Περισσότερα για αυτό αργότερα.
Γενικά, τα LLM χρησιμοποιούν τεράστιες ποσότητες δεδομένων εκπαίδευσης και σύνθετους αλγορίθμους μάθησης για να παράγουν ρεαλιστικά αποτελέσματα. Σε ορισμένες περιπτώσεις, η μάθηση μέσα στο πλαίσιο χρησιμοποιείται για την εκπαίδευση αυτών των μοντέλων χρησιμοποιώντας μόνο λίγα παραδείγματα. Τα LLM γίνονται ολοένα και πιο δημοφιλή σε διάφορες εφαρμογές, από την αυτόματη μετάφραση, την ανάλυση συναισθήματος, τους εικονικούς βοηθούς AI και τον σχολιασμό εικόνων, την επεξεργασία φυσικής γλώσσας, κ.λπ.
Παρά τη σύγχρονη φύση των LLM, αυτά εξακολουθούν να είναι επιρρεπή σε προκαταλήψεις, λάθη και hallucinations. Ο Yann LeCun, ο σημερινός Επικεφαλής Επιστήμονας AI στη Meta, ανέφερε πρόσφατα το βασικό ελάττωμα των LLM που προκαλεί παραισθήσεις: “Τα μεγάλα μοντέλα γλώσσας δεν έχουν καμία ιδέα για την υποκείμενη πραγματικότητα που περιγράφει η γλώσσα. Αυτά τα συστήματα παράγουν κείμενο που ακούγεται καλό, γραμματικά και σημασιολογικά, αλλά δεν έχουν πραγματικά κάποιο αντικειμενικό στόχο εκτός από το να ικανοποιούν τη στατιστική συνεκτικότητα με το prompt”.
Παραισθήσεις στα LLM

Εικόνα από Gerd Altmann από Pixabay
Οι hallucinations αναφέρονται στην παραγωγή αποτελεσμάτων που είναι συντακτικά και σημασιολογικά σωστά, αλλά είναι αποσυνδεδεμένα από την πραγματικότητα και βασίζονται σε ψευδείς υποθέσεις. Η hallucination είναι ένα από τα μεγάλα ηθικά προβλήματα των LLM, και μπορεί να έχει επιζήμιες συνέπειες, καθώς οι χρήστες χωρίς επαρκή γνώση του συγκεκριμένου πεδίου αρχίζουν να εξαρτώνται από αυτά τα ολοένα και πιο πειστικά μοντέλα γλώσσας.
Ένας ορισμένος βαθμός παραισθήσεων είναι αναπόφευκτος σε όλα τα αυτοπαλινδρομικά LLM. Για παράδειγμα, ένα μοντέλο μπορεί να αποδίδει σε ένα διάσημο πρόσωπο μια επινοημένη φράση που δεν είπε ποτέ. Μπορεί να ισχυριστεί κάτι για ένα συγκεκριμένο θέμα που είναι ανακριβές ως προς τα γεγονότα ή να αναφέρει ανύπαρκτες πηγές σε ερευνητικές εργασίες, διασπείροντας έτσι λανθασμένες πληροφορίες.
Ωστόσο, το να κάνουμε τα μοντέλα AI να hallucinate δεν έχει πάντα αρνητικές επιπτώσεις. Για παράδειγμα, μια νέα μελέτη υποδηλώνει ότι οι επιστήμονες ανακαλύπτουν ‘νέες πρωτεΐνες με απεριόριστο πλήθος ιδιοτήτων’ μέσω hallucinating LLM.
Τι προκαλεί τις παραισθήσεις στα LLM;
Τα LLM μπορούν να εμφανίζουν παραισθήσεις εξαιτίας διαφόρων παραγόντων, από την υπερπροσαρμογή και τα σφάλματα κωδικοποίησης ή αποκωδικοποίησης έως τις προκαταλήψεις στα δεδομένα εκπαίδευσης.
Overfitting

Εικόνα από janjf93 από Pixabay
Το overfitting είναι ένα πρόβλημα όπου ένα μοντέλο AI ταιριάζει πολύ καλά στα δεδομένα εκπαίδευσης. Ωστόσο, δεν μπορεί να αντιπροσωπεύσει πλήρως όλο το εύρος των εισόδων που μπορεί να συναντήσει, δηλαδή, αποτυγχάνει να γενικεύσει την προβλεπτική του ικανότητα σε νέα δεδομένα που δεν έχει δει προηγουμένως. Το overfitting μπορεί να οδηγήσει το μοντέλο να παράγει hallucinated περιεχόμενο.
Σφάλματα Κωδικοποίησης και Αποκωδικοποίησης

Εικόνα από geralt από Pixabay
Εάν υπάρχουν σφάλματα στην κωδικοποίηση και αποκωδικοποίηση του κειμένου και των μετέπειτα αναπαραστάσεων, αυτό μπορεί επίσης να προκαλέσει το μοντέλο να παράγει ανοησίες και λανθασμένα αποτελέσματα.
Προκαταλήψεις Εκπαίδευσης

Εικόνα από Quince Creative από Pixabay
Ένας άλλος παράγοντας είναι η παρουσία ορισμένων προκαταλήψεων στα δεδομένα εκπαίδευσης, που μπορεί να προκαλέσει το μοντέλο να δώσει αποτελέσματα που αντιπροσωπεύουν αυτές τις προκαταλήψεις αντί της πραγματικής φύσης των δεδομένων. Αυτό είναι παρόμοιο με την έλλειψη ποικιλίας στα δεδομένα εκπαίδευσης, που περιορίζει την ικανότητα του μοντέλου να γενικεύσει σε νέα δεδομένα.
Η σύνθετη δομή των LLM καθιστά αρκετά δύσκολο για τους ερευνητές και τους πρακτικούς να αναγνωρίσουν, να ερμηνεύσουν και να διορθώσουν τις υποκείμενες αιτίες των hallucinations.
Ηθικά ζητήματα των παραισθήσεων στα LLM
Τα LLM μπορούν να διατηρήσουν και να ενισχύσουν επιζήμιες προκαταλήψεις μέσω hallucinations και μπορούν, με τη σειρά τους, να έχουν αρνητικές επιπτώσεις στους χρήστες και να έχουν επιζήμιες κοινωνικές συνέπειες. Κάποιες από αυτές τις πιο σημαντικές ηθικές προβληματικές είναι οι ακόλουθες:
Περιεχόμενο διακρίσεων και τοξικό περιεχόμενο

Εικόνα από ar130405 από Pixabay
Επειδή τα δεδομένα εκπαίδευσης των LLM είναι συχνά γεμάτα με κοινωνικοπολιτισμικά στερεότυπα λόγω των εγγενών προκαταλήψεων και της έλλειψης ποικιλίας. Τα LLM μπορούν, επομένως, να παράγουν και να ενισχύσουν αυτές τις επιζήμιες ιδέες κατά των μειονεκτικών ομάδων της κοινωνίας.
Μπορούν να παράγουν αυτό το περιεχόμενο διακρίσεων και μίσους με βάση τη φυλή, το φύλο, τη θρησκεία, την εθνικότητα, κ.λπ.
Προβλήματα Ιδιωτικότητας

Εικόνα από JanBaby από Pixabay
Τα LLM εκπαιδεύονται σε ένα τεράστιο σύνολο δεδομένων εκπαίδευσης, το οποίο συχνά περιλαμβάνει προσωπικές πληροφορίες ατόμων. Υπήρξαν περιπτώσεις όπου τέτοια μοντέλα παραβίασαν την ιδιωτικότητα των ατόμων. Μπορούν να διαρρεύσουν συγκεκριμένες πληροφορίες, όπως αριθμούς κοινωνικής ασφάλισης, διευθύνσεις, αριθμούς τηλεφώνου και ιατρικές λεπτομέρειες.
Εσφαλμένες πληροφορίες και σκόπιμη παραπληροφόρηση

Εικόνα από geralt από Pixabay
Τα μοντέλα γλώσσας μπορούν να παράγουν ανθρώπινο-όμοιο περιεχόμενο που φαίνεται ακριβές, αλλά στην πραγματικότητα είναι ψευδές και δεν υποστηρίζεται από εμπειρικά δεδομένα. Αυτό μπορεί να είναι τυχαίο, οδηγώντας σε λανθασμένες πληροφορίες, ή μπορεί να έχει κακόβουλη πρόθεση πίσω του για να διασπείρει ψευδείς πληροφορίες. Εάν αυτό δεν ελέγχεται, μπορεί να δημιουργήσει αρνητικές κοινωνικές-πολιτιστικές-οικονομικές-πολιτικές τάσεις.
Πρόληψη των παραισθήσεων στα LLM

Εικόνα από athree23 από Pixabay
Ερευνητές και πρακτικοί λαμβάνουν διάφορες προσεγγίσεις για να αντιμετωπίσουν το πρόβλημα των hallucinations στα LLM. Αυτές περιλαμβάνουν τη βελτίωση της ποικιλότητας των δεδομένων εκπαίδευσης, την εξάλειψη των εγγενών προκαταλήψεων, τη χρήση καλύτερων τεχνικών κανονικοποίησης και την εφαρμογή ανταγωνιστικής εκπαίδευσης και ενισχυμένης μάθησης, μεταξύ άλλων:
- Η ανάπτυξη καλύτερων τεχνικών κανονικοποίησης είναι στο κέντρο της αντιμετώπισης των hallucinations. Βοηθούν στην πρόληψη του overfitting και άλλων προβλημάτων που προκαλούν hallucinations.
- Η αύξηση των δεδομένων μπορεί να μειώσει τη συχνότητα των hallucinations, όπως φαίνεται από μια ερευνητική μελέτη. Η αύξηση των δεδομένων περιλαμβάνει την αύξηση του συνόλου δεδομένων εκπαίδευσης με την προσθήκη ενός τυχαίου token σε οποιοδήποτε σημείο της πρότασης. Διπλασιάζει το μέγεθος του συνόλου δεδομένων εκπαίδευσης και προκαλεί μείωση της συχνότητας των hallucinations.
- Η OpenAI και η DeepMind της Google ανέπτυξαν μια τεχνική που ονομάζεται ενισχυμένη μάθηση με ανθρώπινη ανατροφοδότηση (RLHF) για να αντιμετωπίσουν το πρόβλημα των hallucinations του ChatGPT. Περιλαμβάνει έναν ανθρώπινο αξιολογητή που αναθεωρεί συχνά τις απαντήσεις του μοντέλου και επιλέγει τις πιο κατάλληλες για τις προτροπές του χρήστη. Αυτή η ανατροφοδότηση χρησιμοποιείται για να προσαρμόσει τη συμπεριφορά του μοντέλου. Ο Ilya Sutskever, ο Επικεφαλής Επιστήμονας της OpenAI, ανέφερε πρόσφατα ότι αυτή η προσέγγιση μπορεί δυνητικά να επιλύσει τα hallucinations στο ChatGPT: “Είμαι αρκετά ελπιδοφόρος ότι με την απλή βελτίωση αυτής της επόμενης ενισχυμένης μάθησης από την ανθρώπινη ανατροφοδότηση, μπορούμε να διδάξουμε το μοντέλο να μην hallucinate”.
- Η αναγνώριση των hallucinated περιεχομένων για να τα χρησιμοποιήσει ως παραδείγματα για μελλοντική εκπαίδευση είναι επίσης μια μέθοδος που χρησιμοποιείται για να αντιμετωπίσουν τα hallucinations. Μια νέα τεχνική σε αυτό το πεδίο ανιχνεύει τα hallucinations στο επίπεδο token και προβλέπει εάν κάθε token στην έξοδο είναι hallucinated. Περιλαμβάνει επίσης μια μέθοδο για την εκπαίδευση ανιχνευτών παραισθήσεων χωρίς επίβλεψη.
Συνοψίζοντας, τα hallucinations στα LLM είναι ένα αυξανόμενο πρόβλημα. Και παρά τις προσπάθειες, απομένει ακόμη πολλή δουλειά να γίνει για να αντιμετωπιστεί το πρόβλημα. Η σύνθετη δομή των μοντέλων αυτών σημαίνει ότι είναι γενικά δύσκολο να αναγνωριστούν και να διορθωθούν οι υποκείμενες αιτίες των hallucinations.
Ωστόσο, με τη συνεχιζόμενη έρευνα και ανάπτυξη, είναι δυνατό να μειωθούν τα hallucinations στα LLM και να μειωθούν οι ηθικές τους συνέπειες.
Εάν θέλετε να μάθετε περισσότερα για τα LLM και τις προληπτικές τεχνικές που αναπτύσσονται για να διορθώσουν τα hallucinations στα LLM, επισκεφθείτε unite.ai για να επεκτείνετε τις γνώσεις σας.













