Τι είναι οι Hallucinations στα LLM; Αιτίες, Ηθικές Προβληματικές και Πρόληψη

Τα μεγάλα μοντέλα γλώσσας (LLM) είναι συστήματα τεχνητής νοημοσύνης που μπορούν να αναλύουν και να παράγουν κείμενο που μοιάζει με αυτό του ανθρώπου. Όμως, έχουν ένα πρόβλημα – τα LLM hallucinate, δηλαδή, φανταζόμαστε πράγματα. Οι hallucinations των LLM έχουν κάνει τους ερευνητές να ανησυχούν για την πρόοδο σε αυτό το πεδίο, επειδή αν οι ερευνητές δεν μπορούν να ελέγξουν το αποτέλεσμα των μοντέλων, τότε δεν μπορούν να κατασκευάσουν κρίσιμους συστήματα για την υπηρεσία της ανθρωπότητας. Περισσότερα για αυτό αργότερα.

Γενικά, τα LLM χρησιμοποιούν τεράστιες ποσότητες δεδομένων εκπαίδευσης και σύνθετους αλγορίθμους μάθησης για να παράγουν πραγματικά αποτελέσματα. Σε ορισμένες περιπτώσεις, η μάθηση σε контέκστ χρησιμοποιείται για την εκπαίδευση αυτών των μοντέλων χρησιμοποιώντας μόνο quelques παραδείγματα. Τα LLM γίνονται ολοένα και πιο δημοφιλή σε διάφορες εφαρμογές, από τη μετάφραση μηχανής, την ανάλυση συναισθήματος, τη διαδικτυακή βοήθεια AI, την αναγραφή εικόνων, την επεξεργασία φυσικής γλώσσας, κ.λπ.

Παρά τη σύγχρονη φύση των LLM, αυτά εξακολουθούν να είναι επιρρεπή σε προκαταλήψεις, λάθη και hallucinations. Ο Yann LeCun, ο σημερινός Επικεφαλής Επιστήμονας AI στη Meta, ανέφερε πρόσφατα την κεντρική ελάττωμα στα LLM που προκαλεί hallucinations: “Τα μεγάλα μοντέλα γλώσσας δεν έχουν καμία ιδέα για την υποκείμενη πραγματικότητα που περιγράφει η γλώσσα. Αυτά τα συστήματα παράγουν κείμενο που ακούγεται καλό, γραμματικά και σημασιολογικά, αλλά δεν έχουν πραγματικά κάποιο αντικειμενικό στόχο εκτός από το να ικανοποιούν τη στατιστική συνεκτικότητα με το prompt”.

Hallucinations στα LLM

Εικόνα από Gerd Altmann από Pixabay

Οι hallucinations αναφέρονται στην παραγωγή αποτελεσμάτων που είναι συντακτικά και σημασιολογικά σωστά, αλλά είναι αποσυνδεδεμένα από την πραγματικότητα και βασίζονται σε ψευδείς υποθέσεις. Η hallucination είναι ένα από τα μεγάλα ηθικά προβλήματα των LLM, και μπορεί να έχει επιζήμιες συνέπειες, καθώς οι χρήστες χωρίς επαρκή γνώση του domaine αρχίζουν να εξαρτώνται από αυτά τα ολοένα και πιο πειστικά μοντέλα γλώσσας.

Ένα certo βαθμό hallucination είναι αναπόφευκτο σε όλα τα αυτο-αναγωγικά LLM. Για παράδειγμα, ένα μοντέλο μπορεί να αποδίδει μια πλαστή εικονική φράση σε ένα διασημό και να μην έχει ποτέ ειπωθεί. Μπορεί να ισχυριστεί κάτι για ένα συγκεκριμένο θέμα που είναι faktisch λάθος ή να αναφέρει μη υπάρχοντες πηγές σε ερευνητικές εργασίες, διασπείροντας έτσι λανθασμένες πληροφορίες.

Ωστόσο, το να κάνουμε τα μοντέλα AI να hallucinate δεν έχει πάντα αρνητικές επιπτώσεις. Για παράδειγμα, μια νέα μελέτη υποδηλώνει ότι οι επιστήμονες ανακαλύπτουν ‘νέα προτεΐνες με απεριόριστο πλήθος ιδιοτήτων’ μέσω hallucinating LLM.

Τι Προκαλεί τις Hallucinations στα LLM;

Τα LLM possono hallucinate λόγω διαφόρων παραγόντων, που κυμαίνονται από λάθη overfitting σε σφάλματα κωδικοποίησης και αποκωδικοποίησης μέχρι προκαταλήψεις εκπαίδευσης.

Overfitting

Εικόνα από janjf93 από Pixabay

Το overfitting είναι ένα πρόβλημα όπου ένα μοντέλο AI ταιριάζει πολύ καλά στα δεδομένα εκπαίδευσης. Ωστόσο, δεν μπορεί να αντιπροσωπεύσει πλήρως την πλήρη εύρος εισόδων που μπορεί να συναντήσει, δηλαδή, αποτυγχάνει να γενικεύσει τη προβλεπτική του δύναμη σε νέα, μη είδη δεδομένα. Το overfitting μπορεί να οδηγήσει το μοντέλο να παράγει hallucinated περιεχόμενο.

Σφάλματα Κωδικοποίησης και Αποκωδικοποίησης

Εικόνα από geralt από Pixabay

Εάν υπάρχουν σφάλματα στην κωδικοποίηση και αποκωδικοποίηση του κειμένου και των μετέπειτα αναπαραστάσεων, αυτό μπορεί επίσης να προκαλέσει το μοντέλο να παράγει ανοησίες και λανθασμένα αποτελέσματα.

Προκαταλήψεις Εκπαίδευσης

Εικόνα από Quince Creative από Pixabay

Ένας άλλος παράγοντας είναι η παρουσία ορισμένων προκαταλήψεων στα δεδομένα εκπαίδευσης, που μπορεί να προκαλέσει το μοντέλο να δώσει αποτελέσματα που αντιπροσωπεύουν αυτές τις προκαταλήψεις αντί της πραγματικής φύσης των δεδομένων. Αυτό είναι παρόμοιο με την έλλειψη ποικιλίας στα δεδομένα εκπαίδευσης, που περιορίζει την ικανότητα του μοντέλου να γενικεύσει σε νέα δεδομένα.

Η σύνθετη δομή των LLM καθιστά αρκετά δύσκολο για τους ερευνητές και τους πρακτικούς να αναγνωρίσουν, να ερμηνεύσουν και να διορθώσουν τις υποκείμενες αιτίες των hallucinations.

Ηθικές Προβληματικές των Hallucinations στα LLM

Τα LLM μπορούν να διατηρήσουν και να ενισχύσουν επιζήμιες προκαταλήψεις μέσω hallucinations και μπορούν, με τη σειρά τους, να έχουν αρνητικές επιπτώσεις στους χρήστες και να έχουν επιζήμιες κοινωνικές συνέπειες. Κάποιες από αυτές τις πιο σημαντικές ηθικές προβληματικές είναι οι ακόλουθες:

Δισκρίμινες και Τοξικές Περιεχομένου

Εικόνα από ar130405 από Pixabay

Επειδή τα δεδομένα εκπαίδευσης των LLM είναι συχνά γεμάτα με κοινωνικές στερεότυπες προκαταλήψεις λόγω των εγγενών προκαταλήψεων και της έλλειψης ποικιλίας. Τα LLM μπορούν, επομένως, να παράγουν και να ενισχύσουν αυτές τις επιζήμιες ιδέες κατά των μειονεκτικών ομάδων της κοινωνίας.

Μπορούν να παράγουν αυτό το δισκρίμινες και μισαλλόδωρο περιεχόμενο με βάση τη φυλή, το φύλο, τη θρησκεία, την εθνικότητα, κ.λπ.

Προβλήματα Ιδιωτικότητας

Εικόνα από JanBaby από Pixabay

Τα LLM εκπαιδεύονται σε ένα τεράστιο σύνολο δεδομένων εκπαίδευσης, το οποίο συχνά περιλαμβάνει προσωπικές πληροφορίες ατόμων. Υπήρξαν περιπτώσεις όπου τέτοια μοντέλα παραβίασαν την ιδιωτικότητα των ατόμων. Μπορούν να διαρρεύσουν συγκεκριμένες πληροφορίες, όπως αριθμούς κοινωνικής ασφάλισης, διευθύνσεις, αριθμούς τηλεφώνου και ιατρικές λεπτομέρειες.

Λανθασμένες Πληροφορίες και Ψευδείς Πληροφορίες

Εικόνα από geralt από Pixabay

Τα μοντέλα γλώσσας μπορούν να παράγουν ανθρώπινο-όμοιο περιεχόμενο που φαίνεται ακριβές, αλλά στην πραγματικότητα είναι ψευδές και δεν υποστηρίζεται από εμπειρικά δεδομένα. Αυτό μπορεί να είναι τυχαίο, οδηγώντας σε λανθασμένες πληροφορίες, ή μπορεί να έχει κακόβουλη πρόθεση πίσω του για να διασπείρει ψευδείς πληροφορίες. Εάν αυτό δεν ελέγχεται, μπορεί να δημιουργήσει αρνητικές κοινωνικές-πολιτιστικές-οικονομικές-πολιτικές τάσεις.

Πρόληψη των Hallucinations στα LLM

Εικόνα από athree23 από Pixabay

Ερευνητές και πρακτικοί λαμβάνουν διάφορες προσεγγίσεις για να αντιμετωπίσουν το πρόβλημα των hallucinations στα LLM. Αυτές περιλαμβάνουν τη βελτίωση της ποικιλότητας των δεδομένων εκπαίδευσης, την εξάλειψη των εγγενών προκαταλήψεων, τη χρήση καλύτερων τεχνικών κανονικοποίησης και την εφαρμογή ανταγωνιστικής εκπαίδευσης και ενισχυμένης μάθησης, μεταξύ άλλων:

• Η ανάπτυξη καλύτερων τεχνικών κανονικοποίησης είναι στο κέντρο της αντιμετώπισης των hallucinations. Βοηθούν στην πρόληψη του overfitting και άλλων προβλημάτων που προκαλούν hallucinations.
• Η αύξηση των δεδομένων μπορεί να μειώσει τη συχνότητα των hallucinations, όπως φαίνεται από μια ερευνητική μελέτη. Η αύξηση των δεδομένων περιλαμβάνει την αύξηση του συνόλου δεδομένων εκπαίδευσης με την προσθήκη eines τυχαίου token σε οποιοδήποτε σημείο της πρότασης. Διπλασιάζει το μέγεθος του συνόλου δεδομένων εκπαίδευσης και προκαλεί μείωση της συχνότητας των hallucinations.
• Η OpenAI και η Google’s DeepMind ανέπτυξαν μια τεχνική που ονομάζεται ενισχυμένη μάθηση με ανθρώπινη ανατροφοδότηση (RLHF) για να αντιμετωπίσουν το πρόβλημα των hallucinations του ChatGPT. Περιλαμβάνει έναν ανθρώπινο αξιολογητή που αναθεωρεί συχνά τις απαντήσεις του μοντέλου και επιλέγει τις πιο κατάλληλες για τις προτροπές του χρήστη. Αυτή η ανατροφοδότηση χρησιμοποιείται για να điều chỉnh την συμπεριφορά του μοντέλου. Ο Ilya Sutskever, ο Επικεφαλής Επιστήμονας της OpenAI, ανέφερε πρόσφατα ότι αυτή η προσέγγιση μπορεί πотεντικά να επιλύσει τα hallucinations στο ChatGPT: “Είμαι αρκετά ελπιδοφόρος ότι με την απλή βελτίωση αυτής της επόμενης ενισχυμένης μάθησης από την ανθρώπινη ανατροφοδότηση, μπορούμε να διδάξουμε το μοντέλο να μην hallucinate”.
• Η αναγνώριση των hallucinated περιεχομένων για να τα χρησιμοποιήσει ως παραδείγματα για μελλοντική εκπαίδευση είναι επίσης μια μέθοδος που χρησιμοποιείται για να αντιμετωπίσουν τα hallucinations. Μια νέα τεχνική σε αυτό το πεδίο ανιχνεύει τα hallucinations στο επίπεδο token και προβλέπει εάν κάθε token στην έξοδο είναι hallucinated. Περιλαμβάνει επίσης μια μέθοδο για την αυτο-μάθηση των ανιχνευτών hallucinations.

Ανιχνευτής Hallucinations στο Επίπεδο Token

Συνοψίζοντας, τα hallucinations στα LLM είναι một αυξανόμενο πρόβλημα. Και παρά τις προσπάθειες, vẫn còn πολύ δουλειά να γίνει για να αντιμετωπιστεί το πρόβλημα. Η σύνθετη δομή των μοντέλων αυτών σημαίνει ότι είναι γενικά δύσκολο να αναγνωριστούν και να διορθωθούν οι υποκείμενες αιτίες των hallucinations.

Ωστόσο, με τη συνεχιζόμενη έρευνα και ανάπτυξη, είναι δυνατό να μειωθούν τα hallucinations στα LLM και να μειωθούν οι ηθικές τους συνέπειες.

Εάν θέλετε να μάθετε περισσότερα για τα LLM και τις προληπτικές τεχνικές που αναπτύσσονται για να διορθώσουν τα hallucinations στα LLM, επισκεφθείτε unite.ai για να επεκτείνετε τις γνώσεις σας.