3 Τρόποι για να Διατηρήσετε τις Παλιές Πραγματικότητες Φρέσκες στα Μεγάλα Γλωσσικά Μοντέλα

Τα Μεγάλα Γλωσσικά Μοντέλα (LLM) όπως το GPT3, το ChatGPT και το BARD είναι το κέντρο του ενδιαφέροντος σήμερα. Όλοι έχουν μια γνώμη για το πώς αυτά τα εργαλεία είναι καλά ή κακά για την κοινωνία και τι σημαίνουν για το μέλλον της τεχνητής νοημοσύνης. Η Google έλαβε πολλές κριτικές για το νέο της μοντέλο BARD που απάντησε λανθασμένα σε μια σύνθετη ερώτηση (λίγο). Όταν ρωτήθηκε «Ποίες νέες ανακαλύψεις από το τηλεσκόπιο James Webb μπορώ να πω στο 9χρονο μου;» – το chatbot παρείχε τρεις απαντήσεις, από τις οποίες οι 2 ήταν σωστές και η 1 ήταν λανθασμένη. Η λανθασμένη απάντηση ήταν ότι η πρώτη φωτογραφία «εξωπλανήτη» τραβήχτηκε από το JWST, η οποία ήταν λανθασμένη. Έτσι, το μοντέλο είχε μια λανθασμένη πραγματικότητα αποθηκευμένη στη βάση γνώσεων του. Για τα μεγάλα γλωσσικά μοντέλα να είναι αποτελεσματικά, χρειαζόμαστε έναν τρόπο να διατηρήσουμε αυτές τις πραγματικότητες ενημερωμένες ή να τις εμπλουτίσουμε με νέες γνώσεις.

Ας δούμε πρώτα πώς αποθηκεύονται οι πραγματικότητες μέσα στα μεγάλα γλωσσικά μοντέλα (LLM). Τα μεγάλα γλωσσικά μοντέλα δεν αποθηκεύουν πληροφορίες και πραγματικότητες με τον παραδοσιακό τρόπο, όπως οι βάσεις δεδομένων ή τα αρχεία. Αντίθετα, έχουν εκπαιδευτεί σε τεράστιες ποσότητες κειμένου και έχουν μάθει μοτίβα και σχέσεις σε αυτά τα δεδομένα. Αυτό τους επιτρέπει να παράγουν ανθρώπινο-όμοιες απαντήσεις σε ερωτήσεις, αλλά δεν έχουν ένα συγκεκριμένο χώρο αποθήκευσης για τις αποκτηθείσες γνώσεις τους. Όταν απαντούν σε μια ερώτηση, το μοντέλο χρησιμοποιεί την εκπαίδευσή του για να παράγει μια απάντηση με βάση την είσοδο που λαμβάνει. Οι πληροφορίες και γνώσεις που έχει ένα γλωσσικό μοντέλο είναι αποτέλεσμα των μοτίβων που έχει μάθει στα δεδομένα στα οποία έχει εκπαιδευτεί, και όχι αποτέλεσμα της ρητής αποθήκευσης τους στη μνήμη του μοντέλου. Η αρχιτεκτονική Transformers, στην οποία βασίζονται τα περισσότερα σύγχρονα LLM, έχει μια εσωτερική κωδικοποίηση πραγματικότητας που χρησιμοποιείται για την απάντηση της ερώτησης που τεθεί στο prompt.

Έτσι, αν οι πραγματικότητες μέσα στη μνήμη του LLM είναι λανθασμένες ή παλιές, χρειαζόμαστε νέες πληροφορίες μέσω ενός prompt. Το prompt είναι το κείμενο που στέλνεται στο LLM με την ερώτηση και τα υποστηρικτικά στοιχεία που μπορούν να είναι κάποιες νέες ή διορθωμένες πραγματικότητες. Εδώ είναι 3 τρόποι να προσεγγίσουμε αυτό.

1. Ένας τρόπος να διορθώσουμε τις κωδικοποιημένες πραγματικότητες ενός LLM είναι να παρέχουμε νέες πραγματικότητες που σχετίζονται με το контέκστ χρησιμοποιώντας μια εξωτερική βάση γνώσεων. Αυτή η βάση γνώσεων μπορεί να είναι κλήσεις API για να ληφθούν σχετικές πληροφορίες ή μια αναζήτηση σε μια βάση δεδομένων SQL, No-SQL ή Vector. Περισσότερες προηγμένες γνώσεις μπορούν να εξαχθούν από ένα γράφο γνώσεων που αποθηκεύει οντότητες δεδομένων και σχέσεις μεταξύ τους. Ανάλογα με τις πληροφορίες που ζητά ο χρήστης, η σχετική контέκστ πληροφορία μπορεί να ανακτηθεί και να δοθεί ως πρόσθετες πραγματικότητες στο LLM. Αυτές οι πραγματικότητες μπορούν επίσης να διαμορφωθούν για να μοιάζουν με παραδείγματα εκπαίδευσης για να βελτιώσουν τη διαδικασία μάθησης. Για παράδειγμα, μπορείτε να περάσετε μια σειρά από ζευγάρια ερωτήσεων και απαντήσεων για το μοντέλο να μάθει πώς να παρέχει απαντήσεις.

2. Ένας πιο καινοτόμος (και πιο ακριβός) τρόπος να εμπλουτίσουμε το LLM είναι η πραγματική εκπαίδευση με δεδομένα. Αντί να ζητάμε γνώσεις για συγκεκριμένες πραγματικότητες, δημιουργούμε ένα σύνολο εκπαίδευσης δειγμάτων από τη βάση γνώσεων. Χρησιμοποιώντας τεχνικές εκπαίδευσης με επιτήρηση όπως η εκπαίδευση, μπορούμε να δημιουργήσουμε μια νέα έκδοση του LLM που έχει εκπαιδευτεί σε αυτή τη νέα γνώση. Αυτή η διαδικασία είναι συνήθως ακριβή και μπορεί να κοστίσει quelques χιλιάδες δολάρια για να δημιουργηθεί και να διατηρηθεί ένα εκπαιδευμένο μοντέλο στο OpenAI. Βέβαια, το κόστος αναμένεται να μειωθεί με τον καιρό.

3. Ένας άλλος τρόπος είναι να χρησιμοποιήσουμε μεθόδους όπως η Ενισχυμένη Μάθηση (RL) για να εκπαιδεύσουμε einen πράκτορα με ανθρώπινη ανάδραση και να μάθουμε μια πολιτική για το πώς να απαντάμε σε ερωτήσεις. Αυτή η μέθοδος έχει αποδειχθεί πολύ αποτελεσματική στη δημιουργία μικρότερων μοντέλων που γίνονται καλά σε συγκεκριμένες εργασίες. Για παράδειγμα, το διάσημο ChatGPT που κυκλοφόρησε από το OpenAI εκπαιδεύτηκε σε μια συνδυασμένη εκπαίδευση με επιτήρηση και RL με ανθρώπινη ανάδραση.

Συνοψίζοντας, αυτό είναι ένα εξελισσόμενο πεδίο με κάθε μεγάλη εταιρεία που θέλει να μπει και να δείξει τη διαφοροποίηση της. Θα δούμε σύντομα μεγάλα εργαλεία LLM σε hầu hết τους τομείς όπως το λιανικό εμπόριο, την υγεία και την τραπεζική που μπορούν να απαντούν με ανθρώπινο τρόπο κατανοώντας τις νюανς της γλώσσας. Αυτά τα εργαλεία LLM που ενσωματώνουν δεδομένα επιχειρήσεων μπορούν να简化 την πρόσβαση και να κάνουν διαθέσιμα τα σωστά δεδομένα στους σωστούς ανθρώπους στην σωστή ώρα.