Πώς τα Μεγάλου Όγκου Γλωσσικά Μοντέλα (LLM) Θα Ενεργοποιήσουν τις Εφαρμογές του Μέλλοντος

Η γεννητική τεχνητή νοημοσύνη και ιδιαίτερα η γλωσσική της εκδοχή – το ChatGPT είναι παντού. Η τεχνολογία του Μεγάλου Όγκου Γλωσσικού Μοντέλου (LLM) θα διαδραματίσει σημαντικό ρόλο στην ανάπτυξη μελλοντικών εφαρμογών. Τα LLM είναι πολύ καλά στο να κατανοούν τη γλώσσα λόγω της εκτεταμένης προ-εκπαίδευσης που έχει γίνει για τα μοντέλα βάσης σε τρισεκατομμύρια γραμμές δημόσιου κειμένου, συμπεριλαμβανομένου του κώδικα. Μέθοδοι όπως η επιτηρούμενη λεπτομερής εκπαίδευση και η ενισχυμένη μάθηση με ανθρώπινη ανάδραση (RLHF) κάνουν αυτά τα LLM ακόμη πιο αποτελεσματικά στην απάντηση συγκεκριμένων ερωτημάτων και στην συνομιλία με τους χρήστες. Όταν περνάμε στην επόμενη φάση των εφαρμογών AI που ενεργοποιούνται από LLM – τα ακόλουθα βασικά στοιχεία θα είναι κρίσιμα για αυτές τις εφαρμογές της επόμενης γενιάς. Η εικόνα παρακάτω δείχνει αυτή την εξέλιξη, και καθώς προχωράτε στην αλυσίδα, κατασκευάζετε περισσότερη νοημοσύνη και αυτονομία στις εφαρμογές σας. Ας εξετάσουμε αυτά τα διάφορα επίπεδα.

Κλήσεις LLM:

Αυτές είναι άμεσες κλήσεις σε μοντέλα ολοκλήρωσης ή συνομιλίας από έναν παρόχο LLM όπως το Azure OpenAI ή το Google PaLM ή το Amazon Bedrock. Αυτές οι κλήσεις έχουν một πολύ βασικό προώθημα και χρησιμοποιούν κυρίως την εσωτερική μνήμη του LLM για να παράγουν την έξοδο.

Παράδειγμα: Ζητώντας από ένα βασικό μοντέλο όπως το “text-davinci” να “πείτε ένα αστείο”. Δίνετε πολύ λίγο контέκστ και το μοντέλο βασίζεται στην εσωτερική προ-εκπαιδευμένη μνήμη του για να βρει μια απάντηση (υπογραμμισμένο με πράσινο στη διεκόπη παρακάτω – χρησιμοποιώντας το Azure OpenAI).

Προωθήματα:

Το επόμενο επίπεδο νοημοσύνης είναι η προσθήκη περισσότερου και περισσότερου контέκστυ στα προωθήματα. Υπάρχουν τεχνικές για την μηχανική προώθηματος που μπορούν να εφαρμοστούν στα LLM που μπορούν να τα κάνουν να δίνουν εξατομικευμένες απαντήσεις. Για παράδειγμα, όταν γεννάτε ένα email σε ένα χρήστη, κάποιος контέκστας για τον χρήστη, τις προηγούμενες αγορές και τα μοτίβα συμπεριφοράς μπορεί να χρησιμεύσει ως προώθημα για να εξατομικεύσετε το email. Οι χρήστες που είναι εξοικειωμένοι με το ChatGPT θα γνωρίζουν διαφορετικές μεθόδους προώθησης όπως το να δίνουν παραδείγματα που χρησιμοποιούνται από το LLM για να κατασκευάσουν μια απάντηση. Τα προωθήματα αυξάνουν την εσωτερική μνήμη του LLM με πρόσθετο контέκστα. Παράδειγμα είναι παρακάτω.

Ενσωματώσεις:

Οι ενσωματώσεις παίρνουν τα προωθήματα στο επόμενο επίπεδο αναζητώντας μια βάση γνώσεων για контέκστα και αποκτώντας αυτό το контέκστα και προσθέτοντάς το στο προώθημα. Εδώ, ο πρώτος βήμα είναι να κατασκευάσετε μια μεγάλη αποθήκη εγγράφων με ακατέργαστο κείμενο αναζητήσιμο με την ευρετηρίαση του κειμένου και την πληρότητα μιας διανυσματικής βάσης δεδομένων. Για αυτό, χρησιμοποιείται ένα μοντέλο ενσωματώσεων όπως το ‘ada’ από το OpenAI που παίρνει ένα τμήμα κειμένου και το μετατρέπει σε ένα n-διαστατικό διανυσματικό. Αυτές οι ενσωματώσεις καταγράφουν το контέκστα του κειμένου, ώστε παρόμοιες προτάσεις να έχουν ενσωματώσεις που είναι κοντά η μια στην άλλη στο διανυσματικό χώρο. Όταν ο χρήστης εισάγει μια ερώτηση, αυτή η ερώτηση μετατρέπεται επίσης σε ενσωματωμένη και αυτό το διανυσματικό αντιστοιχίζεται με διανυσματικά στη βάση δεδομένων. Έτσι, παίρνουμε τις 5 ή 10 κορυφαίες αντιστοιχίες κειμένου για την ερώτηση που αποτελούν το контέκστα. Η ερώτηση και το контέκστα περνούν στο LLM για να απαντήσουν στην ερώτηση με ανθρώπινο τρόπο.

Αλυσίδες:

Σήμερα, οι Αλυσίδες είναι η πιο προηγμένη και ωριμάζουσα τεχνολογία που είναι εκτενώς σε χρήση για την κατασκευή εφαρμογών LLM. Οι Αλυσίδες είναι детерμινιστικές όπου μια σειρά κλήσεων LLM ενώνονται μαζί με την έξοδο από μια LLM που ρέει σε μια ή περισσότερες LLM. Για παράδειγμα, θα μπορούσαμε να έχουμε μια κλήση LLM να αναζητήσει μια βάση δεδομένων SQL και να πάρει μια λίστα email πελατών και να στείλει αυτή τη λίστα σε μια άλλη LLM που θα γεννήσει εξατομικευμένα email στους πελάτες. Αυτές οι αλυσίδες LLM μπορούν να ενσωματωθούν σε υπάρχουσες ροές εφαρμογών για να παράγουν πιο πολύτιμα αποτελέσματα. Χρησιμοποιώντας αλυσίδες, θα μπορούσαμε να αυξήσουμε τις κλήσεις LLM με εξωτερικές εισόδους όπως κλήσεις API και ενσωμάτωση με γράφους γνώσεων για να παρέχουμε контέκστα. Επιπλέον, σήμερα με πολλούς παρόχους LLM διαθέσιμους όπως το OpenAI, το AWS Bedrock, το Google PaLM, το MosaicML, κ.λπ. θα μπορούσαμε να συνδυάσουμε και να ανακατέψουμε κλήσεις LLM σε αλυσίδες. Για στοιχεία αλυσίδας με περιορισμένη νοημοσύνη, θα μπορούσαμε να χρησιμοποιήσουμε ένα χαμηλότερο LLM όπως το ‘gpt3.5-turbo’ ενώ για πιο προηγμένα καθήκοντα θα μπορούσαμε να χρησιμοποιήσουμε το ‘gpt4’. Οι Αλυσίδες δίνουν μια αφαίρεση για δεδομένα, εφαρμογές και κλήσεις LLM.

Πράκτορες:

Οι Πράκτορες είναι θέμα πολλών διαδικτυακών συζητήσεων ιδιαίτερα σε σχέση με την τεχνητή γενική νοημοσύνη (AGI). Οι Πράκτορες χρησιμοποιούν ένα προηγμένο LLM όπως το ‘gpt4’ ή το ‘PaLM2’ για να σχεδιάσουν καθήκοντα αντί να έχουν προκαθορισμένες αλυσίδες. Έτσι, όταν υπάρχουν αιτήσεις χρηστών, με βάση την ερώτηση ο πράκτορας αποφασίζει ποια σύνολο καθηκόντων να καλέσει και δυναμικά κατασκευάζει μια αλυσίδα. Για παράδειγμα, όταν ρυθμίζουμε einen πράκτορα με μια εντολή όπως “ενημερώστε τους πελάτες όταν η APR δανείου αλλάζει λόγω ενημέρωσης κυβερνητικής ρύθμισης”. Το πλαίσιο πράκτορα κάνει μια κλήση LLM για να αποφασίσει τα βήματα να αναλάβει ή τις αλυσίδες να κατασκευάσει. Εδώ θα εμπλέκει την κλήση μιας εφαρμογής που σκραπάρει ιστοσελίδες ρυθμίσεων και εξάγει την πιο πρόσφατη APR ποσοστό, στη συνέχεια μια κλήση LLM αναζητά τη βάση δεδομένων και εξάγει τα email των πελατών που επηρεάζονται και τελικά γεννάει ένα email για να ενημερώσει όλους.

Τελικές Σκέψεις

Το LLM είναι μια εξελισσόμενη τεχνολογία και καλύτερα μοντέλα και εφαρμογές εκκινούν κάθε εβδομάδα. LLM προς Πράκτορες είναι η σκάλα νοημοσύνης και καθώς ανεβαίνουμε, κατασκευάζουμε σύνθετες αυτόνομες εφαρμογές. Καλύτερα μοντέλα θα σημαίνουν πιο αποτελεσματικούς πράκτορες και οι εφαρμογές της επόμενης γενιάς θα είναι ενεργοποιημένες από αυτά. Ο χρόνος θα δείξει πόσο προηγμένες θα είναι οι εφαρμογές της επόμενης γενιάς και ποιους τύπους θα είναι ενεργοποιημένες από αυτά.