Ηγέτες σκέψης

Πώς τα μεγάλα γλωσσικά μοντέλα (LLM) θα υποστηρίξουν τις εφαρμογές του μέλλοντος

Dattaraj Rao
Προσθέστε το Unite.AI στις προτιμώμενες πηγές σας στο Google
Βασικά σημείαΟι πράκτορες χρησιμοποιούν προηγμένα LLMs όπως το GPT-4 για να σχεδιάζουν δυναμικά…
Δείτε περισσότερα
  • Οι πράκτορες χρησιμοποιούν προηγμένα LLMs όπως το GPT-4 για να σχεδιάζουν δυναμικά εργασίες και να χτίζουν αλυσίδες αυτόνομα.
  • Οι αλυσίδες συνδυάζουν πολλαπλές κλήσεις LLM με εξωτερικά δεδομένα για τη δημιουργία ντετερμινιστικών ροών εργασιών εφαρμογών.
  • Οι ενσωματώσεις επιτρέπουν στα LLM να απαντούν σε ερωτήματα χρησιμοποιώντας πλαίσιο που ανακτάται από βάσεις δεδομένων διανυσμάτων.

Η παραγωγική τεχνητή νοημοσύνη, και ιδιαίτερα η γλωσσική εκδοχή της, το ChatGPT, βρίσκεται παντού. Η τεχνολογία των μεγάλων γλωσσικών μοντέλων (LLM) θα διαδραματίσει σημαντικό ρόλο στην ανάπτυξη των μελλοντικών εφαρμογών. Τα LLM κατανοούν πολύ καλά τη γλώσσα χάρη στην εκτεταμένη προεκπαίδευση των θεμελιωδών μοντέλων σε τρισεκατομμύρια γραμμές κειμένου που αποτελεί κοινό κτήμα, συμπεριλαμβανομένου κώδικα. Μέθοδοι όπως η επιβλεπόμενη λεπτομερής προσαρμογή και η ενισχυτική μάθηση με ανθρώπινη ανατροφοδότηση (RLHF) καθιστούν αυτά τα LLM ακόμη πιο αποτελεσματικά στην απάντηση συγκεκριμένων ερωτήσεων και στη συνομιλία με τους χρήστες. Καθώς περνάμε στην επόμενη φάση εφαρμογών AI που βασίζονται σε LLM, τα παρακάτω βασικά στοιχεία θα είναι καθοριστικά. Το ακόλουθο σχήμα δείχνει αυτή την εξέλιξη: όσο ανεβαίνουμε στην αλυσίδα, προσθέτουμε περισσότερη νοημοσύνη και αυτονομία στις εφαρμογές μας. Ας εξετάσουμε τα διαφορετικά επίπεδα.

Κλήσεις LLM:

Πρόκειται για άμεσες κλήσεις σε μοντέλα συμπλήρωσης κειμένου ή συνομιλίας ενός παρόχου LLM, όπως το Azure OpenAI, το Google PaLM ή το Amazon Bedrock. Αυτές οι κλήσεις περιλαμβάνουν ένα πολύ βασικό prompt και χρησιμοποιούν κυρίως την εσωτερική μνήμη του LLM για την παραγωγή του αποτελέσματος.

Παράδειγμα: Ζητάμε από ένα βασικό μοντέλο όπως το «text-davinci» να «πει ένα αστείο». Παρέχουμε ελάχιστο συγκείμενο και το μοντέλο βασίζεται στην εσωτερική μνήμη της προεκπαίδευσής του για να δώσει απάντηση, όπως φαίνεται με πράσινη επισήμανση στο παρακάτω σχήμα που χρησιμοποιεί το Azure OpenAI.

Prompt:

Το επόμενο επίπεδο νοημοσύνης προκύπτει από την προσθήκη ολοένα περισσότερου συγκειμένου στα prompt. Υπάρχουν τεχνικές μηχανικής prompt που μπορούν να εφαρμοστούν στα LLM για εξατομικευμένες απαντήσεις. Για παράδειγμα, κατά τη δημιουργία ενός email προς έναν χρήστη, πληροφορίες για τον ίδιο, τις προηγούμενες αγορές και τα μοτίβα συμπεριφοράς του μπορούν να χρησιμοποιηθούν στο prompt για καλύτερη εξατομίκευση. Οι χρήστες του ChatGPT γνωρίζουν διαφορετικές μεθόδους διατύπωσης prompt, όπως την παροχή παραδειγμάτων που χρησιμοποιεί το LLM για να σχηματίσει την απάντηση. Τα prompt ενισχύουν την εσωτερική μνήμη του LLM με πρόσθετο συγκείμενο. Ακολουθεί παράδειγμα.

Διανυσματικές αναπαραστάσεις (embeddings):

Τα embeddings μεταφέρουν τα prompt στο επόμενο επίπεδο αναζητώντας συγκείμενο σε μια βάση γνώσεων και προσθέτοντάς το στο prompt. Το πρώτο βήμα είναι να καταστεί αναζητήσιμο ένα μεγάλο αποθετήριο εγγράφων με μη δομημένο κείμενο, μέσω ευρετηρίασης και συμπλήρωσης μιας διανυσματικής βάσης δεδομένων. Για τον σκοπό αυτό χρησιμοποιείται ένα μοντέλο embeddings όπως το «ada» της OpenAI, το οποίο μετατρέπει ένα τμήμα κειμένου σε διάνυσμα n διαστάσεων. Οι αναπαραστάσεις αυτές αποτυπώνουν το συγκείμενο του κειμένου, ώστε παρόμοιες προτάσεις να βρίσκονται κοντά στον διανυσματικό χώρο. Όταν ο χρήστης υποβάλλει ένα ερώτημα, αυτό μετατρέπεται επίσης σε embedding και το αντίστοιχο διάνυσμα συγκρίνεται με τα διανύσματα της βάσης. Έτσι βρίσκουμε τα 5 ή 10 καλύτερα αντιστοιχισμένα τμήματα κειμένου, τα οποία αποτελούν το συγκείμενο. Το ερώτημα και το συγκείμενο διαβιβάζονται στο LLM για να απαντήσει με τρόπο παρόμοιο με τον ανθρώπινο.

Αλυσίδες:

Σήμερα, οι αλυσίδες αποτελούν την πιο προηγμένη και ώριμη διαθέσιμη τεχνολογία που χρησιμοποιείται ευρέως για την κατασκευή εφαρμογών LLM. Είναι ντετερμινιστικές: μια σειρά κλήσεων LLM συνδέεται έτσι ώστε η έξοδος της μιας να τροφοδοτεί ένα ή περισσότερα άλλα LLM. Για παράδειγμα, μια κλήση LLM μπορεί να υποβάλει ερώτημα σε βάση SQL, να λάβει μια λίστα διευθύνσεων email πελατών και να τη διαβιβάσει σε άλλο LLM που δημιουργεί εξατομικευμένα email. Αυτές οι αλυσίδες ενσωματώνονται σε υπάρχουσες ροές εφαρμογών για πιο πολύτιμα αποτελέσματα. Μπορούμε επίσης να εμπλουτίσουμε τις κλήσεις LLM με εξωτερικές εισόδους, όπως κλήσεις API και διασύνδεση με γράφους γνώσης για παροχή συγκειμένου. Με τους πολλούς διαθέσιμους παρόχους, όπως OpenAI, AWS Bedrock, Google PaLM και MosaicML, μπορούμε να συνδυάζουμε διαφορετικές κλήσεις στις αλυσίδες. Για στοιχεία που απαιτούν λιγότερη νοημοσύνη μπορούμε να χρησιμοποιήσουμε ένα λιγότερο ισχυρό LLM όπως το «gpt3.5-turbo», ενώ για πιο προηγμένες εργασίες το «gpt4». Οι αλυσίδες παρέχουν ένα επίπεδο αφαίρεσης για δεδομένα, εφαρμογές και κλήσεις LLM.

Πράκτορες:

Οι πράκτορες αποτελούν αντικείμενο πολλών διαδικτυακών συζητήσεων, ιδιαίτερα ως προς την τεχνητή γενική νοημοσύνη (AGI). Χρησιμοποιούν ένα προηγμένο LLM όπως το «gpt4» ή το «PaLM2» για να σχεδιάζουν εργασίες αντί να βασίζονται σε προκαθορισμένες αλυσίδες. Όταν φτάνει ένα αίτημα χρήστη, ο πράκτορας αποφασίζει, βάσει του ερωτήματος, ποιες εργασίες θα καλέσει και κατασκευάζει δυναμικά μια αλυσίδα. Για παράδειγμα, μπορούμε να τον διαμορφώσουμε με την εντολή «ενημέρωσε τους πελάτες όταν αλλάξει το ετήσιο συνολικό επιτόκιο (APR) του δανείου λόγω τροποποίησης κυβερνητικού κανονισμού». Το πλαίσιο του πράκτορα καλεί ένα LLM για να αποφασίσει τα βήματα ή τις αλυσίδες που θα δημιουργηθούν. Εδώ θα κληθεί μια εφαρμογή που συλλέγει δεδομένα από ρυθμιστικές ιστοσελίδες και εξάγει την τελευταία τιμή APR. Στη συνέχεια, μια κλήση LLM αναζητά στη βάση δεδομένων τις διευθύνσεις email των επηρεαζόμενων πελατών και τελικά δημιουργείται ένα email για την ενημέρωση όλων.

Τελικές σκέψεις:

Τα LLM είναι μια τεχνολογία που εξελίσσεται γρήγορα, με καλύτερα μοντέλα και εφαρμογές να κυκλοφορούν κάθε εβδομάδα. Η πορεία από τα LLM στους πράκτορες αποτελεί μια κλίμακα νοημοσύνης: όσο ανεβαίνουμε, κατασκευάζουμε σύνθετες αυτόνομες εφαρμογές. Καλύτερα μοντέλα θα σημαίνουν αποτελεσματικότερους πράκτορες, στους οποίους θα βασίζονται οι εφαρμογές της επόμενης γενιάς. Ο χρόνος θα δείξει πόσο προηγμένες θα είναι αυτές οι εφαρμογές και ποια πρότυπα θα τις υποστηρίζουν.

Ο Dattaraj Rao, επικεφαλής επιστήμονας δεδομένων στην Persistent Systems, είναι ο συγγραφέας του βιβλίου “Keras to Kubernetes: The Journey of a Machine Learning Model to Production.” Στο Persistent Systems, ο Dattaraj ηγείται του εργαστηρίου έρευνας τεχνητής νοημοσύνης που εξερευνά αλγορίθμους αιχμής σε υπολογιστική όραση, κατανόηση φυσικής γλώσσας, πιθανοτικό προγραμματισμό, ενισχυτική μάθηση, εξηγήσιμη τεχνητή νοημοσύνη, κ.λπ. και αποδεικνύει την εφαρμοσιμότητά τους στους τομείς Υγείας, Τραπεζών και Βιομηχανίας. Ο Dattaraj έχει 11 διπλώματα ευρεσιτεχνίας σε μηχανική μάθηση και υπολογιστική όραση.