Ηγέτες σκέψης
Ευκαιρίες και προκλήσεις για πράκτορες LLM στην παραγωγική AI

Βασικά σημείαΟι πράκτορες χρησιμοποιούν Μεγάλα Γλωσσικά Μοντέλα για να σχεδιάζουν και να εκτελούν…
Δείτε περισσότερα
- Οι πράκτορες χρησιμοποιούν Μεγάλα Γλωσσικά Μοντέλα για να σχεδιάζουν και να εκτελούν αυτόνομα ενέργειες μέσω εργαλείων, προχωρώντας πέρα από απλές ερωτήσεις και απαντήσεις σε σύνθετη επίλυση προβλημάτων.
- Το μοτίβο πράκτορα ReAct επιδεικνύει μεθοδική συλλογιστική διασπώντας τα προβλήματα σε αναζητήσιμα βήματα, μιμούμενο τις ανθρώπινες διαδικασίες σκέψης.
- Τα ευθύγραμμα συστήματα υπεύθυνης Τεχνητής Νοημοσύνης είναι κρίσιμα καθώς οι ενέργειες των πρακτόρων μπορούν να προκαλέσουν πραγματική ζημιά μέσω παραισθήσεων ή σφαλμάτων.
Βλέπουμε μια εξέλιξη εφαρμογών Παραγωγικής AI που τροφοδοτούνται από μεγάλα γλωσσικά μοντέλα (LLM) από προτροπές σε παραγωγή ενισχυμένη με ανάκτηση πληροφοριών (RAG) σε πράκτορες. Οι πράκτορες συζητούνται έντονα σε βιομηχανικούς και ερευνητικούς κύκλους, κυρίως για τη δύναμη που παρέχει αυτή η τεχνολογία για τη μεταμόρφωση εφαρμογών Επιχειρήσεων και την παροχή ανώτερων εμπειριών στους πελάτες. Υπάρχουν κοινά μοτίβα για την κατασκευή πρακτόρων που επιτρέπουν τα πρώτα βήματα προς την τεχνητή γενική νοημοσύνη (AGI).
Στο προηγούμενο μου άρθρο, είδαμε μια σκάλα νοημοσύνης μοτίβων για την κατασκευή εφαρμογών που τροφοδοτούνται από LLM. Ξεκινώντας με προτροπές που καταγράφουν το πεδίο προβλήματος και χρησιμοποιούν την εσωτερική μνήμη του LLM για την παραγωγή εξόδου. Με RAG, ενισχύουμε την προτροπή με εξωτερικές γνώσεις που αναζητούνται από μια διανυσματική βάση δεδομένων για τον έλεγχο των εξόδων. Στη συνέχεια, συνδέοντας κλήσεις LLM σε αλυσίδα, μπορούμε να κατασκευάσουμε ροές εργασίας για την υλοποίηση σύνθετων εφαρμογών. Οι πράκτορες το πάνε στο επόμενο επίπεδο, αυτο-καθορίζοντας πώς αυτές οι αλυσίδες LLM θα σχηματιστούν. Ας δούμε λεπτομερώς.

Πράκτορες – Κάτω από το καπό
Ένα βασικό μοτίβο με τους πράκτορες είναι ότι χρησιμοποιούν τη δύναμη κατανόησης της γλώσσας του LLM για να δημιουργήσουν ένα σχέδιο για το πώς να λύσουν ένα δεδομένο πρόβλημα. Το LLM κατανοεί το πρόβλημα και μας δίνει μια σειρά βημάτων για να λύσουμε το πρόβλημα. Ωστόσο, δεν σταματά εκεί. Οι πράκτορες δεν είναι ένα καθαρό σύστημα υποστήριξης που θα σας παρέχει συστάσεις για την επίλυση του προβλήματος και στη συνέχεια θα σας παραδώσει τη σκυτάλη για να εκτελέσετε τα προτεινόμενα βήματα. Οι πράκτορες είναι εξοπλισμένοι με εργαλεία για να προχωρήσουν και να αναλάβουν δράση. Τρομακτικό, σωστά;
Αν ρωτήσουμε έναν πράκτορα μια βασική ερώτηση όπως αυτή:
Άνθρωπος: Ποια εταιρεία ξεκίνησε ο εφευρέτης του τηλεφώνου;
Ακολουθεί ένα παράδειγμα βημάτων σκέψης που μπορεί να ακολουθήσει ένας πράκτορας.
Πράκτορας (ΣΚΕΨΗ):
- Σκέψη: Χρειάζομαι να αναζητήσω τον εφευρέτη του τηλεφώνου.
- Δράση: Αναζήτηση [εφευρέτης του τηλεφώνου]
- Παρατήρηση: Αλεξάντερ Γκράχαμ Μπελ
- Σκέψη: Χρειάζομαι να αναζητήσω μια εταιρεία που ιδρύθηκε από τον Αλεξάντερ Γκράχαμ Μπελ
- Δράση: Αναζήτηση [εταιρεία που ιδρύθηκε από τον Αλεξάντερ Γκράχαμ Μπελ]
- Παρατήρηση: Ο Αλεξάντερ Γκράχαμ Μπελ συνίδρυσε την Αμερικανική Τηλεφωνική και Τηλεγραφική Εταιρεία (AT&T) το 1885
- Σκέψη: Έχω βρει την απάντηση. Θα επιστρέψω.
Πράκτορας (ΑΠΑΝΤΗΣΗ): Ο Αλεξάντερ Γκράχαμ Μπελ συνίδρυσε την AT&T (T ) το 1885
Μπορείτε να δείτε ότι ο πράκτορας ακολουθεί ένα μεθοδικό τρόπο για τη διάσπαση του προβλήματος σε υποπροβλήματα που μπορούν να λυθούν με συγκεκριμένες δράσεις. Οι δράσεις εδώ συνιστώνται από το LLM και μπορούμε να τις χαρτογραφήσουμε σε συγκεκριμένα εργαλεία για την υλοποίηση αυτών των δράσεων. Θα μπορούσαμε να ενεργοποιήσουμε ένα εργαλείο αναζήτησης για τον πράκτορα, ώστε όταν συνειδητοποιήσει ότι το LLM έχει προτείνει αναζήτηση ως δράση, θα καλέσει αυτό το εργαλείο με τις παραμέτρους που παρέχονται από το LLM. Η αναζήτηση εδώ είναι στο διαδίκτυο, αλλά μπορεί επίσης να ανακατευθυνθεί για αναζήτηση σε μια εσωτερική βάση γνώσεων, όπως μια διανυσματική βάση δεδομένων. Το σύστημα τώρα γίνεται αυτοδύναμο και μπορεί να καταλάβει πώς να λύσει σύνθετα προβλήματα ακολουθώντας μια σειρά βημάτων. Πλαίσια όπως το LangChain και το LLaMAIndex σας παρέχουν έναν εύκολο τρόπο για την κατασκευή αυτών των πρακτόρων και τη σύνδεσή τους με εργαλεία και API. Η Amazon (AMZN ) πρόσφατα κυκλοφόρησε το πλαίσιο Bedrock Agents, το οποίο παρέχει μια οπτική διεπαφή για τον σχεδιασμό πρακτόρων.
Κάτω από το καπό, οι πράκτορες ακολουθούν ένα συγκεκριμένο στυλ για την αποστολή προτροπών στο LLM, το οποίο τους κάνει να γεννήσουν ένα σχέδιο δράσης. Το παραπάνω μοτίβο Σκέψης-Δράσης-Παρατήρησης είναι δημοφιλές σε ένα είδος πράκτορα που ονομάζεται ReAct (Συλλογισμός και Δράση). Άλλα είδη πρακτόρων περιλαμβάνουν MRKL και Plan & Execute, τα οποία διαφέρουν κυρίως στο στυλ προτροπής τους.
Για πιο σύνθετους πράκτορες, οι δράσεις μπορεί να συνδεθούν με εργαλεία που προκαλούν αλλαγές σε συστήματα πηγής. Για παράδειγμα, θα μπορούσαμε να συνδέσουμε τον πράκτορα με ένα εργαλείο που ελέγχει το υπόλοιπο αδειών και υποβάλλει αίτηση αδείας σε ένα σύστημα ERP για έναν υπαλλήλο. Τώρα θα μπορούσαμε να κατασκευάσουμε ένα ωραίο chatbot που θα αλληλεπιδρά με τους χρήστες και μέσω μιας εντολής chat θα υποβάλλει αίτηση αδείας στο σύστημα. Δεν χρειάζονται πλέον σύνθετες οθόνες για την αίτηση αδειών, μια απλή ενοποιημένη διεπαφή chat. Ακούγεται συναρπαστικό, σωστά;
Προφυλάξεις και ανάγκη για Υπεύθυνη AI
Τι γίνεται αν έχουμε ένα εργαλείο που επικαλείται συναλλαγές μετοχών χρησιμοποιώντας ένα προ-εξουσιοδοτημένο API. Κατασκευάζουμε μια εφαρμογή όπου ο πράκτορας μελετά τις αλλαγές μετοχών (χρησιμοποιώντας εργαλεία) και λαμβάνει αποφάσεις για αγορά και πώληση μετοχών. Τι γίνεται αν ο πράκτορας πουλήσει τη λάθος μετοχή επειδή παρήγαγε μια παραίσθηση και πήρε λανθασμένη απόφαση; επειδή τα LLM είναι τεράστια μοντέλα, είναι δύσκολο να καταλάβουμε γιατί λαμβάνουν ορισμένες αποφάσεις, επομένως οι παραισθήσεις είναι συχνές όταν απουσιάζουν κατάλληλες δικλίδες ασφαλείας.
Παρότι οι πράκτορες είναι συναρπαστικοί, πιθανότατα έχετε ήδη αντιληφθεί πόσο επικίνδυνοι μπορεί να γίνουν. Αν παράγουν παραισθήσεις και εκτελέσουν μια λανθασμένη ενέργεια, μπορεί να προκαλέσουν τεράστιες οικονομικές ζημιές ή σοβαρά προβλήματα σε εταιρικά συστήματα. Επομένως, η Υπεύθυνη AI γίνεται εξαιρετικά σημαντική στην εποχή των εφαρμογών LLM. Οι αρχές της Υπεύθυνης AI γύρω από την αναπαραγωγιμότητα, τη διαφάνεια και τη λογοδοσία, προσπαθούν να τοποθετήσουν φραγμούς στις αποφάσεις που λαμβάνονται από τους πράκτορες και να προτείνουν ανάλυση κινδύνου για να αποφασίσουν ποίες δράσεις χρειάζονται ανθρώπινη επέμβαση. Όσο πιο σύνθετοι πράκτορες σχεδιάζονται, χρειάζονται αυστηρότερο έλεγχο, περισσότερη διαφάνεια και λογοδοσία για να βεβαιωθούμε ότι γνωρίζουμε τι κάνουν.
Καταληκτικές σκέψεις
Η ικανότητα των πρακτόρων να δημιουργούν μια ακολουθία λογικών βημάτων με δράσεις τους φέρνει πολύ κοντά στη λογική του ανθρώπου. Εξοπλίζοντάς τους με πιο ισχυρά εργαλεία μπορεί να τους δώσει υπερδυνάμεις. Μοτίβα όπως το ReAct προσπαθούν να μιμηθούν τον τρόπο με τον οποίο οι άνθρωποι λύνουν το πρόβλημα και θα δούμε καλύτερα μοτίβα πρακτόρων που θα είναι σχετικά με συγκεκριμένα πλαίσια και τομείς (τραπεζικό, ασφάλιση, υγεία, βιομηχανία, κ.λπ.). Το μέλλον είναι εδώ και η τεχνολογία πίσω από τους πράκτορες είναι έτοιμη για να τη χρησιμοποιήσουμε. Ταυτόχρονα, πρέπει να κρατάμε στενή προσοχή στις δικλίδες ασφαλείας της Υπεύθυνης AI για να βεβαιωθούμε ότι δεν κατασκευάζουμε Skynet!












