Αποκωδικοποίηση Ευκαιριών και Προκλήσεων για Πράκτορες σε Γεννητικές ΙΚ

Βλέπουμε μια εξέλιξη εφαρμογών Γεννητικής ΙΚ που τροφοδοτούνται από μεγάλες γλωσσικές μοντέλα (LLM) από προτροπές σε αναζήτηση με ενισχυμένη γεννήτρια (RAG) σε πράκτορες. Οι πράκτορες συζητούνται έντονα σε βιομηχανικά και ερευνητικά κύκλους, κυρίως για τη δύναμη που παρέχει αυτή η τεχνολογία για τη μεταμόρφωση εφαρμογών Επιχειρήσεων και τη παροχή υπεροχή εμπειριών πελατών. Υπάρχουν κοινά μοτίβα για την κατασκευή πρακτόρων που επιτρέπουν τα πρώτα βήματα προς την τεχνητή γενική νοημοσύνη (AGI).

Στο προηγούμενο μου άρθρο, είδαμε μια σκάλα νοημοσύνης μοτίβων για την κατασκευή εφαρμογών που τροφοδοτούνται από LLM. Ξεκινώντας με προτροπές που καταγράφουν το πεδίο προβλήματος και χρησιμοποιούν την εσωτερική μνήμη του LLM για τη γεννήτρια εξόδου. Με RAG, ενισχύουμε την προτροπή με εξωτερικές γνώσεις που αναζητούνται από μια διανυσματική βάση δεδομένων για τον έλεγχο των εξόδων. Επόμενο, με την αλυσίδα κλήσεων LLM, μπορούμε να κατασκευάσουμε ροές εργασίας για την υλοποίηση σύνθετων εφαρμογών. Οι πράκτορες το πάνε στο επόμενο επίπεδο, αυτο-καθορίζοντας πώς αυτές οι αλυσίδες LLM θα σχηματιστούν. Ας δούμε λεπτομερώς.

Πράκτορες – Κάτω από το καπό

Ένα κλειδί μοτίβο με τους πράκτορες είναι ότι χρησιμοποιούν τη δύναμη κατανόησης της γλώσσας του LLM για να δημιουργήσουν ένα σχέδιο για το πώς να λύσουν ένα δεδομένο πρόβλημα. Το LLM κατανοεί το πρόβλημα και μας δίνει μια σειρά βημάτων για να λύσουμε το πρόβλημα. Ωστόσο, δεν σταματά εκεί. Οι πράκτορες δεν είναι ένα καθαρό σύστημα υποστήριξης που θα σας παρέχει συστάσεις για την επίλυση του προβλήματος και στη συνέχεια θα σας περάσει το μπαστόνι για να λάβετε τα συστάσεις βήματα. Οι πράκτορες είναι εξοπλισμένοι με εργαλεία για να προχωρήσουν και να λάβουν δράση. Φοβερό, σωστά;

Αν ρωτήσουμε έναν πράκτορα μια βασική ερώτηση όπως αυτή:

Άνθρωπος: Ποια εταιρεία ξεκίνησε ο εφευρέτης του τηλεφώνου;

Ακολουθεί ένα δείγμα σκέψης βημάτων που ένας πράκτορας μπορεί να λάβει.

Πράκτορας (ΣΚΕΠΤΟΜΑΙ):

• Σκέψη: Χρειάζομαι να αναζητήσω τον εφευρέτη του τηλεφώνου.
• Δράση: Αναζήτηση [εφευρέτης του τηλεφώνου]
• Παρατήρηση: Αλεξάντερ Γκράχαμ Μπελ
• Σκέψη: Χρειάζομαι να αναζητήσω μια εταιρεία που ιδρύθηκε από τον Αλεξάντερ Γκράχαμ Μπελ
• Δράση: Αναζήτηση [εταιρεία που ιδρύθηκε από τον Αλεξάντερ Γκράχαμ Μπελ]
• Παρατήρηση: Ο Αλεξάντερ Γκράχαμ Μπελ συνίδρυσε την Αμερικανική Τηλεφωνική και Τηλεγραφική Εταιρεία (AT&T) το 1885
• Σκέψη: Έχω βρει την απάντηση. Θα επιστρέψω.

Πράκτορας (ΑΠΑΝΤΗΣΗ): Ο Αλεξάντερ Γκράχαμ Μπελ συνίδρυσε την AT&T το 1885

Μπορείτε να δείτε ότι ο πράκτορας ακολουθεί ένα μεθοδικό τρόπο για τη διάσπαση του προβλήματος σε υποπροβλήματα που μπορούν να λυθούν με συγκεκριμένες δράσεις. Οι δράσεις εδώ συνιστώνται από το LLM και μπορούμε να τις χαρτογραφήσουμε σε συγκεκριμένα εργαλεία για την υλοποίηση αυτών των δράσεων. Θα μπορούσαμε να ενεργοποιήσουμε ένα εργαλείο αναζήτησης για τον πράκτορα, ώστε όταν συνειδητοποιήσει ότι το LLM έχει παρέχει αναζήτηση ως δράση, θα καλέσει αυτό το εργαλείο με τα παραμέτρους που παρέχονται από το LLM. Η αναζήτηση εδώ είναι στο διαδίκτυο, αλλά μπορεί επίσης να ανακατευθυνθεί για αναζήτηση σε μια εσωτερική βάση γνώσεων, όπως μια διανυσματική βάση δεδομένων. Το σύστημα τώρα γίνεται αυτοδύναμο και μπορεί να καταλάβει πώς να λύσει σύνθετα προβλήματα ακολουθώντας μια σειρά βημάτων. Πλαίσια όπως το LangChain και το LLaMAIndex σας παρέχουν einen εύκολο τρόπο για την κατασκευή αυτών των πρακτόρων και τη σύνδεσή τους με εργαλεία και API. Η Amazon πρόσφατα κυκλοφόρησε το πλαίσιο Bedrock Agents, το οποίο παρέχει μια οπτική διεπαφή για τον σχεδιασμό πρακτόρων.

Κάτω από το καπό, οι πράκτορες ακολουθούν ένα đặcικό στυλ για την αποστολή προτροπών στο LLM, το οποίο τους κάνει να γεννήσουν ένα σχέδιο δράσης. Το παραπάνω μοτίβο Σκέψης-Δράσης-Παρατήρησης είναι δημοφιλές σε ένα είδος πράκτορα που ονομάζεται ReAct (Λογική και Δράση). Άλλα είδη πρακτόρων περιλαμβάνουν MRKL και Plan & Execute, τα οποία διαφέρουν κυρίως στο στυλ προτροπής τους.

Για πιο σύνθετους πράκτορες, οι δράσεις μπορεί να συνδεθούν με εργαλεία που προκαλούν αλλαγές σε συστήματα πηγής. Για παράδειγμα, θα μπορούσαμε να συνδέσουμε τον πράκτορα με ένα εργαλείο που ελέγχει το ισορροπία αδειών και υποβάλλει αίτηση αδείας σε ένα σύστημα ERP για έναν υπαλλήλο. Τώρα θα μπορούσαμε να κατασκευάσουμε ένα ωραίο chatbot που θα αλληλεπιδρά με τους χρήστες και μέσω μιας εντολής chat θα υποβάλλει αίτηση αδείας στο σύστημα. Không υπάρχουν più σύνθετα μενού για την αίτηση αδειών, μια απλή ενοποιημένη διεπαφή chat. Ηχηρό, σωστά;

Προφυλάξεις και ανάγκη για Υπεύθυνη ΙΚ

Τι αν έχουμε ένα εργαλείο που επικαλείται συναλλαγές μετοχών χρησιμοποιώντας ένα προ-εξουσιοδοτημένο API. Κατασκευάζουμε μια εφαρμογή όπου ο πράκτορας μελετά τις αλλαγές μετοχών (χρησιμοποιώντας εργαλεία) και λαμβάνει αποφάσεις για αγορά και πώληση μετοχών. Τι αν ο πράκτορας πουλήσει την λάθος μετοχή επειδή ονειρευτήθηκε και έκανε λάθος απόφαση;既然 τα LLM είναι τεράστια μοντέλα, είναι δύσκολο να καταλάβουμε γιατί λαμβάνουν ορισμένες αποφάσεις, επομένως οι ονειρευμένες είναι κοινές σε απουσία σωστών φραγμών.

Ενώ οι πράκτορες είναι όλα φανταστικά, μπορείτε να έχετε καταλάβει πώς επικίνδυνοι μπορούν να είναι. Αν ονειρευτούν και λάβουν λάθος δράση που μπορεί να προκαλέσει τεράστια οικονομικά ζημιά ή σημαντικά προβλήματα σε συστήματα Επιχειρήσεων. Επομένως, η Υπεύθυνη ΙΚ γίνεται εξαιρετικά σημαντική στην εποχή των εφαρμογών LLM. Οι αρχές της Υπεύθυνης ΙΚ γύρω από την αναπαραγωγή, τη διαφάνεια και την ευθύνη, προσπαθούν να τοποθετήσουν φραγμούς στις αποφάσεις που λαμβάνονται από τους πράκτορες και να προτείνουν ανάλυση κινδύνου για να αποφασίσουν ποίες δράσεις χρειάζονται ανθρώπινη επέμβαση. Όσο πιο σύνθετοι πράκτορες σχεδιάζονται, χρειάζονται περισσότερη σκέψη, διαφάνεια και ευθύνη για να βεβαιωθούμε ότι γνωρίζουμε τι κάνουν.

Κλείσιμο σκέψεων

Η ικανότητα των πρακτόρων να γεννήσουν μια διαδρομή λογικών βημάτων με δράσεις τους φέρνει πολύ κοντά στη λογική του ανθρώπου. Εξοπλίζοντάς τους με πιο ισχυρά εργαλεία μπορεί να τους δώσει υπερδυνάμεις. Μοτίβα όπως το ReAct προσπαθούν να μιμηθούν τον τρόπο με τον οποίο οι άνθρωποι λύνουν το πρόβλημα και θα δούμε καλύτερα μοτίβα πρακτόρων που θα είναι σχετικά με συγκεκριμένα контекστά και τομείς (τραπεζικό, ασφάλιση, υγεία, βιομηχανία, κ.λπ.). Το μέλλον είναι εδώ και η τεχνολογία πίσω από τους πράκτορες είναι έτοιμη για να τη χρησιμοποιήσουμε. Ταυτόχρονα, πρέπει να κρατάμε στενή προσοχή στα φραγμούς της Υπεύθυνης ΙΚ για να βεβαιωθούμε ότι δεν κατασκευάζουμε Skynet!