Τι είναι η κλήση εργαλείων; Πώς τα μοντέλα ΤΝ μετατρέπουν τις αποφάσεις σε ενέργειες

Η κλήση εργαλείων είναι ο μηχανισμός που επιτρέπει σε ένα μοντέλο ΤΝ να ζητήσει μια συγκεκριμένη λειτουργία ή εξωτερική δυνατότητα, χρησιμοποιώντας δομημένα ορίσματα. Μετατρέπει την απόφαση ενός μοντέλου σε ενέργεια αναγνώσιμη από μηχανές, επιτρέποντας στο λογισμικό να κάνει αναζητήσεις, υπολογισμούς, ανάκτηση εγγραφών, εκτέλεση κώδικα ή ενημέρωση ενός άλλου συστήματος, χωρίς να ζητά από το μοντέλο να μιμηθεί την ενέργεια με πεζό κείμενο.

Η κλήση εργαλείων αποτελεί θεμέλιο των σύγχρονων πρακτόρων ΤΝ. Ένα μοντέλο μπορεί να συλλογιστεί τι πρέπει να γίνει, αλλά η εφαρμογή που το περιβάλλει καθορίζει αν η ζητούμενη ενέργεια είναι έγκυρη και εξουσιοδοτημένη, αν θα εκτελεστεί και αν το αποτέλεσμά της θα επιστραφεί στο μοντέλο για την επόμενη απόφαση.

Γιατί τα μοντέλα χρειάζονται εργαλεία

Ένα γλωσσικό μοντέλο έχει σημαντικούς περιορισμούς. Η γνώση που έχει αποκτήσει μέσω εκπαίδευσης έχει χρονικό όριο, δεν μπορεί να εκτελεί αξιόπιστα κάθε υπολογισμό, δεν γνωρίζει αυτομάτως ιδιωτικά ή ζωντανά δεδομένα και δεν μπορεί να επηρεάσει συστήματα λογισμικού παράγοντας απλώς κείμενο.

Τα εργαλεία επεκτείνουν τις δυνατότητες του μοντέλου, όπως για:

• αναζήτηση τρεχουσών πληροφοριών·
• υποβολή ερωτημάτων σε βάση δεδομένων ή γνωσιακή βάση·
• εκτέλεση κώδικα ή ακριβών υπολογισμών·
• ανάγνωση και εγγραφή αρχείων·
• δημιουργία αιτημάτων υποστήριξης, συμβάντων, μηνυμάτων ή συναλλαγών·
• λειτουργία ενός προγράμματος περιήγησης ή άλλου περιβάλλοντος χρήστη.

Ένα εργαλείο δεν καθιστά το μοντέλο εγγενώς πιο ενημερωμένο. Παρέχει στην εφαρμογή έναν ελεγχόμενο τρόπο για να συγκεντρώνει τεκμήρια ή να εκτελεί μια ενέργεια.

Η ανατομία ενός ορισμού εργαλείου

Η περιγραφή του εργαλείου πρέπει να εξηγεί τα κριτήρια επιλογής τόσο για το πότε πρέπει όσο και για το πότε δεν πρέπει να χρησιμοποιείται. Η περιγραφή «Αναζήτηση εγγραφών» είναι ασαφής, επειδή το μοντέλο δεν μπορεί να καταλάβει αν αφορά πελάτες, έγγραφα ή τον δημόσιο ιστό. Αντίθετα, η περιγραφή «Αναζήτηση εγκεκριμένων λογαριασμών πελατών με βάση την επωνυμία ή το αναγνωριστικό λογαριασμού· να μη χρησιμοποιείται για γενική έρευνα στον ιστό» δίνει στο μοντέλο ένα σαφές όριο.

Οι εφαρμογές περιγράφουν κάθε διαθέσιμο εργαλείο με δομημένο τρόπο. Ένας ορισμός συνήθως περιλαμβάνει:

• Όνομα: ένα σταθερό αναγνωριστικό, όπως get_weather ή create_support_ticket.
• Περιγραφή: ακριβή επεξήγηση του τι κάνει το εργαλείο και πότε πρέπει να χρησιμοποιείται.
• Σχήμα εισόδου: τα υποχρεωτικά και προαιρετικά ορίσματα, τους τύπους δεδομένων τους και τις επιτρεπόμενες τιμές.
• Σύμβαση εξόδου: τεκμηρίωση για το αποτέλεσμα ή τις καταστάσεις σφάλματος που θα επιστρέψει η εφαρμογή.

Πολλές διεπαφές εργαλείων χρησιμοποιούν το Σχήμα JSON ή μια συναφή τυποποιημένη αναπαράσταση. Ένα περιορισμένο και σαφές σχήμα μειώνει την πιθανότητα το μοντέλο να επινοήσει παραμέτρους ή να συνδυάσει ασύμβατες επιλογές.

Πώς λειτουργεί ο κύκλος κλήσης εργαλείων

Ας υποθέσουμε ότι ένας χρήστης ρωτά: «Έχω κάποια συνάντηση στο Μάντσεστερ την επόμενη Τρίτη και θα βρέξει;»

1. Η εφαρμογή παρέχει το πλαίσιο. Στέλνει στο μοντέλο το αίτημα του χρήστη, τις οδηγίες συστήματος και τους ορισμούς των επιλεγμένων εργαλείων.
2. Το μοντέλο επιλέγει ένα εργαλείο. Μπορεί να ζητήσει αναζήτηση στο ημερολόγιο με εύρος ημερομηνιών και φίλτρο τοποθεσίας.
3. Η εφαρμογή επικυρώνει το αίτημα. Ελέγχει το όνομα του εργαλείου, τα απαιτούμενα ορίσματα, το εύρος των δικαιωμάτων και τους επιχειρηματικούς κανόνες.
4. Το περιβάλλον εκτέλεσης εκτελεί το εργαλείο. Καλεί το σύστημα ημερολογίου και επιστρέφει τα αντίστοιχα συμβάντα ή ένα σαφές μήνυμα σφάλματος.
5. Το μοντέλο εξετάζει το αποτέλεσμα. Διαπιστώνει ότι υπάρχει συνάντηση στο Μάντσεστερ και ζητά από ένα εργαλείο καιρού πληροφορίες για την πόλη και την ημερομηνία.
6. Η εφαρμογή επαναλαμβάνει τους ελέγχους και την εκτέλεση.
7. Το μοντέλο διατυπώνει την τελική απάντηση. Συνδυάζει τα επαληθευμένα αποτελέσματα και παραθέτει τα σχετικά στοιχεία.

Το μοντέλο προτείνει κλήσεις· η εφαρμογή τις εκτελεί. Αυτός ο διαχωρισμός είναι ένα από τα σημαντικότερα στοιχεία της χρήσης εργαλείων. Ένα ασφαλές περιβάλλον εκτέλεσης δεν αντιμετωπίζει ποτέ την έξοδο του μοντέλου ως κώδικα που έχει αυτομάτως εξουσιοδοτηθεί.

Η επιλογή εργαλείου μπορεί να γίνεται αυτόματα ή να υπόκειται σε περιορισμούς

Μια εφαρμογή μπορεί να επιτρέπει στο μοντέλο να αποφασίζει αν χρειάζεται κάποιο εργαλείο, να επιβάλλει τη χρήση συγκεκριμένου εργαλείου, να περιορίζει τις επιλογές σε ένα υποσύνολο ή να απαγορεύει τη χρήση εργαλείων για μια απάντηση. Αυτές οι επιλογές είναι χρήσιμες για διαφορετικές ροές εργασίας.

Η αυτόματη επιλογή υποστηρίζει ευέλικτους βοηθούς. Η υποχρεωτική επιλογή είναι χρήσιμη σε εργασίες όπως η δομημένη εξαγωγή δεδομένων, όπου κάθε αίτημα πρέπει να περνά από μια συγκεκριμένη συνάρτηση. Ο περιορισμός των διαθέσιμων επιλογών μειώνει τη σύγχυση και την έκθεση σε κινδύνους: ένα βήμα ανάγνωσης τιμολογίου δεν χρειάζεται πρόσβαση σε εργαλείο αποστολής email.

Κλήση εργαλείων έναντι δομημένης εξόδου

Και οι δύο λειτουργίες ζητούν από το μοντέλο να παράγει δεδομένα που ακολουθούν ένα σχήμα, αλλά εξυπηρετούν διαφορετικούς σκοπούς.

Η δομημένη έξοδος μορφοποιεί την απάντηση του μοντέλου για μια εφαρμογή —για παράδειγμα, εξάγει την ονομασία προϊόντος, την ποσότητα και την ταξινόμηση κινδύνου. Η κλήση εργαλείων ζητά από την εφαρμογή να εκτελέσει μια ενέργεια και να επιστρέψει μια παρατήρηση.

Ένα δομημένο αποτέλεσμα μπορεί να ολοκληρώσει την αλληλεπίδραση. Μια κλήση εργαλείου συνήθως συνεχίζει έναν κύκλο: αίτημα, εκτέλεση, παρατήρηση και νέα απόφαση.

Κλήση εργαλείων έναντι API

Ένα API είναι μια διεπαφή που χρησιμοποιεί το λογισμικό για να επικοινωνεί με ένα άλλο σύστημα. Η κλήση εργαλείων είναι το επίπεδο λήψης αποφάσεων που απευθύνεται στο μοντέλο και επιλέγει μια λειτουργία, παρέχοντας παράλληλα τα ορίσματα. Η υλοποίηση ενός εργαλείου συχνά περιβάλλει ένα API, αλλά μπορεί επίσης να περιβάλλει ένα ερώτημα βάσης δεδομένων, μια τοπική συνάρτηση, ένα πρόγραμμα γραμμής εντολών ή μια ενέργεια στη διεπαφή χρήστη.

Τα καλύτερα εργαλεία σπάνια παρέχουν άμεση πρόσβαση σε ένα ολόκληρο, σύνθετο API. Προσφέρουν λειτουργίες προσανατολισμένες σε συγκεκριμένες εργασίες, με σαφή σημασιολογία, περιορισμένο πεδίο εφαρμογής και αποτελέσματα που μπορεί να ερμηνεύσει ένα μοντέλο. Η εντολή «Επιστροφή χρημάτων για παραγγελία», με επικυρωμένα δεδομένα πολιτικής, είναι ασφαλέστερη και ευκολότερη στη χρήση από ένα γενικό εργαλείο αιτημάτων που μπορεί να καλεί οποιοδήποτε τελικό σημείο.

Τι κάνει ένα εργαλείο AI καλό;

Σαφής σκοπός. Το όνομα και η περιγραφή πρέπει να ξεχωρίζουν το εργαλείο από παρόμοιες δυνατότητες. Τα εργαλεία με αλληλεπικαλυπτόμενες λειτουργίες οδηγούν σε ασυνεπείς επιλογές.

Λιτές, τυποποιημένες είσοδοι. Τα υποχρεωτικά πεδία πρέπει να δηλώνονται ρητά, ενώ οι περιορισμένες τιμές πρέπει, όπου είναι δυνατόν, να ορίζονται μέσω απαριθμήσεων. Μην αναγκάζετε το μοντέλο να δημιουργεί μεγάλα και ευπαθή σε σφάλματα σύνολα δεδομένων.

Χρήσιμες έξοδοι. Επιστρέφετε αρκετές πληροφορίες ώστε να υποστηρίζεται η επόμενη απόφαση, συμπεριλαμβανομένων σταθερών αναγνωριστικών και μιας σαφούς ένδειξης επιτυχίας ή αποτυχίας. Μην αποκρύπτετε μια μερική αποτυχία μέσα σε ένα καθησυχαστικό μήνυμα.

Ιδιοδυναμία όπου είναι εφικτό. Η επανάληψη μιας λειτουργίας ανάγνωσης είναι συνήθως ασφαλής· η επανάληψη μιας πληρωμής ή αποστολής μηνύματος μπορεί να προκαλέσει διπλή εκτέλεση της ενέργειας. Τα εργαλεία με σημαντικό αντίκτυπο πρέπει να χρησιμοποιούν κλειδιά ιδιοδυναμίας ή κάποια άλλη δικλείδα ασφαλείας.

Περιορισμένα δικαιώματα. Ένα εργαλείο αναζήτησης μόνο για ανάγνωση δεν πρέπει να κληρονομεί δικαιώματα εγγραφής. Τα διαπιστευτήρια και η εξουσιοδότηση ανήκουν στο περιβάλλον εκτέλεσης, όχι στην προτροπή.

Συνήθη σφάλματα κατά την κλήση εργαλείων

Οι επαναλήψεις χρειάζονται τη δική τους πολιτική. Η επανάληψη μιας αναζήτησης μόνο για ανάγνωση μπορεί να είναι ακίνδυνη· η επανάληψη μιας πληρωμής ή μιας κλήσης εργαλείου που στέλνει μήνυμα μπορεί να προκαλέσει διπλή εκτέλεση μιας μη αναστρέψιμης ενέργειας. Τα κλειδιά ιδιοδυναμίας, τα αναγνωριστικά συναλλαγών και οι σαφείς καταστάσεις επιβεβαίωσης επιτρέπουν στο περιβάλλον εκτέλεσης να διαπιστώσει αν η πρώτη προσπάθεια απέτυχε ή απλώς δεν επέστρεψε απάντηση.

• Λάθος εργαλείο: το μοντέλο επιλέγει μια δυνατότητα με παρόμοια περιγραφή.
• Μη έγκυρα ορίσματα: λείπει ένα απαιτούμενο πεδίο ή το πεδίο έχει λανθασμένη μορφή ή είναι σημασιολογικά αδύνατο.
• Επινοημένο αποτέλεσμα: το μοντέλο απαντά σαν να πέτυχε η χρήση του εργαλείου, χωρίς να περιμένει να λάβει παρατηρήσιμο αποτέλεσμα.
• Ασαφή σφάλματα: το εργαλείο επιστρέφει κενό αποτέλεσμα και το μοντέλο το εκλαμβάνει ως «δεν βρέθηκαν εγγραφές».
• Μη ασφαλής αλυσιδωτή κλήση: μη έμπιστο περιεχόμενο από ένα εργαλείο παρασύρει το μοντέλο να καλέσει ακατάλληλα ένα άλλο εργαλείο.
• Διπλές παρενέργειες: μια λήξη χρονικού ορίου ενεργοποιεί επανάληψη, παρότι η πρώτη ενέργεια έχει ήδη πετύχει.
• Υπερφόρτωση εργαλείων: οι υπερβολικά πολλές άσχετες περιγραφές μειώνουν την ακρίβεια επιλογής και καταναλώνουν χώρο στο πλαίσιο συμφραζομένων.

Δικαιώματα και ανθρώπινη έγκριση

Τα εργαλεία μπορούν να ομαδοποιηθούν ανάλογα με τον κίνδυνο. Η ανάκτηση δεδομένων μόνο για ανάγνωση μπορεί να εκτελείται αυτόματα, εντός περιορισμένου πεδίου δεδομένων. Τα αναστρέψιμα προσχέδια ή οι προτεινόμενες αλλαγές μπορούν να εκτελούνται με καταγραφή. Για ενέργειες που αφορούν εξωτερικά συστήματα, οικονομικές συναλλαγές, καταστροφή δεδομένων ή έχουν νομική σημασία θα πρέπει γενικά να απαιτείται έγκριση.

Η έγκριση πρέπει να βασίζεται σε επαρκή ενημέρωση. Ένα περιβάλλον επιβεβαίωσης πρέπει να εμφανίζει την ακριβή ενέργεια, τον στόχο, τις σημαντικές παραμέτρους και τις πιθανές συνέπειες. Η ερώτηση «Να επιτραπεί η χρήση του εργαλείου;» δεν αρκεί όταν το εργαλείο πρόκειται να στείλει email σε 5,000 παραλήπτες ή να διαγράψει έναν πόρο παραγωγής.

Η επισκόπηση της OpenAI για εργαλεία δημιουργίας πρακτόρων τονίζει ότι η χρήση εργαλείων πρέπει να εντάσσεται σε μια πλατφόρμα πρακτόρων με δυνατότητες ιχνηλάτησης και παρατηρησιμότητας. Οι συνοδευτικοί μηχανισμοί ελέγχου δεν είναι προαιρετικά πρόσθετα· είναι αυτοί που καθιστούν εκτελέσιμες τις ενέργειες που επιλέγει το μοντέλο.

Πώς αξιολογείται η χρήση εργαλείων

Αξιολογήστε ξεχωριστά την επιλογή, τα ορίσματα, την εκτέλεση, την ερμηνεία και την τελική επιτυχία της εργασίας. Ένα μοντέλο μπορεί να επιλέξει το σωστό εργαλείο, αλλά να συμπληρώσει λάθος πεδίο· ή μπορεί να λάβει σωστό αποτέλεσμα και να καταλήξει σε λανθασμένο συμπέρασμα. Η καταγραφή ολόκληρης της ιχνηλάτησης καθιστά ορατές αυτές τις κατηγορίες αστοχιών και εμποδίζει μια καλή τελική απάντηση να αποκρύψει μη ασφαλή ή σπάταλη συμπεριφορά.

Μια τελική απάντηση μπορεί να φαίνεται σωστή ακόμη κι όταν ένας πράκτορας ακολούθησε μια αναποτελεσματική ή μη ασφαλή διαδρομή. Επομένως, η αξιολόγηση πρέπει να μετρά τόσο τα αποτελέσματα όσο και τις διαδρομές που οδήγησαν σε αυτά.

Στους χρήσιμους δείκτες περιλαμβάνονται η ακρίβεια επιλογής εργαλείων, η εγκυρότητα των ορισμάτων, η ολοκλήρωση της εργασίας, ο αριθμός κλήσεων, η καθυστέρηση, το κόστος, η ανάκαμψη από σφάλματα, η περιττή πρόσβαση σε ευαίσθητα δεδομένα, οι διπλές παρενέργειες και η συμμόρφωση με τους κανόνες έγκρισης. Εκτελέστε επαναλαμβανόμενες δοκιμές, επειδή η συμπεριφορά του μοντέλου μπορεί να διαφέρει.

Πώς να διαβάζετε τα διαγράμματα κλήσης εργαλείων

Διαβάστε τα διαγράμματα κλήσης εργαλείων ακολουθώντας τη διαδρομή από την αριθμημένη είσοδο προς το παρατηρήσιμο αποτέλεσμα. Η σύγκριση απομονώνει το όριο που διακρίνει την κλήση εργαλείων από την πλησιέστερη συντόμευσή της, ενώ η διαδρομή ελέγχου δείχνει σε ποιο σημείο πρέπει να ελεγχθούν η εξουσιοδότηση ή η αβεβαιότητα πριν προκύψει συνέπεια στον πραγματικό κόσμο. Οι ετικέτες παραμένουν συνηθισμένο, προσαρμοζόμενο κείμενο της σελίδας, ώστε να μπορούν να μεταφραστούν, να αναδιπλωθούν και να αναδιαταχθούν σε μια οθόνη κινητού.

Για το «Τι είναι η κλήση εργαλείων; Πώς τα μοντέλα ΤΝ μετατρέπουν τις αποφάσεις σε ενέργειες», το οπτικό υλικό λειτουργεί ως χάρτης και όχι ως εγγύηση. Μια πραγματική υλοποίηση μπορεί να συνδυάζει στάδια, να επαναλαμβάνει ένα βήμα ή να προσθέτει ένα σημείο ανθρώπινης έγκρισης. Αυτό που έχει σημασία είναι αν η ομάδα μπορεί να εντοπίσει τις ίδιες λειτουργίες στο ανεπτυγμένο σύστημα, να ορίσει υπεύθυνο για κάθε όριο και να δοκιμάσει τη μετάβαση από το ένα στο άλλο. Αν ένα στάδιο δεν μπορεί να παρατηρηθεί ή να μετρηθεί, οι αστοχίες σε αυτό θα είναι δύσκολο να διαγνωστούν.

Τι πρέπει να θυμάστε για την κλήση εργαλείων

Η κλήση εργαλείων αποτελεί τη γέφυρα ανάμεσα στην κρίση του μοντέλου και στην ενέργεια του λογισμικού. Το μοντέλο εντοπίζει μια δυνατότητα και προτείνει δομημένες εισόδους· η εφαρμογή τις επικυρώνει, εξουσιοδοτεί την ενέργεια, την εκτελεί και επιστρέφει το παρατηρήσιμο αποτέλεσμα.

Τα σωστά σχεδιασμένα εργαλεία κάνουν τα συστήματα ΤΝ πιο ενημερωμένα, ικανά και χρήσιμα. Τα κακοσχεδιασμένα εργαλεία μετατρέπουν συνηθισμένα λάθη του μοντέλου σε συνέπειες στον πραγματικό κόσμο. Η καθοριστική δουλειά στη μηχανική αφορά τα σχήματα δεδομένων, τα δικαιώματα, τον χειρισμό σφαλμάτων, την παρατηρησιμότητα και τα όρια γύρω από την εκτέλεση.