Οι πράκτορες είναι πάντα προσλήψεις πρώτης ημέρας. Ήρθε η ώρα να το σχεδιάσουμε.

Μέχρι το 2027, 74% των εταιρειών αναμένεται να χρησιμοποιούν πράκτορες σε κάποια μορφή, σύμφωνα με πρόσφατη μελέτη της Deloitte. Για χρόνια, έχουμε σχεδιάσει και δημιουργήσει λογισμικό για να βελτιώσουμε την ανθρώπινη εμπειρία πλοήγησης στις εφαρμογές, τις ιστοσελίδες, τα λειτουργικά συστήματα και τα έγγραφα μας. Τώρα, ο χρήστης δεν είναι καθόλου άνθρωπος. Αυτό έχει ευρύτερες επιπτώσεις πέρα από τη μετάβαση από πίνακες ελέγχου και τις ελεγχόμενες ροές εργασίας που σχεδιάζουμε για ανθρώπινες εργασίες. Βρισκόμαστε σε μια φάση όπου πρέπει να σχεδιάσουμε τα λειτουργικά περιβάλλοντα των πρακτόρων, ενώ επίσης σχεδιάζουμε ανθρώπινες ροές εργασίας για να καθοδηγούμε αποτελεσματικά την εμπειρία του πράκτορα μέσα σε αυτά τα περιβάλλοντα.  

Είμαστε ακόμη στα αρχικά στάδια της μάθησής μας σχετικά με το τι χρειάζονται πραγματικά οι πράκτορες από εμάς για να είναι επαναλαμβανόμενα, αξιόπιστα επιτυχημένοι. Η ένστικτη αντίληψη είναι να αντιμετωπίζουμε την ενσωμάτωση του πράκτορα αποκλειστικά ως πρόβλημα προτροπής ή διεπαφής χρήστη. Ο σχεδιασμός ενός well-governed execution environment αποτελεί νέο έδαφος για εμάς ως κουλτούρα. Ωστόσο, οι βασικές αρχές του καλού σχεδιασμού και της καλής διαχείρισης δεν έχουν αλλάξει: οφείλουμε στους πράκτορες σαφή πλαίσιο, αδιαμφισβήτητη κατεύθυνση και ρητή πρόθεση.

Context: Why Coding Came First

Το πλαίσιο είναι μάλλον η πιο σημαντική εισροή αν θέλουμε οι πράκτορες να παραδίδουν επαναλαμβανόμενα στο επίπεδο που προτιθέμεθα. Η ανάπτυξη λογισμικού διαθέτει περισσότερη καταγραφή του από σχεδόν κάθε άλλο πεδίο: αποθετήρια, σχήματα API, τις σχέσεις μεταξύ συστημάτων, τις κριτικές κώδικα και τις συζητήσεις της κοινότητας. Έτσι είναι λογικό ότι τα εργαστήρια αιχμής AI ξεκίνησαν με τον κώδικα. Είναι ένας από τους λίγους τομείς όπου ένα σημαντικό μέρος του πλαισίου είναι ήδη γραπτό. 

Αλλά όπως θα σας πει οποιοσδήποτε νέος προσληφθεί σε μια ομάδα λογισμικού, ακόμη και με όλα αυτά τα δεδομένα, οι πράκτορες θα στερούνται ακόμη της θεσμικής μνήμης που είναι ενσωματωμένη στους αγραπτούς κανόνες που κανείς δεν έχει καταγράψει. Αυτό το κενό είναι διαδεδομένο: 43% των προγραμματιστών ανησυχούν ότι τα εργαλεία AI στερούνται επαρκούς πλαισίου σχετικά με το συγκεκριμένο έργο ή τη βάση κώδικα τους. Η σιωπηρή γνώση καλύπτει τα πάντα, από τις καθημερινές συμβάσεις, όπως οι προτιμώμενες βιβλιοθήκες για συγκεκριμένες εργασίες, μέχρι τα κρίσιμα λειτουργικά φαντάσματα: μια νυχτερινή επιδιόρθωση που παραμένει για πάντα, ή μια φαινομενικά κενή στήλη βάσης δεδομένων που κρυφά υποστηρίζει μια προσαρμοσμένη αναφορά εσόδων. Αυτό το πλαίσιο ζει στο μυαλό ενός senior μηχανικού, σε πρόσφατο νήμα Slack, ή πουθενά. Σπάνια βρίσκεται στη βάση κώδικα.

Αν αυτό ισχύει στο λογισμικό, έναν από τους πιο τεκμηριωμένους τομείς, είναι εύκολο να καταλάβουμε γιατί οι πράκτορες δυσκολεύονται να αποδώσουν αποτελεσματικά από την πρώτη μέρα σε πολλές άλλες βιομηχανίες. Στην υγεία και το δίκαιο, μεγάλο μέρος της θεσμικής γνώσης που διαμορφώνει την καθημερινή εργασία μαθαίνεται και εσωτερικεύεται. Ζει στην εμπειρία των ανθρώπων αντί σε επίσημη τεκμηρίωση. Ένας νομικός πράκτορας μπορεί να μην γνωρίζει τη προτιμώμενη δομή, τόνο ή επιχειρηματολογία ενός συγκεκριμένου συνεργάτη για ένα σύντομο κείμενο, ενώ ένας πράκτορας υγείας μπορεί να μην κατανοεί τις τοπικές ροές εργασίας και πρακτικές κλιμάκωσης που χρησιμοποιεί μια πολυάσχολη κλινική για να υποστηρίξει την τριάζ που οδηγείται από κλινικούς ιατρούς. Η τεκμηρίωση από μόνη της δεν μπορεί να γεφυρώσει αυτό το κενό, επειδή η πρόκληση δεν είναι απλώς η πρόσβαση στην πληροφορία· είναι η μεταφορά του πλαισίου. Για να δώσουμε στους πράκτορες ό,τι χρειάζονται για να πετύχουν, πρέπει να τους εντάξουμε όπως θα κάναμε με έναν νέο υπάλληλο.

Direction: Why Osmosis Doesn’t Work

Η ένταξη ενός νέου συνεργάτη απαιτεί περισσότερα από το να παρέχουμε τα κατάλληλα υλικά και πρόσβαση. Όταν επενδύουμε στην επιτυχία των γύρω μας, παρέχουμε σαφή κατεύθυνση για το τι πρέπει να γίνει με τα νέα υλικά και την πρόσβαση: προσδοκίες, σαφήνεια για το τι προσπαθούμε να επιτύχουμε και ανατροφοδότηση καθ’ όλη τη διάρκεια. Φέρνω αυτήν την ίδια νοοτροπία στον σχεδιασμό για τους πράκτορες. Δίνω σαφή, συγκεκριμένη κατεύθυνση (σχετικά με την τρέχουσα εργασία). Αυτό ισχύει για κάθε συνεργάτη, ανεξάρτητα από τη διάρκεια θητείας του. Ωστόσο, σε σενάριο νέας πρόσληψης, η κατεύθυνση πρέπει να είναι πιο εκτεταμένη, επειδή δεν διαθέτουν ακόμη θεσμική μνήμη.

Σκεφτείτε έναν πράκτορα ως έναν νέο υπάλληλο που ποτέ δεν σταματά να είναι νέος. Είναι πρόθυμος και ικανός (και ειλικρινά, έχει απεριόριστη ενέργεια), αλλά δεν μπορεί να απορροφήσει και να διατηρήσει τόσους πολλούς αγραπτούς κανόνες όπως το κάνει ένας άνθρωπος με την πάροδο του χρόνου. Οι άνθρωποι μαθαίνουν μέσω όσμωσης και εμπειρίας, ενώ οι πράκτορες μαθαίνουν από την αρχιτεκτονική που είναι ρητά ενσωματωμένη στο εργασιακό τους περιβάλλον.

Με έναν νέο υπάλληλο, μπορείτε να γεφυρώσετε αυτό το κενό με την πάροδο του χρόνου μέσω ερωτήσεων, ανατροφοδότησης και νέων εννοιών που αποκτά σχετικά με τις διαδικασίες και προτιμήσεις του οργανισμού. Κυριολεκτικές συνομιλίες στο μηχάνημα καφέ ή γεύματα ομάδας. Με έναν πράκτορα, πρέπει να build that gap-closing στο ίδιο το σχεδιασμό. Αυτό μπορεί να περιλαμβάνει: 

• Παρέχοντας στον πράκτορα ένα δομημένο παράθυρο πλαισίου που διαχωρίζει μόνιμους κανόνες, ειδικά για την εργασία γεγονότα και σχετικό ιστορικό, αντί να του ρίχνετε μια στοίβα εγγράφων.
• Ορίζοντας εκ των προτέρων τις άδειες και τα όρια λήψης αποφάσεων: τι μπορεί να κάνει αυτόνομα, τι απαιτεί έγκριση και τι δεν πρέπει ποτέ να έχει πρόσβαση.
• Ενσωματώνοντας μερικά συγκεκριμένα παραδείγματα ισχυρής εξόδου απευθείας στην εμπειρία, ώστε ο πράκτορας να έχει ένα σαφές μοντέλο για το πώς πρέπει να εκτελείται η εργασία.
• Μοιράζοντας προηγούμενα αδιέξοδα που έχετε αντιμετωπίσει.

Ο σχεδιασμός ενός καλά διακυβευμένου περιβάλλοντος πράκτορα δεν αφορά το να κάνει τη δουλειά πιο εύκολη για το μοντέλο. Αφορά την προστασία της ανθρώπινης ομάδας μηχανικών από αόρατο τεχνικό χρέος. Αλλά ακόμη και ένας καλά κατευθυνόμενος πράκτορας μπορεί να ακολουθήσει τις οδηγίες τέλεια και να μην καταλάβει το νόημα. Η κατεύθυνση του λέει τι να κάνει, αλλά δεν του δείχνει πώς είναι το «καλό». Αυτό το κενό είναι εκεί που μπαίνει η πρόθεση.

Intent: Why Agents Drift to The Middle

Είναι σημαντικό να θυμόμαστε ότι οι πράκτορες είναι μηχανές αντιστοίχισης προτύπων, εκπαιδευμένες σε τεράστιες ποσότητες γνώσης και φυσικά προσηλωμένες στην παροχή του στατιστικού μέσου. Χωρίς σαφή, ρητή πρόθεση, η μέση έξοδος είναι ακριβώς αυτό που θα επιστρέψει ο πράκτορας. Ζητήστε από έναν πράκτορα να «προσθέσει ένα σημείο τελικής αυθεντικοποίησης χρήστη», και θα δημιουργήσει μια τυπική διαδρομή Express με βασική κατακερματισμένη κωδικοποίηση. Λειτουργεί, αλλά αγνοεί εντελώς την προσαρμοσμένη υπηρεσία αυθεντικοποίησης της ομάδας σας, παραλείπει την απαιτούμενη τηλεμετρία και διασπά τη τυποποιημένη μορφοποίηση σφαλμάτων. Είναι μια επαρκής λειτουργία στο χαρτί, αλλά ανάλογα με το πλαίσιο, αποτελεί ένα αρχιτεκτονικό σφάλμα στην πράξη. Η ευκολία με την οποία εισάγονται τέτοια «σφάλματα» δεν μπορεί να υπερεκτιμηθεί.

Για να το αποτρέψουμε, η κατεύθυνση πρέπει να συνδυάζεται με ενεργή επαλήθευση πρόθεσης και καταγραφή. Οι περιορισμοί δεν πρέπει μόνο να ελέγχουν αν ο κώδικας μεταγλωττίζεται, αν και αυτό είναι σημαντικό. Οι περιορισμοί πρέπει ρητά να επιβάλλουν τα προτιμησιακά πρότυπα, τους κανόνες ακραίων περιπτώσεων και το πλαίσιο του τομέα που ανεβάζουν την γενική έξοδο σε εργασία έτοιμη για παραγωγή. Η καταγραφή είναι σημαντική ως ένδειξη κατάστασης του συστήματος για εμάς τους ανθρώπους. Αυτή η ανιχνευσιμότητα είναι κρίσιμη για την εμπιστοσύνη.

Στις ανθρώπινες αλληλεπιδράσεις, υπάρχει πολύς χώρος αβεβαιότητας. Κάποιος μπορεί να μοιραστεί μαζί σας μια πρώτη έκδοση, και μαζί μπορείτε να συζητήσετε τι είναι ισχυρό και τι χρειάζεται βελτίωση. Αυτό λειτουργεί επειδή δεν περιμένουμε οι ανθρώπινοι συνεργάτες μας να είναι αυτόνομες μηχανές. Για να καταγράψουμε πραγματικά τη δύναμη και την υπόσχεση των πρακτόρων-συνεργατών (που χρειάζεται να λειτουργούν πιο αυτόνομα…), μπορούμε να σχεδιάσουμε πολλούς από αυτούς τους ελέγχους κατεύθυνσης. Η ανταλλαγή πρέπει ακόμη να συμβαίνει, αλλά δεν μπορεί να βαρύνει εξ ολοκλήρου την χειροκίνητη εργασία. Με την προπρόσθεση σαφών κριτηρίων αποδοχής και κανόνων επαλήθευσης, επιτρέπετε στον πράκτορα να εκτελεί τους δικούς του εσωτερικούς βρόχους ανάδρασης. Σχεδιασμός για πρόληψη σφαλμάτων είναι μια ακόμη αξιόπιστη αρχή UX που μπορούμε να εφαρμόσουμε σε αυτόν τον νέο κόσμο: δίνοντας στους πράκτορες τη δυνατότητα να επισημαίνουν χαμηλή εμπιστοσύνη πριν δεσμευτούν σε μια ενέργεια, αντί να προεπιλέγουν σιωπηλά μια καλύτερη εκτίμηση.

Where the Metaphor Breaks

Η προσέγγιση του νέου υπαλλήλου λειτουργεί, μέχρι να μην λειτουργεί. Με έναν ανθρώπινο υπάλληλο, η εμπειρία οδηγεί σε ικανότητα που οδηγεί σε κρίση. Παρακολουθώντας τον νέο υπάλληλο να εσωτερικεύει το «γιατί» πίσω από το πλαίσιο και την κατεύθυνση, χτίζετε εμπιστοσύνη με την πάροδο του χρόνου, και γενικά, αυτό είναι αθροιστικό. Ένας πράκτορας δεν έχει που να συγκεντρώσει και να αποθηκεύσει αυτήν την εμπειρία.

Η πρώτη εβδομάδα και η εκατοστή εβδομάδα ενός νέου υπαλλήλου φαίνονται διαφορετικές. Η πρώτη εργασία και η χιλιοστή εργασία ενός πράκτορα φαίνονται ταυτόσημες, εκτός αν σχεδιάσετε και δημιουργήσετε κάτι που να τις διαφοροποιεί. Αυτή είναι η νέα μας πρόκληση σχεδιασμού.

Agent Responsibility Hinges on Design

Αν η ευθύνη δεν μπορεί να ζει στον πράκτορα, πρέπει να ζει στη σκαλωσιά γύρω του. Αναφέρεται στα ίδια τρία ερωτήματα που θα έθετα πριν αναθέσω δουλειά σε οποιονδήποτε νέο υπάλληλο: Ποιο πλαίσιο διαθέτουν; Τι κατεύθυνση τους έδωσα; Ποια είναι η πραγματική μου πρόθεση;

Την επόμενη φορά που θα αναθέσετε μια εργασία σε έναν πράκτορα, μην ελέγχετε μόνο το αποτέλεσμα. Ελέγξτε πρώτα τις δικές σας εισροές. Του δώσατε το πλαίσιο που θα χρειάζονταν ένας νέος υπάλληλος από την πρώτη μέρα; Ήταν η κατεύθυνσή σας αρκετά συγκεκριμένη ώστε να αντέξει την κυριολεκτική ερμηνεία; Ήταν η πρόθεσή σας σαφής ώστε η «μέση απάντηση» να μην ήταν το καλύτερο που θα μπορούσε να κάνει;

Με αυτή τη σαφή καθοδήγηση στα χέρια (σε byte?), συμβαίνει κάτι ενδιαφέρον: ένας πράκτορας δεν χρειάζεται μακρά προετοιμασία για να γίνει αξιόπιστος. Το πλαίσιο, η κατεύθυνση και η επαλήθευση που ενσωματώνετε εκ των προτέρων καθορίζουν πώς λειτουργεί σε κάθε εργασία. Ένας νέος υπάλληλος κερδίζει την εμπιστοσύνη σας με την πάροδο του χρόνου· ένας πράκτορας πρέπει να την κερδίζει κάθε φορά μέσω του συστήματος που σχεδιάσατε. Η ευθύνη δεν είναι κάτι που αναπτύσσει, είναι ενσωματωμένη από την αρχή. Το ερώτημα δεν είναι πότε ο πράκτοράς σας θα είναι έτοιμος για περισσότερη ευθύνη. Είναι αν το σχεδιάσατε ώστε να κερδίζει αυτήν την ευθύνη σε κάθε μεμονωμένη εργασία.