Sushil Kumar, Διευθύνων Σύμβουλος της Cyara – Σειρά Συνεντεύξεων

Sushil Kumar, Διευθύνων Σύμβουλος της Cyara είναι ένας έμπειρος στελεχός λογισμικού επιχειρήσεων και επιχειρηματίας με πάνω από 25 χρόνια ηγεσίας σε τεχνητή νοημοσύνη, DevOps, υποδομές cloud, στρατηγική προϊόντων και δοκιμές λογισμικού. Εντάχθηκε στην Cyara ως Διευθύνων Σύμβουλος τον Δεκέμβριο 2025, μετά τον ρόλο του ως συνιδρυτής και Διευθύνων Σύμβουλος της RelicX.ai, όπου δημιούργησε μια πλατφόρμα αυτοματοποίησης δοκιμών βασισμένη σε γενετική AI και προθέσεις, η οποία εξαγοράστηκε από την Harness. Στη συνέχεια, ηγήθηκε της ενσωμάτωσης της τεχνολογίας της RelicX στην Harness και συνέβαλε στη διαμόρφωση της στρατηγικής AI Test Automation. Στα αρχικά στάδια της καριέρας του, ο Kumar υπηρέτησε ως Γενικός Διευθυντής DevOps στη Broadcom, Ανώτερος Αντιπρόεδρος Προϊόντων στη CA Technologies, και πέρασε περισσότερα από 16 χρόνια στην Oracle, όπου κατείχε ανώτερες ηγετικές θέσεις προϊόντων και βοήθησε στην κλιμάκωση μεγάλων επιχειρηματικών λογισμικών. Σε όλους αυτούς τους ρόλους, εστίασε στην κατασκευή και κλιμάκωση πλατφορμών AI, cloud, DevOps και αυτοματοποίησης για μεγάλες επιχειρήσεις. Ο διορισμός του στην Cyara επικεντρώνεται στην επέκταση των AI‑προσανατολισμένων δυνατοτήτων διασφάλισης εμπειρίας πελατών της εταιρείας και στην παγκόσμια εμβέλειά της.

Cyara είναι μια εταιρεία διασφάλισης εμπειρίας πελατών που βοηθά τις επιχειρήσεις να δοκιμάζουν, παρακολουθούν και επικυρώνουν τις αλληλεπιδράσεις με τους πελάτες μέσω φωνής, ψηφιακών καναλιών, μηνυμάτων και συνομιλιακών AI καναλιών. Η πλατφόρμα Cyara Agentic Platform έχει σχεδιαστεί για να αντιμετωπίζει τις αυξανόμενες προκλήσεις που δημιουργούν οι AI‑οδηγούμενες εμπειρίες πελατών, συμπεριλαμβανομένης της δοκιμής μη‑ντετερμινιστικών AI πρακτόρων, της ανίχνευσης ψευδαισθήσεων και μεταβολών συμπεριφοράς, της επικύρωσης συμμόρφωσης, της παρακολούθησης παραγωγικών συστημάτων και της αξιολόγησης ολοκληρωμένων διαδρομών πελατών. Η πλατφόρμα συνδυάζει δοκιμή AI πρακτόρων, παρακολούθηση παραγωγής, διασφάλιση φωνής και τηλεπικοινωνιών, δοκιμή ψηφιακών καναλιών και παρατήρηση CX, υποστηρίζοντας περισσότερα από 350 εκατομμύρια διαδρομές πελατών ετησίως σε παγκόσμιο αποτύπωμα που καλύπτει πάνω από 140 χώρες. Καθώς οι επιχειρήσεις ενσωματώνουν ολοένα και πιο αυτόνομους AI πράκτορες σε ροές εργασίας που αφορούν πελάτες, η Cyara τοποθετεί την τεχνολογία της ως στρώση διασφάλισης για την αξιολόγηση του αν αυτά τα συστήματα συμπεριφέρονται αξιόπιστα, ασφαλώς και συνεπώς πριν και μετά την ανάπτυξη.

Έχετε περάσει μεγάλο μέρος της καριέρας σας χτίζοντας και κλιμακώνοντας λογισμικό επιχειρήσεων, από την Oracle και την CA/Broadcom έως τη δημιουργία της Relicx και τώρα την ηγεσία της Cyara. Πώς έχει αυτή η εμπειρία διαμορφώσει την άποψή σας ότι οι AI πράκτορες πρέπει να διαχειρίζονται λιγότερο όπως παραδοσιακό λογισμικό και περισσότερο όπως μέλη του εργατικού δυναμικού;

Έχω περάσει το μεγαλύτερο μέρος της καριέρας μου χτίζοντας και κλιμακώνοντας λογισμικό επιχειρήσεων, και η πειθαρχία που δημιουργήσαμε εκεί ήταν μια πειθαρχία γύρω από ντετερμινιστικά συστήματα. Ξέρετε τι πρέπει να κάνει το λογισμικό. Το επικυρώνετε με βάση αυτή την προσδοκία. Όταν αποτυγχάνει, σας ενημερώνει: ένα σφάλμα, μια αποτυχημένη συναλλαγή, μια ειδοποίηση.

Οι AI πράκτορες δεν λειτουργούν έτσι. Είναι μη‑ντετερμινιστικοί, έτσι ώστε η ίδια είσοδος να μπορεί να ακολουθήσει διαφορετική διαδρομή. Πιο σημαντικό, μπορούν να ενεργούν εκ μέρους της εταιρείας. Κάνουν δεσμεύσεις: επιστροφές χρημάτων, πολιτικές, υποσχέσεις. Και όταν μία από αυτές είναι λανθασμένη, δεν σπάει τίποτα. Μια λανθασμένη απάντηση ακούγεται ακριβώς όπως μια σωστή. Η συναλλαγή ολοκληρώνεται, ο πίνακας ελέγχου παραμένει πράσινος, και ο πελάτης αποχωρεί με κάτι που η εταιρεία δεν είχε ποτέ συμφωνήσει.

Μόλις το λογισμικό μπορεί να λαμβάνει αποφάσεις και δεσμεύσεις, και να είναι λανθασμένο χωρίς να σας το ενημερώνει, απαιτεί διαφορετικό μοντέλο λειτουργίας.

Αυτή είναι η στιγμή που η σύγκριση με το εργατικό δυναμικό αποδεικνύει την αξία της. Δεν διαχειρίζεστε έναν υπάλληλο προγραμματίζοντας κάθε απόφαση που θα πάρει. Του δίνετε έναν ρόλο, καθορίζετε την εξουσία που συνοδεύει αυτόν τον ρόλο, και επεκτείνετε αυτήν την εξουσία καθώς την κερδίζει. Ένας πράκτορας συμπεριφέρεται με τον ίδιο τρόπο υπό την ίδια δομή.

Κατά τη γνώμη μου, η αυτονομία δεν είναι μια απόφαση υλοποίησης. Είναι μια σειρά προαγωγών. Ένας πράκτορας κερδίζει καθεμία αποδεικνύοντας ότι μπορεί να εκτελέσει τη δουλειά, να παραμείνει εντός της εξουσίας του και να αναγνωρίζει πότε χρειάζεται βοήθεια.

Πώς φαίνεται στην πράξη ένα «μοντέλο λειτουργίας παρόμοιο με το HR» για AI πράκτορες μέσα σε μια επιχείρηση, και ποια στοιχεία πρέπει οι εταιρείες να εφαρμόσουν πρώτα;

Ξεκινήστε με τη δουλειά. Κάθε πράκτορας πρέπει να έχει κάτι που να μοιάζει με περιγραφή εργασίας πριν προσεγγίσει την παραγωγή. Τι πρέπει να επιτύχει, ποια πληροφορία είναι εξουσιοδοτημένη για αυτόν, ποια δεδομένα πελατών μπορεί να χρησιμοποιήσει, ποιες αποφάσεις μπορεί να πάρει αυτόνομα, και πού τελειώνει η ευθύνη του. Εάν μια εταιρεία δεν μπορεί να το γράψει σε μια παράγραφο, ο πράκτορας δεν είναι έτοιμος για ρόλο. Είναι έτοιμος για επίδειξη.

Τέσσερα πράγματα προκύπτουν από αυτόν τον ρόλο, και η σειρά είναι σημαντική. Απόδειξη πριν την εκκίνηση, που σημαίνει ότι αποδεικνύεται ότι ο πράκτορας μπορεί να εκτελέσει τη δουλειά υπό συνθήκες που μοιάζουν με τον πραγματικό κόσμο αντί για ελεγχόμενη δοκιμή. Επίβλεψη κατά τη λειτουργία, ώστε να γνωρίζετε τι έκανε πραγματικά ο πράκτορας και όχι μόνο αν το σύστημα ανταποκρίθηκε. Πύλες προαγωγών, ώστε να χορηγείται περισσότερη εξουσία όταν υπάρχουν αποδείξεις που το υποστηρίζουν και όχι νωρίτερα. Και ένας ιδιοκτήτης στην επιχείρηση, όχι στην τεχνική ομάδα, που είναι υπεύθυνος για το τι επιτρέπεται να κάνει ο πράκτορας.

Αν η σειρά είναι λανθασμένη, τα υπόλοιπα δεν ισχύουν. Εάν η ευθύνη είναι ασαφής, η καλή απόδοση είναι αδύνατο να αποδειχθεί, όπως και η αποτυχία. Ο ρόλος έρχεται πρώτα, και η απόδειξη ακολουθεί.

Εάν ένας AI πράκτορας ανατεθεί σε συγκεκριμένο ρόλο, πώς πρέπει οι οργανισμοί να ορίσουν τις ευθύνες, τα δικαιώματα και τα όρια του πριν τον επιτρέψουν να αλληλεπιδράσει με πελάτες ή κρίσιμα συστήματα;

Ο ρόλος περιγράφει για τι προορίζεται ο πράκτορας. Τα δικαιώματα προσδιορίζουν τι μπορεί να προσεγγίσει. Πρόκειται για δύο διαφορετικές συζητήσεις, και οι εταιρείες τείνουν να έχουν μόνο την πρώτη.

Να είστε σαφείς σχετικά με τρία πράγματα. Ποια συστήματα και δεδομένα μπορεί να αγγίξει ο πράκτορας και προς ποια κατεύθυνση, επειδή η ανάγνωση ενός αρχείου πελάτη και η αλλαγή του δεν είναι το ίδιο δικαίωμα. Τι μπορεί να δεσμευτεί αυτόνομα, που είναι το σημείο όπου βρίσκονται τα χρήματα και η ευθύνη: μια επιστροφή χρημάτων, μια πίστωση, μια εξαίρεση από την πολιτική. Και τι αναγκάζει σε παράδοση, τόσο τις περιπτώσεις που μπορείτε να ονομάσετε εκ των προτέρων όσο και το σήμα που δείχνει ότι ο πράκτορας έχει ξεπεράσει τις ικανότητές του.

Αυτές δεν είναι αποφάσεις που πρέπει να αφήνονται στην τεχνολογική ομάδα. Καθορίζουν τον κίνδυνο που αναλαμβάνει η εταιρεία. Οι άνθρωποι που είναι υπεύθυνοι για την εμπειρία πελατών και την έκθεση σε συμμόρφωση πρέπει να έχουν λόγο στο πού θα σχεδιαστούν αυτά τα όρια, και συνήθως είναι οι τελευταίοι που ερωτώνται.

Στη συνέχεια πρέπει να αποδείξετε ότι ο πράκτορας παραμένει εντός αυτών. Ο στόχος δεν είναι η εξάλειψη κάθε πιθανού λάθους. Θα υπάρξουν λάθη. Το ερώτημα είναι αν ο πράκτορας κατανοεί τα όριά του, ξέρει πότε να σταματήσει και μπορεί να εκτελέσει το έργο που του έχει ανατεθεί χωρίς να δημιουργήσει συνέπειες κάπου αλλού στην πορεία του πελάτη.

Υποστηρίζετε ότι η μεγαλύτερη αυτονομία πρέπει να κερδίζεται αντί να χορηγείται από την αρχή. Τι πρέπει να αποδείξει ένας AI πράκτορας πριν μια επιχείρηση επεκτείνει το εύρος των ενεργειών που μπορεί να αναλάβει αυτόνομα;

Τώρα είναι εύκολο να δημιουργηθεί ένας AI πράκτορας. Το δύσκολο μέρος είναι να αποδειχθεί ότι αξίζει την αυτονομία.

Πριν επεκτείνετε το τι μπορεί να κάνει ένας πράκτορας αυτόνομα, μια επιχείρηση χρειάζεται αποδείξεις ότι εκτελεί το ανατεθειμένο του έργο σταθερά και παραμένει εντός των ορίων του. Αυτό σημαίνει πώς αντιμετωπίζει τις καταστάσεις που περιμένετε, αλλά και εκείνες που δεν προβλέψατε. Ένας πράκτορας μπορεί να φαίνεται ισχυρός υπό ελεγχόμενες συνθήκες και να συμπεριφέρεται διαφορετικά όταν το πλαίσιο ή τα περιβάλλοντα συστήματα αλλάζουν.

Ένας πελάτης μπορεί να ξεκινήσει με μια απλή ερώτηση για τιμολόγηση και να απογοητευτεί μετά από μια αποτυχημένη πληρωμή. Ο πράκτορας πρέπει να αναγνωρίσει αυτή τη μεταβολή καθώς συμβαίνει και να αλλάξει πορεία, αντί να συνεχίσει στο μονοπάτι για το οποίο είχε επικυρωθεί.

Τρία πράγματα πρέπει να ισχύουν πριν επεκταθεί η εξουσία. Ο πράκτορας εκτελεί το έργο του σε πραγματικές συνθήκες, όχι μόνο σε καθαρές. Γνωρίζει το όριο της δικής του ικανότητας και σταματά εκεί. Και κάποιος μπορεί να παράσχει αποδείξεις και για τα δύο κατόπιν ζήτησης.

Το επίπεδο απόδειξης πρέπει να ταιριάζει με το επίπεδο αυτονομίας. Μικρές αποφάσεις, ελαφρά αποδεικτικά στοιχεία. Η πρόσβαση σε σύστημα πληρωμών ή η δυνατότητα να δεσμευτεί η εταιρεία σε εξαίρεση πολιτικής απαιτούν σημαντικά υψηλότερο όριο.

Πώς πρέπει οι εταιρείες να αξιολογούν συνεχώς την απόδοση των AI πρακτόρων μετά την υλοποίησή τους, ειδικά όταν η ποιότητα των αποφάσεών τους δεν μπορεί να μετρηθεί μόνο με τα παραδοσιακά μετρικά δοκιμών λογισμικού;

Εδώ η παραδοσιακή σκέψη λογισμικού καταρρέει. Με το ντετερμινιστικό λογισμικό ελέγχετε αν κάτι πέρασε ή απέτυχε. Με έναν AI πράκτορα μπορείτε να λάβετε μια επιτυχημένη απόκριση από το σύστημα και παρά ταυτόχρονα να έχετε μια αποτυχημένη αλληλεπίδραση με τον πελάτη.

Έτσι αξιολογείτε το αποτέλεσμα, όχι την απόκριση. Κατάλαβε ο πράκτορας τι προσπαθούσε να επιτύχει ο πελάτης; Χρησιμοποίησε τις σωστές πληροφορίες; Ολοκλήρωσε το ταξίδι; Μείνει εντός των ορίων του και κλιμακώθηκε όταν έπρεπε;

Οι βασικές αξιολογήσεις, η βαθμολόγηση των απαντήσεων έναντι ενός χρυσού συνόλου, αποτελούν το ελάχιστο. Κάθε εταιρεία θα τα έχει. Οι διαστάσεις που καθορίζουν αν ένας πελάτης συνεχίζει να σας εμπιστεύεται είναι αυτές που βρίσκονται κάτω: συμμόρφωση, προκατάληψη, κακή χρήση και το πώς ο πράκτορας αντέχει με πραγματικούς καλούντες, τις προφορές τους, το θόρυβο φόντου, το φθηνό τηλέφωνο, τη διακοπή στη μέση μιας πρότασης. Στη φωνή αυτό έχει μεγαλύτερη σημασία από ό,τι αναμένουν οι περισσότεροι, επειδή κάθε βαθμολογία βασίζεται σε ένα αντίγραφο. Αν η φωνητική στρώση παρερμηνεύσει την ερώτηση, ο πράκτορας απαντά σε κάτι που κανείς δεν ζήτησε.

Η αριθμητική αξία αξίζει προσοχή. Ένα 99% σκορ στην αξιολόγηση ακούγεται εξαιρετικό. Σε ένα εκατομμύριο συνομιλίες ετησίως, αυτό αντιστοιχεί σε δέκα χιλιάδες αποτυχημένες.

Δύο αρχές παραμένουν. Η επικύρωση πρέπει να είναι ανεξάρτητη από τον πράκτορα και τις πλατφόρμες μοντέλων. Δεν κατασκευάζουμε εμείς τους πράκτορες, κάτι που εξηγεί γιατί μπορώ να πω καθαρά ότι κανένας προμηθευτής δεν πρέπει να κρίνει το δικό του AI. Το πρότυπο είναι οι δικές της πολιτικές της επιχείρησης, οι δεσμεύσεις προς τους πελάτες και οι κανονιστικές της υποχρεώσεις, όχι το φύλλο αξιολόγησης ενός προμηθευτή.

Κάθε αποτυχία παραγωγής πρέπει να γίνει πύλη. Όχι ένα εισιτήριο, όχι ένα στοιχείο backlog. Ένα τεστ που πρέπει να περάσει ο πράκτορας πριν το επόμενο release κυκλοφορήσει. Αν ένα πρόβλημα συμβεί στην παραγωγή και δεν μετατραπεί σε κάτι που ο πράκτορας πρέπει να περάσει, πληρώνετε για να ανακαλύψετε το ίδιο πρόβλημα δύο φορές.

Η εμπιστοσύνη και η διακυβέρνηση αναφέρονται όλο και περισσότερο ως κύριοι φραγμοί στην κλιμάκωση της AI με πράκτορες. Πιστεύετε ότι η τεχνολογία εξελίσσεται ταχύτερα από την ικανότητα των επιχειρήσεων να την εποπτεύουν, και ποιοι κίνδυνοι προκύπτουν από αυτό;

Πιστεύω ότι ακριβώς αυτό συμβαίνει, και το χάσμα είναι δομικό παρά αποτυχία προσπάθειας. Μια ιδέα μπορεί να γίνει πράκτορας που αντιμετωπίζει πελάτες σε λίγες εβδομάδες. Η λειτουργική πειθαρχία γύρω από αυτόν τον πράκτορα, η ιδιοκτησία, η απόδειξη, η εποπτεία, διαρκούν πολύ περισσότερο, επειδή εμπλέκουν ανθρώπους και λογοδοσία και όχι μόνο λογισμικό.

Ο κίνδυνος είναι ότι το κενό παραμένει αόρατο ενώ μεγαλώνει. Ένας πράκτορας μπορεί να δώσει σε έναν πελάτη μια σίγουρα λανθασμένη απάντηση χωρίς σφάλμα, χωρίς αποτυχημένη συναλλαγή και χωρίς ειδοποίηση. Κάθε πίνακας ελέγχου φαίνεται πράσινος. Οι παραδοσιακές λειτουργίες εξαρτώνται από συστήματα που σας ενημερώνουν πότε έχουν πρόβλημα, και οι πράκτορες δεν το κάνουν αξιόπιστα.

Δεν πιστεύω ότι η απάντηση είναι να επιβραδύνουμε. Οι εταιρείες που θα κερδίσουν εδώ θα κινηθούν γρήγορα. Η απάντηση είναι να χτίσουμε τα αποδεικτικά στοιχεία και την εποπτεία που σας επιτρέπουν να κινηθείτε γρήγορα με σιγουριά. Όσο περισσότερη αυτονομία λαμβάνει ένας πράκτορας, τόσο περισσότερα αποδεικτικά στοιχεία χρειάζεστε για να αποδείξετε ότι μπορεί να αναλάβει την ευθύνη.

Όταν ένας αυτόνομος πράκτορας παίρνει μια κακή απόφαση, ποιος πρέπει τελικά να είναι υπεύθυνος: ο προγραμματιστής, η επιχειρηματική μονάδα που τον εφαρμόζει, ο προμηθευτής που παρέχει το μοντέλο ή ο εκτελεστικός που ενέκρινε τη χρήση του;

Τελικά η εταιρεία που εφαρμόζει τον πράκτορα κατέχει το αποτέλεσμα. Πολλά μέρη εμπλέκονται στην κατασκευή και λειτουργία του συστήματος, αλλά ο πελάτης δεν έχει σχέση με τον πάροχο του μοντέλου. Ο πελάτης έχει σχέση με την εταιρεία του οποίου το όνομα εμφανίζεται στην αλληλεπίδραση.

Αυτό δεν σημαίνει ότι η ευθύνη βρίσκεται σε ένα μόνο άτομο. Διατρέχει την αλυσίδα λήψης αποφάσεων. Ο προγραμματιστής είναι υπεύθυνος για το πώς χτίστηκε το σύστημα. Η επιχείρηση αποφασίζει τι επιτρέπεται να κάνει ο πράκτορας. Ο προμηθευτής είναι υπεύθυνος για την τεχνολογία που παρέχει. Η ηγεσία είναι υπεύθυνη για το να διασφαλίσει ότι η εταιρεία διαθέτει τους ελέγχους και την εποπτεία για τη διαχείριση του κινδύνου.

Το λάθος είναι να πιστεύουμε ότι επειδή το μοντέλο πήρε την απόφαση, το μοντέλο την κατέχει. Δεν είναι έτσι. Αν ένας πράκτορας κάνει μια δέσμευση σε πελάτη εκ μέρους σας, αυτή η δέσμευση ανήκει στο εμπορικό σήμα. Οι πελάτες το καταλαβαίνουν ενστικτωδώς, και το ίδιο κάνουν και οι ρυθμιστές.

Οι πράκτορες AI μπορούν να συμπεριφέρονται απρόβλεπτα όταν αντιμετωπίζουν καταστάσεις που δεν προβλέπονταν κατά τη δοκιμή. Πώς πρέπει οι επιχειρήσεις να δοκιμάζουν αυτές τις ακραίες περιπτώσεις πριν οι πράκτορες έχουν πρόσβαση σε πελάτες, χρηματοοικονομικά συστήματα ή ευαίσθητα δεδομένα;

Πρέπει να υποθέτετε ότι ο πράκτορας θα συναντήσει τελικά κάτι για το οποίο δεν έχει σχεδιαστεί. Το ερώτημα είναι τι συμβαίνει όταν το κάνει.

Έτσι, επικυρώστε πέρα από το αναμενόμενο μονοπάτι. Δώστε στον πράκτορα ασαφείς αιτήματα. Δώστε του αντικρουόμενες πληροφορίες. Δώστε του ελλιπές πλαίσιο. Τοποθετήστε τον σε καταστάσεις όπου η σωστή απάντηση είναι να σταματήσει και να κλιμακώσει αντί να συνεχίσει. Προσθέστε τις συνθήκες του πραγματικού κόσμου, που στη φωνή σημαίνουν προφορές, θόρυβο, κακές συνδέσεις και καλούντες που αλλάζουν το θέμα στη μέση. Ο στόχος δεν είναι να επιβεβαιώσετε ότι ο πράκτορας λειτουργεί. Είναι να διαπιστώσετε πώς συμπεριφέρεται όταν οι συνθήκες δεν είναι καθαρές.

Το πιο σημαντικό σημείο είναι ότι πρέπει να επικυρώσετε ολόκληρο το ταξίδι, όχι μόνο τον πράκτορα απομονωμένα. Συνήθως το μοντέλο δεν είναι το πρόβλημα. Όταν κάτι πάει στραβά, η πρώτη μου ερώτηση είναι ποιο πλαίσιο έλαβε το μοντέλο. Μπορεί να ήταν ένα παλιό άρθρο γνώσης, ή δύο συστήματα που είχαν αντικρουόμενες πολιτικές, ή μια μετάβαση που έχασε ό,τι είχε ήδη εξηγήσει ο πελάτης. Κάθε στοιχείο μπορεί να περάσει τη δική του δοκιμή και το ταξίδι του πελάτη μπορεί ακόμη να αποτύχει στα κενά μεταξύ τους.

Αυτό το επίπεδο μεταξύ των συστημάτων είναι αυτό που έχουμε εξοπλίσει για χρόνια, σε 450 επιχειρήσεις και πάνω από 350 εκατομμύρια ταξίδια πελατών ετησίως. Είτε είναι πράκτορας είτε όχι, σπάει με τον ίδιο τρόπο. Βλέπουμε επίσης πράκτορες που βασίζονται σε τεχνολογία από πάνω από 55 διαφορετικούς προμηθευτές, συν όλα τα μεγάλα πλατφόρμες κέντρων επαφής, κάτι που μας δείχνει ότι το μοτίβο ισχύει ανεξάρτητα από το μοντέλο που βρίσκεται κάτω.

Πριν ένας πράκτορας αποκτήσει πρόσβαση σε κάτι σημαντικό, η επιχείρηση πρέπει να έχει αποδείξεις για το τι κάνει όταν τα πράγματα πηγαίνουν καλά και όταν δεν πηγαίνουν.

Πώς βλέπετε την εξέλιξη των δοκιμών AI καθώς οι εταιρείες μεταβαίνουν από καθοριστικό λογισμικό σε συστήματα που λογίζουν, σχεδιάζουν, επικοινωνούν και αναλαμβάνουν δράση σε πολλαπλές εφαρμογές;

Οι δοκιμές πρέπει να μεταβούν από το ερώτημα αν ένα σύστημα παρήγαγε την αναμενόμενη απάντηση στο ερώτημα αν πέτυχε το σωστό αποτέλεσμα.

Αυτή είναι μια σημαντική αλλαγή. Ένας πράκτορας μπορεί να ακολουθήσει διάφορα μονοπάτια για να λύσει το ίδιο πρόβλημα πελάτη, και αυτά τα μονοπάτια μπορούν να αλλάξουν με την πάροδο του χρόνου καθώς τα μοντέλα και η γνώση που τα υποστηρίζει εξελίσσονται. Δεν μπορείτε να γράψετε σενάριο για κάθε πιθανή αλληλεπίδραση. Πρέπει να αξιολογήσετε αν ο πράκτορας κατάλαβε την πρόθεση, πήρε λογικές αποφάσεις καθ’ όλη τη διάρκεια και παρέμεινε εντός των ορίων που του δόθηκαν.

Θέλω να είμαι προσεκτικός με ένα πράγμα, επειδή η βιομηχανία αρχίζει να το κάνει λάθος με δαπανηρό τρόπο. Οι δοκιμές πριν την κυκλοφορία έχουν μεγαλύτερη σημασία τώρα, όχι λιγότερη. Είναι αυτό που καθορίζει αν ένας πράκτορας είναι έτοιμος. Το επιχείρημα ότι μπορείτε να το παραλείψετε και να παρακολουθείτε την παραγωγή αντί αυτού είναι ένα επιχείρημα για το να το ανακαλύψετε μπροστά από τους πελάτες.

Αυτό που αλλάζει είναι ότι οι δοκιμές πριν την κυκλοφορία δεν είναι πλέον το τέλος της διαδικασίας. Η παραγωγή αποκαλύπτει συνθήκες που ένα ελεγχόμενο περιβάλλον δεν μπορεί να αναπαράγει πλήρως, και ό,τι αποκαλύπτει η παραγωγή γίνεται δοκιμή που πρέπει να περάσει ο πράκτορας πριν την επόμενη έκδοση. Απόδειξη πριν την κυκλοφορία, επαγρύπνηση στην παραγωγή, και η κάθε μία τροφοδοτεί την άλλη. Ο πράκτορας που λειτουργεί στον έκτο μήνα πρέπει να είναι μετρήσιμα καλύτερος από αυτόν που κυκλοφόρησε.

Κοιτάζοντας μπροστά, τι θα διακρίνει τις οργανώσεις που θα χτίσουν με επιτυχία αξιόπιστες δυνάμεις AI από εκείνες που θα παραμείνουν κολλημένες σε μικρά πιλοτικά έργα πράκτορων AI;

Οι οργανισμοί που λαμβάνουν πραγματική απόδοση από τους πράκτορες είναι αυτοί που έχουν χτίσει ένα λειτουργικό μοντέλο γύρω από τα αποδεικτικά στοιχεία. Οι οργανισμοί που καθυστερούν συνήθως δεν εμποδίζονται από την τεχνολογία. Εμποδίζονται επειδή κανείς δεν μπορεί να παραγάγει ό,τι απαιτεί το επόμενο επίπεδο έγκρισης. Η νομική θέτει ένα λογικό ερώτημα, ή η επιτροπή κινδύνου το κάνει, και δεν υπάρχει απάντηση, έτσι το πιλοτικό παραμένει πιλοτικό. Η τεχνολογία μπορεί να είναι έτοιμη, αλλά ο οργανισμός δεν μπορεί ακόμη να δικαιολογήσει την παροχή περισσότερης εξουσίας σε αυτήν.

Αυτή είναι η διαφορά μεταξύ ενός πιλοτικού προγράμματος και ενός λειτουργικού εργατικού δυναμικού. Σε ένα πιλοτικό, κάποιος παρακολουθεί συνεχώς. Σε ένα λειτουργικό μοντέλο, κάθε πράκτορας έχει ένα ρόλο που μπορεί να περιγραφεί με μία πρόταση. Η εξουσία του είναι περιορισμένη και γραπτή. Η απόδοσή του αξιολογείται από κάτι διαφορετικό από την ομάδα που τον δημιούργησε. Οι αποτυχίες παραγωγής γίνονται πύλες κυκλοφορίας. Περισσότερη αυτονομία ακολουθεί την απόδειξη.

Η δεύτερη διαφορά είναι η ιδιοκτησία. Στις εταιρείες που κλιμακώνουν, ο πράκτορας ανήκει στη λειτουργική μονάδα που εξυπηρετεί, με έναν ονομαστικό ιδιοκτήτη που είναι υπεύθυνος για ό,τι κάνει. Όπου παραμένει ένα έργο AI που ανήκει σε ομάδα AI, παραμένει μικρό, επειδή κανένας επιχειρηματικός ηγέτης δεν θα αναλάβει τον κίνδυνο κάτι που δεν ελέγχει.

Τίποτα από αυτά δεν είναι εξωτικό. Είναι κοντά στο πώς μια εταιρεία ήδη διαχειρίζεται τα άτομα που εμπιστεύεται με πραγματική ευθύνη.

Ένα πιλοτικό πρόγραμμα μπορεί να λειτουργήσει με βάση την πεποίθηση του οργανισμού. Η κλιμάκωση απαιτεί αποδείξεις.

Σας ευχαριστούμε για τη σπουδαία συνέντευξη, οι αναγνώστες που θέλουν να μάθουν περισσότερα θα πρέπει να επισκεφθούν Cyara.