Ηγέτες σκέψης

Οικοδομώντας εμπιστοσύνη και έλεγχο στην εποχή της αυτόνομης τεχνητής νοημοσύνης

Claudio Rodrigues
Προσθέστε το Unite.AI στις προτιμώμενες πηγές σας στο Google
Βασικά σημείαΈνα σύστημα που δεν μπορεί να εξηγήσει τις αποφάσεις του αποτελεί ρίσκο ανεξάρτητα από…
Δείτε περισσότερα
  • Ένα σύστημα που δεν μπορεί να εξηγήσει τις αποφάσεις του αποτελεί ρίσκο ανεξάρτητα από την ακρίβειά του.
  • Η κυριότητα του μοντέλου και η κυριαρχία των δεδομένων διατηρούν τα αυτόνομα φωνητικά συστήματα ελέγξιμα, ελεγκτέα και παρατηρήσιμα.
  • Τα μοντέλα που εκπαιδεύονται σε συγκεκριμένο τομέα υπερτερούν των γενικών, επειδή η γλώσσα και το συναισθηματικό ύφος του κλάδου διαφέρουν έντονα.

Οι περισσότερες επιχειρήσεις που αναπτύσσουν τη φωνητική τεχνητή νοημοσύνη (Voice AI) στα κέντρα επικοινωνίας τους δεν μπορούν να σας πουν γιατί το σύστημα είπε ό,τι είπε σε μια συγκεκριμένη κλήση. Μπορούν να σας πουν το ποσοστό αιτημάτων που επιλύονται χωρίς μεταφορά σε άνθρωπο και να σας δείξουν συγκεντρωτικές βαθμολογίες ακρίβειας. Αλλά όταν ένας πελάτης καταθέτει καταγγελία, όταν κάτι πάει λάθος και μια ρυθμιστική αρχή θέτει ερωτήσεις, η απάντηση είναι συχνά ένα σήκωμα των ώμων. Το σύστημα αποφάσισε. Δεν είμαστε βέβαιοι πώς.

Το Χάσμα Ευθύνης στην Αυτόνομη Φωνητική Τεχνητή Νοημοσύνη

Αυτό δεν είναι ένα περιφερειακό πρόβλημα. Η Gartner προβλέπει ότι μέχρι το 2029, η πρακτορική τεχνητή νοημοσύνη θα επιλύει αυτόνομα το 80% των συνηθισμένων ζητημάτων εξυπηρέτησης πελατών. Αυτό θέτει μια άβολη ερώτηση που η βιομηχανία δεν έχει απαντήσει σαφώς: όταν το 80% των αλληλεπιδράσεων αποφασίζονται από την τεχνητή νοημοσύνη χωρίς ανθρώπινη παρέμβαση, ποιος είναι υπεύθυνος όταν κάτι πάει λάθος; Τι σημαίνει “εμπιστοσύνη” σε ένα κέντρο επικοινωνίας όπου το σύστημα λειτουργεί γρηγορότερα από ό,τι μπορεί να ελέγξει ένας άνθρωπος;

Το πραγματικό κόστος της αυτοματοποίησης «μαύρου κουτιού»

Για πολλούς επιχειρηματίες, η ερώτηση δεν είναι αν θα αναπτύξουν τη φωνητική τεχνητή νοημοσύνη – αυτή η απόφαση έχει κυρίως ληφθεί. Η ερώτηση είναι αν οι δομές διακυβέρνησης γύρω από αυτήν είναι αρκετά ώριμες για να ταιριάζουν με το ρυθμό της υλοποίησης. Σχεδόν δύο τρίτα των επικεφαλής πληροφορικής και ασφάλειας αναφέρουν ότι αισθάνονται μη προετοιμασμένοι για τη διαχείριση των κινδύνων της υιοθέτησης της τεχνητής νοημοσύνης. Σε ένα περιβάλλον κέντρου επικοινωνίας, αυτή η έλλειψη προετοιμασίας έχει ένα άμεσο κόστος: στην εμπιστοσύνη του πελάτη που έχει διαβρωθεί από κακές αλληλεπιδράσεις της τεχνητής νοημοσύνης, στην έκθεση σε κινδύνους συμμόρφωσης και στις λειτουργικές αποφάσεις που λαμβάνονται με βάση συστήματα που κανείς δεν μπορεί να εξηγήσει πλήρως.

Η απάντηση δεν είναι να επιβραδύνουμε την υιοθέτηση της τεχνητής νοημοσύνης. Η απάντηση είναι να τη σχεδιάσουμε σκόπιμα, με τρόπο που κάθε αυτοματοποιημένη απόφαση να είναι ελέγξιμη, κάθε αποτέλεσμα να είναι εξηγήσιμο και η ανθρώπινη επιτήρηση να είναι ένα δομικό χαρακτηριστικό του συστήματος. Αυτή η διάκριση έχει περισσότερη σημασία από οποιοδήποτε μέτρο ακρίβειας. Ένα σύστημα που είναι 96% ακριβές αλλά δεν μπορεί να εξηγήσει τις αποφάσεις του είναι ένα πρόβλημα. Ένα σύστημα με την ίδια ακρίβεια και πλήρες ίχνος ελέγχου είναι ένα περιουσιακό στοιχείο.

Η φωνητική τεχνητή νοημοσύνη παρέχει μετρήσιμο όφελος σε κλίμακα όταν σχεδιάζεται σκόπιμα. Μειώνει τα κόστη, παρέχει διαθεσιμότητα 24/7 και διατηρεί συνεπή ποιότητα υπηρεσίας που οι ανθρώπινοι πράκτορες υπό πίεση, με ανεπαρκείς πόρους και διαχειριζόμενοι πολλές ταυτόχρονες συνομιλίες, δεν μπορούν πάντα να επιτύχουν. Όταν μια τράπεζα διαχειρίζεται απότομη αύξηση των ειδοποιήσεων για απάτη ή μια εταιρεία κοινής ωφέλειας λαμβάνει κλήσεις από χιλιάδες πελάτες χωρίς ηλεκτρικό ρεύμα, η αυτοματοποιημένη εξυπηρέτηση της τεχνητής νοημοσύνης δεν είναι απλώς μια ευχάριστη προσθήκη. Είναι η μόνη λειτουργικά βιώσιμη απάντηση. Η ερώτηση είναι αν μπορούμε να εμπιστευτούμε αυτή την απάντηση.

Αρχιτεκτονική αντί για φιλοδοξίες: Τρεις πυλώνες αξιόπιστης τεχνητής νοημοσύνης

Η εμπιστοσύνη κατασκευάζεται μέσω αρχιτεκτονικής, όχι φιλοδοξιών. Οι πλατφόρμες που κερδίζουν πραγματική επιχειρηματική εμπιστοσύνη αυτή τη στιγμή μοιράζονται μια συγκεκριμένη φιλοσοφία σχεδιασμού: διατηρούν την ιδιοκτησία του μοντέλου και την κυριαρχία των δεδομένων για να διασφαλίσουν ένα περιβάλλον που επιτρέπει έλεγχο της λειτουργίας, διενέργεια ελέγχων και παρατήρηση.

1. Ιδιοκτησία Μοντέλου και Κυριαρχία Δεδομένων

Αυτό έχει σημασία γιατί η ζωντανή φωνή είναι αμείλικτη. Είναι σε πραγματικό χρόνο, συγχρονισμένη, θορυβώδης, με προφορά και φορτισμένη συναισθηματικά. Ένα μοντέλο που παράγει παραισθήσεις σε ένα chatbot κειμένου είναι ντροπιαστικό. Ένα που παράγει παραισθήσεις κατά τη διάρκεια μιας κλήσης χρηματοοικονομικών υπηρεσιών ή μιας ερώτησης υγείας είναι ένα γεγονός συμμόρφωσης.

2. Πλήρης εξηγησιμότητα και ίχνη ελέγχου

Η δεύτερη απαίτηση είναι η πλήρης εξηγησιμότητα: η ικανότητα για τις ομάδες συμμόρφωσης, τους ηγέτες λειτουργιών και τις ρυθμιστικές αρχές να δουν ακριβώς τι είπε η τεχνητή νοημοσύνη, γιατί το είπε και σε ποιες πληροφορίες βασίστηκε, χωρίς να ανοίξουν αίτημα υποστήριξης στον προμηθευτή. Η αυτοματοποίηση «μαύρου κουτιού» δεν είναι μόνο ένα ρίσκο διακυβέρνησης. Είναι ένα όριο στο πόσο μακριά οι επιχειρήσεις είναι πρόθυμες να πάνε. Οι οργανισμοί που κινούνται πιο γρήγορα στην υιοθέτηση της τεχνητής νοημοσύνης είναι εκείνοι που έχουν λύσει πρώτα το πρόβλημα της εξηγησιμότητας, επειδή όλες οι άλλες ανησυχίες των ενδιαφερομένων — από το νομικό τμήμα έως το διοικητικό συμβούλιο — απορρέουν από αυτό.

3. Βαθιά Εμπειρογνωσία Τομέα Εναντίον Γενικών Μοντέλων

Η τρίτη απαίτηση είναι η γνήσια εμπειρογνωσία του τομέα. Ένας πελάτης που καλεί ένα κέντρο επικοινωνίας χρηματοοικονομικών υπηρεσιών και ένας πελάτης που καλεί έναν πάροχο υγείας δεν επικοινωνούν στην ίδια γλώσσα. Όχι στη λεξιλογία, όχι στον βαθμό επείγοντος, όχι στο συναισθηματικό ύφος. Τα γενικά μοντέλα που εκπαιδεύονται σε ευρεία σύνολα δεδομένων λειτουργούν γενικά. Η διαφορά ακρίβειας μεταξύ ενός γενικού μοντέλου και ενός μοντέλου που εκπαιδεύτηκε σε δισεκατομμύρια πραγματικές αλληλεπιδράσεις του τομέα δεν είναι περιφερειακή. Σε αναπτύξεις κέντρων επικοινωνίας, έχει σημάνει τη διαφορά μεταξύ 25% και 55% αιτημάτων που επιλύονται χωρίς μεταφορά σε άνθρωπο στην πρώτη ημέρα λειτουργίας.

Η ενσυναίσθηση έχει επίσης σημασία. Τα καλύτερα συστήματα τεχνητής νοημοσύνης μπορούν να αισθανθούν όταν ένας πελάτης νιώθει απογοήτευση ή άγχος και να φέρουν έναν ανθρώπινο εκπρόσωπο στο σωστό χρόνο χωρίς να κάνουν τον άνθρωπο να επαναλάβει τον εαυτό του. Στόχος είναι να μετατρέψουν ό,τι θα μπορούσε να ήταν μια αρνητική εμπειρία σε μια που χτίζει την εμπιστοσύνη του πελάτη.

Σταδιακή καινοτομία: Το Μέλλον της Εμπειρίας του Πελάτη

Η φωνητική τεχνητή νοημοσύνη είναι τώρα ώριμη για να μεταμορφώσει τον τρόπο με τον οποίο ολόκληρες βιομηχανίες εξυπηρετούν τους πελάτες τους. Οι πραγματικοί ηγέτες θα είναι εκείνοι που συνδυάζουν την καινοτομία με την ευθύνη, που αναπτύσσουν την τεχνητή νοημοσύνη σε φάσεις, μετρούν ό,τι έχει σημασία και διατηρούν τη φροντίδα του πελάτη στο κέντρο κάθε αλληλεπίδρασης.

Όταν γίνεται σωστά, τα αυτόνομα φωνητικά συστήματα δεν αντικαθιστούν την εμπιστοσύνη, βοηθούν να την κερδίσουμε. Κάνουν την υπηρεσία πιο ανθεκτική και πιο προσωπική, σε κλίμακα. Οι εταιρείες που ακολουθούν αυτή την προσέγγιση σήμερα θα ορίσουν τι σημαίνει εξαιρετική εμπειρία πελάτη στην εποχή της τεχνητής νοημοσύνης.

Ο Claudio Rodrigues είναι Επικεφαλής Προϊόντος στην Omilia, τον παγκόσμιο ηγέτη στην Agentic CX. Με βαθιά εμπειρία που εκτείνεται στο Conversational AI, Generative AI και Agentic AI, ηγείται του οράματος προϊόντος της Omilia και εποπτεύει την εξέλιξη της εγγενούς πλατφόρμας Agentic CX — επιτρέποντας στις επιχειρήσεις να μεταμορφώσουν την εξυπηρέτηση πελατών μέσω έξυπνης αυτοματοποίησης, ενδυνάμωσης των πρακτόρων σε πραγματικό χρόνο και εμπειριών που οδηγούνται από το AI σε κλίμακα.