Τώρα, περισσότερο παρά ποτέ, είναι η ώρα για τα ψηφιακά προγραμματισμένα φωνητικά συστήματα. Σκεφτείτε μια κλήση στην υπηρεσία εξυπηρέτησης πελατών. Σύντομα όλα τα προβλήματα και η ακαμψία θα έχουν εξαφανιστεί – οι σκληρές ρομποτικές φωνές, τα μενού “πατήστε το 1 για πωλήσεις” με στενά όρια, οι ενοχλητικές εμπειρίες που μας έχουν κάνει όλους να πατάμε ανυπόμονα το 0 με την ελπίδα να μιλήσουμε με έναν ανθρώπινο πράκτορα. (ή, δεδομένων των μακρών χρόνων αναμονής που μπορεί να συνεπάγονται η μεταφορά σε έναν ανθρώπινο πράκτορα, να εγκαταλείψουμε εντελώς την κλήση.)

Όχι πλέον. Οι προόδους όχι μόνο στις μετασχηματιστικές μεγάλες γλωσσικές μοντέλα (LLMs) αλλά και στην αυτόματη αναγνώριση ομιλίας (ASR) και στα συστήματα κειμένου-σε-ομιλία (TTS) σημαίνει ότι οι “επόμενης γενιάς” φωνητικοί πράκτορες είναι εδώ – αν ξέρετε πώς να τους κατασκευάσετε.

Σήμερα εξετάζουμε τις προκλήσεις που αντιμετωπίζουν όσοι ελπίζουν να κατασκευάσουν τέτοιους προηγμένους φωνητικούς συνομιλητές.

Γιατί φωνή;

Πριν ξεκινήσουμε, ας ρίξουμε μια ματιά στις γενικές ελκυστικές και σχετικές πτυχές των φωνητικών πρακτόρων (σε σύγκριση με τις κειμενικές αλληλεπιδράσεις). Υπάρχουν πολλά λόγια για τους οποίους μια φωνητική αλληλεπίδραση μπορεί να είναι πιο κατάλληλη από μια κειμενική – αυτά μπορούν να περιλαμβάνουν, με αυξανόμενη σειρά βαρύτητας:

• Προτίμηση ή συνήθεια – η ομιλία προηγείται της γραφής αναπτυξιακά και ιστορικά

• Αργή εισαγωγή κειμένου – πολλοί μπορούν να μιλήσουν πιο γρήγορα από ό,τι μπορούν να γράψουν

• Χωρίς χέρια καταστάσεις – όπως οδήγηση, άσκηση ή πλύσιμο πιάτων

• Αναλφαβητισμός – τουλάχιστον στη(ς) γλώσσα(ες) που καταλαβαίνει ο πράκτορας

• Αναπηρίες – όπως τυφλότητα ή έλλειψη μη φωνητικής κίνησης

Σε μια εποχή που φαίνεται να κυριαρχείται από διαμεσολαβικές συναλλαγές, η φωνή παραμένει ένας ισχυρός δίαυλος για το εμπόριο. Για παράδειγμα, μια πρόσφατη μελέτη της JD Power για την ικανοποίηση των πελατών στη βιομηχανία ξενοδοχείων βρήκε ότι οι πελάτες που κράτησαν το δωμάτιό τους τηλεφωνικά ήταν πιο ικανοποιημένοι με τη διαμονή τους από εκείνους που κράτησαν μέσω διαδικτυακού ταξιδιωτικού πρακτορείου (OTA) ή απευθείας από τον ιστότοπο του ξενοδοχείου.

Αλλά οι διαδραστικές φωνητικές απαντήσεις, ή IVRs για συντομία, δεν είναι αρκετές. Μια μελέτη του 2023 από την Zippia βρήκε ότι το 88% των πελατών προτιμούν φωνητικές κλήσεις με ζωντανούς πράκτορες αντί να πλοηγούνται σε αυτόματη τηλεφωνική менου. Η μελέτη βρήκε επίσης ότι τα κορυφαία πράγματα που ενοχλούν τους ανθρώπους περισσότερο στις τηλεφωνικές μενού περιλαμβάνουν την ακρόαση μη σχετικών επιλογών (69%), την αδυναμία να περιγράψουν πλήρως το ζήτημα (67%), την αναποτελεσματική υπηρεσία (33%) και τις συγχυτικές επιλογές (15%).

Και υπάρχει μια ανοχή στη χρήση φωνητικών βοηθών. Σύμφωνα με μια μελέτη της Accenture, περίπου το 47% των καταναλωτών είναι ήδη άνετοι με τη χρήση φωνητικών βοηθών για αλληλεπίδραση με επιχειρήσεις και περίπου το 31% των καταναλωτών έχουν ήδη χρησιμοποιήσει φωνητικό βοηθό για αλληλεπίδραση με μια επιχείρηση.

Οποιοσδήποτε ο λόγος, για πολλούς, υπάρχει μια προτίμηση και ζήτηση για προφορική αλληλεπίδραση – εφόσον είναι φυσική και άνετη.

Τι κάνει einen καλό φωνητικό πράκτορα;

Συνοπτικά, ένας καλός φωνητικός πράκτορας πρέπει να απαντάει στον χρήστη με τρόπο που είναι:

• Σχετικός: Βασισμένος σε μια σωστή κατανόηση του τι είπε/ήθελε ο χρήστης. Σημειώστε ότι σε ορισμένες περιπτώσεις, η απάντηση του πράκτορα δεν θα είναι μόνο μια προφορική απάντηση, αλλά κάποια μορφή δράσης μέσω ενσωμάτωσης με ένα backend (π.χ. πραγματικά να κλείνει ένα δωμάτιο ξενοδοχείου όταν ο καλεσμένος λέει “Πάρε το”).

• Ακρίβεια: Βασισμένος στα γεγονότα (π.χ. να λέει ότι υπάρχει διαθέσιμο δωμάτιο στο ξενοδοχείο στις 19 Ιανουαρίου μόνο αν υπάρχει)

• Σαφής: Η απάντηση πρέπει να είναι κατανοητή

• Εύκαιρος: Με τον είδος καθυστέρησης που θα περίμενε κανείς από έναν άνθρωπο

• Ασφαλής: Χωρίς προσβλητική ή ανάρμοστη γλώσσα, αποκάλυψη προστατευμένων πληροφοριών κ.λπ.

Το πρόβλημα

Τα τρέχοντα αυτόματα φωνητικά συστήματα προσπαθούν να ικανοποιήσουν τα παραπάνω κριτήρια με το κόστος της α) είναι πολύ περιορισμένα και β) πολύ ενοχλητικά στη χρήση. Μέρος του προβλήματος οφείλεται στις υψηλές προσδοκίες που θέτει ένας φωνητικός συνομιλητικός контекστ, με αυτές τις προσδοκίες να αυξάνονται όσο η ποιότητα της φωνής στα συστήματα TTS γίνεται ανιχνεύσιμη από την ανθρώπινη φωνή. Αλλά αυτές οι προσδοκίες καταρρέουν στα συστήματα που είναι ευρέως διαθέσιμα αυτή τη στιγμή. Γιατί;

Με ένα λόγο – ακαμψία:

• Περιορισμένη ομιλία – ο χρήστης είναι συνήθως αναγκασμένος να πει πράγματα ανόμοια: σε σύντομες φράσεις, σε μια συγκεκριμένη σειρά, χωρίς περιττές πληροφορίες κ.λπ. Αυτό προσφέρει λίγη ή καθόλου πρόοδο σε σχέση με το παλιό σχολικό σύστημα μενού με αριθμούς

• Στενή, μη περιεκτική έννοια του “αποδεκτού” λόγου – χαμηλή αντοχή σε σランγκ, ουμς και αχς κ.λπ.

• Χωρίς αναστροφή: Αν κάτι πάει λάθος, μπορεί να μην υπάρχει Möglichkeit “επισκευής” ή διόρθωσης του προβληματικού κομματιού πληροφοριών, αλλά αντίθετα να ξεκινήσετε από την αρχή ή να περιμένετε τη μεταφορά σε έναν άνθρωπο.

• Στενή αλλαγή στροφής – keine Möglichkeit να διακόψετε ή να μιλήσετε στον πράκτορα

Δεν χρειάζεται να πούμε ότι οι άνθρωποι βρίσκουν αυτές τις περιορισμούς ενοχλητικούς ή ενοχλητικούς.

Η λύση:

Οι καλές ειδήσεις είναι ότι τα σύγχρονα συστήματα AI είναι ισχυρά και γρήγορα enough να βελτιώσουν σημαντικά τις παραπάνω εμπειρίες, αντί να πλησιάζουν (ή να υπερβαίνουν!) τα πρότυπα της ανθρώπινης εξυπηρέτησης πελατών. Αυτό οφείλεται σε eine ποικιλία παραγόντων:

• Γρηγορότερη, πιο ισχυρή υλική υποδομή

• Βελτιώσεις στην ASR (υψηλότερη ακρίβεια, υπερβαίνοντας θόρυβο, προφορές κ.λπ.)

• Βελτιώσεις στην TTS (φυσική ηχώ ή ακόμη και κλωνοποιημένες φωνές)

• Η άφιξη των γενετικών LLMs (φυσικές συνομιλίες)

Αυτή η τελευταία πτυχή είναι ένα παιχνίδι-αλλαγής. Η κλειδί έμπνευση ήταν ότι ένα καλό προβλεπτικό μοντέλο μπορεί να χρησιμεύσει ως καλό γενετικό μοντέλο. Ένας τεχνητός πράκτορας μπορεί να πλησιάσει την ανθρώπινη συνομιλητική απόδοση αν λέει ό,τι ένα αρκετά καλό LLM προβλέπει ότι είναι το πιο πιθανό πράγμα που θα λέει ένας καλός ανθρώπινος πράκτορας εξυπηρέτησης πελατών σε μια δεδομένη συνομιλητική контекστ.

Σηματοδοτεί την άφιξη δεκάδων AI startups που ελπίζουν να λύσουν το πρόβλημα του φωνητικού συνομιλητή απλά επιλέγοντας και συνδέοντας off-the-shelf ASR και TTS modules σε ένα LLM core. Σε αυτή την άποψη, η λύση είναι απλά μια Frage της επιλογής μιας συνδυασμού που ελαχιστοποιεί την καθυστέρηση και το κόστος. Και φυσικά, αυτό είναι σημαντικό. Αλλά είναι αρκετό;

Δεν είναι τόσο γρήγορο

Υπάρχουν कई συγκεκριμένοι λόγοι για τους οποίους αυτή η απλή προσέγγιση δεν θα δουλέψει, αλλά προέρχονται από δύο γενικές πτυχές:

1. Τα LLMs δεν μπορούν, από μόνα τους, να παρέχουν καλές fact-βασισμένες κειμενικές συνομιλίες του είδους που απαιτούνται για επιχειρηματικές εφαρμογές όπως η εξυπηρέτηση πελατών. Έτσι, δεν μπορούν, από μόνα τους, να κάνουν το ίδιο για φωνητικές συνομιλίες.

2. Ακόμη και αν συμπληρώσετε τα LLMs με αυτά που χρειάζονται για να κάνουν einen καλό κειμενικό συνομιλητή, η μετατροπή αυτού σε einen καλό φωνητικό συνομιλητή απαιτεί περισσότερα από το να συνδέσετε απλά το καλύτερο ASR και TTS modules που μπορείτε να αντέξετε.

Ας εξετάσουμε ένα συγκεκριμένο παράδειγμα κάθε μιας από αυτές τις προκλήσεις.

Προκλήση 1: Διατήρηση της Πραγματικότητας

Όπως είναι πλέον ευρέως γνωστό, τα LLMs μερικές φορές παράγουν ανακριβείς ή ‘hallucinated’ πληροφορίες. Αυτό είναι καταστροφικό στο контекστ πολλών εμπορικών εφαρμογών, ακόμη και αν μπορεί να κάνει για μια καλή ψυχαγωγική εφαρμογή όπου η ακρίβεια μπορεί να μην είναι το σημείο.

Αυτό που τα LLMs μερικές φορές hallucinate είναι μόνο να περιμένουμε, με αναστολή. Είναι μια άμεση συνέπεια της χρήσης μοντέλων που εκπαιδεύονται σε δεδομένα από ένα χρόνο (ή περισσότερο) για να γεννήσουν απαντήσεις σε ερωτήσεις για γεγονότα που δεν είναι μέρος, ή δεν συνεπάγονται από, ένα σύνολο δεδομένων (όσο μεγάλο και αν είναι) που μπορεί να είναι ένα χρόνο ή περισσότερο παλιό. Όταν ο καλεσμένος ρωτάει “Τι είναι ο αριθμός μου μέλους;”, ένα απλό προ-εκπαιδευμένο LLM μπορεί να γεννήσει μόνο μια πιθανή απάντηση, όχι μια ακριβή.

Οι πιο κοινοί τρόποι αντιμετώπισης αυτού του προβλήματος είναι:

• Επιμερισμός: Εκπαιδεύστε το προ-εκπαιδευμένο LLM περαιτέρω, αυτή τη φορά στα domain-ειδικά δεδομένα που θέλετε να μπορεί να απαντήσει σωστά.

• Μηχανική προώθησης: Προσθέστε τα επιπλέον δεδομένα/οδηγίες στο LLM, εκτός από την ιστορία της συνομιλίας

• Ανακτημένη Αυξανόμενη Γενετική (RAG): Όπως η μηχανική προώθησης, εκτός από το γεγονός ότι τα δεδομένα που προστίθενται στην προώθηση καθορίζονται σε πραγματικό χρόνο από την αντιστοίχιση της τρέχουσας συνομιλητικής контекστ (π.χ. ο πελάτης έχει ρωτήσει “Έχει το ξενοδοχείο πισίνα;”) σε μια ενσωματωμένη κωδικοποιημένη ευρετήριο των domain-ειδικών δεδομένων (που περιλαμβάνει, π.χ. ένα αρχείο που λέει: “Εδώ είναι οι εγκαταστάσεις που διατίθενται στο ξενοδοχείο: πισίνα, σάουνα, σταθμός φόρτισης EV”).

• Εργαλείο-ελεγχόμενο: Όπως η RAG, αλλά το τι πρόκειται να προστεθεί (ή να αφαιρεθεί) από την προώθηση καθορίζεται από hard-κωδικοποιημένα (και hand-κωδικοποιημένα) κανόνες.

Σημειώστε ότι δεν υπάρχει ένα μέγεθος που να ταιριάζει όλα. Ποιο από αυτά τα μέθοδος θα είναι κατάλληλο θα εξαρτηθεί, για παράδειγμα, από τα domain-ειδικά δεδομένα που ενημερώνουν την απάντηση του πράκτορα. Συγκεκριμένα, θα εξαρτηθεί από το αν τα δεδομένα αυτά αλλάζουν συχνά (κλήση με κλήση, π.χ. – π.χ. όνομα πελάτη) ή σχεδόν ποτέ (π.χ. η αρχική προσφώνηση: “Γεια σας, ευχαριστώ που καλέσατε το Ξενοδοχείο Βουδαπέστη. Πώς μπορώ να σας βοηθήσω σήμερα;”). Ο επιμερισμός δεν θα ήταν κατάλληλος για το πρώτο, και η RAG θα ήταν μια ακατάλληλη λύση για το δεύτερο. Έτσι, οποιοδήποτε λειτουργικό σύστημα θα πρέπει να χρησιμοποιήσει μια ποικιλία από αυτές τις μεθόδους.

Τι πιο, η ενσωμάτωση αυτών των μεθόδων με το LLM και η αλληλεπίδραση μεταξύ τους με τρόπο που ελαχιστοποιεί την καθυστέρηση και το κόστος απαιτεί προσεκτική μηχανική. Για παράδειγμα, η απόδοση του μοντέλου RAG μπορεί να βελτιωθεί αν τον επιμεριστείτε για να διευκολύνει αυτή τη μέθοδο.

Μπορεί να μην είναι έκπληξη ότι κάθε μια από αυτές τις μεθόδους με τη σειρά της εισάγει τις δικές της προκλήσεις. Για παράδειγμα, πάρετε τον επιμερισμό. Ο επιμερισμός του προ-εκπαιδευμένου LLM σας σε domain-ειδικά δεδομένα θα βελτιώσει την απόδοσή του σε αυτά τα δεδομένα, ναι. Αλλά ο επιμερισμός τροποποιεί τους παραμέτρους (βαρύτητες) που είναι η βάση της προ-εκπαιδευμένης (πPresumably assez καλής) γενικής απόδοσης. Αυτή η τροποποίηση προκαλεί μια απώλεια (ή “καταστροφική λήθη”) της προηγούμενης γνώσης του μοντέλου. Αυτό μπορεί να οδηγήσει το μοντέλο να δώσει ανακριβείς ή ανάρμοστες (ακόμη και ασφαλείς) απαντήσεις. Αν θέλετε ο πράκτορας σας να συνεχίσει να απαντάει ακριβώς και ασφαλώς, χρειάζεστε μια μέθοδο επιμερισμού που μετριάσει την καταστροφική λήθη.

Προκλήση 2: Τερματισμός

Η καθορισμός του πότε ένας πελάτης έχει ολοκληρώσει την ομιλία του είναι κρίσιμος για την φυσική ροή της συνομιλίας. Παρόμοια, το σύστημα πρέπει να χειρίζεται τις διακοπές με χάρη, εξασφαλίζοντας ότι η συνομιλία παραμένει συνεκτική και ανταποκρίνεται στις ανάγκες του πελάτη. Η επίτευξη αυτού σε ένα πρότυπο συγκρίσιμο με την ανθρώπινη αλληλεπίδραση είναι μια σύνθετη εργασία αλλά είναι απαραίτητη για τη δημιουργία φυσικών και ευχάριστων συνομιλητικών εμπειριών.

Μια λύση που δουλεύει απαιτεί τους σχεδιαστές να εξετάσουν ερωτήσεις όπως:

• Πόσο καιρό μετά το τέλος της ομιλίας του πελάτη πρέπει ο πράκτορας να περιμένει πριν αποφασίσει ότι ο πελάτης έχει ολοκληρώσει την ομιλία του;

• Αfhαρμόζεται το παραπάνω από το αν ο πελάτης έχει ολοκληρώσει μια πλήρη πρόταση;

• Τι πρέπει να γίνει αν ο πελάτης διακόψει τον πράκτορα;

• Συγκεκριμένα, πρέπει ο πράκτορας να υποθέσει ότι ό,τι έλεγε δεν ακούστηκε από τον πελάτη;

Αυτά τα ζητήματα, που έχουν κυρίως να κάνουν με το χρόνο, απαιτούν προσεκτική μηχανική πέρα από αυτή που εμπλέκεται στην απόκτηση μιας απάντησης από ένα LLM.

Συμπέρασμα

Η εξέλιξη των ψηφιακά προγραμματισμένων φωνητικών συστημάτων υπόσχεται μια επαναστατική αλλαγή στις δυναμικές της εξυπηρέτησης πελατών, αντικαθιστώντας παλιές τηλεφωνικές συστήματα με προηγμένα LLMs, ASR και TTS τεχνολογίες. Ωστόσο, η υπερπήδηση των προκλήσεων στις hallucinated πληροφορίες και την ομαλή τερματισμό θα είναι κρίσιμη για την παράδοση φυσικών και αποτελεσματικών φωνητικών αλληλεπιδράσεων.

Η αυτοματοποίηση της εξυπηρέτησης πελατών έχει τη δύναμη να γίνει ένας πραγματικός game-changer για τις επιχειρήσεις, αλλά μόνο αν γίνει σωστά. Το 2024, ιδιαίτερα με όλες αυτές τις νέες τεχνολογίες, μπορούμε τελικά να κατασκευάσουμε συστήματα που μπορούν να αισθανθούν φυσικά και να ρέουν και να κατανοήσουν μας. Η καθαρή επίδραση θα μειώσει τους χρόνους αναμονής και θα βελτιώσει την τρέχουσα εμπειρία που έχουμε με τους φωνητικούς bots, σηματοδοτώντας μια μετασχηματιστική εποχή στην αλληλεπίδραση και την ποιότητα της εξυπηρέτησης.