Alex Levin, Co-Fondateur et PDG de Regal – Série d’entretiens

Alex Levin est le co-fondateur et PDG de Regal, une plateforme d’intelligence artificielle vocale qui aide les entreprises à générer des revenus grâce à des conversations client basées sur l’IA et conformes aux réglementations. Avant de fonder Regal en 2020, il a dirigé les équipes de croissance et de produits chez Handy, Thomson Reuters (TRI ) et d’autres startups. Diplômé de Harvard et membre du Forbes Technology Council, Alex se concentre sur la création d’infrastructures de voix à grande échelle qui allient innovation et garanties de niveau entreprise.

Regal fournit des agents vocaux basés sur l’IA pour les ventes, le support, la planification et les recouvrements – conçus pour avoir une voix naturelle, s’intégrer aux systèmes de gestion de la relation client et gérer des millions de conversations à grande échelle. La plateforme dispose d’un outil de création sans code, d’analyses en temps réel, de tests A/B et d’une conformité intégrée pour les industries réglementées comme les soins de santé, l’assurance et les services financiers.

Qu’est-ce qui vous a inspiré pour passer des rôles de direction chez Angi et Handy à la fondation de Regal, et y a-t-il eu un moment précis où vous et votre co-fondateur avez réalisé que l’expérience du centre de contact devait être entièrement reconstruite ?

Alors que nous étions chez Angi/Handy, nous avons vu le pouvoir de la voix pour établir la confiance avec les clients. Les clients nous ont dit que lorsqu’ils avaient un problème important, ils voulaient appeler, et les clients que nous servions par téléphone avaient une valeur à vie plus élevée et répondaient à un taux beaucoup plus élevé que tout autre canal. Cependant, les fournisseurs de logiciels de centres de contact se concentraient sur la « déviation » et l’« automatisation » plutôt que sur ce qui était juste pour les clients. Le résultat était un jeu interminable de cache-cache avec le numéro de téléphone qui punissait inutilement les clients.

Mon co-fondateur et moi sommes partis parce que nous croyions fortement que nous pouvions rendre la voix le canal le plus efficace en réduisant les coûts et en le rendant plus facile à utiliser. Je souhaite que j’avais eu Regal lorsque j’ai dirigé un grand centre de contact.

Vous avez lancé Regal en 2020, juste avant l’explosion de l’IA générative. Comment avez-vous évalué si l’IA vocale était techniquement viable – et qu’est-ce qui vous a donné la conviction d’agir tôt ?

Nous étions convaincus bien avant 2020 que la voix était le canal le plus important. Et en 2020, nous savions que nous pouvions construire des outils d’orchestration, de tests A/B et de personnalisation qui réduiraient les coûts et simplifieraient la gestion de la voix en tant que canal – qu’il s’agisse d’un humain, d’un vieux robot vocal ou de quelque chose de mieux à l’extrémité de la sphère. Nous avons donc vendu des outils pour que les centres de contact puissent mieux gérer les agents humains. Ce produit a grandi très rapidement.

Mais pour répondre à votre question, créer une entreprise est un saut de foi, et il a fallu du temps pour vraiment voir comment nous pouvions aller au-delà des limites des agents humains. Ce n’est qu’avec le lancement de ChatGPT à la fin de 2022 que nous avons vraiment vu une « IA » suffisamment bonne pour tenir une conversation. Et ce n’est qu’à la fin de 2023 que nous avons pu créer une démo pour un agent vocal que nous pensions qu’un client voudrait discuter.

Quels étaient certains des défis techniques les plus difficiles pour former des agents vocaux qui pouvaient égaler ou dépasser les performances humaines dans des conversations naturelles ?

Il y a tellement de défis techniques merveilleux sur lesquels travailler. De l’assurance que la latence est d’environ 500 ms, à la découverte de la façon de s’assurer que les agents IA ont tous les contextes des bases de connaissances de l’entreprise et des données client en temps réel, à la prise d’action dans les appels et après, aux gardiens ou aux fonctionnalités de sécurité, et à la façon de faire que l’interaction de l’agent se sente humaine avec des tours et les bons signaux verbaux.

L’un de mes projets préférés sur lesquels notre équipe travaille aujourd’hui est la façon d’améliorer les évaluations automatisées afin qu’un agent IA puisse être testé plus facilement avant d’être mis en production. Cela éliminerait des centaines d’heures de tests manuels qui se produisent constamment aujourd’hui pour chaque modification apportée à chaque agent IA.

Nous devons d’abord créer des centaines de conversations client simulées variées (à l’aide de l’IA), les faire passer par l’agent IA, puis faire que l’agent IA superviseur les évalue et retourne des améliorations suggérées à l’agent IA ou aux politiques et bases de connaissances de l’entreprise. Nous avons un produit d’évaluation fonctionnel, les commentaires des clients ont été excellents, et il s’améliore à un rythme incroyable.

Ceci est critique pour la nouvelle métrique du nombre de gestionnaires par agent IA. Bientôt, très peu de gestionnaires seront en mesure de gérer des centaines d’agents IA différents.

Comment Regal utilise-t-il l’apprentissage automatique pour personnaliser les conversations en temps réel ? Est-ce basé sur l’historique du client, le ton, la reconnaissance d’intention – ou une combinaison ?

Nous avons investi profondément dans la personnalisation par rapport au reste du marché, car nous croyons en aider les marques à tester des millions de clients comme un sur un million. Pas seulement en recréant la gestion générique de l’agent humain qui est souvent utilisée aujourd’hui.

Nous avons commencé par construire un profil client unifié qui relie toutes les données CRM, les données d’événement et l’historique des conversations. Lors de la construction d’un agent, les entreprises peuvent alors donner à l’agent IA l’accès à toutes les informations sur un client ou seulement aux points de données spécifiques nécessaires pour une conversation particulière. Le LLM fournit une réponse conversationnelle similaire à celle d’un humain en utilisant les données disponibles.

Les LLM sont encore limités dans ce qu’ils font bien, nous devions donc avoir la possibilité d’utiliser d’autres outils comme des services de données tiers, des applications personnalisées et du ML. Nous avons donc construit des « Actions personnalisées » qui peuvent être utilisées dans une invite d’agent IA pour tirer parti de ces autres services. Par exemple, de nombreuses marques ont des modèles de propension pour indiquer quel produit suggérer au client ensuite, et nous pouvons nous connecter à ceux-ci pour adapter la conversation.

Comment votre système utilise-t-il la génération assistée par récupération (RAG) sans sacrifier la réactivité ou le rythme naturel que les clients attendent d’un appel en direct ?

La RAG est un domaine de différenciation pour nous, car elle devait être plus rapide pour les agents IA vocaux que pour les agents IA dans les canaux de chat ou les canaux numériques. Quelques secondes de temps mort auraient complètement gâché l’appel.

Nous avons réduit la latence de récupération et nous nous sommes assurés que si la récupération prenait plus de temps, l’agent IA pouvait continuer à parler avec le client pour le laisser savoir que cela prendrait plus de temps.

Les agents de Regal sont modélisés sur des voix humaines réelles, y compris celles d’investisseurs réels. Qu’est-ce que cela prend – techniquement et éthiquement – pour construire de telles répliques de haute fidélité ?

Il est étonnamment facile techniquement de « cloner » une voix pour qu’un agent IA puisse ressembler à un acteur vocal professionnel ou à un ami. 5-10 minutes d’audio de haute qualité suffisent.

Par exemple, on m’a récemment demandé comment faire cela pour un membre de la famille mourant afin que la génération plus jeune puisse l’expérir lorsqu’elle sera plus âgée. Avec un peu de conseils, ils vont enregistrer le grand-parent mourant maintenant.

En ce qui concerne votre deuxième point, le grand-parent consent à cela, et les acteurs vocaux professionnels ou nos investisseurs consentent à cela. Les mauvais acteurs qui permettent le clonage de voix sans consentement (comme ce qui s’est passé lors de la dernière élection présidentielle) devraient être fermés.

Un conseil – si vous permettez un clonage de voix (ou si vous êtes une personnalité publique qui pourrait être clonée par de mauvais acteurs), assurez-vous de créer un mot de passe sécurisé que seule votre famille connaît afin qu’elle puisse identifier le vrai vous à l’appel.

Vous mettez en avant l’importance de l’intégration de Regal dans les CRM, les systèmes de paiement et les API internes. Quels étaient certains des défis d’intégration les plus difficiles que vous avez dû résoudre ?

L’intégration avec des produits majeurs tels que les CRM de Salesforce (CRM ) ou les logiciels de centre de contact de NICE est simple. La demande la plus difficile est de s’assurer que la marque met les API à notre disposition pour toute action que l’agent IA pourrait avoir besoin de prendre. Un agent humain pourrait cliquer sur un bouton pour réserver une chambre d’hôtel. Mais l’agent IA a vraiment besoin d’une API de réservation.

Comment abordez-vous la mesure et l’amélioration des performances du modèle avec le temps ? Quel rôle joue la fine-tuning supervisée ou l’apprentissage par renforcement dans ce processus ?

Nous avons construit un ensemble de tests A/B dès le départ, il est donc trivial pour les clients de tester les agents IA par rapport aux agents humains ou l’agent avec la version LLM 1 par rapport à la version 2. Cela nous donne un moyen clair de voir les variations de résultat pour les différents modèles.

Cependant, nous n’utilisons pas l’apprentissage par renforcement aujourd’hui, car cela rend les équipes juridiques mal à l’aise (elles ne veulent pas d’une situation où il y a un changement dans la senteur qui n’est pas intentionnel). Je pense que nous sommes à 13 mois des équipes juridiques qui autoriseront l’apprentissage par renforcement dans notre cas d’utilisation. Au lieu de cela, nous nous concentrons aujourd’hui sur la suggestion de modifications que un gestionnaire humain peut accepter. Cela pourrait être une invite, une base de connaissances, une fine-tuning d’un LLM, etc.

Parler à un VC – ou à un clone vocal de l’un d’eux – est un concept audacieux. Quelle était votre intention en rendant ces conseillers IA disponibles aux fondateurs, et comment sont-ils utilisés aujourd’hui ?

Nous avons eu la chance d’avoir accès à des investisseurs merveilleux et nous voulions rendre la pareille avec ce projet. J’aime discuter avec Satya AI à tout moment, et j’ai entendu des commentaires excellents de la part de dirigeants qui ont utilisé les VC IA pour tout, des conseils sur la façon de créer une feuille de route de produit à quel modèle de tarification utiliser.

Nous aimons montrer plutôt que dire, et ce projet met vraiment en évidence le pouvoir de nos capacités RAG/base de connaissances. Nous avons même eu deux de nos investisseurs dont les parents nous ont donné le pouce levé !

Mais un mot de sagesse – vous ne pouvez pas déléguer la prise de décision aux conseillers et l’un des aspects les plus difficiles de l’exécution est de décider entre deux options mauvaises ou même deux options apparemment bonnes.

Ces agents d’investisseurs s’appuient-ils sur des connaissances générales de démarrage, ou sont-ils formés sur des conseils et des philosophies spécifiques à la société liés à l’investisseur individuel ?

Tous les agents IA ont certaines connaissances génériques provenant de la formation LLM. Mais pour obtenir les résultats dont nous avions besoin, nous avons téléchargé les écrits prolifiques des investisseurs dans les bases de connaissances d’agent IA respectives.

Au-delà de cela et du clonage de voix, je pense que nous avons également pu capturer certaines des personnalités uniques des investisseurs ou de leur essence, comme la positivité de Jake Saper ou l’effervescence d’Alexa Von Tobel.

En regardant vers l’avenir, comment voyez-vous l’évolution de l’IA de Regal – allons-nous voir plus de prise de décision autonome, plus d’intelligence émotionnelle ou même un support multimodal ?

La partie la plus excitante de la dernière année a été de voir nos agents IA performer mieux que les agents humains. Je pense que dans l’année à venir, les améliorations des modèles d’IA sous-jacents et les progrès de l’application de Regal entraîneront des agents IA qui sont indiscernables des humains, et plus important encore, qui dépassent les capacités des agents humains. Les entreprises qui s’appuient sur les agents IA réduiront leurs coûts et amélioreront l’expérience client plus rapidement que quiconque ne l’aurait anticipé.

Merci pour cette grande interview, les lecteurs qui souhaitent en savoir plus peuvent visiter Regal.