Will Bodewes, cofondateur et PDG de Phonely – Série d’entretiens

Will Bodewes est le cofondateur et PDG de Phonely, une entreprise spécialisée dans l’IA vocale qui aide les entreprises à répondre aux appels et à améliorer l’issue des conversations avec leurs clients. Avant de créer l’entreprise, il préparait un doctorat à l’University of Melbourne, où il faisait des recherches sur l’intelligence artificielle appliquée et les systèmes capables de suivre des instructions tout en communiquant naturellement. Il a auparavant fondé une start-up spécialisée dans les technologies audio et participé à des compétitions de ski de fond de la NCAA et de cyclisme d’ultra-endurance. Chez Phonely, il met cette expérience de la recherche au service des défis pratiques liés au déploiement d’agents vocaux, notamment la fiabilité des conversations, la latence, les intégrations et l’optimisation continue des processus de réservation, de vente et de service client.

Phonely est une plateforme d’agents vocaux fondés sur l’IA qui permet aux entreprises d’automatiser les conversations téléphoniques, de planifier des rendez-vous, de qualifier des prospects, d’acheminer des appels et de relier les échanges avec les clients aux logiciels déjà en place. Ses outils associent des flux de conversation personnalisables à l’historique des appels, à des outils d’analyse et à des tests A/B, afin que les équipes puissent mesurer les performances et améliorer les résultats au fil du temps. L’entreprise accompagne des organisations allant des petites entreprises aux grandes sociétés et indique servir plus de 10 000 entreprises et traiter plus de 120 000 appels par jour. Phonely développe également ses propres modèles conversationnels, dont Alma, dans le but de rendre les appels automatisés plus rapides, plus fiables et mieux adaptés aux conversations professionnelles réelles.

Vous avez commencé à créer Phonely pendant votre doctorat en IA à l’University of Melbourne, en vous attachant d’abord à concevoir des systèmes capables de suivre des instructions tout en communiquant naturellement. Qu’est-ce qui vous a convaincu que l’IA vocale était arrivée à un stade où elle pouvait soutenir une entreprise à part entière, et qu’avez-vous perçu sur le marché que les autres n’avaient pas vu ?

À l’époque, rien ne prouvait que l’IA vocale puisse soutenir une entreprise à part entière. Deux entreprises travaillaient sur le sujet et comptaient environ cinq ou dix utilisateurs, mais personne n’avait réussi à déployer une IA vocale qui ne soit pas un système de réponse vocale interactive (SVI). Alors, lorsque nous avons créé Phonely, c’était un pari. À l’époque, tout était axé sur les conversations par chat ; la voix était donc un nouveau canal. Le problème n’était pas résolu, alors nous nous sommes dit : « Pourquoi ne pas nous y attaquer ? Pourquoi ne pas essayer de le résoudre ? »

Votre recherche doctorale avait pour objectif de créer une IA capable de « suivre des instructions comme un robot et de parler comme une personne ». Quelles avancées techniques vous ont fait comprendre que ces travaux pourraient servir de fondement à une plateforme commerciale d’IA vocale ?

Ces recherches étaient précieuses et importantes pour comprendre les principes fondamentaux de la technologie en jeu. Elles m’ont permis d’anticiper les évolutions et de voir ce qui se profilait. Je comprenais la nature de ces modèles, leur fonctionnement et ce qui se préparait, ce qui m’a donné la capacité de faire un pari. Plus précisément, je voulais créer une entreprise et avoir un impact, et c’était le domaine qui se rapprochait le plus de ce que je connaissais et de ce que je voyais venir. Je voulais en faire partie.

Vous avez expliqué que chaque appel téléphonique constitue un entonnoir que les entreprises n’ont historiquement pas été en mesure d’optimiser de façon systématique. À quoi ressemble concrètement l’optimisation d’une conversation téléphonique, et comment l’IA peut-elle améliorer au fil du temps les taux de conversion, les taux de résolution ou l’expérience client ?

Prenons l’exemple d’une prise de rendez-vous avec un plombier. La personne au téléphone est formée pour recueillir vos coordonnées et fixer le rendez-vous, mais selon la façon dont elle pose ses questions, elle peut aussi vous faire découvrir des services que vous ne saviez pas que l’entreprise proposait. Vous pourriez donc prendre rendez-vous pour un problème de plomberie et vous rendre compte que vous aviez également besoin de faire réparer votre évier. Un agent vocal IA bien entraîné fait la même chose et aide l’entreprise à proposer des ventes additionnelles à ses clients et à générer davantage de revenus. Il pourrait proposer un produit sur lequel une nouvelle personne à l’accueil n’aurait pas été formée et ajouter une prestation à la commande, ce qui rendrait le client plus satisfait et améliorerait les résultats de l’entreprise. Une simple interface vocale ChatGPT ne sait pas faire cela. Il faut un produit conçu et entraîné à cette fin.

De plus, les humains peuvent manquer des appels, ne pas répondre au téléphone ou rediriger les appels vers la messagerie vocale. Cela peut mettre en péril les petites entreprises aux États-Unis. Elles n’ont pas de personnel pour répondre au téléphone, ne peuvent pas garantir une qualité constante et n’ont aucun moyen de l’optimiser. Avec l’IA, si un appel n’aboutit pas au résultat souhaité par l’entreprise, nous pouvons l’optimiser à partir des données dont nous disposons. Grâce à la rapidité de l’IA, nous pouvons modifier la conversation, ce qui serait presque impossible à faire aussi rapidement avec des humains.

Aujourd’hui, tout le monde envisage l’IA sous l’angle des économies. Mais nous pensons qu’il faudrait plutôt la voir comme un moteur de croissance. Les entreprises peuvent réellement se développer en adoptant l’IA et ainsi obtenir de meilleurs résultats qu’auparavant.

L’IA vocale doit relever des défis auxquels l’IA textuelle peut souvent échapper, notamment la latence, les interruptions, les accents, le bruit de fond, les signaux émotionnels et le caractère imprévisible des conversations. Lequel de ces problèmes a été le plus difficile à résoudre de manière fiable à l’échelle des grandes entreprises ?

La latence est le principal problème. Nous l’avons résolu, mais au début, elle nous a donné énormément de fil à retordre, pour deux raisons.

Tout d’abord, nous nous appuyions sur des start-up dont les services n’étaient pas fiables. Une part importante des requêtes API envoyées à OpenAI échouait, sans qu’aucune réponse ne nous parvienne. Au téléphone, cela revient à raccrocher ; nous avons donc dû mettre en place des tentatives répétées.

Le deuxième problème était la capacité. Lorsqu’on envoyait une requête à OpenAI, on se retrouvait bloqué dans une file d’attente, derrière des centaines, voire des milliers d’autres requêtes, sans savoir où l’on se situait dans cette file. La réponse pouvait mettre 30 secondes à arriver. Pour contourner le problème, nous avons étudié l’emplacement des points de terminaison d’OpenAI dans le monde et changé ceux que nous sollicitions en fonction des pays où il faisait nuit et où la demande était faible. Nous avons dû construire toute cette infrastructure simplement pour trouver les points de terminaison les moins sollicités à un instant donné. C’était un problème technique assez intéressant. Aujourd’hui, nous entraînons nos propres modèles, dont Alma, et nous n’avons donc plus à nous en soucier, puisque nous maîtrisons les capacités de calcul et la demande.

Phonely traite désormais plus de 120 000 appels par jour pour des milliers d’entreprises. Qu’avez-vous appris en exploitant des agents vocaux à cette échelle, qui n’était pas évident lorsque vous développiez la première version de la plateforme ?

Il est vraiment essentiel d’être opérationnel 100 % du temps. L’un des défis d’ingénierie les plus difficiles que nous ayons dû relever concerne la fiabilité et la rapidité. Le secteur de l’IA évolue à une vitesse incroyable, et nous avançons vite, même pour une entreprise spécialisée dans l’IA. Y Combinator a une devise : « Avancer vite et casser des choses. » Mais quand vos clients passent 120 000 appels par jour, vous ne pouvez pas vous permettre de tout casser. Une grande partie de notre travail a donc consisté à trouver comment livrer les nouveautés au rythme nécessaire pour rester pertinents et faire évoluer le produit, tout en garantissant la satisfaction et la stabilité de nos clients grands comptes, à mesure que nous développions de nouvelles fonctionnalités pour garder une longueur d’avance sur le marché. La fiabilité a probablement été l’un des plus grands défis auxquels nous avons été confrontés en bâtissant l’entreprise.

Les systèmes d’IA générative peuvent se comporter de manière imprévisible, mais un agent téléphonique en contact avec la clientèle peut gérer des paiements, des réservations, des questions de santé ou d’autres interactions à forts enjeux. Comment concevez-vous des agents vocaux qui restent flexibles et capables de converser sans halluciner ni dépasser les limites de leur autorisation ?

Nous l’avons appris à nos dépens il y a environ deux ans ; aujourd’hui, cette approche est largement adoptée dans le secteur. Nous avons compris que le principal problème des grands modèles de langage tient au contexte. Lorsqu’on met trop d’éléments dans une instruction, par exemple des pages entières de consignes, le risque que quelque chose se passe mal augmente.

Nous avons donc conçu un système d’orchestration à huit agents, qui passe d’un agent à l’autre, chacun disposant de son propre contexte. C’est comparable à la façon dont une personne suit un script lors d’un appel : elle recueille certaines informations, passe à l’étape suivante, et ainsi de suite. Cela nous permet de séparer les étapes au niveau du code. Si, avant de vous rembourser, je devais recueillir votre nom, votre adresse e-mail, votre numéro de téléphone et votre date de naissance, je pourrais garantir que ces informations seraient recueillies au niveau du code avant de passer à la suite. On ne peut pas le garantir en s’appuyant uniquement sur un grand modèle de langage. En créant cette couche d’orchestration des agents, on peut atteindre une fiabilité de 100 %, car toutes les étapes sont enregistrées avant le transfert vers un nouvel agent, qui conserve le contexte tout en étant limité à ses propres instructions.

Une installation de Phonely aurait généré 10 millions de dollars de nouveaux revenus nets pour un client en seulement trois mois. Qu’est-ce qui a permis à l’IA de produire un tel impact commercial mesurable, et selon vous, dans quels domaines l’IA vocale offre-t-elle aujourd’hui le meilleur retour sur investissement ?

Nous avons pu le faire parce que nous disposions des indicateurs du client. Comme il cherchait à augmenter ses ventes et qu’il s’agissait d’appels entrants, il qualifiait les appelants ; nous pouvions donc suivre les résultats. Selon les jours, son centre d’appels affichait un taux de conversion d’environ 35 à 42 %. Après avoir obtenu ces informations auprès du client, nous avons repris ses parcours et optimisé l’agent. Nous avons commencé avec un taux de conversion d’environ 20 %. Au cours des mois suivants, nous avons procédé par itérations, ajusté certains éléments et optimisé le système, jusqu’à dépasser les performances de son centre d’appels dans la majorité des cas. Notre taux de conversion a continué d’augmenter, car nous avons identifié les problèmes et veillé à ce que l’expérience soit toujours cohérente et irréprochable. Nous avons réussi à faire mieux qu’un centre d’appels.

À mesure que les agents vocaux gagnent en capacités, où les entreprises devraient-elles placer la limite entre les conversations pouvant être entièrement automatisées et les situations qui nécessitent toujours l’intervention d’une personne ?

Les entreprises devraient pouvoir automatiser tout processus répétitif qu’elles souhaitent faire suivre, à condition qu’il soit suffisamment bien défini.

Cependant, l’automatisation devient difficile dans certains cas. D’abord, les intégrations sans API : supposons que vous ayez besoin d’intégrer un logiciel qui ne dispose pas d’API. Il est difficile de contourner cette limite, même si certaines automatisations dans le navigateur sont possibles. Autre difficulté : les situations où plusieurs transferts s’enchaînent entre un agent et une personne, puis de nouveau vers un agent. Enfin, il y a les lacunes de contexte. Imaginons que j’aie oublié mon portefeuille dans un restaurant. L’IA ne pourra jamais résoudre ce problème, car elle ne sait pas si vous avez votre portefeuille et ne peut pas vérifier s’il se trouve au restaurant.

Certaines situations nécessiteront toujours l’intervention d’une personne, de même que les tâches plus complexes qui mobilisent plusieurs systèmes. Évitez d’utiliser un agent pour ce type de cas.

Phonely a récemment levé 16 millions de dollars lors d’un tour de série A, après avoir dépassé les 10 000 entreprises clientes. À quoi ressemblera la prochaine étape du développement de l’entreprise, et quelles capacités techniques, selon vous, permettront aux plateformes vocales d’IA de nouvelle génération de se démarquer ?

La prochaine étape consiste à étoffer l’équipe et à continuer d’y investir. Nous misons tout sur cette idée. Beaucoup d’entreprises se lancent dans l’IA vocale, et elles réussiront probablement assez bien dans différents domaines. Mais, pour notre part, nous ne construisons pas simplement un agent vocal. Nous développons une plateforme d’optimisation et utilisons la voix comme canal. Pour les entreprises qui cherchent à obtenir des prospects et à générer des revenus grâce à leurs appels téléphoniques, notre objectif est entièrement d’optimiser les agents d’IA afin qu’ils produisent les résultats recherchés par les clients. Voyez Phonely comme une entreprise spécialisée dans l’optimisation, auprès de laquelle les entreprises souhaitent améliorer les performances de leurs agents.

Vos recherches universitaires ont également exploré l’utilisation de l’IA et des compteurs intelligents pour élargir l’accès à l’énergie et aux solutions de cuisson propre dans les économies en développement. Au-delà de Phonely, comment voyez-vous l’IA contribuer à résoudre de grands problèmes concrets, comme l’accès à l’énergie, et est-ce un domaine dans lequel vous espérez, à terme, vous réinvestir ?

L’IA peut apporter beaucoup de positif, mais nombre de problèmes existants sont causés par les êtres humains ; un changement doit donc aussi venir de ce côté. La technologie ne peut pas résoudre tous les problèmes. En revanche, permettre à la technologie et au changement humain d’évoluer simultanément aura un effet positif net sur le monde.

Merci pour cet excellent entretien. Les lecteurs qui souhaitent en savoir plus peuvent se rendre sur Phonely.