Dimitri Masin, PDG et co-fondateur de Gradient Labs – Série d’entretiens

Dimitri Masin est le PDG et co-fondateur de Gradient Labs, une startup d’IA qui construit des agents de support client autonomes spécifiquement conçus pour les industries réglementées telles que les services financiers. Avant de fonder Gradient Labs en 2023, Masin a occupé des postes de direction chez Monzo Bank, notamment en tant que vice-président de la science des données, de la criminalité financière et de la fraude, et a précédemment travaillé chez Google. Sous sa direction, Gradient Labs a rapidement gagné en traction, atteignant 1 million de livres sterling de revenu récurrent annuel dans les cinq mois suivant son lancement. L’objectif de Masin est de développer des systèmes d’IA qui combinent des performances élevées avec une conformité réglementaire stricte, permettant une automatisation sûre et évolutives pour des opérations client complexes.

Qu’est-ce qui vous a inspiré à lancer Gradient Labs après un tel parcours réussi chez Monzo ?

Chez Monzo, nous avions passé des années à travailler sur l’automatisation du support client, visant généralement des gains d’efficacité modestes de 10 %. Mais au début de 2023, nous avons été témoins d’un changement technologique sismique avec la sortie de GPT-4. Soudain, il est devenu possible d’automatiser 70-80 % du travail manuel et répétitif de manière complètement autonome grâce à l’IA.

Ce changement technologique que nous vivons actuellement nous a inspirés à lancer Gradient Labs. Dans ma carrière, j’ai vu deux vagues révolutionnaires : la révolution mobile (qui a eu lieu au début de ma carrière) et maintenant l’IA. Lorsque vous vous rendez compte que vous êtes au milieu d’une telle transformation qui va complètement changer la façon dont le monde fonctionne, vous devez saisir le moment. Notre équipe savait – c’est le moment.

Chez Monzo, vous avez aidé à diriger l’entreprise à travers une croissance hyperbolique. Quelles étaient les principales leçons tirées de cette expérience que vous appliquez maintenant chez Gradient Labs ?

Premièrement, équilibrez l’autonomie avec la direction. Chez Monzo, nous avions initialement supposé que les gens prospéraient simplement sur l’autonomie – que c’est ce qui les motive le plus. Cependant, cette vision semble maintenant trop simpliste. Je crois que les gens valorisent également la direction. Une véritable autonomie ne consiste pas à dire aux gens “faites ce que vous décidez de faire”, mais plutôt à leur fournir une direction claire tout en leur donnant la liberté de résoudre des problèmes bien définis à leur manière.

Deuxièmement, les meilleurs talents nécessitent une rémunération élevée. Si vous visez à embaucher les 5 % supérieurs dans votre fonction, vous devez payer en conséquence. Sinon, les grandes entreprises technologiques les embaucheront une fois qu’il sera connu que vous avez des talents supérieurs qui sont sous-payés.

Troisièmement, ne réinventez pas la roue. Chez Monzo, nous avons essayé de créer des approches innovantes pour les structures de travail, les systèmes de rémunération et les échelons de carrière. La principale conclusion : ne gaspillez pas d’énergie à innover sur les fondements organisationnels – des milliers d’entreprises ont déjà établi les meilleures pratiques. Je vois encore des publications sur LinkedIn sur “l’élimination de tous les titres et la hiérarchie” – j’ai regardé cela se dérouler à plusieurs reprises, et presque toutes les entreprises finissent par revenir à des structures traditionnelles.

Gradient Labs se concentre sur les industries réglementées, qui ont traditionnellement des besoins complexes. Comment avez-vous abordé la construction d’un agent d’IA (comme Otto) qui peut fonctionner efficacement dans cet environnement ?

Nous avons adopté une approche non conventionnelle, rejetant les conseils typiques de sortir rapidement et d’itérer sur un produit en direct. Au lieu de cela, nous avons passé 14 mois avant de sortir Otto, en maintenant une barre de qualité très élevée dès le départ. Nous devions créer quelque chose que les banques et les institutions financières feraient confiance pour gérer leur support de manière complètement autonome.

Nous n’avons pas construit de copilotes – nous avons construit une automatisation de bout en bout du support client. Avec notre expérience dans les services financiers, nous avions un référentiel interne précis pour “ce qui ressemble à une bonne chose”, nous permettant d’évaluer la qualité sans nous appuyer sur les commentaires des clients. Cela nous a donné la liberté de nous obséder sur la qualité tout en itérant rapidement. Sans clients en direct, nous pouvions faire de plus grands bonds, casser des choses librement et pivoter rapidement – délivrant finalement un produit supérieur au lancement.

Otto va au-delà de la réponse à des questions simples et gère des flux de travail complexes. Pouvez-vous nous expliquer comment Otto gère des tâches à plusieurs étapes ou à haut risque que les agents d’IA typiques pourraient échouer ?

Nous avons construit Otto autour du concept de SOP (Standard Operating Procedures) – essentiellement des documents de guidance rédigés en anglais clair qui détaillent la façon de gérer des problèmes spécifiques, similaires à ce que vous donneriez à un agent humain.

Deux décisions architecturales clés rendent Otto particulièrement efficace pour gérer des flux de travail complexes :

Premièrement, nous limitons l’exposition aux outils. Un mode de défaillance courant pour les agents d’IA est de choisir incorrectement parmi de nombreuses options. Pour chaque procédure, nous exposons uniquement un petit sous-ensemble d’outils pertinents à Otto. Par exemple, dans un flux de travail de remplacement de carte, Otto pourrait ne voir que 1-2 outils au lieu de tous les 30 enregistrés dans le système. Cela améliore considérablement la précision en réduisant l’espace de décision.

Deuxièmement, nous avons reconstruit une grande partie de l’infrastructure typique d’assistant d’IA pour permettre une chaîne de raisonnement approfondie. Plutôt que de simplement jeter des procédures à un assistant OpenAI ou Anthropic, notre architecture permet des étapes de traitement multiples entre les entrées et les sorties. Cela permet une réflexion plus approfondie et des résultats plus fiables.

Gradient Labs mentionne l’obtention d’une “qualité supérieure à l’humaine” dans le support client. Qu’est-ce que “qualité supérieure à l’humaine” signifie pour vous, et comment la mesurez-vous internement ?

La qualité supérieure à l’humaine signifie fournir un support client mesurément meilleur que ce que les humains peuvent atteindre. Les trois exemples suivants illustrent cela :

Premièrement, des connaissances complètes. Les agents d’IA peuvent traiter de vastes quantités d’informations et avoir des connaissances détaillées d’une entreprise. En revanche, les humains apprennent généralement uniquement un petit sous-ensemble d’informations, et lorsqu’ils ne savent pas quelque chose, ils doivent consulter des bases de connaissances ou les faire monter à des collègues. Cela conduit à une expérience frustrante où les clients sont passés entre les équipes. Un agent d’IA, en revanche, a une compréhension approfondie de l’entreprise et de ses processus, fournissant des réponses cohérentes et complètes – sans escalation nécessaire.

Deuxièmement, des recherches non paresseuses – l’IA est rapide pour rassembler des informations. Alors que les humains essaient d’économiser du temps en posant des questions aux clients avant d’enquêter, l’IA examine proactivement les informations de compte, les drapeaux, les alertes et les messages d’erreur avant que la conversation ne commence. Ainsi, lorsque un client dit vaguement “J’ai un problème avec X”, l’IA peut immédiatement offrir une solution au lieu de poser plusieurs questions de clarification.

Enfin, patience et cohérence de la qualité. Contrairement aux humains qui font face à la pression de gérer un certain nombre de réponses par heure, notre IA maintient une qualité, une patience et une communication concise constamment élevées. Elle répond patiemment aussi longtemps que nécessaire sans se hâter.

Nous mesurons cela principalement à travers les scores de satisfaction client. Pour tous les clients actuels, nous atteignons des scores de satisfaction client moyens de 80 % à 90 % – généralement plus élevés que leurs équipes humaines.

Vous avez délibérément évité de lier Gradient Labs à un seul fournisseur de LLM. Pourquoi ce choix était-il important, et comment cela affecte-t-il les performances et la fiabilité pour vos clients ?

Au cours des deux dernières années, nous avons observé que nos plus grandes améliorations de performances provenaient de notre capacité à passer au meilleur modèle suivant chaque fois qu’OpenAI ou Anthropic publiait quelque chose de plus rapide, de meilleur ou de plus précis. L’agilité du modèle a été clé.

Cette flexibilité nous permet d’améliorer continuellement la qualité tout en gérant les coûts. Certaines tâches nécessitent des modèles plus puissants, d’autres moins puissants. Notre architecture nous permet d’adapter et d’évoluer avec le temps, en sélectionnant le modèle optimal pour chaque situation.

Éventuellement, nous prendrons en charge les LLM open source privés hébergés sur l’infrastructure des clients. En raison de notre architecture, ce sera une transition sans heurt, ce qui est particulièrement important lorsqu’on sert des banques qui peuvent avoir des exigences spécifiques concernant le déploiement de modèles.

Gradient Labs ne construit pas seulement un chatbot – vous visez à gérer les processus de back-office également. Quels sont les plus grands défis techniques ou opérationnels pour automatiser ces types de tâches avec l’IA ?

Il existe deux catégories distinctes de processus, chacune avec ses propres défis :

Pour les processus plus simples, la technologie existe déjà en grande partie. Le principal défi est l’intégration – la connexion aux nombreux systèmes et outils de back-end sur mesure que les institutions financières utilisent, car la plupart des opérations client impliquent de nombreux systèmes internes.

Pour les processus complexes, des défis techniques importants subsistent. Ces processus nécessitent généralement que les humains soient embauchés et formés pendant 6 à 12 mois pour développer une expertise, tels que les enquêtes sur la fraude ou les évaluations de blanchiment d’argent. Le défi ici est le transfert de connaissances – comment donner aux agents d’IA la même expertise de domaine ? C’est un problème difficile que tout le monde dans ce domaine essaie encore de résoudre.

Comment Gradient Labs équilibre-t-il le besoin de rapidité et d’efficacité de l’IA avec les exigences de conformité rigoureuses des industries réglementées ?

C’est certainement un équilibre, mais au niveau de la conversation, notre agent prend simplement plus de temps pour réfléchir. Il évalue de multiples facteurs : Est-ce que je comprends ce que le client demande ? Est-ce que je donne la bonne réponse ? Le client montre-t-il des signes de vulnérabilité ? Le client souhaite-t-il déposer une plainte ?

Cette approche délibérée augmente la latence – notre temps de réponse médian pourrait être de 15 à 20 secondes. Mais pour les institutions financières, c’est un échange équitable. Une réponse de 15 secondes est toujours beaucoup plus rapide qu’une réponse humaine, tandis que les garanties de qualité sont beaucoup plus importantes pour les entreprises réglementées avec lesquelles nous travaillons.

Prévoyez-vous un avenir où les agents d’IA seront considérés comme fiables non seulement pour le support, mais également pour les tâches de prise de décision à haut risque à l’intérieur des institutions financières ?

Les institutions financières utilisaient déjà des techniques d’IA plus traditionnelles pour les décisions à haut risque avant la vague actuelle d’IA générative. Là où je vois la véritable opportunité maintenant est dans l’orchestration – et non dans la prise de décision, mais dans la coordination de l’ensemble du processus.

Par exemple, un client télécharge des documents, un agent d’IA les achemine vers un système de validation, reçoit une confirmation de validité, puis déclenche des actions et des communications client appropriées. Cette fonction d’orchestration est là où les agents d’IA excellent.

Pour les décisions à haut risque elles-mêmes, je ne vois pas beaucoup de changement à court terme. Ces modèles nécessitent une explicabilité, une prévention des biais et une approbation par les comités de risque de modèle. Les grands modèles de langage feraient face à des défis de conformité importants dans ces contextes.

À votre avis, comment l’IA va-t-elle remodeler l’expérience client pour les banques, les entreprises fintech et d’autres secteurs réglementés au cours des 3 à 5 prochaines années ?

Je vois cinq tendances majeures qui remodeleront l’expérience client :

Premièrement, une interaction réellement omnicanale. Imaginez commencer une conversation dans votre application bancaire, puis passer en douceur à la voix avec le même agent d’IA. La voix, les appels et les chats se fondront en une expérience continue.

Deuxièmement, des interfaces utilisateur adaptatives qui minimisent la navigation dans l’application. Plutôt que de chercher dans les menus pour des fonctions spécifiques, les clients pourront simplement exprimer leurs besoins : “Augmentez mes limites” – et l’action se produira immédiatement par le biais de la conversation.

Troisièmement, de meilleures économies d’échelle. Le support et les opérations sont des centres de coûts massifs. La réduction de ces coûts pourrait permettre aux banques de servir des clients précédemment non rentables ou de passer les économies aux utilisateurs – en particulier dans les segments sous-bancarisés.

Quatrièmement, un support exceptionnel à grande échelle. Actuellement, les startups avec peu de clients peuvent fournir un support personnalisé, mais la qualité se dégrade généralement à mesure que les entreprises grandissent. L’IA rend un excellent support évolutif, et non seulement possible.

Enfin, le support client se transformera d’une nécessité frustrante en un service réellement utile. Il ne sera plus considéré comme un coût d’infrastructure intensif en main-d’œuvre, mais comme un point de contact client précieux et efficace qui améliore l’expérience globale.

Merci pour cette grande interview, les lecteurs qui souhaitent en savoir plus peuvent visiter Gradient Labs.