Sean Whiteley, Fondateur et Président de Qualified – Série d’entretiens

Vous avez fondé avec succès trois entreprises, dont une acquise par Salesforce et une autre par SurveyMonkey. Qu’est-ce qui vous a inspiré à créer Qualified, et comment s’inscrit-elle dans l’évolution plus large de l’IA dans les logiciels d’entreprise ?

Kraig et moi avons fondé une société de marketing de recherche qui a été acquise par Salesforce. C’était au début de la révolution du cloud, et virtuellement tous les programmes de marketing étaient en train de passer rapidement au numérique. Il est devenu immédiatement évident qu’il y avait une grande déconnexion dans la façon dont les vendeurs se connectaient avec les acheteurs dans ce nouveau monde. Les entreprises dépensaient des millions pour attirer du trafic sur leurs sites Web, mais lorsque ces acheteurs à forte intention arrivaient, l’expérience d’engagement n’avait pas évolué. C’était comme organiser et payer une fête spéciale pour vos prospects, mais oublier de répondre à la porte lorsqu’ils arrivaient.

C’est là que l’idée de Qualified est née. Nous voulions créer un moyen pour les équipes de ventes de rencontrer des acheteurs qualifiés dès qu’ils arrivent sur le site – avec pertinence, contexte et expériences hyper-personnalisées en temps réel qui sont représentatives de ce que les acheteurs veulent. Avançons jusqu’à aujourd’hui, et nous avons évolué cette vision en quelque chose de beaucoup plus grand : une couche de marketing agentic qui effectue chaque workflow d’un processus de marketing entrant, allant des interactions en temps réel sur le site Web aux interactions asynchrones par e-mail. Qualified est conçu pour cette prochaine vague de logiciels d’entreprise, où les travailleurs IA ne sont pas seulement exécutés des tâches et des workflows, mais prennent également des décisions contextuelles au nom de votre entreprise.

Comment votre vision de l’IA a-t-elle changé de vos débuts dans le marketing de recherche à aujourd’hui, avec Piper automatisant les ventes entrantes à grande échelle ?

Évidemment, l’émergence des grands modèles de langage (LLM) a complètement changé le jeu dans son ensemble. Lorsque nous avons créé notre première entreprise, c’était les débuts du cloud, qui représentaient un changement fondamental dans le modèle de livraison de logiciels. Des choses comme l’infrastructure partagée, la multi-locataire et les tarifs à l’utilisation ont ouvert la voie aux entreprises pour déplacer des applications et des processus critiques vers le cloud. Peu de temps après, la plate-forme et l’infrastructure sont devenues disponibles sous forme de services, ce qui a été à nouveau un énorme facteur d’enablement pour les entreprises pour décharger des charges de travail importantes vers les fournisseurs de cloud. Tout a changé.

Avançons d’une décennie, et la révolution de l’IA a explosé. Il y a quelques années, lorsque nous avons lancé Qualified, l’apprentissage automatique (ML) représentait un nouveau moyen d’harnacher l’intelligence à partir de vastes ensembles de données. Maintenant, bien sûr, les LLM ont changé tout en termes de notre capacité à déplacer des charges de travail importantes vers l’IA. Mais plus important encore, les LLM rendent l’IA accessible à tous, et les gens ont la capacité d’interagir avec des ordinateurs, des applications ou des données en utilisant leur langage naturel. Et même si nous sommes vraiment juste au début, il est très clair que beaucoup de choses que nous avons faites historiquement seront réécrites et faites de nouvelles manières. Cela ne s’applique pas seulement à la façon dont nous vivons, mais également à la façon dont nous travaillons.

L’une de nos maximes à Qualified est de remettre en question tout ce que nous avons fait historiquement et d’évaluer comment cela sera transformé avec l’IA. L’IA ne changera pas seulement la nature de la façon dont nous construisons des systèmes, mais débloquera également de nouveaux processus, opérations et structures d’organisation.

La première vague de cette transformation de l’IA s’est manifestée dans les agents. Chaque entreprise amène des couches agentiques dans diverses fonctions de l’entreprise. Notre agent SDR AI a été un endroit très populaire pour commencer en ce qui concerne l’introduction d’une couche agentic dans un mouvement de marketing. Et il devient très clair que non seulement Piper peut automatiser virtuellement toutes les tâches et les workflows de génération de pipeline entrant historiquement exécutés par des SDR humains, mais qu’elle peut également commencer à gérer beaucoup de workflows traditionnellement effectués avec des plates-formes d’automatisation de marketing.

Piper est un exemple puissant d’un agent IA autonome en action. Où tirez-vous personnellement la ligne entre l’automatisation utile et l’autonomie risquée ?

L’autonomie ne peut exister sans responsabilité. La confiance peut être gagnée ou perdue de manière exponentielle dans un système agentic. Nous ne construisons plus d’outils de cloud. Nous déployons maintenant des travailleurs autonomes qui prennent des décisions au nom de nos clients. Il y a des enjeux plus élevés en termes de fiabilité et de confiance que jamais auparavant. Un comportement d’agent inexact ou inutile devrait être la priorité numéro un pour quiconque développe des agents. Tout aussi important que d’investir dans les capacités autour de la formation, du réglage, de la transparence, des citations et du contrôle, est de permettre au client de construire les fondations de gouvernance pour un agent.

Avec Piper, nous avons été intentionnels pour construire une autonomie utile – une IA qui fonctionne dans des limites clairement définies, alimentée par notre riche histoire de partenariats avec nos clients utilisant nos produits aujourd’hui. La ligne pour moi est assez claire : l’automatisation ne devrait jamais remplacer le jugement dans les moments qui exigent du contexte, de l’empathie ou de la nuance.

Piper n’essaie pas de posséder l’ensemble du parcours de l’acheteur dès le départ. Il y a un processus de montée en puissance important pour garantir que l’agent fonctionne non seulement de manière efficace, mais également avec précision et dans les limites définies par un client. Vous ne pouvez pas simplement lâcher un agent en production qui interagit avec vos prospects et clients sans comprendre comment cela affectera le cycle d’achat complet.

Donc pour moi, la ligne est tracée à la confiance, à l’observabilité et au contrôle. Si nous ne pouvons pas fournir d’explicabilité ou mesurer ses performances, alors ce n’est pas prêt. La plupart des entreprises avec lesquelles je parle sont de plus en plus éduquées et réfléchissent à ces choses de la bonne manière, mais c’est notre travail d’aider nos clients à mettre en place les bonnes limites, la modération et les meilleures pratiques autour de la gouvernance.

Compte tenu des capacités croissantes des agents IA, comment vous assurez-vous que Piper reste dans les limites éthiques et contextuelles – notamment lorsqu’il s’agit d’interagir avec de vrais prospects humains dans des scénarios à haut risque ?

Dans l’application Qualified, vous pouvez programmer Piper pour rester dans certaines limites, contrôler son ton et garantir qu’elle respecte les politiques de l’entreprise. Ce sont des vérités absolues et des règles d’engagement qui ne peuvent pas être brisées lors de l’interaction avec les visiteurs. Nous fournissons des garde-fous et des limites importants au cœur de notre IA, ce qui signifie prendre des risques autour des données (PII) et des informations sensibles complètement hors de l’équation. De plus, nous permettons aux entreprises d’ajouter des garde-fous, des instructions et des règles d’engagement supplémentaires.

Nous permettons également à Piper de détourner doucement une conversation qui s’écarte du sujet. De plus, si nous avons le sentiment qu’il y a un mauvais acteur à une extrémité d’une interaction, Piper peut simplement mettre fin à une conversation si elle tend à aller dans une zone qui est :

• Non lié à l’entreprise, aux produits, aux services ou à l’industrie
• Aléatoire ou sans sens
• Explicite, inapproprié ou offensant
• Complètement en dehors de la portée de ce que l’AI SDR devrait gérer

Ces garde-fous stricts garantissent que Piper reste dans ses limites assignées, donnant à nos clients une confiance et un contrôle totaux sur son comportement.

Vous avez parlé de la nécessité de systèmes de rappel et de capacités de contournement. Pouvez-vous nous expliquer les mesures de sécurité et de contrôle que vous avez intégrées à la plateforme Qualified pour prévenir ou atténuer les erreurs d’IA ?

La confiance et la transparence / l’explicabilité vont de pair. La confiance commence par fournir des informations sur ce qui se passe, pourquoi cela se passe et comment influencer la façon dont cela fonctionne à l’avenir. Il y a des principes de base, tels que les citations, les boucles de rétroaction et le réglage / l’affinement. Mais nous avons également pris des mesures supplémentaires pour que nos utilisateurs puissent fournir une couche d’observabilité pour l’IA qui est facilement accessible et peut fournir une rétroaction humaine dans la boucle.

Par exemple, nous fournissons la capacité de simuler diverses circonstances et de voir facilement ce que l’IA fera, et de fournir des commentaires ou une correction de trajectoire sur chaque situation hypothétique. Tout comme vous amorcez un employé avant de lui donner l’autonomie, vous devez faire la même chose avec l’IA.

À la lumière des tendances de réglementation de l’IA et des dernières actualités sur les défaillances de l’IA, comment voyez-vous le rôle de la conformité et de la politique façonnant l’avenir des agents IA dans les ventes et le marketing ?

La réglementation et la gouvernance sont plus importantes que jamais. Il n’est pas difficile de penser au risque accru que les agents peuvent représenter s’ils ne sont pas déployés de manière responsable. Nous avons tous vu les résultats de lâcher l’IA sans contexte ou responsabilité. Dans le B2B, en particulier dans les ventes et le marketing où nous jouons, nous traitons une grande quantité de données d’entreprise et une certaine quantité d’informations personnelles identifiables (PII). Nous devons nous tenir nous-mêmes et nos clients à des normes élevées pour protéger l’expérience de nos acheteurs.

Nous construisons Piper avec une conformité d’entreprise de niveau initial. Cela signifie que nous pensons à la vie privée, à la sécurité et à la gouvernance dès la conception de tout ce que nous construisons et expédions. À mesure que l’IA évolue, les normes autour des suspects habituels de notre industrie, tels que le SOC 2, le RGPD, le CCPA, la gestion du consentement, etc. – ce sont toutes des choses que nous gardons à l’esprit chaque fois que nous expédions des fonctionnalités. Mais cocher les cases ne suffit pas. Nous créons une culture de transparence et construisons notre propre cadre éthique avant les réglementations plus formelles.

Ces pièces du puzzle de l’IA ne peuvent pas attendre les politiques formelles – si vous n’avez pas déjà établi ces normes au sein de vos équipes, vous êtes en retard.

Pensez-vous que les entreprises vont trop vite en donnant aux agents IA trop d’autonomie sans construire des structures de surveillance humaine adéquates ?

Nous avons tous vu les manchettes lorsque ces choses partent en vrille – il y a sans aucun doute des entreprises qui bougent trop rapidement et regardent l’IA comme des outils à mettre en œuvre au lieu d’une transformation commerciale totale.

L’automatisation n’est pas une stratégie. C’est un morceau de cette image plus large, mais cela nécessite une infrastructure et une réflexion à long terme pour éviter de faire des erreurs massives qui, à la fin de la journée, érodent la confiance avec vos clients. Vous ne pouvez pas récupérer cela.

La surveillance humaine n’est pas un inhibiteur du succès avec l’automatisation, c’est un facilitateur. L’IA fera le travail lourd, mais les humains dans la boucle sont nécessaires pour mettre à l’échelle de manière responsable.

Comment équilibrez-vous la vitesse et l’efficacité de l’IA avec des compétences humaines uniques comme le jugement, l’éthique et la nuance dans les interactions avec les clients ?

Nous regardons Piper comme un partenaire d’équipe. Ses forces – toujours activée, vitesse, rappel instantané, échelle infinie – font d’elle un agent SDR puissant, mais nous savons qu’elle ne peut pas posséder chaque interaction de bout en bout.

Les humains seront toujours nécessaires dans les conversations à haut risque où l’intelligence émotionnelle nuancée sert mieux l’acheteur. Utiliser l’IA dans les bons cas d’utilisation est la clé pour équilibrer l’automatisation et les compétences humaines. Piper est extrêmement rapide, mais elle sait quand s’arrêter et impliquer les humains.

Nous laissons l’IA faire ce que l’IA fait le mieux afin que les gens puissent faire ce que les gens font le mieux.

Vous êtes à la pointe du marketing agentic. Qu’est-ce qui vous excite le plus au cours des 2-3 prochaines années dans cet espace ?

Je me sens comme si l’ère de l’IA avait donné à beaucoup d’entre nous un second souffle après quelques années difficiles dans l’espace technologique. Le marketing agentic est une innovation puissante qui ouvre les portes à tout un nouveau tas de technologie, et c’est presque nivelé le terrain pour les entreprises de l’industrie.

Nous sommes tous sur ce manège ensemble, et nous sommes enfin passés au-delà de cette phase de gimmick initial et voyons quelles applications sont vraiment utiles.

Les deux à trois prochaines années seront toutes sur l’orchestration – à mesure que de plus en plus d’agents IA arrivent en ligne, le travail sera de déterminer comment construire les piles technologiques les plus puissantes qui travaillent ensemble en tant qu’équipe pour accomplir des workflows complexes.

Quels secteurs pensez-vous être les moins préparés aux implications des agents IA autonomes – et que devraient-ils faire maintenant pour prendre les devants ?

Les industries qui ont des hiérarchies rigides et des piles technologiques héritées sont à risque d’être laissées pour compte. Pour que le marketing agentic soit réussi, vous devez avoir une mentalité moderne autour de l’hygiène des données et des logiciels, et certaines de ces grandes opérations se déplacent lentement et ont beaucoup de dettes technologiques à naviguer. Ironiquement, ce sont les organisations qui ont le plus à gagner de l’IA – leurs workflows sont mûrs pour l’automatisation.

La clé maintenant est de commencer par l’infrastructure et non par la technologie. Ils devront mettre leur maison en ordre d’abord avec une planification stratégique autour des workflows où les agents ajoutent de la valeur. Ils devront avoir des cadres autour de la conformité et de la sécurité. Ensuite, ils pourront commencer à piloter certains de ces programmes.

Ce n’est pas seulement un projet IT – c’est un changement organisationnel complet, de haut en bas.

Je vous remercie pour cette grande interview, les lecteurs qui souhaitent en savoir plus devraient visiter Qualified.