Sean Whiteley, Fondateur et Président de Qualified – Série d’entretiens

Vous avez fondé avec succès trois entreprises, dont une a été acquise par Salesforce et une autre par SurveyMonkey. Qu’est-ce qui vous a inspiré pour créer Qualified, et comment s’inscrit-elle dans l’évolution plus large de l’IA dans les logiciels d’entreprise ?

Kraig et moi avons fondé une entreprise de marketing de recherche qui a été acquise par Salesforce. C’était au début de la révolution du cloud, et virtuellement tous les programmes marketing étaient en train de passer au numérique. Il est devenu immédiatement évident qu’il y avait un énorme décalage dans la façon dont les vendeurs se connectaient avec les acheteurs dans ce nouveau monde. Les entreprises dépensaient des millions pour attirer du trafic sur leurs sites Web, mais lorsque ces acheteurs à forte intention arrivaient, l’expérience d’engagement n’avait pas évolué. C’était comme organiser et payer une fête spéciale pour vos prospects, mais oublier de répondre à la porte lorsqu’ils arrivaient.

C’est là que l’idée de Qualified est née. Nous voulions créer un moyen pour les équipes de vente de rencontrer les acheteurs qualifiés au moment où ils arrivaient sur le site, avec pertinence, contexte et des expériences personnalisées en temps réel qui sont représentatives de ce que les acheteurs veulent. En avançant dans le temps, nous avons évolué cette vision en quelque chose de beaucoup plus grand : une couche de marketing agentic qui effectue chaque workflow d’un processus de marketing entrant, allant des interactions en temps réel sur le site Web aux interactions asynchrones par e-mail. Qualified est conçu pour cette prochaine vague de logiciels d’entreprise, où les travailleurs IA ne sont pas seulement exécutés des tâches et des workflows, mais prennent également des décisions fondées sur le contexte au nom de votre entreprise.

Comment votre vision de l’IA a-t-elle changé depuis vos débuts dans le marketing de recherche jusqu’à maintenant, avec Piper qui automatise les ventes entrantes à grande échelle ?

L’émergence des grands modèles de langage (LLM) a complètement changé le jeu dans son ensemble. Lorsque nous avons lancé notre première entreprise, c’était les débuts du cloud, qui représentaient un changement fondamental dans le modèle de livraison de logiciels. Des choses comme l’infrastructure partagée, la multi-locataire et les tarifs à l’utilisation ont ouvert la voie aux entreprises pour déplacer des applications et des processus critiques vers le cloud. Peu de temps après, la plate-forme et l’infrastructure sont devenues disponibles sous forme de services, ce qui était à nouveau un énorme catalyseur pour les entreprises pour décharger des charges de travail importantes vers les fournisseurs de cloud. Tout a changé.

En avançant dans le temps, la révolution de l’IA a explosé. Il y a quelques années, lorsque nous avons lancé Qualified, l’apprentissage automatique (ML) représentait un nouveau moyen d’exploiter l’intelligence à partir de vastes ensembles de données. Maintenant, bien sûr, les LLM ont tout changé en termes de notre capacité à déplacer des charges de travail importantes vers l’IA. Mais plus important encore, les LLM rendent l’IA accessible à tous, et les gens ont la possibilité d’interagir avec des ordinateurs, des applications ou des données en utilisant leur langage naturel. Et même si nous sommes vraiment au début, il est très clair qu’un grand nombre de choses que nous avons faites historiquement seront réécrites et faites de nouvelles manières. Cela ne s’applique pas seulement à la façon dont nous vivons, mais également à la façon dont nous travaillons.

L’une de nos maximes chez Qualified est de remettre en question tout ce que nous avons fait historiquement et d’évaluer comment cela sera transformé avec l’IA. L’IA ne changera pas seulement la nature de la façon dont nous construisons des systèmes, mais débloquera également de nouveaux processus, opérations et structures d’organisation.

La première vague de cette transformation de l’IA s’est manifestée par les agents. Toutes les entreprises introduisent des couches agentiques dans diverses fonctions à travers l’entreprise. Notre agent SDR IA a été un endroit très populaire pour commencer en ce qui concerne l’introduction d’une couche agentic dans un mouvement marketing. Et il devient très clair que non seulement Piper peut automatiser virtuellement toutes les tâches et les workflows de génération de pipeline entrant historiquement exécutés par des SDR humains, mais qu’elle peut également gérer un grand nombre des workflows traditionnellement effectués avec des plates-formes d’automatisation marketing.

Piper est un exemple puissant d’un agent IA autonome en action. Où tirez-vous personnellement la ligne entre l’automatisation utile et l’autonomie risquée ?

L’autonomie ne peut exister en toute sécurité sans responsabilité. La confiance peut être gagnée ou perdue de manière exponentielle dans un système agentic. Nous ne construisons plus d’outils cloud. Nous déployons maintenant des travailleurs autonomes qui prennent des décisions au nom de nos clients. Il y a des enjeux plus élevés pour la fiabilité et la confiance que jamais auparavant. Un comportement d’agent inexact ou inutile devrait être la priorité numéro un pour quiconque développe des agents. Tout aussi important que d’investir dans les capacités autour de la formation, du réglage, de la transparence, des citations et du contrôle, est de permettre au client de construire les fondements de gouvernance pour un agent.

Avec Piper, nous avons été intentionnels dans la construction d’une autonomie utile – une IA qui fonctionne dans des limites clairement définies, alimentée par notre riche histoire de partenariats avec nos clients qui utilisent nos produits aujourd’hui. La ligne pour moi est assez claire : l’automatisation ne devrait jamais remplacer le jugement dans les moments qui exigent du contexte, de l’empathie ou de la nuance.

Piper n’essaie pas de posséder l’ensemble du parcours de l’acheteur dès le départ. Il y a un processus de montée en puissance important pour garantir que l’agent fonctionne non seulement de manière efficace, mais également avec précision et dans les limites définies par un client. Vous ne pouvez pas simplement lâcher un agent en production qui interagit avec vos prospects et vos clients sans comprendre comment cela affectera le cycle d’achat complet.

Donc, pour moi, la ligne est tracée à la confiance, à l’observabilité et au contrôle. Si nous ne pouvons pas fournir d’explicabilité ou mesurer ses performances, alors ce n’est pas prêt. La plupart des entreprises avec lesquelles je parle sont de plus en plus éduquées et réfléchissent à ces choses de la bonne manière, mais il est de notre responsabilité d’aider nos clients à mettre en place les bonnes limites, la modération et les meilleures pratiques en matière de gouvernance.

Compte tenu des capacités croissantes des agents IA, comment vous assurez-vous que Piper reste dans les limites éthiques et contextuelles – en particulier lorsqu’il s’agit d’engager de vrais prospects humains dans des scénarios à haut risque ?

Dans l’application Qualified, vous pouvez programmer Piper pour rester dans certaines limites, contrôler son ton et garantir qu’elle respecte les politiques de l’entreprise. Ce sont des vérités absolues et des règles d’engagement qui ne peuvent pas être brisées lors de l’engagement des visiteurs. Nous fournissons une modération et des limites importantes au cœur de notre IA, ce qui signifie prendre des risques autour des données (PII) et des informations sensibles en dehors de l’équation complètement. De plus, nous permettons aux entreprises d’ajouter des limites, des instructions et des règles d’engagement supplémentaires.

Nous permettons également à Piper de détourner doucement une conversation qui s’écarte du sujet. De plus, si nous avons le sentiment qu’il y a un mauvais acteur à une extrémité d’un engagement, Piper peut simplement mettre fin à une conversation si elle tend à entrer dans une zone qui est :

• Non lié à l’entreprise, aux produits, aux services ou à l’industrie
• Aléatoire ou sans sens
• Explicite, inapproprié ou offensant
• Complètement en dehors de la portée de ce que devrait gérer un SDR IA

Ces limites strictes garantissent que Piper reste dans les limites qui lui sont assignées, donnant à nos clients une confiance et un contrôle totaux sur son comportement.

Vous avez parlé de la nécessité de systèmes de rappel et de capacités de contournement. Pouvez-vous nous guider à travers les mesures de sécurité et de contrôle que vous avez intégrées à la plate-forme Qualified pour prévenir ou atténuer les erreurs IA ?

La confiance et la transparence / l’explicabilité vont de pair. La confiance commence par fournir des informations sur ce qui se passe, pourquoi cela se produit et comment influencer la façon dont cela fonctionne à l’avenir. Il y a des principes de base, tels que les citations, les boucles de rétroaction, le réglage et la finesse. Mais nous avons également pris des mesures supplémentaires pour que nos utilisateurs puissent fournir une couche d’observabilité pour l’IA qui est facilement accessible et peut fournir une rétroaction humaine dans la boucle.

Par exemple, nous fournissons la capacité de simuler diverses circonstances et de voir facilement ce que l’IA fera, et de fournir des commentaires ou des corrections sur chaque situation hypothétique. Tout comme vous amorcez un employé avant qu’il ne soit donné l’autonomie, vous devez faire la même chose avec l’IA.

À la lumière des tendances de réglementation de l’IA et des derniers titres sur les défaillances de l’IA, comment voyez-vous le rôle de la conformité et de la politique en façonnant l’avenir des agents IA dans les ventes et le marketing ?

La réglementation et la gouvernance sont plus importantes que jamais. Il n’est pas difficile d’imaginer le risque accru que les agents peuvent représenter s’ils ne sont pas déployés de manière responsable. Nous avons tous vu les résultats de lâcher l’IA sans contexte ou responsabilité. Dans le B2B, en particulier dans les ventes et le marketing où nous jouons, nous traitons une grande quantité de données d’entreprise et un certain degré d’informations personnelles identifiables (PII). Nous devons nous tenir, ainsi que nos clients, à des normes élevées pour protéger l’expérience de nos acheteurs.

Nous construisons Piper avec une conformité d’entreprise de niveau initial, ce qui signifie que nous réfléchissons à la confidentialité, à la sécurité et à la gouvernance dès la conception de tout ce que nous construisons et expédions. À mesure que l’IA évolue, les normes autour des suspects habituels de notre industrie, tels que SOC 2, GDPR, CCPA, la gestion du consentement, etc. – tout cela est pris en compte chaque fois que nous expédions des fonctionnalités. Mais, cocher les cases ne suffit pas. Nous créons une culture de transparence et construisons notre propre cadre éthique avant les réglementations plus formelles.

Ces pièces du puzzle IA ne peuvent pas attendre les politiques formelles – si vous n’avez pas déjà établi ces normes au sein de vos équipes, vous êtes en retard.

Pensez-vous que les entreprises vont trop vite en donnant aux agents IA trop d’autonomie sans construire des structures de surveillance humaine adéquates ?

Nous avons tous vu les titres lorsqu’ils dérapent – il y a sans aucun doute des entreprises qui se déplacent trop rapidement et considèrent l’IA comme des outils à mettre en œuvre plutôt que comme une transformation commerciale totale.

L’automatisation n’est pas une stratégie. C’est une partie de cette image plus large, mais cela nécessite des infrastructures et une réflexion à long terme pour éviter de commettre des erreurs massives qui, à la fin de la journée, érodent la confiance avec vos clients. Vous ne pouvez pas récupérer cela.

La surveillance humaine n’est pas un inhibiteur du succès avec l’automatisation, c’est un catalyseur. L’IA fera les lourds travaux, mais les humains dans la boucle sont nécessaires pour mettre à l’échelle de manière responsable.

Comment équilibrez-vous la vitesse et l’efficacité de l’IA avec des compétences humaines uniques comme le jugement, l’éthique et la nuance dans les interactions avec les clients ?

Nous considérons Piper comme un partenaire. Ses forces – toujours activé, vitesse, rappel instantané, échelle infinie – font d’elle un agent SDR puissant, mais nous savons qu’elle ne peut pas posséder chaque interaction unique de bout en bout.

Les humains seront toujours nécessaires dans les conversations à haut risque où l’intelligence émotionnelle nuancée sert mieux l’acheteur. L’utilisation de l’IA dans les bons cas d’utilisation est la clé pour équilibrer l’automatisation et les compétences humaines. Piper est extrêmement rapide, mais elle sait quand s’arrêter et impliquer les humains.

Nous laissons l’IA faire ce que l’IA fait de mieux afin que les gens puissent faire ce que les gens font de mieux.

Vous êtes à la pointe du marketing agentic. Qu’est-ce qui vous excite le plus pour les deux à trois prochaines années dans cet espace ?

Je me sens comme si l’ère de l’IA nous a donné à beaucoup d’entre nous un second souffle après quelques années difficiles dans l’espace technologique. Le marketing agentic est une innovation puissante qui ouvre les portes à toutes sortes de nouvelles technologies, et c’est presque nivelé le terrain pour les entreprises de l’industrie.

Nous sommes tous sur ce manège ensemble, et nous sommes enfin passés au-delà de cette phase de gimmick initial et voyons quelles applications sont vraiment utiles.

Les deux à trois prochaines années seront toutes sur l’orchestration – à mesure que de plus en plus d’agents IA sont mis en ligne, le travail consistera à construire les piles technologiques les plus puissantes qui fonctionnent ensemble comme une équipe pour accomplir des workflows complexes.

Quels secteurs pensez-vous être les moins préparés aux implications des agents IA autonomes – et que devraient-ils faire maintenant pour prendre les devants ?

Les industries qui ont des hiérarchies rigides et des piles technologiques héritées sont en danger d’être laissées pour compte. Pour que le marketing agentic soit réussi, vous devez avoir une mentalité moderne autour de l’hygiène des données et des logiciels, et certaines de ces grandes opérations se déplacent lentement et ont beaucoup de dettes technologiques à naviguer. Ironiquement, ce sont les organisations qui ont le plus à gagner de l’IA – leurs workflows sont prêts pour l’automatisation.

La clé maintenant est de commencer par les infrastructures et non par la technologie. Ils devront mettre leur maison en ordre d’abord avec une planification stratégique autour des workflows où les agents ajoutent de la valeur. Ils devront avoir des cadres autour de la conformité et de la sécurité. Ensuite, ils peuvent commencer à piloter certains de ces programmes.

Ce n’est pas seulement un projet IT – c’est un changement organisationnel complet, du haut vers le bas.

Merci pour cette grande interview, les lecteurs qui souhaitent en savoir plus peuvent visiter Qualified.