Sean Whiteley, grundare och VD för Qualified – Intervjuserie

Du har framgångsrikt grundat tre företag, inklusive ett som förvärvats av Salesforce och ett annat av SurveyMonkey. Vad inspirerade dig att starta Qualified, och hur passar det in i den bredare utvecklingen av AI inom företagsprogramvara?

Kraig och jag grundade ett sökmotoroptimeringsföretag som förvärvades av Salesforce. Detta var tidigt i molnrevolutionen, och praktiskt taget alla marknadsföringsprogram höll snabbt på att övergå till digitala lösningar. Det blev omedelbart uppenbart att det fanns en enorm skillnad i hur säljare fick kontakt med köpare i denna nya värld. Företag spenderade miljoner på att driva trafik till sina webbplatser, men när dessa köpintentionella kunder dök upp hade inte engagemangsupplevelsen utvecklats. Det var som att organisera och betala för en speciell fest för dina potentiella kunder, men glömma att öppna dörren när de kom.

Det är därifrån idén till Qualified kom. Vi ville skapa ett sätt för säljteam att möta kvalificerade köpare i samma ögonblick som de besöker webbplatsen – med relevans, kontext och hyperpersonliga upplevelser i realtid som representerar vad köpare vill ha. Snabbspola fram till idag, och vi har utvecklat den visionen till något mycket större: ett agentiskt marknadsföringslager som utför varje arbetsflöde i en inbound marketing-process, från realtidsinteraktioner på webbplatsen till asynkrona interaktioner via e-post. Qualified är byggt för nästa våg av företagsprogramvara, där AI-arbetare inte bara utför uppgifter och arbetsflöden, utan också fattar kontextdrivna beslut för ditt företags räkning.

Hur har din vision för AI förändrats från dina tidiga dagar inom sökmotoroptimering till nu, med Piper som automatiserar inkommande försäljning i stor skala?

Uppenbarligen har framväxten av stora språkmodeller (LLM) fullständigt förändrat spelet. När vi startade vårt första företag var det under de tidiga molndagarna som det fanns ett fundamentalt skifte i mjukvaruleveransmodellen. Saker som delad infrastruktur, multitenancy och pay-as-you-go-priser banade väg för företag att flytta affärskritiska appar och processer till molnet. Strax därefter blev plattform och infrastruktur tillgängliga som en samling tjänster, vilket återigen var en enorm möjlighet för företag att avlasta betydande arbetsbelastningar till molnleverantörer. Allt förändrades.

Snabbspola ett decennium framåt och AI-revolutionen har exploderat. För bara några år sedan, när vi först startade Qualified, representerade maskininlärning (ML) ett nytt sätt att utnyttja intelligens från stora datamängder. Nu har juridikexamina förändrat allt när det gäller vår förmåga att flytta betydande arbetsbelastningar till AI. Men ännu viktigare är att juridikexamina gör AI tillgänglig för alla, och människor har möjlighet att interagera med datorer, appar eller data med hjälp av sitt naturliga språk. Och även om vi egentligen bara är i början är det mycket tydligt att många saker vi har gjort historiskt kommer att skrivas om och göras på nya sätt. Detta gäller inte bara hur vi lever, utan även hur vi arbetar.

Ett av våra mantran på Qualified är att utmana allt vi har gjort historiskt och bedöma hur det kommer att förändras med AI. AI kommer inte bara att förändra hur vi bygger system, utan det kommer också att låsa upp nya processer, verksamheter och organisationsstrukturer.

Den första vågen av denna AI-transformation har manifesterats i agenter. Alla företag integrerar agentlager i olika funktioner över hela verksamheten. Vår AI SDR-agent har varit en mycket populär utgångspunkt när det gäller att integrera ett agentlager i en marknadsföringsrörelse. Och det blir allt tydligare att Piper inte bara kan automatisera praktiskt taget alla uppgifter och arbetsflöden för generering av inkommande pipelines som historiskt sett utförts av mänskliga SDR:er, utan hon kan också börja hantera många av de arbetsflöden som traditionellt görs med marknadsföringsautomationsplattformar.

Piper är ett kraftfullt exempel på en autonom AI-agent i aktion. Var drar du personligen gränsen mellan nyttig automatisering och riskabel autonomi?

Autonomi kan inte existera säkert utan ansvarsskyldighet. Förtroende kan vinnas, eller förloras, exponentiellt i ett agentsystem. Vi bygger inte längre molnverktyg. Vi använder nu autonoma arbetare som fattar beslut för kundernas räkning. Det finns högre insatser för tillförlitlighet och förtroende än någonsin tidigare. Felaktigt eller ohjälpsamt agentbeteende bör vara högsta prioritet för alla som utvecklar agenter. Lika viktigt som att investera i kapacitet kring utbildning, finjustering, transparens, citat och kontroll, är det att ge kunden möjlighet att bygga styrningsgrunden för en agent.

Med Piper har vi medvetet strävat efter att bygga användbar autonomi – AI som fungerar inom tydligt definierade skyddsräcken, driven av vår rika historia av partnerskap med våra kunder som använder våra produkter idag. För mig är linjen ganska tydlig: automatisering ska aldrig ersätta bedömning i stunder som kräver sammanhang, empati eller nyanser.

Piper försöker inte ta ansvar för hela köpprocessen direkt från början. Det finns en viktig upptrappningsprocess för att säkerställa att agenten arbetar inte bara effektivt, utan också korrekt, och inom de definierade gränser som kunden har angett. Du kan inte bara släppa lös en agent i produktion som interagerar med dina potentiella och befintliga kunder utan att förstå hur det kommer att påverka hela köpcykeln.

Så för mig går gränsen vid förtroende, observerbarhet och kontroll. Om vi inte kan erbjuda förklarbarhet eller mäta dess prestanda, då är det inte redo. De flesta företag jag pratar med blir mycket mer utbildade och tänker på dessa saker på rätt sätt, men det är vårt jobb att hjälpa våra kunder att införa rätt skyddsräcken, moderering och bästa praxis kring styrning.

Med tanke på AI-agenters ökande kapacitet, hur säkerställer man att Piper håller sig inom etiska och kontextuella gränser – särskilt när man engagerar riktiga mänskliga leads i scenarier med höga insatser?

Inom den kvalificerade applikationen kan du programmera Piper att hålla sig inom vissa gränser, kontrollera sin ton och säkerställa att hon följer företagets policyer. Detta är absoluta sanningar och engagemangsregler som inte kan brytas vid interaktion med besökare. Vi tillhandahåller betydande moderering och skyddsräcken i kärnan av vår AI, vilket innebär att vi helt tar bort risker kring data (PII) och känslig information. Dessutom tillåter vi företag att lägga till ytterligare skyddsräcken, instruktioner och engagemangsregler.

Vi ger också Piper möjlighet att försiktigt styra tillbaka en konversation som avviker från ämnet. Om vi dessutom får känslan av att det finns en dålig aktör i ena änden av ett engagemang kan Piper helt enkelt avsluta en konversation om den trendar mot ett område som är:

• Icke relaterat till företaget, produkterna, tjänsterna eller branschen
• Slumpmässigt eller meningslöst
• Explicit, olämpligt eller stötande
• Helt utanför ramen för vad en AI SDR bör hantera

Dessa strikta skyddsräcken säkerställer att Piper håller sig inom sina tilldelade gränser, vilket ger våra kunder fullständigt förtroende och kontroll över sitt beteende.

Du har pratat om behovet av rollback-system och överstyrningsfunktioner. Kan du gå igenom de säkerhets- och kontrollåtgärder ni har byggt in i Qualifieds plattform för att förhindra eller mildra AI-fel?

Förtroende och transparens/förklarbarhet går hand i hand. Förtroende börjar med att ge insikt i vad som händer, varför det händer och hur man kan påverka hur det fungerar i framtiden. Det finns grundläggande hyresgäster, såsom citat, feedback-loopar och finjusteringar. Men vi har också vidtagit extra åtgärder för våra användare för att tillhandahålla ett observerbarhetslager för AI:n som är lättillgängligt och kan ge feedback direkt från användaren.

Som exempel erbjuder vi möjligheten att simulera olika omständigheter, och enkelt se vad AI:n kommer att göra, och ge feedback eller korrigera kursen i varje hypotetisk situation. Precis som du utmanar en anställd innan de får autonomi, måste du göra samma sak med AI:n.

Mot bakgrund av trender inom AI-reglering och de senaste rubrikerna om AI-misslyckanden, hur ser du på rollen av efterlevnad och policy som formar framtiden för AI-agenter inom försäljning och marknadsföring?

Reglering och styrning är viktigare än någonsin. Det är inte svårt att tänka på den ökade risk som agenter kan utgöra om de inte används ansvarsfullt. Vi har alla sett resultaten av att släppa lös AI utan sammanhang eller ansvarsskyldighet. Inom B2B, särskilt inom försäljning och marknadsföring, vilket är där vi är verksamma, hanterar vi mycket företagsdata och en viss grad av personligt identifierbar information (PII). Vi måste hålla höga krav på oss själva och våra kunder för att skydda våra köpares upplevelser.

Vi bygger Piper med efterlevnad i företagsklass, med början på PRD-nivå. Det innebär att vi tänker på integritet, säkerhet och styrning redan från idén till allt nytt vi bygger och levererar. I takt med att AI utvecklas, kommer även standarderna kring de vanliga misstänkta i vår bransch, såsom SOC 2, GDPR, CCPA, samtyckeshantering etc., att utvecklas – allt detta är saker vi har i åtanke när vi levererar funktioner. Men att kryssa i rutor räcker inte. Vi skapar en kultur av transparens och bygger vårt eget etiska ramverk inför mer formella regleringar.

Dessa bitar i AI-pusslet kan inte vänta på formell policy – om ni inte redan sätter dessa standarder inom era team ligger ni efter.

Tycker du att företag går för fort fram med att ge AI-agenter för mycket autonomi utan att bygga upp tillräckliga mänskliga tillsynsstrukturer?

Vi har alla sett rubrikerna när de här sakerna spårar ur – det finns utan tvekan företag som agerar för snabbt och ser AI som verktyg att implementera istället för som en total affärstransformation.

Automatisering är inte en strategi. Det är en del av den större bilden, men det kräver infrastruktur och långsiktigt tänkande för att undvika att göra massiva misstag som i slutändan urholkar förtroendet hos dina kunder. Det kan du inte få tillbaka.

Mänsklig tillsyn är inte en hämmare för framgång med automatisering, utan en möjliggörare. AI kommer att göra grovjobbet, men människor i loopen måste skala upp ansvarsfullt.

Hur balanserar man AI:s hastighet och effektivitet med unikt mänskliga färdigheter som omdöme, etik och nyanser i kundinteraktioner?

Vi ser på Piper som en lagkamrat. Hennes styrkor – alltid på, snabbhet, omedelbar återkallelse, oändlig skala – gör henne till en kraftfull SDR-agent, men vi vet att hon inte kan kontrollera varje enskild interaktion från början till slut.

Människor kommer alltid att behövas i samtal med höga insatser där nyanserad emotionell intelligens bättre tjänar köparen. Att utnyttja AI i rätt användningsfall är nyckeln till att balansera automatisering och mänskliga färdigheter. Piper är blixtsnabb, men hon vet när hon ska stanna upp och involvera människor.

Vi låter AI göra det AI är bäst på så att människor kan göra det andra är bäst på.

Du är i framkant inom agentmarknadsföring. Vad är det som gör dig mest entusiastisk inför de kommande 2–3 åren inom detta område?

Jag känner att AI-eran har gett många av oss andra vindar efter några tuffa år inom teknikbranschen. Agentisk marknadsföring är en kraftfull innovation som öppnar dörrarna för alla möjliga nya tekniker, och den har nästan jämnat ut spelplanen för företag i branschen.

Vi är alla på den här berg-och-dalbanan tillsammans, och vi kommer äntligen förbi den inledande gimmickfasen och ser vilka tillämpningar som faktiskt är användbara.

De kommande två till tre åren kommer att handla om orkestrering – i takt med att fler och fler AI-agenter kommer online, kommer jobbet att bli att lista ut hur man bygger de mest kraftfulla teknikstackarna som arbetar tillsammans som ett team för att genomföra komplexa arbetsflöden.

Vilka branscher tror du är minst förberedda på konsekvenserna av autonoma AI-agenter – och vad bör de göra nu för att komma framåt?

Branscher med stela hierarkier och äldre teknikstackar riskerar att hamna på efterkälken. För att agentmarknadsföring ska bli framgångsrik måste man ha ett modernt tänkesätt kring datahygien och programvara, och vissa av dessa större verksamheter rör sig långsamt och har mycket teknikskuld att navigera. Ironiskt nog är det dessa organisationer som kommer att dra mest nytta av AI-agenter – deras arbetsflöden är mogna för automatisering.

Nyckeln nu är att börja med infrastruktur och inte teknik. De måste först få ordning på sina saker med strategisk planering kring arbetsflöden där agenter tillför värde. De behöver ramverk kring efterlevnad och säkerhet. Sedan kan de börja pilotprojektera några av dessa program.

Det här är inte bara ett IT-projekt – det är ett helt organisatoriskt skifte, från topp till tå.

Tack för den fina intervjun, läsare som vill veta mer bör besöka Kvalificerad.