Sean Whiteley, grunnlegger og president i Qualified – Intervjuserie

Du har med suksess grunnlagt tre selskaper, inkludert ett som ble kjøpt opp av Salesforce og et annet av SurveyMonkey. Hva inspirerte deg til å starte Qualified, og hvordan passer det inn i den bredere utviklingen av AI i bedriftsprogramvare?

Kraig og jeg grunnla et søkemarkedsføringsselskap som ble kjøpt opp av Salesforce. Dette var tidlig i skyrevolusjonen, og så godt som alle markedsføringsprogrammer gikk raskt over til digitalisering. Det ble umiddelbart tydelig at det var et stort gap i hvordan selgere tok kontakt med kjøpere i denne nye verdenen. Bedrifter brukte millioner på å drive trafikk til nettstedene sine, men da disse kjøperne med høy interesse dukket opp, hadde ikke engasjementsopplevelsen utviklet seg. Det var som å organisere og betale for en spesiell fest for potensielle kunder, men glemme å åpne døren da de kom.

Det var der ideen til Qualified kom fra. Vi ønsket å skape en måte for salgsteam å møte kvalifiserte kjøpere i det øyeblikket de besøker nettstedet – med relevans, kontekst og hyperpersonlige opplevelser i sanntid som er representative for hva kjøpere ønsker. Spol frem til i dag, og vi har utviklet den visjonen til noe mye større: et agentisk markedsføringslag som utfører hver arbeidsflyt i en inbound marketing-prosess, som spenner over sanntidsinteraksjoner på nettstedet og asynkrone interaksjoner via e-post. Qualified er bygget for denne neste bølgen av bedriftsprogramvare, der AI-arbeidere ikke bare utfører oppgaver og arbeidsflyter, men tar kontekstdrevne beslutninger på vegne av bedriften din.

Hvordan har visjonen din for AI endret seg fra de første dagene innen søkemarkedsføring og til nå, med Piper som automatiserer innkommende salg i stor skala?

Fremveksten av store språkmodeller (LLM-er) har åpenbart fullstendig endret alt. Da vi startet vårt første selskap, var det i de tidlige skydagene som representerte et fundamentalt skifte i programvareleveringsmodellen. Ting som delt infrastruktur, flerbruksavtaler og betaling etter bruk-priser banet vei for bedrifter å flytte forretningskritiske apper og prosesser til skyen. Kort tid etter ble plattform og infrastruktur tilgjengelig som en samling av tjenester, noe som igjen var en enorm mulighet for bedrifter å avlaste betydelige arbeidsmengder til skyleverandører. Alt forandret seg.

Spol et tiår frem i tid, og AI-revolusjonen har eksplodert. For bare noen få år siden, da vi startet Qualified, representerte maskinlæring (ML) en ny måte å utnytte intelligens fra enorme datasett. Nå har selvfølgelig LLM-er endret alt når det gjelder vår evne til å flytte betydelige arbeidsmengder til AI. Men enda viktigere er det at LLM-er gjør AI tilgjengelig for alle, og folk har muligheten til å samhandle med datamaskiner, apper eller data ved hjelp av sitt naturlige språk. Og selv om vi egentlig bare er i begynnelsen, er det veldig tydelig at mye av det vi har gjort historisk sett vil bli omskrevet og gjort på nye måter. Dette gjelder ikke bare hvordan vi lever, men også hvordan vi jobber.

Et av våre mantraer hos Qualified er å utfordre alt vi har gjort historisk sett, og vurdere hvordan det vil bli transformert med AI. AI vil ikke bare endre måten vi bygger systemer på, men det vil også åpne for nye prosesser, operasjoner og organisasjonsstrukturer.

Den første bølgen av denne AI-transformasjonen har manifestert seg i agenter. Alle bedrifter bringer agentlag inn i ulike funksjoner på tvers av virksomheten. Vår AI SDR-agent har vært et veldig populært sted å starte når det gjelder å bringe et agentlag inn i en markedsføringsbevegelse. Og det blir veldig tydelig at Piper ikke bare kan automatisere praktisk talt alle oppgaver og arbeidsflyter for generering av innkommende pipelines som historisk sett har blitt utført av menneskelige SDR-er, men hun kan også begynne å håndtere mange av arbeidsflytene som tradisjonelt gjøres med markedsføringsautomatiseringsplattformer.

Piper er et sterkt eksempel på en autonom AI-agent i aksjon. Hvor trekker du personlig grensen mellom nyttig automatisering og risikabel autonomi?

Autonomi kan ikke eksistere trygt uten ansvarlighet. Tillit kan vinnes eller tapes eksponentielt i et agentsystem. Vi bygger ikke lenger skybaserte verktøy. Vi bruker nå autonome arbeidere som tar avgjørelser på vegne av kunder. Det er høyere innsats for pålitelighet og tillit enn noen gang før. Unøyaktig eller uhensiktsmessig agentatferd bør være førsteprioritet for alle som utvikler agenter. Like viktig som å investere i kapasiteter rundt opplæring, justering, finjustering, åpenhet, sitater og kontroll, er det å gi kunden mulighet til å bygge et styringsgrunnlag for en agent.

Med Piper har vi vært bevisste på å bygge nyttig autonomi – AI som opererer innenfor klart definerte rekkverk, drevet av vår rike historie med partnerskap med kundene våre som bruker produktene våre i dag. Linjen for meg er ganske klar: automatisering bør aldri erstatte dømmekraft i øyeblikk som krever kontekst, empati eller nyanser.

Piper prøver ikke å eie hele kjøperreisen fra starten av. Det er en viktig opptrappingsprosess for å sikre at agenten opererer ikke bare effektivt, men også nøyaktig, og innenfor de definerte grensene som er satt av en kunde. Du kan ikke bare slippe løs en agent i produksjon som samhandler med potensielle og eksisterende kunder uten å forstå hvordan det vil påvirke hele kjøpssyklusen.

Så for meg går grensen ved tillit, observerbarhet og kontroll. Hvis vi ikke kan tilby forklaringsevne eller måle ytelsen, er det ikke klart. De fleste selskapene jeg snakker med blir mye mer informerte og tenker på disse tingene på riktig måte, men det er vår jobb å hjelpe kundene våre med å sette de riktige rekkverkene, moderering og beste praksis rundt styring på plass.

Gitt de økende mulighetene til AI-agenter, hvordan sikrer du at Piper holder seg innenfor etiske og kontekstuelle grenser – spesielt når man engasjerer ekte menneskelige potensielle kunder i scenarier med høy innsats?

Innenfor den kvalifiserte applikasjonen kan du programmere Piper til å holde seg innenfor visse grenser, kontrollere tonen sin og sørge for at hun overholder selskapets retningslinjer. Dette er absolutte sannheter og regler for engasjement som ikke kan brytes når man engasjerer besøkende. Vi tilbyr betydelig moderering og sikkerhetstiltak i kjernen av vår AI, noe som betyr at vi tar risikoer rundt data (PII) og sensitiv informasjon fullstendig ut av ligningen. I tillegg lar vi selskaper legge til ytterligere sikkerhetstiltak, instruksjoner og regler for engasjement.

Vi gir også Piper mulighet til å forsiktig styre tilbake en samtale som avviker fra temaet. I tillegg, hvis vi får en følelse av at det er en dårlig aktør i den ene enden av en samtale, kan Piper ganske enkelt avslutte en samtale hvis den trender inn på et område som er:

• Ikke relatert til selskapet, produktene, tjenestene eller bransjen
• Tilfeldig eller meningsløs
• Eksplisit, upassende eller støtende
• Helt utenfor rammen av hva en AI SDR skal håndtere

Disse strenge sikkerhetskontrollene sikrer at Piper holder seg innenfor sine tildelte grenser, noe som gir kundene våre full trygghet og kontroll over oppførselen sin.

Du har snakket om behovet for tilbakestillingssystemer og overstyringsmuligheter. Kan du forklare sikkerhets- og kontrolltiltakene dere har bygget inn i Qualifieds plattform for å forhindre eller redusere AI-feil?

Tillit og åpenhet/forklarbarhet går hånd i hånd. Tillit starter med å gi innsikt i hva som skjer, hvorfor det skjer, og hvordan man kan påvirke hvordan det fungerer i fremtiden. Det finnes grunnleggende prinsipper, som siteringer, tilbakemeldingsløkker og finjustering/justering. Men vi har også tatt ekstra skritt for at brukerne våre skal kunne tilby et observerbarhetslag for AI-en som er lett tilgjengelig og kan gi tilbakemeldinger direkte fra brukeren.

Som eksempel tilbyr vi muligheten til å simulere ulike omstendigheter, og enkelt se hva AI-en vil gjøre, og gi tilbakemelding eller korrigere kursen i hver hypotetiske situasjon. Akkurat som du gir en ansatt en løft før de får autonomi, må du gjøre det samme med AI-en.

I lys av trender innen regulering av kunstig intelligens og nylige overskrifter om AI-svikt, hvordan ser du på rollen til samsvar og retningslinjer som former fremtiden til AI-agenter innen salg og markedsføring?

Regulering og styring er viktigere enn noensinne. Det er ikke vanskelig å tenke på den økte risikoen agenter kan representere hvis de ikke brukes på en ansvarlig måte. Vi har alle sett resultatene av å slippe løs AI uten kontekst eller ansvarlighet. Innen B2B, spesielt innen salg og markedsføring, som er der vi jobber, håndterer vi mye bedriftsdata og en viss grad av personlig identifiserbar informasjon (PII). Vi må sette høye standarder for oss selv og kundene våre for å beskytte kjøpernes opplevelser.

Vi bygger Piper med samsvar på bedriftsnivå, helt fra PRD-nivå. Dette betyr at vi tenker på personvern, sikkerhet og styring helt fra idéen til alt nytt vi bygger og leverer. Etter hvert som AI utvikler seg, vil også standardene rundt de vanlige mistenkte i vår bransje, som SOC 2, GDPR, CCPA, samtykkehåndtering osv., utvikle seg – alt dette er ting vi husker på når vi leverer funksjoner. Men det er ikke nok å merke av i boksene. Vi skaper en kultur av åpenhet og bygger vårt eget etiske rammeverk i forkant av mer formelle forskrifter.

Disse brikkene i AI-puslespillet kan ikke vente på formell policy – hvis du ikke allerede setter disse standardene i teamene dine, ligger du etter.

Synes du selskaper går for fort frem med å gi AI-agenter for mye autonomi uten å bygge tilstrekkelige menneskelige tilsynsstrukturer?

Vi har alle sett overskriftene når disse tingene går av sporet – det finnes utvilsomt selskaper som beveger seg for raskt og ser på AI som verktøy for implementering i stedet for som en total forretningstransformasjon.

Automatisering er ikke en strategi. Det er en del av det større bildet, men det krever infrastruktur og langsiktig tenkning for å unngå å gjøre massive feil som til syvende og sist svekker tilliten til kundene dine. Det kan du ikke få tilbake.

Menneskelig tilsyn er ikke en hemmer for suksess med automatisering, det er en muliggjører. AI vil gjøre det tunge arbeidet, men mennesker i loopen er pålagt å skalere ansvarlig.

Hvordan balanserer du AIs hastighet og effektivitet med unike menneskelige ferdigheter som dømmekraft, etikk og nyanser i kundeinteraksjoner?

Vi ser på Piper som en lagkamerat. Hennes styrker – alltid på, fart, umiddelbar gjenkjenning, uendelig skala – gjør henne til en kraftfull SDR-agent, men vi vet at hun ikke kan kontrollere hver eneste interaksjon fra ende til ende.

Mennesker vil alltid være nødvendige i samtaler med høy innsats, der nyansert emosjonell intelligens tjener kjøperen bedre. Å utnytte AI i de riktige brukstilfellene er nøkkelen til å balansere automatisering og menneskelige ferdigheter. Piper er lynrask, men hun vet når hun skal stoppe og involvere mennesker.

Vi lar AI gjøre det AI er best på, slik at folk kan gjøre det andre er best på.

Du er i forkant av agentmarkedsføring. Hva gleder deg mest med tanke på de neste 2–3 årene i dette feltet?

Jeg føler at AI-æraen har gitt mange av oss andre vinder etter noen tøffe år i teknologibransjen. Agentmarkedsføring er en kraftig innovasjon som åpner dørene for all slags ny teknologi, og den har nesten jevnet ut spillereglene for selskaper i bransjen.

Vi er alle på denne berg-og-dal-banen sammen, og vi kommer endelig forbi den første gimmickfasen og ser hvilke applikasjoner som faktisk er nyttige.

De neste to til tre årene vil handle om orkestrering – etter hvert som flere og flere AI-agenter kommer på nett, vil jobben være å finne ut hvordan man bygger de kraftigste teknologistablene som fungerer sammen som ett team for å utføre komplekse arbeidsflyter.

Hvilke bransjer tror du er minst forberedt på konsekvensene av autonome AI-agenter – og hva bør de gjøre nå for å komme videre?

Bransjer med rigide hierarkier og eldre teknologistabler risikerer å bli hengende etter. For at agentmarkedsføring skal lykkes, må man ha en moderne tankegang rundt datahygiene og programvare, og noen av disse større operasjonene beveger seg sakte og har mye teknologigjeld å navigere i. Ironisk nok er det disse organisasjonene som vil dra mest nytte av AI-agenter – arbeidsflytene deres er modne for automatisering.

Nøkkelen nå er å starte med infrastruktur og ikke teknologi. De må først få orden på tingene sine med strategisk planlegging rundt arbeidsflyter der agenter tilfører verdi. De trenger rammeverk rundt samsvar og sikkerhet. Deretter kan de begynne å pilotere noen av disse programmene.

Dette er ikke bare et IT-prosjekt – det er et helt organisasjonsskifte, fra topp til bunn.

Takk for det flotte intervjuet, lesere som ønsker å lære mer bør besøke Kvalifisert.