Donny White, CEO og medgrunnlegger av Satisfi Labs – Intervju-serie

Grunnlagt i 2016 er Satisfi Labs et ledende selskap innen konversasjons-AI. Tidlig suksess kom fra deres arbeid med New York Mets, Macy’s (M ) og US Open, og gjorde det enkelt å få tilgang til informasjon som ofte ikke var tilgjengelig på nettstedene.

Donny tilbrakte 15 år i Bloomberg før han gikk inn i startup-verdenen og har en MBA fra Cornell University og en BA fra Baruch College. Under Donnys ledelse har Satisfi Labs vist betydelig vekst i idretts-, underholdnings- og turistsektorene, og mottatt investeringer fra Google (GOOGL ), MLB og Red Light Management.

Hva var det som gjorde at du plutselig fikk lyst til å bli entrepreneur mens du var i Bloomberg?

Under mitt tredje studieår søkte jeg på en jobb som resepsjonist i Bloomberg. Når jeg først var innenfor døren, sa jeg til mine kolleger at hvis de var villige til å lære meg, kunne jeg lære raskt. Ved slutten av mitt siste studieår var jeg fast ansatt og hadde flyttet alle mine klasser til kveldsklasser så jeg kunne gjøre begge deler. I stedet for å gå på min eksamen ved 21 års alder, tilbrakte jeg den tiden med å lede mitt første team. Deretter var jeg heldig å jobbe i en meritokrati og ble forfremmet flere ganger. Ved 25 års alder ledet jeg mitt eget avdeling. Deretter gikk jeg over til regional ledelse og deretter produktutvikling, til slutt ledet jeg salg over hele Amerika. Ved 2013 begynte jeg å undre meg på om jeg kunne gjøre noe større. Jeg gikk på noen intervjuer i unge teknologiselskaper og en av grunnleggerne sa til meg: “Vi vet ikke om du er god eller om Bloomberg er god.” Da visste jeg at noe måtte skje, og seks måneder senere var jeg salgsdirektør i mitt første startup, Datahug. Kort tid etter ble jeg rekruttert av en gruppe investorer som ønsket å forstyrre Yelp. Mens Yelp fortsatt er bra og godt, ble vi enige om en ny visjon i 2016 og jeg grunnla Satisfi Labs med de samme investorene.

Kan du fortelle om opphavet til Satisfi Labs?

Jeg var på en baseballkamp på Citi Field med Randy, Satisfis nåværende CTO og medgrunnlegger, da jeg hørte om en av deres spesialiteter, bacon på pinne. Vi gikk rundt i concourse og spurte personalet om det, men kunne ikke finne det noen steder. Det viste seg at det var skjult på den ene enden av stadionet, noe som førte til at jeg innser at det ville ha vært mye enklere å spørre direkte til laget gjennom chat. Her ble vår første idé født. Randy og jeg kommer begge fra finans- og algoritme-handelsbakgrunn, noe som ledet oss til å ta konseptet med å matche forespørsler med svar og bygge vår egen NLP for hyper-spesifikke forespørsler som ville bli stilt på steder. Den opprinnelige idéen var å bygge individuelle boter som hver ville være eksperter i et bestemt område, spesielt kunnskap som ikke er lett tilgjengelig på et nettsted. Deretter ville vårt system ha en “dirigent” som kunne aktivere hver bot når det var nødvendig. Dette er den opprinnelige systemarkitekturen som fortsatt brukes i dag.

Satisfi Labs hadde designet sin egen NLP-motor og var på randen av å publisere en pressemelding da OpenAI forstyrret teknologistaken deres med lanseringen av ChatGPT. Kan du diskutere denne perioden og hvordan dette tvang Satisfi Labs til å endre forretningsmodellen?

Vi hadde en planlagt pressemelding for å annonse vår patent-pending Context-basert NLP-oppgradering den 6. desember 2022. Den 30. november 2022 annonserte OpenAI ChatGPT. Annonsen om ChatGPT endret ikke bare vår veikart, men også verden. Først var vi, som alle andre, i ferd med å forstå kraften og grensene til ChatGPT og forstå hva det betydde for oss. Vi innser raskt at vår kontekst-baserte NLP-system ikke konkurrerte med ChatGPT, men kunne faktisk forbedre LLM-erfaringen. Dette ledet til en rask beslutning om å bli OpenAI-entreprise-partnere. Ettersom vårt system startet med idéen om å forstå og svare på spørsmål på et granulert nivå, kunne vi kombinere “bot-dirigent”-systemdesign og syv års intensjonsdata for å oppgradere systemet til å inkorporere LLM-er.

Satisfi Labs lanserte nylig en patent for et Context LLM Response System, hva er dette spesifikt?

I juli lanserte vi vårt patent-pending Context LLM Response System. Det nye systemet kombinerer kraften fra vårt patent-pending kontekst-baserte respons-system med stor språkmodell-kapasitet for å styrke hele Answer Engine-systemet. Det nye Context LLM-teknologien integrerer stor språkmodell-kapasitet gjennom hele plattformen, fra å forbedre intensjons-ruting til å generere svar og intensjons-indeks, som også driver dens unike rapporteringsfunksjoner. Plattformen tar konversasjons-AI utenfor den tradisjonelle chatboten ved å utnytte kraften fra LLM-er som GPT-4. Vår plattform lar merker svare med både generative AI-svar eller forhånds-skrevne svar avhengig av behovet for kontroll i svaret.

Kan du diskutere den nåværende disconnecten mellom de fleste bedriftsnettsteder og LLM-plattformer i å levere merkevareriktige svar?

ChatGPT er trent til å forstå et bredt spekter av informasjon og har derfor ikke det nivået av granulert trening som er nødvendig for å svare på bransjespesifikke spørsmål med det nivået av spesifisitet som de fleste merker forventer. I tillegg er nøyaktigheten av svarene LLM-er gir bare like god som dataene som er gitt. Når du bruker ChatGPT, henter det data fra hele internettet, som kan være uriktige. ChatGPT prioriterer ikke data fra et merke over andre data. Vi har tjent ulike bransjer i løpet av de siste syv årene, og har fått verdifull innsikt i millioner av spørsmål som kundene stiller hver dag. Dette har gjort det mulig for oss å forstå hvordan vi kan finjustere systemet med større kontekst per bransje og gi robuste og granulerte intensjons-rapporteringsfunksjoner, som er avgjørende gitt oppblomstringen av store språkmodeller. Mens LLM-er er effektive i å forstå intensjon og generere svar, kan de ikke rapportere om spørsmålene som blir stilt. Ved å bruke år med omfattende intensjonsdata, har vi effektivt skapt standardiserte rapporter gjennom deres Intensjons-indeks-system.

Hva er rollen til lingvister i å forbedre evnene til LLM-teknologier?

Rollen som prompt-ingeniør har oppstått med denne nye teknologien, som krever en person til å designe og finjustere promter som fremkaller et bestemt svar fra AI. Lingvister har en god forståelse av språkstruktur som syntaks og semantikk, blant annet. En av våre mest suksessfulle AI-ingeniører har en lingvistisk bakgrunn, som gjør det mulig for henne å finne nye og nyanserte måter å prompte AI-en på. Subtile endringer i prompten kan ha dyptgående effekter på hvor nøyaktig og effektivt et svar genereres, noe som gjør all forskjellen når vi håndterer millioner av spørsmål over flere kunder.

Hva ser finjustering ut som på baksiden?

Vi har vår egen proprietære datamodell som vi bruker til å holde LLM under kontroll. Dette gjør det mulig for oss å bygge våre egne “gjerder” for å holde LLM under kontroll, i stedet for å måtte søke etter “gjerder”. For det andre kan vi utnytte verktøy og funksjoner som andre plattformer bruker, noe som gjør det mulig for oss å støtte dem på våre plattformer.

Finjustering av treningsdata og bruk av Forsterkning Learning (RL) i vår plattform kan hjelpe med å minimere risikoen for feilinformasjon. Finjustering, i motsetning til å spørre om kunnskapsbasen for spesifikke fakta for å legge til, skaper en ny versjon av LLM som er trent på denne ekstra kunnskapen. På den andre siden trener RL en agent med menneskelig tilbakemelding og lærer en policy for å svare på spørsmål. Dette har vist seg å være suksessfullt i å bygge mindre fotavtrykk-modeller som blir eksperter i spesifikke oppgaver.

Kan du diskutere prosessen for å påbegynne en ny kunde og integrere konversasjons-AI-løsninger?

Ettersom vi fokuserer på destinasjoner og opplevelser som idrett, underholdning og turisme, nyter nye kunder godt av dem som allerede er i samfunnet, noe som gjør påbegynnelsen svært enkel. Nye kunder identifiserer hvor deres mest aktuelle datakilder bor, som et nettsted, ansattmanualer, blogger osv. Vi innhenter dataene og trener systemet i sanntid. Ettersom vi arbeider med hundrevis av kunder i samme bransje, kan vårt team raskt gi anbefalinger om hvilke svar som er best egnet for forhånds-skrevne svar eller genererte svar. I tillegg setter vi opp guidede flyter som vår dynamiske Food & Beverage Finder, så kundene aldri trenger å håndtere en bot-bygger.

Satisfi Labs arbeider nå tett med idrettslag og selskaper, hva er din visjon for fremtiden til selskapet?

Vi ser en fremtid hvor flere merker vil ønske å kontrollere flere aspekter av sin chat-erfaring. Dette vil føre til en økt behov for vårt system til å gi mer utvikler-tilgang. Det er ikke meningsfullt for merker å ansette utviklere for å bygge sine egne konversasjons-AI-systemer, da ekspertisen som trengs vil være sjelden og dyrt. Men med vårt system som matar backenden, kan deres utviklere fokusere mer på kunde-erfaringen og reisen ved å ha større kontroll over promptene, kobling av proprietær data for å tillate mer personlig tilpasning, og håndtering av chat-BRU for spesifikke brukerbehov. Satisfi Labs vil være det tekniske ryggsølet til merkets konversasjons-erfaringer.

Takk for det flotte intervjuet, lesere som ønsker å lære mer kan besøke Satisfi Labs.