Donny White, administrerende direktør og medstifter af Satisfi Labs – Intervieuserie

Satisfi Labs blev grundlagt i 2016 og er et førende selskab inden for konversations-AI. Tidlig succes kom fra deres arbejde med New York Mets, Macy’s (M ) og US Open, hvilket gjorde det let at få adgang til information, der ofte ikke var tilgængelig på websteder.

Donny tilbragte 15 år hos Bloomberg, før han gik ind i start-up-verdenen, og har en MBA fra Cornell University og en BA fra Baruch College. Under Donnys ledelse har Satisfi Labs oplevet betydelig vækst i sports-, underholdnings- og turismesektorerne og har modtaget investeringer fra Google (GOOGL ), MLB og Red Light Management.

Hvad var årsagen til, at du pludselig fik lyst til at blive iværksætter, mens du var hos Bloomberg i 14 år?

Under mit tredje år på college ansøgte jeg om en stilling som receptionist hos Bloomberg. Da jeg fik fodfæste, sagde jeg til mine kollegaer, at hvis de var villige til at undervise mig, kunne jeg lære hurtigt. Inden mit sidste år var jeg fuldtidsansat og havde flyttet alle mine klasser til aftenklasser, så jeg kunne gøre begge dele. I stedet for at deltage i min college-afslutning i en alder af 21 tilbragte jeg den tid med at lede mit første hold. Herefter var jeg heldig at arbejde i en meritokrati og blev forfremmet flere gange. Inden jeg var 25, ledede jeg min egen afdeling. Herefter gik jeg over i regional ledelse og derefter produktudvikling, indtil jeg til sidst var ansvarlig for salg over hele Amerika. I 2013 begyndte jeg at spekulere over, om jeg kunne gøre noget større. Jeg gik til nogle interviews i unge tech-selskaber, og en af grundlæggerne sagde til mig: “Vi ved ikke, om du er god eller om Bloomberg er godt.” Det var på det tidspunkt, jeg vidste, at noget måtte ændre sig, og seks måneder senere var jeg salgsdirektør i min første start-up, Datahug. Kort tid efter blev jeg rekrutteret af en gruppe investorer, der ville udfordre Yelp. I 2016 var vi enige om en ny vision, og jeg co-grundlagde Satisfi Labs med de samme investorer.

Kan du dele historien bag Satisfi Labs?

Jeg var til en baseballkamp på Citi Field med Randy, Satisfi’s nuværende tekniske direktør og medstifter, da jeg hørte om en af deres specialiteter, bacon på en stang. Vi gik rundt i concourset og spurgte personalet om det, men kunne ikke finde det noget sted. Det viste sig, at det var gemt væk i den ene ende af stadionet, hvilket fik mig til at indse, at det ville have været meget mere praktisk at spørge direkte til holdet via chat. Her blev vores første idé født. Randy og jeg kommer begge fra finans- og algoritme-handelsbaggrund, hvilket fik os til at tage konceptet med at matche anmodninger med svar til at bygge vores egen NLP til hyper-specifikke forespørgsler, der ville blive stillet på steder. Den oprindelige idé var at bygge individuelle bots, der hver ville være eksperter i et bestemt område, især viden, der ikke let kan findes på et websted. Fra der udviklede vores system en “dirigent”, der kunne tilgå hver bot, når det var nødvendigt. Dette er den oprindelige systemarkitektur, der stadig bruges i dag.

Satisfi Labs havde designet sin egen NLP-motor og var på nippet til at offentliggøre en pressemeddelelse, da OpenAI ændrede jeres teknologi med udgivelsen af ChatGPT. Kan du diskutere denne periode og hvordan det tvang Satisfi Labs til at ændre forretningsplanen?

Vi havde planlagt en pressemeddelelse til at annoncere vores patent-pending Context-baseret NLP-opgradering den 6. december 2022. Den 30. november 2022 annoncerede OpenAI ChatGPT. Annonsen af ChatGPT ændrede ikke kun vores vejledning, men også verden. Først var vi, ligesom alle andre, ivrige efter at forstå kraften og begrænsningerne af ChatGPT og forstå, hvad det betød for os. Vi indså snart, at vores kontekstuelle NLP-system ikke konkurrerede med ChatGPT, men faktisk kunne forbedre LLM-oplevelsen. Dette ledte til en hurtig beslutning om at blive OpenAI enterprise-partnere. Da vores system startede med ideen om at forstå og besvare spørgsmål på et granulært niveau, kunne vi kombinere “bot-dirigent”-systemdesign og syv års intention-data til at opgradere systemet til at inkludere LLM’er.

Satisfi Labs lancerede nyligt en patent for et Context LLM Response System, hvad er dette specifikt?

I juli afslørede vi vores patent-pending Context LLM Response System. Det nye system kombinerer kraften af vores patent-pending kontekstuelle respons-system med large language model-kapaciteter til at styrke hele Answer Engine-systemet. Det nye Context LLM-teknologi integrerer large language model-kapaciteter på tværs af platformen, fra forbedring af intention-routing til answer-generation og intention-indexering, som også driver dens unikke rapporteringsfunktioner. Platformen tager konversations-AI ud over den traditionelle chatbot ved at udnytte kraften af LLM’er som GPT-4. Vores platform giver mulighed for, at mærker kan svare med både generative AI-svar eller forfattede svar, afhængigt af behovet for kontrol i svaret.

Kan du diskutere den nuværende afbrydelse mellem de fleste virksomheders websteder og LLM-platforme i levering af mærke-svar?

ChatGPT er trænet til at forstå et bredt spektrum af information og har derfor ikke det niveau af granulær træning, der er nødvendigt for at svare på brancheforståelige spørgsmål med det niveau af specifikation, som de fleste mærker forventer. Derudover er nøjagtigheden af de svar, LLM’er giver, kun så god som de data, der er tilgængelige. Når du bruger ChatGPT, henter det data fra hele internettet, som kan være urigtigt. ChatGPT prioriterer ikke data fra et mærke over andre data. Vi har tjent forskellige brancher i de sidste syv år og har fået indsigt i de millioner af spørgsmål, som kunder stiller hver dag. Dette har gjort os i stand til at forstå, hvordan vi kan afstemme systemet med større kontekst pr. branche og give robuste og granulære intention-rapporteringsfunktioner, som er afgørende, når man tager højde for opkomsten af store sprogmodeller. Mens LLM’er er effektive til at forstå intention og generere svar, kan de ikke rapportere om de spørgsmål, der stilles. Ved hjælp af år med omfattende intention-data har vi effektivt skabt standardiseret rapportering gennem deres Intention Indexing System.

Hvad er rollen for lingvister i at forbedre evnerne hos LLM-teknologier?

Rollen som prompt-ingeniør er opstået med denne nye teknologi, som kræver en person til at designe og afklare prompts, der giver et bestemt svar fra AI. Lingvister har en god forståelse af sprogstruktur såsom syntaks og semantik, blandt andet. En af vores mest succesfulde AI-ingeniører har en lingvistisk baggrund, som giver hende mulighed for at finde nye og nuancerede måder at prompte AI på. Subtile ændringer i prompten kan have dybtgående effekter på, hvor nøjagtigt og effektivt et svar genereres, hvilket gør en stor forskel, når vi håndterer millioner af spørgsmål på tværs af multiple kunder.

Hvad ser finjustering ud til på bagsiden?

Vi har vores egen proprietære datamodel, som vi bruger til at holde LLM under kontrol. Dette giver os mulighed for at bygge vores egne hegn til at holde LLM under kontrol, modsat at skulle lede efter hegn. For det andet kan vi udnytte værktøjer og funktioner, som andre platforme bruger, hvilket giver os mulighed for at støtte dem på vores platforme.

Finjustering af træningsdata og brug af Reinforcement Learning (RL) i vores platform kan hjælpe med at mindske risikoen for misinformation. Finjustering, modsat at søge i videnbasen for specifikke fakta for at tilføje, skaber en ny version af LLM, der er trænet på denne ekstra viden. På den anden side træner RL en agent med menneskelig feedback og lærer en politik for, hvordan man besvarer spørgsmål. Dette har vist sig at være succesfuldt i at bygge mindre fodaftryksmodeller, der bliver eksperter i bestemte opgaver.

Kan du diskutere processen for at påbegynde en ny kunde og integrere konversations-AI-løsninger?

Da vi fokuserer på destinationer og oplevelser såsom sport, underholdning og turisme, kan nye kunder drage fordel af dem, der allerede er i fællesskabet, hvilket gør påbegyndelsen meget enkel. Nye kunder identificerer, hvor deres nuværende datakilder bor såsom et websted, medarbejderhåndbøger, blogs osv. Vi indtager data og træner systemet i realtid. Da vi arbejder med hundredvis af kunder i samme branche, kan vores team hurtigt give anbefalinger om, hvilke svar der er bedst egnet til forfattede svar eller genererede svar. Derudover sætter vi op guidede flows såsom vores dynamiske Food & Beverage Finder, så kunder aldrig behøver at håndtere en bot-bygger.

Satisfi Labs arbejder tæt sammen med sportsHold og selskaber, hvad er din vision for fremtiden for selskabet?

Vi ser en fremtid, hvor flere mærker vil ønske at kontrollere flere aspekter af deres chat-oplevelse. Dette vil føre til en øget behov for vores system til at give mere udvikler-niveau adgang. Det giver ikke mening for mærker at ansætte udviklere til at bygge deres egen konversations-AI-system, da ekspertisen, der er nødvendig, vil være sjælden og dyr. Men med vores system, der føder bagsiden, kan deres udviklere fokusere mere på kundeoplevelsen og -rejse ved at have større kontrol over prompterne, tilslutte proprietær data for at tillade mere personalisering og styre chat-brugergrænsefladen for bestemte brugerbehov. Satisfi Labs vil være den tekniske rygmarv for mærkenes konversations-oplevelser.

Tak for det gode interview, læsere, der ønsker at lære mere, skal besøge Satisfi Labs.