Donny White, VD & medgrundare av Satisfi Labs – Intervjuserie

Satisfi Labs grundades 2016 och är ett ledande företag inom konversations-AI. Tidig framgång kom från samarbeten med New York Mets, Macy’s och US Open, som möjliggjorde enkel tillgång till information som ofta inte finns tillgänglig på webbplatser.

Donny tillbringade 15 år på Bloomberg innan han gick in i startup-världen och har en MBA från Cornell University och en BA från Baruch College. Under Donnys ledning har Satisfi Labs upplevt betydande tillväxt inom sport-, underhållnings- och turismsektorerna, och har mottagit investeringar från Google, MLB och Red Light Management.

Du var på Bloomberg i 14 år när du först kände den entreprenöriella klådan. Varför var att vara entreprenör plötsligt på din radar?

Under mitt tredje år på college sökte jag ett jobb som receptionist på Bloomberg. När jag väl kom in genom dörren sa jag till mina kollegor att om de var villiga att lära mig, kunde jag lära mig snabbt. Redan under mitt sista år var jag en heltidsanställd och hade flyttat alla mina kurser till kvällskurser så att jag kunde göra båda sakerna. Istället för att gå på min college-examen när jag var 21 år, tillbringade jag den tiden med att leda mitt första team. Från den punkten var jag lyckosam och arbetade i en meritokrati och blev befordrad flera gånger. När jag var 25 år gammal ledde jag mitt eget avdelning. Därefter gick jag vidare till regional ledning och sedan till produktutveckling, tills jag slutligen ledde försäljningen i hela Amerika. 2013 började jag undra om jag kunde göra något större. Jag gick på några intervjuer på unga tech-företag och en grundare sa till mig: “Vi vet inte om du är bra eller om Bloomberg är bra.” Då visste jag att något måste förändras och sex månader senare var jag VP för försäljning på mitt första startup, Datahug. Strax därefter rekryterades jag av en grupp investerare som ville störa Yelp. Medan Yelp fortfarande är bra och väl, enades vi 2016 om en ny vision och jag co-grundade Satisfi Labs med samma investerare.

Kan du dela berättelsen om Satisfi Labs tillblivelse?

Jag var på en basebollmatch på Citi Field med Randy, Satisfis nuvarande CTO och medgrundare, när jag hörde talas om en av deras specialiteter, bacon på en pinne. Vi gick runt i arenan och frågade personalen om det, men kunde inte hitta det någonstans. Det visade sig att det var gömt på ena änden av arenan, vilket ledde till insikten att det skulle ha varit mycket bekvämare att direkt fråga laget via chat. Här föddes vår första idé. Randy och jag kommer båda från finansområdet och algoritmisk handel, vilket ledde oss att ta konceptet med att matcha förfrågningar med svar och bygga vår egen NLP för hyper-specifika förfrågningar som skulle ställas på platser. Den ursprungliga idén var att bygga individuella botar som skulle vara experter inom ett visst kunskapsområde, särskilt kunskap som inte lätt kan nås på en webbplats. Från där utvecklade vi ett system med en “dirigent” som kunde anropa varje bot när det behövdes. Detta är den ursprungliga systemarkitekturen som fortfarande används idag.

Satisfi Labs hade designat sin egen NLP-motor och var på väg att publicera ett pressmeddelande när OpenAI störde er teknikstack med lanseringen av ChatGPT. Kan du diskutera denna period och hur detta tvingade Satisfi Labs att ändra sin affärsinriktning?

Vi hade planerat att publicera ett pressmeddelande för att tillkännage vår patent-pending Context-baserad NLP-uppdatering den 6 december 2022. Den 30 november 2022 tillkännagav OpenAI ChatGPT. Tillkännagivandet av ChatGPT förändrade inte bara vår vägkarta utan också världen. Initialt, liksom alla andra, skyndade vi oss för att förstå kraften och begränsningarna hos ChatGPT och förstå vad det innebar för oss. Vi insåg snart att vår kontextuella NLP-system inte konkurrerade med ChatGPT, utan kunde faktiskt förbättra LLM-upplevelsen. Detta ledde till ett snabbt beslut att bli OpenAI-företagspartners. Eftersom vårt system började med idén att förstå och svara på frågor på en granulär nivå, kunde vi kombinera “bot-dirigent”-systemdesignen och sju års avsiktdata för att uppgradera systemet till att integrera LLM.

Satisfi Labs lanserade nyligen en patent för ett Context LLM Response System, vad är detta specifikt?

I juli tillkännagav vi vår patent-pending Context LLM Response System. Det nya systemet kombinerar kraften i vår patent-pending kontextuella respons-system med stora språkmodellens förmågor för att stärka hela Answer Engine-systemet. Den nya Context LLM-tekniken integrerar stora språkmodellens förmågor i hela plattformen, från förbättring av avsikt-routning till svarsgenerering och avsikt-indexering, som också driver dess unika rapporteringsförmågor. Plattformen tar konversations-AI bortom den traditionella chatboten genom att utnyttja kraften i LLM som GPT-4. Vår plattform tillåter varumärken att svara med antingen genererade AI-svar eller färdigskrivna svar beroende på behovet av kontroll i svaret.

Kan du diskutera den nuvarande kopplingen mellan de flesta företags webbplatser och LLM-plattformar när det gäller att leverera varumärkesanpassade svar?

ChatGPT är utbildad för att förstå en bred range av information och har därför inte den nivå av granulär utbildning som behövs för att svara på branschspecifika frågor med den nivå av specificitet som de flesta varumärken förväntar sig. Dessutom är noggrannheten i de svar som LLM tillhandahåller endast så bra som de data som tillhandahålls. När du använder ChatGPT hämtar den data från hela internet, som kan vara felaktig. ChatGPT prioriterar inte data från ett varumärke över andra data. Vi har under de senaste sju åren betjänat olika branscher och har fått värdefull insikt i de miljontals frågor som kunder ställer varje dag. Detta har möjliggjort för oss att förstå hur man kan justera systemet med större kontext per bransch och tillhandahålla robusta och granulära avsikt-rapporteringsförmågor, som är avgörande med tanke på den ökande användningen av stora språkmodeller. Medan LLM är effektiva för att förstå avsikt och generera svar, kan de inte rapportera om de frågor som ställs. Genom att använda år av omfattande avsikt-data har vi effektivt skapat standardiserad rapportering genom deras Intent Indexing System.

Vilken roll spelar lingvister för att förbättra förmågorna hos LLM-teknologier?

Rollen som prompt-ingenjör har uppstått med denna nya teknologi, som kräver en person som kan utforma och förfinade prompter som utlöser ett specifikt svar från AI. Lingvister har en stor förståelse för språkstruktur som syntax och semantik, bland annat. En av våra mest framgångsrika AI-ingenjörer har en lingvistisk bakgrund, vilket gör att hon kan vara mycket effektiv i att hitta nya och nyanserade sätt att prompta AI. Subtila förändringar i prompten kan ha en djupgående effekt på hur korrekt och effektivt ett svar genereras, vilket gör all skillnad när vi hanterar miljontals frågor över flera kunder.

Vad ser fine-tuning ut som på baksidan?

Vi har vår egen proprietära datamodell som vi använder för att hålla LLM under kontroll. Detta tillåter oss att bygga våra egna “stängsel” för att hålla LLM under kontroll, istället för att behöva leta efter stängsel. För det andra kan vi utnyttja verktyg och funktioner som andra plattformar använder, vilket tillåter oss att stödja dem på våra plattformar.

Fine-tuning av träningsdata och användning av förstärkt inlärning (RL) i vår plattform kan hjälpa till att mildra risken för felaktig information. Fine-tuning, istället för att fråga efter specifika fakta för att lägga till, skapar en ny version av LLM som är utbildad på denna ytterligare kunskap. Å andra sidan utbildar RL en agent med mänsklig återkoppling och lär en policy för att svara på frågor. Detta har visat sig vara framgångsrikt i att bygga mindre modeller som blir experter på specifika uppgifter.

Kan du diskutera processen för att omborda en ny kund och integrera konversations-AI-lösningar?

Eftersom vi fokuserar på destinationer och upplevelser som sport, underhållning och turism, kan nya kunder dra nytta av de som redan finns i samhället, vilket gör ombordandet mycket enkelt. Nya kunder identifierar var deras mest aktuella datakällor bor, som en webbplats, anställdahandböcker, bloggar osv. Vi tar in data och utbildar systemet i realtid. Eftersom vi arbetar med hundratals kunder inom samma bransch kan vårt team snabbt ge rekommendationer om vilka svar som är bäst lämpade för färdigskrivna svar jämfört med genererade svar. Dessutom konfigurerar vi guidade flöden som vår dynamiska Food & Beverage Finder så att kunder aldrig behöver hantera en bot-byggare.

Satisfi Labs arbetar för närvarande nära med sportlag och företag, vad är din vision för företagets framtid?

Vi ser en framtid där fler varumärken kommer att vilja kontrollera fler aspekter av sin chattupplevelse. Detta kommer att leda till ett ökat behov av vårt system för att tillhandahålla mer utvecklartillgänglighet. Det är inte meningsfullt för varumärken att anställa utvecklare för att bygga sina egna konversations-AI-system eftersom den expertis som behövs kommer att vara sällsynt och dyr. Men med vårt system som matar backenden kan deras utvecklare fokusera mer på kundupplevelsen och resan genom att ha större kontroll över prompter, ansluta proprietär data för att tillåta mer personanpassning och hantera chatt-UI för specifika användarbehov. Satisfi Labs kommer att vara den tekniska ryggraden för varumärkens konversationsupplevelser.

Tack för den underbara intervjun, läsare som vill lära sig mer kan besöka Satisfi Labs.