Donny White, VD & medgrundare av Satisfi Labs – Intervju-serie

Grundat 2016 är Satisfi Labs ett ledande företag inom konversations-AI. Tidig framgång kom från deras arbete med New York Mets, Macy’s (M ) och US Open, vilket möjliggjorde enkel tillgång till information som ofta inte var tillgänglig på webbplatser.

Donny tillbringade 15 år på Bloomberg innan han gick in i världen av start-ups och har en MBA från Cornell University och en BA från Baruch College. Under Donnys ledning har Satisfi Labs sett betydande tillväxt inom sport-, underhållnings- och turismsektorerna, med investeringar från Google (GOOGL ), MLB och Red Light Management.

Du var på Bloomberg i 14 år när du först kände den entreprenöriella klådan. Varför var att vara entreprenör plötsligt på din radar?

Under mitt tredje år på college ansökte jag om ett jobb som receptionist på Bloomberg. När jag fick foten innanför dörren sa jag till mina kollegor att om de var villiga att lära mig, kunde jag lära mig snabbt. Under mitt sista år var jag en heltidsanställd och hade flyttat alla mina kurser till kvällskurser så att jag kunde göra båda. Istället för att gå på min college-examen när jag var 21 år, tillbringade jag den tiden med att leda mitt första team. Från den punkten var jag lyckosam och arbetade i en meritokrati och befordrades flera gånger. När jag var 25 år gammal ledde jag min egen avdelning. Därefter gick jag in i regional ledning och sedan produkutveckling, tills jag slutligen ledde försäljningen i hela Amerika. 2013 började jag undra om jag kunde göra något större. Jag gick på några intervjuer på unga teknikföretag och en grundare sa till mig: “Vi vet inte om du är bra eller om Bloomberg är bra.” Då visste jag att något måste förändras och sex månader senare var jag vice VD för försäljning på min första start-up, Datahug. Strax därefter rekryterades jag av en grupp investerare som ville störa Yelp. Medan Yelp fortfarande är bra och väl, enades vi 2016 om en ny vision och jag grundade Satisfi Labs med samma investerare.

Kan du dela med dig av ursprunget till Satisfi Labs?

Jag var på en basebollmatch på Citi Field med Randy, Satisfis nuvarande CTO och medgrundare, när jag hörde talas om en av deras specialiteter, bacon på pinne. Vi gick runt i arenan och frågade personalen om det, men kunde inte hitta det någonstans. Det visade sig att det var gömt på ena änden av arenan, vilket ledde till insikten att det skulle ha varit mycket enklare att fråga direkt till laget via chatt. Här föddes vår första idé. Randy och jag kommer båda från finansområdet och algoritmisk handel, vilket ledde oss att ta konceptet med att matcha förfrågningar med svar och bygga vår egen NLP för hyper-specifika förfrågningar som skulle ställas på platser. Den ursprungliga idén var att bygga individuella botar som skulle vara experter inom ett visst område, särskilt kunskap som inte lätt kan hittas på en webbplats. Från där utvecklade vi ett system med en “dirigent” som kunde anropa varje bot när det behövdes. Detta är den ursprungliga systemarkitekturen som fortfarande används idag.

Satisfi Labs hade designat sin egen NLP-motor och var på väg att publicera ett pressmeddelande när OpenAI störde er teknikstack med lanseringen av ChatGPT. Kan du diskutera denna period och hur detta tvingade Satisfi Labs att ändra sin affärsinriktning?

Vi hade planerat att publicera ett pressmeddelande för att tillkännage vår patent-pending Context-baserade NLP-uppdatering den 6 december 2022. Den 30 november 2022 tillkännagav OpenAI ChatGPT. Tillkännagivandet av ChatGPT ändrade inte bara vår roadmap utan också världen. Initialt var vi, liksom alla andra, ivriga att förstå kraften och begränsningarna hos ChatGPT och förstå vad det betydde för oss. Vi insåg snart att vår kontext-baserade NLP-system inte konkurrerade med ChatGPT, utan kunde faktiskt förbättra LLM-upplevelsen. Detta ledde till ett snabbt beslut att bli OpenAI-företagspartners. Eftersom vårt system började med idén att förstå och svara på frågor på en granulär nivå, kunde vi kombinera “bot-dirigent”-systemdesignen och sju års avsiktdata för att uppgradera systemet till att integrera LLM.

Satisfi Labs lanserade nyligen en patent för ett Context LLM Response System, vad är detta specifikt?

I juli tillkännagav vi vår patent-pending Context LLM Response System. Det nya systemet kombinerar kraften i vårt patent-pending kontext-baserade svarsystem med stora språkmodellens förmågor för att stärka hela Answer Engine-systemet. Den nya Context LLM-tekniken integrerar stora språkmodellens förmågor i hela plattformen, från förbättring av avsikt-routning till svarsgenerering och avsikt-indexering, vilket också driver dess unika rapporteringsförmågor. Plattformen tar konversations-AI bortom den traditionella chatboten genom att utnyttja kraften i LLM som GPT-4. Vår plattform tillåter varumärken att svara med antingen genererade AI-svar eller förskrivna svar beroende på behovet av kontroll i svaret.

Kan du diskutera den nuvarande kopplingen mellan de flesta företags webbplatser och LLM-plattformar när det gäller att leverera varumärkes-specifika svar?

ChatGPT är utbildad för att förstå en stor mängd information och har därför inte den nivå av granulär utbildning som behövs för att svara på bransch-specifika frågor med den nivå av specificitet som de flesta varumärken förväntar sig. Dessutom är noggrannheten i de svar som LLM tillhandahåller bara så bra som de data som tillhandahålls. När du använder ChatGPT hämtar den data från hela internet, vilket kan vara felaktigt. ChatGPT prioriterar inte data från ett varumärke över annan data. Vi har tjänat olika branscher under de senaste sju åren och har fått värdefull insikt i de miljontals frågor som kunder ställer varje dag. Detta har möjliggjort för oss att förstå hur man kan justera systemet med större kontext per bransch och tillhandahålla robusta och granulära avsikt-rapporteringsförmågor, vilket är avgörande med tanke på den ökade användningen av stora språkmodeller. Medan LLM är effektivt för att förstå avsikt och generera svar, kan de inte rapportera om de frågor som ställs. Med hjälp av år av omfattande avsiktdata har vi effektivt skapat standardiserad rapportering genom vår Intent Indexing System.

Vilken roll spelar lingvister för att förbättra förmågan hos LLM-teknologier?

Rollen som prompt-engineer har uppstått med denna nya tekniken, som kräver en person som kan utforma och förfinna prompter som utlöser ett specifikt svar från AI. Lingvister har en stor förståelse för språkstruktur som syntax och semantik, bland annat. En av våra mest framgångsrika AI-ingenjörer har en lingvistisk bakgrund, vilket gör det möjligt för henne att hitta nya och nyanserade sätt att prompta AI. Subtila förändringar i prompten kan ha en djupgående effekt på hur korrekt och effektivt ett svar genereras, vilket gör all skillnad när vi hanterar miljontals frågor över flera kunder.

Vad ser finjustering ut som på baksidan?

Vi har vår egen proprietära datamodell som vi använder för att hålla LLM i linje. Detta tillåter oss att bygga våra egna stängsel för att hålla LLM under kontroll, istället för att leta efter stängsel. Dessutom kan vi utnyttja verktyg och funktioner som andra plattformar använder, vilket tillåter oss att stödja dem på våra plattformar.

Finjustering av träningsdata och användning av förstärkt inlärning (RL) i vår plattform kan hjälpa till att mildra risken för felaktig information. Finjustering, istället för att fråga efter specifika fakta för att lägga till, skapar en ny version av LLM som är utbildad på denna ytterligare kunskap. Å andra sidan utbildar RL en agent med mänsklig återkoppling och lär sig en policy för att svara på frågor. Detta har visat sig vara framgångsrikt i att bygga mindre modeller som blir experter på specifika uppgifter.

Kan du diskutera processen för att omborda en ny kund och integrera konversations-AI-lösningar?

Eftersom vi fokuserar på destinationer och upplevelser som sport, underhållning och turism, kan nya kunder dra nytta av dem som redan är i samhället, vilket gör ombordstigning mycket enkel. Nya kunder identifierar var deras mest aktuella datakällor bor, till exempel en webbplats, anställdahandböcker, bloggar osv. Vi tar in data och utbildar systemet i realtid. Eftersom vi arbetar med hundratals kunder inom samma bransch kan vårt team snabbt ge rekommendationer om vilka svar som är bäst lämpade för förskrivna svar eller genererade svar. Dessutom ställer vi in guidade flöden som vår dynamiska Food & Beverage Finder så att kunder aldrig behöver hantera en bot-byggare.

Satisfi Labs arbetar för närvarande nära med sportlag och företag, vad är din vision för företagets framtid?

Vi ser en framtid där fler varumärken kommer att vilja kontrollera fler aspekter av sin chatt-upplevelse. Detta kommer att leda till ett ökat behov av vårt system för att tillhandahålla mer utvecklar-nivå-åtkomst. Det är inte meningsfullt för varumärken att anställa utvecklare för att bygga sina egna konversations-AI-system eftersom den expertis som behövs kommer att vara sällsynt och dyr. Men med vårt system som matar backenden kan deras utvecklare fokusera mer på kundupplevelsen och resan genom att ha större kontroll över prompter, ansluta proprietär data för att tillåta mer personanpassning och hantera chatt-UI för specifika användarbehov. Satisfi Labs kommer att vara det tekniska ryggraden för varumärkens konversationsupplevelser.

Tack för den underbara intervjun, läsare som vill lära sig mer kan besöka Satisfi Labs.