Donny White, Satisfi Labsin CEO ja Co-Perustaja – Haastattelusarja

Perustettu vuonna 2016, Satisfi Labs on johtava keskustelualgoritmiyritys. Varhaiset menestykset tulivat sen työstä New York Metsin, Macyn ja US Openin kanssa, jolloin asiakkaiden oli helppo saada tietoa, jota ei ollut helposti saatavilla verkkosivuilla.

Donny työskenteli 15 vuotta Bloombergilla ennen kuin siirtyi startup-yrityksiin ja hänellä on MBA-tutkinto Cornellin yliopistosta ja BA-tutkinto Baruch Collegesta. Donnyn johdolla Satisfi Labs on kokenut merkittävää kasvua urheilu-, viihde- ja matkailusektorilla, ja se on saanut sijoituksia Googlelta, MLB:ltä ja Red Light Managementilta.

Milloin sinä aloit yrittäjän urasi?

Kun olin kolmannella yliopistovuodellani, hain töihin Bloombergiin vastaanottovirkailijaksi. Kun pääsin sisään, kerroin kollegoilleni, että jos he opettavat minulle, voin oppia nopeasti. Viimeisenä yliopistovuotena olin jo täysipäiväinen työntekijä ja olin siirtänyt kaikki opintoni iltaisin, jotta voisin tehdä molempia. Sen sijaan, että olisin osallistunut valmistujaisiin 21-vuotiaana, hallinnoi jo ensimmäistä tiimiäni. Siitä lähtien olin onnekas työskennellä ansioitumisperusteisessa yrityksessä ja olen edennyt useita kertoja. 25-vuotiaana johtamin johtoryhmääni, ja myöhemmin siirryin alueelliseen johtoon ja lopulta tuotekehitykseen, kunnes lopulta johtamin myyntiä koko Amerikassa. Vuonna 2013 aloin miettiä, voinko tehdä jotain suurempaa. Menin muutamiin haastatteluihin nuoriin teknologiayrityksiin, ja yksi perustaja sanoi minulle: “Emme tiedä, oletko sinä hyvä vai onko Bloomberg hyvä.” Silloin tiesin, että jotain piti muuttaa, ja kuuden kuukauden kuluttua olin Datahugin myyntijohtaja. Pian sen jälkeen minut palkattiin ryhmään, joka halusi horjuttaa Yelpiä. Vaikka Yelp on edelleen hyvä ja menestyvä, vuonna 2016 olimme samaa mieltä uudesta visiosta, ja perustin Satisfi Labsin samojen sijoittajien kanssa.

Voitko kertoa Satisfi Labsin alkuvaiheista?

Olin baseball-ottelussa Citi Fieldissä Randyn, Satisfin nykyisen CTO:n ja perustajan, kanssa, kun kuulin heidän erikoisuudestaan, baconista tikussa. Kävelimme ympäri areenaa ja kysyimme henkilökunnalta siitä, mutta emme löytäneet sitä missään. Se osoittautui olevan piilossa areenan toisessa päässä, mikä sai minut tajuttamaan, että olisi ollut paljon helpompaa kysyä suoraan joukkueelta chatin kautta. Tästä syntyi ensimmäinen ideamme. Randy ja minä tulemme molemmat rahoituksen ja algoritmisen kaupankäynnin taustasta, mikä sai meidät ottamaan käyttöön konseptin pyynnön ja vastauksen sopimisesta ja rakentamaan oman NLP: n hyvin spesifeille kysymyksille, jotka pyydettiin paikoissa. Alkuperäinen idea oli rakentaa yksittäisiä botti, jotka olisivat jokainen asiantuntija tietyllä tiedon alueella, erityisesti tiedolla, jota ei ole helppo löytää verkkosivuilta. Järjestelmämme olisi sitten “johtaja”, joka voisi kutsua jokaista bottia tarpeen mukaan. Tämä on alkuperäinen järjestelmäarkkitehtuuri, jota käytetään edelleen tänään.

Satisfi Labs oli suunnitellut oman NLP-moottorin ja oli valmis julkaisemaan lehdistötiedotteen, kun OpenAI keskeytti teknologiapinon julkaisemalla ChatGPT:n. Voitko kertoa tästä ajasta ja miten se pakotti Satisfi Labsin muuttamaan liiketoimintaa?

Meillä oli suunniteltu lehdistötiedote julkaista patentoitua Context-pohjaisen NLP-päivitystä 6. joulukuuta 2022. 30. marraskuuta 2022 OpenAI julkaisi ChatGPT:n. ChatGPT:n ilmoitus muutti ei ainoastaan tiemme, vaan myös maailman. Aluksi me, kuten kaikki muutkin, kilpailimme ymmärtääkseni ChatGPT:n voimaa ja rajoja ja ymmärtääkseni, mitä se merkitsi meille. Pian tajusimme, että kontekstualisen NLP-järjestelmämme ei kilpaili ChatGPT: n kanssa, vaan voisi todella parantaa LLM-kokemusta. Tämä johti nopeaan päätökseen tulla OpenAI:n yrityskumppaneiksi. Koska järjestelmämme alkoi ideasta ymmärtää ja vastata kysymyksiin hienojakoisella tasolla, pystyimme yhdistämään “botti-johtajan” järjestelmän suunnittelun ja seitsemän vuoden aikojen intent-tietojen kanssa päivittämään järjestelmää ottamaan LLM:t mukaan.

Satisfi Labs julkaisi äskettäin patentin Context LLM Response Systemille, mitä se tarkalleen ottaen on?

Tämä heinäkuussa julkaisimme patentin Context LLM Response Systemille. Uusi järjestelmä yhdistää patentoidun kontekstuaalisen vastausjärjestelmämme voiman suurten kielimallien kanssa vahvistamaan koko Answer Engine -järjestelmää. Uusi Context LLM -tekniikka integroi suurten kielimallien ominaisuudet koko alustaan, aina intent-reitityksestä vastausluontiin ja intent-indeksointiin, mikä myös ohjaa sen ainutlaatuisia raportointikapasiteetteja. Alusta vie keskustelualgoritmin perinteisen chatbotin ulkopuolelle hyödyntämällä LLM:ien kuten GPT-4:n voimaa. Alustamme mahdollistaa brändeille vastata sekä generatiivisilla AI-vastauksilla että ennalta kirjoitetuilla vastauksilla riippuen vastauksen tarpeesta.

Voitko kertoa yritysten verkkosivujen ja LLM-alustojen välisen nykyisen eron brändimäisen vastaaminen?

ChatGPT on koulutettu ymmärtämään laajaa tietoa, eikä sillä ole tarvittavaa hienojakoisuutta vastata teollisuusspesifejä kysymyksiä siinä määrin, kuin useimmat brändit odottavat. Lisäksi LLM:ien antamien vastausten tarkkuus on vain niin hyvä kuin annettu data. Kun käytät ChatGPT: ä, se hakee tietoa koko internetistä, mikä voi olla epätarkkaa. ChatGPT ei priorisoi brändin tietoja muiden tietojen yläpuolelle. Olemme palvelleet useita teollisuusaloja viiden viime vuoden ajan, ja saaneet arvokkaita oivalluksia miljoonista asiakkaiden kysymyksistä joka päivä. Tämä on mahdollistanut meidän koulutusjärjestelmän kontekstuaalisuuden parantamisen kullekin toimialalle ja tarjoamalla vahvat ja hienojakoiset intent-raportointikapasiteetit, jotka ovat olennaisia suurten kielimallien kasvun myötä. Vaikka LLM:t ovat tehokkaita ymmärtämään intenttiä ja luomaan vastauksia, ne eivät voi raportoida kysymyksistä. Vuosien mittaisen laajan intent-tiedon avulla olemme tehokkaasti luoneet standardoidun raportoinnin Intent-indeksijärjestelmän kautta.

Mikä on kielitieteilijöiden rooli LLM-tekniikoiden kykyjen parantamisessa?

Prompt- insinöörin rooli on kehittynyt tämän uuden teknologian myötä, joka vaatii henkilöltä suunnitella ja hioa syötteitä, jotka saavat AI:n antamaan tietyn vastauksen. Kielitieteilijät ovat kielen rakenteen, kuten syntaksin ja semantiikan, asiantuntijoita, ja yksi menestyneimmistä AI-insinööreistämme on kielitieteen tausta, mikä mahdollistaa hänelle löytää uusia ja hienostuneita tapoja ohjata AI: ta. Pienet muutokset syötteessä voivat vaikuttaa olennaisesti siihen, kuinka tarkka ja tehokas vastaus on luotu, mikä tekee kaiken eron, kun käsittelemme miljoonia kysymyksiä useiden asiakkaiden kanssa.

Miltä näyttää hienosäätö taustalla?

Meillä on oma omistaja data malli, jota käytämme pitämään LLM hallinnassa. Tämä mahdollistaa meille rakentaa omat esteemme pitämään LLM hallinnassa, sen sijaan, että etsimme esteitä. Toiseksi voimme hyödyntää työkaluja ja ominaisuuksia, joita muut alustat käyttävät, mikä mahdollistaa meidän tukemisen niitä omilla alustoillamme.

Hienosäätö koulutusdataa ja käyttäminen vahvistusoppimista (RL) alustassamme voi auttaa lievittämään virheellisen tiedon riskiä. Hienosäätö eroaa tiedon hakemisesta tietopohjasta tiettyjä faktoja lisätäksesi, ja luo uuden LLM-version, joka on koulutettu tämän lisätiedon kanssa. Toisaalta RL kouluttaa agentin ihmisten palautteen avulla ja oppii käytännön vastaamaan kysymyksiin. Tämä on osoittautunut menestyksekkääksi rakentamassa pienempiä jalanjälkiä, jotka ovat asiantuntijoita tietyissä tehtävissä.

Voitko kertoa uuden asiakkaan pääsyprosessista ja keskustelualgoritmiin integroinnista?

Koska keskitymme kohteisiin ja kokemuksiin, kuten urheiluun, viihdeeseen ja matkailuun, uudet asiakkaat hyötyvät jo olemassa olevasta yhteisöstä, mikä tekee pääsystä erittäin yksinkertaiseksi. Uudet asiakkaat tunnistavat, missä heidän nykyiset tietolähteensä sijaitsevat, kuten verkkosivut, työntekijän käsikirjat, blogit jne. Me otamme tiedon ja koulutamme järjestelmän reaaliajassa. Koska työskentelemme sadoittain asiakkaiden kanssa samalla alalla, tiimimme voi nopeasti antaa suosituksia siitä, mitkä vastaukset ovat parhaiten soveltuvia ennalta kirjoitettuihin vastauksiin verrattuna generoituihin vastauksiin. Lisäksi me asetamme ohjatut virtaukset, kuten dynaamisen Ruoka- ja juomavalihtojen etsinnän, jotta asiakkaiden ei tarvitse koskaan käsitellä botin rakentajaa.

Mikä on visiosi Satisfi Labsin tulevaisuudesta?

Näemme tulevaisuuden, jossa brändit haluavat hallita enemmän keskustelu kokemuksensa. Tämä johtaa tarpeeseen, jossa järjestelmämme tarjoaa enemmän kehittäjätasoa pääsyä. Ei ole järkevää, että brändit palkkaavat kehittäjiä rakentamaan omat keskustelualgoritmi järjestelmänsä, koska asiantuntemus, jota tarvitaan, on niukkaa ja kallista. Sen sijaan, kun järjestelmämme ruokkii taustaa, heidän kehittäjänsä voivat keskittyä enemmän asiakaskokemukseen ja matkaan saamalla suuremman hallinnan syötteistä, liittämällä omia tietoja sallimaan enemmän räätälöintiä ja hallitsemalla chat-käyttöliittymää tiettyjen käyttäjien tarpeiden mukaan. Satisfi Labs on brändien keskustelukokemusten tekninen runko.

Kiitos haastattelusta, lukijoille, jotka haluavat oppia lisää, kannattaa vierailla Satisfi Labs:ssa.