Donny White, CEO și co-fondator al Satisfi Labs – Seria de interviuri

Fondată în 2016, Satisfi Labs este o companie lider în IA conversațională. Succesul timpuriu a venit din munca sa cu New York Mets, Macy's și US Open, permițând accesul ușor la informații adesea indisponibile pe site-uri web.

Donny a petrecut 15 ani la Bloomberg înainte de a intra în lumea start-up-urilor și deține un MBA de la Universitatea Cornell și o licență de la Baruch College. Sub conducerea lui Donny, Satisfi Labs a înregistrat o creștere semnificativă în sectoarele sportului, divertismentului și turismului, primind investiții de la Google, MLB și Red Light Management.

Ai fost la Bloomberg timp de 14 ani când ai simțit pentru prima dată mâncărimea antreprenorială. De ce a fost brusc pe radarul tău să fii antreprenor?

În timpul anului meu junior de facultate, am aplicat pentru un loc de muncă ca recepționer la Bloomberg. Odată ce am băgat piciorul în uşă, le-am spus colegilor că, dacă ar fi dispuşi să mă înveţe, aş putea învăţa repede. Până în ultimul an, eram angajat cu normă întreagă și îmi mutasem toate cursurile la cursuri de noapte, astfel încât să le pot face pe amândouă. În loc să merg la absolvirea facultatii la vârsta de 21 de ani, mi-am petrecut acel timp gestionând prima mea echipă. Din acel moment, am avut norocul să lucrez într-o meritocrație și am fost ridicat de mai multe ori. Pe la 25 de ani, îmi conduceam propriul departament. De acolo, am trecut la managementul regional și apoi la dezvoltarea de produse, până când, în cele din urmă, am desfășurat vânzări în toate Americile. Până în 2013, am început să mă întreb dacă aș putea face ceva mai mare. Am luat câteva interviuri la companii de tehnologie tinere și un fondator mi-a spus: „Nu știm dacă ești bun sau Bloomberg este bun”. Atunci am știut că trebuie să se schimbe ceva și șase luni mai târziu am fost vicepreședintele vânzărilor la primul meu startup, Datahug. La scurt timp după, am fost recrutat de un grup de investitori care doreau să perturbe Yelp. Deși Yelp este încă bun și bine, în 2016 ne-am aliniat la o nouă viziune și am co-fondat Satisfi Labs cu aceiași investitori.

Ați putea împărtăși povestea genezei din spatele Satisfi Labs?

Eram la un meci de baseball la Citi Field cu Randy, actualul CTO și co-fondator al Satisfi, când am auzit de una dintre specialitățile lor, slănină pe băț. Ne-am plimbat în jurul hallului și am întrebat personalul despre asta, dar nu l-am găsit nicăieri. Se pare că a fost ascuns la un capăt al stadionului, ceea ce a determinat să realizeze că ar fi fost mult mai convenabil să întrebați direct echipa prin chat. Aici s-a născut prima noastră idee. Eu și Randy venim amândoi din medii financiare și de tranzacționare algoritmică, ceea ce ne-a determinat să luăm conceptul de potrivire a cererilor cu răspunsuri pentru a ne construi propriul NLP pentru întrebări hiper-specifice care ar fi solicitate în locații. Ideea inițială a fost de a construi roboți individuali care ar fi fiecare experți într-un anumit domeniu de cunoaștere, în special cunoștințe care nu sunt ușor accesibile pe un site web. De acolo, sistemul nostru ar avea un „conductor” care ar putea atinge fiecare bot atunci când este necesar. Aceasta este arhitectura originală a sistemului care este încă folosită astăzi.

Satisfi Labs și-a proiectat propriul motor NLP și era pe punctul de a publica un comunicat de presă când OpenAI v-a perturbat stiva tehnologică odată cu lansarea ChatGPT. Puteți discuta despre această perioadă de timp și despre modul în care acest lucru a forțat Satisfi Labs să își pivoteze afacerea?

Avem un comunicat de presă programat pentru a anunța upgrade-ul nostru NLP bazat pe context, aflat în așteptare, pentru 6 decembrie 2022. La 30 noiembrie 2022, OpenAI a anunțat ChatGPT. Anunțul ChatGPT a schimbat nu numai foaia de parcurs, ci și lumea. Inițial, noi, la fel ca toți ceilalți, ne cursam pentru a înțelege puterea și limitele ChatGPT și pentru a înțelege ce însemna asta pentru noi. Curând ne-am dat seama că sistemul nostru contextual NLP nu concura cu ChatGPT, dar ar putea îmbunătăți experiența LLM. Acest lucru a condus la o decizie rapidă de a deveni parteneri de întreprindere OpenAI. De când sistemul nostru a început cu ideea de a înțelege și de a răspunde la întrebări la nivel granular, am reușit să combinăm designul sistemului „conductor bot” și șapte ani de date de intenție pentru a actualiza sistemul pentru a include LLM-uri.

Satisfi Labs a lansat recent un brevet pentru un Context LLM Response System, ce este asta în mod concret?

În iulie, am dezvăluit sistemul nostru de răspuns Context LLM, în curs de brevetare. Noul sistem combină puterea sistemului nostru de răspuns contextual în curs de brevetare cu capabilități mari de model lingvistic pentru a consolida întregul sistem Answer Engine. Noua tehnologie Context LLM integrează capabilități mari de model lingvistic în întreaga platformă, de la îmbunătățirea direcționării intenției până la generarea de răspunsuri și indexarea intențiilor, care determină și capabilitățile sale unice de raportare. Platforma duce AI conversațională dincolo de chatbot-ul tradițional, valorificând puterea LLM-urilor precum GPT-4. Platforma noastră permite mărcilor să răspundă atât cu răspunsuri AI generative, cât și cu răspunsuri pre-scrise, în funcție de nevoia de control în răspuns.

Puteți discuta despre deconectarea actuală dintre majoritatea site-urilor web ale companiilor și platformele LLM în furnizarea de răspunsuri la nivel de marcă?

ChatGPT este instruit să înțeleagă o gamă largă de informații și, prin urmare, nu are nivelul de pregătire granulară necesar pentru a răspunde întrebărilor specifice industriei cu nivelul de specificitate la care se așteaptă majoritatea mărcilor. În plus, acuratețea răspunsurilor oferite de LLM este la fel de bună ca și datele furnizate. Când utilizați ChatGPT, provine date de pe internet, ceea ce poate fi inexact. ChatGPT nu acordă prioritate datelor de la o marcă față de alte date. Deservim diverse industrii în ultimii șapte ani, obținând informații valoroase asupra milioanelor de întrebări adresate de clienți în fiecare zi. Acest lucru ne-a permis să înțelegem cum să reglam sistemul cu un context mai mare pentru fiecare industrie și să oferim capabilități solide și granulare de raportare a intențiilor, care sunt cruciale având în vedere creșterea modelelor lingvistice mari. Deși LLM-urile sunt eficiente în înțelegerea intenției și în generarea de răspunsuri, nu pot raporta întrebările adresate. Folosind ani de date extinse privind intențiile, am creat eficient rapoarte standardizate prin sistemul lor de indexare a intențiilor.

Ce rol joacă lingviștii în îmbunătățirea abilităților tehnologiilor LLM?

Rolul de inginer prompt a apărut odată cu această nouă tehnologie, care necesită ca o persoană să proiecteze și să perfecționeze prompturile care provoacă un răspuns specific din partea AI. Lingviștii au o mare înțelegere a structurii limbajului, cum ar fi sintaxa și semantica, printre altele. Unul dintre cei mai de succes ingineri AI ai noștri are o experiență în lingvistică, ceea ce îi permite să fie foarte eficientă în găsirea unor modalități noi și nuanțate de a stimula AI. Modificările subtile ale promptului pot avea efecte profunde asupra modului în care este generat un răspuns exact și eficient, ceea ce face toată diferența atunci când gestionăm milioane de întrebări la mai mulți clienți.

Cum arată reglarea fină pe backend?

Avem propriul nostru model de date proprietar pe care îl folosim pentru a menține LLM-ul în linie. Acest lucru ne permite să ne construim propriile garduri pentru a menține LLM-ul sub control, spre deosebire de a fi nevoiți să căutăm garduri. În al doilea rând, putem folosi instrumente și funcții pe care alte platforme le utilizează, ceea ce ne permite să le sprijinim pe platformele noastre.

Reglarea fină a datelor de antrenament și utilizarea învățării prin consolidare (RL) în platforma noastră poate ajuta la atenuarea riscului de dezinformări. Reglarea fină, spre deosebire de interogarea bazei de cunoștințe pentru fapte specifice de adăugat, creează o nouă versiune a LLM care este instruită pe aceste cunoștințe suplimentare. Pe de altă parte, RL antrenează un agent cu feedback uman și învață o politică despre cum să răspundă la întrebări. Acest lucru s-a dovedit a avea succes în construirea modelelor de amprentă mai mică care devin experți în sarcini specifice.

Puteți discuta despre procesul de integrare a unui nou client și de integrare a soluțiilor AI conversaționale?

Deoarece ne concentrăm pe destinații și experiențe precum sport, divertisment și turism, clienții noi beneficiază de cei care se află deja în comunitate, făcând integrarea foarte simplă. Clienții noi identifică unde locuiesc sursele lor de date cele mai actuale, cum ar fi un site web, manuale pentru angajați, bloguri etc. Îngerăm datele și instruim sistemul în timp real. Deoarece lucrăm cu sute de clienți din aceeași industrie, echipa noastră poate oferi rapid recomandări cu privire la răspunsurile care sunt cele mai potrivite pentru răspunsurile pre-scrise față de răspunsurile generate. În plus, am configurat fluxuri ghidate, cum ar fi Găsitorul nostru dinamic de alimente și băuturi, astfel încât clienții să nu aibă niciodată de-a face cu un constructor de bot.

Satisfi Labs lucrează în prezent îndeaproape cu echipe și companii sportive, care este viziunea dumneavoastră pentru viitorul companiei?

Vedem un viitor în care mai multe mărci vor dori să controleze mai multe aspecte ale experienței lor de chat. Acest lucru va duce la o nevoie crescută pentru sistemul nostru de a oferi mai mult acces la nivel de dezvoltator. Nu are sens ca mărcile să angajeze dezvoltatori pentru a-și construi propriile sisteme AI conversaționale, deoarece expertiza necesară va fi puțină și costisitoare. Cu toate acestea, cu sistemul nostru care alimentează backend-ul, dezvoltatorii lor se pot concentra mai mult pe experiența și călătoria clientului, având un control mai mare asupra solicitărilor, conectând datele proprietare pentru a permite o personalizare mai mare și gestionând interfața de chat pentru nevoile specifice ale utilizatorilor. Satisfi Labs va fi coloana vertebrală tehnică a experiențelor conversaționale ale mărcilor.

Mulțumim pentru interviul minunat, cititorii care doresc să afle mai multe ar trebui să viziteze Satisfi Labs.