Donny White, CEO & Co-Founder of Satisfi Labs – Interviu Seria

Înființată în 2016, Satisfi Labs este o companie de conversațional AI de top. Succesul timpuriu a venit din munca sa cu New York Mets, Macy’s și US Open, permițând accesul facil la informații adesea indisponibile pe site-urile web.

Donny a petrecut 15 ani la Bloomberg înainte de a intra în lumea start-up-urilor și deține un MBA de la Universitatea Cornell și un BA de la Baruch College. Sub conducerea lui Donny, Satisfi Labs a înregistrat o creștere semnificativă în sectoarele sport, divertisment și turism, primind investiții de la Google, MLB și Red Light Management.

Ați fost la Bloomberg timp de 14 ani când ați simțit pentru prima dată pofta de a fi antreprenor. De ce a devenit brusc antreprenoriatul o prioritate pentru dvs?

În timpul anului meu junior de facultate, am aplicat pentru un post de recepționist la Bloomberg. Odată ce am intrat pe ușă, le-am spus colegilor mei că, dacă sunt dispuși să mă învețe, pot învăța repede. Până la sfârșitul anului meu senior, eram angajat cu normă întreagă și mutasem toate cursurile mele la seral, astfel încât să pot face ambele. În loc să merg la absolvirea mea la vârsta de 21 de ani, am petrecut timpul gestionând prima mea echipă. De acolo, am avut norocul să lucrez într-o meritocrație și am fost ridicat de mai multe ori. Până la vârsta de 25 de ani, conduceam propriul meu departament. De acolo, am trecut la managementul regional și apoi la dezvoltarea de produse, până când, în cele din urmă, conduceam vânzările în toate Americile. Până în 2013, am început să mă întreb dacă aș putea face ceva mai mare. Am fost la câteva interviuri la companii tehnologie tinere și unul dintre fondatori mi-a spus: „Nu știm dacă sunteți bun sau dacă Bloomberg este bun.” Atunci am știut că trebuia să se schimbe ceva și, șase luni mai târziu, eram vicepreședinte de vânzări la prima mea companie start-up, Datahug. Puțin mai târziu, am fost recrutat de un grup de investitori care doreau să perturbe Yelp. Deși Yelp este încă bun și bine, în 2016 am convenit asupra unei noi viziuni și am co-fondat Satisfi Labs cu aceiași investitori.

Puteți împărtăși povestea de origine din spatele Satisfi Labs?

Eram la un meci de baseball la Citi Field cu Randy, actualul CTO și co-fondator al Satisfi, când am aflat despre una dintre specialitățile lor, bacon pe un băț. Am mers pe coridor și am întrebat personalul despre asta, dar nu am putut găsi nicăieri. S-a dovedit că era ascuns într-un capăt al stadionului, ceea ce m-a făcut să realizez că ar fi fost mult mai convenabil să întreb direct echipa prin chat. Aici s-a născut prima noastră idee. Randy și eu venim amândoi din finanțe și din fundalul tranzacționării algoritmice, ceea ce ne-a condus să luăm conceptul de a asocia solicitări cu răspunsuri pentru a construi propriul nostru NLP pentru întrebări hiper-specifice care ar fi întrebate în locații. Ideea originală a fost să construim boturi individuale care ar fi fost fiecare expert într-un anumit domeniu de cunoaștere, în special cunoașterea care nu este ușor accesibilă pe un site web. De acolo, sistemul nostru ar avea un „dirijor” care ar putea apela fiecare bot atunci când este nevoie. Aceasta este arhitectura sistemului original care este încă utilizată astăzi.

Satisfi Labs a proiectat propriul său motor NLP și era pe punctul de a publica un comunicat de presă când OpenAI a perturbat stiva dvs. tehnologică cu lansarea ChatGPT. Puteți discuta această perioadă și cum a forțat Satisfi Labs să-și schimbe direcția afacerii?

Aveam un comunicat de presă programat pentru a anunța upgrade-ul nostru patent-pending Context-based NLP pentru 6 decembrie 2022. Pe 30 noiembrie 2022, OpenAI a anunțat ChatGPT. Anunțul ChatGPT a schimbat nu numai drumul nostru, ci și lumea. Inițial, am alergat, ca toată lumea, să înțelegem puterea și limitele ChatGPT și să înțelegem ce înseamnă asta pentru noi. Am realizat curând că sistemul nostru de NLP contextual nu concurează cu ChatGPT, ci poate chiar îmbunătăți experiența LLM. Acest lucru ne-a condus la decizia rapidă de a deveni parteneri enterprise OpenAI. Deoarece sistemul nostru a început cu ideea de a înțelege și a răspunde la întrebări la nivel granular, am putut combina designul sistemului „dirijor de bot” și șapte ani de date de intenție pentru a actualiza sistemul și a încorpora LLM-urile.

Satisfi Labs a lansat recent o patent pentru un Sistem de Răspuns LLM Context, ce este acesta în mod specific?

În această vară, am prezentat sistemul nostru patent-pending de Răspuns LLM Context. Noul sistem combină puterea sistemului nostru patent-pending de răspuns contextual cu capacitățile modelului de limbaj mare pentru a consolida întregul sistem Answer Engine. Tehnologia LLM Context nouă integrează capacitățile modelului de limbaj mare în întreaga platformă, de la îmbunătățirea rutării intenției la generarea de răspunsuri și indexarea intenției, ceea ce conduce și la capacitățile sale unice de raportare. Platforma depășește chatbot-ul tradițional, folosind puterea LLM-urilor, cum ar fi GPT-4. Platforma noastră permite brandurilor să răspundă cu răspunsuri generate de AI sau cu răspunsuri pre-scrise, în funcție de nevoia de control în răspuns.

Puteți discuta despre decuplarea curentă dintre majoritatea site-urilor web ale companiilor și platformele LLM în furnizarea de răspunsuri conforme cu brandul?

ChatGPT este antrenat pentru a înțelege o gamă largă de informații și, prin urmare, nu are nivelul de antrenament granular necesar pentru a răspunde la întrebări specifice industriei cu nivelul de specificitate pe care îl așteaptă majoritatea brandurilor. În plus, acuratețea răspunsurilor furnizate de LLM-uri este doar la fel de bună ca datele furnizate. Când utilizați ChatGPT, acesta extrage date de pe întregul internet, care pot fi inexacte. ChatGPT nu prioritizează datele de la un brand față de alte date. Am deservit diverse industrii în ultimii șapte ani, obținând insighturi valoroase cu privire la milioanele de întrebări puse de clienți în fiecare zi. Acest lucru ne-a permis să înțelegem cum să ajustăm sistemul cu un context mai mare pe industrie și să oferim capacități robuste și granulare de raportare a intenției, care sunt esențiale având în vedere apariția modelului de limbaj mare. În timp ce LLM-urile sunt eficiente în înțelegerea intenției și generarea de răspunsuri, acestea nu pot raporta asupra întrebărilor puse. Folosind ani de date extinse de intenție, am creat raportare standardizată prin sistemul nostru de indexare a intenției.

Care este rolul lingviștilor în îmbunătățirea capacităților tehnologiilor LLM?

Rolul inginerului de prompt a apărut odată cu această nouă tehnologie, care necesită o persoană să proiecteze și să rafineze prompturile care să elice un răspuns specific de la AI. Lingviștii au o înțelegere profundă a structurii limbii, cum ar fi sintaxa și semantica, printre altele. Unul dintre cei mai de succes ingineri AI ai noștri are o pregătire în lingvistică, ceea ce îi permite să fie foarte eficient în găsirea de noi și subtile modalități de a prompta AI-ul. Schimbări subtile în prompt pot avea efecte profunde asupra modului în care este generat un răspuns precis și eficient, ceea ce face toată diferența atunci când gestionăm milioane de întrebări pentru mai mulți clienți.

Ce înseamnă fine-tuning pe partea din spate?

Avem propriul nostru model de date proprietar pe care îl folosim pentru a ține LLM-ul sub control. Acest lucru ne permite să construim propriile noastre garduri pentru a ține LLM-ul sub control, în loc să trebuiască să căutăm garduri. În al doilea rând, putem utiliza instrumente și funcții pe care le utilizează și alte platforme, ceea ce ne permite să le susținem pe platformele noastre.

Fine-tuning-ul datelor de antrenament și utilizarea învățării prin întărire (RL) în platforma noastră poate ajuta la mitigarea riscului de informații inexacte. Fine-tuning-ul, în contrast cu interogarea bazei de cunoștințe pentru fapte specifice pentru a adăuga, creează o nouă versiune a LLM-ului care este antrenat pe această cunoaștere suplimentară. Pe de altă parte, RL antrenează un agent cu feedback uman și învață o politică de a răspunde la întrebări. Acest lucru s-a dovedit a fi de succes în construirea unor modele cu amprentă mai mică care devin specializate în sarcini specifice.

Puteți discuta procesul de integrare a unui client nou și de integrare a soluțiilor de inteligență conversațională?

Deoarece ne concentrăm pe destinații și experiențe, cum ar fi sport, divertisment și turism, clienții noștri noi beneficiază de cei care sunt deja în comunitate, făcând integrarea foarte simplă. Noii clienți identifică unde se află sursele lor de date actuale, cum ar fi un site web, cărți de instrucțiuni ale angajaților, bloguri etc. Noi ingestăm datele și antrenăm sistemul în timp real. Deoarece lucrăm cu sute de clienți din aceeași industrie, echipa noastră poate oferi rapid recomandări cu privire la care răspunsuri sunt cele mai potrivite pentru răspunsuri pre-scrise versus generate. În plus, configurăm fluxuri ghidate, cum ar fi sistemul nostru dinamic de găsire a hranei și băuturilor, astfel încât clienții noștri să nu trebuiască să se ocupe niciodată de un constructor de bot.

Satisfi Labs lucrează în prezent în strânsă colaborare cu echipe sportive și companii, ce este viziunea dvs. pentru viitorul companiei?

Vedem un viitor în care mai multe branduri vor dori să controleze mai multe aspecte ale experienței de chat. Acest lucru va duce la o nevoie crescută ca sistemul nostru să ofere mai mult acces la nivelul dezvoltatorului. Nu are sens ca brandurile să angajeze dezvoltatori pentru a construi propriile sisteme de inteligență conversațională, deoarece expertiza necesară va fi rară și scumpă. Cu toate acestea, cu sistemul nostru care alimentează partea din spate, dezvoltatorii lor pot se concentra mai mult asupra experienței și parcursului clientului, având un control mai mare asupra prompturilor, conectând datele proprii pentru a permite o personalizare mai mare și gestionând interfața de utilizator a chat-ului pentru nevoi specifice de utilizator. Satisfi Labs va fi coloana vertebrală tehnică a experiențelor conversaționale ale brandurilor.

Mulțumim pentru acest interviu minunat; cititorii care doresc să afle mai multe ar trebui să viziteze Satisfi Labs.