Donny White, CEO & Co-Founder of Satisfi Labs – Interviu

Înființată în 2016, Satisfi Labs este o companie de top în domeniul inteligenței artificiale conversaționale. Succesul inițial a venit din colaborarea cu New York Mets, Macy’s (M ) și US Open, permițând accesul facil la informații adesea indisponibile pe site-urile web.

Donny a petrecut 15 ani la Bloomberg înainte de a intra în lumea start-up-urilor și deține un MBA de la Universitatea Cornell și un BA de la Baruch College. Sub conducerea lui Donny, Satisfi Labs a înregistrat o creștere semnificativă în sectoarele sport, divertisment și turism, primind investiții de la Google (GOOGL ), MLB și Red Light Management.

Ați fost la Bloomberg timp de 14 ani când ați simțit pentru prima dată chemarea antreprenoriatului. De ce a devenit brusc antreprenoriatul o opțiune pentru dvs.?

În timpul anului meu junior de facultate, am aplicat pentru un post de recepționist la Bloomberg. Odată ce am intrat pe ușă, le-am spus colegilor mei că, dacă sunt dispuși să mă învețe, pot învăța repede. Până la sfârșitul anului meu senior, eram angajat cu normă întreagă și mutasem toate cursurile mele la seral, astfel încât să pot face ambele. În loc să particip la absolvirea mea, am petrecut timpul gestionând prima mea echipă. De atunci, am avut norocul de a lucra într-o meritocrație și am fost promovat de mai multe ori. Până la 25 de ani, conduceam deja propriul meu departament. De acolo, am trecut la managementul regional și, ulterior, la dezvoltarea de produse, până când, în cele din urmă, conduceam vânzările în toate Americile. Până în 2013, am început să mă întreb dacă pot face ceva mai mare. Am participat la câteva interviuri la companii tehnologice tinere, și unul dintre fondatori mi-a spus: “Nu știm dacă sunteți bun sau dacă Bloomberg este bun.” Atunci am știut că trebuie să fac o schimbare, și, la șase luni după aceea, eram vicepreședinte de vânzări la prima mea companie start-up, Datahug. Puțin după aceea, am fost recrutat de un grup de investitori care doreau să perturbe Yelp. În timp ce Yelp este încă bun și funcțional, în 2016 am aliniat o nouă viziune și am co-fondat Satisfi Labs cu aceiași investitori.

Puteți împărtăși povestea de origine din spatele Satisfi Labs?

Eram la un meci de baseball la Citi Field cu Randy, actualul CTO și co-fondator al Satisfi, când am aflat despre una dintre specialitățile lor, bacon pe un băț. Am mers prin concurs și am întrebat personalul despre asta, dar nu am putut găsi nimic. S-a dovedit că era ascuns la un capăt al stadionului, ceea ce m-a făcut să realizez că ar fi fost mult mai convenabil să întreb direct echipa prin chat. Aici s-a născut prima noastră idee. Randy și eu venim amândoi din finanțe și din tranzacționarea algoritmică, ceea ce ne-a condus să preluăm conceptul de a face potriviri între cereri și răspunsuri pentru a construi propriul nostru NLP pentru întrebări hiper-specifice care ar fi întrebate la locații. Ideea originală era să construim boti individuali care ar fi fiecare experți într-un anumit domeniu de cunoaștere, în special cunoașterea care nu este ușor accesibilă pe un site web. De acolo, sistemul nostru ar avea un “dirijor” care ar putea apela fiecare bot atunci când este nevoie. Aceasta este arhitectura sistemului original care este încă utilizată astăzi.

Satisfi Labs a proiectat propriul motor NLP și era pe punctul de a publica un comunicat de presă când OpenAI a perturbat stiva dvs. tehnologică prin lansarea ChatGPT. Puteți discuta această perioadă și modul în care aceasta v-a forțat să schimbați direcția afacerii?

Aveam un comunicat de presă programat pentru a anunța upgrade-ul nostru patent-pending Context-based NLP pentru 6 decembrie 2022. Pe 30 noiembrie 2022, OpenAI a anunțat ChatGPT. Anunțul ChatGPT a schimbat nu numai drumul nostru, ci și lumea. Inițial, am fost, ca toată lumea, într-o cursă pentru a înțelege puterea și limitele ChatGPT și a înțelege ce înseamnă asta pentru noi. Am realizat curând că sistemul nostru contextual NLP nu concurează cu ChatGPT, ci poate, de fapt, îmbunătăți experiența LLM. Acest lucru ne-a condus la decizia rapidă de a deveni parteneri enterprise ai OpenAI. Deoarece sistemul nostru a început cu ideea de a înțelege și a răspunde la întrebări la nivel granular, am putut combina designul sistemului “dirijor de bot” și șapte ani de date de intenție pentru a actualiza sistemul și a încorpora LLM-urile.

Satisfi Labs a lansat recent o patent pentru un sistem de răspuns Context LLM, ce este acesta în mod specific?

În luna iulie, am prezentat sistemul nostru patent-pending de răspuns Context LLM. Noul sistem combină puterea sistemului nostru patent-pending de răspuns contextual cu capacitățile modelului de limbaj mare pentru a consolida întregul sistem Answer Engine. Tehnologia Context LLM nouă integrează capacitățile modelului de limbaj mare pe întreaga platformă, de la îmbunătățirea rutării intenției la generarea de răspunsuri și indexarea intenției, ceea ce conduce și la capacitățile sale unice de raportare. Platforma duce inteligența artificială conversațională dincolo de chatbot-ul tradițional, prin exploatarea puterii LLM-urilor, cum ar fi GPT-4. Platforma noastră permite brandurilor să răspundă atât cu răspunsuri generate de inteligență artificială, cât și cu răspunsuri pre-scrise, în funcție de nevoia de control în răspuns.

Puteți discuta despre decuplarea actuală dintre majoritatea site-urilor web ale companiilor și platformele LLM în ceea ce privește furnizarea de răspunsuri conforme cu brandul?

ChatGPT este antrenat pentru a înțelege o gamă largă de informații și, prin urmare, nu are nivelul de antrenament granular necesar pentru a răspunde la întrebări specifice din industrie cu nivelul de specificitate pe care majoritatea brandurilor îl așteaptă. În plus, acuratețea răspunsurilor furnizate de LLM-uri este doar la fel de bună ca și datele furnizate. Când utilizați ChatGPT, acesta extrage date de pe întreg internetul, care pot fi inexacte. ChatGPT nu prioritizează datele de la un brand față de alte date. Am deservit diverse industrii în ultimii șapte ani, obținând insighturi valoroase cu privire la milioanele de întrebări puse de clienți în fiecare zi. Acest lucru ne-a permis să înțelegem cum să ajustăm sistemul cu un context mai mare pe industrie și să oferim capacități robuste și granulare de raportare a intenției, care sunt cruciale având în vedere apariția modelului de limbaj mare. În timp ce LLM-urile sunt eficiente în înțelegerea intenției și generarea de răspunsuri, acestea nu pot raporta asupra întrebărilor puse. Utilizând ani de date extinse de intenție, am creat eficient raportarea standardizată prin Sistemul nostru de indexare a intenției.

Care este rolul lingviștilor în îmbunătățirea capacităților tehnologiilor LLM?

Rolul de inginer de prompt a apărut odată cu această nouă tehnologie, care necesită o persoană să proiecteze și să rafineze prompt-urile care să elice un răspuns specific de la IA. Lingviștii au o înțelegere profundă a structurii limbii, cum ar fi sintaxa și semantica, printre altele. Unul dintre cei mai de succes ingineri AI ai noștri are o pregătire în lingvistică, ceea ce îi permite să găsească modalități noi și subtile de a prompta IA. Schimbări subtile în prompt pot avea efecte profunde asupra modului în care este generat un răspuns precis și eficient, ceea ce face toată diferența atunci când gestionăm milioane de întrebări pentru mai mulți clienți.

Ce înseamnă fine-tuning la nivel de backend?

Avem propriul nostru model de date proprietar pe care îl folosim pentru a ține LLM-ul sub control. Acest lucru ne permite să construim propriile “garduri” pentru a ține LLM-ul sub control, în loc să căutăm garduri. În al doilea rând, putem utiliza unelte și caracteristici pe care alte platforme le utilizează, ceea ce ne permite să le susținem pe platformele noastre.

Finisarea datelor de antrenament și utilizarea învățării prin întărire (RL) în platforma noastră poate ajuta la mitigarea riscului de informații inexacte. Finisarea, în contrast cu interogarea bazei de cunoștințe pentru fapte specifice pentru a adăuga, creează o nouă versiune a LLM-ului care este antrenat pe aceste cunoștințe suplimentare. Pe de altă parte, RL antrenează un agent cu feedback uman și învață o politică de a răspunde la întrebări. Acest lucru s-a dovedit a fi de succes în construirea unor modele cu o amprentă mai mică care devin experți în sarcini specifice.

Puteți discuta despre procesul de integrare a unei noi clienți și de integrare a soluțiilor de inteligență artificială conversațională?

Deoarece ne concentrăm pe destinații și experiențe, cum ar fi sport, divertisment și turism, noii clienți beneficiază de cei care sunt deja în comunitate, făcând integrarea foarte simplă. Noii clienți identifică unde se află sursele lor actuale de date, cum ar fi un site web, manuale de angajați, bloguri etc. Ingerăm datele și antrenăm sistemul în timp real. Deoarece lucrăm cu sute de clienți din aceeași industrie, echipa noastră poate oferi rapid recomandări cu privire la care răspunsuri sunt mai potrivite pentru răspunsuri pre-scrise sau generate. În plus, configurăm fluxuri ghidate, cum ar fi căutarea noastră dinamică de alimente și băuturi, astfel încât clienții noștri să nu fie nevoiți să se ocupe de un constructor de bot.

Satisfi Labs lucrează în prezent în strânsă colaborare cu echipe sportive și companii, care este viziunea dvs. pentru viitorul companiei?

Vedem un viitor în care mai multe branduri vor dori să controleze mai multe aspecte ale experienței de chat. Acest lucru va duce la o nevoie crescută pentru sistemul nostru de a oferi mai mult acces la nivel de dezvoltator. Nu are sens ca brandurile să angajeze dezvoltatori pentru a construi propriile sisteme de inteligență artificială conversațională, deoarece expertiza necesară va fi rară și scumpă. Cu toate acestea, cu sistemul nostru care alimentează partea din spate, dezvoltatorii lor pot se concentra mai mult pe experiența și călătoria clientului, având un control mai mare asupra prompt-urilor, conectând datele proprietare pentru a permite o personalizare mai mare și gestionând interfața de utilizator a chat-ului pentru nevoi specifice de utilizator. Satisfi Labs va fi coloana vertebrală tehnică a experiențelor conversaționale ale brandurilor.

Mulțumim pentru acest interviu minunat, cititorii care doresc să afle mai multe pot vizita Satisfi Labs.