Donny White, CEO i cofundador de Satisfi Labs - Sèrie d'entrevistes

Fundada el 2016, Satisfi Labs és una empresa líder en IA conversacional. Els primers èxits van ser del seu treball amb els Mets de Nova York, Macy's i l'Open dels Estats Units, que va permetre un accés fàcil a la informació que sovint no està disponible als llocs web.

Donny va passar 15 anys a Bloomberg abans d'entrar al món de les start-ups i té un MBA per la Universitat de Cornell i un BA per Baruch College. Sota el lideratge de Donny, Satisfi Labs ha experimentat un creixement important en els sectors d'esports, entreteniment i turisme, rebent inversions de Google, MLB i Red Light Management.

Vau estar 14 anys a Bloomberg quan vau sentir per primera vegada la picor emprenedora. Per què ser emprenedor va quedar de sobte al teu radar?

Durant el meu primer any d'universitat, vaig sol·licitar una feina com a recepcionista a Bloomberg. Quan vaig posar el peu a la porta, vaig dir als meus companys que si estaven disposats a ensenyar-me, podria aprendre ràpidament. Al darrer any, era un empleat a temps complet i havia canviat totes les meves classes a classes nocturnes perquè pogués fer les dues coses. En lloc d'anar a la meva graduació universitària als 21 anys, vaig passar aquest temps gestionant el meu primer equip. A partir d'aquell moment, vaig tenir la sort de treballar en una meritocràcia i vaig ser elevat diverses vegades. Als 25 anys, tenia el meu propi departament. A partir d'aquí, vaig passar a la gestió regional i després al desenvolupament de productes, fins que finalment vaig estar fent vendes a totes les Amèriques. El 2013, vaig començar a preguntar-me si podria fer alguna cosa més gran. Vaig fer unes quantes entrevistes a empreses tecnològiques joves i un fundador em va dir: "No sabem si sou bo o si Bloomberg és bo". Va ser llavors quan vaig saber que alguna cosa havia de canviar i sis mesos després vaig ser el vicepresident de vendes de la meva primera startup, Datahug. Poc després, vaig ser reclutat per un grup d'inversors que volien interrompre Yelp. Tot i que Yelp encara està bé i bé, el 2016 ens vam alinear amb una nova visió i vaig cofundar Satisfi Labs amb els mateixos inversors.

Podries compartir la història de la gènesi darrere de Satisfi Labs?

Estava en un partit de beisbol al Citi Field amb Randy, l'actual CTO i cofundador de Satisfi, quan vaig sentir parlar d'una de les seves especialitats, la cansalada en un pal. Vam passejar per la sala i vam preguntar al personal sobre això, però no el vam trobar enlloc. Resulta que estava amagat en un extrem de l'estadi, la qual cosa va fer entendre que hauria estat molt més convenient consultar directament amb l'equip a través del xat. Aquí va néixer la nostra primera idea. Randy i jo venim de fons financers i de comerç algorítmic, cosa que ens va portar a prendre el concepte de combinar sol·licituds amb respostes per crear el nostre propi PNL per a consultes hiperespecífiques que es demanarien a les ubicacions. La idea original era crear robots individuals que fossin experts en un camp de coneixement particular, especialment coneixements que no són fàcilment accessibles en un lloc web. A partir d'aquí, el nostre sistema tindria un "conductor" que podria tocar cada bot quan fos necessari. Aquesta és l'arquitectura del sistema original que encara s'utilitza avui dia.

Satisfi Labs havia dissenyat el seu propi motor NLP i estava a punt de publicar un comunicat de premsa quan OpenAI va interrompre la vostra pila tecnològica amb el llançament de ChatGPT. Podeu parlar d'aquest període de temps i de com això va forçar Satisfi Labs a girar el seu negoci?

Teníem un comunicat de premsa programat per anunciar la nostra actualització de NLP basada en context, pendent de patent, per al 6 de desembre de 2022. El 30 de novembre de 2022, OpenAI va anunciar ChatGPT. L'anunci de ChatGPT no només va canviar el nostre full de ruta sinó també el món. Al principi, nosaltres, com tothom, estàvem lluitant per entendre el poder i els límits de ChatGPT i entendre el que això significava per a nosaltres. Aviat ens vam adonar que el nostre sistema de PNL contextual no competia amb ChatGPT, però que podria millorar l'experiència de LLM. Això va portar a una ràpida decisió de convertir-se en socis empresarials d'OpenAI. Com que el nostre sistema va començar amb la idea d'entendre i respondre preguntes a un nivell granular, vam poder combinar el disseny del sistema "conductor de bot" i set anys de dades d'intencions per actualitzar el sistema per incorporar LLM.

Satisfi Labs ha llançat recentment un patent per a un context LLM Response System, què és això concretament?

Aquest juliol, vam donar a conèixer el nostre sistema de resposta de Context LLM pendent de patent. El nou sistema combina la potència del nostre sistema de resposta contextual pendent de patent amb grans capacitats de model de llenguatge per reforçar tot el sistema Answer Engine. La nova tecnologia Context LLM integra grans capacitats de model d'idioma a tota la plataforma, que van des de la millora de l'encaminament d'intencions fins a la generació de respostes i la indexació d'intencions, que també impulsa les seves capacitats d'informes úniques. La plataforma porta la IA conversacional més enllà del chatbot tradicional aprofitant el poder dels LLM com ara GPT-4. La nostra plataforma permet a les marques respondre tant amb respostes d'IA generativa com amb respostes preescrites en funció de la necessitat de control en la resposta.

Podeu parlar de la desconnexió actual entre la majoria dels llocs web de les empreses i les plataformes de LLM per oferir respostes a la marca?

ChatGPT està format per comprendre una àmplia gamma d'informació i, per tant, no té el nivell de formació granular necessari per respondre preguntes específiques del sector amb el nivell d'especificitat que esperen la majoria de marques. A més, la precisió de les respostes que proporcionen els LLM només és tan bona com les dades proporcionades. Quan utilitzeu ChatGPT, s'obté dades d'Internet, que poden ser inexactes. ChatGPT no prioritza les dades d'una marca sobre altres dades. Durant els últims set anys hem prestat servei a diverses indústries, obtenint una valuosa informació sobre els milions de preguntes que fan els clients cada dia. Això ens ha permès entendre com ajustar el sistema amb un context més gran per indústria i proporcionar capacitats d'informes d'intencions sòlides i granulars, que són crucials donat l'augment dels grans models lingüístics. Tot i que els LLM són eficaços per entendre la intenció i generar respostes, no poden informar sobre les preguntes formulades. Amb anys d'extenses dades d'intencions, hem creat informes estandarditzats de manera eficient mitjançant el seu sistema d'indexació d'intencions.

Quin paper juguen els lingüistes en la millora de les habilitats de les tecnologies de LLM?

El paper de l'enginyer de promptes ha sorgit amb aquesta nova tecnologia, que requereix que una persona dissenyi i perfeccioni les indicacions que provoquen una resposta específica de la IA. Els lingüistes tenen una gran comprensió de l'estructura del llenguatge com ara la sintaxi i la semàntica, entre altres coses. Un dels nostres enginyers d'IA amb més èxit té una formació lingüística, cosa que li permet ser molt eficaç a l'hora de trobar maneres noves i matisades d'impulsar l'IA. Els canvis subtils a l'avís poden tenir efectes profunds sobre la precisió i l'eficàcia que es genera una resposta, cosa que marca la diferència quan tractem milions de preguntes entre diversos clients.

Com es veu l'ajustament al fons?

Tenim el nostre propi model de dades propietari que fem servir per mantenir el LLM en línia. Això ens permet construir les nostres pròpies tanques per mantenir el LLM sota control, en lloc d'haver de buscar tanques. En segon lloc, podem aprofitar les eines i funcions que utilitzen altres plataformes, cosa que ens permet donar-los suport a les nostres plataformes.

Ajustar les dades de formació i utilitzar l'aprenentatge de reforç (RL) a la nostra plataforma pot ajudar a mitigar el risc de desinformació. L'ajustament, en lloc de consultar la base de coneixement per a fets específics per afegir, crea una nova versió del LLM que s'entrena amb aquest coneixement addicional. D'altra banda, RL forma un agent amb comentaris humans i aprèn una política sobre com respondre les preguntes. Això ha demostrat tenir èxit en la creació de models d'empremta més petita que esdevinguin experts en tasques específiques.

Podeu parlar del procés per incorporar un nou client i integrar solucions d'IA conversacional?

Com que ens centrem en destinacions i experiències com ara esports, entreteniment i turisme, els nous clients es beneficien dels que ja són a la comunitat, fent que la incorporació sigui molt senzilla. Els nous clients identifiquen on viuen les seves fonts de dades més actuals, com ara un lloc web, manuals d'empleats, blocs, etc. Ingerim les dades i entrenem el sistema en temps real. Com que treballem amb centenars de clients del mateix sector, el nostre equip pot proporcionar ràpidament recomanacions sobre quines respostes s'adapten més a les respostes escrites prèviament que a les respostes generades. A més, configurem fluxos guiats com el nostre cercador dinàmic d'aliments i begudes perquè els clients mai hagin de tractar amb un creador de bots.

Actualment, Satisfi Labs està treballant estretament amb equips i empreses esportives, quina és la teva visió de futur de l'empresa?

Veiem un futur on més marques voldran controlar més aspectes de la seva experiència de xat. Això augmentarà la necessitat que el nostre sistema proporcioni més accés a nivell de desenvolupador. No té sentit que les marques contractin desenvolupadors per construir els seus propis sistemes d'IA de conversa, ja que l'experiència necessària serà escassa i cara. Tanmateix, amb el nostre sistema alimentant el backend, els seus desenvolupadors poden centrar-se més en l'experiència i el viatge del client tenint un major control de les indicacions, connectant dades de propietat per permetre una major personalització i gestionant la interfície d'usuari del xat per a necessitats específiques de l'usuari. Satisfi Labs serà la columna vertebral tècnica de les experiències de conversa de les marques.

Gràcies per la gran entrevista, els lectors que vulguin aprendre més haurien de visitar Satisfi Labs.