Donny White, CEO y Co-Fundador de Satisfi Labs – Serie de Entrevistas

Fundada en 2016, Satisfi Labs es una empresa líder en inteligencia artificial conversacional. El éxito temprano llegó con su trabajo con los New York Mets, Macy’s (M ) y el US Open, permitiendo un acceso fácil a la información a menudo no disponible en los sitios web.

Donny pasó 15 años en Bloomberg antes de entrar en el mundo de las startups y tiene un MBA de la Universidad de Cornell y un BA de Baruch College. Bajo el liderazgo de Donny, Satisfi Labs ha experimentado un crecimiento significativo en los sectores deportivo, de entretenimiento y turismo, recibiendo inversiones de Google (GOOGL ), MLB y Red Light Management.

Estabas en Bloomberg durante 14 años cuando primero sentiste el impulso emprendedor. ¿Por qué ser emprendedor estaba de repente en tu radar?

Durante mi tercer año de universidad, solicité un trabajo como recepcionista en Bloomberg. Una vez que entré, les dije a mis colegas que si estaban dispuestos a enseñarme, podía aprender rápido. Para mi último año, era un empleado a tiempo completo y había cambiado todas mis clases a clases nocturnas para poder hacer ambas cosas. En lugar de asistir a mi graduación universitaria a los 21 años, pasé ese tiempo gestionando mi primer equipo. A partir de ese momento, tuve la suerte de trabajar en una meritocracia y fui ascendido varias veces. A los 25 años, estaba dirigiendo mi propio departamento. Desde allí, me mudé a la gestión regional y luego al desarrollo de productos, hasta que finalmente estaba a cargo de las ventas en todo el continente americano. Para 2013, comencé a preguntarme si podría hacer algo más grande. Fui a algunas entrevistas en empresas de tecnología jóvenes y uno de los fundadores me dijo: “No sabemos si eres bueno o si Bloomberg es bueno”. Fue entonces que supe que algo tenía que cambiar y seis meses después era el vicepresidente de ventas en mi primera startup, Datahug. Poco después, fui reclutado por un grupo de inversores que querían disruptar Yelp. Aunque Yelp sigue siendo bueno, en 2016 nos alineamos en una nueva visión y co-fundé Satisfi Labs con los mismos inversores.

Puedes compartir la historia de origen detrás de Satisfi Labs?

Estaba en un partido de béisbol en Citi Field con Randy, el actual CTO y co-fundador de Satisfi, cuando escuché sobre una de sus especialidades, el tocino en un palo. Caminamos por el pasillo y preguntamos al personal al respecto, pero no pudimos encontrarlo en ningún lugar. Resultó que estaba escondido en un extremo del estadio, lo que me llevó a la realización de que habría sido mucho más conveniente preguntar directamente al equipo a través del chat. Aquí es donde nació nuestra primera idea. Randy y yo venimos de finanzas y antecedentes de comercio algorítmico, lo que nos llevó a tomar el concepto de emparejar solicitudes con respuestas para construir nuestro propio NLP para consultas hiperespecíficas que se harían en ubicaciones. La idea original era construir bots individuales que cada uno sería experto en un campo de conocimiento particular, especialmente conocimiento que no está fácilmente accesible en un sitio web. A partir de ahí, nuestro sistema tendría un “director” que podría activar cada bot cuando sea necesario. Esta es la arquitectura del sistema original que todavía se utiliza hoy en día.

Satisfi Labs había diseñado su propio motor de NLP y estaba a punto de publicar un comunicado de prensa cuando OpenAI interrumpió su pila de tecnología con el lanzamiento de ChatGPT. ¿Puedes discutir este período y cómo esto obligó a Satisfi Labs a cambiar su negocio?

Teníamos un comunicado de prensa programado para anunciar nuestra actualización de NLP basada en contexto pendiente de patente para el 6 de diciembre de 2022. El 30 de noviembre de 2022, OpenAI anunció ChatGPT. El anuncio de ChatGPT cambió no solo nuestra hoja de ruta, sino también el mundo. Inicialmente, estábamos, como todos los demás, compitiendo por entender el poder y los límites de ChatGPT y entender qué significaba esto para nosotros. Pronto nos dimos cuenta de que nuestro sistema de NLP contextual no competía con ChatGPT, sino que podía mejorar la experiencia de LLM. Esto llevó a una decisión rápida para convertirnos en socios empresariales de OpenAI. Dado que nuestro sistema comenzó con la idea de comprender y responder preguntas a un nivel granular, pudimos combinar el diseño del sistema “conductor de bot” y siete años de datos de intención para mejorar el sistema y incorporar LLM.

Satisfi Labs lanzó recientemente una patente para un sistema de respuesta de LLM de contexto, ¿qué es esto específicamente?

En julio, presentamos nuestro sistema de respuesta de LLM de contexto pendiente de patente. El nuevo sistema combina el poder de nuestro sistema de respuesta contextual pendiente de patente con las capacidades de los modelos de lenguaje grande para fortalecer todo el sistema de motor de respuestas. La nueva tecnología de LLM de contexto integra las capacidades de los modelos de lenguaje grande en toda la plataforma, desde la mejora de la routificación de intención hasta la generación de respuestas y la indexación de intención, lo que también impulsa sus capacidades de informes únicas. La plataforma lleva la inteligencia artificial conversacional más allá del chatbot tradicional aprovechando el poder de los LLM como GPT-4. Nuestra plataforma permite a las marcas responder con respuestas generadas por IA o respuestas pre-escritas, dependiendo de la necesidad de control en la respuesta.

¿Puedes discutir la desconexión actual entre la mayoría de los sitios web de la empresa y las plataformas de LLM al entregar respuestas con la marca?

ChatGPT está entrenado para comprender una amplia gama de información y, por lo tanto, no tiene el nivel de entrenamiento granular necesario para responder preguntas específicas de la industria con el nivel de especificidad que la mayoría de las marcas espera. Además, la precisión de las respuestas que los LLM proporcionan es solo tan buena como los datos proporcionados. Cuando usas ChatGPT, está obteniendo datos de todo Internet, lo que puede ser inexacto. ChatGPT no prioriza los datos de una marca sobre otros datos. Hemos estado sirviendo a diversas industrias durante los últimos siete años, ganando una valiosa comprensión de las millones de preguntas que los clientes hacen todos los días. Esto nos ha permitido comprender cómo afinar el sistema con un contexto mayor por industria y proporcionar capacidades de informes de intención robustas y granulares, que son cruciales dado el auge de los grandes modelos de lenguaje. Si bien los LLM son efectivos para comprender la intención y generar respuestas, no pueden informar sobre las preguntas formuladas. Usando años de datos de intención extensos, hemos creado de manera eficiente informes estandarizados a través de su sistema de indexación de intención.

¿Cuál es el papel de los lingüistas en la mejora de las capacidades de las tecnologías de LLM?

El papel de ingeniero de prompts ha surgido con esta nueva tecnología, que requiere que una persona diseñe y refine prompts que eliciten una respuesta específica de la IA. Los lingüistas tienen una gran comprensión de la estructura del lenguaje, como la sintaxis y la semántica, entre otras cosas. Una de nuestras ingenieras de IA más exitosas tiene un trasfondo en lingüística, lo que le permite encontrar nuevas y matizadas formas de dar prompts a la IA. Los cambios sutiles en el prompt pueden tener efectos profundos en la precisión y eficiencia con que se genera una respuesta, lo que marca la diferencia cuando estamos manejando millones de preguntas en múltiples clientes.

¿Cómo se ve el ajuste fino en el backend?

Tenemos nuestro propio modelo de datos propietario que usamos para mantener el LLM en línea. Esto nos permite construir nuestras propias “vallas” para mantener el LLM bajo control, en lugar de tener que buscar vallas. En segundo lugar, podemos aprovechar herramientas y características que otras plataformas utilizan, lo que nos permite admitirlas en nuestras plataformas.

El ajuste fino de los datos de entrenamiento y el uso del aprendizaje por refuerzo en nuestra plataforma pueden ayudar a mitigar el riesgo de información errónea. El ajuste fino, en lugar de consultar la base de conocimientos para agregar hechos específicos, crea una nueva versión del LLM que se entrena con este conocimiento adicional. Por otro lado, el aprendizaje por refuerzo entrena a un agente con retroalimentación humana y aprende una política sobre cómo responder preguntas. Esto ha demostrado ser exitoso en la creación de modelos con una huella más pequeña que se convierten en expertos en tareas específicas.

¿Puedes discutir el proceso para incorporar a un nuevo cliente y integrar soluciones de IA conversacional?

Dado que nos enfocamos en destinos y experiencias como deportes, entretenimiento y turismo, los nuevos clientes se benefician de aquellos que ya están en la comunidad, lo que hace que la incorporación sea muy sencilla. Los nuevos clientes identifican dónde viven sus fuentes de datos actuales, como un sitio web, manuales de empleados, blogs, etc. Ingestamos los datos y entrenamos el sistema en tiempo real. Dado que trabajamos con cientos de clientes en la misma industria, nuestro equipo puede proporcionar rápidamente recomendaciones sobre qué respuestas son mejores para respuestas pre-escritas versus respuestas generadas. Además, configuramos flujos guiados como nuestro dinámico Food & Beverage Finder para que los clientes nunca tengan que lidiar con un constructor de bots.

Satisfi Labs está trabajando estrechamente con equipos deportivos y empresas, ¿cuál es tu visión para el futuro de la empresa?

Vemos un futuro en el que más marcas querrán controlar más aspectos de su experiencia de chat. Esto resultará en una mayor necesidad de que nuestro sistema proporcione más acceso a nivel de desarrollador. No tiene sentido que las marcas contraten a desarrolladores para construir sus propios sistemas de IA conversacional, ya que la experiencia necesaria será escasa y costosa. Sin embargo, con nuestro sistema alimentando el backend, sus desarrolladores pueden centrarse más en la experiencia del cliente y el viaje, teniendo un mayor control de los prompts, conectando datos propietarios para permitir una mayor personalización y gestionando la interfaz de usuario de chat para necesidades de usuario específicas. Satisfi Labs será la columna vertebral técnica de las experiencias conversacionales de las marcas.

Gracias por la gran entrevista, los lectores que deseen aprender más pueden visitar Satisfi Labs.