Donny White, CEO & Co-Founder de Satisfi Labs – Serie de entrevistas

Fundada en 2016, Satisfi Labs es una empresa líder en inteligencia artificial conversacional. El éxito temprano vino de su trabajo con los New York Mets, Macy’s y el US Open, permitiendo un acceso fácil a la información a menudo no disponible en los sitios web.

Donny pasó 15 años en Bloomberg antes de entrar en el mundo de las startups y tiene un MBA de la Universidad de Cornell y una licenciatura de Baruch College. Bajo el liderazgo de Donny, Satisfi Labs ha experimentado un crecimiento significativo en los sectores deportivo, de entretenimiento y turismo, recibiendo inversiones de Google, MLB y Red Light Management.

Estabas en Bloomberg durante 14 años cuando por primera vez sentiste el impulso emprendedor. ¿Por qué ser emprendedor estaba de repente en tu radar?

Durante mi tercer año de universidad, solicité un trabajo como recepcionista en Bloomberg. Una vez que logré entrar, le dije a mis colegas que si estaban dispuestos a enseñarme, podía aprender rápido. Para mi último año, era un empleado a tiempo completo y había cambiado todas mis clases a clases nocturnas para poder hacer ambas cosas. En lugar de asistir a mi graduación universitaria a los 21 años, pasé ese tiempo gestionando mi primer equipo. A partir de ese momento, tuve la suerte de trabajar en una meritocracia y fui ascendido varias veces. A los 25 años, estaba dirigiendo mi propio departamento. A partir de ahí, me mudé a la gestión regional y luego al desarrollo de productos, hasta que finalmente estaba dirigiendo las ventas en todas las Américas. A partir de 2013, comencé a preguntarme si podría hacer algo más grande. Fui a unas entrevistas en empresas de tecnología jóvenes y uno de los fundadores me dijo: “No sabemos si eres bueno o si Bloomberg es bueno”. Fue entonces que supe que algo tenía que cambiar y seis meses después era el vicepresidente de ventas en mi primera startup, Datahug. Poco después, fui reclutado por un grupo de inversores que querían disruptar Yelp. Mientras que Yelp sigue siendo bueno y bien, en 2016 nos alineamos en una nueva visión y cofundé Satisfi Labs con los mismos inversores.

¿Podrías compartir la historia de origen detrás de Satisfi Labs?

Estaba en un partido de béisbol en Citi Field con Randy, el actual CTO y cofundador de Satisfi, cuando escuché sobre una de sus especialidades, el tocino en un palo. Caminamos por el paseo y preguntamos al personal sobre él, pero no pudimos encontrarlo en ningún lugar. Resultó que estaba escondido en un extremo del estadio, lo que me llevó a la realización de que habría sido mucho más conveniente preguntar directamente al equipo a través del chat. Aquí nació nuestra primera idea. Randy y yo provenimos de finanzas y antecedentes de comercio algorítmico, lo que nos llevó a tomar el concepto de coincidencia de solicitudes con respuestas para construir nuestro propio NLP para consultas hiperespecíficas que se harían en ubicaciones. La idea original era construir bots individuales que cada uno sería experto en un campo de conocimiento particular, especialmente conocimiento que no está fácilmente disponible en un sitio web. A partir de ahí, nuestro sistema tendría un “director” que podría tocar cada bot cuando fuera necesario. Esta es la arquitectura del sistema original que todavía se utiliza hoy en día.

Satisfi Labs había diseñado su propio motor NLP y estaba a punto de publicar un comunicado de prensa cuando OpenAI interrumpió su pila de tecnología con el lanzamiento de ChatGPT. ¿Puede discutir este período y cómo esto obligó a Satisfi Labs a cambiar su negocio?

Teníamos un comunicado de prensa programado para anunciar nuestra actualización de NLP basada en contexto con patente pendiente para el 6 de diciembre de 2022. El 30 de noviembre de 2022, OpenAI anunció ChatGPT. El anuncio de ChatGPT cambió no solo nuestra hoja de ruta, sino también el mundo. Inicialmente, estábamos, como todos los demás, corriendo para entender el poder y los límites de ChatGPT y entender qué significaba eso para nosotros. Pronto nos dimos cuenta de que nuestro sistema de NLP contextual no competía con ChatGPT, sino que podía mejorar la experiencia de LLM. Esto llevó a una decisión rápida para convertirnos en socios empresariales de OpenAI. Dado que nuestro sistema comenzó con la idea de entender y responder preguntas a un nivel granular, pudimos combinar el diseño del sistema “director de bot” y siete años de datos de intención para actualizar el sistema para incorporar LLM.

Satisfi Labs lanzó recientemente una patente para un sistema de respuesta de LLM de contexto, ¿qué es específicamente?

Este julio, presentamos nuestro sistema de respuesta de LLM de contexto con patente pendiente. El nuevo sistema combina el poder de nuestro sistema de respuesta contextual con patente pendiente con las capacidades de modelo de lenguaje grande para fortalecer todo el sistema de motor de respuestas. La nueva tecnología de LLM de contexto integra las capacidades de modelo de lenguaje grande en toda la plataforma, desde la mejora de la ruta de intención hasta la generación de respuestas e indexación de intención, lo que también impulsa sus capacidades de informes únicas. La plataforma lleva la inteligencia artificial conversacional más allá del chatbot tradicional al aprovechar el poder de LLM como GPT-4. Nuestra plataforma permite a las marcas responder con respuestas generativas de IA o respuestas preescritas, dependiendo de la necesidad de control en la respuesta.

¿Puede discutir la desconexión actual entre la mayoría de los sitios web de las empresas y las plataformas de LLM al entregar respuestas con la marca?

ChatGPT está entrenado para entender una amplia gama de información y, por lo tanto, no tiene el nivel de entrenamiento granular necesario para responder preguntas específicas de la industria con el nivel de especificidad que la mayoría de las marcas esperan. Además, la precisión de las respuestas que los LLM proporcionan es solo tan buena como los datos proporcionados. Cuando usa ChatGPT, está obteniendo datos de todo Internet, lo que puede ser inexacto. ChatGPT no prioriza los datos de una marca sobre otros datos. Hemos estado sirviendo a diversas industrias durante los últimos siete años, obteniendo una visión valiosa de las millones de preguntas que los clientes hacen todos los días. Esto nos ha permitido entender cómo afinar el sistema con un contexto mayor por industria y proporcionar capacidades de informes de intención granulares robustas, lo cual es crucial dado el auge de los grandes modelos de lenguaje. Si bien los LLM son efectivos para entender la intención y generar respuestas, no pueden informar sobre las preguntas formuladas. Usando años de datos de intención extensos, hemos creado informes estandarizados a través de su sistema de indexación de intención.

¿Cuál es el papel de los lingüistas en la mejora de las capacidades de las tecnologías de LLM?

El papel de ingeniero de prompts ha surgido con esta nueva tecnología, que requiere que una persona diseñe y refine prompts que eliciten una respuesta específica del IA. Los lingüistas tienen una gran comprensión de la estructura del lenguaje, como la sintaxis y la semántica, entre otras cosas. Uno de nuestros ingenieros de IA más exitosos tiene un trasfondo en lingüística, lo que le permite ser muy efectivo para encontrar nuevas y matizadas formas de hacer prompts al IA. Los cambios sutiles en el prompt pueden tener efectos profundos en cómo se genera una respuesta precisa y eficiente, lo que marca toda la diferencia cuando estamos manejando millones de preguntas en múltiples clientes.

¿Cómo se ve el ajuste fino en el lado del servidor?

Tenemos nuestro propio modelo de datos propietario que usamos para mantener el LLM en línea. Esto nos permite construir nuestras propias vallas para mantener el LLM bajo control, en lugar de tener que buscar vallas. En segundo lugar, podemos aprovechar las herramientas y características que otras plataformas utilizan, lo que nos permite admitirlas en nuestras plataformas.

El ajuste fino de los datos de entrenamiento y el uso del aprendizaje de refuerzo en nuestra plataforma pueden ayudar a mitigar el riesgo de información errónea. El ajuste fino, en lugar de consultar la base de conocimientos para hechos específicos para agregar, crea una nueva versión del LLM que se entrena con este conocimiento adicional. Por otro lado, el aprendizaje de refuerzo entrena a un agente con retroalimentación humana y aprende una política sobre cómo responder preguntas. Esto ha demostrado ser exitoso en la construcción de modelos con una huella más pequeña que se convierten en expertos en tareas específicas.

¿Puede discutir el proceso de incorporación de un nuevo cliente y la integración de soluciones de inteligencia artificial conversacional?

Dado que nos centramos en destinos y experiencias como deportes, entretenimiento y turismo, los nuevos clientes se benefician de los que ya están en la comunidad, lo que hace que la incorporación sea muy simple. Los nuevos clientes identifican dónde viven sus fuentes de datos actuales, como un sitio web, manuales de empleados, blogs, etc. Ingestamos los datos y entrenamos el sistema en tiempo real. Dado que trabajamos con cientos de clientes en la misma industria, nuestro equipo puede proporcionar rápidamente recomendaciones sobre qué respuestas son las mejores para respuestas preescritas versus respuestas generadas. Además, configuramos flujos guiados como nuestro dinámico Food & Beverage Finder para que los clientes nunca tengan que lidiar con un constructor de bots.

Satisfi Labs está trabajando estrechamente con equipos deportivos y empresas, ¿cuál es su visión para el futuro de la empresa?

Vemos un futuro en el que más marcas querrán controlar más aspectos de su experiencia de chat. Esto resultará en una mayor necesidad de que nuestro sistema proporcione un acceso a nivel de desarrollador. No tiene sentido que las marcas contraten a desarrolladores para construir sus propios sistemas de inteligencia artificial conversacional, ya que la experiencia necesaria será escasa y costosa. Sin embargo, con nuestro sistema alimentando el lado del servidor, sus desarrolladores pueden centrarse más en la experiencia del cliente y el viaje, teniendo un mayor control de los prompts, conectando datos propietarios para permitir una mayor personalización y gestionando la interfaz de usuario de chat para necesidades de usuario específicas. Satisfi Labs será la columna vertebral técnica de las experiencias conversacionales de las marcas.

Gracias por la gran entrevista, los lectores que deseen obtener más información deben visitar Satisfi Labs.