Yandong Liu, Co-fundador y CTO en Connectly – Serie de entrevistas

Yandong Liu es el co-fundador y CTO de Connectly.ai. Anteriormente trabajó en Strava como CTO. Yandong Liu asistió a la Universidad Carnegie Mellon.

Fundada en 2021, Connectly es el líder en inteligencia artificial conversacional (IA). Utilizando modelos de IA propietarios, la plataforma de Connectly automatiza la forma en que las empresas se comunican con sus clientes y venden sus productos en cualquier plataforma de mensajería. Connectly permite que todo el recorrido del cliente, desde las ventas y el marketing hasta la experiencia y el soporte del cliente, se realice dentro de la plataforma de mensajería preferida del cliente.

¿Puedes compartir la historia detrás de Connectly?

Connectly nació de la visión de convertirse en el líder en inteligencia artificial conversacional. Mi co-fundador, Stefanos, y yo nos conocimos a través de un amigo mutuo en la comunidad de fundadores y nos unimos por nuestra pasión compartida por el futuro de la mensajería. Con mi experiencia en liderar equipos de tecnología en Strava y Uber, y la experiencia de Stefanos en supervisar Facebook (META ) Messenger, nos propusimos crear la infraestructura de IA del futuro, ayudando a las empresas a aprovechar al máximo sus mensajes de cliente en un ecosistema cada vez más complejo.

¿Qué son exactamente los Modelos de Lenguaje Pequeños (SLMs), y cómo difieren de los Modelos de Lenguaje Grandes (LLMs)?

Los SLMs son modelos de IA diseñados para entender y generar lenguaje humano, pero con menos parámetros y requisitos computacionales en comparación con los Modelos de Lenguaje Grandes. En el contexto de soluciones de marketing de IA para plataformas de mensajería como WhatsApp e Instagram, los SLMs ofrecen tiempos de respuesta más rápidos y pueden ser implementados fácilmente en una variedad de dispositivos, lo que los hace ideales para interacciones con clientes en tiempo real. Su tamaño más pequeño permite un rendimiento eficiente sin comprometer la calidad de las respuestas.

¿Puedes discutir cómo los SLMs reducen la probabilidad de alucinaciones y mejoran la confiabilidad de las respuestas de IA?

Los SLMs reducen la probabilidad de alucinaciones, es decir, instancias en las que la IA genera información incorrecta o sin sentido, al centrarse en un conjunto más pequeño y manejable de parámetros. Para soluciones de marketing de IA basadas en mensajería, este enfoque garantiza respuestas más predecibles y confiables, lo que mejora la confianza y la participación del cliente. La complejidad reducida de los SLMs minimiza las posibilidades de generar contenido fuera de tema o erróneo, mejorando así la confiabilidad general de las interacciones de IA.

¿Puedes explicar por qué los SLMs son particularmente beneficiosos para los minoristas, especialmente en el contexto de los chatbots?

Debido a las grandes cantidades de datos que se alimentan a los LLMs, estos suelen ser lentos. Sin embargo, la mensajería y el comercio conversacional requieren un tiempo de respuesta más rápido para servir mejor y con más precisión a los clientes. Para los minoristas, los SLMs son más prácticos y beneficiosos debido al nivel de detalle que pueden proporcionar en la industria minorista. Además, los SLMs suelen ser más baratos porque son más ágiles, lo que significa que cualquier empresa minorista, desde una pequeña startup hasta un gran minorista en línea, puede utilizarlos.

¿Cómo ofrecen los SLMs experiencias más personalizadas para los clientes en comparación con los LLMs?

Los SLMs ofrecen experiencias más personalizadas para los clientes al ser más fáciles de ajustar para tareas y dominios específicos. Su tamaño más pequeño permite una personalización más rápida y eficiente, lo que permite a las empresas adaptar los modelos a las necesidades y preferencias únicas de sus clientes. Esta personalización enfocada da como resultado interacciones más relevantes y personalizadas, lo que mejora la experiencia del cliente.

¿Cómo integra Connectly los SLMs en su plataforma para mejorar las capacidades de comercio electrónico?

Integramos los SLMs en nuestra plataforma para mejorar las capacidades de comercio electrónico aprovechando su eficiencia y adaptabilidad. Estos modelos permiten interacciones con clientes rápidas y precisas en plataformas de mensajería como WhatsApp e Instagram, proporcionando recomendaciones de productos personalizados y soporte al cliente instantáneo. La naturaleza ligera de los SLMs garantiza que las respuestas sean rápidas y relevantes, mejorando la experiencia del cliente y fomentando la participación.

¿Cuáles son algunos ejemplos específicos de cómo los minoristas han implementado con éxito los SLMs en sus operaciones?

Nuestros clientes están teniendo un gran éxito con los SLMs. Un minorista de moda está utilizando SLMs para ofrecer asesoramiento de estilo personalizado a través de WhatsApp, recomendando conjuntos basados en las compras y preferencias anteriores del cliente. De manera similar, un minorista de electrónica desplegó SLMs en Instagram para responder a preguntas de los clientes sobre características y disponibilidad de productos en tiempo real, mejorando la experiencia de compra y reduciendo la carga en los equipos de servicio al cliente.

¿Por qué los minoristas deberían considerar la transición de LLMs a SLMs para sus aplicaciones comerciales específicas?

Los minoristas deberían considerar la transición de LLMs a SLMs para sus aplicaciones comerciales específicas debido a la mayor eficiencia y rentabilidad de los SLMs. Los SLMs son más rápidos, requieren menos poder computacional y pueden ser ajustados fácilmente para tareas específicas, lo que los hace ideales para interacciones con clientes en tiempo real en plataformas de mensajería como WhatsApp e Instagram. Esta transición puede conducir a un servicio al cliente más receptivo y personalizado, al tiempo que reduce los costos operativos.

¿Qué avances futuros en la tecnología de SLMs te emociona más?

Estoy emocionado sobre los avances en la tecnología de SLMs que mejorarán aún más su eficiencia y precisión. Por ejemplo, mejoras en las técnicas de aprendizaje de transferencia y ajuste permitirán que los SLMs se vuelvan aún más hábiles en tareas específicas con un mínimo de datos. Además, la integración de SLMs con capacidades multimodales, combinando texto, voz y datos de imagen, permitirá experiencias de cliente más ricas e interactivas en plataformas como WhatsApp e Instagram. Estos avances harán que los SLMs sean aún más valiosos para los minoristas que buscan proporcionar interacciones con clientes personalizadas y atractivas.

¿Cómo ves la adopción de SLMs evolucionando en los próximos años dentro de la industria minorista?

 Ve la adopción de SLMs en la industria minorista creciendo significativamente. A medida que los minoristas siguen buscando formas más eficientes y rentables de interactuar con los clientes, la velocidad y la adaptabilidad de los SLMs se volverán cada vez más valiosas. Los SLMs se integrarán más ampliamente en plataformas de servicio al cliente, campañas de marketing y experiencias de compra personalizadas en aplicaciones de mensajería como WhatsApp e Instagram, incluso en TikTok. Este cambio ayudará a los minoristas a proporcionar interacciones más rápidas y personalizadas, mejorando la satisfacción y la lealtad del cliente.

Gracias por la gran entrevista, los lectores que deseen aprender más pueden visitar Connectly.