Líderes de opinión

La Empresa Inteligente: Hacer que el Generative AI esté listo para la empresa

mm

Comencemos aquí: Sí, las oportunidades para el Generative AI (GenAI) son inmensas. Sí, está transformando el mundo como lo conocemos (y más rápido de lo que la mayoría de nosotros predijo). Y sí, la tecnología está volviéndose más inteligente. Sin embargo, las implicaciones para el GenAI, con su capacidad para generar texto, imágenes y narrativas, en las empresas y los negocios son muy diferentes al impacto en el público en general — después de todo, la mayoría de las empresas no escriben poemas o historias (lo que es popular entre los usuarios de ChatGPT), sino que sirven a sus clientes.

Muchas empresas tienen experiencia con el procesamiento de lenguaje natural (NLP) y chatbots de bajo nivel, pero el GenAI está acelerando cómo se puede integrar, interpretar y convertir los datos en resultados comerciales. Por lo tanto, necesitan determinar rápidamente qué casos de uso del GenAI resolverán sus desafíos comerciales más apremiantes y impulsarán el crecimiento. Para entender cómo las empresas pueden hacer que el GenAI esté listo para la empresa con sus datos, es importante revisar cómo llegamos a este punto.

El Viaje desde el NLP al Modelo de Lenguaje Grande (LLM)

La tecnología ha estado tratando de dar sentido a los lenguajes naturales durante décadas. Mientras que el lenguaje humano en sí es una forma evolucionada de expresión humana, el hecho de que los humanos hayan evolucionado en tantos dialectos en todo el mundo — desde símbolos y sonidos hasta sílabas, fonética y lenguajes — ha dejado a la tecnología dependiendo de métodos de comunicación digital más simples con bits y bytes, etc., hasta hace poco.

Comencé a trabajar en programas de NLP hace casi una década. En ese momento, se trataba de taxonomía y ontología del lenguaje, extracción de entidades y una forma primitiva de base de datos gráfica (en gran medida en XML) para tratar de mantener relaciones complejas y contexto entre varias entidades, dar sentido a las consultas de búsqueda, generar una nube de palabras y entregar resultados. No había nada matemático al respecto. Había mucho Ser Humano en el Ciclo para construir bases de datos de taxonomía, mucha parsificación de XML y, lo más importante, mucha computación y memoria en juego. No es necesario decir que algunos programas fueron exitosos, y la mayoría no. El aprendizaje automático vino después con múltiples enfoques para el aprendizaje profundo y las redes neuronales, etc., acelerando la comprensión del lenguaje natural (NLU) y la inferencia del lenguaje natural (NLI). Sin embargo, había tres factores limitantes — la potencia de cálculo para procesar modelos complejos, el acceso a volúmenes de datos que puedan enseñar a las máquinas y, principalmente, un modelo que pueda autoaprender y autocorregir formando relaciones temporales entre frases.

Avanzando dos décadas después, y las GPU entregan una gran potencia de cálculo, las redes neuronales autoenseñantes y evolutivas son la norma, los modelos de aprendizaje supervisado/no supervisado/semisupervisado existen, y, sobre todo, hay un mayor acceso a grandes cantidades de datos en varios idiomas, incluyendo varias plataformas de medios sociales, que estos modelos pueden entrenar. El resultado son motores de IA que pueden conectarse con usted en su lenguaje natural, entender la emoción y el significado detrás de sus consultas, sonar como un ser humano y responder como uno.

Todos nosotros, a través de nuestra presencia en las redes sociales, hemos sido sin saberlo un ‘Ser Humano’ en el ‘Ciclo’ para entrenar a estos motores. Ahora tenemos motores que afirman haber sido entrenados en trillones de parámetros, capaces de tomar cientos y miles de parámetros de entrada, que son multimodales y responden a nosotros en nuestro lenguaje. Ya sea GPT4/5, PaLM2, Llama o cualquier otro LLM que se haya publicado hasta ahora, están surgiendo como solucionadores de problemas verticales más contextuales.

Sistemas de Compromiso y Sistemas de Registro

Mientras que el viaje desde los NLP hasta los LLM ha sido genial gracias a la Evolución de Silicon, los modelos de datos y la disponibilidad de grandes cantidades de datos de entrenamiento que todos hemos generado, las empresas — proveedores minoristas, fabricantes, banca, etc. — cada una necesita aplicaciones muy diferentes de esta tecnología. En primer lugar, las empresas no pueden permitirse alucinación de IA — necesitan 0% de alucinación y 100% de precisión para los usuarios que interactúan con la IA. Hay una serie de consultas que exigen precisión absoluta para ser de algún uso comercial — por ejemplo, ¿Cuántas habitaciones están disponibles en su hotel? ¿Tiene un boleto de primera clase disponible?

Para contrarrestar la alucinación de IA, entra la antigua concepto de Sistemas de Compromiso y Sistemas de Registro. Los Sistemas de Compromiso, ya sea con sus clientes, proveedores o empleados, pueden aprovechar una plataforma de conversación basada en GenAI fuera de la caja, después de haber sido entrenada para prompts comerciales específicos — esa es la parte “más fácil”. El desafío es incrustar los Sistemas de Registro en la cadena de valor. Muchas empresas todavía están en un mundo estático de tablas y entidades, y permanecerán así porque la mayoría de las empresas son estáticas a nivel organizacional o corporativo, mientras que los eventos y flujos de trabajo las hacen dinámicas a nivel transaccional.

Este es el punto en el que hablamos de plataformas de conversación de próxima generación que no solo abordan conversaciones, interfaces y consultas, sino que también llevan los viajes del cliente hasta el cumplimiento. Hay diferentes enfoques arquitectónicos para dichas plataformas de conversación. Una opción inmediata es utilizar middleware híbrido que actúe como consolidador entre los datos empresariales vectorizados y etiquetados y los prompts de conversación impulsados por LLM, y entregue un resultado de 0% de alucinación a los consumidores.

Hay una gran cantidad de trabajo de preparación de datos requerido por las empresas para hacer que sean inteligibles para un motor LLM. Lo llamamos aplanamiento de los modelos de datos tradicionales impulsados por tablas y entidades. Las bases de datos gráficas, que representan y almacenan datos de una manera que las bases de datos relacionales no pueden, están encontrando un nuevo propósito en este viaje. El objetivo es convertir las bases de datos empresariales en bases de datos gráficas más inteligibles con relaciones que definen contexto y significado, lo que facilita que los motores LLM aprendan y, por lo tanto, respondan a los prompts de los clientes finales a través de una combinación de consultas de conversación y en tiempo real. Esta tarea de habilitar los datos empresariales para que estén listos para LLM es la clave para proporcionar una experiencia de Sistemas de Compromiso a Sistemas de Registro de principio a fin y llevar las experiencias del usuario hasta el cumplimiento.

Qué Viene a Continuación

En este punto, con estos avances en datos y IA, el impacto más inmediato se produce en el área de generación de código de software — como se evidencia en el auge de Microsoft Copilot, Amazone CodeWhisperer y otras herramientas entre los desarrolladores. Estas herramientas están impulsando los programas de modernización de legado, muchos de los cuales a menudo se estancan debido a preocupaciones de tiempo y costo. Con herramientas de generación de código impulsadas por GenAI, estamos viendo que los proyectos de modernización aceleran sus calendarios en un 20-40%. En los proyectos de desarrollo de código verde, estas herramientas permitirán a los desarrolladores cambiar el tiempo y los ahorros de productividad hacia el pensamiento de diseño y proyectos más innovadores.

Más allá del desarrollo de código de software, las herramientas de GenAI están llevando a la creación de nuevos casos de uso verticales y escenarios que apuntan a resolver los desafíos más apremiantes de las empresas, y apenas estamos empezando a rascar la superficie de lo que se necesita hacer para aprovechar al máximo esta tendencia. Sin embargo, ya estamos resolviendo varios problemas y preguntas en el sector minorista y logístico aprovechando GenAI:

¿Cuánto inventario tengo en el almacén y cuándo debo activar el reabastecimiento? ¿Es rentable almacenar con anticipación? ¿Es correcto mi precio de aterrizaje o va a aumentar? ¿Qué artículos puedo empaquetar o qué tipo de personalización puedo ofrecer para elevar mis ganancias?

Responder a este tipo de preguntas requiere una combinación de interfaces de conversación, consultas de datos de alta precisión en la parte posterior y un modelo de aprendizaje automático con dominio pesado que entrega predicciones y orientación futura. Así que mi consejo para las empresas sería, ya sea que sean exploradores de IA o disruptores de IA Generativa, asociarse con proveedores de servicios que tengan experiencia comprobada en IA y capacidades robustas de datos y análisis que puedan armarlos para aprovechar los modelos de GenAI adaptados a sus necesidades comerciales y ayudarlos a mantenerse por delante de la curva.

Padmanabhan (Paddy) es un líder de plataforma y ingeniería de productos nativos de la nube con un enfoque en plataformas impulsadas por datos, microservicios y ingeniería nativa de la nube, y modernizando la tecnología y los productos heredados. Él es Vicepresidente Senior y Gerente General que lidera el vertical de Tecnología de Consumidor Global en Persistent Systems, y su equipo habilita la Ingeniería de Productos Digitales para sus clientes en Retail, CPG, Viajes y Logística.