Omri Kohl, CEO y Co-Fundador de Pyramid Analytics – Serie de Entrevistas

Omri Kohl es el CEO y co-fundador de Pyramid Analytics. La plataforma de inteligencia de decisiones de Pyramid entrega información impulsada por datos para que cualquier persona pueda tomar decisiones más rápidas e inteligentes. Lidera la estrategia y las operaciones de la empresa en un mercado de datos y análisis en rápido crecimiento. Kohl aporta una profunda comprensión de las tecnologías de análisis y IA, valiosa experiencia en gestión y una natural capacidad para desafiar el pensamiento convencional. Kohl es un emprendedor muy experimentado con un historial comprobado en el desarrollo y la gestión de empresas de crecimiento rápido. Estudió economía, finanzas y gestión empresarial en la Universidad Bar-Ilan y tiene un MBA en Gestión de Negocios Internacionales de la Universidad de Nueva York, Escuela de Negocios Leonard N. Stern.

¿Podría empezar explicando qué es GenBI y cómo integra la inteligencia artificial generativa con la inteligencia empresarial para mejorar los procesos de toma de decisiones?

GenBI es el marco y la mecánica para llevar el poder de la IA generativa, los LLM y la IA en general a los análisis, la inteligencia empresarial y la toma de decisiones.

En este momento, no es práctico utilizar la IA generativa sola para acceder a información de conjuntos de datos. Podría tomar más de una semana subir suficientes datos a su herramienta de IA generativa para obtener resultados significativos. Eso simplemente no es viable, ya que los datos empresariales son demasiado dinámicos y sensibles para usarse de esta manera. Con GenBI, cualquier persona puede extraer información valiosa de sus datos, simplemente haciendo una pregunta en lenguaje natural y viendo los resultados en forma de panel de inteligencia empresarial. Puede tomar tan solo 30 segundos recibir una respuesta relevante y útil.

¿Cuáles son las innovaciones tecnológicas clave detrás de GenBI que permiten que comprenda y ejecute tareas de inteligencia empresarial complejas a través del lenguaje natural?

Bueno, sin revelar todos nuestros secretos, hay esencialmente tres componentes. Primero, GenBI solicita a los LLM todos los elementos que necesitan para producir los pasos analíticos correctos que producirán la información solicitada. Esto es lo que permite al usuario formular consultas utilizando lenguaje natural e incluso en términos vagos, sin saber exactamente qué tipo de gráfico, investigación o formato solicitar.

A continuación, la solución GenBI de Pyramid Analytics aplica estos pasos a los datos de su empresa, independientemente de los detalles de su situación. Estamos hablando de los conjuntos de datos más básicos y consultas simples, así como de los casos de uso más sofisticados y bases de datos complejas.

Tercero, Pyramid puede realizar estas consultas en los datos subyacentes y manipular los resultados al vuelo. Un LLM solo no puede producir un análisis profundo de una base de datos. Necesitas un elemento de robot para encontrar toda la información necesaria, interpretar la solicitud del usuario para producir información y pasársela a la plataforma de inteligencia empresarial para articular los resultados en lenguaje plano o como una visualización dinámica que se puede refinar más adelante a través de consultas de seguimiento.

¿Cómo democratiza GenBI el análisis de datos, especialmente para los usuarios no técnicos?

Muy simple, GenBI permite que cualquier persona acceda a la información que necesita, independientemente de su nivel de experiencia. Las herramientas de inteligencia empresarial tradicionales requieren que el usuario sepa qué técnica de manipulación de datos es la mejor para recibir los resultados necesarios. Pero la mayoría de las personas no piensan en gráficos de pastel, gráficos de dispersión o tablas. No quieren tener que trabajar para determinar qué visualización es la más efectiva para su situación, solo quieren respuestas a sus preguntas.

GenBI entrega estas respuestas a cualquier persona, independientemente de su experiencia. El usuario no necesita conocer todos los términos profesionales ni determinar si un gráfico de dispersión o un gráfico de pastel es la mejor opción, y no necesita saber cómo codificar consultas de base de datos. Pueden explorar los datos utilizando sus propias palabras en una conversación natural.

Pensamos en ello como la diferencia entre usar un mapa de papel para planificar su ruta y usar Google Maps u otra aplicación de navegación. Con un mapa tradicional, tiene que trabajar para determinar las mejores rutas, pensar en posibles atascos de tráfico y comparar diferentes posibilidades de ruta. Hoy en día, las personas simplemente ingresan su destino en la aplicación y salen, hay mucha confianza en los algoritmos, así que nadie cuestiona la ruta sugerida. Nos gustaría pensar que GenBI está trayendo el mismo tipo de magia automatizada a los conjuntos de datos corporativos.

¿Cuál ha sido la retroalimentación de los primeros adoptantes sobre la facilidad de uso y la curva de aprendizaje?

Hemos recibido comentarios abrumadoramente positivos. La mejor manera de resumirlo es: “¡Guau!”. Los usuarios y probadores aprecian mucho la facilidad de uso, las características poderosas y las perspectivas significativas de Pyramid.

Pyramid Analytics tiene prácticamente cero curva de aprendizaje, así que no hay nada que impida a las personas adoptarlo al instante. Aproximadamente tres cuartos de todos los equipos de negocios que han probado nuestra solución la han adoptado y la utilizan hoy, porque es tan fácil y efectiva.

¿Puede compartir cómo GenBI ha transformado los procesos de toma de decisiones dentro de las organizaciones que lo han implementado? ¿Algunos estudios de caso o ejemplos específicos?

Aunque hemos estado desarrollándolo durante mucho tiempo, solo lanzamos GenBI hace unas semanas, así que seguro que entenderán que todavía no tenemos estudios de caso completos que podamos compartir o ejemplos de clientes que podamos nombrar. Sin embargo, puedo decirles que las organizaciones que tienen miles de usuarios están convirtiéndose en verdaderas organizaciones impulsadas por datos, porque todos pueden acceder a información. Los usuarios pueden ahora desbloquear el verdadero valor de todos sus datos.

GenBI está teniendo un efecto transformador en industrias como seguros, banca y finanzas, así como en retail, fabricación y muchos otros sectores verticales. De repente, es posible para los asesores financieros, por ejemplo, acceder a sugerencias instantáneas sobre la mejor manera de optimizar la cartera de un cliente.

¿Cuáles son algunos de los mayores desafíos que enfrentó al desarrollar GenBI y cómo los superó?

Pyramid Analytics ya estaba aprovechando la IA para el análisis durante muchos años antes de que lanzáramos la nueva solución, así que la mayoría de los desafíos ya se habían resuelto hace mucho tiempo.

El nuevo elemento principal es la adición de una tecnología de generación de consultas sofisticada que funciona con cualquier LLM para producir resultados precisos, manteniendo los datos privados. Hemos logrado esto desacoplando los datos de la consulta (más sobre esto en un momento).

Otro gran desafío que tuvimos que abordar fue el de la velocidad. Estamos hablando de la era de Google, donde la gente espera respuestas ahora, no en una hora o incluso media hora. Nos aseguramos de acelerar el procesamiento y optimizar todos los flujos de trabajo para reducir la fricción.

Luego está la necesidad de prevenir la alucinación. Los chatbots son propensos a alucinaciones que sesgan los resultados y socavan la confiabilidad. Hemos trabajado duro para evitar esas alucinaciones mientras mantenemos resultados dinámicos.

¿Cómo maneja los problemas relacionados con la seguridad y la privacidad de los datos?

Esa es una excelente pregunta, porque la privacidad y la seguridad de los datos son el mayor obstáculo para el análisis de IA generativa exitoso. Todos están, y con razón, preocupados por la idea de exponer datos corporativos altamente sensibles a motores de IA de terceros, pero también quieren las capacidades de interpretación de lenguaje y las perspectivas de datos que estos motores pueden ofrecer.

Es por eso que nunca compartimos datos reales con los LLM con los que trabajamos. Pyramid invierte el concepto al servir como intermediario entre la información de su empresa y el LLM. Nos permiten presentar la solicitud y luego se la entregamos al LLM junto con descripciones de lo que llamamos los “ingredientes”, básicamente solo los metadatos.

El LLM luego devuelve una “receta”, que explica cómo convertir la pregunta del usuario en una solicitud de análisis de datos. Luego, Pyramid ejecuta esa receta en los datos que ya ha conectado de manera segura en su instalación autohospedada, así que no se expone ningún dato al LLM. Mezclamos los resultados para servirlos de vuelta en un formato fácil de entender y visualizar. Esencialmente, nada que pueda comprometer su seguridad y privacidad se expone o sale de la seguridad del firewall de su organización.

Para las organizaciones que buscan integrar GenBI en sus infraestructuras de datos existentes, ¿cómo se ve el proceso de implementación? ¿Hay algún requisito previo o preparación necesaria?

El proceso de implementación para Pyramid Analytics no podría ser más fácil ni rápido. Los usuarios necesitan muy pocos requisitos previos y preparaciones, y pueden tener todo listo y funcionando en menos de una hora. No necesitan mover los datos a un nuevo marco o cambiar nada sobre su estrategia de datos, porque Pyramid consulta sus datos directamente donde residen.

Tampoco hay necesidad de explicar sus datos a la solución o definir columnas. Es tan simple como subir un conjunto de datos CSV o conectar su base de datos SQL. Lo mismo ocurre con cualquier base de datos relacional de cualquier tipo. Solo toma unos minutos conectar sus datos y luego pueden hacer su primera pregunta segundos después.

Dicho esto, pueden ajustar la estructura si lo desean, como cambiar el modelo de unión o redefinir columnas. Lleva algo de tiempo y esfuerzo, pero estamos hablando de minutos, no de un proyecto de desarrollo que dure meses. Nuestros clientes a menudo se sorprenden de que Pyramid esté funcionando en su almacén de datos clásico o lago de datos en cuestión de cinco minutos o menos.

Tampoco necesitan venir con preguntas muy específicas, precisas o incluso inteligentes para obtener resultados poderosos. Pueden cometer errores de ortografía y utilizar una fraseología incorrecta, y Pyramid desenredará todo y producirá una respuesta significativa y valiosa. Lo que necesitan es algo de conocimiento sobre los datos que están preguntando.

Mirando hacia adelante, ¿cuál es su visión estratégica para Pyramid Analytics en los próximos cinco años? ¿Cómo ve la evolución de sus soluciones para satisfacer las demandas cambiantes del mercado?

La próxima gran frontera es el soporte de consultas escalables y muy específicas. Los usuarios están ansiosos por poder hacer preguntas muy precisas, como preguntas sobre entidades personalizadas, y los LLM no pueden producir respuestas inteligentes en estos casos, porque no tienen ese tipo de conocimiento detallado sobre su base de datos.

Estamos enfrentando el desafío de cómo utilizar modelos de lenguaje para preguntar sobre los detalles de sus datos sin conectarse instantáneamente a su enorme lago de datos al LLM. ¿Cómo afinamos su LLM sobre datos que se rehidratan cada dos segundos? Podemos manejar esto para puntos fijos como países, ubicaciones y fechas, pero no para algo idiosincrásico como nombres, aunque estamos muy cerca de lograrlo hoy en día.

Otro desafío es permitir que los usuarios puedan hacer sus propias interpretaciones matemáticas de los datos, aplicando sus propias fórmulas. Es difícil no porque la fórmula sea difícil de aplicar, sino porque entender lo que el usuario quiere y obtener la sintaxis correcta es un desafío. Estamos trabajando para resolver ambos desafíos, y cuando lo hagamos, habremos superado el próximo punto de eureka.

Gracias por la excelente entrevista, los lectores que deseen aprender más pueden visitar Pyramid Analytics.