Daniel Ciolek, Jefe de Investigación y Desarrollo de InvGate – Serie de entrevistas

Daniel es un apasionado profesional de TI con más de 15 años de experiencia en la industria. Tiene un doctorado. en Ciencias de la Computación y una larga carrera en investigación tecnológica. Sus intereses recaen en múltiples áreas, como Inteligencia Artificial, Ingeniería de Software y Computación de Alto Rendimiento.

Daniel es el Jefe de Investigación y Desarrollo de InvGate, donde lidera las iniciativas de I+D. Trabaja junto con los equipos de Desarrollo de Producto y Negocio para diseñar, implementar y monitorear la estrategia de I+D de la empresa. Cuando no está investigando, está enseñando.

InvGate empodera a las organizaciones al proporcionar las herramientas para brindar un servicio fluido en todos los departamentos, desde TI hasta las instalaciones.

¿Cuándo y cómo empezó su interés por la informática?

Mi interés por la informática se remonta a mi primera infancia. Siempre me fascinaron los dispositivos electrónicos y, a menudo, me encontraba explorando y tratando de comprender cómo funcionaban. A medida que crecí, esta curiosidad me llevó a la codificación. Todavía recuerdo la diversión que pasé escribiendo mis primeros programas. A partir de ese momento, no tuve ninguna duda de que quería seguir una carrera en informática.

Actualmente lidera iniciativas de I+D e implementa novedosas aplicaciones de IA generativa. ¿Puedes hablar sobre algunos de tus trabajos?

Absolutamente. En nuestro departamento de I+D abordamos problemas complejos que pueden resultar difíciles de representar y resolver de manera eficiente. Nuestro trabajo no se limita a las aplicaciones de IA generativa, pero los avances recientes en este campo han creado una gran cantidad de oportunidades que estamos deseosos de explotar.

Uno de nuestros principales objetivos en InvGate siempre ha sido optimizar la usabilidad de nuestro software. Para ello, supervisamos cómo se utiliza, identificamos los obstáculos y trabajamos diligentemente para eliminarlos. Uno de esos obstáculos que hemos encontrado a menudo está relacionado con la comprensión y utilización del lenguaje natural. Este era un tema particularmente difícil de abordar sin el uso de modelos de lenguaje grandes (LLM).

Sin embargo, con la reciente aparición de LLM rentables, hemos podido optimizar estos casos de uso. Nuestras capacidades ahora incluyen proporcionar recomendaciones de redacción, redactar automáticamente artículos de base de conocimientos y resumir textos extensos, entre muchas otras funciones basadas en el idioma.

En InvGate, su equipo aplica una estrategia que se llama "IA agnóstica". ¿Podrías definir qué significa esto y por qué es importante?

La IA agnóstica tiene que ver fundamentalmente con la flexibilidad y la adaptabilidad. Básicamente, se trata de no comprometerse con un único modelo o proveedor de IA. En cambio, nuestro objetivo es mantener abiertas nuestras opciones, aprovechando lo mejor que ofrece cada proveedor de IA y evitando al mismo tiempo el riesgo de quedar atrapados en un solo sistema.

Puedes pensarlo así: ¿deberíamos usar GPT de OpenAI, Gemini de Google o Llama-2 de Meta para nuestras funciones de IA generativa? ¿Deberíamos optar por una implementación en la nube de pago por uso, una instancia administrada o una implementación autohospedada? Estas no son decisiones triviales e incluso pueden cambiar con el tiempo a medida que se lanzan nuevos modelos y nuevos proveedores ingresan al mercado.

El enfoque de IA agnóstica garantiza que nuestro sistema esté siempre listo para adaptarse. Nuestra implementación tiene tres componentes clave: una interfaz, un enrutador y los propios modelos de IA. La interfaz abstrae los detalles de implementación del sistema de IA, lo que facilita que otras partes de nuestro software interactúen con él. El enrutador decide dónde enviar cada solicitud en función de varios factores, como el tipo de solicitud y las capacidades de los modelos de IA disponibles. Finalmente, los modelos realizan las tareas reales de IA, que pueden requerir procesos personalizados de preprocesamiento de datos y formateo de resultados.

¿Puede describir los aspectos metodológicos que guían su proceso de toma de decisiones a la hora de seleccionar los modelos y proveedores de IA más adecuados para tareas específicas?

Para cada característica nueva que desarrollamos, comenzamos creando un punto de referencia de evaluación. Este punto de referencia está diseñado para evaluar la eficiencia de diferentes modelos de IA para resolver la tarea en cuestión. Pero no nos centramos sólo en el rendimiento, también consideramos la velocidad y el coste de cada modelo. Esto nos brinda una visión holística del valor de cada modelo, lo que nos permite elegir la opción más rentable para enrutar las solicitudes.

Sin embargo, nuestro proceso no termina ahí. En el campo de la IA, en rápida evolución, constantemente se lanzan nuevos modelos y los existentes se actualizan periódicamente. Por lo tanto, cada vez que hay disponible un modelo nuevo o actualizado, volvemos a ejecutar nuestro punto de referencia de evaluación. Esto nos permite comparar el rendimiento del modelo nuevo o actualizado con el de nuestra selección actual. Si un nuevo modelo supera al actual, actualizamos nuestro módulo de enrutador para reflejar este cambio.

¿Cuáles son algunos de los desafíos de cambiar sin problemas entre varios modelos y proveedores de IA?

De hecho, cambiar sin problemas entre varios modelos y proveedores de IA presenta una serie de desafíos únicos.

En primer lugar, cada proveedor de IA requiere entradas formateadas de manera específica y los modelos de IA pueden reaccionar de manera diferente a las mismas solicitudes. Esto significa que debemos optimizar individualmente para cada modelo, lo que puede resultar bastante complejo dada la variedad de opciones.

En segundo lugar, los modelos de IA tienen capacidades diferentes. Por ejemplo, algunos modelos pueden generar resultados en formato JSON, una característica que resulta útil en muchas de nuestras implementaciones. Otros pueden procesar grandes cantidades de texto, lo que nos permite utilizar un contexto más completo para algunas tareas. Gestionar estas capacidades para maximizar el potencial de cada modelo es una parte esencial de nuestro trabajo.

Por último, debemos garantizar que las respuestas generadas por IA sean seguras de utilizar. Los modelos de IA generativa a veces pueden producir “alucinaciones” o generar respuestas falsas, fuera de contexto o incluso potencialmente dañinas. Para mitigar esto, implementamos rigurosos filtros de desinfección posprocesamiento para detectar y filtrar respuestas inapropiadas.

¿Cómo se diseña la interfaz dentro de su sistema de IA agnóstico para garantizar que abstraiga de manera efectiva las complejidades de las tecnologías de IA subyacentes para lograr interacciones fáciles de usar?

El diseño de nuestra interfaz es un esfuerzo de colaboración entre I+D y los equipos de ingeniería. Trabajamos característica por característica, definiendo los requisitos y los datos disponibles para cada característica. Luego, diseñamos una API que se integra perfectamente con el producto, implementándola en nuestro servicio interno de IA. Esto permite que los equipos de ingeniería se centren en la lógica empresarial, mientras que nuestro servicio de IA maneja las complejidades de tratar con diferentes proveedores de IA.

Este proceso no se basa en investigaciones de vanguardia, sino en la aplicación de prácticas comprobadas de ingeniería de software.

Considerando las operaciones globales, ¿cómo maneja InvGate el desafío de la disponibilidad regional y el cumplimiento de las regulaciones de datos locales?

Garantizar la disponibilidad regional y el cumplimiento de las regulaciones de datos locales es una parte crucial de nuestras operaciones en InvGate. Seleccionamos cuidadosamente proveedores de IA que no solo puedan operar a escala, sino que también mantengan los más altos estándares de seguridad y cumplan con las regulaciones regionales.

Por ejemplo, solo consideramos proveedores que cumplen con regulaciones como el Reglamento General de Protección de Datos (GDPR) en la UE. Esto garantiza que podamos implementar nuestros servicios de forma segura en diferentes regiones, con la confianza de que operamos dentro del marco legal local.

Los principales proveedores de nube, como AWS, Azure y Google Cloud, satisfacen estos requisitos y ofrecen una amplia gama de funcionalidades de IA, lo que los convierte en socios adecuados para nuestras operaciones globales. Además, monitoreamos continuamente los cambios en las regulaciones de datos locales para garantizar el cumplimiento continuo, ajustando nuestras prácticas según sea necesario.

¿Cómo ha evolucionado el enfoque de InvGate para desarrollar soluciones de TI durante la última década, particularmente con la integración de la IA generativa?

Durante la última década, el enfoque de InvGate para desarrollar soluciones de TI ha evolucionado significativamente. Hemos ampliado nuestra base de funciones con capacidades avanzadas como flujos de trabajo automatizados, descubrimiento de dispositivos y base de datos de gestión de configuración (CMDB). Estas características han simplificado enormemente las operaciones de TI para nuestros usuarios.

Recientemente, comenzamos a integrar GenAI en nuestros productos. Esto ha sido posible gracias a los recientes avances en los proveedores de LLM, que han comenzado a ofrecer soluciones rentables. La integración de GenAI nos ha permitido mejorar nuestros productos con soporte impulsado por IA, haciendo que nuestras soluciones sean más eficientes y fáciles de usar.

Si bien aún es temprano, predecimos que la IA se convertirá en una herramienta omnipresente en las operaciones de TI. Como tal, planeamos continuar evolucionando nuestros productos integrando aún más tecnologías de inteligencia artificial.

¿Puede explicar cómo la IA generativa dentro de AI Hub mejora la velocidad y la calidad de las respuestas a incidentes de TI comunes?

La IA generativa dentro de nuestro AI Hub mejora significativamente tanto la velocidad como la calidad de las respuestas a incidentes de TI comunes. Lo hace a través de un proceso de varios pasos:

Contacto inicial: Cuando un usuario encuentra un problema, puede abrir un chat con nuestro Agente Virtual (VA) impulsado por IA y describir el problema. El VA busca de forma autónoma en la base de conocimientos (KB) de la empresa y en una base de datos pública de guías de solución de problemas de TI, brindando orientación de manera conversacional. Esto suele resolver el problema de forma rápida y eficaz.

Creación de entradas: Si el problema es más complejo, el VA puede crear un ticket, extrayendo automáticamente información relevante de la conversación.

Asignación de entradas: el sistema asigna el ticket a un agente de soporte según la categoría del ticket, la prioridad y la experiencia del agente con problemas similares.

Interacción del agente: El agente puede comunicarse con el usuario para obtener información adicional o para notificarle que el problema se ha resuelto. La interacción se mejora con la IA, proporcionando recomendaciones de redacción para mejorar la comunicación.

Escalada: Si el problema requiere una escalada, las funciones de resumen automático ayudan a los gerentes a comprender rápidamente el problema.

Análisis post mortem: Una vez cerrado el ticket, la IA realiza un análisis de la causa raíz, lo que ayuda en el análisis y los informes post mortem. El agente también puede utilizar la IA para redactar un artículo de base de conocimientos, lo que facilitará la resolución de problemas similares en el futuro.

Si bien ya hemos implementado la mayoría de estas funciones, trabajamos continuamente en nuevas mejoras y mejoras.

Con funciones próximas como el agente virtual de MS Teams más inteligente, ¿cuáles son las mejoras esperadas en las experiencias de soporte conversacional?

Un camino prometedor a seguir es ampliar la experiencia conversacional a un “copiloto”, capaz no sólo de responder preguntas y realizar acciones simples, sino también de realizar acciones más complejas en nombre de los usuarios. Esto podría resultar útil para mejorar las capacidades de autoservicio de los usuarios, así como para proporcionar herramientas potentes adicionales a los agentes. Con el tiempo, estas poderosas interfaces conversacionales harán de la IA una compañera omnipresente.

Gracias por la gran entrevista, los lectores que deseen obtener más información deben visitar InvGate.