Daniel Ciolek, Jefe de Investigación y Desarrollo en InvGate – Serie de Entrevistas

Daniel es un apasionado profesional de la informática con más de 15 años de experiencia en la industria. Tiene un doctorado en Ciencias de la Computación y una larga carrera en investigación tecnológica. Sus intereses abarcan múltiples áreas, como la Inteligencia Artificial, la Ingeniería de Software y la Computación de Alto Rendimiento.

Daniel es el Jefe de Investigación y Desarrollo en InvGate, donde lidera las iniciativas de I+D. Trabaja junto con los equipos de Desarrollo de Producto y Negocios para diseñar, implementar y monitorear la estrategia de I+D de la empresa. Cuando no está investigando, está enseñando.

InvGate capacita a las organizaciones proporcionándoles las herramientas para ofrecer un servicio sin interrupciones en todos los departamentos, desde TI hasta Instalaciones.

¿Cuándo y cómo te interesaste inicialmente en la informática?

Mi interés en la informática se remonta a mi infancia. Siempre me fascinaron los dispositivos electrónicos, y a menudo me encontraba explorando y tratando de entender cómo funcionaban. A medida que crecí, esta curiosidad me llevó a la programación. Todavía recuerdo la diversión que tuve escribiendo mis primeros programas. A partir de ese momento, no había duda en mi mente de que quería seguir una carrera en informática.

Actualmente estás liderando iniciativas de I+D y implementando aplicaciones de inteligencia artificial generativa. ¿Puedes hablar sobre algunos de tus trabajos?

Absolutamente. En nuestro departamento de I+D, abordamos problemas complejos que pueden ser difíciles de representar y resolver de manera eficiente. Nuestro trabajo no se limita a aplicaciones de inteligencia artificial generativa, pero los avances recientes en este campo han creado una gran cantidad de oportunidades que estamos ansiosos por explotar.

Uno de nuestros objetivos principales en InvGate ha sido siempre optimizar la usabilidad de nuestro software. Hacemos esto monitoreando cómo se utiliza, identificando cuellos de botella y trabajando diligentemente para eliminarlos. Uno de los cuellos de botella que hemos encontrado a menudo está relacionado con la comprensión y utilización del lenguaje natural. Este fue un problema particularmente difícil de abordar sin el uso de Modelos de Lenguaje Grande (LLM).

Sin embargo, con la reciente aparición de LLM asequibles, hemos podido simplificar estos casos de uso. Nuestras capacidades ahora incluyen proporcionar recomendaciones de escritura, redactar automáticamente artículos de la base de conocimientos y resumir textos extensos, entre muchas otras características basadas en el lenguaje.

En InvGate, tu equipo aplica una estrategia que se llama “inteligencia artificial agnóstica”. ¿Puedes definir qué significa esto y por qué es importante?

La inteligencia artificial agnóstica se basa fundamentalmente en la flexibilidad y la adaptabilidad. En esencia, se trata de no comprometerse con un solo modelo de inteligencia artificial o proveedor. En su lugar, nos esforzamos por mantener nuestras opciones abiertas, aprovechando lo mejor que cada proveedor de inteligencia artificial ofrece, al mismo tiempo que evitamos el riesgo de quedar atrapados en un sistema.

Puedes pensar en ello de esta manera: ¿deberíamos usar GPT de OpenAI, Gemini de Google o Llama-2 de Meta para nuestras características de inteligencia artificial generativa? ¿Deberíamos optar por una implementación en la nube de pago por uso, una instancia administrada o una implementación autohospedada? Estas no son decisiones triviales y pueden cambiar con el tiempo a medida que se lanzan nuevos modelos y nuevos proveedores entran en el mercado.

El enfoque de inteligencia artificial agnóstica garantiza que nuestro sistema esté siempre listo para adaptarse. Nuestra implementación tiene tres componentes clave: una interfaz, un enrutador y los modelos de inteligencia artificial en sí. La interfaz abstrae los detalles de implementación del sistema de inteligencia artificial, lo que facilita que otras partes de nuestro software interactúen con él. El enrutador decide a dónde enviar cada solicitud en función de varios factores, como el tipo de solicitud y las capacidades de los modelos de inteligencia artificial disponibles. Finalmente, los modelos realizan las tareas de inteligencia artificial reales, que pueden requerir procesos de preprocesamiento de datos personalizados y formatos de resultados.

¿Puedes describir los aspectos metodológicos que guían tu proceso de toma de decisiones al seleccionar los modelos y proveedores de inteligencia artificial más adecuados para tareas específicas?

Para cada nueva característica que desarrollamos, creamos una evaluación de referencia. Esta evaluación está diseñada para evaluar la eficiencia de diferentes modelos de inteligencia artificial en la resolución de la tarea en cuestión. Pero no nos enfocamos solo en el rendimiento; también consideramos la velocidad y el costo de cada modelo. Esto nos da una visión holística del valor de cada modelo, lo que nos permite elegir la opción más rentable para enrutamiento de solicitudes.

Sin embargo, nuestro proceso no termina ahí. En el campo en constante evolución de la inteligencia artificial, se lanzan nuevos modelos constantemente y los modelos existentes se actualizan regularmente. Así que cada vez que un nuevo o actualizado modelo se vuelve disponible, volvemos a ejecutar nuestra evaluación de referencia. Esto nos permite comparar el rendimiento del nuevo o actualizado modelo con el de nuestra selección actual. Si un nuevo modelo supera al actual, actualizamos nuestro módulo de enrutamiento para reflejar este cambio.

¿Cuáles son algunos de los desafíos de cambiar sin problemas entre varios modelos y proveedores de inteligencia artificial?

Cambiar sin problemas entre varios modelos y proveedores de inteligencia artificial indeed presenta un conjunto de desafíos únicos.

En primer lugar, cada proveedor de inteligencia artificial requiere entradas formateadas de manera específica, y los modelos de inteligencia artificial pueden reaccionar de manera diferente a las mismas solicitudes. Esto significa que debemos optimizar individualmente para cada modelo, lo que puede ser bastante complejo dado la variedad de opciones.

En segundo lugar, los modelos de inteligencia artificial tienen diferentes capacidades. Por ejemplo, algunos modelos pueden generar salidas en formato JSON, una característica que resulta útil en muchas de nuestras implementaciones. Otros pueden procesar grandes cantidades de texto, lo que nos permite utilizar un contexto más amplio para algunas tareas. Administrar estas capacidades para maximizar el potencial de cada modelo es una parte esencial de nuestro trabajo.

Finalmente, debemos asegurarnos de que las respuestas generadas por la inteligencia artificial sean seguras para usar. Los modelos de inteligencia artificial generativa pueden a veces producir “alucinaciones”, o generar respuestas que son falsas, fuera de contexto o incluso potencialmente dañinas. Para mitigar esto, implementamos filtros de saneamiento de postprocesamiento rigurosos para detectar y filtrar respuestas inapropiadas.

¿Cómo se diseña la interfaz dentro de tu sistema de inteligencia artificial agnóstica para asegurar que abstrae efectivamente las complejidades de las tecnologías de inteligencia artificial subyacentes para interacciones de usuario amigables?

El diseño de nuestra interfaz es un esfuerzo colaborativo entre los equipos de I+D y de ingeniería. Trabajamos en una base de característica por característica, definiendo los requisitos y los datos disponibles para cada característica. Luego, diseñamos una API que se integre de manera transparente con el producto, implementándola en nuestro servicio de inteligencia artificial interno. Esto permite a los equipos de ingeniería centrarse en la lógica de negocio, mientras que nuestro servicio de inteligencia artificial maneja las complejidades de interactuar con diferentes proveedores de inteligencia artificial.

Este proceso no depende de investigaciones de vanguardia, sino de la aplicación de prácticas de ingeniería de software probadas.

Considerando operaciones globales, ¿cómo maneja InvGate el desafío de la disponibilidad regional y el cumplimiento con las regulaciones de datos locales?

Asegurar la disponibilidad regional y el cumplimiento con las regulaciones de datos locales es una parte crucial de nuestras operaciones en InvGate. Seleccionamos cuidadosamente a los proveedores de inteligencia artificial que no solo pueden operar a escala, sino que también mantienen los más altos estándares de seguridad y cumplen con las regulaciones regionales.

Por ejemplo, solo consideramos a proveedores que se adhieren a regulaciones como el Reglamento General de Protección de Datos (GDPR) en la UE. Esto nos asegura que podemos desplegar nuestros servicios en diferentes regiones con la confianza de que estamos operando dentro del marco legal local.

Los principales proveedores de la nube, como AWS, Azure y Google Cloud, satisfacen estos requisitos y ofrecen una amplia gama de funcionalidades de inteligencia artificial, lo que los convierte en socios adecuados para nuestras operaciones globales. Además, continuamente monitoreamos los cambios en las regulaciones de datos locales para asegurar el cumplimiento continuo, ajustando nuestras prácticas según sea necesario.

¿Cómo ha evolucionado el enfoque de InvGate para desarrollar soluciones de TI en la última década, particularmente con la integración de la inteligencia artificial generativa?

En la última década, el enfoque de InvGate para desarrollar soluciones de TI ha evolucionado significativamente. Hemos ampliado nuestra base de características con capacidades avanzadas como flujos de trabajo automatizados, descubrimiento de dispositivos y base de datos de configuración (CMDB). Estas características han simplificado enormemente las operaciones de TI para nuestros usuarios.

Recientemente, hemos comenzado a integrar la inteligencia artificial generativa en nuestros productos. Esto ha sido posible gracias a los avances recientes en los proveedores de LLM, que han comenzado a ofrecer soluciones rentables. La integración de la inteligencia artificial generativa nos ha permitido mejorar nuestros productos con soporte impulsado por inteligencia artificial, lo que hace que nuestras soluciones sean más eficientes y fáciles de usar.

Aunque todavía es pronto, predecimos que la inteligencia artificial se convertirá en una herramienta ubicua en las operaciones de TI. Como tal, planeamos seguir evolucionando nuestros productos integrando aún más las tecnologías de inteligencia artificial.

¿Puedes explicar cómo la inteligencia artificial generativa dentro del Centro de Inteligencia Artificial mejora la velocidad y la calidad de las respuestas a incidentes de TI comunes?

La inteligencia artificial generativa dentro de nuestro Centro de Inteligencia Artificial mejora significativamente la velocidad y la calidad de las respuestas a incidentes de TI comunes. Lo hace a través de un proceso de múltiples pasos:

Primer Contacto: Cuando un usuario encuentra un problema, puede iniciar un chat con nuestro Agente Virtual (AV) impulsado por inteligencia artificial y describir el problema. El AV busca de manera autónoma en la base de conocimientos de la empresa y en una base de datos pública de guías de solución de problemas de TI, proporcionando orientación de manera conversacional. Esto a menudo resuelve el problema de manera rápida y eficiente.

Creación de Ticket: Si el problema es más complejo, el AV puede crear un ticket, extrayendo automáticamente la información relevante de la conversación.

Asignación de Ticket: El sistema asigna el ticket a un agente de soporte en función de la categoría del ticket, la prioridad y la experiencia del agente con problemas similares.

Interacción con el Agente: El agente puede contactar al usuario para obtener información adicional o notificarle que el problema ha sido resuelto. La interacción se ve mejorada con la inteligencia artificial, proporcionando recomendaciones de escritura para mejorar la comunicación.

Escalada: Si el problema requiere escalada, las características de resumen automático ayudan a los administradores a comprender rápidamente el problema.

Análisis Postmortem: Después de que el ticket se cierra, la inteligencia artificial realiza un análisis de causa raíz, ayudando en el análisis postmortem y los informes. El agente también puede utilizar la inteligencia artificial para redactar un artículo de la base de conocimientos, facilitando la resolución de problemas similares en el futuro.

Aunque ya hemos implementado la mayoría de estas características, estamos trabajando continuamente en mejoras y expansiones adicionales.

Con características próximas como el Agente Virtual de MS Teams más inteligente, ¿cuáles son las mejoras esperadas en las experiencias de soporte conversacional?

Una de las vías prometedoras hacia el futuro es extender la experiencia conversacional en un “copiloto”, no solo capaz de responder a preguntas y realizar acciones simples, sino también de tomar acciones más complejas en nombre de los usuarios. Esto podría ser útil para mejorar las capacidades de autoservicio de los usuarios, así como para proporcionar herramientas adicionales poderosas a los agentes. Eventualmente, estas interfaces conversacionales poderosas harán que la inteligencia artificial sea una compañera ubicua.

Gracias por la gran entrevista, los lectores que deseen aprender más pueden visitar InvGate.