3 Consideraciones para Agentes de Inteligencia Artificial Seguros y Confiables para Empresas

Según Gartner, el 30% de los proyectos de GenAI probablemente serán abandonados después de la prueba de concepto a finales de 2025. La adopción temprana de GenAI reveló que la mayoría de las infraestructuras de datos y prácticas de gobernanza de las empresas no estaban listas para una implementación efectiva de la IA. La primera ola de productización de GenAI enfrentó obstáculos considerables, y muchas organizaciones lucharon por avanzar más allá de las etapas de prueba de concepto para lograr un valor comercial significativo.

A medida que entramos en la segunda ola de productización de inteligencia artificial generativa, las empresas están comprendiendo que implementar con éxito estas tecnologías requiere más que simplemente conectar un LLM a sus datos. La clave para desbloquear el potencial de la IA descansa en tres pilares fundamentales: poner los datos en orden y asegurarse de que estén listos para la integración con la IA; reformar las prácticas de gobernanza de datos para abordar los desafíos únicos que introduce GenAI; y desplegar agentes de IA de manera que haga que el uso seguro y confiable sea natural e intuitivo, para que los usuarios no tengan que aprender habilidades especializadas o patrones de uso precisos. Juntos, estos pilares crean una base sólida para agentes de IA seguros y efectivos en entornos empresariales.

Preparando adecuadamente sus datos para la IA

Aunque los datos estructurados pueden parecer organizados a simple vista, estando ordenados en tablas y columnas, los LLMs a menudo luchan por entender y trabajar con estos datos estructurados de manera efectiva. Esto sucede porque, en la mayoría de las empresas, los datos no están etiquetados de una manera semánticamente significativa. Los datos a menudo tienen etiquetas crípticas, por ejemplo, “ID” sin una indicación clara de si se trata de un identificador para un cliente, un producto o una transacción. Con los datos estructurados, también es difícil capturar el contexto y las relaciones adecuadas entre los diferentes puntos de datos interconectados, como cómo los pasos en un recorrido del cliente están relacionados entre sí. Al igual que necesitamos etiquetar cada imagen en aplicaciones de visión por computadora para permitir una interacción significativa, las organizaciones deben ahora emprender la tarea compleja de etiquetar semánticamente sus datos y documentar las relaciones en todos los sistemas para permitir interacciones de IA significativas.

Además, los datos están dispersos en muchos lugares diferentes – desde servidores tradicionales hasta varios servicios en la nube y diferentes aplicaciones de software. Este patchwork de sistemas conduce a problemas críticos de interoperabilidad y integración que se vuelven aún más problemáticos al implementar soluciones de IA.

Otro desafío fundamental radica en la inconsistencia de las definiciones comerciales en diferentes sistemas y departamentos. Por ejemplo, los equipos de éxito del cliente pueden definir “upsell” de una manera, mientras que el equipo de ventas lo define de otra manera. Cuando se conecta un agente de IA o chatbot a estos sistemas y comienza a hacer preguntas, se obtendrán respuestas diferentes porque las definiciones de datos no están alineadas. Esta falta de alineación no es una molestia menor – es una barrera crítica para implementar soluciones de IA confiables.

La mala calidad de los datos crea un clásico escenario de “basura dentro, basura fuera” que se vuelve exponencialmente más grave cuando se implementan herramientas de IA en toda la empresa. Los datos incorrectos o desordenados afectan mucho más que un solo análisis – se propagan información incorrecta a todos los que utilizan el sistema a través de sus preguntas y interacciones. Para generar confianza en los sistemas de IA para decisiones comerciales reales, las empresas deben asegurarse de que sus aplicaciones de IA tengan datos que sean limpios, precisos y entendidos en un contexto comercial adecuado. Esto representa un cambio fundamental en la forma en que las organizaciones deben pensar sobre sus activos de datos en la era de la IA – donde la calidad, la coherencia y la claridad semántica se vuelven tan cruciales como los propios datos.

Fortaleciendo los enfoques de gobernanza

La gobernanza de datos ha sido un enfoque principal para las organizaciones en los últimos años, centrado principalmente en la gestión y protección de los datos utilizados en análisis. Las empresas han estado trabajando para mapear la información sensible, adherirse a los estándares de acceso, cumplir con leyes como el GDPR y el CCPA, y detectar datos personales. Estas iniciativas son vitales para crear datos listos para la IA. Sin embargo, a medida que las organizaciones introducen agentes de inteligencia artificial generativa en sus flujos de trabajo, el desafío de la gobernanza se extiende más allá de los datos en sí para abarcar la experiencia completa de interacción del usuario con la IA.

Ahora enfrentamos la imperativa necesidad de gobernar no solo los datos subyacentes, sino también el proceso por el cual los usuarios interactúan con esos datos a través de agentes de IA. La legislación existente, como el Acta de IA de la Unión Europea, y más regulaciones en el horizonte subrayan la necesidad de gobernar el propio proceso de respuesta a preguntas. Esto significa asegurarse de que los agentes de IA proporcionen respuestas transparentes, explicables y trazables. Cuando los usuarios reciben respuestas de “caja negra” – como preguntar “¿Cuántos pacientes con gripe fueron admitidos ayer?” y recibir solo “50” sin contexto – es difícil confiar en esa información para decisiones críticas. Sin saber de dónde provienen los datos, cómo se calcularon o las definiciones de términos como “admitidos” y “ayer”, la salida de la IA pierde confiabilidad.

A diferencia de las interacciones con documentos, donde los usuarios pueden rastrear respuestas hasta documentos específicos o políticas para verificar la precisión, las interacciones con datos estructurados a través de agentes de IA a menudo carecen de este nivel de trazabilidad y explicabilidad. Para abordar estos problemas, las organizaciones deben implementar medidas de gobernanza que no solo protejan los datos sensibles, sino que también hagan que la experiencia de interacción con la IA sea gobernada y confiable. Esto incluye establecer controles de acceso robustos para asegurarse de que solo el personal autorizado pueda acceder a información específica, definir responsabilidades claras de propiedad y custodia de datos, y asegurarse de que los agentes de IA proporcionen explicaciones y referencias para sus salidas. Al reformar las prácticas de gobernanza de datos para incluir estas consideraciones, las empresas pueden aprovechar con seguridad el poder de los agentes de IA mientras cumplen con las regulaciones en evolución y mantienen la confianza del usuario.

Pensando más allá de la ingeniería de prompts

A medida que las organizaciones introducen agentes de inteligencia artificial generativa para mejorar la accesibilidad de los datos, la ingeniería de prompts ha surgido como una nueva barrera técnica para los usuarios comerciales. Mientras que se la promociona como una carrera prometedora, la ingeniería de prompts es esencialmente recrear las mismas barreras con las que hemos luchado en el análisis de datos. Crear prompts perfectos no es diferente a escribir consultas SQL especializadas o construir filtros de panel – es trasladar la experiencia técnica de un formato a otro, aún requiriendo habilidades especializadas que la mayoría de los usuarios comerciales no tienen y no deberían necesitar.

Las empresas han intentado resolver la accesibilidad de los datos capacitando a los usuarios para que comprendan mejor los sistemas de datos, creando documentación y desarrollando roles especializados. Pero este enfoque es al revés – pedimos a los usuarios que se adapten a los datos en lugar de hacer que los datos se adapten a los usuarios. La ingeniería de prompts amenaza con continuar este patrón al crear otra capa de intermediarios técnicos.

La verdadera democratización de los datos requiere sistemas que comprendan el lenguaje empresarial, no usuarios que comprendan el lenguaje de los datos. Cuando los ejecutivos preguntan sobre la retención de clientes, no deberían necesitar terminología perfecta o prompts. Los sistemas deberían comprender la intención, reconocer datos relevantes en diferentes etiquetas (ya sea “abandono”, “retención” o “ciclo de vida del cliente”), y proporcionar respuestas contextuales. Esto permite a los usuarios comerciales centrarse en las decisiones en lugar de aprender a hacer preguntas técnicamente perfectas.

Conclusión

Los agentes de IA traerán cambios importantes en la forma en que las empresas operan y toman decisiones, pero vienen con su propio conjunto único de desafíos que deben ser abordados antes de que se implementen. Con la IA, cada error se amplifica cuando los usuarios no técnicos tienen acceso de autoservicio, lo que hace crucial obtener las bases correctas.

Las organizaciones que abordan con éxito los desafíos fundamentales de la calidad de los datos, la alineación semántica y la gobernanza, y que van más allá de las limitaciones de la ingeniería de prompts, estarán posicionadas para democratizar de manera segura el acceso a los datos y la toma de decisiones. El mejor enfoque implica crear un entorno colaborativo que facilite el trabajo en equipo y alinee las interacciones humano-máquina y máquina-máquina. Esto garantiza que las perspectivas impulsadas por la IA sean precisas, seguras y confiables, fomentando una cultura en toda la organización que gestione, proteja y maximice los datos hasta su máximo potencial.