Los datos – no la inteligencia artificial – son la clave

La inteligencia artificial se ha integrado profundamente en las empresas, por lo que casi todas las operaciones han sido afectadas por la tecnología de alguna manera. Al examinar el uso de la inteligencia artificial en particular, vemos que las organizaciones están adoptando nuevas formas de inteligencia artificial para innovar y mejorar los sistemas existentes. De hecho, una reciente encuesta de líderes de TI encontró que el 98% ya están utilizando inteligencia artificial agente para orquestar casos de uso de GenAI o planean hacerlo en el futuro cercano.

En medio de la explosión de herramientas y tecnologías de inteligencia artificial que han llegado en los últimos años, los agentes de inteligencia artificial están convirtiéndose rápidamente en uno de los más populares. Estos agentes ayudan a las organizaciones a hacer cualquier cosa, desde mejorar la experiencia y el soporte del cliente hasta automatizar procesos internos u optimizar los modelos de GenAI existentes que ya se utilizan. Sin embargo, escalar los muchos beneficios de los agentes de inteligencia artificial y la inteligencia artificial en general a lo largo de toda la empresa no está exento de dificultades.

La razón por la que muchas organizaciones luchan con la inteligencia artificial y los agentes de inteligencia artificial a escala se reduce a la confianza, no a la tecnología. Los agentes de inteligencia artificial, por naturaleza, trabajan en una multitud de sistemas. Dondequiera que estén esos sistemas, es más que probable que dependan de datos altamente sensibles, ya sea una gran cantidad de datos de clientes, información médica o datos bancarios y financieros. Este es el problema. Incorporar grandes cantidades de datos a cualquier modelo de inteligencia artificial sin la infraestructura de privacidad y seguridad de datos adecuada deja a las empresas con un riesgo significativo.

No importa la salida de un modelo de inteligencia artificial, solo es valioso si los datos que lo entrenaron pueden ser confiables. Pero se trata de mucho más que simplemente asegurarse de que los datos estén seguros. Especialmente con los agentes de inteligencia artificial, hay una gran autonomía involucrada en la forma en que estos modelos operan. Asegurarse de que estén equipados con una comprensión de quién debe acceder a los datos, cuándo debe acceder y cómo, es fundamental para generar confianza.

Superar las complicaciones de la privacidad de los datos no es imposible, sin embargo. Con las políticas de datos adecuadas, la gobernanza de los metadatos, las API y los marcos de autorización empresarial, los líderes de TI pueden asegurarse de que los datos que alimentan su inteligencia artificial sean seguros y confiables.

Veamos más de cerca.

Navegando la privacidad de los datos y la necesidad de inteligencia artificial a escala

Uno de los objetivos más amplios de integrar agentes de inteligencia artificial en una empresa es simplificar los flujos de trabajo en las operaciones y los sistemas. Sin embargo, hacerlo sin ninguna salvaguarda podría exponer inadvertidamente datos sensibles en el camino. En un momento en que las violaciones de datos y los ataques maliciosos están evolucionando constantemente, cualquier dato que se exponga o acceda sin autorización podría ser un desastre, no solo para una iniciativa de inteligencia artificial, sino para toda la empresa. El costo promedio de una violación de datos es de más de $4 millones a partir de 2025, según IBM. La adopción de la inteligencia artificial está acelerando rápidamente, a menudo dejando la gobernanza y la seguridad en el polvo mientras los líderes empresariales buscan más innovación, conocimientos más profundos y nuevas oportunidades de crecimiento. Sin embargo, incluso cuando la adopción de la inteligencia artificial se dispara, las políticas y los requisitos regulatorios están evolucionando para mantener el ritmo y asegurarse de que los datos permanezcan seguros.

Desde el RGPD hasta el CCPA e incluso las políticas de larga data como HIIPA, las complicaciones regulatorias plantean un desafío complejo para escalar los agentes de inteligencia artificial. Las herramientas de inteligencia artificial que requieren grandes cantidades de datos, cuando se dejan sin control, invitan a un mayor riesgo. A medida que los modelos de inteligencia artificial se extienden por todos estos sistemas internos, a menudo se mueven y acceden a datos sensibles en el proceso. Cuando se trata de datos, las agencias regulatorias en todo el mundo están poniendo mayor énfasis en garantizar la privacidad, la gobernanza efectiva y la seguridad sólida.

Políticas más recientes como DORA, un conjunto de directrices para gestionar el riesgo de TIC para las empresas de servicios financieros que operan en la UE, requieren explícitamente la clasificación y el informe de incidentes de TIC, incluidos aquellos que afectan la confidencialidad, la integridad o la disponibilidad de los datos. Y aunque esta política tiene un énfasis principal en la resiliencia operativa, las implicaciones se extienden a la adopción de la inteligencia artificial también. A medida que más iniciativas de inteligencia artificial, incluidas aquellas con agentes de inteligencia artificial, acceden a los datos a escala empresarial, el riesgo de acceso no autorizado aumenta. Si un proyecto de inteligencia artificial resulta en la pérdida o exposición de datos, las regulaciones como estas se volverían rápidamente relevantes.

Con tanto en juego, es importante que las organizaciones empresariales no pierdan de vista la importancia de la seguridad, la gobernanza y el acceso a los datos.

Construyendo la base para impulsar a los agentes de inteligencia artificial

Las empresas necesitan construir una base que esté arraigada en una gobernanza efectiva, con salvaguardas firmes y reglas aplicables que definan lo que los agentes pueden y no pueden hacer. En el corazón de esta base se encuentra la gobernanza de los datos, las políticas, los estándares y las estructuras de alto nivel que gestionan cómo se utilizan los datos de manera responsable en toda la organización. Estas políticas aseguran que los agentes no sobrepasen sus roles, ya sea accediendo a conjuntos de datos restringidos o iniciando procesos sin supervisión humana.

La implementación de una política de gobernanza de datos robusta debe comenzar con algunos puntos clave. Esto incluye la responsabilidad y la propiedad, la calidad y la coherencia de los datos, la seguridad y la privacidad, el cumplimiento y la auditoría, y la transparencia y la trazabilidad.

Con estos puntos como base de la gobernanza, los líderes empresariales ganan un mayor control sobre la toma de decisiones, una mayor confianza en sus datos y un riesgo regulatorio reducido que plantean los silos de datos. Esto se logra aprovechando capacidades como la gestión de metadatos, la clasificación de datos y la genealogía para aumentar la transparencia y la visibilidad de quién, o qué herramientas de inteligencia artificial, pueden acceder. Cada uno de estos mecanismos permite a las empresas rastrear el origen de los datos, cómo fluyen y cómo se transforman.

La tecnología es importante, pero la confianza es fundamental

Cada vez que surge un nuevo modelo de inteligencia artificial o innovación, la adopción se dispara. Sin embargo, con cualquier iniciativa de inteligencia artificial, surgen riesgos, aunque no siempre donde se piensa. Los desafíos técnicos que a menudo obstaculizan la adopción de nuevas herramientas no siempre son el culpable detrás de la integración lenta de la inteligencia artificial. A menudo se reduce a los datos, específicamente a la confianza en esos datos y las preocupaciones sobre la privacidad. Debido a que la inteligencia artificial se mueve tan rápidamente, a veces puede ser un desafío asegurarse de que las cosas como los controles de acceso, la gobernanza de los datos, la genealogía y el cumplimiento mantengan el ritmo con ese ritmo.

La gobernanza es una parte importante de la confianza, pero también requiere evaluaciones efectivas. Especialmente dentro de la inteligencia artificial agente, todavía hay una brecha importante en las evaluaciones estandarizadas, aunque son esenciales para probar sistemas que se comporten de manera confiable y segura.

Ya sea que desee optimizar el rendimiento de los sistemas internos, mejorar la detección de fraude o simplemente hacer que la experiencia del cliente para los clientes sea más fluida, los mejores agentes de inteligencia artificial y las iniciativas de inteligencia artificial en general se basan en una base de datos confiables, privacidad y seguridad.