Una política, miles de agentes: por qué la gobernanza de la IA empresarial falla a gran escala

Gran parte del debate sobre la adopción de agentes autónomos de IA se ha centrado, con razón, en la gobernanza como desafío fundamental. Gartner predijo recientemente que el 40 % de las empresas relegará o retirará sus agentes autónomos de IA para 2027, no porque haya fallado la tecnología, sino porque ha fallado su gobernanza. El culpable, según Shiva Varma, analista director sénior de Gartner, es la «gobernanza binaria»: tratar a los agentes como si estuvieran completamente restringidos o fueran plenamente confiables, sin términos medios.

En la actualidad, muchas organizaciones se inclinan por prohibir por completo las herramientas de IA o por implementar agentes sin las salvaguardas adecuadas. Ninguno de estos enfoques funciona bien a gran escala. Incluso cuando el departamento de TI prohíbe las herramientas externas de IA, sigue habiendo IA en la sombra. Los desarrolladores quieren, por naturaleza, crear y resolver problemas; si la gobernanza parece excesivamente burocrática, eludirán los controles y utilizarán herramientas no probadas para seguir avanzando. Por el contrario, la falta de salvaguardas expone a las organizaciones a riesgos de seguridad, cumplimiento normativo y funcionamiento que se multiplican con el tiempo. 

El desafío es que los agentes de IA no pueden gobernarse de manera uniforme mediante un enfoque estático e igual para todos.  La era de la gobernanza igual para todos está llegando a su fin porque estos sistemas no comparten el mismo perfil de riesgo: difieren en el software en el que se basan, sus capacidades, sus niveles de acceso y sus grados de autonomía. No funcionará aplicar a un software que opera a velocidad de máquina controles estáticos propios de la era industrial.  Una gobernanza eficaz dependerá de que las organizaciones comprendan la cadena de suministro de software que hay detrás de cada agente y adapten los controles a los riesgos que este introduce.  

Gobernar los entornos de desarrollo de software agéntico

El control real implica gestionar eficazmente todos los elementos de software que componen el agente. Muchos equipos consideran erróneamente que estos agentes son «fiables y de confianza» y pasan por alto los elementos habituales que influyen en su funcionalidad y seguridad. 

Todos los agentes autónomos de IA se construyen a partir de una estructura reconocible: un modelo fundacional, servidores MCP (Model Context Protocol) que los conectan con los datos de la empresa y con sistemas externos, complementos que amplían sus capacidades y archivos de habilidades que indican cómo deben comportarse. Los responsables de TI deben tener presente lo siguiente: 

• Los agentes de IA son ecosistemas de software: dependen de una configuración estándar que incluye modelos, MCP, herramientas, complementos, habilidades y software de código abierto.
• Los servidores MCP pueden entrañar riesgos: conectan los agentes con los datos de la empresa y se pueden descargar como cualquier otro software. Si no se verifican, podrían permitir que los piratas informáticos accedieran a sus sistemas. Por ejemplo, investigaciones recientes de seguridad de JFrog señalan estos mismos riesgos en la cadena de suministro de software de mcp-run-python, entre ellos una vulnerabilidad de falsificación de solicitudes del lado del servidor (SSRF) (CVE-2026-25904) y una vulnerabilidad por falta de aislamiento (CVE-2026-25905) que puede dar lugar a la toma total del control de MCP.
• Los complementos pueden aumentar los riesgos: distintos agentes necesitan complementos diferentes (por ejemplo, un complemento de OpenAI no funciona en Microsoft Copilot), por lo que las empresas suelen tener que gestionar varias versiones y un solo complemento malicioso podría robar información confidencial.
• Las habilidades definen el comportamiento del agente: estos archivos de instrucciones indican al agente cómo trabajar. Como los desarrolladores los obtienen de fuentes comunitarias, una habilidad alterada puede modificar discretamente el funcionamiento del agente.
• Riesgos del software de código abierto: la funcionalidad de las soluciones creadas mediante programación agéntica se sustenta en el uso de binarios de código abierto. Los agentes de programación pueden recurrir con la misma facilidad a paquetes maliciosos en lugar de paquetes seguros, sin advertir el riesgo.
• La visibilidad es fundamental: muchos equipos desconocen la existencia de estos problemas, lo que deja a sus agentes muy expuestos. Las organizaciones siguen gestionando las dependencias de software basándose en la confianza, en lugar de realizar comprobaciones exhaustivas.

El papel de un sistema de registro en una gobernanza eficaz de la IA

La carrera por implementar agentes de IA empresariales no se puede ganar con una mentalidad anclada en el pasado. Imponer cadenas de aprobaciones manuales, monolíticas y excesivamente rígidas en todos los flujos de trabajo frena la innovación, mientras que dejar a los agentes sin supervisión genera riesgos innecesarios.

Para ampliar el uso de la IA de forma segura, las organizaciones deben adoptar un enfoque por capas para gobernar y proteger los componentes de software, incluidos los paquetes, los binarios, los MCP, las habilidades y las dependencias. Al establecer un sistema de registro, las empresas pueden seleccionar todos los componentes utilizados, analizarlos antes de su uso, aplicar políticas en el momento adecuado del ciclo de desarrollo y conservar la capacidad de revertir los cambios al instante. Así, cuando se divulgue la próxima vulnerabilidad, la respuesta a «¿estamos expuestos?» se obtendrá en minutos, no en días.

Sin embargo, los agentes de IA amplían la superficie de ataque y hacen que evolucione mucho más rápido. Como los agentes con un alto grado de autonomía pueden tomar cientos de decisiones por minuto, encadenar llamadas a herramientas, acceder a datos y ejecutar código a una velocidad que los controles tradicionales de incorporación no pueden seguir. Aunque las revisiones y los procesos de aprobación previos siguen desempeñando un papel importante, por sí solos no pueden proteger sistemas que operan a velocidad de máquina.

Estos agentes requieren mecanismos de aplicación dinámica de controles en tiempo de ejecución, capaces de detectar comportamientos anómalos en el momento en que se producen e intervenir antes de que el daño se extienda. Puede entenderse como un disyuntor: revocar el acceso a una habilidad comprometida, desconectar un contexto de datos que no sea de confianza o bloquear una llamada específica a una herramienta en cuanto algo sale mal.

Ir más allá de un enfoque «universal»

Una gobernanza rígida y uniforme conduce inevitablemente al fracaso. Se está cerrando la oportunidad de anticiparse a este problema, y la deuda de gobernanza se acumula a medida que se acelera el despliegue de agentes. Por eso, estos son cuatro pasos que los responsables de seguridad e ingeniería pueden dar ahora para reforzar sus sistemas empresariales:

1. Haz un inventario de lo que ya está en funcionamiento. La mayoría de las empresas no puede llevar un registro completo de los agentes de IA de su organización, y mucho menos de los servidores MCP, los complementos y los archivos de habilidades que los sustentan. Antes de poder evaluar los riesgos o gobernar cualquier elemento, hay que saber qué existe.
2. Trata los componentes de IA como artefactos de software. Los servidores MCP, los archivos de habilidades y los complementos no son configuración: son código y conllevan los mismos riesgos de cadena de suministro que cualquier dependencia de código abierto. Aplica los mismos procesos de evaluación, análisis y seguimiento de la procedencia que aplicarías a cualquier biblioteca de terceros.
3. Clasifica los agentes según su nivel de autonomía y ajusta los controles en consecuencia. Define qué significa «alto grado de autonomía» en tu organización y crea un marco de políticas escalonado en torno a ese concepto. Los agentes con un alto grado de autonomía necesitan controles aplicados en tiempo de ejecución, no solo verificaciones iniciales. Empieza por tus sistemas más sensibles y amplía el alcance gradualmente.
4. Agiliza la gobernanza para que los desarrolladores, humanos o agentes, no busquen formas de eludirla. La IA en la sombra es un problema de fricción. Si aprobar un nuevo servidor MCP lleva dos semanas, los desarrolladores encontrarán otra manera. El análisis automatizado con una aplicación clara de las políticas es el único modelo que puede seguir el ritmo real del desarrollo de IA.

La gobernanza es mucho más eficaz cuando refleja los riesgos reales que presenta cada agente, en lugar de tratarlos a todos por igual. Las empresas que se adelantarán serán aquellas que adapten la gobernanza a la realidad de cada agente, con el respaldo de un sistema de referencia que aplique las políticas en cada límite, ofrezca visibilidad sobre todos los componentes y permita a los equipos responder en cuanto algo sale mal.