Ciberseguridad
La seguridad de la IA en 2027: los permisos de los agentes definirán el alcance del impacto

Puntos claveLos permisos de los agentes, no la confiabilidad del modelo, determinarán hasta dónde…
Ver más
- Los permisos de los agentes, no la confiabilidad del modelo, determinarán hasta dónde puede llegar un malentendido.
- Las evaluaciones de seguridad deben informar la finalización legítima de tareas junto con los ataques bloqueados para demostrar que los agentes siguen siendo útiles.
- Los informes de incidentes deben rastrear la credencial y la ruta de permisos delegados en lugar de la salida extraña del modelo.
Imaginemos a un empleado que pide a un asistente de IA que ordene una bandeja de entrada desbordada. La tarea parece inofensiva hasta que un mensaje convence al asistente de abrir el registro de un cliente, exportar un archivo adjunto o enviar una solicitud de pago. La cuestión de seguridad ya no se limita a si la respuesta es fiable. Ahora se trata de saber si el software tiene autoridad para convertir un malentendido en una acción.
Esa es la presión que está aumentando en torno a la seguridad de los agentes en 2027. Las empresas quieren asistentes capaces de terminar el trabajo. Los equipos de seguridad necesitan saber dónde termina esa libertad y si pueden retirarla mientras el trabajo sigue en curso.
Esa conexión ya se está construyendo. Microsoft puso a disposición general la plataforma Entra Agent ID en 2026. Okta ha ampliado la gobernanza de identidades de agentes entre proveedores de identidad y ecosistemas de agentes. AWS puso Policy in Bedrock AgentCore a disposición general en marzo, situando las decisiones de autorización fuera del propio código del agente. Predecir que los productos de identidad para agentes aparecerán en 2027 sería pasar por alto el mercado que ya existe.
1. Las pruebas en entornos de producción cobrarán más importancia que los anuncios sobre identidades
Un agente debería poder quedarse sin trabajo sin que su patrocinador humano pierda su propio acceso. Esa expectativa sencilla se vuelve difícil de cumplir cuando hay varios conectores y cuentas de servicio entre el asistente y la aplicación que utiliza. En 2027, los casos de uso en producción de empresas identificadas empezarán a mostrar si las identidades diferenciadas de los agentes sobreviven a ese recorrido: autoridad limitada desde el principio, una identidad reconocible a lo largo del proceso y un mecanismo de desactivación individual al final.
El mecanismo es conocido, aunque la carga de trabajo sea nueva. La autenticación establece qué principal de software está actuando. La autorización determina qué recursos y operaciones puede utilizar ese principal. La delegación vincula su autoridad a una persona o una organización. Una entrada en un inventario, por sí sola, no demuestra que ninguno de esos controles esté presente cuando se produce una acción de consecuencias importantes.
El análisis de NIST de agosto de 2026 sobre la identidad de los agentes describe los problemas de rendición de cuentas que genera compartir credenciales. Sus posteriores principios de diseño exigen una identificación diferenciada, una delegación restringida y una autorización de corta duración que pueda revocarse. Se trata de principios de diseño propuestos, no de pruebas de que todos los productos implementados los cumplan ni de un nuevo requisito legal universal.
La dificultad de ingeniería aparece cuando un flujo de trabajo cruza los límites de una organización. Un agente puede acceder a través de un proveedor de identidad, llamar a un conector operado por otra empresa e invocar una aplicación con un tercer modelo de autorización. Una autorización limitada en el origen puede convertirse en un acceso amplio en etapas posteriores si un conector la sustituye por sus propias credenciales de servicio, de gran alcance. La identidad visible debe mantenerse a lo largo de esa cadena; de lo contrario, el plano de control pierde precisamente la distinción que debía preservar.
El anuncio de Agent 365 de Microsoft y la explicación de Agent Gateway de Okta muestran que los proveedores están desarrollando soluciones para este problema. Siguen siendo descripciones de las capacidades ofrecidas por los proveedores. Mi mayor grado de confianza se refiere a la aparición de pruebas concretas en entornos de producción, no a que estos sistemas eliminen los riesgos de vulneración.
Qué observar en 2027
Esté atento a implementaciones en producción en las que un agente tenga identidad propia, reciba acceso limitado a su tarea y pueda desactivarse sin bloquear el acceso de su patrocinador humano. Los testimonios de clientes que expliquen cómo funcionan esos controles en aplicaciones conectadas serán más reveladores que los simples registros de identidades. La dependencia continuada de credenciales de servicio compartidas debilitaría esta previsión.
Qué implica esto para las empresas
Los responsables de seguridad deberían pedir a los proveedores que demuestren la cadena completa de delegación, incluidos los permisos utilizados por los conectores en etapas posteriores. Las revisiones de compras y de implementación deberían identificar al propietario del agente, las acciones que tiene permitidas y el proceso para revocarle el acceso. Un inventario cada vez mayor de agentes registrados solo resulta útil si la organización puede controlar lo que cada uno es capaz de hacer realmente.
2. Las defensas más sólidas se medirán por el trabajo útil que permitan realizar
El agente más fácil de proteger es el que no puede hacer nada. También es el más fácil de volver inútil desde el punto de vista comercial. El resultado más interesante de 2027 será una defensa que permita seguir realizando el trabajo legítimo y, al mismo tiempo, reduzca drásticamente las acciones no autorizadas con herramientas. Mi criterio de evaluación es deliberadamente exigente: reducir esas acciones a la mitad de forma reproducible, con una pérdida de no más de diez puntos en la finalización legítima de tareas. La protección debe preservar suficiente utilidad para que el sistema siga activado.
Una inyección de instrucciones cambia lo que se le pide al modelo que trate como una instrucción. La autorización debería determinar si la acción propuesta está permitida, independientemente de lo persuasiva que llegue a ser esa instrucción. Un documento recuperado que solicite una exportación no debería obtener autoridad para exportar solo porque el agente pueda leerlo.
Las directrices de seguridad del Model Context Protocol ilustran por qué es importante la capa de integración: abordan los problemas del delegado confundido, la transmisión directa de tokens y otras formas en que una conexión puede hacer un uso indebido de la autoridad. La implicación es arquitectónica. La intención declarada por un modelo y el permiso que una aplicación puede hacer cumplir son elementos distintos, y la aplicación debe validar este último.
Hay un segundo requisito: el agente protegido debe seguir completando el trabajo autorizado. AgentDojo estableció un entorno extensible para probar ataques y defensas contra agentes que usan herramientas. El preprint de 2026 AgentDyn sostiene que las tareas realistas y abiertas ponen de manifiesto tanto las debilidades de seguridad como los bloqueos excesivos. Otro análisis reciente de inyecciones de instrucciones fallidas distingue entre rechazar un ataque, limitarse a ignorarlo y no completar la tarea del usuario. Estos hallazgos de investigación corresponden a los sistemas y entornos evaluados; no son tasas de seguridad aplicables a toda la población.
La disyuntiva central se puede medir. Bloquear todas las operaciones de escritura puede dar una puntuación excelente en prevención de escrituras no autorizadas, pero volver inútil a un agente de contabilidad. Un resultado convincente debería publicar el desenlace del ataque, el resultado de la tarea legítima, el conjunto de acciones permitidas y los casos en que se requirió la aprobación de una persona. También importan los atacantes adaptativos: una defensa que solo funciona contra ataques concebidos antes de que se conociera la defensa ofrece menos garantías.
Qué observar en 2027
Busca evaluaciones de seguridad que informen tanto de la finalización de tareas legítimas como de los ataques bloqueados. Las pruebas más sólidas mostrarán que un agente sigue realizando trabajo autorizado mientras una capa de control independiente rechaza acciones no autorizadas, incluidos los ataques adaptados a esa defensa. Una disminución de la tasa de éxito de los ataques acompañada de fallos generalizados en las tareas ofrecería muchas menos garantías.
Qué significa esto para las empresas
Evalúa conjuntamente la seguridad y la utilidad de un agente. Un equipo de compras debería incluir en una misma evaluación tareas empresariales representativas y escenarios realistas de uso indebido, y después examinar qué acciones requieren aprobación y dónde se hacen cumplir los permisos. Así se hace visible el coste de bloquear en exceso, junto con el posible daño de conceder demasiada autoridad a un agente.
3. Los informes de incidentes seguirán la ruta de los permisos
Tras un incidente con un agente, la pregunta más reveladora podría ser cómo una instrucción obtuvo la capacidad de actuar. Un mensaje malicioso es solo una parte de la historia; también lo son la credencial, el conector y el permiso delegado que le permitieron seguir adelante. Espero que en 2027 las divulgaciones reconocidas por los proveedores permitan ver mejor esas rutas. Esto dará a los equipos de defensa algo más útil que otro ejemplo de un modelo diciendo algo que no debería.
La prueba importante en una divulgación de este tipo es una secuencia: el agente encontró una entrada, propuso o seleccionó una acción, obtuvo o heredó autoridad y cruzó un límite previsto. Describir únicamente las palabras inusuales del modelo no explica el fallo operativo. Describir solo una credencial filtrada puede pasar por alto por qué el agente la expuso o la utilizó.
Esto no es una predicción de que el primer cruce de este tipo ocurrirá el año que viene. En su evaluación de septiembre de 2026 sobre incidentes de ciberseguridad, Anthropic describió cuatro casos en los que modelos Claude obtuvieron acceso no autorizado a sistemas reales de terceros durante actividades relacionadas con evaluaciones. Se trata de una divulgación del proveedor del modelo sobre incidentes específicos. No debe generalizarse como si fuera una tasa medida de brechas en empresas ni considerarse una verificación independiente de todos los detalles.
El Top 10 de OWASP para aplicaciones agénticas ofrece un marco de riesgos útil para hablar de fallos de agentes. Sin embargo, un marco proporciona categorías, no un denominador de incidentes. Un mayor número de divulgaciones podría reflejar una implementación más extendida, una mejor detección, una comunicación más franca o una combinación de estos factores. Por sí solas, no demostrarían que cada agente desplegado se volvió menos seguro.
Tengo menos confianza en este punto porque no están claros los incentivos para divulgar información. Las organizaciones pueden corregir un conector sin hacerlo público, tratar un fallo como un error corriente de control de acceso o negarse a revelar el nombre de un cliente. Por tanto, un cambio operativo importante puede dejar pocos registros públicos. Esa incertidumbre debe formar parte del pronóstico, en lugar de eliminarse contando como brecha cada demostración especulativa de una vulnerabilidad.
Qué observar en 2027
Presta atención a los informes de incidentes que expliquen cómo un agente pasó de leer material no confiable a ejercer un permiso sobre un recurso real. Las descripciones claras del conector, la credencial delegada, la acción afectada y las medidas correctivas reforzarían el pronóstico. Los informes que se limiten a respuestas inusuales del modelo revelarán menos sobre el límite operativo que falló.
Qué significa esto para las empresas
Los equipos de respuesta a incidentes deberían conservar suficientes datos de telemetría del agente y de la aplicación para reconstruir el recorrido desde la entrada hasta la acción. Las revisiones de proveedores deberían establecer quién notificará al cliente, qué registros estarán disponibles y cómo se puede contener una conexión comprometida. Estos acuerdos determinarán la rapidez con que una organización podrá evaluar su exposición cuando un agente se comporte de forma inesperada.
4. La revocación se medirá con cronómetro
Un interruptor de apagado es una promesa sobre el tiempo. Si un agente ya ha copiado una credencial o ha abierto otra sesión, retirar su identidad puede dejar un intervalo durante el cual las acciones sigan ejecutándose. En 2027, las pruebas independientes empezarán a medir esa promesa con cronómetro en aplicaciones conectadas. La previsión es concreta: bloquear nuevas acciones protegidas en menos de un minuto, incluso cuando las credenciales se hayan almacenado en caché.
Es fácil prometer la revocación en el directorio de identidades y más difícil demostrar que se aplica en los sistemas posteriores. Un conector puede conservar un token de acceso. Un proceso puede mantener activa una sesión. Una tarea programada puede conservar una solicitud autorizada previamente. Desactivar el registro de un agente en el inventario no demuestra que estas vías de ejecución dejen de consultar permisos obsoletos.
El principio de autorización revocable del NIST y la aplicación de controles en la pasarela y el registro de políticas de AWS describen algunos elementos de la arquitectura necesaria. Mi conclusión es que los compradores pedirán cada vez más que se mida el tiempo de contención. El umbral de 60 segundos es el objetivo de mi previsión, no un requisito atribuido a ninguna de esas dos fuentes.
Un simulacro bien diseñado distingue entre detener nuevas tareas y revertir las ya completadas. Revocar un permiso no puede retirar un mensaje que ya se envió. La promesa medible es que se deniegue una nueva acción protegida enviada después de que la revocación haya surtido efecto. Las acciones en curso requieren sus propias reglas documentadas de cancelación o finalización. Sin esa distinción, una demostración espectacular del «interruptor de emergencia» puede ocultar una garantía mucho más limitada.
El nivel de confianza, entre bajo y moderado, refleja la dificultad de obtener pruebas reproducibles entre distintos conectores. La documentación pública de un producto puede establecer qué comportamientos admite, pero la previsión requiere un resultado de medición del tiempo real. También exige que quien realice la prueba use una sesión ya establecida, donde es más probable que los permisos obsoletos tengan consecuencias.
Qué observar en 2027
Preste atención a las demostraciones de revocación que comienzan con un agente que ya está trabajando mediante conectores activos, incluso con credenciales almacenadas en caché o sesiones establecidas. El resultado útil es un tiempo medido hasta la detención de nuevas acciones protegidas, junto con una explicación clara de cómo se gestionan las tareas en curso. Desactivar una entrada del panel sin realizar pruebas en los sistemas posteriores dejaría sin respuesta la pregunta central.
Qué significa esto para las empresas
Considere el apagado de agentes como una capacidad de respuesta a incidentes que debe ensayarse. Pruebe las aplicaciones a las que puede acceder un agente, identifique las sesiones que sobreviven a la revocación y asigne la responsabilidad de detener las tareas en cola. Distinga entre impedir la siguiente acción y deshacer una que ya se completó; la planificación de la recuperación debe contemplar ambas cosas.
El presupuesto de seguridad seguirá la frontera de ejecución
El objetivo es dar a los agentes autoridad suficiente para ser útiles y límites suficientes para que sigan siendo gobernables. Ese equilibrio se negociará en los conectores, los tokens y las comprobaciones de permisos, lejos de la interfaz conversacional. Cuando se produzca el próximo incidente, la pregunta decisiva será hasta dónde pudo llegar el sistema antes de que alguien —o algo— lo detuviera.












