2026 Verá la Explosión de Agentes de Inteligencia Artificial en las Empresas: ¿Estamos Preparados para los Riesgos de Seguridad?

Las empresas están compitiendo para adoptar agentes de inteligencia artificial, pero carecen de la infraestructura para hacerlo de manera segura. Los agentes son diferentes a las herramientas de inteligencia artificial: trabajan de manera autónoma, acceden a los datos de forma continua y actúan a velocidad de máquina sin necesidad de supervisión. Esto crea riesgos completamente nuevos que debemos prepararnos para enfrentar.

La gente ya está utilizando sus propios agentes de inteligencia artificial en el trabajo – sin necesariamente decirles a sus jefes. ¿Cómo nos aseguramos de que los bots de OpenClaw no eliminen archivos importantes? Tres de cada cuatro grandes empresas habrán adoptado sistemas de agentes múltiples para finales de 2026, según Gartner. ¿Cómo nos aseguramos de que cada uno de esos agentes no abra puertas para que los atacantes nos ataquen de maneras novedosas?

La infraestructura de seguridad actual está diseñada para abordar amenazas conocidas y a ritmo humano. Esto no tiene en cuenta a los agentes renegados que manipulan el código de la empresa sin que lo sepamos. O a los actores maliciosos que nos atacan a través de inyecciones de instrucciones: instrucciones ocultas en el código o instrucciones que hacen que la inteligencia artificial, por ejemplo, exponga información sensible o ejecute código malicioso.

La verdad es que las empresas están más hambrientas que preparadas para esta ola que se avecina. Solo el 29% de las organizaciones “están de acuerdo” en que tienen protecciones de inteligencia artificial seguras, según una encuesta de Microsoft.

Los líderes de las empresas necesitan hacer varias cosas.

1. Implementar medidas de seguridad nativas de inteligencia artificial en toda la empresa.
2. Tratar a los agentes de inteligencia artificial con las mismas medidas de seguridad que a los humanos.
3. Aumentar la visibilidad de lo que estos agentes están haciendo.

Al ejecutar estos controles, la seguridad puede igualar la velocidad de los agentes y permitir la innovación en lugar de frenarla.

Crear Seguridad Nativa de Inteligencia Artificial

En febrero, una investigadora de seguridad de Meta hizo una publicación sorprendente en X: su bot de OpenClaw había comenzado a eliminar sus correos electrónicos e ignoró sus órdenes de detenerse. Para cuando pudo interrumpir el proceso manualmente, el daño ya estaba hecho.

Esto es una ilustración de la increíble velocidad a la que puede actuar la inteligencia artificial renegada, lo que hace que los controles dependientes de humanos sean insuficientes. La seguridad necesita moverse tan rápido como – y a lo largo de los mismos caminos que – la inteligencia artificial agente.

Esto requiere renovar la infraestructura de seguridad de la empresa, no solo mejoras de las herramientas existentes. Varios áreas necesitan participar en este cambio sistémico en las herramientas.

Evitar situaciones rápidas como la de la investigadora de Meta requiere herramientas de inteligencia artificial que detecten anomalías en tiempo real y respondan automáticamente. Por ejemplo, se pueden desplegar agentes supervisores para revisar tareas de alto impacto ejecutadas por otros agentes. Las herramientas de Inteligencia de Amenazas Agente (ATI) pueden detectar y actuar automáticamente en las primeras etapas de un ataque potencial.

Otro mecanismo de prevención importante es asegurar la seguridad del modelo real que se despliega en sus sistemas. Plataformas como ProtectAI, TrojAI o Aim Security pueden probar peligros directos como la inyección de instrucciones, utilizando herramientas de inteligencia artificial para limpiar el código antes de publicarlo.

Garantizar la procedencia de los datos a los que acceden los agentes de inteligencia artificial también es crucial. Herramientas como Databricks Unity Catalog, Collibra o Alation permiten a los equipos gobernar el movimiento de datos.

También podemos prevenir la manipulación de nuestros agentes de inteligencia artificial asegurando los dispositivos físicos que usamos para desplegarlos. Plataformas como CrowdStrike pueden ayudar a evitar el mal uso de las credenciales de inteligencia artificial y detectar comportamiento anormal.

Es esencial tener principios que gobiernen sus operaciones internas, así como la forma en que seleccionan a sus proveedores. Utilice marcos de la industria existentes para la orientación, como Google SAIF para construir una arquitectura segura, AWS CAF-AI para la gobernanza de la inteligencia artificial o NIST AI RMF para la conformidad. El proyecto de seguridad de inteligencia artificial de OWASP Gen AI – una iniciativa de código abierto para mitigar los riesgos de la inteligencia artificial – ofrece orientación de seguridad relevante para las empresas que despliegan inteligencia artificial.

Tratar a la Inteligencia Artificial con las Mismas Limitaciones que a los Humanos

El año pasado, un inversor estaba utilizando un agente de inteligencia artificial de Replit para codificar – hasta que en el día nueve, el agente decidió eliminar código de una base de datos de producción en vivo, afectando a 1,200 empresas.

Debido a que los agentes pueden actuar de manera autónoma, otorgarles acceso no supervisado a una amplia variedad de documentos, datos y API puede ser desastroso. Una razón es que las empresas a menudo no les asignan una “identidad” de la misma manera que lo harían con un usuario humano, lo que significa que no pueden rastrear, monitorear y gestionar su acceso a diferentes espacios.

Las empresas pueden actuar asignando identidades a los usuarios no humanos: los proveedores de gestión de acceso a identidades pueden gestionar estrechamente a qué áreas tienen acceso los agentes, durante cuánto tiempo y detectar cualquier comportamiento riesgoso. Esto reduce el acceso excesivo a áreas que el agente no necesita. También limita lo que puede hacer en las áreas donde opera.

Asignar identidades a los agentes también reduce la amenaza de actores externos.

Cuando un equipo de investigadores inyectó instrucciones maliciosas en una aplicación de inteligencia artificial que gestiona contratos legales, un usuario pudo recuperar datos privados que pertenecían a un usuario separado. Claramente, no había una separación segura de los datos de nivel de usuario, y la autorización para esos datos se otorgó a la inteligencia artificial incluso cuando no era relevante para el escenario en cuestión.

Establecer límites para las “identidades” de la inteligencia artificial significa que no tendrán acceso “siempre activo” general. Por ejemplo, los agentes requerirán autorización para ciertas funciones o tendrán capacidades de solo lectura en ciertas áreas. Al hacerlo, incluso si un agente de inteligencia artificial es pirateado o manipulado por un actor malicioso, el impacto se mantiene limitado en lugar de catastrófico.

La gerencia también debe educar a sus equipos sobre la amenaza de los agentes que operan clandestinamente. El riesgo es mayor cuando los empleados conectan “agentes de sombra” de inteligencia artificial a los espacios de trabajo sin que la gerencia sepa y proporcione identificación y salvaguardas adecuadas. Además, un enfoque de Privilegios de Estándar Cero (ZSP) crea una base de 0 acceso para cualquier agente. Así, si un empleado conecta un agente de sombra no sancionado, entra en un entorno en el que todas las puertas están cerradas.

Tener Ojos en su Agente

Aunque sabemos que la analogía de “la inteligencia artificial es una caja negra”, su despliegue en su negocio debe ser observado y monitoreado.

Para aplicar estrictas políticas de seguridad, cada agente debe ser gobernado: deben tener una propiedad, responsabilidades y controles claramente documentados para que puedan rastrear sus trayectorias con precisión. Debe haber telemetría continua – monitoreo remoto – que rastree el comportamiento del agente y alimente las herramientas de seguridad existentes para que puedan detectar anomalías y ejecutar una puntuación de confianza adaptativa.

La gerencia necesita tomar esta nueva frontera de seguridad en serio y asegurarse de que diferentes equipos sean responsables del uso de los agentes de inteligencia artificial. Pueden crear nuevos indicadores de cumplimiento, como “Número de conjuntos de datos con procedencia verificada”, “% de agentes de inteligencia artificial con identidades administradas” o “Puntuación de confianza de la inteligencia artificial”.

Esto es crítico para la prevención, pero también para ser auditables – incluso las identidades no humanas necesitan tener un registro de auditoría para que una organización sea conforme.

Generalmente entendemos cómo se comportan los humanos y qué trayectorias toman dentro de los espacios de trabajo. Pero la inteligencia artificial es una bestia completamente nueva. Hay mucho que no sabemos sobre cómo opera. Algunas empresas están optando por la solución a corto plazo de bloquear la inteligencia artificial en la oficina – pero eso solo retrasará el problema o hará que los empleados usen inteligencia artificial de sombra. Prepare su arquitectura de seguridad proactivamente para los agentes que ya están volviéndose ubicuos.