Cómo abordar los desafíos de seguridad de red relacionados con la inteligencia artificial agente

La inteligencia artificial (IA) agente representa la próxima frontera de la IA, prometiendo ir más allá de las capacidades de la inteligencia artificial generativa (GenAI). A diferencia de la mayoría de los sistemas GenAI, que dependen de las entradas o supervisión humanas, la IA agente es proactiva porque no requiere la entrada del usuario para resolver problemas complejos y multietapa. Al aprovechar un ecosistema digital de grandes modelos de lenguaje (LLM), aprendizaje automático (ML) y procesamiento de lenguaje natural (NLP), la IA agente realiza tareas de forma autónoma en nombre de un humano o sistema, mejorando enormemente la productividad y las operaciones.

Si bien la IA agente aún se encuentra en sus primeras etapas, los expertos han destacado algunos casos de uso innovadores. Considere un entorno de servicio al cliente para un banco donde un agente de IA hace más que simplemente responder a las preguntas del usuario cuando se le solicita. En su lugar, el agente realmente completa transacciones o tareas como el traslado de fondos cuando se le solicita por el usuario. Otro ejemplo podría ser en un entorno financiero donde los sistemas de IA agente asisten a los analistas humanos analizando de forma autónoma y rápida grandes cantidades de datos para generar informes listos para auditorías para la toma de decisiones informadas.

Las posibilidades increíbles de la IA agente son innegables. Sin embargo, como cualquier nueva tecnología, existen preocupaciones de seguridad, gobernanza y cumplimiento. La naturaleza única de estos agentes de IA presenta varios desafíos de seguridad y gobernanza para las organizaciones. Las empresas deben abordar estos desafíos para no solo aprovechar los beneficios de la IA agente, sino también garantizar la seguridad y eficiencia de la red.

¿Qué desafíos de seguridad de red crea la IA agente para las organizaciones?

Los agentes de IA tienen cuatro operaciones básicas. La primera es la percepción y la recopilación de datos. Estos cientos, miles y quizás millones de agentes recopilan y recopilan datos de múltiples lugares, ya sea en la nube, en las instalaciones, en el borde, etc., y estos datos podrían ser físicamente de cualquier lugar, en lugar de una ubicación geográfica específica. El segundo paso es la toma de decisiones. Una vez que estos agentes han recopilado los datos, utilizan modelos de IA y ML para tomar decisiones. El tercer paso es la acción y la ejecución. Habiendo decidido, estos agentes actúan en consecuencia para llevar a cabo esa decisión. El último paso es el aprendizaje, donde estos agentes utilizan los datos recopilados antes y después de su decisión para ajustar y adaptarse en consecuencia.

En este proceso, la IA agente requiere acceso a enormes conjuntos de datos para funcionar de forma efectiva. Los agentes normalmente se integran con sistemas de datos que manejan o almacenan información sensible, como registros financieros, bases de datos de atención médica y otra información personal identificable (PII). Desafortunadamente, la IA agente complica los esfuerzos para garantizar la seguridad de la infraestructura de red contra las vulnerabilidades, particularmente con la conectividad entre nubes. También presenta desafíos de seguridad de salida, lo que dificulta que las empresas protejan contra la filtración, así como contra las violaciones de comando y control. Si un agente de IA se ve comprometido, los datos sensibles podrían filtrarse o robarse fácilmente. De la misma manera, los agentes podrían ser secuestrados por actores maliciosos y utilizados para generar y distribuir información falsa a gran escala. Cuando ocurren violaciones, no solo hay sanciones financieras, sino también consecuencias para la reputación.

Las capacidades clave como la observabilidad y la trazabilidad pueden verse frustradas por la IA agente, ya que es difícil rastrear qué conjuntos de datos están accediendo los agentes de IA, aumentando el riesgo de que los datos se expongan o se accedan a ellos sin autorización. De manera similar, el aprendizaje y la adaptación dinámicos de la IA agente pueden obstaculizar las auditorías de seguridad tradicionales, que dependen de registros estructurados para rastrear el flujo de datos. La IA agente también es efímera, dinámica y se ejecuta continuamente, creando una necesidad de mantener la visibilidad y la seguridad óptimas las 24 horas del día, los 7 días de la semana. La escala es otro desafío. La superficie de ataque ha crecido exponencialmente, extendiéndose más allá del centro de datos en las instalaciones y la nube para incluir el borde. De hecho, dependiendo de la organización, la IA agente puede agregar miles a millones de nuevos puntos finales en el borde. Estos agentes operan en numerosas ubicaciones, ya sea en diferentes nubes, en las instalaciones, en el borde, etc., lo que hace que la red sea más vulnerable al ataque.

Un enfoque integral para abordar los desafíos de seguridad de la IA agente

Las organizaciones pueden abordar los desafíos de seguridad de la IA agente aplicando soluciones y prácticas de seguridad en cada una de las cuatro operaciones básicas:

1. Percepción y recopilación de datos: Las empresas necesitan una conectividad de red de alta velocidad que esté cifrada de extremo a extremo para permitir que sus agentes recopilen la enorme cantidad de datos necesarios para funcionar. Recuerde que estos datos podrían ser sensibles o muy valiosos, dependiendo del caso de uso. Las empresas deben implementar una solución de conectividad cifrada de alta velocidad para ejecutarla entre todas estas fuentes de datos y proteger los datos sensibles y la información personal identificable.
2. Toma de decisiones: Las empresas deben asegurarse de que sus agentes de IA tengan acceso a los modelos y la infraestructura de IA y ML correctos para tomar las decisiones correctas. Al implementar un firewall de nube, las empresas pueden obtener la conectividad y la seguridad que sus agentes de IA necesitan para acceder a los modelos correctos de una manera auditable.
3. Ejecución de acciones: Los agentes de IA toman medidas en función de la decisión. Sin embargo, las empresas deben identificar qué agente, de los cientos o miles de ellos, tomó esa decisión. También necesitan saber cómo sus agentes se comunican entre sí para evitar conflictos o “robots luchando contra robots”. Por lo tanto, las organizaciones necesitan observabilidad y trazabilidad de las acciones tomadas por sus agentes de IA. La observabilidad es la capacidad de rastrear, monitorear y comprender los estados internos y el comportamiento de los agentes de IA en tiempo real. La trazabilidad es la capacidad de rastrear y documentar los datos, decisiones y acciones tomadas por un agente de IA.
4. Aprendizaje y adaptación: Las empresas gastan millones, si no cientos de millones o más, para afinar sus algoritmos, lo que aumenta el valor y la precisión de estos agentes. Si un actor malicioso se apodera de ese modelo y lo extrae, todos esos recursos podrían estar en sus manos en cuestión de minutos. Las empresas pueden proteger sus inversiones a través de características de seguridad de salida que protegen contra la extracción y las violaciones de comando y control.

Aprovechar al máximo la IA agente de manera segura y responsable

La IA agente tiene un potencial notable, permitiendo a las empresas alcanzar nuevas alturas de productividad y eficiencia. Pero, como cualquier tecnología emergente en el espacio de la IA, las organizaciones deben tomar precauciones para proteger sus redes y datos sensibles. La seguridad es especialmente crucial hoy en día, considerando a los actores maliciosos muy sofisticados y bien organizados financiados por estados nacionales, como Salt Typhoon y Silk Typhoon, que continúan llevando a cabo ataques a gran escala.

Las organizaciones deben asociarse con expertos en seguridad en la nube para desarrollar una estrategia de seguridad robusta, escalable y preparada para el futuro, capaz de abordar los desafíos únicos de la IA agente. Estos socios pueden permitir que las empresas rastreen, administren y protejan a sus agentes de IA; además, ayudan a las empresas a obtener la conciencia que necesitan para satisfacer los estándares relacionados con el cumplimiento y la gobernanza.