Cuando la IA se vuelve renegada: Mitigación de amenazas internas en la era de los agentes autónomos

 El auge prolífico de los agentes de IA está creando nuevos desafíos para los equipos de seguridad y TI. En el umbral de este cambio hacia flujos de trabajo más automatizados por agentes para tareas de continuidad empresarial, pruebas recientes encontraron que los agentes de IA pueden exhibir comportamientos inseguros o engañosos bajo ciertas condiciones, creando una nueva amenaza interna para las empresas de various industrias.

Presenta una necesidad crítica para que las organizaciones monitoren adecuadamente a los agentes de IA que acceden a datos sensibles y actúan sin supervisión humana, lo que potencialmente introduce nuevas clases de riesgo que son más rápidas, menos predecibles y más difíciles de atribuir. La realidad de estos riesgos es doble. Por un lado, los equipos de seguridad necesitan estar preparados para actores maliciosos que utilizan agentes de IA para fortalecer ataques de ingeniería social dirigidos a sus empleados. Por otro lado, deben estar preparados para agentes de IA internos sancionados por la empresa que pueden exhibir un comportamiento que crea un conjunto completamente nuevo de riesgos y vulnerabilidades de seguridad.

Cómo los agentes de IA internos pueden llevar a amenazas internas

Los agentes de IA plantean dos riesgos de seguridad internos clave dentro de las redes empresariales. Primero, operan de manera autónoma sin los límites éticos o la rendición de cuentas incorporada que los trabajadores humanos siguen inherentemente. Trabajando en función de objetivos inferidos y no instrucciones explícitas, su eficiencia y persistencia pueden hacer que sobrepasen los límites y actúen sin aprobación. Sin los controles y equilibrios necesarios en su lugar, las exposiciones pueden crearse y pasarse por alto fácilmente.

Estos agentes también pueden tener acceso a vastas cantidades de datos pero carecen de la capacidad de diferenciar entre información privilegiada y rutinaria. Por lo tanto, incluso tareas simples como analizar conjuntos de datos podrían causar que los datos se filtren o se expongan a partes externas. Este desafío se vuelve aún más complejo cuando la IA se escala a través de sistemas y flujos de trabajo dispares con diferentes reglas y protocolos de datos. Los agentes que operan en varias regiones a menudo violan las reglas de manejo de datos específicas de la ubicación debido a la aplicación inconsistente de políticas, lo que construye riesgos de seguridad. La realidad es que solo 30% de las empresas estadounidenses están activamente mapeando qué agentes de IA tienen acceso a sistemas críticos, creando un punto ciego de seguridad importante.

Cómo los agentes de IA externos pueden llevar a amenazas internas

Uno de los modos de entrada más comunes para los hackers es a través de ataques de phishing y ingeniería social. Los actores maliciosos y las bandas cibernéticas están utilizando agentes de IA para mejorar estos ataques y llevar a cabo incidentes de deepfake y suplantación sofisticados. Los agentes de IA pueden ser utilizados para crear ataques de phishing y ingeniería social que parecen más reales y creíbles para un ojo no entrenado. 60% de las violaciones en 2024 involucraron un elemento humano, y casi una cuarta parte de ellas se originaron en la ingeniería social. Este número solo aumentará a medida que el uso de agentes de IA continúe fortaleciendo estos métodos de entrada.

Los agentes de IA pueden ser entrenados para buscar grandes cantidades de datos de redes sociales y personales en plataformas y canales para enviar comunicaciones personalizadas y dirigidas. Los mensajes que imitan el tono y la voz de los remitentes son más propensos a tener éxito y más difíciles de distinguir de los medios reales. Los agentes de IA pueden aprender a adaptar sus campañas para mejorar la eficacia, cambiando de dirección cuando un ataque no funciona o emulando un ataque que sí funcionó.

Cuando se trata de deepfakes, los agentes de IA pueden generar estas suplantaciones a velocidades destacadas que llevan a la manipulación masiva. Los actores maliciosos también están utilizando agentes de IA para comunicarse a través de llamadas de video en tiempo real con poca o ninguna latencia y mejorar la credibilidad. Pueden reaccionar a la reacción de un objetivo en tiempo real y cambiar su enfoque si es necesario. Estos ataques mejorados pueden aumentar el riesgo de amenazas internas de empleados que no están al tanto y que pueden ser engañados para exponer datos sensibles, autorizar transacciones o compartir credenciales con actores amenazantes.

El papel de los equipos de seguridad en la dirección de los desafíos de la IA agente

Los equipos de seguridad necesitan tomar medidas específicas para limitar los puntos ciegos creados por los agentes de IA. Los departamentos de TI deben, en primer lugar, limitar el acceso de los agentes de IA a datos sensibles a través del gobierno de los datos y los controles de visibilidad en tiempo real. Los pasos para lograr esto incluyen clasificar las identidades de los agentes de IA en los sistemas de gestión de identidades y monitorear su actividad con el mismo rigor que las cuentas privilegiadas. La parte de visibilidad va más allá al monitorear la actividad de la red para las líneas de base de comportamiento ya implementadas asignadas a los agentes de IA. Con visibilidad, los equipos de TI pueden monitorear el movimiento de acceso privilegiado y las anomalías, no solo apoyando los esfuerzos de prevención, sino también acelerando los esfuerzos de contención y recuperación en caso de un agente renegado.

Además, al identificar nuevos patrones y tácticas utilizados en los ataques de los agentes de IA, las organizaciones pueden actualizar sus estrategias de defensa y entrenar a sus sistemas de seguridad para reconocer y frustrar amenazas similares en el futuro.

Mantenerse por delante de las amenazas internas introducidas por los agentes de IA

La realidad es que los agentes de IA introducen un riesgo interno novel debido a su autonomía y acceso creciente a sistemas sensibles. Además, los actores amenazantes seguirán utilizando agentes de IA para explotar de manera más efectiva las vulnerabilidades humanas a través de deepfakes, phishing y ingeniería social.

A medida que esta tecnología avanza, las empresas necesitan mejorar su visibilidad en el acceso y el comportamiento de los agentes de IA antes de adoptarlos en sus flujos de trabajo. Esto incluye invertir en monitoreo proactivo, de 360 grados y en tiempo real, junto con una fuerza laboral de agentes de IA. Si bien los agentes de IA pueden resolver cuellos de botella y desafíos comerciales críticos, requieren un enfoque proactivo para limitar las amenazas internas futuras.