Paul Reid, VP de Investigación de Adversarios en AttackIQ – Serie de Entrevistas

Paul Reid, VP de Investigación de Adversarios en AttackIQ, es un veterano experimentado del mundo rápido de la ciberseguridad. Con más de dos décadas de experiencia como estratega tecnológico para empresas de tecnología líderes, Paul ha guiado a clientes, socios, analistas y periodistas a través del paisaje de ciberseguridad en constante evolución. Su experiencia abarca ciberseguridad, biometría, seguridad de red y criptografía.

Más recientemente, ha liderado un equipo de Cazadores de Amenazas Cibernéticas centrados en el uso de análisis de comportamiento para detectar amenazas emergentes en entornos de clientes. Paul es un autor publicado en la Serie Prentice Hall en Redes de Computadora y Sistemas Distribuidos y posee varias patentes en ciberseguridad.

AttackIQ es una empresa de ciberseguridad líder que se especializa en simulación de brecha y ataque (BAS) y validación de seguridad continua. Su plataforma de Validación de Exposición Adversarial utiliza emulación basada en MITRE ATT&CK para probar controles de seguridad, identificar vulnerabilidades y priorizar remedios. Fundada en 2013, AttackIQ ayuda a las organizaciones a mejorar su postura defensiva, mejorar la eficiencia del SOC y reducir el riesgo.

Ha ocupado puestos de liderazgo en una variedad de dominios de ciberseguridad durante más de dos décadas. ¿Qué despertó inicialmente su interés en la investigación de adversarios, y cómo lo llevó a AttackIQ?

Mi viaje en ciberseguridad comenzó hace más de 25 años, configurando redes Novell y trabajando en el mundo de los servicios de directorio — Novell, Microsoft Active Directory, LDAP. Esa experiencia temprana me enseñó la importancia de la identidad, la autenticación y el acceso, los cimientos de cualquier estrategia de seguridad.

Desde allí, me trasladé a la autenticación de tarjetas inteligentes, donde tuve la oportunidad de escribir bibliotecas PKCS #11 y sumergirme en la infraestructura de clave pública (PKI) durante su rápido ascenso. Trabajar con criptografía simétrica y asimétrica durante esa época me dio una gran apreciación de cómo la criptografía da forma a la confianza en entornos digitales.

Más adelante en mi carrera, me cambié a la clasificación de datos, ayudando a las organizaciones a comprender el valor de sus datos para que pudieran proteger lo que más les importaba. Esa experiencia me llevó naturalmente al trabajo en análisis de comportamiento de usuarios y entidades (UEBA), donde obtuve una exposición práctica a la ciencia de datos y el aprendizaje automático, incluyendo la programación en R.

Finalmente, tuve la suerte de liderar un equipo de caza de amenazas globales donde realizamos un seguimiento en tiempo real de adversarios estatales. Ese fue un período intenso y revelador. No hay mejor manera de comprender las tácticas, técnicas y procedimientos (TTP) de los adversarios que involucrarse en operaciones diarias contra ellos.

En ese momento, surgió una frustración recurrente: a menudo decíamos, “Si solo hubieran hecho X o hubieran tenido Y control en su lugar…” Había una brecha entre la conciencia de la amenaza y la preparación defensiva operativa.

Eso es lo que finalmente me llevó a AttackIQ. La oportunidad de aplicar lo que había aprendido — para emular adversarios del mundo real a través de la simulación de brecha y ataque, y validar si las defensas son verdaderamente efectivas — era demasiado convincente como para pasarla por alto. Aquí, no solo teorizamos sobre amenazas; las probamos, medimos y mejoramos contra ellas todos los días.

Nuestro equipo opera bajo un principio rector: “Pensar mal, hacer bien.” Pensamos como adversarios no para dañar, sino para ayudar a nuestros clientes a prepararse y derrotarlos.

Al haber liderado equipos en TITUS, Interset y Micro Focus, ¿cómo ha moldeado su experiencia en inteligencia de amenazas y habilitación de socios su enfoque actual para operativizar la emulación de adversarios?

Al haber trabajado en roles técnicos y de comercialización en empresas como TITUS, Interset y Micro Focus, he desarrollado una comprensión holística de cómo la inteligencia de amenazas necesita traducirse en resultados operativos, no solo en conocimientos. La habilitación de socios, en particular, me enseñó cómo comunicar problemas de ciberseguridad complejos de manera que sean acciones y significativos para audiencias diversas, desde CISO hasta analistas de SOC de primera línea.

En AttackIQ, la emulación de adversarios no se trata solo de reproducir comportamientos de amenazas. Se trata de alinearse con el marco de trabajo MITRE ATT&CK, emular adversarios con fidelidad y ayudar a las organizaciones a probar si sus defensas resistirán en un escenario del mundo real. Eso requiere más que rigor técnico; requiere educación, colaboración y habilitación de partes interesadas en todo el ecosistema de seguridad.

Mis roles anteriores me ayudaron a comprender cómo cerrar la brecha entre la inteligencia y la ejecución — cómo operativizar el paisaje de amenazas de manera proactiva, medible y defensible. Esa es la esencia de nuestra misión en AttackIQ.

Ahora lidera la investigación de adversarios en un momento en que los atacantes están adoptando la IA a gran escala. ¿Cómo ha evolucionado la táctica ofensiva de la IA en los últimos años, y cómo luchan los defensores para mantener el ritmo?

Los adversarios están aprovechando la IA para aumentar la velocidad, la precisión y la escala de sus operaciones. Estamos viendo señuelos de phishing más personalizados y creíbles, ingeniería social generada por IA y una mayor escala y eficiencia de los ataques. Estas capacidades reducen el tiempo entre la exploración y el compromiso, comprimiendo la ventana de respuesta del defensor. Muchas organizaciones todavía dependen de procesos reactivos y reglas de detección estáticas, que no fueron diseñadas para manejar adversarios que aprenden y evolucionan. Los defensores necesitan adoptar validación continua y gestión de exposición para cerrar esa brecha, probando sus defensas en condiciones realistas e iterando rápidamente en respuesta a nuevos comportamientos adversarios.

¿Qué distingue a la IA adversaria de las amenazas cibernéticas tradicionales, y por qué cree que se requiere un cambio de mentalidad — no solo herramientas — para responder de manera efectiva?

Las amenazas tradicionales a menudo siguen patrones conocidos que los defensores pueden rastrear y mitigar con detección basada en reglas. Las tácticas de IA adversaria introducen un nuevo nivel de variabilidad y adaptabilidad que desafía esas suposiciones. Pueden generar rutas de ataque novedosas y evadir defensas de manera dinámica. Abordar este cambio requiere más que desplegar nuevas herramientas. Exige un cambio estratégico en la forma en que las organizaciones piensan sobre la defensa. En lugar de reaccionar a los incidentes después del hecho, los equipos de seguridad necesitan simular amenazas en evolución utilizando técnicas, tácticas y procedimientos (TTP) conocidos, y validar proactivamente los controles para probar las respuestas de sus sistemas. Una mentalidad informada por la amenaza, respaldada por emulación del mundo real, es clave para anticipar y contrarrestar estos nuevos riesgos.

¿Puede explicar cómo AttackIQ traduce la inteligencia de amenazas en defensa práctica a través de la emulación de adversarios, y cómo ha cambiado ese proceso con el surgimiento de la IA generativa?

El desafío tradicional con la inteligencia de amenazas es la operativización, cerrar la brecha entre la perspicacia y la acción. La emulación de adversarios resuelve eso convirtiendo la inteligencia sobre comportamientos de amenazas conocidas en pruebas ejecutables que evalúan si las defensas actuales pueden resistir esos comportamientos. Con la IA generativa, el paisaje de amenazas se vuelve más fluido, con comportamientos más variables. Las emulaciones ahora deben reflejar no solo técnicas estáticas, sino también comportamiento adaptativo y contextual. En AttackIQ, la inteligencia de amenazas en vivo alineada con MITRE ATT&CK y el comportamiento del modelo de adversario se ingieren en planes de emulación para reflejar ataques del mundo real. Estas emulaciones se despliegan en entornos similares a la producción para validar si los controles de seguridad detectan, previenen o responden como se espera.

La Gestión Continua de Exposición a Amenazas (CTEM) se está convirtiendo en un componente central de las estrategias de resiliencia cibernética. ¿Cómo deberían abordar las organizaciones el CTEM cuando enfrentan amenazas impulsadas por IA que se adaptan rápidamente?

CTEM representa un cambio de evaluaciones de riesgo estáticas a una validación de seguridad impulsada por la inteligencia y dinámica. Frente a amenazas impulsadas por IA, las organizaciones deben tratar la exposición como un objetivo en movimiento. Eso significa identificar y priorizar exposiciones basadas en pruebas activas, no solo en riesgos teóricos.

Los equipos rojo y azul necesitan colaborar en la simulación de adversarios adaptativos y probar continuamente las capacidades de detección y respuesta. Las organizaciones que adoptan este enfoque están mejor equipadas para adaptarse rápidamente, validar sus inversiones y controles de seguridad, y mantener la resiliencia en un paisaje en constante cambio.

El “Fundamentos de Seguridad de IA” curso de AttackIQ cubre marcos de riesgo como MITRE ATLAS y el AI RMF. ¿Qué aspectos de estos marcos encuentra más subutilizados o malentendidos en entornos empresariales?

Uno de los malentendidos más comunes que vemos es la tendencia a tratar marcos como MITRE ATLAS y el Marco de Gestión de Riesgos de IA (AI RMF) como materiales de referencia aislados, en lugar de como herramientas operativas para construir resiliencia en sistemas habilitados para IA.

MITRE ATLAS, al igual que ATT&CK en sus primeros días, a menudo se ve como un catálogo estático de técnicas de ataque dirigidas a sistemas de IA/ML. En realidad, ATLAS es un marco de emulación de adversarios táctico diseñado para ayudar a los equipos de seguridad a simular amenazas específicas de IA — desde la intoxicación de datos y la evasión de modelos hasta la manipulación de inferencia — y validar sus capacidades de detección, registro y respuesta. El problema es que la mayoría de las empresas aún no han construido la visibilidad o los controles necesarios para detectar ataques contra el pipeline de ML, lo que hace que el uso proactivo de ATLAS a través de estrategias de simulación de brecha y ataque sea aún más crítico. Es una herramienta subutilizada para probar cómo los sistemas de IA se comportan bajo presión adversaria.

Por otro lado, el AI RMF de NIST a menudo se malentende como una lista de verificación de cumplimiento. En verdad, es un marco de gobernanza estratégico — uno que apoya a las organizaciones en la creación de mapas de casos de uso de IA, la medición de riesgos (incluidos los que plantean los adversarios), la gestión de riesgos a través de la priorización y la mitigación, y la incorporación de supervisión en todo el ciclo de vida del sistema. Donde ATLAS es táctico, AI RMF es estratégico. Los dos marcos son altamente complementarios: ATLAS permite la validación del riesgo a través de la simulación del mundo real, mientras que AI RMF proporciona la estructura para gobernar esos riesgos, definir la propiedad y alinear la garantía de IA con las prioridades comerciales.

En nuestro curso Fundamentos de Seguridad de IA, enseñamos que uno de los aspectos más subutilizados del AI RMF es la función “Mapa” y “Medir” — especialmente en despliegues de etapa temprana. Estas funciones alientan a las organizaciones a modelar no solo escenarios de uso y mal uso del sistema, sino también a identificar amenazas adversarias en contexto. Combinar esto con ATLAS capacita a las organizaciones para moverse más allá de preocupaciones teóricas y comenzar a operativizar la seguridad de IA de manera significativa y verificable.

En última instancia, la oportunidad perdida radica en tratar estos marcos como académicos. Cuando se utilizan juntos, AI RMF y ATLAS permiten un enfoque informado por la amenaza y basado en el riesgo para garantizar la seguridad de IA, convirtiendo la gobernanza de alto nivel en garantía del mundo real.

Desde la inyección de prompts hasta el robo de modelos, la OWASP Top 10 para LLMs destaca una nueva clase de vulnerabilidades. ¿Qué amenazas cree que los CISO son menos preparados para — y por qué?

LLM03: 2025 Las vulnerabilidades de la cadena de suministro explotan puntos ciegos críticos en suposiciones de gobernanza y confianza empresarial existentes, pasando por controles no diseñados originalmente para sistemas de IA/ML. Los programas de seguridad tradicionales se centran en paquetes de software y dependencias de código, pero los modelos de IA, a menudo tratados como activos de datos, carecen de la misma escrutinio. Esto permite que los modelos de entrenamiento comprometidos, los adaptadores de LoRA envenenados o las fusiones de Hugging Face manipuladas se ingieran en entornos de producción sin verificación, firma de código o evaluación de comportamiento. Como no desencadenan análisis estáticos o firmas de malware, se comportan como amenazas dormidas, activándose solo bajo condiciones o prompts específicos que evaden la detección.

La suposición empresarial de que los ecosistemas de IA o los registros de confianza aplican estándares de confianza complica el problema. Los equipos de seguridad pueden creer que sus pipelines de DevSecOps y programas de Gestión de Riesgos de Terceros (TPRM) cubren los riesgos de IA, pero en realidad, la mayoría no audita la procedencia de los datos, hace cumplir la procedencia del modelo o aplica controles equivalentes a la lista de materiales de la cadena de suministro (SBOM) a los componentes de IA. Los atacantes explotan esta confianza mal colocada, manipulando herramientas de modelos de código abierto, creando backdoors en adaptadores o envenenando datos utilizados en el ajuste fino, para incrustar silenciosamente comportamiento malicioso. Sin equipos rojos y azules de adversarios y gobernanza que explícitamente tenga en cuenta estas brechas, incluso las empresas bien seguras corren el riesgo de compromiso operativo a través de artefactos de IA confiados pero no verificados.

¿Cómo evoluciona la emulación de adversarios a medida que los equipos rojo y azul comienzan a simular adversarios habilitados para IA?

Como los adversarios integran la IA en sus operaciones, la emulación de adversarios necesita evolucionar a la par, más allá de libros de jugadas fijos. Los equipos rojos deben simular comportamientos dinámicos y similares a la IA: pivotar, escalar privilegios y tácticas, técnicas y procedimientos (TTP) adaptativos, todos modelados para reflejar cómo podría actuar un atacante impulsado por IA.

Estamos entrando en una nueva era en la que la emulación se vuelve continua y liderada por la inteligencia. Ya no son ejercicios episódicos, las simulaciones integran inteligencia de amenazas en tiempo real y se iteran en entornos similares a la producción, probando controles bajo condiciones emergentes e impredecibles. Con CTEM, este enfoque garantiza que la validación de seguridad se convierta en una función operativa estratégica en lugar de un casillero.

Mirando hacia adelante, ¿qué riesgos emergentes de IA lo preocupan más? ¿Y dónde ve la mayor oportunidad para que los defensores se adelanten a la curva?

El riesgo más preocupante es cómo la IA está reduciendo la barrera de entrada para ataques sofisticados a gran escala. Lo que antes requería habilidades técnicas profundas ahora es cada vez más accesible a través de herramientas de IA comercializadas. La IA puede automatizar la exploración, generar código de explotación y crear campañas de phishing personalizadas, operando más rápido de lo que las defensas tradicionales pueden adaptarse.

Por otro lado, los defensores tienen una oportunidad paralela: aprovechar la IA y la automatización para la defensa proactiva. Al automatizar la emulación, acelerar la detección y priorizar las exposiciones basadas en riesgos del mundo real, los equipos de seguridad pueden anticipar los movimientos adversarios en lugar de simplemente reaccionar ante ellos.

Gracias por la gran entrevista, los lectores que deseen aprender más pueden visitar AttackIQ.