Paul Reid, VP de Pesquisa de Adversários da AttackIQ – Série de Entrevistas

Paul Reid, VP de Pesquisa de Adversários da AttackIQ, é um veterano experiente do mundo acelerado da segurança cibernética. Com mais de duas décadas de experiência como estrategista de tecnologia para empresas de tecnologia líderes, Paul guiou clientes, parceiros, analistas e jornalistas através do cenário de segurança cibernética em evolução. Sua especialização abrange segurança cibernética, biometria, segurança de rede e criptografia.

Recentemente, ele liderou uma equipe de Caçadores de Ameaças Cibernéticas focada em usar análise comportamental para detectar ameaças emergentes em ambientes de clientes. Paul é um autor publicado na Série Prentice Hall em Redes de Computadores e Sistemas Distribuídos e detém várias patentes em segurança cibernética.

AttackIQ é uma empresa líder em segurança cibernética especializada em simulação de violação e ataque (BAS) e validação de segurança contínua. Sua plataforma de Validação de Exposição Adversária usa emulação baseada no framework MITRE ATT&CK para testar controles de segurança, identificar vulnerabilidades e priorizar remediação. Fundada em 2013, a AttackIQ ajuda as organizações a melhorar sua postura defensiva, aumentar a eficiência do SOC e reduzir o risco.

Você ocupou cargos de liderança em uma variedade de domínios de segurança cibernética por mais de duas décadas. O que despertou seu interesse pela pesquisa de adversários e como essa jornada o levou à AttackIQ?

Minha jornada na segurança cibernética começou há mais de 25 anos, configurando redes Novell e trabalhando no mundo de serviços de diretório — Novell, Microsoft Active Directory, LDAP. Essa experiência inicial me ensinou a importância da identidade, autenticação e acesso, os fundamentos de qualquer estratégia de segurança.

Em seguida, eu me transfiri para a autenticação de cartão inteligente, onde tive a oportunidade de escrever bibliotecas PKCS #11 e me imergir na infraestrutura de chave pública (PKI) durante seu rápido crescimento. Trabalhar com criptografia simétrica e assimétrica durante essa era me deu uma apreciação real de como a criptografia molda a confiança em ambientes digitais.

Posteriormente, em minha carreira, eu me voltei para a classificação de dados, ajudando as organizações a entender o valor de seus dados para que pudessem proteger o que mais importa. Essa experiência naturalmente me levou ao trabalho em análise comportamental de usuário e entidade (UEBA), onde eu ganhei exposição prática à ciência de dados e aprendizado de máquina, incluindo programação em R.

Eventualmente, eu tive a sorte de liderar uma equipe global de caça a ameaças, onde conduzimos rastreamento em tempo real de adversários de estado-nação. Esse foi um período intenso e esclarecedor. Não há melhor maneira de entender as táticas, técnicas e procedimentos (TTPs) dos adversários do que engajar-se em operações diárias contra eles.

Durante esse tempo, uma frustração recorrente surgiu: frequentemente dizíamos, “Se apenas eles tivessem feito X ou tivessem o controle Y no lugar…” Havia uma lacuna entre a conscientização sobre ameaças e a prontidão operacional para a defesa.

É isso que me levou à AttackIQ. A oportunidade de aplicar o que eu havia aprendido — para emular adversários do mundo real por meio de simulação de violação e ataque e validar se as defesas são realmente eficazes — era demasiado compelente para ser ignorada. Aqui, não apenas teorizamos sobre ameaças; testamos, medimos e melhoramos contra elas todos os dias.

Nossa equipe opera sob um princípio orientador: “Pense mal, faça bem.” Pensamos como adversários não para causar dano, mas para ajudar nossos clientes a se preparar e derrotá-los.

Tendo liderado equipes na TITUS, Interset e Micro Focus, como sua experiência em inteligência de ameaças e habilitação de parceiros moldou sua abordagem atual para operacionalizar a emulação de adversários?

Ao trabalhar em papéis técnicos e de marketing em empresas como TITUS, Interset e Micro Focus, desenvolvi uma compreensão holística de como a inteligência de ameaças precisa se traduzir em resultados operacionais, não apenas insights. A habilitação de parceiros, em particular, me ensinou como comunicar problemas complexos de segurança cibernética de maneira ação e significativa para audiências diversas, desde CISOs até analistas de SOC de linha de frente.

Na AttackIQ, a emulação de adversários não é apenas sobre reproduzir comportamentos de ameaças. É sobre alinhar com o framework MITRE ATT&CK, emular adversários com fidelidade e ajudar as organizações a testar se suas defesas irão se manter em um cenário do mundo real. Isso requer mais do que rigor técnico; requer educação, colaboração e habilitação de partes interessadas em todo o ecossistema de segurança.

Meus papéis anteriores me ajudaram a entender como pontuar a lacuna entre inteligência e execução — como operacionalizar o cenário de ameaças de maneira proativa, mensurável e defensável. Essa é a essência de nossa missão na AttackIQ.

Agora você lidera a pesquisa de adversários em um momento em que os atacantes estão adotando a IA em escala. Como você viu as táticas ofensivas de IA evoluírem nos últimos anos — e como os defensores estão lutando para manter o ritmo?

Os adversários estão utilizando a IA para aumentar a velocidade, precisão e escala de suas operações. Estamos vendo armadilhas de phishing mais personalizadas e convincentes, engenharia social gerada por IA e uma maior escala e eficiência de ataques. Essas capacidades reduzem o tempo entre reconhecimento e comprometimento, comprimindo a janela de resposta do defensor. Muitas organizações ainda dependem de processos reativos e regras de detecção estáticas, que não foram projetadas para lidar com adversários que aprendem e evoluem. Os defensores precisam adotar validação contínua e gerenciamento de exposição para fechar essa lacuna, testando suas defesas em condições realistas e iterando rapidamente em resposta a novos comportamentos adversários.

O que distingue a IA adversária de ameaças cibernéticas tradicionais, e por que você acredita que uma mudança de mentalidade — e não apenas ferramentas — é necessária para responder eficazmente?

Ameaças tradicionais frequentemente seguem padrões conhecidos que os defensores podem rastrear e mitigar com regras de detecção baseadas em regras. As táticas de IA adversária introduzem um novo nível de variabilidade e adaptabilidade que desafia essas suposições. Ela pode gerar novos caminhos de ataque e evadir defesas dinamicamente. Abordar essa mudança requer mais do que a implantação de novas ferramentas. Exige uma mudança estratégica na forma como as organizações pensam sobre defesa. Em vez de reagir a incidentes após o fato, as equipes de segurança precisam simular ameaças em evolução, usando táticas, técnicas e procedimentos (TTPs) conhecidos, e proativamente validar controles para testar as respostas de seus sistemas. Uma mentalidade informada por ameaças, apoiada por emulação do mundo real, é fundamental para antecipar e contrariar esses novos riscos.

Pode explicar como a AttackIQ traduz inteligência de ameaças em defesa prática por meio da emulação de adversários, e como esse processo mudou com o surgimento da IA geradora?

O desafio tradicional com a inteligência de ameaças é a operacionalização, pontuando a lacuna entre insight e ação. A emulação de adversários resolve isso, transformando inteligência sobre comportamentos de ameaças conhecidas em testes executáveis que avaliam se as defesas atuais podem resistir a esses comportamentos. Com a IA geradora, o cenário de ameaças se torna mais fluido, com comportamentos mais variáveis. As emulações agora precisam refletir não apenas técnicas estáticas, mas também comportamento adaptativo e contextual. Na AttackIQ, inteligência de ameaças ao vivo alinhada ao framework MITRE ATT&CK e modelos de comportamento de adversários são incorporados em planos de emulação para espelhar ataques do mundo real. Essas emulações são implantadas em ambientes semelhantes à produção para validar se os controles de segurança detectam, impedem ou respondem como esperado.

Gerenciamento Contínuo de Exposição a Ameaças (CTEM) está se tornando um componente central das estratégias de resiliência cibernética. Como as organizações devem abordar o CTEM quando enfrentam ameaças impulsionadas por IA que se adaptam rapidamente?

CTEM representa uma mudança de avaliações de risco estáticas para validação de segurança dinâmica e impulsionada por inteligência. Diante de ameaças impulsionadas por IA, as organizações devem tratar a exposição como um alvo em movimento. Isso significa identificar e priorizar exposições com base em testes ativos, não apenas risco teórico.

Equipes vermelhas e azuis precisam colaborar na simulação de adversários adaptáveis e testar continuamente capacidades de detecção e resposta. As organizações que adotam essa abordagem estão melhor equipadas para adaptar-se rapidamente, validar seus investimentos e controles de segurança e manter a resiliência em um cenário em rápida mudança.

O “Fundamentos de Segurança de IA” curso da AttackIQ aborda estruturas de risco como MITRE ATLAS e o AI RMF. Quais aspectos dessas estruturas você acha mais subutilizados ou mal compreendidos em ambientes empresariais?

Uma das principais mal-entendidos que vemos é a tendência de tratar estruturas como MITRE ATLAS e o Framework de Gerenciamento de Risco de IA (AI RMF) como materiais de referência isolados, em vez de como ferramentas operacionais para construir resiliência em sistemas habilitados para IA.

MITRE ATLAS, muito como ATT&CK em seus primeiros dias, é frequentemente visto como um catálogo estático de técnicas de ataque direcionadas a sistemas de IA/ML. Na realidade, ATLAS é um framework de emulação de adversários tático projetado para ajudar as equipes de segurança a simular ameaças específicas de IA — desde a poisoning de dados e evasão de modelo até manipulação de inferência — e validar suas capacidades de detecção, registro e resposta. O problema é que a maioria das empresas ainda não construiu a visibilidade ou controles necessários para detectar ataques contra o pipeline de ML, tornando o uso proativo de ATLAS através de estratégias de simulação de violação e ataque ainda mais crítico. É uma ferramenta subutilizada para testar como os sistemas de IA se comportam sob pressão adversária.

Por outro lado, o AI RMF do NIST é frequentemente mal compreendido como uma lista de verificação de conformidade. Na verdade, é um framework de governança estratégica — um que apoia as organizações em mapear casos de uso de IA, medir riscos (incluindo os impostos por adversários), gerenciá-los por meio de priorização e mitigação, e incorporar supervisão em todo o ciclo de vida do sistema. Onde ATLAS é tático, o AI RMF é estratégico. As duas estruturas são altamente complementares: ATLAS habilita a validação de risco por meio de simulação do mundo real, enquanto o AI RMF fornece a estrutura para governar esses riscos, definir propriedade e alinhar garantia de IA com prioridades de negócios.

Em nosso curso Fundamentos de Segurança de IA, ensinamos que um dos aspectos mais subutilizados do AI RMF é a função “Mapa” e “Medir” — especialmente em implantações iniciais. Essas funções encorajam as organizações a modelar não apenas cenários de uso e mau uso de sistemas, mas também identificar ameaças adversárias em contexto. Combinar isso com ATLAS empodera as organizações a ir além de preocupações teóricas e começar a operacionalizar a segurança de IA de maneira significativa e testável.

Ultimamente, a oportunidade perdida reside em tratar essas estruturas como acadêmicas. Quando usadas juntas, AI RMF e ATLAS habilitam uma abordagem informada por ameaças e impulsionada por risco para segurança de IA, transformando governança de alto nível em garantia do mundo real.

Desde a injeção de prompt até o roubo de modelo, a OWASP Top 10 para LLMs destaca uma nova classe de vulnerabilidades. Qual dessas ameaças você acha que os CISOs estão menos preparados para — e por quê?

LLM03: 2025 Vulnerabilidades da Cadeia de Suprimentos exploram pontos cegos críticos em governança existente e suposições de confiança empresarial, passando por controles não originalmente projetados para sistemas de IA/ML. Programas de segurança tradicionais se concentram em pacotes de software e dependências de código, mas os modelos de IA, frequentemente tratados como ativos de dados, carecem da mesma escrutínio. Isso permite que modelos pré-treinados comprometidos, adaptadores de LoRA envenenados ou merges do Hugging Face manipulados sejam ingeridos em ambientes de produção sem verificação, assinatura de código ou avaliação comportamental. Como esses modelos não disparam análise estática ou assinaturas de malware, eles se comportam como ameaças dormentes, ativando-se apenas sob prompts ou condições específicas que evadem detecção.

A suposição empresarial de que ecossistemas de IA ou registros respeitáveis impõem padrões confiáveis complica o problema. As equipes de segurança podem acreditar que seus pipelines DevSecOps e programas de Gerenciamento de Risco de Terceiros (TPRM) cobrem riscos de IA, mas na realidade, a maioria não audita a linhagem de conjuntos de dados, impõe a proveniência de modelos ou aplica controles equivalentes a Declaração de Composição de Software (SBOM) para componentes de IA. Os atacantes exploram essa confiança mal colocada, manipulando ferramentas de modelo de código aberto, backdooring adaptadores ou envenenando dados usados no ajuste fino, para silenciosamente incorporar comportamento malicioso. Sem equipes de red e blue e governança que contabilizem explicitamente essas lacunas, mesmo as empresas bem seguras correm o risco de comprometimento operacional por meio de artefatos de IA confiáveis mas não verificados.

À medida que as equipes vermelhas e azuis começam a simular adversários habilitados para IA, como a emulação de adversários evolui? Estamos entrando em uma nova era de validação de segurança baseada em simulação?

À medida que os adversários integram a IA em suas operações, a emulação de adversários precisa evoluir em passo, movendo-se além de livros de jogadas fixos. As equipes vermelhas devem simular comportamentos dinâmicos e semelhantes a IA: pivotando, escalando privilégios e TTPs adaptativos, todos modelados para refletir como um atacante impulsionado por IA poderia agir.

Estamos entrando em uma nova era onde a emulação se torna contínua e liderada por inteligência. Já não são exercícios episódicos, as simulações integram inteligência de ameaças em tempo real e iteram em ambientes semelhantes à produção, testando controles sob condições emergentes e imprevisíveis. Com o CTEM, essa abordagem garante que a validação de segurança se torne uma função estratégica e operacional, em vez de uma caixa de seleção.

Olhando para o futuro, quais riscos emergentes de IA mais o preocupam? E onde você vê a maior oportunidade para os defensores se anteciparem à curva?

O risco mais preocupante é como a IA está reduzindo a barreira de entrada para ataques sofisticados em escala. O que antes exigia habilidades técnicas profundas agora é cada vez mais acessível por meio de ferramentas de IA comercializadas. A IA pode automatizar reconhecimento, gerar código de exploração e criar campanhas de phishing personalizadas, operando mais rápido do que as defesas tradicionais podem se adaptar.

Por outro lado, os defensores têm uma oportunidade paralela: aproveitar a IA e a automação para defesa proativa. Ao automatizar a emulação, acelerar a detecção e priorizar exposições com base em risco do mundo real, as equipes de segurança podem antecipar os movimentos dos adversários em vez de simplesmente reagir a eles.

Obrigado pela grande entrevista, leitores que desejam aprender mais devem visitar AttackIQ.