David Kellerman, Field CTO na Cymulate – Série de Entrevistas

David Kellerman é o Field CTO da Cymulate e um profissional técnico sênior de enfrentamento ao cliente no campo da informação e segurança cibernética. David lidera os clientes ao sucesso e altos padrões de segurança.

Cymulate é uma empresa de segurança cibernética que fornece validação de exposição de ameaças para organizações que buscam fechar lacunas de segurança antes que os atacantes as explorem. Sua plataforma permite que as organizações estabeleçam um padrão de segurança e fortaleçam a resiliência cibernética por meio da descoberta contínua, validação, priorização e remediação orientada de fraquezas de segurança. Por meio da automação e inteligência artificial, a Cymulate oferece testes de segurança ofensiva avançados para validar controles, ameaças e caminhos de ataque. Como uma plataforma aberta, a Cymulate se integra à infraestrutura de segurança e TI existente para impulsionar o fluxo de trabalho do processo de gerenciamento de exposição e melhorar as defesas em tempo real. Ao oferecer Simulação de Violação e Ataque (BAS), gerenciamento de exposição e gerenciamento de postura de segurança, a Cymulate ajuda as empresas a identificar vulnerabilidades.

Qual é o principal motor por trás do aumento das ameaças de segurança cibernética relacionadas à inteligência artificial em 2025?

As ameaças de segurança cibernética relacionadas à inteligência artificial estão aumentando devido à maior acessibilidade da inteligência artificial. Os atacantes agora têm acesso a ferramentas de inteligência artificial que podem ajudá-los a iterar sobre malware, criar e-mails de phishing mais convincentes e aumentar seu alcance. Essas táticas não são “novas”, mas a velocidade e precisão com que estão sendo implantadas adicionaram significativamente ao já longo backlog de ameaças cibernéticas que as equipes de segurança precisam abordar. As organizações correm para implementar tecnologia de inteligência artificial, enquanto não entendem completamente que controles de segurança precisam ser colocados em torno dela, para garantir que não seja facilmente explorada por atacantes.

Há alguma indústria ou setor mais vulnerável a essas ameaças relacionadas à inteligência artificial, e por quê?

Indústrias que compartilham consistentemente dados entre canais, entre funcionários, clientes ou clientes são suscetíveis a ameaças relacionadas à inteligência artificial, pois a inteligência artificial está tornando mais fácil para os atacantes engajar em esquemas de engenharia social convincentes. Os golpes de phishing são efetivamente um jogo de números, e se os atacantes agora podem enviar e-mails mais autênticos para um número maior de destinatários, sua taxa de sucesso aumentará significativamente. As organizações que expõem seus serviços de inteligência artificial ao público potencialmente convidam os atacantes a tentar explorá-los. Embora seja um risco herdado de tornar os serviços públicos, é crucial fazer isso corretamente.

Quais são as principais vulnerabilidades que as organizações enfrentam ao usar LLMs públicas para funções de negócios?

A vazamento de dados é provavelmente a principal preocupação. Ao usar um LLM público, é difícil dizer com certeza para onde esses dados irão – e a última coisa que você quer fazer é carregar acidentalmente informações confidenciais para uma ferramenta de inteligência artificial pública. Se você precisa de dados confidenciais analisados, mantenha-os internamente. Não recorra a LLMs públicas que possam vazar esses dados para a internet mais ampla.

Como as empresas podem proteger efetivamente dados sensíveis ao testar ou implantar sistemas de inteligência artificial em produção?

Ao testar sistemas de inteligência artificial em produção, as organizações devem adotar uma mentalidade ofensiva (em vez de defensiva). Isso significa que as equipes de segurança devem testar e validar proativamente a segurança de seus sistemas de inteligência artificial, em vez de reagir a ameaças entrantes. Monitorar consistentemente os ataques e validar os sistemas de segurança pode ajudar a garantir que os dados sensíveis sejam protegidos e as soluções de segurança estejam funcionando como pretendido.

Como as organizações podem se defender proativamente contra ataques impulsionados por inteligência artificial que estão constantemente evoluindo?

Enquanto os atacantes estão usando a inteligência artificial para evoluir suas ameaças, as equipes de segurança também podem usar a inteligência artificial para atualizar suas ferramentas de simulação de violação e ataque (BAS) para garantir que estejam protegidas contra ameaças emergentes. Ferramentas como a alimentação diária de ameaças da Cymulate carregam as ameaças mais recentes em seu software de simulação de violação e ataque diariamente para garantir que as equipes de segurança estejam validando a segurança cibernética de suas organizações contra as ameaças mais recentes. A inteligência artificial pode ajudar a automatizar processos como esses, permitindo que as organizações permaneçam ágeis e prontas para enfrentar até as ameaças mais novas.

Qual é o papel das plataformas de validação de segurança automatizadas, como a Cymulate, na mitigação dos riscos impostos por ameaças cibernéticas impulsionadas por inteligência artificial?

As plataformas de validação de segurança automatizadas podem ajudar as organizações a lidar com as ameaças cibernéticas emergentes impulsionadas por inteligência artificial por meio de ferramentas destinadas a identificar, validar e priorizar ameaças. Com a inteligência artificial servindo como um multiplicador de forças para os atacantes, é importante não apenas detectar possíveis vulnerabilidades na rede e nos sistemas, mas validar quais delas representam uma ameaça real à organização. Somente então as exposições podem ser efetivamente priorizadas, permitindo que as organizações mitiguem as ameaças mais perigosas primeiro, antes de prosseguir com itens menos urgentes. Os atacantes estão usando a inteligência artificial para sondar ambientes digitais em busca de fraquezas potenciais antes de lançar ataques altamente personalizados, o que significa que a capacidade de abordar vulnerabilidades perigosas de maneira automatizada e eficaz nunca foi mais crítica.

Como as empresas podem incorporar ferramentas de simulação de violação e ataque para se preparar para ataques impulsionados por inteligência artificial?

O software de simulação de violação e ataque é um elemento importante do gerenciamento de exposição, permitindo que as organizações criem cenários de ataque do mundo real que possam usar para validar controles de segurança contra as ameaças mais prementes de hoje. A inteligência de ameaças mais recente e a pesquisa primária do Grupo de Pesquisa de Ameaças da Cymulate (combinada com informações sobre ameaças emergentes e novas simulações) são aplicadas diariamente à ferramenta de simulação de violação e ataque da Cymulate, alertando os líderes de segurança se uma nova ameaça não foi bloqueada ou detectada pelos controles de segurança existentes. Com a simulação de violação e ataque, as organizações também podem personalizar simulações impulsionadas por inteligência artificial para seus ambientes e políticas de segurança únicos com um quadro aberto para criar e automatizar campanhas personalizadas e cenários de ataque avançados.

Quais são as três principais recomendações que você daria às equipes de segurança para ficar à frente dessas ameaças emergentes?

As ameaças estão se tornando mais complexas a cada dia. As organizações que não têm um programa de gerenciamento de exposição eficaz em vigor correm o risco de ficar perigosamente atrás, então minha primeira recomendação seria implementar uma solução que permita à organização priorizar efetivamente suas exposições. Em seguida, garantir que a solução de gerenciamento de exposição inclua capacidades de simulação de violação e ataque que permitam que a equipe de segurança simule ameaças emergentes (inteligência artificial e outras) para avaliar como os controles de segurança da organização se saem. Finalmente, eu recomendaria aproveitar a automação para garantir que a validação e o teste possam ocorrer de forma contínua, e não apenas durante revisões periódicas. Com o cenário de ameaças mudando a cada minuto, é crucial ter informações atualizadas. Os dados de ameaças do último trimestre já estão obsoletos.

Quais desenvolvimentos na tecnologia de inteligência artificial você prevê nos próximos cinco anos que poderiam exacerbar ou mitigar os riscos de segurança cibernética?

Muito dependerá de como a acessibilidade da inteligência artificial continuar. Hoje, atacantes de nível baixo podem usar capacidades de inteligência artificial para aumentar e ampliar seus ataques, mas não estão criando táticas novas e sem precedentes – estão apenas tornando táticas existentes mais eficazes. Atualmente, podemos (em grande parte) compensar por isso. Mas se a inteligência artificial continuar a crescer e permanecer altamente acessível, isso poderia mudar. As regulamentações desempenharão um papel aqui – a UE (e, em menor medida, os EUA) tomaram medidas para governar como a inteligência artificial é desenvolvida e usada, então será interessante ver se isso terá um efeito no desenvolvimento da inteligência artificial.

Você prevê uma mudança na forma como as organizações priorizam ameaças de segurança cibernética relacionadas à inteligência artificial em comparação com os desafios de segurança cibernética tradicionais?

Estamos vendo as organizações reconhecerem o valor de soluções como a simulação de violação e ataque e o gerenciamento de exposição. A inteligência artificial está permitindo que os atacantes lancem campanhas avançadas e direcionadas rapidamente, e as equipes de segurança precisam de qualquer vantagem que possam obter para ajudá-las a ficar à frente deles. As organizações que estão usando ferramentas de validação terão uma tarefa significativamente mais fácil para manter a cabeça acima da água, priorizando e mitigando as ameaças mais prementes e perigosas primeiro. Lembre-se de que a maioria dos atacantes está procurando por uma vitória fácil. Você pode não ser capaz de parar todos os ataques, mas pode evitar se tornar um alvo fácil.

Obrigado pela grande entrevista, leitores que desejam aprender mais devem visitar Cymulate.