Mayank Kumar, Engenheiro de IA Fundador da DeepTempo – Série de Entrevistas

Mayank Kumar é o Engenheiro de IA Fundador da DeepTempo, onde lidera o design e desenvolvimento do modelo de linguagem de log fundamental da empresa (LogLM). Com uma forte formação acadêmica e de pesquisa em IA gerativa e multimodal, ele traz expertise especializada para construir modelos específicos de domínio que melhoram a detecção e resposta a ameaças em ambientes de segurança cibernética.

DeepTempo é uma empresa de segurança cibernética construída em torno do LogLM, um modelo de fundação de IA treinado em grandes volumes de dados de log de segurança. A plataforma se destaca por identificar ameaças avançadas e não vistas anteriormente, minimizando falsos positivos. Projetada para integração transparente em fluxos de trabalho de segurança existentes, a DeepTempo suporta implantações em datalakes, Kubernetes e Snowflake, permitindo forenses mais rápidos, redução de custos de ingestão de dados e defesa automatizada escalável para empresas modernas.

O que o levou a co-fundar a DeepTempo, e como sua formação em pesquisa acadêmica e IA de código aberto contribuiu para a direção da empresa?

Cresci em uma comunidade unida onde as relações eram construídas cara a cara, não através de telas. Meu pai, um professor, me ensinou a importância de retribuir. Embora não fôssemos ricos em termos materiais, éramos ricos em conexão e propósito. Nesse tipo de ambiente, você aprende rapidamente que resolver problemas não é apenas sobre talento individual – é sobre força coletiva. Essa mentalidade permaneceu comigo e, eventualmente, levou ao meu interesse em empreendedorismo social enquanto estudava engenharia no IIT Ropar.

O ponto de inflexão ocorreu quando o navegador do meu pai foi atingido por um ataque de ransomware. Não foi apenas um problema técnico, introduziu medo, confusão e vulnerabilidade em nossa casa. Essa experiência abriu meus olhos para a fragilidade do mundo digital, não apenas para indivíduos, mas para organizações constantemente ameaçadas. Por volta daquela época, conheci Evan, cuja visão para construir defesa coletiva em escala de internet profundamente ressoou comigo. Essa missão compartilhada – e meu impulso para aplicar tecnologia a serviço das pessoas – é o que me atraiu para a DeepTempo.

Na Universidade de Washington, minha pesquisa se concentrou em duas áreas principais: aprendizado de representação multimodal e IA centrada em dados. Ambas provaram ser críticas à medida que construíamos nosso modelo de fundação vertical, LogLM. Diferentemente da linguagem natural, os logs de segurança são desordenados, estruturados e fragmentados. Nosso primeiro desafio foi construir uma nova “linguagem” para interpretar esses dados, permitindo que o LogLM aprendesse representações significativas dessas sequências. Também investimos pesadamente em como avaliamos o desempenho, pois, em segurança, a precisão não é opcional, e alucinações não são aceitáveis.

Mas além da tecnologia, nossa estrela-guia sempre foi a defesa coletiva. É por isso que a colaboração de código aberto será essencial para tornar essa missão bem-sucedida em escala.

O conceito de “defesa coletiva” é central à DeepTempo. O que isso significa na prática, e como é diferente das abordagens tradicionais de segurança cibernética?

Na prática, defesa coletiva significa que quando uma instância de LogLM de um cliente identifica um comportamento de ataque novo, digamos, uma campanha de C2 e exfiltração encenada com comportamento de beaconing seguido de transferência de dados anormal para fora, essa percepção pode ser destilada em uma assinatura comportamental generalizada e compartilhada por todo o ecossistema. Crucialmente, isso não envolve o envio de logs brutos ou dados do cliente. Em vez disso, abstraimos padrões comportamentais de alta confiança e os incorporamos em pesos de modelo por meio de técnicas de aprendizado federado.

Isso é um contraste marcante com os sistemas legados que confiam em regras de um tamanho para todos ou feeds de inteligência de ameaças estáticos. Esses sistemas não evoluem até que múltiplas vítimas sejam afetadas. Com a defesa coletiva, o sistema de detecção evolui com cada sinal de alta qualidade, mesmo que a ameaça seja hiperespecífica de um ambiente. Isso nos permite capturar ameaças polimórficas e fluxos de ataque agênticos aumentados por LLM antes que se tornem generalizados.

Quais lacunas específicas na segurança empresarial levaram ao desenvolvimento do LogLM, e como ele difere fundamentalmente dos sistemas de detecção mais antigos?

As equipes de segurança enfrentam três problemas principais: alta relação ruído-sinal, detecções frágeis que não se transferem entre ambientes e adaptação lenta a ameaças emergentes. O LogLM foi criado para abordar todos os três.

A maioria dos sistemas existentes confia em abordagens baseadas em regras ou ML estreitas que exigem semanas ou meses de ajuste para entender um novo ambiente. Essas abordagens falham quando os atacantes mudam ligeiramente as táticas, como vimos com grupos como Scattered Spider ou Volt Typhoon. O LogLM é treinado em grandes volumes de telemetria de segurança, tratando-a como uma espécie de linguagem estruturada. Isso permite que ele reconheça sequências complexas, como um pico em requisições de DNS de saída seguidas de atividade Okta incomum, não como anomalias isoladas, mas como parte de uma narrativa de ameaça.

Diferentemente das ferramentas legadas que produzem alertas desconexos, o LogLM produz detecções interpretáveis em nível de tática. E porque foi construído do zero, em vez de reutilizado ou adaptado, foi projetado para segurança desde o início, permitindo adaptação rápida com apenas alguns dias de logs não rotulados. Isso torna o processo de integração rápido e a detecção muito mais resiliente.

O que são agentes sombra, e como eles representam um risco para organizações que operam sem supervisão centralizada?

Agentes sombra são ferramentas de IA autônomas, frequentemente construídas em cima de LLMs, que operam dentro de uma empresa sem autorização explícita ou visibilidade da equipe de segurança. Um exemplo recente é o CVE-2025-32711 (“EchoLeak”) da MITRE, uma vulnerabilidade de zero clique no Microsoft 365 Copilot disparada apenas pedindo que ele resuma e-mails. A falha permite que atacantes exfiltram dados internos por meio do contexto RAG do agente, sem interação do usuário. Embora esses agentes possam aumentar a produtividade, eles frequentemente contornam a revisão de segurança e expõem dados sensíveis a camadas de inferência não controladas.

Vimos casos em que um agente sombra construído com um LLM público foi exposto a logs do sistema e começou a vazar rastros de pilha contendo credenciais codificadas. Esses agentes normalmente não são instrumentados com controles de DLP, não seguem políticas de acesso e não são auditados. Pior, porque podem tomar decisões, como encaminhar saída para sistemas externos, eles se tornam superfícies de ataque por si mesmos. No contexto de injeção de prompt ou encadeamento adversarial, um único agente pode ser coagido a disparar ações downstream com impacto real.

Por que a injeção de prompt e a manipulação de modelo estão se tornando ameaças sérias, e por que a maioria dos sistemas atuais não as captura?

A injeção de prompt é perigosa porque explora a funcionalidade central do modelo: interpretar linguagem natural. A maioria dos sistemas de empresa trata as saídas do modelo como confiáveis, mas se o modelo receber instruções ocultas, incorporadas em um comentário de usuário, chamada de API ou até mesmo um nome de arquivo, ele pode ser enganado para realizar ações não intencionais. Vimos adversários usarem isso para extrair credenciais de históricos de chat, impersonar usuários ou contornar validação de entrada.

A questão mais profunda é que os LLMs são otimizados para coerência, não para segurança. Como exploramos em nossa resposta recente ao estudo da Royal Society, os modelos tendem a priorizar fluência e generalidade sobre cautela e precisão. Até mesmo instruí-los a “ser mais precisos” pode ter efeitos colaterais, levando a respostas mais confiantes, mas ainda incorretas. E a manipulação adversarial de modelo é uma preocupação de longo prazo. Atacantes podem envenenar conjuntos de dados ou moldar saídas sutis, repetindo consultas estruturadas ao longo do tempo, gradualmente empurrando o modelo para um espaço comportamental mais permissivo. A detecção aqui requer logging de cadeia completa, avaliação contínua e sandbox de modelo em nível, técnicas que a maioria dos sistemas de empresa ainda não adotou.

Como a Tempo usa mapeamentos MITRE ATT&CK para fornecer inteligência açãoável em vez de apenas alertas brutos?

A Tempo mapeia suas detecções para táticas e técnicas ATT&CK usando classificadores supervisionados e encadeamento comportamental não supervisionado. Quando o sistema vê uma sequência como execução suspeita do PowerShell, modificação de chave de registro e tráfego de saída incomum, ele não apenas alerta sobre cada etapa, mas marca a sequência como Execução > Evasão de Defesa > Exfiltração, correspondendo a IDs ATT&CK conhecidos.

Isso permite que os defensores entendam imediatamente o objetivo do adversário e onde ele está na cadeia de ataque. Também fornecemos enriquecimento: entidades afetadas, logs relacionados e escores de confiança. Essa abordagem estruturada reduz a carga cognitiva para analistas de SOC e acelera fluxos de resposta, as equipes sabem qual tática foi usada, o que levou a ela e qual é o próximo passo provável. Isso é um grande salto em relação a sistemas de fadiga de alerta que disparam em cada anomalia sem contexto narrativo.

Por que a DeepTempo opera a montante do SIEM (Sistema de Gerenciamento de Informações e Eventos de Segurança), e como essa posição melhora a detecção de ameaças e simplifica operações para equipes de segurança?

Os SIEMs tendem a normalizar e filtrar logs para reduzir custos de ingestão. Mas, ao fazer isso, eles frequentemente perdem contexto valioso, como carimbos de data e hora precisos, picos de latência ou comportamentos de sessão efêmeros. A DeepTempo opera a montante, ingerindo telemetria bruta antes dessa transformação. Isso nos permite modelar padrões comportamentais mais ricos, como reutilização de token de serviço com variações de tempo leves ou sequências de chamadas de API raras que nunca passariam pelos limiares do SIEM.

Trabalhar a montante também significa que podemos reduzir o ruído antes que ele atinja o SIEM. Em vez de empurrar petabytes de linhas de log por dia, passamos 50–100 eventos de alto contexto com enriquecimento completo ATT&CK e pontuação baseada em modelo. As equipes gastam menos tempo triando e mais tempo investigando ameaças que importam. Isso também reduz custos de armazenamento e computação do SIEM, que podem ser significativos em ambientes grandes.

O que permite que a Tempo ajuste modelos para novos ambientes tão rapidamente, e como isso se compara a fluxos de trabalho de aprendizado de máquina tradicionais?

Sistemas de ML tradicionais frequentemente exigem semanas de dados rotulados e retreinamento para se adaptar a um novo ambiente. A Tempo adota uma abordagem fundamentalmente diferente. Em vez de começar do zero, ela aproveita um modelo pré-treinado construído em telemetria de rede em grande escala, como dados de fluxo NetFlow e VPC. Isso lhe dá uma compreensão sólida de como o tráfego flui e os comportamentos típicos se parecem em ambientes diversos.

Quando a Tempo é implantada em um novo ambiente, ela não precisa de dados rotulados ou longos ciclos de aprendizado. Ela usa apenas alguns dias de atividade de rede local para estabelecer uma linha de base e ajustar-se para detectar padrões específicos daquele ambiente, como acesso incomum fora do horário de expediente, anomalias de comunicação de serviço a serviço ou movimento de dados inesperado. Isso acontece em horas, não semanas.

Porque o processo é auto-supervisionado, não há necessidade de equipes de segurança manualmente flagrar ou rotular eventos. E para permanecer atualizada à medida que os ambientes evoluem, construímos mecanismos de captura de instantâneos que permitem que o modelo “esqueça” comportamentos ultrapassados quando a infraestrutura ou as políticas mudam. Operar na camada de rede nos permite detectar ameaças mais cedo e mais amplamente, algo que distingue a Tempo de ferramentas de segurança tradicionais centradas em pontos de extremidade ou logs.

Como a DeepTempo mantém alta precisão enquanto minimiza falsos positivos, especialmente em ambientes de nuvem dinâmicos?

Combinamos modelagem temporal com análise de comportamento de rede consciente do contexto, construída diretamente em logs de fluxo NetFlow e VPC. Nossa abordagem de geração de sequência nobre combinada com o pré-treinamento em grande escala de algoritmos de aprendizado profundo baseados em transformadores ajuda a entender como os eventos de rede se desenrolam ao longo do tempo. Não sinalizamos um único login falho, mas sinalizamos um login falho seguido de um login bem-sucedido de um novo dispositivo, movimento lateral e acesso de dados incomum. Esse contexto temporal em camadas filtra o ruído e destaca ameaças reais e novas.

Em segundo lugar, perfilamos comportamentos de usuário e serviço no contexto. Um nó do Kubernetes reiniciando 12 vezes é normal durante atualizações, mas é suspeito às 2h da manhã se for seguido por uma nova implantação de contêiner de um registro desconhecido. A Tempo reconhece isso porque olha para a sequência, o tempo e o contexto simultaneamente. Além disso, nosso pipeline de aprendizado ativo monitora e coleta informações sobre estilos de detecção específicos. Se o pipeline detectar deriva no desempenho ou nos dados, ele utilizará os instantâneos e feedback dos analistas para ajustar finamente um pequeno número de parâmetros do modelo.

Construímos nossa detecção em metadados de rede brutos e de alta fidelidade, combinando inteligência temporal com baseline de comportamento para entregar alertas de alta confiança – mesmo em ambientes de nuvem que mudam em um piscar de olhos.

Qual é o papel da explicabilidade no seu sistema, e como você garante que os alertas venham com contexto interpretável e útil?

Cada detecção na Tempo inclui um resumo, a evidência de log subjacente e a tática inferida (por exemplo, Acesso a Credenciais via Força Bruta). Também fornecemos um gráfico de entidades relacionadas, usuários, pontos de extremidade, recursos de nuvem, para que as equipes de SOC possam visualizar o incidente. O objetivo é eliminar o efeito “caixa preta” que aflige muitos sistemas de IA.

Empréstimos de ferramentas de explicabilidade acadêmicas como LIME e SHAP em protótipos iniciais, mas descobri que elas não eram intuitivas para os analistas. Então, em vez disso, geramos uma narrativa em linguagem clara: o que aconteceu, quando, por que é suspeito e quão confiante estamos. Isso não é apenas sobre clareza, é sobre permitir que os analistas de nível um atuem sem escalonar cada alerta.

Quais são os riscos de longo prazo de atacantes usando IA e modelos de fundação, e como a DeepTempo planeja ficar à frente?

O cenário de ameaças está entrando em uma fase em que os atacantes podem implantar agentes de IA que se autoaprendem, mutam payloads em tempo real e simulam comportamento de usuário legítimo. Esses agentes podem executar 24/7, sondando pontos fracos, adaptando-se a cada tentativa falha. Isso é um deslocamento fundamental; não é mais sobre dias zero, mas sobre velocidade, iteração e ofuscação.

Estamos nos preparando investindo em treinamento adversarial, detecção a montante e modelagem comportamental que não depende de indicadores conhecidos. Nosso objetivo é identificar a estrutura de comportamento malicioso antes que ele se torne grave. Também estamos explorando maneiras de identificar tráfego de atacante gerado por IA, assim como já fizemos com botnets, para que os defensores possam sinalizar atividade mesmo quando as cargas úteis mudam constantemente.

 Obrigado pela grande entrevista, leitores que desejam aprender mais devem visitar DeepTempo.