Mayank Kumar, Fondatore e Ingegnere AI di DeepTempo – Serie di Interviste

Mayank Kumar è il Fondatore e Ingegnere AI di DeepTempo, dove guida la progettazione e lo sviluppo del modello di linguaggio fondamentale dell’azienda, Log Language Model (LogLM). Con una solida formazione accademica e di ricerca nel campo dell’intelligenza artificiale generativa e multimodale, porta una competenza specializzata nella costruzione di modelli specifici del dominio che migliorano la rilevazione e la risposta alle minacce negli ambienti di sicurezza informatica.

DeepTempo è un’azienda di sicurezza informatica costruita intorno a LogLM, un modello di fondazione nativo AI addestrato su grandi quantità di dati di log di sicurezza. La piattaforma eccelle nell’identificazione di minacce avanzate e precedentemente non viste, minimizzando i falsi positivi. Progettata per un’integrazione senza soluzione di continuità nei flussi di lavoro di sicurezza esistenti, DeepTempo supporta la distribuzione in datalakes, Kubernetes e Snowflake, abilitando una difesa automatizzata più rapida, riducendo i costi di ingestione dei dati e garantendo una difesa scalabile per le aziende moderne.

cosa ti ha portato a co-fondare DeepTempo e come la tua formazione accademica e di ricerca nel campo dell’intelligenza artificiale aperta ha contribuito alla direzione dell’azienda?

Sono cresciuto in una comunità unita dove le relazioni si costruiscono faccia a faccia, non attraverso gli schermi. Mio padre, un insegnante, mi ha instillato l’importanza di dare qualcosa in cambio. Sebbene non fossimo ricchi in termini materiali, eravamo ricchi di connessioni e scopo. In quell’ambiente, impari rapidamente che risolvere i problemi non è solo questione di talento individuale, ma di forza collettiva. Quella mentalità è rimasta con me e mi ha portato a interessarmi all’imprenditoria sociale mentre studiavo ingegneria al IIT Ropar.

Il punto di svolta arrivò quando il browser di mio padre fu colpito da un attacco di ransomware. Non si trattava solo di un glitch tecnico, ma introdusse paura, confusione e vulnerabilità nella nostra casa. Quell’esperienza mi aprì gli occhi sulla fragilità del mondo digitale, non solo per gli individui, ma anche per le organizzazioni costantemente sotto attacco. Intorno a quel periodo, incontrai Evan, la cui visione per costruire una difesa collettiva a scala di internet risuonava profondamente con me. Quella missione condivisa e la mia spinta a utilizzare la tecnologia al servizio delle persone mi hanno portato a DeepTempo.

All’Università di Washington, la mia ricerca si concentrò su due aree principali: l’apprendimento di rappresentazioni multimodali e l’intelligenza artificiale basata sui dati. Entrambe si rivelarono critiche mentre costruivamo il nostro modello di fondazione verticale, LogLM. A differenza del linguaggio naturale, i log di sicurezza sono confusi, strutturati e frammentati. La nostra prima sfida fu costruire un nuovo “linguaggio” per interpretare questi dati, consentendo a LogLM di apprendere rappresentazioni significative da queste sequenze. Abbiamo anche investito molto nel modo in cui valutiamo le prestazioni, perché nella sicurezza, l’accuratezza non è opzionale e le allucinazioni non sono accettabili.

Ma al di là della tecnologia, la nostra stella polare è sempre stata la difesa collettiva. È per questo che la collaborazione open-source sarà essenziale per rendere questa missione efficace a scala.

Il concetto di “difesa collettiva” è centrale in DeepTempo. Cosa significa nella pratica e come si differenzia dagli approcci tradizionali alla sicurezza informatica?

Nella pratica, la difesa collettiva significa che quando un’istanza di LogLM di un cliente identifica un comportamento di attacco innovativo, ad esempio una campagna di staging C2 ed esfiltrazione che coinvolge il beaconing seguito da un trasferimento di dati anomalo, quell’intuizione può essere distillata in una firma comportamentale generalizzata e condivisa in tutta l’ecosistema. Ciò non implica l’invio di log grezzi o dati dei clienti. Invece, astraiamo modelli comportamentali ad alta fiducia e li incorporiamo nei pesi del modello attraverso tecniche di apprendimento federato.

Questo rappresenta un netto contrasto con i sistemi legacy che si affidano a regole universali o a feed di intelligence sulle minacce statiche. Quei sistemi non si evolvono fino a quando non vengono colpiti più vittime. Con la difesa collettiva, il sistema di rilevamento si evolve con ogni segnale di alta qualità, anche se la minaccia è iperspecifica per un ambiente. Ciò ci consente di intercettare minacce polimorfe e flussi di attacco agente-augmentati prima che diventino diffusi.

Quali lacune specifiche nella sicurezza aziendale hanno portato allo sviluppo di LogLM e come si differenzia fondamentalmente dai sistemi di rilevamento più vecchi?

I team di sicurezza aziendale affrontano tre problemi principali: un rapporto segnale/rumore alto, rilevamenti fragili che non si trasferiscono tra ambienti e un adattamento lento alle minacce emergenti. LogLM è stato creato per affrontare tutti e tre.

La maggior parte dei sistemi esistenti si basa su approcci basati su regole o su ML ristretti che richiedono settimane o mesi di taratura per comprendere un nuovo ambiente. Questi approcci falliscono quando gli aggressori modificano leggermente le tattiche, come abbiamo visto con gruppi come Scattered Spider o Volt Typhoon. LogLM è addestrato su grandi volumi di dati di telemetria di sicurezza, trattandoli come una sorta di linguaggio strutturato. Ciò gli consente di riconoscere sequenze complesse, come un picco nelle richieste DNS in uscita seguito da attività Okta insolita, non come anomalie isolate ma come parte di una narrazione di minaccia.

A differenza degli strumenti legacy che producono avvisi non connessi, LogLM produce rilevamenti a livello di tattica interpretabili. E poiché è costruito interamente da zero, invece di essere riutilizzato o adattato, è progettato per la sicurezza fin dall’inizio, consentendo un adattamento rapido con solo pochi giorni di log non etichettati. Ciò rende l’onboarding veloce e la rilevazione molto più resistente.

Cosa sono gli agenti shadow e come rappresentano un rischio per le organizzazioni che operano senza una supervisione centralizzata?

Gli agenti shadow sono strumenti AI autonomi, spesso costruiti su LLM, che operano all’interno di un’azienda senza autorizzazione o visibilità esplicita da parte del team di sicurezza. Un esempio recente è il CVE-2025-32711 (“EchoLeak”) di MITRE, una vulnerabilità zero-click in Microsoft 365 Copilot attivata semplicemente chiedendogli di riassumere le email. La falla consente agli aggressori di esfiltrare dati interni tramite il contesto RAG dell’agente, senza alcuna interazione dell’utente. Sebbene questi agenti possano aumentare la produttività, spesso bypassano la revisione di sicurezza e espongono dati sensibili a layer di inferenza non controllati.

Abbiamo visto casi in cui un agente shadow costruito con un LLM pubblico è stato esposto ai log di sistema e ha iniziato a perdere tracce dello stack contenenti credenziali hardcoded. Questi agenti non sono strumentati con controlli DLP, non seguono le politiche di accesso e non vengono auditati. Peggio, poiché possono prendere decisioni, come inoltrare output a sistemi esterni, diventano superfici di attacco esse stesse. Nel contesto dell’iniezione di prompt o della catena di attacchi, un singolo agente può essere costretto a innescare azioni a valle con un impatto reale.

Perché l’iniezione di prompt e la manipolazione del modello stanno diventando minacce serie e perché la maggior parte dei sistemi attuali non le cattura?

L’iniezione di prompt è pericolosa perché sfrutta la funzionalità principale del modello: l’interpretazione del linguaggio naturale. La maggior parte dei sistemi aziendali considera i risultati del modello attendibili, ma se il modello riceve istruzioni nascoste, incorporate in un commento utente, una chiamata API o anche un nome file, può essere ingannato per eseguire azioni non intese. Abbiamo visto aggressori utilizzare questo metodo per estrarre credenziali dalle cronologie dei chat, impersonare utenti o bypassare la convalida dell’input.

Il problema più profondo è che i LLM sono ottimizzati per la coerenza, non per la sicurezza. Come abbiamo esplorato nella nostra recente risposta allo studio della Royal Society, i modelli tendono a priorizzare la fluidità e la generalità rispetto alla cautela e alla precisione. Anche il fatto di istruirli a “essere più precisi” può avere l’effetto contrario, portando a risposte più confidenti ma ancora errate. E la manipolazione del modello avversariale è una preoccupazione a lungo termine. Gli aggressori possono avvelenare i set di dati o plasmare gradualmente l’output ripetendo query strutturate nel tempo, spingendo gradualmente il modello verso uno spazio comportamentale più permissivo. La rilevazione qui richiede la registrazione completa della catena, la valutazione continua e il sandboxing a livello di modello, tecniche che la maggior parte dei sistemi aziendali non ha ancora adottato.

Come Tempo utilizza le mappe MITRE ATT&CK per fornire intelligence azionabile invece di semplici avvisi?

Tempo mappa le sue rilevazioni alle tattiche e alle tecniche ATT&CK utilizzando sia classificatori supervisionati che catene di comportamento non supervisionate. Quando il sistema vede una sequenza come un’esecuzione sospetta di PowerShell, la modifica di una chiave di registro e il traffico in uscita insolito, non si limita ad avvisare su ogni passaggio, ma etichetta la sequenza come Esecuzione > Evasione della difesa > Esfiltrazione, corrispondente a ID ATT&CK noti.

Ciò consente ai difensori di comprendere immediatamente l’obiettivo dell’aggressore e dove si trovano nella catena di uccisione. Forniamo anche arricchimenti: entità interessate, log correlati e punteggi di fiducia. Questo approccio strutturato riduce il carico cognitivo per gli analisti SOC e accelera i flussi di lavoro di risposta, poiché i team sanno quale tattica è stata utilizzata, cosa l’ha portata e quale sarà il passo successivo probabile. Ciò rappresenta un grande balzo in avanti rispetto ai sistemi di allarme che si attivano su ogni anomalia senza contesto narrativo.

Perché DeepTempo opera a monte dei sistemi SIEM (Security Information and Event Management) e come questa posizione migliora la rilevazione delle minacce e semplifica le operazioni per i team di sicurezza?

I SIEM tendono a normalizzare e filtrare i log per ridurre i costi di ingestione. Tuttavia, facendo ciò, spesso perdono contesto prezioso, come timestamp precisi, picchi di latenza o comportamenti di sessione effimeri. DeepTempo opera a monte, ingerendo la telemetria grezza prima di questa trasformazione. Ciò ci consente di modellare modelli comportamentali più ricchi, come il riutilizzo del token di servizio con variazioni di temporizzazione leggere o sequenze di chiamate API rare che non supererebbero mai le soglie SIEM.

Operare a monte significa anche che possiamo ridurre il rumore prima che raggiunga il SIEM. Invece di spingere petabytes di righe di log al giorno, passiamo lungo 50-100 eventi ad alto contesto con arricchimento completo ATT&CK e punteggi basati sul modello. I team spendono meno tempo nella triage e più tempo nell’indagine di minacce che contano. Ciò riduce anche i costi di archiviazione e calcolo SIEM, che possono essere significativi in ambienti di grandi dimensioni.

Cosa consente a Tempo di adattare i modelli a nuovi ambienti così rapidamente e come si confronta con i flussi di lavoro di apprendimento automatico tradizionali?

I sistemi di apprendimento automatico tradizionali spesso richiedono settimane di dati etichettati e di riaddestramento per adattarsi a un nuovo ambiente. Tempo adotta un approccio fondamentalmente diverso. Invece di partire da zero, sfrutta un modello pre-addestrato costruito su telemetria di rete su larga scala, come dati di flusso NetFlow e VPC. Ciò gli fornisce una solida comprensione di come i traffici e i comportamenti tipicamente appaiono in ambienti diversi.

Quando Tempo viene distribuito in un nuovo ambiente, non ha bisogno di dati etichettati o di lunghi cicli di apprendimento. Utilizza solo pochi giorni di attività di rete locale per stabilire una baseline e adattarsi per rilevare modelli specifici di quell’ambiente, come accessi insoliti fuori orario, anomalie nella comunicazione servizio-servizio o movimenti di dati inaspettati. Ciò avviene in ore, non settimane.

Poiché il processo è auto-supervisionato, non c’è bisogno che i team di sicurezza etichettino manualmente o segnalino eventi. E per rimanere aggiornati mentre gli ambienti evolvono, abbiamo costruito meccanismi di snapshot che consentono al modello di “dimenticare” comportamenti obsoleti quando l’infrastruttura o le politiche cambiano. Operare a livello di rete ci consente di rilevare minacce più precocemente e più ampiamente, qualcosa che distingue Tempo dagli strumenti di sicurezza tradizionali centrati su endpoint o log.

Come DeepTempo mantiene un’alta accuratezza mentre minimizza i falsi positivi, specialmente in ambienti cloud dinamici?

Combiniamo la modellazione temporale con l’analisi del comportamento della rete consapevole del contesto, costruita direttamente sui log di flusso NetFlow e VPC. Il nostro approccio di generazione di sequenze nobili combinato con un pre-addestramento su larga scala di algoritmi di apprendimento profondo basati su trasformatori aiuta a comprendere come gli eventi di rete si svolgono nel tempo. Non segnaliamo un singolo accesso fallito, ma segnaliamo un accesso fallito seguito da un accesso successivo da un nuovo dispositivo, movimento laterale e accesso anomalo ai dati. Questo contesto temporale stratificato filtra il rumore e mette in evidenza minacce reali e nuove.

In secondo luogo, profiliamo i comportamenti degli utenti e dei servizi nel contesto. Un nodo Kubernetes che si riavvia 12 volte è normale durante gli aggiornamenti, ma sospetto alle 2 del mattino se seguito da una nuova distribuzione di contenitori da un registro sconosciuto. Tempo riconosce ciò perché guarda alla sequenza, alla temporizzazione e al contesto simultaneamente. Inoltre, il nostro pipeline di apprendimento attivo monitora e raccoglie informazioni su specifici stili di rilevamento. Se il pipeline rileva uno scostamento nelle prestazioni o nei dati, utilizzerà gli snapshot e il feedback degli analisti per ritoccare un piccolo numero di parametri del modello.

Costruiamo la nostra rilevazione su metadati di rete grezzi e ad alta fedeltà, combinando l’intelligenza temporale con la creazione di modelli di comportamento per fornire avvisi ad alta fiducia, anche in ambienti cloud che cambiano in un batter d’occhio.

Qual è il ruolo dell’esplicabilità nel vostro sistema e come assicurate che gli avvisi vengano con un contesto interpretabile e utilizzabile?

Ogni rilevamento in Tempo include un riassunto, le prove del log sottostanti e la tattica inferita (ad esempio, Accesso alle credenziali tramite Forza Bruta). Forniamo anche un grafico di entità correlate, utenti, endpoint, risorse cloud, in modo che i team SOC possano visualizzare l’incidente. L’obiettivo è eliminare l’effetto “scatola nera” che affligge molti sistemi AI.

Abbiamo preso in prestito da strumenti di esplicabilità accademici come LIME e SHAP nei primi prototipi, ma abbiamo trovato che non erano intuitivi per gli analisti. Quindi, invece, generiamo una narrazione in linguaggio chiaro: cosa è successo, quando, perché è sospetto e quanto siamo sicuri. Ciò non riguarda solo la chiarezza, ma anche abilitare gli analisti di tier-one ad agire senza escalare ogni allarme.

Quali sono i rischi a lungo termine degli aggressori che utilizzano l’AI e i modelli di fondazione stessi e come DeepTempo intende rimanere in vantaggio?

Il panorama delle minacce sta entrando in una fase in cui gli aggressori possono schierare agenti AI che auto-apprendono, mutano i payload in volo e simulano il comportamento degli utenti legittimi. Questi agenti possono operare 24 ore su 24, sette giorni su sette, sondando per punti deboli, adattandosi con ogni tentativo fallito. Ciò rappresenta un cambiamento fondamentale; non si tratta più di zero-day, ma di velocità, iterazione e offuscamento.

Ci stiamo preparando investendo nell’addestramento avversario, nella rilevazione a monte e nella modellazione del comportamento che non si basa su indicatori noti. Il nostro obiettivo è identificare la struttura del comportamento maligno prima che si aggravasse. Stiamo anche esplorando modi per improntare il traffico di attaccanti generato dall’AI, proprio come abbiamo fatto una volta per i botnet, in modo che i difensori possano segnalare l’attività anche quando i payload cambiano costantemente.

 Grazie per la grande intervista, i lettori che desiderano saperne di più possono visitare DeepTempo.