Mayank Kumar, grundlæggende AI-ingeniør hos DeepTempo – Intervieuserie

Mayank Kumar er grundlæggende AI-ingeniør hos DeepTempo, hvor han leder design og udvikling af virksomhedens grundlæggende Log Language Model (LogLM). Med en stærk akademisk og forskningsmæssig baggrund inden for generativ og multimodal AI, bringer han specialiseret ekspertise til opbygning af domænespecifikke modeller, der forbedrer trusselforståelse og -respons i cybersikkerhedsomgivelser.

DeepTempo er et cybersikkerhedsfirma bygget op omkring LogLM, en AI-naturlig grundmodel trænet på store mængder sikkerhedslogdata. Platformen excellerer i at identificere avancerede, tidligere usete trusler, samtidig med at den minimiserer falske positiver. Designet til at integrere nærmest i eksisterende sikkerhedsarbejdsgange, understøtter DeepTempo installationer på tværs af datalakes, Kubernetes og Snowflake, hvilket muliggør hurtigere retsmedicin, reducerede dataindtagelsesomkostninger og skalerbar, automatiseret forsvar for moderne virksomheder.

Hvad førte dig til at co-etablere DeepTempo, og hvordan bidrog din baggrund i akademisk forskning og open-source AI til virksomhedens retning?

Jeg voksede op i en tæt sammentømret fællesskab, hvor relationer blev bygget ansigt til ansigt, ikke gennem skærme. Min far, en lærer, indpodede i mig vigtigheden af at give noget tilbage. Selv om vi ikke var rigelige på materiel plane, var vi rige på forbindelse og formål. I den slags miljø lærer du hurtigt, at løsning af problemer ikke kun handler om individuel talent – det handler om kollektiv styrke. Denne tankegang blev ved med mig og førte til min interesse for social entrepreneurship, mens jeg studerede ingeniørvidenskab på IIT Ropar.

Vendepunktet kom, da min fars browser blev ramt af et ransomware-angreb. Det var ikke kun et teknisk fejl, men det introducerede frygt, forvirring og sårbarhed i vores hjem. Denne oplevelse åbnede mine øjne for, hvor skrøbelig den digitale verden er, ikke kun for enkeltindivider, men for organisationer, der konstant er under trussel. Omkring den tid mødte jeg Evan, hvis vision for at bygge kollektivt forsvar på internettets skala dybt resonerede med mig. Denne fælles mission – og min drivkraft til at anvende teknologi i tjeneste for mennesker – er, hvad der tiltrak mig til DeepTempo.

På University of Washington fokuserede min forskning på to kerneområder: multimodal repræsentationslæring og datacentreret AI. Begge viste sig at være afgørende, da vi byggede vores vertikale grundmodel, LogLM. I modsætning til naturlig sprog er cybersikkerhedslogfiler rodede, strukturerede og fragmenterede. Vores første udfordring var at konstruere et nyt “sprog” til at fortolke disse data, hvilket muliggjorde, at LogLM kunne lære meningsfulde repræsentationer fra disse sekvenser. Vi har også investeret massivt i, hvordan vi vurderer præstation, fordi nøjagtighed ikke er valgfrit i sikkerhed, og hallucinationer ikke er acceptabelt.

Men ud over teknologien har vores nordlys altid været kollektivt forsvar. Det er derfor, at open-source-samarbejde vil være afgørende for at gøre denne mission succesfuld i stor skala.

Begrebet “kollektivt forsvar” er centralt for DeepTempo. Hvad betyder det i praksis, og hvordan adskiller det sig fra traditionelle tilgange til cybersikkerhed?

I praksis betyder kollektivt forsvar, at når en kundes instance af LogLM identificerer en ny angrebsadfærd, f.eks. en iscenesat C2- og exfiltreringskampagne, der involverer beaconingadfærd efterfulgt af usædvanlig udgående dataoverførsel, kan denne indsigt destilleres til en generaliseret adfærds_signature og deles på tværs af økosystemet. Afgørende er, at dette ikke indebærer at sende rå logfiler eller kundedata. I stedet abstraherer vi højtilids adfærds mønstre og inkorporerer dem i modelvægte gennem fødererede læringsmetoder.

Dette er en markant kontrast til legacy-systemer, der afhænger af enten en-size-fits-all-regler eller statiske trusselsintelligensfeeds. Disse systemer udvikler sig ikke, før multiple ofre er berørt. Med kollektivt forsvar udvikler detektionssystemet sig med hver højkvalitets signal, selv hvis truslen er hyper-specifik for en bestemt omgang. Dette tillader os at fange polymorfe trusler og LLM-forstærkede agente angrebsflader, før de bliver udbredt.

Hvilke specifikke huller i virksomhedssikkerheden førte til udviklingen af LogLM, og hvordan adskiller det sig fundamentalt fra ældre detektionssystemer?

Virksomhedssikkerheds hold står over for tre store problemer: høj støj-til-signal-forhold, skrøbelige detektioner, der ikke overføres mellem omgivelser, og langsom tilpasning til nye trusler. LogLM blev skabt for at løse alle tre.

De fleste eksisterende systemer afhænger af regelbaserede eller snævre ML-tilgange, der kræver uger eller måneder af finjustering for at forstå en ny omgang. Disse tilgange fejler, når angribere blot ændrer taktik, som vi har set med grupper som Scattered Spider eller Volt Typhoon. LogLM er trænet på store mængder sikkerhedstelemetri, der behandles som en slags struktureret sprog. Dette tillader det at genkende komplekse sekvenser, såsom en stigning i udgående DNS-anmodninger efterfulgt af usædvanlig Okta-aktivitet, ikke som isolerede anomalier, men som en del af en trusselsnarrativ.

I modsætning til legacy-værktøjer, der producerer ikke-tilknyttede varslinger, producerer LogLM fortolkelige, taktikniveau-detektioner. Og fordi det er bygget helt fra bunden, i stedet for genbrugt eller tilpasset, er det designet til sikkerhed fra bunden, hvilket muliggør hurtig tilpasning med kun få dages ulabelte logfiler. Dette gør onboarding hurtigt og detektion langt mere robust.

Hvad er skyggeagenter, og hvordan udgør de en risiko for organisationer, der opererer uden central oversigt?

Skyggeagenter er autonome AI-værktøjer, ofte bygget på toppen af LLM’er, der opererer inden for en virksomhed uden eksplicit godkendelse eller synlighed fra sikkerhedsholdet. Et nyligt eksempel er MITRE’s CVE-2025-32711 (“EchoLeak”), en zero-click-sårbarhed i Microsoft 365 Copilot udløst af blot at bede det om at sammenfatte e-mails. Fejlen tillader angribere at eksfiltrere interne data via agentens RAG-kontekst, uden brugerinteraktion. Mens disse agenter kan øge produktiviteten, omgår de ofte sikkerhedsrevision og udsætter følsomme data for ukontrolleret inferenslag.

Vi har set tilfælde, hvor en skyggeagent bygget med en offentlig LLM blev eksponeret for systemlogfiler og begyndte at lække stack-spore indeholdende hardcoded legitimationsoplysninger. Disse agenter er typisk ikke instrumenteret med DLP-kontroller, følger ikke adgangspolitikker og bliver ikke auditeret. Værre endnu, fordi de kan træffe beslutninger, såsom at videregive output til eksterne systemer, bliver de selv angrebsflader. I sammenhæng med prompt-injektion eller adversarial-kædning kan en enkelt agent blive tvunget til at udløse downstream-handlinger med reel impact.

Hvorfor bliver prompt-injektion og model-manipulation til alvorlige trusler, og hvorfor fanger de fleste nuværende systemer dem ikke?

Prompt-injektion er farlig, fordi den udnytter modellens kernefunktionalitet: at fortolke naturligt sprog. De fleste virksomhedssystemer behandler modellens output som troværdig, men hvis modellen modtager skjulte instruktioner, indlejret i en brugerkommentar, API-kald eller selv et filnavn, kan den blive tricket til at udføre uventede handlinger. Vi har set, at angribere bruger dette til at hente legitimationsoplysninger fra chatsammenfald, efterligne brugere eller omgå inputvalidering.

Det dybere problem er, at LLM’er er optimeret til kohærens, ikke sikkerhed. Som vi udforskede i vores seneste svar til Royal Societys studie, prioriterer modeller flyd og generalitet over forsigtighed og præcision. Selv at prompte dem til at “være mere nøjagtige” kan have den modsatte effekt, hvilket fører til mere selvbevidste, men stadig forkerte, svar. Og adversarial model-manipulation er en langsigtede bekymring. Angribere kan forgifte datasæt eller subtilt forme output ved at gentage strukturerede forespørgsler over tid, langsomt skubbe modellen ind i en mere tilladende adfærdsrum. Detektion her kræver fuld-kæde-logning, kontinuerlig vurdering og model-lag-sandbox, teknikker, som de fleste virksomhedssystemer endnu ikke har antaget.

Hvordan bruger Tempo MITRE ATT&CK-mappinger til at give handlebare efterretninger i stedet for blot rå varslinger?

Tempo mapper sine detektioner til ATT&CK-taktikker og -teknikker ved hjælp af både overvågede klassificatorer og ikke-overvåget adfærds-kædning. Når systemet ser en sekvens som mistænkelig PowerShell-eksekvering, registry-nøgle-modifikation og usædvanlig udgående trafik, varsler det ikke kun på hvert trin, men mærker sekvensen som Eksekvering > Forsvars-evasion > Eksfiltration, svarende til kendte ATT&CK-ID’er.

Dette tillader forsvarere at straks forstå angriberens mål og hvor de er i dræberkæden. Vi tilbyder også berigelse: berørte enheder, relaterede logfiler og tillidsvurderinger. Denne strukturerede tilgang reducerer den kognitive belastning for SOC-analytikere og accelererer respons-arbejdsgange; hold ved, hvilken taktik der blev brugt, hvad der førte til det, og hvad det næste trin sandsynligvis er. Det er et stort spring fra varslingssystemer, der affyrer på hver enkelt anomalie uden narrativ kontekst.

Hvorfor opererer DeepTempo upstream af SIEM (Security Information and Event Management)-systemer, og hvordan forbedrer denne positionering trusselsdetektion og strømlinerer operationer for sikkerhedshold?

SIEM’er har tendens til at normalisere og filtrere logfiler for at reducere indtagelsesomkostninger. Men ved at gøre det mister de ofte værdifuld kontekst, såsom præcise tidsstempel, latens-spirer eller efemære sessionsadfærd. DeepTempo opererer upstream, indtagende rå telemetri før denne transformation. Dette tillader os at modelere rigere adfærds-mønstre, som service-token-genbrug med små tidsvariationer eller sjældne API-kald-sekvenser, der aldrig ville nå SIEM-grænserne.

Arbejde upstream betyder også, at vi kan reducere støj, før det når SIEM. I stedet for at skubbe petabytes af loglinjer om dagen, sender vi 50-100 højkontekst-begivenheder med fuld ATT&CK-berigelse og modelbaseret scoring. Hold bruger mindre tid på at triage og mere tid på at undersøge trusler, der betyder noget. Dette reducerer også SIEM-lagring- og beregningsomkostninger, der kan være betydelige i store omgivelser.

Hvad muliggør, at Tempo kan finjustere modeller til nye omgivelser så hurtigt, og hvordan sammenligner dette med traditionelle maskinlærings-arbejdsgange?

Traditionelle ML-systemer kræver ofte uger af mærket data og genetræning for at tilpasse sig en ny omgang. Tempo tager en fundamentalt anderledes tilgang. I stedet for at starte fra scratch udnytter det en forudtrænet model bygget på store mængder virkelige netværks-telemetri, såsom NetFlow og VPC-flow-data. Dette giver det en stærk forståelse af, hvordan trafik flyder og adfærd typisk ser ud på tværs af diverse omgivelser.

Når Tempo deployeres i en ny indstilling, har det ikke brug for mærket data eller lange læringscykler. Det bruger kun få dage af lokal netværksaktivitet til at etablere en baseline og finjustere sig selv for at detektere mønstre specifikke for den pågældende omgang, såsom usædvanlig adgang udenfor arbejdstid, service-til-service-kommunikationsanomalier eller uventet dataforsflytning. Dette sker på timer, ikke uger.

Fordi processen er selv-overvåget, er der ingen behov for, at sikkerhedshold manuelt flagger eller mærker begivenheder. Og for at forblive aktuel, mens omgivelser udvikler sig, har vi bygget ind snapshot-mekanismer, der tillader modellen at “glemme” forældede adfærd, når infrastruktur eller politikker ændres. Arbejde på netværkslaget tillader os at detektere trusler tidligere og bredere, noget der adskiller Tempo fra traditionelle endpoint- eller log-centriske sikkerhedsværktøjer.

Hvordan opretholder DeepTempo høj nøjagtighed, samtidig med at det minimiserer falske positiver, især i dynamiske cloud-miljøer?

Vi kombinerer tidsmæssig modelering med kontekst-bevidst netværksadfærdsanalyse, bygget direkte på NetFlow og VPC-flow-logfiler. Vores nobel sekvens-genererings-tilgang kombineret med stor-skala-forudtræning af transformer-baseret dyb-læringsalgoritmer hjælper med at forstå, hvordan netværksbegivenheder udvikler sig over tid. Vi flagrer ikke en enkelt mislykket login, men vi flagrer en mislykket login efterfulgt af en succesfuld login fra en ny enhed, lateral bevægelse og usædvanlig dataadgang. Denne lagdelte tidsmæssige kontekst filtrerer ud støj og fremhæver rigtige og nye trusler.

For det andet profilerer vi bruger- og service-adfærd i kontekst. En Kubernetes-node, der genstartes 12 gange, er normalt under opdateringer, men mistænkeligt kl. 2 om natten, hvis det efterfølges af en ny container-installation fra en ukendt registry. Tempo genkender dette, fordi det ser på sekvens, timing og kontekst samtidigt. Desuden overvåger vores aktive læringspipeline aktivt og indsamler oplysninger om bestemte detektionsstile. Hvis pipeline-detektion afslører drift i præstation eller data, vil den udnytte snapshots og feedback fra analytikere til at finjustere en lille mængde parametre i modellen.

Vi bygger vores detektion på rå, høj-fidelitets netværks-metadata, kombinerer tidsmæssig intelligens med adfærds-baselining for at levere højtilids-varslinger, selv i cloud-miljøer, der skifter i et øjeblik.

Hvad er rollen af forklarbarhed i jeres system, og hvordan sikrer I, at varslinger kommer med brugbare, fortolkelige kontekster?

Hver detektion i Tempo inkluderer en sammenfatning, den underliggende log-bevis og den antagede taktik (f.eks. Adgang til legitimationsoplysninger via Brute Force). Vi tilbyder også en graf over relaterede enheder, brugere, slutpunkter, cloud-resourcer, så SOC-hold kan visualisere begivenheden. Målet er at eliminere “black box”-effekten, der plager mange AI-systemer.

Vi lånte fra akademiske forklarbarhedsværktøjer som LIME og SHAP i tidlige prototyper, men fandt, at de ikke var intuitive for analytikere. I stedet genererer vi en plain-sprog-narrativ: hvad der skete, hvornår, hvorfor det er mistænkeligt og hvor sikre vi er. Dette handler ikke kun om klarhed, men om at enablede tier-1-analytikere til at handle uden at eskalere hver enkelt varsling.

Hvad er de langsigtede risici ved, at angribere bruger AI og grundmodeller selv, og hvordan planlægger DeepTempo at holde sig foran?

Trusselslandskabet indtræder en fase, hvor angribere kan udrulle AI-agenter, der selv-lærer, muterer payload på flyve og simulerer legitime brugeradfærd. Disse agenter kan køre 24/7, sondering efter svage punkter, tilpasse sig med hver fejlende forsøg. Det er en fundamental ændring; det handler ikke længere om zero-days, men om hastighed, iteration og kamuflering.

Vi forbereder os ved at investere i adversarial-træning, upstream-detektion og adfærds-modelering, der ikke afhænger af kendte indikatorer. Vores mål er at identificere strukturen af skadelig adfærd, før det eskalerer. Vi udforsker også måder at fingerprint AI-genereret angriber-trafik, ligesom vi engang fingerprintede botnet, så forsvarere kan flagge aktivitet, selv når payload ændrer sig konstant.

 Tak for det store interview, læsere, der ønsker at lære mere, skal besøge DeepTempo.