Mayank Kumar, Inginer de Inteligență Artificială Fondator la DeepTempo – Seria de Interviuri

Mayank Kumar este Inginer de Inteligență Artificială Fondator la DeepTempo, unde conduce proiectarea și dezvoltarea modelului fundamental de limbaj Log Language Model (LogLM) al companiei. Cu o puternică bază academică și de cercetare în inteligență artificială generativă și multimodală, el aduce expertiză specializată în construirea de modele specifice domeniului care îmbunătățesc detectarea și răspunsul la amenințări în medii de securitate cibernetică.

DeepTempo este o companie de securitate cibernetică construită în jurul LogLM, un model de bază nativ AI, antrenat pe date de securitate la scară largă. Platforma excellează în identificarea amenințărilor avansate, nevăzute anterior, minimizând în același timp alarmele false. Proiectată pentru integrare perfectă în fluxurile de securitate existente, DeepTempo susține implementări în datalakes, Kubernetes și Snowflake, permițând o forensică mai rapidă, reducerea costurilor de ingestie a datelor și apărare automatizată, escalabilă pentru întreprinderile moderne.

Ce v-a determinat să co-fondați DeepTempo și cum a contribuit background-ul dvs. în cercetarea academică și inteligența artificială deschisă la direcția companiei?

Am crescut într-o comunitate strânsă, unde relațiile se construiau față în față, nu prin intermediul ecranelor. Tatăl meu, un profesor, mi-a insuflat importanța de a da înapoi. Deși nu eram bogați în sens material, eram bogați în conexiuni și scop. Într-un astfel de mediu, înveți repede că rezolvarea problemelor nu se reduce la talentul individual, ci la puterea colectivă. Această mentalitate mi-a rămas și, în cele din urmă, m-a condus spre interesul pentru antreprenoriatul social, pe care l-am studiat la IIT Ropar.

Punctul de cotitură a fost atunci când browser-ul tatălui meu a fost atacat de ransomware. Nu a fost doar o defecțiune tehnică, ci a introdus teamă, confuzie și vulnerabilitate în casa noastră. Această experiență mi-a deschis ochii asupra fragilității lumii digitale, nu doar pentru indivizi, ci și pentru organizații care sunt în permanență sub atac. În acea perioadă, l-am cunoscut pe Evan, a cărui viziune pentru construirea apărării colective la scară de internet a rezonat profund cu mine. Acea misiune comună și dorința mea de a aplica tehnologia în serviciul oamenilor m-au atras la DeepTempo.

La Universitatea din Washington, cercetarea mea s-a axat pe două domenii principale: reprezentarea multimodală și inteligența artificială centrată pe date. Ambele s-au dovedit a fi cruciale în timp ce construiam modelul nostru de bază vertical, LogLM. În contrast cu limbajul natural, jurnalele de securitate sunt haotice, structurate și fragmentate. Prima noastră provocare a fost să construim un nou “limbaj” pentru a interpreta aceste date, permițând LogLM să învețe reprezentări semnificative din aceste secvențe. De asemenea, am investit mult în modul în care evaluăm performanța, deoarece în securitate, acuratețea nu este opțională, iar halucinațiile nu sunt acceptabile.

Dar dincolo de tehnologie, steaua noastră polară a fost întotdeauna apărarea colectivă. De aceea, colaborarea deschisă va fi esențială pentru a face această misiune reușită la scară.

Conceptul de “apărare colectivă” este central pentru DeepTempo. Ce înseamnă acest lucru în practică și cum se diferențiază de abordările tradiționale de securitate cibernetică?

În practică, apărarea colectivă înseamnă că atunci când o instanță a LogLM a unui client identifică un comportament de atac nou, de exemplu, o campanie de C2 și exfiltrare cu comportament de beaconare urmată de transfer de date anormal, acea informație poate fi distilată într-un semnătură comportamentală generalizată și partajată în întregul ecosistem. Esențial, acest lucru nu implică trimiterea de jurnale brute sau date ale clienților. În schimb, abstractizăm modele comportamentale de înaltă încredere și le incorporăm în greutățile modelului prin tehnici de învățare federate.

Acest lucru reprezintă un contrast puternic cu sistemele legacy care se bazează pe reguli universale sau fluxuri de informații despre amenințări statice. Aceste sisteme nu evoluează până când multiple victime sunt afectate. Cu apărarea colectivă, sistemul de detectare evoluează cu fiecare semnal de înaltă calitate, chiar dacă amenințarea este hiper-specifică unei anumite medii. Acest lucru ne permite să detectăm amenințări polimorfe și fluxuri de atac agenți întăriți de LLM înainte de a deveni răspândite.

Care au fost lacunele specifice în securitatea întreprinderilor care au determinat dezvoltarea LogLM, și cum se diferențiază fundamental de sistemele de detectare mai vechi?

Echipele de securitate a întreprinderilor se confruntă cu trei probleme majore: raportul ridicat dintre zgomot și semnal, detectări fragile care nu se transferă între medii și adaptarea lentă la amenințări emergente. LogLM a fost creat pentru a aborda toate acestea.

Majoritatea sistemelor existente se bazează pe abordări bazate pe reguli sau pe îngustă învățare automată care necesită săptămâni sau luni de ajustare pentru a înțelege o nouă mediu. Aceste abordări eșuează atunci când atacatorii schimbă ușor tactica, așa cum am văzut cu grupuri precum Scattered Spider sau Volt Typhoon. LogLM este antrenat pe volume mari de telemetrie de securitate, tratând-o ca pe un fel de limbaj structurat. Acest lucru îi permite să recunoască secvențe complexe, cum ar fi o creștere a cererilor DNS de ieșire urmată de activitate Okta neobișnuită, nu ca anomalii izolate, ci ca parte a unei narative de amenințare.

În contrast cu instrumentele legacy care produc alerte desconectate, LogLM produce detectări la nivel de tactic, interpretabile. Și pentru că este construit integral de la zero, în loc de a fi reutilizat sau adaptat, este proiectat pentru securitate de la început, permițând o adaptare rapidă cu doar câteva zile de jurnale nelabelate. Acest lucru face ca integrarea să fie rapidă și detectarea mult mai rezistentă.

Ce sunt agenții umbra și cum reprezintă ei un risc pentru organizații care operează fără supraveghere centralizată?

Agenții umbra sunt instrumente autonome AI, adesea construite pe baza LLM, care operează în cadrul unei întreprinderi fără autorizare explicită sau vizibilitate din partea echipei de securitate. Un exemplu recent este MITRE’s CVE‑2025‑32711 (“EchoLeak”), o vulnerabilitate zero-click în Microsoft 365 Copilot, declanșată pur și simplu prin solicitarea de a rezuma e-mailuri. Defectul permite atacatorilor să extragă date interne prin contextul RAG al agentului, fără nicio interacțiune a utilizatorului. Deși acești agenți pot îmbunătăți productivitatea, adesea ocolesc revizia de securitate și expun date sensibile la straturi de inferență necontrolate.

Am văzut cazuri în care un agent umbra construit cu un LLM public a fost expus la jurnale de sistem și a început să scurgă urme de stivă care conțineau credențiale hardcodate. Acești agenți nu sunt de obicei instrumentați cu controale DLP, nu respectă politici de acces și nu sunt auditați. Mai rău, deoarece pot lua decizii, cum ar fi redirecționarea output-ului către sisteme externe, devin ele însele suprafețe de atac. În contextul injecției de prompt sau al înlănțuirii adverse, un singur agent poate fi forțat să declanșeze acțiuni cu impact real.

De ce devin injecția de prompt și manipularea modelului amenințări grave, și de ce nu prind majoritatea sistemelor actuale?

Injecția de prompt este periculoasă pentru că exploatează funcționalitatea de bază a modelului: interpretarea limbajului natural. Majoritatea sistemelor de întreprindere tratează ieșirile modelului ca fiind de încredere, dar dacă modelul primește instrucțiuni ascunse, înglobate într-un comentariu al utilizatorului, o chemare API sau chiar un nume de fișier, poate fi păcălit să efectueze acțiuni neintenționate. Am văzut adversari care folosesc acest lucru pentru a extrage credențiale din istoricul chat-urilor, a impersona utilizatori sau a ocoli validarea input-ului.

Problema mai profundă este că LLM-urile sunt optimizate pentru coerență, nu pentru securitate. Așa cum am explorat în răspunsul nostru recent la studiul Societății Regale, modelele tinde să prioritizeze fluența și generalitatea în detrimentul prudenței și preciziei. Chiar și atunci când li se solicită să “fie mai precise”, poate duce la răspunsuri mai încrezătoare, dar în continuare incorecte. Și manipularea adversă a modelului este o preocupare pe termen lung. Atacatorii pot otrăvi seturile de date sau modela ieșirile prin întrebări structurate repetate în timp, împingând treptat modelul către un spațiu comportamental mai permisiv. Detectarea aici necesită înregistrarea completă a lanțului, evaluarea continuă și sandbox-ul la nivel de model, tehnici pe care majoritatea sistemelor de întreprindere nu le-au adoptat încă.

Cum utilizează Tempo hărțile MITRE ATT&CK pentru a oferi informații cu adevărat acționabile, și nu doar alerte brute?

Tempo cartografiază detectările sale la tactici și tehnici ATT&CK utilizând atât clasificatori supravegheați, cât și lanțuri de comportament nesupravegheate. Atunci când sistemul observă o secvență precum o execuție suspectă PowerShell, modificare a cheii de registru și trafic neobișnuit de ieșire, nu doar alertează pentru fiecare pas, ci etichetează secvența ca Execuție > Evasion de Apărare > Exfiltrare, corespunzător cu ID-urile cunoscute ATT&CK.

Acest lucru permite apărătorilor să înțeleagă imediat obiectivul adversarului și unde se află în lanțul de atac. De asemenea, oferim îmbogățire: entități afectate, jurnale conexe și scoruri de încredere. Abordarea structurată reduce încărcătura cognitivă pentru analiștii SOC și accelerează fluxurile de răspuns, echipele știu ce tactică a fost utilizată, ce a condus la ea și ce este următorul pas probabil. Acesta este un salt major de la sistemele de oboseală a alertelor care emit alerte pentru fiecare anomalie fără context narativ.

De ce DeepTempo operează upstream de sistemele SIEM (Managementul Informațiilor și Evenimentelor de Securitate), și cum îmbunătățește această poziționare detectarea amenințărilor și simplifică operațiunile pentru echipele de securitate?

SIEM-urile tind să normalizeze și să filtreze jurnalele pentru a reduce costurile de ingestie. Dar, în acest proces, adesea pierd contextul valoros, cum ar fi timpii de precizie, salturile de latență sau comportamentele de sesiune efemere. DeepTempo operează upstream, ingerează telemetria brută înainte de această transformare. Acest lucru ne permite să modelăm modele comportamentale mai bogate, cum ar fi reutilizarea token-ului de serviciu cu variații minore de timp sau secvențe rare de apeluri API care nu ar fi putut trece prin pragurile SIEM.

Lucrul upstream înseamnă, de asemenea, că putem reduce zgomotul înainte de a ajunge la SIEM. În loc de a trimite zilnic petabiți de linii de jurnal, trecem doar 50-100 de evenimente cu context ridicat, îmbogățite cu ATT&CK și scoruri bazate pe model. Echipele petrec mai puțin timp pentru triaj și mai mult timp pentru investigarea amenințărilor care contează. Acest lucru reduce, de asemenea, costurile de stocare și calcul SIEM, care pot fi semnificative în medii mari.

Ce permite Tempo să ajusteze modelele la noi medii atât de repede, și cum se compară acest lucru cu fluxurile de lucru tradiționale de învățare automată?

Sistemele tradiționale de învățare automată necesită adesea săptămâni de date etichetate și reantrenare pentru a se adapta la un mediu nou. Tempo adoptă o abordare fundamental diferită. În loc de a începe de la zero, se bazează pe un model preantrenat construit pe telemetrie de rețea la scară largă, cum ar fi datele de flux NetFlow și VPC. Acest lucru îi oferă o înțelegere puternică a modului în care traficul și comportamentele arată de obicei în medii diverse.

Când Tempo este implementat într-un mediu nou, nu are nevoie de date etichetate sau de cicluri lungi de învățare. Utilizează doar câteva zile de activitate de rețea locală pentru a stabili o linie de bază și a se ajusta pentru a detecta modele specifice acelui mediu, cum ar fi accesul neobișnuit în afara orelor de program, anomalii de comunicare serviciu-la-serviciu sau mișcări neașteptate de date. Acest lucru se întâmplă în ore, nu în săptămâni.

Deoarece procesul este auto-supervizat, nu este nevoie ca echipele de securitate să eticheteze manual evenimente. Și pentru a rămâne la curent cu evoluția mediilor, am construit mecanisme de capturare a imaginilor care permit modelului să “uite” comportamentele învechite atunci când infrastructura sau politicile se schimbă. Operarea la nivel de rețea ne permite să detectăm amenințări mai devreme și mai larg, ceea ce ne diferențiază de instrumentele tradiționale de securitate centrate pe puncte de extremitate sau jurnale.

Cum menține DeepTempo o acuratețe ridicată, minimizând în același timp alarmele false, mai ales în medii dinamice de cloud?

Combinăm modelarea temporală cu analiza comportamentală a rețelei conștientă de context, construită direct pe jurnalele NetFlow și VPC. Abordarea noastră de generare a secvențelor nobile, combinată cu preantrenarea pe scară largă a algoritmilor de învățare profundă bazate pe transformatori, ne ajută să înțelegem cum evenimentele de rețea se desfășoară în timp. Nu semnalăm o singură încercare de conectare eșuată, dar semnalăm o încercare de conectare eșuată urmată de o conectare reușită de la un dispozitiv nou, mișcare laterală și acces neobișnuit la date. Acest context temporal stratificat filtrează zgomotul și evidențiază amenințări reale și noi.

În al doilea rând, profilăm comportamentele utilizatorilor și serviciilor în context. Un nod Kubernetes care pornește de 12 ori este normal în timpul actualizărilor, dar este suspect la 2 dimineața, dacă este urmat de o nouă implementare de container dintr-un registru necunoscut. Tempo recunoaște acest lucru pentru că examinează secvența, temporizarea și contextul simultan. De asemenea, pipeline-ul nostru de învățare activă monitorizează și colectează informații despre stilurile specifice de detectare. Dacă pipeline-ul detectează o derivă în performanță sau date, va utiliza imaginile și feedback-ul de la analiști pentru a ajusta un număr mic de parametri ai modelului.

Construim detectarea noastră pe metadate de rețea brute, de înaltă fidelitate, combinând inteligența temporală cu modelarea comportamentală pentru a oferi alerte de înaltă încredere, chiar și în medii de cloud care se schimbă într-o clipă.

Care este rolul explicabilității în sistemul dvs., și cum asigurați că alertele vin cu context utilizabil și interpretabil?

Fiecare detectare în Tempo include un rezumat, probele de jurnal subiacente și tactica inferată (de exemplu, Acces la Credențiale prin Forță Brută). De asemenea, oferim un grafic al entităților conexe, utilizatori, puncte de extremitate, resurse cloud, astfel încât echipele SOC să poată vizualiza incidentul. Scopul este de a elimina efectul “cutiei negre” care afectează multe sisteme AI.

Am împrumutat din instrumentele academice de explicabilitate, cum ar fi LIME și SHAP, în prototipurile noastre inițiale, dar am constatat că nu sunt intuitive pentru analiști. În schimb, generăm o narativă în limbaj clar: ce s-a întâmplat, când, de ce este suspect și cât de încrezători suntem. Acest lucru nu se referă doar la claritate, ci și la capacitatea de a permite analiștilor de nivel unu să acționeze fără a escalada fiecare alertă.

Care sunt riscurile pe termen lung ale utilizării de către atacatori a inteligenței artificiale și a modelelor de bază, și cum plănuiește DeepTempo să rămână înainte?

Peisajul amenințărilor intră într-o fază în care atacatorii pot desfășura agenți AI care se autoînvață, mutează încărcăturile pe parcurs și simulează comportamentul utilizatorilor legitimi. Acești agenți pot rula 24/7, testând punctele slabe, adaptându-se cu fiecare încercare eșuată. Acesta este un salt fundamental, nu mai este vorba despre zero-day, ci despre viteză, iterație și ofuscare.

Ne pregătim prin investiții în antrenament advers, detectare upstream și modelare comportamentală care nu se bazează pe indicatori cunoscuți. Scopul nostru este de a identifica structura de comportament malign înainte de a escalada. De asemenea, explorăm modalități de a imprima traficul de atacator generat de AI, la fel cum am făcut-o odinioară cu botnet-urile, astfel încât apărătorii să poată semnala activitatea chiar și atunci când încărcăturile se schimbă constant.

  Mulțumim pentru acest interviu minunat; cititorii care doresc să afle mai multe despre DeepTempo ar trebui să viziteze DeepTempo.