Mayank Kumar, Założyciel Inżynier AI w DeepTempo – Seria Wywiadów

Mayank Kumar jest Założycielem Inżynierem AI w DeepTempo, gdzie kieruje projektem i rozwojem podstawowego modelu językowego Log Language Model (LogLM). Z silnym akademickim i badawczym tłem w dziedzinie generatywnej i multimodalnej sztucznej inteligencji, wnosi specjalistyczną wiedzę w tworzeniu modeli specyficznych dla danego obszaru, które zwiększają wykrywanie i reagowanie na zagrożenia w środowiskach cyberbezpieczeństwa.

DeepTempo to firma cyberbezpieczeństwa zbudowana wokół LogLM, modelu AI-nativego, który został przeszkolony na dużych zbiorach danych zabezpieczeń. Platforma ta doskonale radzi sobie z identyfikacją zaawansowanych, wcześniej niewidzianych zagrożeń, jednocześnie minimalizując fałszywe alarmy. Zaprojektowana do bezproblemowej integracji z istniejącymi procesami zabezpieczeń, DeepTempo obsługuje wdrożenia w datalakes, Kubernetes i Snowflake, umożliwiając szybsze postępowanie, zmniejszone koszty pobierania danych i skalowalną, zautomatyzowaną obronę dla nowoczesnych przedsiębiorstw.

Czym skłoniło Cię do założenia DeepTempo, i jak Twoje doświadczenie w badaniach akademickich i otwartym oprogramowaniu AI przyczyniło się do kierunku rozwoju firmy?

Wyrastałem w środowisku, w którym relacje były budowane twarzą w twarz, a nie za pośrednictwem ekranów. Mój ojciec, nauczyciel, wpoił mi wagę dawania. Chociaż nie byliśmy bogaci w sensie materialnym, byliśmy bogaci w kontakty i cel. W takim środowisku szybko się uczymy, że rozwiązywanie problemów nie jest tylko kwestią indywidualnego talentu, ale siły kolektywnej. Ta postawa pozostała ze mną i ostatecznie doprowadziła mnie do zainteresowania przedsięwzięciami społecznymi podczas studiów inżynierskich na IIT Ropar.

Punkt zwrotny nastąpił, gdy przeglądarka internetowa mojego ojca została zaatakowana przez oprogramowanie ransomware. Nie był to tylko techniczny błąd, ale wprowadził strach, zamieszanie i podatność do naszego domu. To doświadczenie otworzyło mi oczy na to, jak kruchy jest świat cyfrowy, nie tylko dla jednostek, ale także dla organizacji, które są ciągle zagrożone. Wokół tego czasu spotkałem Evana, którego wizja budowy kolektywnej obrony na skalę internetu głęboko mi się spodobała. To wspólne posłannictwo – oraz moja motywacja do zastosowania technologii w służbie ludzi – to to, co skłoniło mnie do przyłączenia się do DeepTempo.

Na Uniwersytecie Waszyngtońskim moje badania koncentrowały się na dwóch podstawowych obszarach: wielomodalnej reprezentacji i danych ukierunkowanych na AI. Oba okazały się kluczowe podczas budowy naszego pionierskiego modelu LogLM. W przeciwieństwie do języka naturalnego, dane zabezpieczeń są nieporządane, sformatowane i fragmentaryczne. Naszym pierwszym wyzwaniem było stworzenie nowego „języka”, aby zinterpretować te dane, umożliwiając LogLM naukę znaczących reprezentacji z tych sekwencji. Zainwestowaliśmy również wiele w to, jak oceniamy wydajność, ponieważ w bezpieczeństwie dokładność nie jest opcjonalna, a halucynacje nie są akceptowalne.

Ale poza technologią naszą gwiazdą północną zawsze było kolektywne zabezpieczenie. Dlatego współpraca open-source będzie niezbędna, aby uczynić tę misję udaną na dużą skalę.

Pojęcie „kolektywnej obrony” jest centralne dla DeepTempo. Co to oznacza w praktyce, i jak różni się to od tradycyjnych podejść do cyberbezpieczeństwa?

W praktyce kolektywna obrona oznacza, że gdy jeden z klientów zidentyfikuje nowe zachowanie ataku, np. kampanię C2 i exfiltracji z beaconingiem, postępujemy w taki sposób, aby ta wiedza mogła być udostępniona w całym ekosystemie. Nie chodzi tu o wysyłanie surowych logów czy danych klienta. Zamiast tego, abstrahujemy wysokiej jakości wzorce behawioralne i włączamy je do wag modelu za pomocą techniki federacyjnego uczenia.

To jest wyraźna różnica w porównaniu z systemami dziedzicznymi, które opierają się na regułach lub statycznych strumieniach informacji o zagrożeniach. Te systemy nie ewoluują, dopóki wiele ofiar nie zostanie dotkniętych. Z kolektywną obroną system wykrywania ewoluuje z każdym wysokiej jakości sygnałem, nawet jeśli zagrożenie jest bardzo specyficzne dla jednego środowiska. Pozwala nam to na wykrywanie polimorficznych zagrożeń i LLM-augmented agentic attack flows, zanim staną się powszechne.

Jakie konkretnie luki w zabezpieczeniach przedsiębiorstw skłoniły do rozwoju LogLM, i jak on fundamentalnie różni się od starszych systemów wykrywania?

Zespoły zabezpieczeń przedsiębiorstw stają przed trzema głównymi problemami: wysokim stosunkiem szumu do sygnału, kruchymi wykryciami, które nie przenoszą się między środowiskami, oraz powolną adaptacją do nowych zagrożeń. LogLM został stworzony, aby rozwiązać wszystkie te problemy.

Większość istniejących systemów opiera się na podejściach opartych na regułach lub wąskich podejściach ML, które wymagają tygodni lub miesięcy dostosowywania, aby zrozumieć nowe środowisko. Te podejścia zawodzą, gdy atakujący nieznacznie zmieniają taktykę, jak to widzieliśmy w przypadku grup takich jak Scattered Spider lub Volt Typhoon. LogLM jest przeszkolony na dużych ilościach danych telemetrycznych, traktując je jako rodzaj sformatowanego języka. Pozwala to na rozpoznanie złożonych sekwencji, takich jak nagły wzrost niezwykłych żądań DNS, następnie niezwykła aktywność Okta, nie jako izolowanych anomalii, ale jako części narracji o zagrożeniu.

W przeciwieństwie do starszych narzędzi, które produkują rozłączone alerty, LogLM produkuje wykrycia na poziomie taktyki, które są interpretowalne. A ponieważ jest zbudowany od podstaw, a nie przerobiony lub dostosowany, jest zaprojektowany z myślą o zabezpieczeniach od samego początku, umożliwiając szybką adaptację już po kilku dniach nieoznaczonych logów. To sprawia, że wdrożenie jest szybkie, a wykrywanie znacznie bardziej odporne.

Co to są agenci cieni, i jak stanowią one zagrożenie dla organizacji działających bez scentralizowanego nadzoru?

Agenci cieni to autonomiczne narzędzia AI, często zbudowane na podstawie LLM, które działają w przedsiębiorstwie bez jawnej autoryzacji lub widoczności ze strony zespołu zabezpieczeń. Ostatnim przykładem jest MITRE’s CVE‑2025‑32711 (“EchoLeak”), zero-click vulnerability w Microsoft 365 Copilot wywołany prośbą o podsumowanie e-maili. Wada pozwala atakującym na wyciek wewnętrznych danych za pośrednictwem kontekstu RAG agenta, bez interakcji użytkownika. Chociaż te agenci mogą zwiększyć produktywność, często omijają przegląd zabezpieczeń i narażają wrażliwe dane na niekontrolowane warstwy inferencyjne.

Widzieliśmy przypadki, w których agent cieni zbudowany z publicznego LLM był narażony na logi systemowe i zaczął przeciekać ślady stosu zawierające twardo zakodowane poświadczenia. Te agenci zwykle nie są instrumentowane kontrolami DLP, nie przestrzegają polityk dostępu i nie są audytowane. Co gorsza, ponieważ mogą podejmować decyzje, takie jak przekazywanie danych do zewnętrznych systemów, stają się one samymi powierzchniami ataku. W kontekście wstrzykiwania poleceń lub łańcuchowego łączenia, jeden agent może być zmuszony do wywołania dalszych działań o realnym wpływie.

Dlaczego wstrzykiwanie poleceń i manipulacja modelem stają się poważnymi zagrożeniami, i dlaczego większość obecnych systemów ich nie wykrywa?

Wstrzykiwanie poleceń jest niebezpieczne, ponieważ wykorzystuje podstawową funkcjonalność modelu: interpretację języka naturalnego. Większość systemów przedsiębiorstw traktuje dane wyjściowe modelu jako godne zaufania, ale jeśli model otrzyma ukryte instrukcje, osadzone w komentarzu użytkownika, wywołaniu API lub nawet nazwie pliku, może być oszukany, aby wykonał niezamierzone działania. Widzieliśmy, jak przeciwnicy wykorzystują to, aby pobrać poświadczenia z historii czatu, podszyć się pod użytkowników lub ominąć walidację danych wejściowych.

Głębszym problemem jest to, że LLM są zoptymalizowane pod kątem spójności, a nie zabezpieczeń. Jak to było w naszej odpowiedzi na badanie Royal Society, modele mają tendencję do priorytetowego traktowania płynności i ogólności nad ostrożnością i precyzją. Nawet nakazanie im „być bardziej dokładnymi” może mieć odwrotny skutek, prowadząc do bardziej pewnych, ale wciąż niepoprawnych, odpowiedzi. A manipulacja modelem przez przeciwnika jest długoterminową troską. Atakujący mogą zatruwać zbiory danych lub stopniowo kształtować dane wyjściowe, powtarzając strukturalne zapytania w czasie, stopniowo wprowadzając model w bardziej permissive przestrzeń behawioralną. Wykrywanie tu wymaga pełnego łańcucha logowania, ciągłej oceny i piaskownic modelu, techniki, które większość systemów przedsiębiorstw jeszcze nie przyjęła.

Jak DeepTempo wykorzystuje mapowania MITRE ATT&CK, aby dostarczać działania wywiadowcze, a nie tylko surowe alerty?

Tempo mapuje swoje wykrycia na taktyki i techniki ATT&CK za pomocą zarówno nadzorowanych klasyfikatorów, jak i łańcuchowego łączenia zachowań. Gdy system widzi sekwencję, taką jak podejrzane wykonanie programu PowerShell, modyfikacja klucza rejestru i niezwykły ruch wychodzący, nie tylko alarmuje na każdym kroku, ale taguje sekwencję jako Wykonanie > Unikanie Obrony > Wyciek, dopasowując znane ID ATT&CK.

To pozwala obrońcom natychmiast zrozumieć cel przeciwnika i gdzie się znajduje w łańcuchu zabójstwa. Dostarczamy również wzbogacenie: wpływane jednostki, powiązane logi i wskaźniki ufności. Ten strukturalny podejście redukuje obciążenie poznawcze dla analityków SOC i przyspiesza przepływy odpowiedzi, zespoły wiedzą, jaka taktyka została użyta, co do niej doprowadziło i co najprawdopodobniej nastąpi jako następny krok. To duży skok od systemów zmęczenia alarmami, które strzelają na każdą anomalie bez narracyjnego kontekstu.

Dlaczego DeepTempo działa na poziomie powyżej systemów SIEM (Security Information and Event Management), i jak to umiejscowienie zwiększa wykrywanie zagrożeń i upraszcza operacje dla zespołów zabezpieczeń?

SIEM-y mają tendencję do normalizacji i filtrowania logów, aby zredukować koszty pobierania. Ale robiąc to, często tracą cenną kontekst, taką jak dokładne znaczniki czasu, spięcia opóźnień lub efemeryczne zachowania sesji. DeepTempo działa na poziomie powyżej, pobierając surową telemetrię przed taką transformacją. Pozwala nam to na modelowanie bogatszych wzorców behawioralnych, takich jak ponowne użycie tokenów usługi z lekko zmiennymi wariacjami czasowymi lub rzadkimi sekwencjami wywołań API, które nigdy nie przeszłyby przez progi SIEM.

Działanie na poziomie powyżej oznacza również, że możemy zredukować szum, zanim nawet dotrze do SIEM. Zamiast wysyłać petabajty logów dziennie, przekazujemy 50–100 zdarzeń o wysokiej kontekstowości z pełnym wzbogaceniem ATT&CK i oceną modelu. Zespoły spędzają mniej czasu na triażu i więcej czasu na badaniu zagrożeń, które mają znaczenie. To również obniża koszty magazynowania i obliczeniowego SIEM, które mogą być znaczne w dużych środowiskach.

Co umożliwia Tempo szybkie dostosowanie modeli do nowych środowisk, i jak to porównuje się do tradycyjnych przepływów pracy ML?

Tradycyjne systemy ML często wymagają tygodni oznaczonych danych i ponownego szkolenia, aby dostosować się do nowego środowiska. Tempo stosuje fundamentalnie odmienny podejście. Zamiast zaczynać od zera, wykorzystuje pre-trenowany model zbudowany na dużych, realnych danych telemetrycznych, takich jak dane przepływu sieciowego i VPC. To daje mu silne zrozumienie, jak wyglądają normalne zachowania ruchu i zachowania w różnych środowiskach.

Gdy Tempo jest wdrożone w nowym środowisku, nie potrzebuje oznaczonych danych ani długich cykli uczenia. Używa tylko kilku dni lokalnej aktywności sieciowej, aby ustalić bazę i dostosować się do wykrywania wzorców specyficznych dla tego środowiska, takich jak niezwykły dostęp poza godzinami pracy, anomalie w komunikacji usługi do usługi lub nieoczekiwany ruch danych. To wszystko dzieje się w ciągu godzin, a nie tygodni.

Ponieważ proces jest samodzielnie nadzorowany, nie ma potrzeby, aby zespoły zabezpieczeń ręcznie flagowały lub oznaczały zdarzenia. Aby pozostać na bieżąco z ewoluującymi środowiskami, zbudowaliśmy mechanizmy migawek, które pozwalają modelowi „zapomnieć” przestarzałe zachowania, gdy infrastruktura lub polityki się zmieniają. Działanie na poziomie sieci pozwala nam na wykrywanie zagrożeń wcześniej i szerzej, co odróżnia Tempo od tradycyjnych narzędzi zabezpieczeń ukierunkowanych na punkt końcowy lub logi.

Jak DeepTempo utrzymuje wysoką dokładność, jednocześnie minimalizując fałszywe pozytywy, szczególnie w dynamicznych środowiskach chmury?

Łączymy modelowanie czasowe z analizą zachowania sieci w kontekście, zbudowaną bezpośrednio na logach NetFlow i VPC. Nasz szlachetny generator sekwencji w połączeniu z dużą ilością pre-trenowania algorytmów głębokiego uczenia opartych na transformatorach pomaga w zrozumieniu, jak zdarzenia sieciowe rozwijają się w czasie. Nie flagujemy pojedynczego nieudanego logowania, ale flagujemy nieudane logowanie, po którym następuje udane logowanie z nowego urządzenia, ruch boczny i niezwykły dostęp do danych. Ten warstwowy kontekst czasowy filtruje szum i podkreśla prawdziwe i nowe zagrożenia.

Drugie, profilujemy zachowania użytkowników i usług w kontekście. Restartowanie węzła Kubernetes 12 razy jest normalne podczas aktualizacji, ale podejrzane o 2 nad ranem, jeśli jest poprzedzone nowym wdrożeniem kontenera z nieznanego rejestru. Tempo rozpoznaje to, ponieważ patrzy na sekwencję, timing i kontekst jednocześnie. Ponadto nasz aktywny potok uczenia się aktywnie monitoruje i gromadzi informacje o konkretnych stylach wykrywania. Jeśli potok wykryje dryf w wydajności lub danych, wykorzysta migawki i informacje zwrotne od analityków, aby dostosować niewielką liczbę parametrów modelu.

Budujemy nasze wykrywanie na surowych, wysokiej wierności metadanych sieciowych, łącząc inteligencję czasową z behawioralnymi bazami, aby dostarczyć alerty o wysokiej ufności – nawet w środowiskach chmury, które zmieniają się w mgnieniu oka.

Jaka jest rola wyjaśnialności w systemie, i jak zapewniasz, że alerty przychodzą z użytecznym, interpretowalnym kontekstem?

Każde wykrycie w Tempo zawiera podsumowanie, podstawowe dowody logowe i wnioskowaną taktykę (np. Dostęp do poświadczeń za pomocą siły). Dostarczamy również graf powiązanych jednostek, użytkowników, punktów końcowych, zasobów chmury, aby zespoły SOC mogły wizualizować incydent. Celem jest wyeliminowanie efektu „czarnej skrzynki”, który dotyka wiele systemów AI.

Zaczerpnęliśmy z akademickich narzędzi wyjaśnialności, takich jak LIME i SHAP, w wczesnych prototypach, ale okazało się, że nie są one intuicyjne dla analityków. Zamiast tego generujemy narrację w języku potocznym: co się stało, kiedy, dlaczego jest to podejrzane i jak ufny jesteśmy. To nie tylko kwestia klarowności, ale umożliwia tier-one analitykom działać bez eskalacji każdego alarmu.

Jakie są długoterminowe ryzyka ataków wykorzystujących AI i modele podstawowe, i jak DeepTempo planuje pozostać na czele?

Pejzaż zagrożeń wkracza w fazę, w której atakujący mogą wdrożyć agenci AI, które samodzielnie uczą się, mutują ładunki na fly i symulują zachowania użytkowników. Agenci te mogą działać 24/7, sondując słabe punkty, adaptując się przy każdej nieudanej próbie. To fundamentalna zmiana, nie chodzi już o zero-day, ale o szybkość, iterację i kamuflaż.

Przygotowujemy się, inwestując w trening przeciwny, wykrywanie na poziomie powyżej i modelowanie behawioralne, które nie polega na znanych wskaźnikach. Naszym celem jest identyfikacja struktury zachowania malwersatywnego przed jego eskalacją. Badamy również sposoby na odciskanie AI-generowanego ruchu atakującego, tak jak kiedyś odciskaliśmy botnety, aby obrońcy mogli flagować aktywność, nawet gdy ładunki zmieniają się nieustannie.

 Dziękujemy za wspaniały wywiad, czytelnicy, którzy chcą dowiedzieć się więcej, powinni odwiedzić DeepTempo.