Майянк Кумар, засновник та головний інженер компанії DeepTempo – Інтерв’ю

Майянк Кумар є засновником та головним інженером компанії DeepTempo, де він керує розробкою фундаментальної моделі мови Log Language Model (LogLM). Завдяки сильному академічному та науковому досвіду в галузі генерації та багатомодальної штучної інтелекту, він привносить спеціалізовані знання у створення моделей, специфічних для певної галузі, які покращують виявлення загроз та реагування на них у сфері кібербезпеки.

DeepTempo – це компанія з кібербезпеки, побудована навколо LogLM, штучної моделі, навченої на великих масивах даних про безпеку. Платформа excels у виявленні складних, раніше невідомих загроз, мінімізуючи кількість помилкових спрацьовувань. Розроблена для безперешкодної інтеграції з існуючими системами безпеки, DeepTempo підтримує розгортання в datalakes, Kubernetes та Snowflake, забезпечуючи швидшу судову експертизу, зниження витрат на інгестію даних та масштабовану, автоматизовану оборону для сучасних підприємств.

Що спонукало вас заснувати DeepTempo, і як ваш досвід у наукових дослідженнях та відкритих джерелах штучної інтелекту вплинув на напрямок компанії?

Я виріс у тісному співтоваристві, де відносини будувалися особисто, а не через екрани. Мій батько, вчитель, привив мені важливість надання допомоги іншим. Хоча ми не були багатими матеріально, ми були багатими у зв’язках та меті. У такому середовищі ви швидко вчитеся, що вирішення проблем не тільки залежить від індивідуального таланту, а й від колективної сили. Такий спосіб мислення залишився зі мною та в кінцевому підсумку привів мене до інтересу у соціальному підприємництві під час навчання в ІІТ Ропар.

Переломним моментом стало те, коли браузер мого батька був атакований вірусом-вимагачем. Це не було просто технічною помилкою, а ввело страх, плутанину та уразливість у наш дім. Цей досвід відкрив мені очі на те, наскільки хитким є цифровий світ, не тільки для окремих осіб, а й для організацій, які постійно перебувають під загрозою. У той час я зустрів Евана, чия візія будівництва колективної оборони в інтернет-масштабі глибоко резонувала зі мною. Ця спільна місія, а також моя мотивація застосовувати технології на службу людям, привели мене до DeepTempo.

Університеті Вашингтону мій науковий інтерес був зосереджений на двох основних напрямках: багатомодальній репрезентаційній навчальній та даних-центричної штучній інтелекту. Обидва напрямки виявилися критично важливими під час будівництва нашої вертикальної фундаментальної моделі, LogLM. На відміну від природної мови, дані про безпеку є нечіткими, структурованими та фрагментованими. Нашим першим завданням було створення нової “мови” для інтерпретації цих даних, що дозволило б LogLM вивчити значимі репрезентації з цих послідовностей. Ми також вклали значні зусилля у розвиток методів оцінки продуктивності, оскільки у сфері безпеки точність не є опціональною, а галюцинації не приймаються.

Але окрім технологій, нашим основним напрямком завжди була колективна оборона. Саме тому відкрита співпраця буде суттєво важливою для реалізації цієї місії у масштабі.

Яке значення має “колективна оборона” у практичному сенсі, і як вона відрізняється від традиційних підходів до кібербезпеки?

У практичному сенсі колективна оборона означає, що коли одна інстанс LogLM ідентифікує нову поведінку атаки, наприклад, стадійну кампанію C2 та екзфільтрацію даних, що включає поведінку біконінгу, подальшу аномальну передачу даних, ця інформація може бути дистильована у загальну поведінчу сигнатуру та поділена по всьому екосистемі. Насамперед, це не включає передачу сирих логів чи даних клієнтів. Замість цього ми абстрагуємо високоефективні поведінкові моделі та включаємо їх у ваги моделі за допомогою методів федеративного навчання.

Це суттєво відрізняється від традиційних систем, які покладаються на одноразові правила або статичні загрозливі дані. Ці системи не еволюціонують, доки не буде зачеплено кілька жертв. З колективною обороною система виявлення еволюціонує з кожним високоякісним сигналом, навіть якщо загроза є гіперспецифічною для одного середовища. Це дозволяє нам виявляти поліморфні загрози та потoky атак, посилені моделями мови, до того, як вони стають поширеними.

Які конкретні прогалини у сфері безпеки підприємств спонукали до розробки LogLM, і як вона суттєво відрізняється від старих систем виявлення?

Команди безпеки підприємств стикаються з трьома основними проблемами: високим співвідношенням шуму до сигналу, крихкими виявленнями, які не переносяться між середовищами, та повільною адаптацією до нових загроз. LogLM була створена для вирішення всіх цих проблем.

Більшість існуючих систем покладаються на правило-орієнтовані або вузькі підходи машинного навчання, які потребують тижнів або місяців налаштування для розуміння нового середовища. Ці підходи зазнають невдачі, коли атакувальники трохи змінюють тактику, як ми бачили з групами, такими як Scattered Spider або Volt Typhoon. LogLM навчається на великих обсягах даних про безпеку, розглядаючи їх як一种 структурованої мови. Це дозволяє їй розпізнавати складні послідовності, такі як сплеск у зовнішніх запитах DNS, подальша аномальна активність Okta, не як ізольовані аномалії, а як частина загрозової історії.

На відміну від традиційних інструментів, які генерують від’єднані сигнали тривоги, LogLM генерує інтерпретовані виявлення на рівні тактики. І оскільки вона побудована з нуля, а не перероблена чи адаптована, вона розроблена з урахуванням безпеки з самого початку, що дозволяє швидко адаптуватися за допомогою лише декількох днів безмаркових логів. Це робить процес налаштування швидким, а виявлення набагато більш стійким.

Що таке тіні агенти, і як вони становлять ризик для організацій, які працюють без централізованого нагляду?

Тіні агенти – це автономні інструменти штучної інтелекту, часто побудовані на основі моделей мови, які діють всередині підприємства без явної авторизації чи видимості для команди безпеки. Недавнім прикладом є MITRE’s CVE‑2025‑32711 (“EchoLeak”), уразливість нульового кліку у Microsoft 365 Copilot, спровокована простим запитом на резюме електронних листів. Ця уразливість дозволяє атакувальникам витягувати внутрішні дані через контекст RAG агента, без будь-якої взаємодії з користувачем. Хоча ці агенти можуть підвищувати продуктивність, вони часто обходять перевірку безпеки та піддають чутливі дані неконтрольованому висновку.

Ми бачили випадки, коли тіні агенти, побудовані з публічних моделей мови, були піддані системним журналам та почали витікати стек-трейси, що містили вбудовані посилання на облікові дані. Ці агенти зазвичай не інструментуються контролями DLP, не слідують політиці доступу та не аудитуються. Що гірше, оскільки вони можуть приймати рішення, такі як пересилання виводу до зовнішніх систем, вони стають поверхнями атаки самих по собі. У контексті ін’єкції промпта або ланцюжкової атаки один агент може бути примушений до виконання подальших дій з реальним впливом.

Чому ін’єкція промпта та маніпуляція моделлю стають серйозними загрозами, і чому більшість поточних систем не виявляють їх?

Ін’єкція промпта небезпечна, оскільки вона використовує основну функціональність моделі: інтерпретацію природної мови. Більшість підприємств розглядають вивід моделі як довірчу, але якщо модель отримує приховані інструкції, вбудовані в коментар користувача, виклик API чи навіть назву файлу, вона може бути обманута на виконання ненавмисних дій. Ми бачили, як атакувальники використовують це для витягування облікових даних з історії чату, імітування користувачів чи обходу перевірки вводу.

Глибша проблема полягає в тому, що моделі мови оптимізовані для когерентності, а не безпеки. Як ми дослідили у відповіді на дослідження Королівського товариства, моделі віддають перевагу плавності та загальності над обережністю та точністю. Навіть якщо їх просити “бути більш точними”, це може зазнати невдачі, призводячи до більш впевнених, але все одно неправильних, відповідей. І маніпуляція моделлю є довгостроковою проблемою. Атакувальники можуть отруїти набори даних чи тонко формувати вивід, повторюючи структуровані запити з часом, поступово штовхаючи модель у більш пермисивний поведінковий простір. Виявлення тут вимагає повного ланцюжка реєстрації, безперервної оцінки та ізоляції моделі на рівні моделі, техніки, яких більшість підприємств ще не прийняли.

Як Tempo використовує мапування MITRE ATT&CK для надання дієвої розвідки, а не просто сирим сигналам?

Tempo відображає свої виявлення на тактику та техніки ATT&CK за допомогою супервізованих класифікаторів та ланцюжкової поведінки. Коли система бачить послідовність, таку як підозріла виконання PowerShell, зміна реєстру та аномальна зовнішня активність, вона не просто сигналізує про кожен крок, а позначає послідовність як Виконання > Обхід захисту > Екзфільтрація, збігая з відомими ідентифікаторами ATT&CK.

Це дозволяє захисникам негайно зрозуміти мету атакувальника та місце у ланцюжку вбивства. Ми також надаємо розширення: зачіплені сутності, пов’язані журнали, оцінки впевненості. Цей структурований підхід зменшує когнітивне навантаження для аналітиків SOC та прискорює реакційні робочі потоки; команди знають, яка тактика була використана, що призвело до неї, і який наступний крок, ймовірно, буде. Це суттєвий стрибок від систем сигналів тривоги, які спрацьовують на кожній аномалії без нарративного контексту.

Чому DeepTempo працює перед системами SIEM (Управління інформацією та подіями безпеки), і як це позиціонування покращує виявлення загроз та оптимізує операції для команд безпеки?

Системи SIEM схильні нормалізовувати та фільтрувати журнали для зменшення витрат на інгестію. Але роблячи це, вони часто втрачають цінний контекст, такий як точні таймстемпи, сплески затримки чи ефемерні сесійні поведінки. DeepTempo працює перед цим, інгестуючи сирі телеметричні дані до цієї трансформації. Це дозволяє нам моделювати багатші поведінкові моделі, такі як повторне використання токенів служби з незначними варіаціями часу або рідкі послідовності викликів API, які ніколи не пройдуть через пороги SIEM.

Працюючи перед системами SIEM, ми також можемо зменшити шум до того, як він потрапить до SIEM. Замість того, щоб передавати петабайти рядків журналів на день, ми передаємо лише 50-100 висококонтекстних подій з повним розширенням ATT&CK та оцінками моделі. Команди витрачають менше часу на тріаж та більше часу на розслідування загроз, які мають значення. Це також знижує витрати на зберігання та обчислення SIEM, які можуть бути суттєвими у великих середовищах.

Що дозволяє Tempo налаштовувати моделі до нових середовищ так швидко, і як це порівнюється з традиційними робочими потоками машинного навчання?

Традиційні системи машинного навчання часто потребують тижнів маркованих даних та повторної навчання для адаптації до нового середовища. Tempo підходить до цього з фундаментально іншої сторони. Замість того, щоб починати з нуля, вона використовує попередньо навчену модель, побудовану на великомасштабних реальних даних мережевого трафіку, таких як NetFlow та VPC потокові дані. Це дає їй сильне розуміння того, як трафік тече та як виглядають типові поведінки у різних середовищах.

Коли Tempo розгортається у новому середовищі, їй не потрібно марковані дані чи довгі цикли навчання. Вона використовує лише декілька днів місцевої мережевої активності для встановлення базової лінії та налаштування себе для виявлення моделей, специфічних для цього середовища, таких як аномальна активність поза робочими годинами, аномалії у спілкуванні між службами чи несподіваний рух даних. Це відбувається за години, а не тижні.

Оскільки процес є самоорганізованим, немає потреби у ручному позначенні чи маркуванні подій командами безпеки. І для того, щоб залишатися актуальними під час зміни середовищ, ми побудували механізми сніпшотів, які дозволяють моделі “забувати” застарілі поведінки, коли інфраструктура чи політики змінюються. Робота на рівні мережі дозволяє нам виявляти загрози раніше та ширше, що відрізняє Tempo від традиційних інструментів безпеки, орієнтованих на кінцеві точки чи журнали.

Як DeepTempo підтримує високу точність, одночасно мінімізуючи кількість помилкових спрацьовувань, особливо у динамічних хмарних середовищах?

Ми поєднуємо тимчасову модель з контекстно-чутливим аналізом поведінки мережі, побудованим безпосередньо на NetFlow та VPC потокових журналах. Наш підхід генерації благородних послідовностей, поєднаний з великомасштабним попереднім навчанням трансформер-орієнтованих алгоритмів глибокого навчання, допомагає у розумінні того, як мережеві події розгортаються з часом. Ми не сигналізуємо про один невдалий логін, але сигналізуємо про невдалий логін, за яким слідує успішний логін з нового пристрою, латеральна рух та аномальний доступ до даних. Цей шарований тимчасовий контекст фільтрує шум та підкреслює справжні та нові загрози.

Друга річ, яку ми робимо, – це профайлування поведінки користувачів та служб у контексті. Перезапуск вузла Kubernetes 12 разів є нормальним під час оновлень, але підозрілим о 2 годині ночі, якщо за ним слідує новий контейнер, розгорнутий з невідомого реєстру. Tempo розпізнає це, оскільки дивиться на послідовність, час та контекст одночасно. Крім того, наш активний навчальний потік активно моніторить та збирає інформацію про конкретні стилі виявлення. Якщо потік виявляє дрейф у продуктивності чи даних, він буде використовувати сніпшоти та зворотній зв’язок від аналітиків для тонкого налаштування параметрів моделі.

Ми будуємо своє виявлення на сирому, високоякісному мережевому метадані, поєднуючи тимчасову розвідку з поведінковим базуванням для доставки сигналів високої впевненості, навіть у хмарних середовищах, які змінюються у блиску ока.

Яка роль пояснюваності у вашій системі, і як ви забезпечуєте, щоб сигнали супроводжувалися корисним, інтерпретованим контекстом?

Кожне виявлення у Tempo включає резюме, підкладений логічний доказ, та витягнуту тактику (наприклад, Доступ до облікових даних через грубий силовий напад). Ми також надаємо граф пов’язаних сутностей, користувачів, кінцевих точок, хмарних ресурсів, щоб SOC-команди могли візуалізувати інцидент. Метою є ліквідування “чорної скриньки”, яка переслідує багато систем штучної інтелекту.

Ми позичили з академічних інструментів пояснюваності, таких як LIME та SHAP, на ранніх етапах прототипування, але виявили, що вони не були інтуїтивними для аналітиків. Тому ми генеруємо простий мовний нарис: що відбулося, коли, чому це підозріло, і наскільки ми впевнені. Це не лише про ясність, а й про надання можливості першому рівню аналітиків діяти без ескалації кожного сигналу.

Які довгострокові ризики використання атакувальниками штучної інтелекту та фундаментальних моделей самих по собі, і як DeepTempo планує залишатися попереду?

Ландшафт загроз вступає у фазу, де атакувальники можуть розгортати агенти штучної інтелекту, які самі навчаються, мутують вантажі на льоту та імітують легітимну поведінку користувача. Ці агенти можуть працювати 24/7, sondуючи за слабкими місцями, адаптуючись з кожною невдалою спробою. Це фундаментальна зміна; це вже не про нуль-дні, а про швидкість, ітерацію та обфускацію.

Ми готуємося до цього, вкладаючи ресурси у тренування з супротивником, виявлення на рівні джерела та поведінкову модель, яка не покладається на відомі індикатори. Наша мета – ідентифікувати структуру шкідливої поведінки до того, як вона ескалує. Ми також досліджуємо способи відбиття штучної інтелектуальної атакувальної активності, так само, як ми колись відбивали ботнет-атаки, щоб захисники могли позначати активність, навіть коли вантажі змінюються постійно.

 Дякуємо за велике інтерв’ю, читачам, які бажають дізнатися більше, слід відвідати DeepTempo.