Рохан Сатхе, співзасновник та генеральний директор Nightfall – Інтерв’ю серія

На початку ми хотіли використовувати машинне навчання для виявлення та захисту конфіденційних даних у хмарі та сучасних робочих процесах. Коли ми вийшли з режиму таємності у 2019 році, ми позиціонували себе як хмарний, заснований на машинному навчанні захист даних з баченням створення “контрольної панелі для даних у хмарі”. Коли ми розширили свій охоплення за межі SaaS до захисту від витоків даних на кінцевих точках та Генеративних AI, “родний захист даних за допомогою штучного інтелекту” став нашим загальним терміном.

До заснування Nightfall Ви були співзасновником інженерної команди в Uber Eats, де Ви бачили на власні очі, як дані поширюються через додатки SaaS та хмарні інструменти. Як Ваш досвід у Uber Eats сформував Ваше бачення безпеки даних, і які конкретні моменти чи виклики спровокували ідею створення Nightfall?

В Uber Eats я очолював бекенд-команду та розробляв прикладні сервіси машинного навчання – речі, такі як прогнозування ETA та прогнозування попиту. Ми мали справу з даними у масштабі петабайт, розкиданими по багатьох різних системах, що створює середовище, у якому конфіденційна інформація може рухатися дуже швидко та часто невидимо. Цей досвід, у поєднанні з тим, що вся галузь вивчила з інцидентів, таких як порушення безпеки в Uber у 2016 році – де атакувальники використали облікові дані, опубліковані в коді на GitHub, щоб отримати доступ до даних AWS – справді підкреслив, як це поєднання поширення даних, облікових даних та хмарної інфраструктури створює надмірний ризик без кращого виявлення та охорони. Ці реалії сформували фокус Nightfall на контекстно-залежному виявленні та запобіганні з самого початку.

Nightfall вийшов на публіку у 2019 році з фінансуванням серії А. Чи можете Ви розповісти про ранню подорож від режиму таємності до запуску, включаючи будь-які ключові точки інфлексії?

Ми працювали у режимі таємності близько року, потім вийшли офіційно 7 листопада 2019 року з фінансуванням у розмірі 20,3 мільйона доларів, очолюваним Bain Capital Ventures та Venrock. Ранні точки інфлексії справді оберталися навколо розширення широких інтеграцій з додатками SaaS та розробки вищої точності класифікації вмісту на основі машинного навчання, яка могла б зменшити кількість помилкових спрацьовувань, що були притаманні традиційним рішенням захисту даних.

“Тіньовий штучний інтелект” відноситься до необмеженого використання інструментів, таких як ChatGPT, Gemini та Copilot, на робочому місці, часто в результаті чого відбувається невидимий витік даних. Як Ви визначаєте “Тіньовий штучний інтелект”, і чому це така зростаюча проблема для сучасних організацій?

Ми визначаємо “Тіньовий штучний інтелект” як необмежене або необгрунтоване використання інструментів штучного інтелекту працівниками – наприклад, вставляння вихідного коду або даних клієнтів у чат-боти – що створює ризики витоку даних поза межами управління ІТ. Це визначення збігається з тим, що інші гравці галузі, такі як IBM та Splunk, бачать. “Тіньовий штучний інтелект” по суті є штучним інтелектом, який використовується без схвалення або нагляду, що вводить сліпі плями та потенційні ризики витоку даних. Поєднання легких у використанні Генеративних AI-додатків та відсутність належного контролю робить цю проблему так швидко зростаючою.

Ви описали кілька способів, як підхід Nightfall до “Тіньового штучного інтелекту” відрізняється від традиційного захисту даних. Який з цих функцій – чи то контекстно-залежний моніторинг, лінія даних, чи блокування в режимі реального часу – мав найбільший вплив на Ваших клієнтів?

З того, що ми постійно чуємо від клієнтів, є дві основні речі, які роблять найбільшу різницю. По-перше, це контроль перед відправленням – фактично виявлення конфіденційного вмісту до того, як його відправлять до інструментів штучного інтелекту або опублікують у мережі. По-друге, це наше виявлення, засноване на штучному інтелекті, яке рухається за межі традиційного співставлення з шаблонами до розуміння лінії даних та контексту.

Що справді потужно, так це наш звукоредукційний механізм через безперервне навчання. Наша система розуміє вміст та лінію файлів, вчиться з анотацій та дій користувачів та ідентифікує безпечні робочі процеси для підтримки низькоризикової діяльності. Це суттєво зменшує кількість помилкових спрацьовувань у порівнянні з традиційними рішеннями захисту даних. Ми також здійснюємо виявлення загроз та пріоритезацію ризиків у режимі реального часу за допомогою великомасштабних мовних моделей, трансформерів та комп’ютерного зору, а також розробили спеціальні класифікатори файлів та чутливості, які можуть виявити рух інтелектуальної власності та високоцінних документів, що значно перевершує просте виявлення сутностей на основі правил.

Як система виявлення та блокування витоків даних Nightfall на основі браузера та кінцевих точок зупиняє витоки до того, як вони стаються, і як це порівнюється з традиційними рішеннями захисту даних, які виявляють порушення лише після відправлення?

Наше розширення браузера та агенти на кінцевих точках фактично сканують промпти та файли до їх відправлення. Ми можемо редагувати або блокувати ризикований вміст у режимі реального часу – наприклад, до того, як промпт ChatGPT буде відправлений. Ми також відстежуємо лінію, щоб команди з безпеки знали, чи походять файли з корпоративної системи. Ми розгортаємося на macOS та Windows з розширеннями Chrome та Firefox, які забезпечують цю функціональність редагування та блокування перед відправленням. Це досить різкий контраст до традиційного захисту даних, який здебільшого полягає у виявленні після факту.

Nightfall розширився суттєво з моменту свого заснування. Як змінилися потреби підприємств у сфері безпеки за цей час, і як Ваш продукт адаптувався до цього?

Ландшафт суттєво змінився. Ми почали з сканування SaaS – наприклад, Slack та Google Drive – близько 2020-2021 років. Потім захист від Генеративних AI став критично важливим, починаючи з 2023 року, і зараз ми бачимо цю термінову потребу в автономній, інтелектуальній профілактиці загроз, яка може масштабуватися з ростом організації.

Команди з безпеки операцій борються з усе більш складними інструментами, традиційним захистом даних на основі співставлення з шаблонами, постійним ручним налаштуванням політики та просто приголомшливою кількістю помилкових спрацьовувань. Ці питання сповільнюють розслідування, збільшують накладні витрати та знижують ефективність безпеки. Еволюція нашого продукту супроводжувала цей зсув від реактивного та ручного управління до проактивного, інтелектуального автоматизму. Ми оголосили про захист Генеративних AI у 2023 році, розширили охоплення до запобігання витокам, шифрування та захисту електронної пошти у 2024 році, і зараз з Nyx ми вводимо, що ми бачимо як наступну епоху агентного штучного інтелекту у захисті даних – перетворюючи втому від сповіщень на зосереджені, високоефективні дії з безпеки по всім SaaS, кінцевим точкам та інструментам штучного інтелекту.

Ви нещодавно представили Nightfall Nyx, який Ви описуєте як першу автономну платформу захисту даних на основі штучного інтелекту. Що робить його автономним, і які проблеми це вирішує для команд з безпеки?

Платформа виявлення штучного інтелекту Nightfall вже забезпечує високу точність та низький рівень шуму – 95% точності порівняно з 5-30%, типовими для традиційного захисту даних на основі співставлення з шаблонами чи правил. На основі цієї основи Nyx є шаром штучного інтелекту, який допомагає командам з безпеки розслідувати, корелювати та розуміти ризики.

Дажи після того, як шум зник, справжня робота починається. У великих організаціях команди з безпеки все ще можуть зустрічати сотні легітимних сповіщень щодня. Перебирання серед них для розрізнення робочих процесів, затверджених бізнесом, ризиків гігієни даних або загроз з боку інсайдерів може зайняти години. Nyx бере на себе цю важку роботу розслідування – прискорюючи аналіз, щоб команди могли зосередитися на дії, а не на пошуку та сортуванні сторінок сповіщень.

Nyx з’єднує точки по всім подіям витоку – користувачам, доменам, пристроям, типам даних, іменам файлів та іншим – поверхнево показуючи закономірності миттєво. Через свій інтерфейс природної мови аналітики можуть діяти на основі закономірностей, розслідувати результати, створювати звіти та отримувати рекомендації дій за кілька секунд. Завдання, які раніше займали два години, тепер можна виконати менш ніж за дві хвилини – справжній 20-кратний заощад часу.

З огляду на вибухове зростання використання Генеративних AI на робочих місцях та боротьбу команд з безпеки за підтримку цього процесу, чи вважаєте Ви, що інструменти, такі як Nightfall, стануть стандартним шаром контролю для корпоративних середовищ?

Я вважаю, що траєкторія свідчить про це. Ми бачимо широкомасштабні плани прийняття Генеративних AI у підприємствах, а великі платформи, такі як Microsoft (MSFT ) Entra Internet Access, вводять інлайн-контроль перед відправленням для трафіку Генеративних AI. Коли Ви поєднуєте це з консенсусом галузі щодо ризиків “Тіньового штучного інтелекту”, це досить логічно очікувати, що попередній контроль, заснований на штучному інтелекті, стане стандартним шаром контролю поряд з такими речами, як управління ідентифікацією та доступом, а також виявлення та реакція на загрози на кінцевих точках.

Нарешті, як засновник, який будує у такому швидкозмінному просторі, яка у Вас довгострокова візія для Nightfall та ролі штучного інтелекту у захисті даних підприємств?

Наша довгострокова візія будується на тому, що ми артикулювали на запуску – бути контрольною панеллю для даних у хмарі – але зараз ми розширюємо це за допомогою автономних операцій та агентних можливостей штучного інтелекту. Ми бачимо майбутнє, у якому безпека постійно покращується без додаткової роботи для аналітиків, де штучний інтелект усуває потребу у спеціалізованій галузі знань, і де організації можуть перейти від реактивного та ручного управління безпекою до проактивного, інтелектуального запобігання загрозам.

На практиці це означає штучний інтелект, який розуміє дані у контексті та здійснює безпечні, інтелектуальні дії – розслідування, навчання, редагування, блокування – по всім SaaS, кінцевим точкам, електронній пошті та інструментам “Тіньового штучного інтелекту”. Ми хочемо закрити коло від виявлення до запобігання, надаючи командам з безпеки постійно діючого інтелектуального партнера, який стає розумнішим з кожним розслідуванням та перетворює тижні ручної криміналістики на хвилини зосереджених дій з безпеки.

Дякуємо за велике інтерв’ю, читачам, які бажають дізнатися більше, слід відвідати Nightfall.