Рохан Сатхе, сооснователь и генеральный директор Nightfall – Интервью

В ранние дни мы хотели использовать машинное обучение для обнаружения и защиты конфиденциальных данных, где бы они ни находились в облачных приложениях и современных рабочих процессах. Когда мы вышли из режима скрытности в 2019 году, мы позиционировали себя как облачное, основанное на машинном обучении решение DLP с видением построения “плоскости управления для облачных данных”. Когда мы расширили свою деятельность за пределы SaaS для покрытия экспилитации данных на конечных точках и генеративном ИИ, “родной ИИ DLP” стал нашим общим термином.

До основания Nightfall вы были одним из основателей инженерной команды в Uber Eats, где вы увидели на собственном опыте, как данные распространяются по SaaS и облачным инструментам. Как ваш опыт в Uber Eats сформировал ваше представление о безопасности данных, и какие конкретные моменты или проблемы привели к идее Nightfall?

В Uber Eats я возглавлял команды бэкенда и разрабатывал сервисы на основе машинного обучения – такие как прогнозирование времени доставки и прогнозирование спроса и предложения. Мы работали с данными в масштабе петабайт, распределенными по множеству различных систем, что является средой, в которой конфиденциальная информация может быстро и часто незаметно распространяться. Этот опыт, в сочетании с тем, что вся отрасль узнала из инцидентов, таких как взлом Uber в 2016 году – когда атакующие использовали учетные данные, которые были раскрыты в коде на GitHub, чтобы получить доступ к данным AWS – действительно подчеркнул, как это сочетание распыления данных, учетных данных и облачной инфраструктуры создает непропорциональный риск без лучшего обнаружения и ограждений. Эти реалии сформировали фокус Nightfall на контекстно-зависимом обнаружении и предотвращении с самого начала.

Nightfall запустился публично в 2019 году с финансированием серии А. Не могли бы вы рассказать о раннем пути от режима скрытности до запуска, включая любые ключевые точки инфлексии?

Мы работали в режиме скрытности около года, затем запустились официально 7 ноября 2019 года с финансированием в размере 20,3 миллиона долларов, возглавляемым Bain Capital Ventures и Venrock. Ранние точки инфлексии действительно были связаны с построением широких интеграций SaaS и разработкой более точной классификации контента на основе машинного обучения, которая могла бы уменьшить ложные положительные результаты, которые мучили решения DLP предыдущего поколения.

Тень ИИ относится к не контролируемому использованию инструментов, таких как ChatGPT, Gemini и Copilot, на рабочем месте, что часто приводит к невидимым утечкам данных. Как вы определяете Тень ИИ, и почему это растущая проблема для современных организаций?

Мы определяем Тень ИИ как неавторизованное или неконтролируемое использование инструментов ИИ сотрудниками – например, вставку исходного кода или данных клиентов в чат-боты – что создает риски экспозиции вне управления ИТ. Это определение соответствует тому, что мы видим от других игроков отрасли, таких как IBM и Splunk. Тень ИИ по сути является ИИ, используемым без одобрения или надзора, что вводит эти слепые пятна и потенциальные риски экспилитации данных. Сочетание легких в использовании приложений генеративного ИИ и отсутствие надлежащего контроля – это то, почему эта проблема растет так быстро.

Вы описали несколько способов, которыми подход Nightfall к Тени ИИ отличается от традиционного DLP. Какая из этих функций – будь то контекстно-зависимый мониторинг, линия данных или блокирование в реальном времени – оказалась наиболее эффективной для ваших клиентов?

С того, что мы постоянно слышим от клиентов, есть два основных рычага, которые оказывают наибольшее влияние. Первый – это контроль до отправки – фактически обнаружение конфиденциального контента до его отправки в инструменты ИИ или публикации в Интернете. Второй – это наше обнаружение, основанное на ИИ, которое выходит за рамки традиционного сопоставления с образцом для понимания линии данных и контекста.

Что действительно мощно, так это наше уменьшение шума за счет непрерывного обучения. Наша система понимает контент и линию файла, учится на аннотациях и действиях пользователей и определяет безопасные рабочие процессы, чтобы подавить низкорисковую активность. Это значительно снижает количество ложных положительных результатов по сравнению с решениями DLP предыдущего поколения. Мы также выполняем обнаружение угроз и приоритезацию рисков в реальном времени с помощью моделей машинного обучения, трансформеров и компьютерного зрения, а также настраиваемых классификаторов файлов и чувствительности, которые могут обнаружить перемещение интеллектуальной собственности и высокоценных документов, что намного выходит за рамки простого обнаружения сущностей на основе правил. Наши клиенты рассказывают нам, что они видят это преобразование от усталости от оповещений к сосредоточенным, высокоэффективным действиям по безопасности.

Как система обнаружения Nightfall на основе браузера и конечной точки останавливает утечки до того, как они произойдут, и как это сравнивается с традиционными системами DLP, которые обнаруживают нарушения только после отправки?

Наше расширение браузера и агенты на конечных точках фактически сканируют подсказки и файлы до их отправки. Мы можем редактировать или блокировать рискованный контент в реальном времени – так, что до отправки запроса в ChatGPT, например. Мы также отслеживаем линию, поэтому команды безопасности знают, если файл был получен из корпоративной системы. Мы развертываем на macOS и Windows с расширениями Chrome и Firefox, которые обеспечивают эту функцию редактирования и блокирования перед отправкой. Это довольно резкий контраст с традиционным DLP, который в основном ориентирован на обнаружение после факта.

Nightfall значительно расширил свою деятельность с момента основания. Как изменились потребности предприятий в области безопасности за это время, и как ваш продукт адаптировался в ответ?

Ландшафт действительно сместился значительно. Мы начали с сканирования SaaS – например, Slack и Google Drive – около 2020-2021 годов. Затем охраны генеративного ИИ стали критически важными, начиная с 2023 года, и теперь мы видим это срочную необходимость в автономной, интеллектуальной предотвращении угроз, которая может масштабироваться с ростом организации.

Команды безопасности борются с все более сложными инструментами, устаревшим сопоставлением с образцом DLP, постоянной ручной настройкой политики и просто сокрушительной усталостью от оповещений. Эти проблемы замедляют расследования, увеличивают накладные расходы и снижают эффективность безопасности. Эволюция нашего продукта отслеживала этот сдвиг от реактивного и ручного управления к проактивной, интеллектуальной автоматизации. Мы объявили о покрытии генеративного ИИ в 2023 году, расширили защиту от экспилитации, шифрования и электронной почты в 2024 году, и теперь с Nyx мы вводим то, что мы считаем следующей эрой агентского ИИ в защите данных – превращая усталость от оповещений в сосредоточенные, высокоэффективные действия по безопасности во всех SaaS, конечных точках и инструментах ИИ.

Вы недавно представили Nightfall Nyx, который вы описываете как первую в отрасли автономную платформу DLP на основе ИИ. Что делает ее автономной, и какие проблемы она решает для команд безопасности?

Платформа обнаружения Nightfall на основе ИИ уже обеспечивает высокоточные, низкозадымленные результаты – 95% точности по сравнению с 5-30%, типичными для традиционного сопоставления с образцом или правилного DLP. Основываясь на этом фундаменте, Nyx – это слой интеллекта ИИ, который помогает командам безопасности расследовать, коррелировать и понимать риски.

Даже после того, как шум исчез, настоящая работа начинается. В крупных организациях команды безопасности все еще могут столкнуться со сотнями легитимных оповещений каждый день. Отбор через них, чтобы разделить рабочие процессы, одобренные бизнесом, от рисковых проблем гигиены данных или внутренних угроз, может занять часы. Nyx берет на себя эту тяжелую работу по расследованию – ускоряя анализ, чтобы команды могли сосредоточиться на действии, а не на поиске и сортировке через страницы оповещений.

Nyx соединяет точки через события экспилитации – пользователей, доменов, устройств, типов данных, имен файлов и многое другое – мгновенно выделяя закономерности. Через ее интерфейс естественного языка аналитики могут действовать на основе закономерностей, расследовать результаты, производить отчеты и получать рекомендуемые действия за считанные секунды. Задачи, которые ранее занимали два часа, теперь могут быть выполнены менее чем за две минуты -真正 20-кратное сокращение времени.

С взрывным ростом использования генеративного ИИ на рабочем месте и командами безопасности, которые борются за то, чтобы идти в ногу, считаете ли вы, что инструменты, такие как Nightfall, станут слоем управления по умолчанию для среды предприятия?

Я думаю, что траектория предполагает да. Мы видим широкое внедрение генеративного ИИ в планах предприятий, и крупные платформы, такие как Microsoft (MSFT ) Entra Internet Access, вводят инлайн-контроли перед отправкой для трафика генеративного ИИ. Когда вы сочетаете это с отраслевым консенсусом вокруг рисков Тени ИИ, разумно ожидать, что предотправочные, осведомленные о ИИ DLP станут слоем управления по умолчанию наряду с такими вещами, как управление идентификацией и доступом и обнаружение и реагирование на конечные точки.

Наконец, как основатель, строящий в такой быстро меняющейся области, какая у вас долгосрочная видение для Nightfall и роли ИИ в защите данных предприятия?

Наше долгосрочное видение строится на том, что мы сформулировали при запуске – быть плоскостью управления для облачных данных – но теперь мы расширяем это с помощью автономных операций и возможностей агентского ИИ. Мы представляем себе будущее, в котором безопасность улучшается непрерывно без дополнительной нагрузки на аналитиков, где ИИ устраняет необходимость в специализированном опыте, и где организации могут перейти от реактивного и ручного управления безопасности к проактивной, интеллектуальной предотвращению угроз.

На практике это означает ИИ, который понимает данные в контексте и принимает безопасные, интеллектуальные действия – расследование, обучение, редактирование, блокирование – во всех SaaS, конечных точках, электронной почте и инструментах Тени ИИ. Мы хотим закрыть цикл от обнаружения до предотвращения, предоставляя командам безопасности всегда включенного интеллектуального партнера, который становится умнее с каждым расследованием и преобразует недели ручной криминалистической экспертизы в минуты сосредоточенного реагирования.

Спасибо за отличное интервью, читатели, которые хотят узнать больше, должны посетить Nightfall.