Rohan Sathe, współzałożyciel i CEO Nightfall – seria wywiadów

We wczesnych dniach chcieliśmy wykorzystać machine learning do odkrywania i ochrony wrażliwych danych, gdziekolwiek się znajdują w chmurze i nowoczesnych przepływach pracy. Kiedy wyszliśmy z fazy stealth w 2019 roku, przedstawiliśmy się jako chmurowa, oparta na ML, rozwiązanie DLP SaaS z wizją budowy “kontrolnego planu dla danych chmury”. Kiedy rozszerzyliśmy się poza SaaS, aby objąć również wykradanie danych z punktów końcowych i generatywnych AI, “AI-native DLP” stało się naszym określeniem parasolem.

Przed założeniem Nightfall, byłeś inżynierem założycielem w Uber Eats, gdzie na własne oczy widziałeś, jak dane rozprzestrzeniają się w aplikacjach SaaS i narzędziach chmury. Jak Twoje doświadczenia tam ukształtowały Twoją perspektywę na temat bezpieczeństwa danych, a jakie konkretnie momenty lub wyzwania zainspirowały pomysł Nightfall?

W Uber Eats, kierowałem zespołem backendowym i tworzyłem usługi machine learning, takie jak przewidywanie czasu dostawy i prognozowanie popytu. Mieliśmy do czynienia z danymi na skalę petabajtów, rozproszonymi w wielu systemach, co jest środowiskiem, w którym informacje wrażliwe mogą się poruszać bardzo szybko i często niewidocznie. To doświadczenie, w połączeniu z tym, czego cały przemysł nauczył się z incydentami, takimi jak naruszenie bezpieczeństwa Ubera w 2016 roku – gdzie atakujący wykorzystali poświadczenia, które zostały ujawnione w kodzie na GitHub, aby uzyskać dostęp do danych AWS – podkreśliło, jak połączenie rozproszenia danych, poświadczeń i infrastruktury chmury tworzy niewspółmiernie wysokie ryzyko bez lepszych wykrywania i barier ochronnych. Te realia ukształtowały od samego początku focus Nightfall na świadome odkrywanie i prewencję.

Nightfall został uruchomiony publicznie w 2019 roku z finansowaniem serii A. Czy możesz opowiedzieć o wczesnej drodze od trybu stealth do uruchomienia, w tym o kluczowych momentach?

Działałem w trybie stealth przez około rok, a następnie uruchomiłem się oficjalnie 7 listopada 2019 roku z 20,3 milionami dolarów finansowania, którym kierowały Bain Capital Ventures i Venrock. Wczesne momenty zwrotne wiązały się głównie z budowaniem szerokich integracji SaaS i rozwijaniem wyższej dokładności klasyfikacji zawartości opartej na ML, co mogło zmniejszyć fałszywe pozytywy, które dotknęły rozwiązania DLP legacy.

Cień AI odnosi się do niekontrolowanego lub nie monitorowanego użycia narzędzi takich jak ChatGPT, Gemini i Copilot w miejscu pracy, często prowadząc do niewidocznych wycieków danych. Jak definiujesz Cień AI, i dlaczego jest to coraz większym problemem dla nowoczesnych organizacji?

Definiujemy Cień AI jako nieautoryzowane lub niekontrolowane użycie narzędzi AI przez pracowników – myśl o wklejaniu kodu źródłowego lub danych klientów do chatbotów – co tworzy ryzyko narażenia poza granicami zarządzania IT. Ta definicja pokrywa się z tym, co widzimy od innych graczy branżowych, takich jak IBM i Splunk. Cień AI jest podstawowo AI używanym bez zatwierdzenia lub nadzoru, co wprowadza te punkty ślepe i potencjalne ryzyko wycieków danych. Połączenie łatwych w użyciu aplikacji Generative AI i braku odpowiednich kontroli sprawia, że problem ten rośnie tak szybko.

Opisałeś wiele sposobów, w jakie podejście Nightfall do Cienia AI różni się od tradycyjnego DLP. Która z tych funkcji – czy to monitorowanie kontekstowe, linia danych, czy blokowanie w czasie rzeczywistym – okazała się najbardziej wpływowa dla Twoich klientów?

Z tego, co słyszymy od klientów, są dwie główne dźwignie, które mają największy wpływ. Po pierwsze, kontrola przed wysłaniem – faktycznie łapanie zawartości wrażliwej przed jej wysłaniem do narzędzi AI lub opublikowaniem w sieci. Po drugie, nasze AI-native wykrywanie, które przechodzi poza legacy pattern-matching, aby zrozumieć linię danych i kontekst.

Co jest naprawdę potężne, to redukcja szumu poprzez ciągłe uczenie. Nasz system rozumie zawartość i linię plików, uczy się z adnotacji i działań użytkowników oraz identyfikuje bezpieczne przepływy pracy, aby stłumić działania o niskim ryzyku. To dramatycznie zmniejsza fałszywe pozytywy w porównaniu z rozwiązaniami DLP legacy. Wykonujemy również wykrywanie zagrożeń w czasie rzeczywistym i priorytetyzowanie ryzyka przy użyciu LLM, transformerów i komputerowego widzenia, z niestandardowymi klasyfikatorami plików i wrażliwości, które mogą ujawnić ruch własności intelektualnej i dokumentów o wysokiej wartości, które idą znacznie poza proste wykrywanie jednostek.

Jak system wykrywania Nightfall oparty na przeglądarce i rodzimy dla punktów końcowych zapobiega wyciekom przed ich wystąpieniem, i jak to porównuje się do systemów DLP legacy, które wykrywają naruszenia dopiero po ich wystąpieniu?

Nasza rozszerzenie przeglądarki i agenci punktów końcowych skanują prompty i pliki przed ich wysłaniem. Możemy redagować lub blokować ryzykowną zawartość w czasie rzeczywistym – więc przed wysłaniem promtu ChatGPT, na przykład. Śledzimy również linię, aby zespoły bezpieczeństwa wiedziały, czy plik pochodzi z systemu korporacyjnego. Wdrożone jest to na macOS i Windows z rozszerzeniami Chrome i Firefox, które zapewniają tę funkcjonalność redagowania i blokowania przed wysłaniem.

Nightfall znacznie się rozwinął od swojego założenia. Jak ewoluowały potrzeby bezpieczeństwa przedsiębiorstw w tym czasie, i jak Twoje rozwiązanie dostosowało się do tych zmian?

Krajobraz zmienił się dramatycznie. Zaczynaliśmy od skanowania SaaS – myśl o Slacku i Google Drive – wokół 2020-2021. Następnie stało się krytyczne, aby zapewnić barierki dla Generative AI, zaczynając od 2023 roku, a teraz widzimy ten pilny potrzebę autonomicznej, inteligentnej prewencji zagrożeń, która może skalować się z rozwojem organizacji.

Zespoły operacji bezpieczeństwa walczą z coraz bardziej złożonymi narzędziami, legacy pattern-matching DLP, ciągłym ręcznym dostosowywaniem polityk oraz ogromną ilością fałszywych alarmów. Te problemy spowalniają dochodzenia, zwiększają obciążenie oraz zmniejszają skuteczność bezpieczeństwa. Ewolucja naszego produktu śledziła ten przesuw od reaktywnych, ręcznych operacji do proaktywnej, inteligentnej automatyzacji. Ogłosiliśmy pokrycie Generative AI w 2023 roku, rozszerzyliśmy się do prewencji wykradania, szyfrowania i ochrony poczty elektronicznej w 2024 roku, a teraz z Nyx, wprowadzamy to, co uważamy za następną erę agenty AI w ochronie danych – przekształcając fałszywe alarmy w skupione, wysoko wpływowe działania bezpieczeństwa w całym SaaS, punktach końcowych i narzędziach AI.

Niedawno wprowadziłeś Nightfall Nyx, który opisujesz jako pierwszą autonomiczną platformę DLP AI-native. Co sprawia, że jest autonomiczna, i jakie problemy rozwiązuje to dla zespołów bezpieczeństwa?

Platforma wykrywania AI Nightfall już teraz dostarcza bardzo dokładne, niskoszumowe wyniki – 95% precyzji w porównaniu z 5-30% typowymi dla tradycyjnych rozwiązań DLP opartych na regex lub regułach. Nyx jest warstwą inteligencji AI, która pomaga zespołom bezpieczeństwa w dochodzeniach, korelacji i zrozumieniu ryzyk.

Nawet po usunięciu szumu, prawdziwa praca dopiero zaczyna się. W dużych organizacjach, zespoły SecOps mogą nadal mieć do czynienia z setkami prawidłowych alarmów każdego dnia. Przesiewanie ich, aby oddzielić zatwierdzone przepływy pracy od ryzykownych problemów z higieną danych lub zagrożeń wewnętrznych, może pochłonąć godziny. Nyx podejmuje się tego ciężkiego dochodzenia – przyspieszając analizę, aby zespoły mogły skupić się na działaniu, a nie na przeszukiwaniu i sortowaniu strony alarmów.

Nyx łączy punkty między zdarzeniami wycieku – użytkownikami, domenami, urządzeniami, typami danych, nazwami plików i więcej – ujawniając wzorce natychmiast. Za pomocą swojego interfejsu w języku naturalnym, analitycy mogą działać na podstawie wzorców, badać wyniki, generować raporty i otrzymywać zalecane działania w ciągu kilku sekund. Zadania, które wcześniej zajmowały dwie godziny, teraz mogą być wykonane w czasie krótszym niż dwie minuty – prawdziwy 20-krotny oszczędność czasu.

Czy wierzyłeś, że narzędzia takie jak Nightfall staną się warstwą kontroli domyślnej dla środowisk przedsiębiorstw?

Myślę, że trajektoria wskazuje na tak. Widzimy powszechne plany wdrożenia Generative AI w przedsiębiorstwach, a główne platformy, takie jak Microsoft (MSFT ) Entra Internet Access, wprowadzają kontrolę wstępną, przed-wysłaniem dla ruchu Generative AI. Kiedy parujemy to z konsensusem branżowym wokół ryzyk Cienia AI, jest rozsądnie oczekiwać, że kontrola przed-wysłaniem, AI-świadoma DLP stanie się warstwą kontroli domyślnej obok rzeczy takich jak zarządzanie tożsamością i dostępem oraz wykrywanie i odpowiedź na punkty końcowe.

Wreszcie, jako założyciel budujący w tak dynamicznie zmieniającym się obszarze, jaka jest Twoja długoterminowa wizja dla Nightfall i roli AI w ochronie danych przedsiębiorstw?

Nasza długoterminowa wizja opiera się na tym, co przedstawiliśmy przy uruchomieniu – być planem kontrolnym dla danych chmury – ale teraz rozszerzamy to o operacje autonomiczne i możliwości agenty AI. Wyobrażamy sobie przyszłość, w której postawa bezpieczeństwa poprawia się nieustannie bez nakładania większej ilości pracy na analityków, w której AI eliminuje potrzebę specjalistycznej wiedzy branżowej, a organizacje mogą przechodzić od reaktywnych, ręcznych operacji bezpieczeństwa do proaktywnej, inteligentnej prewencji zagrożeń.

W praktyce oznacza to AI, które zarówno rozumie dane w kontekście, jak i podejmuje bezpieczne, inteligentne działania – dochodzenie, szkolenie, redagowanie, blokowanie – w całym SaaS, punktach końcowych, poczcie elektronicznej i Cieniu AI. Chcemy zamknąć pętlę od wykrywania do prewencji, dając zespołom bezpieczeństwa partnera inteligentnego, który staje się coraz mądrzejszy z każdym dochodzeniem i przekształca tygodnie ręcznej kryminalistyki w minuty skupionych reakcji.

Dziękuję za wspaniały wywiad, czytelnicy, którzy chcą dowiedzieć się więcej, powinni odwiedzić Nightfall.