Rohan Sathe, spoluzakladatel a CEO Nightfall – Interview Series

Na počátku jsme chtěli použít strojové učení k objevování a ochraně citlivých dat, kdekoliv se nacházejí v cloudu a moderních pracovních postupech. Když jsme vyšli z utajení v roce 2019, umístili jsme se jako cloud-rodné, ML-poháněné SaaS DLP řešení s vizí budování “kontrolního plánu pro cloudata”. Když jsme se rozšířili za SaaS, abychom pokryli únik dat napříč koncovými body a generativní AI, “AI-rodný DLP” se stal naším deštníkem.

Předtím, než jste založili Nightfall, jste vedl backendový tým v Uber Eats, kde jste viděl na vlastní oči, jak se data šíří napříč SaaS a cloudovými nástroji. Jak vaše zkušenosti tam ovlivnily váš pohled na bezpečnost dat a které konkrétní okamžiky nebo výzvy vyvolaly myšlenku Nightfall?

V Uber Eats jsem vedl backendové týmy a budovat aplikované služby strojového učení – věci, jako jsou předpovědi ETA a prognózy poptávky a nabídky. Pracovali jsme s daty v petabajtech, která se nacházejí v mnoha různých systémech, což je prostředí, kde citlivé informace mohou velmi rychle a často neviditelně putovat. Tato zkušenost, v kombinaci s tím, co celý průmysl naučil z incidentů, jako je únik dat v Uberu v roce 2016 – kde útočníci využili přihlašovací údaje, které byly zveřejněny v kódu na GitHub, aby se dostali k datům AWS – opravdu zdůraznily, jak kombinace rozptýlení dat, přihlašovacích údajů a cloudové infrastruktury vytváří toto enormní riziko bez lepších detekčních a ochranných mechanismů. Tyto skutečnosti utvořily zaměření Nightfall na kontextově-aware objevování a prevenci hned od začátku.

Nightfall se veřejně představil v roce 2019 s financováním Series A. Můžete nás provést ranou cestou od režimu utajení k zahájení, včetně jakýchkoliv klíčových bodů inflexe?

Provozovali jsme v utajení asi rok, pak jsme se veřejně představili 7. listopadu 2019 s 20,3 miliony dolarů financování vedeného Bain Capital Ventures a Venrock. Rané body inflexe se真的 točily kolem budování širokých SaaS integrací a vývoje vyšší-precizní ML-založené klasifikace obsahu, která by snížila falešně pozitivní výsledky, které sužovaly tradiční DLP řešení.

Stínová AI se týká nekontrolovaného používání nástrojů, jako je ChatGPT, Gemini a Copilot, na pracovišti, které často vede k neviditelným únikům dat. Jak definujete Stínovou AI a proč je to rostoucí obava pro moderní organizace?

Definujeme Stínovou AI jako neautorizované nebo nekontrolované používání AI nástrojů zaměstnanci – například vkládání zdrojového kódu nebo zákaznických dat do chatbotů – což vytváří rizika expozice mimo IT řízení. Tato definice se shoduje s tím, co vidíme od ostatních hráčů v průmyslu, jako je IBM a Splunk. Stínová AI je vlastně AI používaná bez schválení nebo dohledu, což vytváří tyto slepé skvrny a potenciální rizika úniku dat. Kombinace snadno použitelných Generativních AI aplikací a absence řádných kontrol je důvodem, proč se tento problém tak rychle rozšiřuje.

Vy jste popsali několik způsobů, jak se přístup Nightfall k Stínové AI liší od tradičního DLP. Která z těchto funkcí – zda kontextově-aware monitoring, data lineage nebo real-time blokování – se nejvíce osvědčila pro vaše zákazníky?

Z toho, co nám naši zákazníci neustále říkají, existují dva hlavní páky, které dělají největší rozdíl. První je kontrola před odesláním – vlastně chytání citlivého obsahu předtím, než je odeslán do AI nástrojů nebo zveřejněn na webu. Druhá je naše AI-rodná detekce, která jde za hranice tradičního pattern-matching, aby pochopila data lineage a kontext.

Co je opravdu silné, je naše redukce šumu prostřednictvím kontinuálního učení. Náš systém rozumí obsahu a file lineage, učí se z uživatelských anotací a akcí a identifikuje bezpečné pracovní postupy, aby potlačil nízkorizikovou aktivitu. To dramaticky snižuje falešně pozitivní výsledky ve srovnání s tradičními DLP řešeními. Také provádíme detekci hrozeb a rizikovou priorizaci v reálném čase pomocí LLM, transformerů a počítačového vidění, s vlastními file a citlivostními klasifikátory, které mohou odhalit pohyb duševního vlastnictví a vysokocenných dokumentů, které jdou daleko za jednoduché pravidla-založené entity detekci. Naši zákazníci nám říkají, že vidí tuto transformaci z poplachové únavy na zaměřené, vysoce účinné bezpečnostní akce.

Jak systém založený na prohlížeči a koncovém bodu Nightfall zastavuje úniky, než k nim dojde, a jak se to srovnává s tradičními DLP systémy, které detekují úniky až po odeslání?

Naše prohlížečová rozšíření a koncové body skutečně skenují výzvy a soubory předtím, než jsou odeslány. Můžeme redigovat nebo blokovat rizikový obsah v reálném čase – takže předtím, než je odeslán prompt ChatGPT, například. Také stopujeme lineage, aby bezpečnostní týmy věděly, zda soubor pochází z firemního systému. Nasazujeme na macOS a Windows s prohlížečovými rozšířeními Chrome a Firefox, která poskytují tuto před-odesláním redakci a upload blokování funkcionalitu. To je docela ostrý kontrast k tradičnímu DLP, které je většinou o detekci po faktu.

Nightfall se výrazně rozšířil od svého založení. Jak se vyvinuly bezpečnostní potřeby podniků v tomto období a jak se váš produkt přizpůsobil?

Krajina se opravdu dramaticky změnila. Začali jsme se skenováním SaaS – například Slack a Google Drive – kolem roku 2020-2021. Pak se staly ochranné zábrany Generativního AI kritické od roku 2023 a nyní vidíme tuto naléhavou potřebu autonomní, inteligentní prevence hrozeb, která může škálovat s růstem organizace.

Bezpečnostní operační týmy bojují s rostoucí složitostí nástrojů, tradičním pattern-matching DLP, neustálým manuálním laděním politik a devastující únavou poplachů. Tyto problémy zpomalují vyšetřování, zvyšují režii a snižují bezpečnostní účinnost. Naše evoluce produktu sledovala tento posun od reaktivních a manuálních operací k proaktivní, inteligentní automatizaci. Oznámili jsme pokrytí Generativního AI v roce 2023, rozšířili jsme se na prevenci úniku, šifrování a ochranu e-mailu v roce 2024 a nyní s Nyx přicházíme s tím, co považujeme za další éru agentic AI v ochraně dat – transformujeme únavu poplachů na zaměřené, vysoce účinné bezpečnostní akce napříč SaaS, koncovými body a AI nástroji.

Vy jste nedávno představili Nightfall Nyx, který popisujete jako první autonomní AI-rodnou DLP platformu. Co ji činí autonomní a jaké problémy to řeší pro bezpečnostní týmy?

AI detekční platforma Nightfall již dodává vysoce přesné, nízkofrekvenční výsledky – 95% přesnost ve srovnání s 5–30% typickými pro tradiční regex nebo pravidla-založené DLP. Postavená na tomto základě, Nyx je AI-inteligentní vrstva, která pomáhá bezpečnostním týmům vyšetřovat, korelovat a rozumět rizikům.

I po odstranění šumu začíná skutečná práce. V velkých organizacích mohou bezpečnostní týmy stále čelit stovkám legitimních poplachů denně. Procházení jimi, aby oddělily schválené obchodní postupy od rizikových otázek hygieny dat nebo vnitřních hrozeb, může zabrat hodiny. Nyx přebírá tuto vyšetřovací zátěž – urychluje analýzu, aby týmy mohly soustředit na akci, ne na procházení a třídění stránek poplachů.

Nyx spojuje body napříč událostmi úniku – uživatele, domény, zařízení, typy dat, názvy souborů a další – a okamžitě odhaluje vzory. Prostřednictvím svého přirozeného jazykového rozhraní mohou analytici jednat na základě vzorů, vyšetřovat výsledky, produkovat zprávy a získat doporučené akce v sekundách. Úkoly, které dříve trvaly dvě hodiny, nyní lze dokončit za méně než dvě minuty – skutečný 20× časově úsporný game-changer.

S explozivními generativními AI v pracovních prostředích a bezpečnostními týmy, které se snaží držet krok, věříte, že nástroje, jako je Nightfall, se stanou standardní vrstvou kontroly pro podnikové prostředí?

Myslím, že trajektorie naznačuje ano. Vidíme široké plány na přijetí Generativního AI napříč podniky a hlavní platformy, jako je Microsoft (MSFT ) Entra Internet Access, nasazují inline, před-odesláním kontroly pro Generativního AI provozu. Když párujete to s průmyslovým konsenzem kolem rizik Stínové AI, je rozumné očekávat, že před-odesláním, AI-aware DLP se stane standardní kontrolní vrstvou vedle věcí, jako je řízení identity a přístupu a detekce a odpověď na koncové body.

Nakonec, jako zakladatel budující v tak rychle se pohybujícím prostoru, co je váš dlouhodobý výhled pro Nightfall a roli AI v ochraně podnikových dat?

Náš dlouhodobý výhled staví na tom, co jsme artikulovali při spuštění – být kontrolní rovinou pro cloudata – ale nyní rozšiřujeme to o autonomní operace a agentic AI schopnosti. Představujeme si budoucnost, kde bezpečnostní postoje se neustále zlepšují bez přidávání další práce na analytiky, kde AI eliminuje potřebu specializované odborné znalosti a kde organizace mohou přejít z reaktivních, manuálních bezpečnostních operací na proaktivní, inteligentní prevenci hrozeb.

V praxi to znamená AI, které rozumí datům v kontextu a provádí bezpečné, inteligentní akce – vyšetřuje, školuje, rediguje, blokuje – napříč SaaS, koncovými body, e-mailem a Stínovou AI. Chceme uzavřít smyčku od detekce k prevenci, poskytovat bezpečnostním týmům vždy zapnutého inteligentního partnera, který se stává chytřejším s každým vyšetřením a transformuje týdny manuálních forenzních analýz na minuty zaměřených reakcí.

Děkuji za skvělý rozhovor, čtenáři, kteří chtějí se dozvědět více, by měli navštívit Nightfall.