Rohan Sathe, Co-Fondator & CEO al Nightfall – Seria de Interviuri

Rohan Sathe este Co-Fondator și CEO al Nightfall AI. Înainte de a co-fonda Nightfall, el a condus echipa de backend la Uber Eats, construind servicii de învățare automată aplicate, cum ar fi predicția ETA și previziunea cererii și ofertei. El a apărut ca invitat în podcast-ul CISO Series și podcast-ul Artificial Intelligence, printre alte canale.

Nightfall previne scurgerile de date cu IA, automatizând DLP (prevenirea pierderii de date) în aplicații SaaS și GenAI, puncte de extremitate și browsere. Acesta scanează în mod continuu textul și fișierele pentru PII, PHI/PCI, secrete și credențiale; clasifică conținutul cu ML; și aplică politici în timp real. Integrările includ Slack, Google Drive, GitHub și e-mail, cu API-uri/SDK-uri pentru aplicații personalizate și LLM. Remedierea acoperă redactarea, carantinarea și ștergerea, alături de coaching-ul utilizatorilor, fluxurile de incidente și suportul de conformitate.

Și tu, și Isaac ați co-fondat Nightfall în 2018, pe baza credinței că IA poate face DLP mai bun, mai rapid și mai accesibil pentru întreprinderi. Ne puteți împărtăși ce a arătat momentul fondator și cum ați ajuns la ideea de “DLP nativ IA” din ziua întâi?

În zilele de început, am vrut să utilizăm învățarea automată pentru a descoperi și proteja datele sensibile, oriunde acestea trăiesc, în aplicații cloud și fluxuri de lucru moderne. Când am ieșit din regimul de stealth în 2019, ne-am poziționat ca o soluție SaaS DLP nativ cloud, cu putere de învățare automată, și cu o viziune de a construi “planul de control pentru datele cloud”. Pe măsură ce am extins dincolo de SaaS pentru a acoperi exfiltrarea datelor în puncte de extremitate și inteligență generativă, “DLP nativ IA” a devenit termenul nostru generic.

Înainte de a fonda Nightfall, ai fost inginer fondator la Uber Eats, unde ai văzut din primă mână cum se răspândesc datele în aplicații SaaS și unelte cloud. Cum v-au influențat experiențele de acolo perspectiva asupra securității datelor, și care au fost momentele sau provocările specifice care au declanșat ideea pentru Nightfall?

La Uber Eats, conduceam echipele de backend și construiam servicii de învățare automată aplicate – lucruri precum ETA și previziunea cererii și ofertei. Ne confruntam cu date de scară petabyte, răspândite în numeroase sisteme diferite, ceea ce este un mediu în care informațiile sensibile pot circula foarte repede și adesea invizibil. Această experiență, combinată cu ceea ce întreaga industrie a învățat din incidente precum breșa Uber din 2016 – în care atacatorii au exploatat credențialele expuse în cod pe GitHub pentru a ajunge la datele AWS – a subliniat cu adevărat modul în care această combinație de răspândire a datelor, credențiale și infrastructură cloud creează acest risc disproporționat fără detectare și garduri mai bune. Aceste realități au modelat focalizarea Nightfall pe descoperirea și prevenirea contextului de la început.

Nightfall a lansat public în 2019 cu finanțare Seria A. Ne puteți descrie călătoria de la modul de stealth la lansare, inclusiv orice puncte de inflexiune cheie?

Am operat în regim de stealth timp de aproximativ un an, apoi am lansat oficial pe 7 noiembrie 2019, cu 20,3 milioane de dolari în finanțare condusă de Bain Capital Ventures și Venrock. Punctele de inflexiune timpurie s-au învârtit în jurul construirii unor integrări SaaS ample și dezvoltării unei clasificări a conținutului bazate pe învățare automată, cu o acuratețe mai mare, care să reducă falsele pozitive care au afectat soluțiile DLP legacy.

Inteligența umbrită se referă la utilizarea necontrolată a unor instrumente precum ChatGPT, Gemini și Copilot în locul de muncă, adesea rezultând în scurgeri de date invizibile. Cum definiți Inteligența umbrită, și de ce este o preocupare în creștere pentru organizațiile moderne?

Definim Inteligența umbrită ca utilizarea neautorizată sau necontrolată a instrumentelor IA de către angajați – de exemplu, lipirea codului sursă sau a datelor clienților în chatbot-uri – ceea ce creează riscuri de expunere în afara guvernanței IT. Această definiție se aliniază cu ceea ce vedem de la alți jucători din industrie, precum IBM și Splunk. Inteligența umbrită este, în esență, IA utilizată fără aprobare sau supraveghere, ceea ce introduce aceste puncte oarbe și riscuri potențiale de exfiltrare a datelor. Combinarea aplicațiilor Generative IA ușor de utilizat și lipsa controalelor corespunzătoare este motivul pentru care această problemă crește atât de rapid.

Ați descris multiple moduri în care abordarea Nightfall față de Inteligența umbrită diferă de DLP tradițional. Care dintre aceste caracteristici – fie că vorbim de monitorizarea conștientă de context, de linia de date sau de blocarea în timp real – s-a dovedit a fi cel mai impactant pentru clienții dvs.?

De la ceea ce auzim în mod constant de la clienți, există două pârghii principale care fac cea mai mare diferență. Primul este controlul pre-trimitere – prinderea efectivă a conținutului sensibil înainte de a fi trimis către instrumente IA sau publicat pe web. Al doilea este detectarea noastră nativă IA, care se deplasează dincolo de potrivirea de modele legacy pentru a înțelege linia de date și contextul.

Ceea ce este cu adevărat puternic este reducerea zgomotului nostru prin învățare continuă. Sistemul nostru înțelege conținutul și linia fișierelor, învață din annotațiile și acțiunile utilizatorilor și identifică fluxurile de lucru sigure pentru a suprima activitățile cu risc scăzut. Acest lucru reduce dramatic falsele pozitive în comparație cu soluțiile DLP legacy. De asemenea, efectuăm detectarea amenințărilor în timp real și prioritizarea riscurilor, utilizând LLM, transformatori și viziune computerizată, cu clasificatori de fișiere și sensibilitate personalizați care pot descoperi mișcarea proprietății intelectuale și a documentelor de înaltă valoare, care merg mult dincolo de simpla detectare bazată pe reguli a entităților. Clienții noștri ne spun că văd această transformare de la oboseala alertelor la acțiuni de securitate focalizate și cu impact ridicat.

Cum oprește sistemul de detectare al Nightfall, bazat pe browser și nativ pentru puncte de extremitate, scurgerile de date înainte de a apărea, și cum se compară acesta cu sistemele DLP legacy care detectează încălcări doar după trimitere?

Extensia noastră de browser și agenții noștri pentru puncte de extremitate scanează efectiv prompturile și fișierele înainte de a fi trimise. Putem redacta sau bloca conținutul riscant în timp real – deci, înainte ca o promptă ChatGPT să fie trimisă, de exemplu. De asemenea, urmărim linia de date, astfel încât echipele de securitate să știe dacă un fișier a provenit dintr-un sistem corporativ. Implementăm pe macOS și Windows, cu extensii Chrome și Firefox care oferă această funcționalitate de redactare și blocare a încărcării înainte de trimitere. Acest lucru este în contrast puternic cu DLP legacy, care se concentrează în principal pe detectarea post-trimitere.

Nightfall s-a extins semnificativ de la fondare. Cum au evoluat nevoile de securitate a întreprinderilor de-a lungul acestui timp, și cum a răspuns produsul dvs.?

Peisajul s-a schimbat cu adevărat dramatic. Am început cu scanarea SaaS – de exemplu, Slack și Google Drive – în jurul anilor 2020-2021. Apoi, gardurile Generative IA au devenit critice, începând cu 2023, și acum vedem această nevoie urgentă de prevenire a amenințărilor autonome și inteligente care pot scala cu creșterea organizațională.

Echipele de operațiuni de securitate se luptă cu unelte din ce în ce mai complexe, DLP legacy bazat pe potrivirea de modele, reglarea manuală constantă a politicilor și oboseala alertelor care cresc. Aceste probleme încetinesc investigațiile, cresc supraîncărcarea și reduc eficacitatea securității. Evoluția produsului nostru a urmat această schimbare de la operațiuni reactive și manuale la automatizarea proactivă și inteligentă. Am anunțat acoperirea Generative IA în 2023, am extins la prevenirea exfiltrării, criptarea și protecția e-mailului în 2024, și acum, cu Nyx, dăm startul ceea ce considerăm a fi următoarea eră a IA agenților în protecția datelor – transformând oboseala alertelor în acțiuni de securitate focalizate și cu impact ridicat, pe SaaS, puncte de extremitate și unelte IA.

Ați introdus recent Nightfall Nyx, pe care îl descrieți ca prima platformă autonomă DLP nativ IA din industrie. Ce face Nyx autonom, și ce probleme rezolvă acest lucru pentru echipele de securitate?

Platforma noastră de detectare IA oferă deja rezultate foarte precise, cu o precizie de 95% comparativ cu 5-30% obișnuită pentru DLP tradițional bazat pe reguli. Situată pe baza acestei fundații, Nyx este stratul de inteligență IA care ajută echipele de securitate să investigheze, să coreleze și să înțeleagă riscurile.

Chiar și după ce zgomotul dispare, adevărata muncă începe. În organizații mari, echipele SecOps pot încă înfrunta sute de alerte legitime în fiecare zi. Să treacă prin ele pentru a separa fluxurile de lucru aprobate de problemele de igienă a datelor riscante sau de amenințările interne poate consuma ore. Nyx preia această muncă grea de investigație – accelerând analiza astfel încât echipele să se poată concentra pe acțiune, nu pe căutarea și sortarea prin pagini de alerte.

Nyx conectează punctele între evenimentele de exfiltrare – utilizatori, domenii, dispozitive, tipuri de date, nume de fișiere și multe altele – evidențiind modelele instantaneu. Prin intermediul interfeței sale de limbaj natural, analiștii pot acționa asupra modelelor, investiga rezultatele, produce rapoarte și obține acțiuni recomandate în secunde. Sarcinile care altădată luau două ore pot fi acum realizate în mai puțin de două minute – un adevărat joc schimbător de 20 de ori, în ceea ce privește timpul.

Având în vedere explozia utilizării IA generative în locurile de muncă și lupta echipelor de securitate de a ține pasul, credeți că unelte precum Nightfall vor deveni un strat de control implicit pentru medii de întreprindere?

Traiectoria sugerează că da. Vedem planuri de adoptare pe scară largă a IA generative în întreprinderi, și platforme majore precum Microsoft Entra Internet Access introducând controale inline, pre-trimitere pentru traficul de IA generativ. Când asociați acest lucru cu consensul industriei cu privire la riscurile IA umbrite, este rezonabil să așteptați ca DLP conștient de IA, pre-trimitere, să devină un strat de control implicit, alături de lucruri precum gestionarea identității și accesului și detectarea și răspunsul la punctele de extremitate.

În cele din urmă, ca fondator care construiește într-un spațiu atât de dinamic, ce este viziunea dvs. pe termen lung pentru Nightfall și rolul IA în protecția datelor de întreprindere?

Viziunea noastră pe termen lung se construiește pe ceea ce am articulat la lansare – a fi planul de control pentru datele cloud – dar acum o extindem cu operațiuni autonome și capacități IA agențiale. Ne imaginăm un viitor în care postura de securitate se îmbunătățește continuu fără a încărca mai mult muncă pe analiști, în care IA elimină nevoia de expertiză de domeniu specializată, și în care organizațiile pot trece de la operațiuni de securitate reactive și manuale la prevenirea proactivă și inteligentă a amenințărilor.

În practică, acest lucru înseamnă IA care atât înțelege datele în context, cât și ia acțiuni sigure și inteligente – investighează, coach, redactează, blochează – pe SaaS, puncte de extremitate, e-mail și unelte IA umbrite. Vrem să închidem bucla de la detectare la prevenire, oferind echipelor de securitate un partener inteligent care devine tot mai inteligent cu fiecare investigație și transformă săptămâni de forenză manuală în minute de răspuns focalizat.

Mulțumim pentru acest interviu minunat; cititorii care doresc să afle mai multe pot vizita Nightfall.