Rohan Sathe, Co-Fondator & CEO al Nightfall – Seria de Interviuri

În primele zile, am vrut să folosim machine learning pentru a descoperi și proteja datele sensibile, indiferent unde se află acestea în aplicațiile cloud și fluxurile de lucru moderne. Când am ieșit din perioada de stealth în 2019, ne-am poziționat ca o soluție SaaS DLP nativă cloud, cu o viziune de a construi “planul de control pentru datele cloud”. Pe măsură ce am extins dincolo de SaaS pentru a acoperi exfiltrarea de date în puncte de acces și inteligență artificială generativă, “DLP nativ AI” a devenit termenul nostru generic.

Înainte de a fonda Nightfall, ați fost inginer fondator la Uber Eats, unde ați văzut direct cum se răspândesc datele în aplicațiile SaaS și instrumentele cloud. Cum v-au influențat experiențele de acolo perspectiva asupra securității datelor și care au fost momentele sau provocările specifice care au declanșat ideea pentru Nightfall?

La Uber Eats, conduceam echipele de backend și construiam servicii de machine learning aplicate – lucruri precum predicția ETA și previziunea cererii și ofertei. Ne confruntam cu date la scară de petabytes, răspândite în numeroase sisteme diferite, ceea ce este un mediu în care informațiile sensibile pot circula foarte repede și adesea invizibil. Această experiență, combinată cu ceea ce întreaga industrie a învățat din incidente precum breșa de securitate a Uber din 2016 – în care atacatorii au exploatat credențiale expuse în cod pe GitHub pentru a ajunge la datele de pe AWS – a subliniat cu adevărat cum această combinație de răspândire a datelor, credențiale și infrastructură cloud creează un risc disproporționat fără detectare și garduri mai bune. Realitățile acestea au modelat focalizarea Nightfall pe descoperirea și prevenirea contextului încă de la început.

Nightfall a lansat public în 2019 cu finanțare de serie A. Ați putea să ne descrieți călătoria de la modul stealth la lansare, inclusiv orice puncte de inflexiune cheie?

Am operat în mod stealth timp de aproximativ un an, apoi am lansat oficial pe 7 noiembrie 2019, cu 20,3 milioane de dolari în finanțare condusă de Bain Capital Ventures și Venrock. Punctele de inflexiune timpurii s-au învârtit în jurul construirii unor integrări SaaS extinse și dezvoltării unei clasificări a conținutului bazate pe ML, care putea reduce falsele pozitive care afectau soluțiile DLP legacy.

Inteligența artificială din umbră se referă la utilizarea neautorizată sau ne monitorizată a unor instrumente precum ChatGPT, Gemini și Copilot în locul de muncă, adesea rezultând în scurgeri de date invizibile. Cum definiți Inteligența artificială din umbră și de ce este o preocupare în creștere pentru organizațiile moderne?

Definim Inteligența artificială din umbră ca utilizarea neautorizată sau nemonitorizată a instrumentelor de inteligență artificială de către angajați – de exemplu, lipirea codului sursă sau a datelor clienților în chatbot-uri – ceea ce creează riscuri de expunere în afara guvernanței IT. Această definiție se aliniază cu ceea ce vedem de la alți jucători din industrie, precum IBM și Splunk. Inteligența artificială din umbră este, în esență, inteligența artificială utilizată fără aprobare sau supraveghere, ceea ce introduce aceste puncte oarbe și riscuri potențiale de exfiltrare a datelor. Combinația de aplicații de inteligență artificială generativă ușor de utilizat și lipsa controalelor corespunzătoare este motivul pentru care această problemă crește atât de rapid.

Ați descris multiple moduri în care abordarea Nightfall față de Inteligența artificială din umbră diferă de DLP-ul tradițional. Care dintre aceste caracteristici – fie controlul conștient, linia de date, sau blocarea în timp real – s-a dovedit a fi cel mai impactant pentru clienții dvs.?

De la ceea ce auzim constant de la clienți, există două pârghii principale care fac cea mai mare diferență. Primul este controlul pre-trimitere – capturarea conținutului sensibil înainte de a fi trimis către instrumente de inteligență artificială sau publicat pe web. Al doilea este detectarea noastră nativă AI, care se extinde dincolo de potrivirea legacy pentru a înțelege linia de date și contextul.

Ce este cu adevărat puternic este reducerea zgomotului nostru prin învățare continuă. Sistemul nostru înțelege conținutul și linia fișierelor, învață din annotațiile și acțiunile utilizatorilor și identifică fluxurile de lucru sigure pentru a suprima activitățile cu risc scăzut. Acest lucru reduce dramatic falsele pozitive în comparație cu soluțiile DLP legacy. De asemenea, efectuăm detectarea amenințărilor și prioritizarea riscurilor în timp real, utilizând LLM-uri, transformatori și viziune computerizată, cu clasificatori personalizați de fișiere și sensibilitate care pot descoperi mișcarea proprietății intelectuale și documentelor de înaltă valoare, care depășesc cu mult detectarea entităților bazate pe reguli simple. Clienții noștri ne spun că văd această transformare de la oboseala alertelor la acțiuni de securitate focalizate și cu impact ridicat.

Cum oprește Nightfall scurgerile de date înainte de a se întâmpla și cum se compară acest lucru cu soluțiile DLP legacy care detectează încălcări doar după trimitere?

Extensia noastră de browser și agenții de puncte de acces scanează prompturile și fișierele înainte de a fi trimise. Putem redacta sau bloca conținutul riscant în timp real – deci, înainte ca o promptă ChatGPT să fie trimisă, de exemplu. De asemenea, urmărim linia de date, astfel încât echipele de securitate să știe dacă un fișier a provenit dintr-un sistem corporativ. Implementăm pe macOS și Windows, cu extensii Chrome și Firefox care oferă funcționalitate de redactare și blocare a încărcării înainte de trimitere. Acest lucru este în contrast puternic cu DLP-ul legacy, care se axează în principal pe detectarea post-trimitere.

Nightfall s-a extins semnificativ de la fondare. Cum au evoluat nevoile de securitate ale întreprinderilor de-a lungul acestui timp și cum a adaptat produsul dvs. în răspuns?

Peisajul s-a schimbat cu adevărat dramatic. Am început cu scanarea SaaS – așa cum ar fi Slack și Google Drive – în jurul anilor 2020-2021. Apoi, gardurile de inteligență artificială generativă au devenit critice, începând cu 2023, și acum vedem această nevoie urgentă de prevenire a amenințărilor autonome și inteligente care pot scala cu creșterea organizațională.

Echipele de operațiuni de securitate se luptă cu instrumente din ce în ce mai complexe, DLP legacy bazat pe potrivirea regulilor, reglarea constantă a politicilor manuale și oboseala alertelor care sporesc. Aceste probleme încetinesc investigațiile, măresc supraîncărcarea și reduc eficacitatea securității. Evoluția produsului nostru a urmat această schimbare de la operațiuni reactive și manuale la automatizarea proactivă și inteligentă. Am anunțat acoperirea inteligenței artificiale generative în 2023, am extins la prevenirea exfiltrării, criptare și protecție e-mail în 2024, și acum, cu Nyx, dăm startul unei noi ere a inteligenței artificiale agențice în protecția datelor – transformând oboseala alertelor în acțiuni de securitate focalizate și cu impact ridicat, pe SaaS, puncte de acces și instrumente de inteligență artificială.

Ați introdus recent Nightfall Nyx, pe care îl descrieți ca prima platformă DLP nativă AI din industrie. Ce face ca Nyx să fie autonom și ce probleme rezolvă pentru echipele de securitate?

Platforma noastră de detectare AI oferă deja rezultate foarte precise și cu zgomot redus – 95% precizie în comparație cu 5-30% obișnuit pentru DLP-ul tradițional bazat pe regex sau reguli. Așezat pe această fundație, Nyx este stratul de inteligență AI care ajută echipele de securitate să investigheze, să coreleze și să înțeleagă riscurile.

Chiar și după ce zgomotul dispare, munca reală abia începe. În organizații mari, echipele SecOps pot încă face față sute de alerte legitime în fiecare zi. Să treacă prin ele pentru a separa fluxurile de lucru aprobate de problemele de igienă a datelor riscante sau de amenințări interne poate consuma ore. Nyx preia această muncă grea de investigație – accelerând analiza, astfel încât echipele să se poată concentra pe acțiune, nu pe căutarea și sortarea prin pagini de alerte.

Nyx conectează punctele cheie ale evenimentelor de exfiltrare – utilizatori, domenii, dispozitive, tipuri de date, nume de fișiere și multe altele – evidențiind modele instantaneu. Prin interfața sa de limbaj natural, analiștii pot acționa asupra modelelor, investiga rezultatele, produce rapoarte și obține acțiuni recomandate în secunde. Sarcinile care altădată durau două ore pot fi acum realizate în mai puțin de două minute – un adevărat câștigător de timp de 20 de ori.

Având în vedere explozia utilizării inteligenței artificiale generative în locurile de muncă și lupta echipelor de securitate pentru a ține pasul, credeți că instrumente precum Nightfall vor deveni un strat implicit de control pentru medii enterprise?

Cred că traseul sugerează da. Vedem planuri de adoptare pe scară largă a inteligenței artificiale generative în întreprinderi, iar platforme majore precum Microsoft (MSFT ) Entra Internet Access introduc controale pre-trimitere inline pentru traficul de inteligență artificială generativă. Când asociați acest lucru cu consensul din industrie cu privire la riscurile Inteligenței artificiale din umbră, este rezonabil să vă așteptați ca DLP-ul conștient de inteligență artificială pre-trimitere să devină un strat de control implicit, alături de lucruri precum gestionarea identității și accesului și detectarea și răspunsul la punctele de acces.

În cele din urmă, ca fondator care construiește într-un spațiu atât de dinamic, ce este viziunea dvs. pe termen lung pentru Nightfall și rolul inteligenței artificiale în protecția datelor enterprise?

Viziunea noastră pe termen lung se construiește pe ceea ce am articulat la lansare – a fi planul de control pentru datele cloud – dar acum o extindem cu operațiuni autonome și capacități de inteligență artificială agențică. Ne imaginăm un viitor în care postura de securitate se îmbunătățește în mod continuu, fără a pune mai multă muncă pe analiști, unde inteligența artificială elimină nevoia de expertiză specializată în domeniu și unde organizațiile pot trece de la operațiuni de securitate reactive și manuale la prevenirea proactivă și inteligentă a amenințărilor.

În practică, acest lucru înseamnă inteligență artificială care înțelege atât datele în context, cât și ia acțiuni sigure și inteligente – investighează, coach, redactează, blochează – pe SaaS, puncte de acces, e-mail și Inteligență artificială din umbră. Vrem să închidem bucla de la detectare la prevenire, oferind echipelor de securitate un partener inteligent care devine tot mai inteligent cu fiecare investigație și transformă săptămâni de forensică manuală în minute de răspuns focalizat.

Mulțumim pentru acest interviu minunat; cititorii care doresc să afle mai multe despre Nightfall ar trebui să viziteze Nightfall.