Rohan Sathe, Co-Fondatore e Amministratore Delegato di Nightfall – Serie di Interviste

Nei primi giorni, volevamo utilizzare il machine learning per scoprire e proteggere dati sensibili ovunque si trovino nelle app cloud e nei flussi di lavoro moderni. Quando siamo usciti dalla fase di stealth nel 2019, ci siamo posizionati come soluzione SaaS DLP cloud-native e potenziata da ML, con una visione di costruire il ‘piano di controllo per i dati cloud’. Mentre ci siamo espansi oltre SaaS per coprire l’esfiltrazione di dati attraverso endpoint e intelligenza artificiale generativa, ‘DLP nativo AI’ è diventato il nostro termine ombrello.

Prima di fondare Nightfall, lei era un ingegnere fondatore di Uber Eats, dove ha visto di persona come i dati si diffondessero attraverso strumenti SaaS e cloud. Come le sue esperienze lì hanno plasmato la sua prospettiva sulla sicurezza dei dati, e quali momenti o sfide specifiche hanno innescato l’idea per Nightfall?

In Uber Eats, guidavo team di backend e costruivo servizi di machine learning applicati – cose come la previsione dell’orario di consegna e la previsione della domanda e dell’offerta. Stavamo gestendo dati su scala petabyte diffusi attraverso molti sistemi diversi, che è un ambiente in cui le informazioni sensibili possono muoversi molto velocemente e spesso in modo invisibile. Quell’esperienza, unita a ciò che l’intera industria ha imparato da incidenti come la violazione di Uber del 2016 – in cui gli aggressori hanno sfruttato credenziali esposte nel codice su GitHub per raggiungere i dati di AWS – ha realmente messo in luce come questa combinazione di dispersione dei dati, credenziali e infrastruttura cloud crei questo rischio sproporzionato senza migliori rilevamento e guardrail. Queste realtà hanno plasmato la focalizzazione di Nightfall sulla scoperta e prevenzione consapevoli del contesto fin dall’inizio.

Nightfall è stato lanciato pubblicamente nel 2019 con finanziamenti di serie A. Può guidarci attraverso il viaggio iniziale dalla modalità di stealth al lancio, inclusi eventuali punti di svolta chiave?

Abbiamo operato in modalità di stealth per circa un anno, poi lanciato ufficialmente il 7 novembre 2019 con 20,3 milioni di dollari di finanziamenti guidati da Bain Capital Ventures e Venrock. I punti di svolta iniziali ruotavano realmente intorno alla costruzione di ampie integrazioni SaaS e allo sviluppo di una classificazione di contenuti basata su ML ad alta accuratezza che potesse ridurre i falsi positivi che affliggevano le soluzioni DLP legacy.

L’AI ombra si riferisce all’uso non monitorato di strumenti come ChatGPT, Gemini e Copilot sul posto di lavoro, che spesso comporta perdite di dati invisibili. Come definisce l’AI ombra, e perché è una preoccupazione crescente per le organizzazioni moderne?

Definiamo l’AI ombra come l’uso non autorizzato o non monitorato di strumenti AI da parte dei dipendenti – pensi a incollare codice sorgente o dati dei clienti in chatbot – che crea rischi di esposizione al di fuori della governance IT. Questa definizione si allinea con ciò che stiamo vedendo da altri giocatori del settore come IBM e Splunk. L’AI ombra è essenzialmente l’AI utilizzata senza approvazione o supervisione, che introduce questi punti ciechi e potenziali rischi di esfiltrazione di dati. La combinazione di app di intelligenza artificiale generativa facili da usare e la mancanza di controlli adeguati è il motivo per cui questo problema sta crescendo così rapidamente.

Lei ha descritto diversi modi in cui l’approccio di Nightfall all’AI ombra differisce da quello della DLP tradizionale. Quale di queste funzionalità – sia che si tratti di monitoraggio consapevole del contesto, linea di dati o blocco in tempo reale – si è rivelata più impattante per i suoi clienti?

Da ciò che sentiamo costantemente dai clienti, ci sono due leve principali che fanno la differenza. In primo luogo, ci sono i controlli pre-inoltro – catturare effettivamente contenuti sensibili prima che vengano inviati a strumenti AI o pubblicati sul web. In secondo luogo, c’è la nostra rilevazione nativa AI che va oltre il pattern matching legacy per comprendere la linea di dati e il contesto.

Ciò che è veramente potente è la nostra riduzione del rumore attraverso l’apprendimento continuo. Il nostro sistema comprende contenuti e linea di file, apprende da annotazioni e azioni degli utenti, e identifica flussi di lavoro sicuri per sopprimere l’attività a basso rischio. Ciò riduce drasticamente i falsi positivi rispetto alle soluzioni DLP legacy. Stiamo anche facendo la rilevazione di minacce in tempo reale e la priorizzazione del rischio utilizzando LLM, trasformatori e visione computerizzata, con classificatori di file e sensibilità personalizzati che possono scoprire il movimento di proprietà intellettuale e documenti ad alto valore che vanno ben oltre la semplice rilevazione di entità basata su regole. I nostri clienti ci dicono che stanno vedendo questa trasformazione da fatica d’allarme a azioni di sicurezza focalizzate e ad alto impatto.

Come funziona il sistema di rilevamento basato su browser e nativo dell’endpoint di Nightfall per fermare le perdite prima che accadano, e come si confronta con le soluzioni DLP legacy che rilevano le violazioni solo dopo la presentazione?

La nostra estensione del browser e gli agenti dell’endpoint scansionano effettivamente le richieste e i file prima che vengano inviati. Possiamo redigere o bloccare contenuti a rischio in tempo reale – quindi prima che una richiesta ChatGPT venga inviata, ad esempio. Stiamo anche tracciando la linea di dati in modo che i team di sicurezza sappiano se un file è originato in un sistema aziendale. Distribuiamo su macOS e Windows con estensioni Chrome e Firefox che forniscono questa funzionalità di redazione e blocco dell’upload prima dell’invio. Questo è un contrasto abbastanza netto con la DLP legacy, che è principalmente sulla rilevazione dopo il fatto.

Nightfall si è espanso notevolmente dalla sua fondazione. Come sono evolute le esigenze di sicurezza aziendale nel corso di quel tempo, e come il suo prodotto si è adattato in risposta?

Il paesaggio si è realmente spostato in modo drammatico. Abbiamo iniziato con la scansione SaaS – pensi a Slack e Google Drive – intorno al 2020-2021. Poi le barriere dell’intelligenza artificiale generativa sono diventate critiche a partire dal 2023, e ora stiamo vedendo questo bisogno urgente di prevenzione di minacce autonoma e intelligente che possa scalare con la crescita organizzativa.

I team di operazioni di sicurezza lottano con strumenti sempre più complessi, DLP basato su pattern matching legacy, costante regolazione manuale delle politiche e una fatica d’allarme schiacciante. Questi problemi rallentano le indagini, aumentano il carico di lavoro e riducono l’efficacia della sicurezza. L’evoluzione del nostro prodotto ha seguito questo spostamento da operazioni reattive e manuali ad automazione intelligente e proattiva. Abbiamo annunciato la copertura dell’intelligenza artificiale generativa nel 2023, espanso alla prevenzione dell’esfiltrazione, crittografia e protezione email nel 2024, e ora con Nyx, stiamo inaugurando ciò che vediamo come la prossima era dell’AI agente nella protezione dei dati – trasformando la fatica d’allarme in azioni di sicurezza focalizzate e ad alto impatto su SaaS, endpoint e strumenti AI.

Ha recentemente introdotto Nightfall Nyx, che descrive come la prima piattaforma DLP nativa AI autonoma del settore. Cosa la rende autonoma, e quali problemi risolve per i team di sicurezza?

La piattaforma di rilevamento AI di Nightfall già fornisce risultati estremamente precisi e a basso rumore – precisione del 95% rispetto al 5-30% tipico delle soluzioni DLP tradizionali basate su regex o regole. Sulla base di quella fondazione, Nyx è lo strato di intelligenza AI che aiuta i team di sicurezza a indagare, correlare e comprendere i rischi.

Anche dopo che il rumore è stato rimosso, il vero lavoro inizia. In grandi organizzazioni, i team di SecOps possono ancora affrontare centinaia di allarmi legittimi ogni giorno. Setacciare tra di essi per separare i flussi di lavoro approvati aziendali da problemi di igiene dei dati a rischio o minacce interne può consumare ore. Nyx si occupa di questo lavoro di indagine – accelerando l’analisi in modo che i team possano concentrarsi sull’azione, non sulla ricerca e sulla classificazione di pagine di allarmi.

Nyx collega i punti tra eventi di esfiltrazione – utenti, domini, dispositivi, tipi di dati, nomi di file e altro – mettendo in luce modelli all’istante. Attraverso la sua interfaccia a linguaggio naturale, gli analisti possono agire su modelli, indagare sui risultati, produrre rapporti e ottenere azioni consigliate in pochi secondi. Compiti che una volta richiedevano due ore possono ora essere eseguiti in meno di due minuti – un vero cambiamento con un risparmio di tempo di 20 volte.

Con l’uso dell’intelligenza artificiale generativa che esplode nei luoghi di lavoro e i team di sicurezza che lottano per stare al passo, crede che strumenti come Nightfall diventeranno uno strato di controllo predefinito per gli ambienti aziendali?

Credo che la traiettoria suggerisca sì. Stiamo vedendo piani di adozione dell’intelligenza artificiale generativa su larga scala tra le imprese, e grandi piattaforme come Microsoft (MSFT ) Entra Internet Access stanno introducendo controlli pre-inoltro in linea per il traffico dell’intelligenza artificiale generativa. Quando si abbina questo con il consenso dell’industria sui rischi dell’AI ombra, è ragionevole aspettarsi che il DLP consapevole dell’AI e pre-inoltro diventi uno strato di controllo predefinito accanto a cose come la gestione delle identità e dell’accesso e la risposta alle minacce degli endpoint.

Infine, come fondatore che costruisce in uno spazio in rapida evoluzione, qual è la sua visione a lungo termine per Nightfall e il ruolo dell’AI nella protezione dei dati aziendali?

La nostra visione a lungo termine si basa su ciò che abbiamo articolato al lancio – essere il piano di controllo per i dati cloud – ma ora stiamo estendendo ciò con operazioni autonome e capacità di AI agente. Vediamo un futuro in cui la postura di sicurezza migliora costantemente senza aggiungere più lavoro agli analisti, in cui l’AI elimina la necessità di competenze di dominio specializzate, e in cui le organizzazioni possono spostarsi da operazioni di sicurezza reattive e manuali a prevenzione di minacce intelligente e proattiva.

Nella pratica, significa AI che comprende sia i dati nel contesto che prende azioni sicure e intelligenti – indagine, coaching, redazione, blocco – su SaaS, endpoint, email e strumenti AI ombra. Vogliamo chiudere il cerchio dalla rilevazione alla prevenzione, fornendo ai team di sicurezza un partner intelligente sempre attivo che diventa più intelligente con ogni indagine e trasforma settimane di indagini manuali in minuti di risposta focalizzata.

Grazie per la grande intervista, i lettori che desiderano saperne di più possono visitare Nightfall.