Rohan Sathe, Co-Fondatore & Amministratore Delegato di Nightfall – Serie di Interviste

Rohan Sathe è il Co-Fondatore e Amministratore Delegato di Nightfall AI. Prima di co-fondare Nightfall, ha guidato il team di backend di Uber Eats, sviluppando servizi di machine learning applicati come la previsione dell’ETA e la previsione della domanda e dell’offerta. È apparso come ospite nel podcast CISO Series e nel podcast di intelligenza artificiale, tra gli altri canali.

Nightfall impedisce le perdite di dati con l’AI, automatizzando la prevenzione della perdita di dati (DLP) attraverso SaaS e app GenAI, endpoint e browser. Scansiona continuamente testi e file per PII, PHI/PCI, segreti e credenziali; classifica il contenuto con ML; e applica le politiche in tempo reale. Le integrazioni includono Slack, Google Drive, GitHub e posta elettronica, con API/SDK per app personalizzate e LLM. La mitigazione copre la cancellazione, la messa in quarantena e la cancellazione, oltre alla formazione degli utenti, ai flussi di lavoro degli incidenti e al supporto per la conformità.

Lei e Isaac hanno co-fondato Nightfall nel 2018 sulla convinzione che l’AI potesse rendere il DLP migliore, più veloce e più accessibile alle imprese. Potrebbe condividere cosa sia stato quel momento di fondazione e come siete arrivati all’idea di un “DLP nativo AI” fin dal primo giorno?

Nei primi giorni, volevamo utilizzare il machine learning per scoprire e proteggere i dati sensibili ovunque vivano attraverso app cloud e flussi di lavoro moderni. Quando siamo usciti dalla fase di stealth nel 2019, ci siamo posizionati come soluzione SaaS DLP cloud-native e alimentata da ML, con una visione di costruire il ‘piano di controllo per i dati cloud’. Mentre ci siamo espansi oltre SaaS per coprire l’esfiltrazione dei dati attraverso endpoint e intelligenza artificiale generativa, ‘DLP nativo AI’ è diventato il nostro termine ombrello.

Prima di fondare Nightfall, lei era un ingegnere fondatore di Uber Eats, dove ha visto di persona come i dati si diffondessero attraverso SaaS e strumenti cloud. Come le sue esperienze lì hanno plasmato la sua prospettiva sulla sicurezza dei dati, e quali momenti o sfide specifiche hanno innescato l’idea per Nightfall?

In Uber Eats, stavo guidando i team di backend e costruendo servizi di machine learning applicati – cose come le previsioni ETA e la previsione della domanda e dell’offerta. Stavamo gestendo dati su scala petabyte diffusi attraverso molti sistemi diversi, che è un ambiente in cui le informazioni sensibili possono muoversi molto velocemente e spesso in modo invisibile. Quell’esperienza, combinata con ciò che l’intero settore ha imparato da incidenti come la violazione di Uber del 2016 – in cui gli aggressori hanno basically sfruttato credenziali esposte nel codice su GitHub per raggiungere i dati AWS – ha realmente evidenziato come questa combinazione di diffusione dei dati, credenziali e infrastruttura cloud crei questo rischio sproporzionato senza migliori rilevamento e guardrails. Queste realtà hanno plasmato la focalizzazione di Nightfall sulla scoperta e prevenzione consapevoli del contesto fin dall’inizio.

Nightfall è stato lanciato pubblicamente nel 2019 con un finanziamento di serie A. Può guidarci attraverso il viaggio iniziale dalla modalità di stealth al lancio, inclusi eventuali punti di svolta chiave?

Abbiamo operato in modalità di stealth per circa un anno, poi lanciato ufficialmente il 7 novembre 2019 con 20,3 milioni di dollari di finanziamento guidato da Bain Capital Ventures e Venrock. I punti di svolta iniziali ruotavano realmente intorno alla costruzione di ampie integrazioni SaaS e allo sviluppo di una classificazione del contenuto basata su ML ad alta accuratezza che potesse ridurre i falsi positivi che affliggevano le soluzioni DLP legacy.

L’AI ombra si riferisce all’uso non monitorato di strumenti come ChatGPT, Gemini e Copilot sul posto di lavoro, spesso con conseguente perdita di dati invisibile. Come definisce l’AI ombra, e perché è una preoccupazione crescente per le organizzazioni moderne?

Definiamo l’AI ombra come l’uso non autorizzato o non monitorato di strumenti AI da parte dei dipendenti – pensi a incollare codice sorgente o dati dei clienti in chatbot – che crea rischi di esposizione al di fuori della governance IT. Questa definizione si allinea con ciò che stiamo vedendo da altri giocatori del settore come IBM e Splunk. L’AI ombra è essenzialmente l’AI utilizzata senza approvazione o supervisione, che introduce questi punti ciechi e potenziali rischi di esfiltrazione dei dati. La combinazione di app di intelligenza artificiale generativa facili da usare e la mancanza di controlli adeguati è il motivo per cui questo problema sta crescendo così rapidamente.

Ha descritto diversi modi in cui l’approccio di Nightfall all’AI ombra differisce dal DLP tradizionale. Quale di queste funzionalità – se si tratta di monitoraggio consapevole del contesto, lineage dei dati o blocco in tempo reale – si è rivelata più impattante per i suoi clienti?

Da ciò che sentiamo costantemente dai clienti, ci sono realmente due leve principali che fanno la maggiore differenza. In primo luogo, ci sono i controlli pre-submission – catturare effettivamente il contenuto sensibile prima che venga inviato a strumenti AI o pubblicato sul web. In secondo luogo, c’è la nostra rilevazione nativa AI che si sposta oltre il pattern matching legacy per comprendere la lineage dei dati e il contesto.

Ciò che è realmente potente è la nostra riduzione del rumore attraverso l’apprendimento continuo. Il nostro sistema comprende la lineage dei contenuti e dei file, apprende dalle annotazioni e dalle azioni degli utenti e identifica workflow sicuri per sopprimere l’attività a basso rischio. Ciò riduce drasticamente i falsi positivi rispetto alle soluzioni DLP legacy. Stiamo anche eseguendo la rilevazione delle minacce in tempo reale e la priorizzazione del rischio utilizzando LLM, trasformatori e visione computerizzata, con classificatori di file e sensibilità personalizzati che possono scoprire il movimento di proprietà intellettuale e documenti ad alto valore che vanno ben oltre la semplice entità di rilevamento basata su regole. I nostri clienti ci dicono che stanno vedendo questa trasformazione da fatica degli allarmi ad azioni di sicurezza focalizzate e ad alto impatto.

Come funziona il sistema di rilevamento basato su browser e nativo dell’endpoint di Nightfall per fermare le perdite prima che accadano, e come si confronta con i sistemi DLP legacy che rilevano solo le violazioni dopo la sottomissione?

La nostra estensione del browser e gli agenti dell’endpoint scansionano effettivamente i prompt e i file prima che vengano inviati. Possiamo oscurare o bloccare il contenuto rischioso in tempo reale – quindi prima che un prompt ChatGPT venga inviato, ad esempio. Stiamo anche tracciando la lineage in modo che i team di sicurezza sappiano se un file è originato in un sistema aziendale. Distribuiamo su macOS e Windows con estensioni Chrome e Firefox che forniscono questa funzionalità di oscuramento e blocco dell’upload prima dell’invio. Ciò è un contrasto abbastanza netto con il DLP legacy, che è principalmente sulla rilevazione dopo il fatto.

Nightfall si è espanso notevolmente dal suo lancio. Come sono evolute le esigenze di sicurezza aziendale nel corso di quel tempo, e come il suo prodotto si è adattato in risposta?

Il panorama si è realmente spostato in modo drammatico. Abbiamo iniziato con la scansione SaaS – pensi a Slack e Google Drive – intorno al 2020-2021. Poi le barriere dell’AI generativa sono diventate critiche a partire dal 2023, e ora stiamo vedendo questo bisogno urgente di prevenzione delle minacce autonoma e intelligente che possa scalare con la crescita organizzativa.

I team di operazioni di sicurezza stanno lottando con strumenti sempre più complessi, DLP legacy basato su pattern matching, costanti regolazioni manuali delle politiche e una fatica degli allarmi schiacciante. Questi problemi rallentano le indagini, aumentano l’onere e riducono l’efficacia della sicurezza. L’evoluzione del nostro prodotto ha tracciato questo spostamento dalle operazioni reattive e manuali alle operazioni proattive e intelligenti. Abbiamo annunciato la copertura dell’AI generativa nel 2023, espanso alla prevenzione dell’esfiltrazione, alla crittografia e alla protezione della posta elettronica nel 2024, e ora con Nyx, stiamo introducendo ciò che vediamo come la prossima era dell’AI agente nella protezione dei dati – trasformando la fatica degli allarmi in azioni di sicurezza focalizzate e ad alto impatto su SaaS, endpoint e strumenti AI.

Ha recentemente introdotto Nightfall Nyx, che descrive come la prima piattaforma DLP nativa AI del settore. Cosa la rende autonoma, e quali problemi risolve per i team di sicurezza?

La piattaforma di rilevamento AI di Nightfall già consegna risultati estremamente precisi e a basso rumore – precisione del 95% rispetto al 5-30% tipico del DLP tradizionale basato su regex o regole. Sulla base di questa fondazione, Nyx è lo strato di intelligenza AI che aiuta i team di sicurezza a indagare, correlare e comprendere i rischi.

Anche dopo che il rumore è scomparso, il vero lavoro inizia. In grandi organizzazioni, i team di SecOps possono ancora affrontare centinaia di allarmi legittimi ogni giorno. Setacciare tra di loro per separare i workflow approvati aziendali da problemi di igiene dei dati rischiosi o minacce interne può consumare ore. Nyx si assume questo lavoro di indagine – accelerando l’analisi in modo che i team possano concentrarsi sull’azione, non sulla ricerca e sull’ordinamento di pagine di allarmi.

Nyx collega i punti tra gli eventi di esfiltrazione – utenti, domini, dispositivi, tipi di dati, nomi di file e altro – evidenziando i modelli istantaneamente. Attraverso la sua interfaccia a linguaggio naturale, gli analisti possono agire sui modelli, indagare i risultati, produrre rapporti e ottenere azioni consigliate in pochi secondi. Compiti che una volta richiedevano due ore possono ora essere eseguiti in meno di due minuti – un vero cambiamento di gioco con un risparmio di tempo di 20 volte.

Con l’uso dell’AI generativa che esplode nei luoghi di lavoro e i team di sicurezza che lottano per stare al passo, crede che strumenti come Nightfall diventeranno uno strato di controllo predefinito per gli ambienti aziendali?

Credo che la traiettoria suggerisca sì. Stiamo vedendo piani di adozione dell’AI generativa su larga scala attraverso le imprese, e piattaforme importanti come Microsoft Entra Internet Access stanno introducendo controlli inline e pre-submission per il traffico dell’AI generativa. Quando si abbina questo al consenso dell’industria sui rischi dell’AI ombra, è ragionevole aspettarsi che il DLP consapevole dell’AI e pre-submission diventi uno strato di controllo predefinito accanto a cose come la gestione delle identità e dell’accesso e la risposta alle minacce degli endpoint.

Infine, come fondatore che costruisce in uno spazio in rapida evoluzione, qual è la sua visione a lungo termine per Nightfall e il ruolo dell’AI nella protezione dei dati aziendali?

La nostra visione a lungo termine si basa su ciò che abbiamo articolato al lancio – essere il piano di controllo per i dati cloud – ma ora stiamo estendendo ciò con operazioni autonome e capacità di AI agente. Immaginiamo un futuro in cui la postura di sicurezza migliora costantemente senza aggiungere più lavoro agli analisti, in cui l’AI elimina la necessità di competenze di dominio specializzate e in cui le organizzazioni possono spostarsi da operazioni di sicurezza reattive e manuali a prevenzione delle minacce proattiva e intelligente.

Nella pratica, ciò significa un’AI che comprende i dati nel contesto e prende azioni sicure e intelligenti – indaga, forma, oscura, blocca – su SaaS, endpoint, posta elettronica e strumenti AI ombra. Vogliamo chiudere il ciclo dalla rilevazione alla prevenzione, dando ai team di sicurezza un partner intelligente sempre attivo che diventa più intelligente con ogni indagine e trasforma settimane di forensi manuali in minuti di risposta focalizzata.

Grazie per la grande intervista, i lettori che desiderano saperne di più possono visitare Nightfall.