Rohan Sathe, Co-Fundador e CEO da Nightfall – Série de Entrevistas

Nos primeiros dias, queríamos usar o machine learning para descobrir e proteger dados sensíveis em qualquer lugar onde eles vivem em aplicativos em nuvem e fluxos de trabalho modernos. Quando saímos da clandestinidade em 2019, nos posicionamos como uma solução de DLP SaaS nativa em nuvem e impulsionada por ML, com uma visão de construir o ‘plano de controle de dados em nuvem’. À medida que expandimos além do SaaS para cobrir a extração de dados em pontos de extremidade e IA generativa, ‘DLP nativa em IA’ se tornou nosso termo guarda-chuva.

Antes de fundar a Nightfall, você era um engenheiro fundador do Uber Eats, onde viu de perto como os dados se espalhavam por ferramentas SaaS e em nuvem. Como suas experiências lá moldaram sua perspectiva sobre segurança de dados e quais momentos ou desafios específicos despertaram a ideia para a Nightfall?

No Uber Eats, eu liderava equipes de backend e construía serviços de machine learning aplicados – coisas como previsão de ETA e previsão de oferta e demanda. Estávamos lidando com dados em escala de petabytes espalhados por muitos sistemas diferentes, o que é um ambiente onde informações sensíveis podem se mover muito rapidamente e frequentemente de forma invisível. Essa experiência, combinada com o que a indústria inteira aprendeu com incidentes como a violação do Uber em 2016 – onde os atacantes basicamente exploraram credenciais expostas em código no GitHub para alcançar dados do AWS – realmente destacou como essa combinação de dispersão de dados, credenciais e infraestrutura em nuvem cria esse risco desproporcional sem melhor detecção e guardiões. Essas realidades moldaram o foco da Nightfall na descoberta e prevenção conscientes do contexto desde o início.

A Nightfall foi lançada publicamente em 2019 com financiamento da Série A. Pode nos levar pelo caminho desde o modo clandestino até o lançamento, incluindo qualquer ponto de inflexão importante?

Operamos em clandestinidade por cerca de um ano, então lançamos oficialmente em 7 de novembro de 2019 com US$ 20,3 milhões em financiamento liderado pela Bain Capital Ventures e Venrock. Os principais pontos de inflexão realmente giraram em torno de construir integrações SaaS amplas e desenvolver classificação de conteúdo baseada em ML de alta precisão que pudesse reduzir os falsos positivos que atormentavam as soluções de DLP legadas.

Shadow AI se refere ao uso não monitorado de ferramentas como ChatGPT, Gemini e Copilot no local de trabalho, frequentemente resultando em vazamentos de dados invisíveis. Como você define Shadow AI e por que é uma preocupação crescente para organizações modernas?

Definimos Shadow AI como o uso não autorizado ou não monitorado de ferramentas de IA por funcionários – pense em colar código-fonte ou dados de cliente em chatbots – o que cria riscos de exposição fora do governo da TI. Essa definição está alinhada com o que estamos vendo de outros jogadores da indústria, como IBM e Splunk. Shadow AI é basicamente IA sendo usada sem aprovação ou supervisão, o que introduz esses pontos cegos e riscos potenciais de vazamento de dados. A combinação de aplicativos de IA generativa fáceis de usar e a falta de controles adequados é por que esse problema está crescendo tão rapidamente.

Você descreveu várias maneiras pelas quais a abordagem da Nightfall para Shadow AI difere da DLP tradicional. Qual desses recursos – seja monitoramento consciente do contexto, linhagem de dados ou bloqueio em tempo real – provou ser o mais impactante para seus clientes?

Do que consistentemente ouvimos dos clientes, há realmente duas alavancas principais que fazem a maior diferença. Primeiro são os controles pré-envio – realmente capturando conteúdo sensível antes que seja enviado para ferramentas de IA ou publicado na web. Em segundo lugar, é nossa detecção nativa de IA que vai além do padrão de correspondência legado para entender a linhagem e o contexto dos dados.

O que é realmente poderoso é nossa redução de ruído por meio do aprendizado contínuo. Nosso sistema entende o conteúdo e a linhagem de arquivos, aprende com anotações e ações do usuário e identifica fluxos de trabalho seguros para suprimir atividades de baixo risco. Isso reduz drasticamente os falsos positivos em comparação com as soluções de DLP legadas. Também estamos fazendo detecção de ameaças em tempo real e priorização de risco usando LLMs, transformadores e visão computacional, com classificadores personalizados de arquivos e sensibilidade que podem descobrir o movimento de propriedade intelectual e documentos de alto valor que vão muito além da detecção de entidades baseada em regras simples. Nossos clientes nos dizem que estão vendo essa transformação de fadiga de alerta para ações de segurança focadas e de alto impacto.

Como o sistema de detecção baseado em navegador e nativo de ponto de extremidade da Nightfall impede vazamentos antes que eles aconteçam, e como isso se compara às soluções de DLP legadas que apenas detectam violações após a submissão?

Nossa extensão de navegador e agentes de ponto de extremidade realmente escaneiam prompts e arquivos antes que sejam enviados. Podemos redigir ou bloquear conteúdo arriscado em tempo real – então, antes que um prompt do ChatGPT seja enviado, por exemplo. Também estamos rastreando a linhagem para que as equipes de segurança saibam se um arquivo foi originado em um sistema corporativo. Implantamos no macOS e Windows com extensões do Chrome e Firefox que fornecem essa funcionalidade de redação e bloqueio de upload antes do envio. Isso é um contraste bastante nítido com a DLP legada, que é principalmente sobre detecção pós-fato.

A Nightfall expandiu significativamente desde sua fundação. Como as necessidades de segurança empresarial evoluíram ao longo desse tempo e como seu produto se adaptou em resposta?

O cenário realmente mudou dramaticamente. Começamos com a varredura do SaaS – pense Slack e Google Drive – por volta de 2020-2021. Então, as barreiras da IA Generativa se tornaram críticas a partir de 2023, e agora estamos vendo essa necessidade urgente de prevenção de ameaças autônoma e inteligente que possa dimensionar com o crescimento organizacional.

As equipes de operações de segurança estão lutando com ferramentas cada vez mais complexas, DLP de correspondência de padrão legado, ajuste de política manual constante e fadiga de alerta esmagadora. Esses problemas retardam as investigações, aumentam a sobrecarga e reduzem a eficácia da segurança. A evolução do nosso produto acompanhou essa mudança de operações manuais e reativas para automação inteligente e proativa. Anunciamos a cobertura da IA Generativa em 2023, expandimos para prevenção de extração, criptografia e proteção de e-mail em 2024, e agora, com o Nyx, estamos inaugurando o que vemos como a próxima era da IA agente na proteção de dados – transformando a fadiga de alerta em ações de segurança focadas e de alto impacto em SaaS, pontos de extremidade e ferramentas de IA.

Você recentemente introduziu a Nightfall Nyx, que você descreve como a primeira plataforma de DLP nativa em IA autônoma da indústria. O que a torna autônoma e quais problemas isso resolve para as equipes de segurança?

A plataforma de detecção de IA da Nightfall já entrega resultados de alta precisão e baixo ruído – 95% de precisão em comparação com os 5-30% típicos das soluções de DLP tradicionais. Sobre essa base, o Nyx é a camada de inteligência de IA que ajuda as equipes de segurança a investigar, correlacionar e entender riscos.

Mesmo após o ruído ser eliminado, o trabalho real começa. Em organizações grandes, as equipes de SecOps ainda podem enfrentar centenas de alertas legítimos todos os dias. Peneirar através deles para separar fluxos de trabalho aprovados pelo negócio de questões de higiene de dados arriscadas ou ameaças internas pode consumir horas. O Nyx assume essa carga pesada de investigação – acelerando a análise para que as equipes possam se concentrar em ação, não em procurar e classificar páginas de alertas.

O Nyx conecta os pontos entre eventos de extração – usuários, domínios, dispositivos, tipos de dados, nomes de arquivos e mais – expondo padrões instantaneamente. Por meio de sua interface de linguagem natural, os analistas podem agir sobre padrões, investigar descobertas, produzir relatórios e obter ações recomendadas em segundos. Tarefas que antes levavam duas horas agora podem ser feitas em menos de dois minutos – um verdadeiro jogo de economia de tempo 20 vezes.

Com o uso de IA generativa explodindo em ambientes de trabalho e as equipes de segurança lutando para acompanhar, você acredita que ferramentas como a Nightfall se tornarão uma camada de controle padrão para ambientes empresariais?

Acho que a trajetória sugere sim. Estamos vendo planos de adoção generalizada de IA Generativa em empresas, e plataformas importantes como o Microsoft (MSFT ) Entra Internet Access estão lançando controles pré-envio inline para tráfego de IA Generativa. Quando você combina isso com o consenso da indústria sobre os riscos de Shadow AI, é razoável esperar que o DLP consciente de IA e pré-envio se torne uma camada de controle padrão ao lado de coisas como gerenciamento de identidade e acesso e detecção e resposta de ponto de extremidade.

Finalmente, como fundador construindo em um espaço em movimento tão rápido, qual é sua visão de longo prazo para a Nightfall e o papel da IA na proteção de dados empresariais?

Nossa visão de longo prazo constrói sobre o que articulamos no lançamento – ser o plano de controle de dados em nuvem – mas agora estamos expandindo isso com operações autônomas e capacidades de IA agente. Visualizamos um futuro onde a postura de segurança melhora continuamente sem sobrecarregar os analistas, onde a IA elimina a necessidade de expertise de domínio especializado e onde as organizações podem mudar de operações de segurança manuais e reativas para prevenção de ameaças proativa e inteligente.

Na prática, isso significa IA que tanto entende os dados no contexto quanto toma ações seguras e inteligentes – investigar, treinar, redigir, bloquear – em SaaS, pontos de extremidade, e-mail e Shadow AI. Queremos fechar o loop da detecção à prevenção, dando às equipes de segurança um parceiro inteligente sempre ativo que fica mais inteligente com cada investigação e transforma semanas de forenses manuais em minutos de resposta focada.

Obrigado pela grande entrevista, leitores que desejam aprender mais devem visitar Nightfall.