Nati Hazut, CEO e cofundador da Bold Security – Série de entrevistas

Nati Hazut é CEO e cofundador da Bold Security. Anteriormente, cofundou a SAM Seamless Network e a Polyrize, acumulando experiência em segurança de dispositivos conectados, identidade, permissões na nuvem e proteção de dados. Na Bold, ele aplica esses aprendizados para proteger as interações entre funcionários, agentes de IA e dados empresariais confidenciais.

Bold Security desenvolve tecnologia de proteção de dados para endpoints que usa pequenos modelos de linguagem executados diretamente nos dispositivos para classificar informações confidenciais e entender como elas estão sendo utilizadas. Sua plataforma oferece às equipes de segurança recursos para orientar usuários, redirecionar atividades ou bloquear ações arriscadas em navegadores, aplicativos para desktop e agentes de IA. Nesta entrevista, Hazut fala sobre IA sombra, inteligência no dispositivo, agentes autônomos e a mudança nos limites de segurança em torno dos dados empresariais.

Você cofundou anteriormente a SAM Seamless Network e a Polyrize antes de iniciar a Bold Security com Hadar Krasner e Omri Mallis. O que você percebeu que estava mudando na segurança empresarial e na IA e que o convenceu de que era necessário criar outra empresa de segurança do zero?

A principal mudança provocada pela IA foi no lugar onde o trabalho acontece. Durante décadas, as tarefas mais sensíveis realizadas pelas pessoas com dados da empresa ocorriam em navegadores e aplicativos SaaS — justamente onde se concentrava a infraestrutura de segurança. Agora, uma parcela maior desse trabalho acontece no próprio dispositivo: pessoas redigem textos em um assistente de IA para desktop, colam código-fonte em um aplicativo nativo e executam agentes que acessam diretamente arquivos, aplicativos e sistemas da empresa no laptop.

Essa mudança abalou as premissas em que a maioria dos produtos de segurança se baseava. A inspeção de rede só enxerga o tráfego que passa por ela, enquanto os aplicativos para desktop criptografam o próprio tráfego e contornam o proxy. As soluções CASB veem os aplicativos de nuvem autorizados. As soluções DSPM veem os dados armazenados na nuvem. Nenhuma delas vê um arquivo local sendo enviado a um aplicativo de IA para desktop nem um agente transferindo dados sem que haja uma pessoa diante do teclado.

Criamos a Bold porque o endpoint é o único lugar onde tudo isso se reúne. É possível ver os dados, o funcionário ou agente que interage com eles, o que está tentando fazer e para onde as informações estão indo. E é possível agir antes que dados confidenciais escapem do controle da empresa.

A IA sombra pode incluir desde funcionários que usam contas pessoais do ChatGPT até aplicativos para desktop, extensões de navegador, APIs, conexões com o Model Context Protocol e agentes cada vez mais autônomos. Quais formas de IA sombra têm sido mais difíceis para as equipes de segurança empresarial detectar e controlar atualmente?

Há um ano, todos estavam preocupados com a “IA sombra”, mas a conversa começa a se aprofundar. As equipes de segurança empresarial estão percebendo que os funcionários adotam novas ferramentas de IA mais rápido do que nunca. Assim, a questão deixou de ser tanto o inventário das ferramentas e passou a ser o controle dos dados que circulam por elas.

É claro que não se pode controlar aquilo que não se consegue ver. E os canais mais difíceis de detectar são aqueles que nunca passam por um caminho de rede monitorado. Os aplicativos para desktop leem arquivos diretamente do dispositivo e criptografam o tráfego, de modo que nada passa pelas ferramentas criadas para inspecioná-lo. Os agentes têm acesso a informações da empresa e continuam a usá-las sem que um funcionário precise lhes entregar algo a cada vez.

Todos esses são novos canais de exfiltração de dados, e a questão central é o que circula por eles. O envio de um documento público para uma conta corporativa aprovada não é o mesmo que o envio de um banco de dados de clientes ou de código-fonte proprietário para uma conta pessoal. Essa diferença só fica visível onde os dados estão e a ação ocorre. Portanto, é justamente nos casos de IA sombra que não se consegue ver que a questão dos dados é mais importante.

A Bold adota uma abordagem centrada nos endpoints, executando IA localmente no dispositivo em vez de depender principalmente do monitoramento de rede ou da nuvem. O que um modelo executado no dispositivo consegue entender sobre uma interação com IA que as soluções tradicionais de prevenção contra perda de dados não conseguem?

A Bold faz duas coisas de maneira diferente. Primeiro, usamos IA para proteger dados confidenciais sem precisar enviá-los a outro serviço de IA para análise. Nossos pequenos modelos de linguagem são executados diretamente no dispositivo, onde conseguem entender quais dados são confidenciais, quem os está acessando e para onde estão indo. Isso nos permite identificar e impedir ações arriscadas em tempo real, sem a latência e o custo de enviar tudo para a nuvem.

Segundo, vamos além dos canais monitorados pelas ferramentas de segurança tradicionais. A maior parte do mercado ainda se concentra em navegadores e tráfego de rede, mas cada vez mais dados confidenciais circulam por aplicativos de IA para desktop, ferramentas de programação, terminais e agentes autônomos. Esses canais são muito mais difíceis de detectar para as soluções convencionais de prevenção contra perda de dados e de segurança na nuvem.

Ao atuar no endpoint, podemos proteger os dados em todos esses ambientes e intervir antes que as informações confidenciais escapem do controle da empresa.

Sua tecnologia foi desenvolvida para entender não apenas quais dados estão sendo acessados, mas também o contexto e a intenção por trás de uma ação. Como vocês distinguem o uso legítimo de informações confidenciais de um comportamento que representa um risco real à segurança, sem gerar falsos positivos em excesso?

O contexto é tudo neste caso. Não dá para tratar todo arquivo enviado ou todo agente que acessa dados como um incidente de segurança, senão ninguém consegue trabalhar.

O mesmo arquivo pode ser algo rotineiro em um lugar e um problema grave em outro. É esperado encontrar uma lista de clientes na ferramenta de suporte; já o envio dessa lista para uma conta pessoal é um problema real. O código-fonte deve ficar no repositório, não em um prompt enviado a uma ferramenta de IA voltada ao consumidor.

Uma ferramenta que só sabe que o conteúdo corresponde a uma regra precisa sinalizar os dois casos ou nenhum deles. É daí que vêm os falsos positivos. Saber que tipo de dado é esse, quem o está movimentando e para onde está indo é o que permite distinguir o uso normal de IA de um risco real.

Os agentes de IA introduzem um modelo de segurança diferente, pois cada vez mais os softwares conseguem acessar arquivos, acionar ferramentas, conectar-se por meio de servidores MCP e executar ações com participação humana limitada. Como a segurança de endpoint precisa evoluir quando quem interage com dados corporativos confidenciais pode ser um agente autônomo, e não um funcionário?

A segurança foi, em grande medida, concebida para proteger pessoas, mas os agentes agora podem agir na velocidade das máquinas, abrindo arquivos, acionando ferramentas e transferindo dados sem que alguém aprove cada etapa. A segurança precisa operar nessa mesma velocidade. Muitos produtos usam IA para analisar incidentes depois que acontecem. Nós a usamos para entender e interromper ações arriscadas em tempo real, inclusive as que ocorrem fora do navegador.

Um agente pode operar por meio de um aplicativo de desktop, de um terminal ou de outra ferramenta que encontre enquanto executa uma tarefa. A segurança precisa acompanhar os dados e as ações em todos esses ambientes, independentemente de quem seja responsável: uma pessoa ou um agente.

Isso também levanta uma questão que as equipes de segurança nunca precisaram fazer antes. Quando acontece algo arriscado, a pessoa fez isso de propósito ou o agente cometeu um erro? Cada situação exige uma resposta diferente. Se um funcionário toma uma decisão ruim, você o orienta. Se um agente faz algo que ninguém pediu, você o interrompe.

É no endpoint que se consegue perceber a diferença, porque é ali que os dados, o processo e a ação se manifestam juntos.

Muitas empresas responderam aos riscos da IA generativa restringindo ou proibindo determinadas ferramentas. Você acha que as organizações estão caminhando para um modelo em que praticamente qualquer ferramenta de IA pode ser permitida, desde que haja controles sobre os dados que ela pode acessar e para onde esses dados podem ser enviados?

Proibições generalizadas não vão resolver o problema. Os funcionários podem encontrar uma nova ferramenta de IA e começar a usá-la em segundos, e a maioria não está tentando driblar a segurança. Está tentando fazer o trabalho mais rápido.

A pergunta mais pertinente é o que acontece com os dados da empresa quando eles usam essas ferramentas.

Se alguém estiver usando uma conta pessoal de IA para uma tarefa inofensiva, talvez baste indicar a conta corporativa. Mas, se a pessoa estiver prestes a enviar código-fonte, informações de clientes ou credenciais para um local não autorizado pela empresa, a equipe de segurança precisa intervir.

Acho que é para esse modelo que estamos caminhando. Dar às pessoas liberdade para usar IA, mas estabelecer controles sobre os dados. Saber o que está sendo acessado, para onde está indo e quando é preciso intervir.

Executar IA localmente pode trazer vantagens de latência e privacidade, mas os dispositivos de endpoint têm capacidade de processamento e memória limitadas. Que concessões técnicas vocês tiveram de fazer ao criar modelos capazes de classificar semanticamente os dados e aplicar controles em tempo real diretamente nos dispositivos dos funcionários?

Não dá para instalar um modelo gigantesco no laptop de alguém, consumir toda a CPU e a memória e chamar isso de segurança. Se o seu produto de segurança tornar o computador insuportável de usar, os funcionários vão odiá-lo, e a equipe de TI vai desativá-lo.

Há, portanto, concessões muito concretas a fazer. O modelo precisa compreender os dados o bastante para distinguir algo inofensivo de algo confidencial, mas também precisa ser rápido, pequeno e confiável o suficiente para funcionar continuamente em segundo plano.

O trabalho inicial consistiu em criar modelos capazes de oferecer uma classificação útil em diferentes tipos de computador sem deixá-los mais lentos. Já fizemos esse trabalho de engenharia, para que os clientes não precisem fazer essas concessões por conta própria.

A experiência do usuário foi nossa principal prioridade durante todo o desenvolvimento. Nosso produto usa cerca de 20% dos recursos computacionais consumidos pelos agentes sem IA dos concorrentes tradicionais e toma decisões localmente no momento em que uma ação ocorre. Não é necessário que dados confidenciais saiam do dispositivo apenas para determinar se são confidenciais.

O Bold consegue identificar ferramentas e contas de IA, além da atividade de agentes, e orientar os usuários, redirecionar ações ou bloquear ações arriscadas. Como vocês determinam quando o sistema deve apenas avisar o usuário e quando deve interromper uma ação automaticamente?

Pense em como um bom colega agiria. Se você estivesse prestes a colar um rascunho na sua conta pessoal do ChatGPT, ele se inclinaria e diria: “Ei, temos uma conta corporativa para isso”. Se você estivesse prestes a enviar o banco de dados de clientes para sua conta pessoal do Drive, ele seguraria seu braço.

Tentamos trabalhar da mesma forma e constatamos que a orientação é eficaz em pelo menos 90% dos casos para direcionar os usuários à alternativa segura. Na maioria dos casos, alguém está usando a conta errada por engano ou não conhece a política da empresa sobre onde os dados podem ser armazenados.

Em última análise, cabe ao cliente decidir o que bloquear, e cada empresa traça esse limite de maneira diferente. Nosso trabalho é fornecer o contexto e a confiança necessários para que tomem a decisão certa. Em fluxos de risco mais complexos, isso significa considerar o contexto de que falamos antes, comparando-o com o histórico do próprio usuário e até mesmo com o de seus pares.

Sua carreira passou da proteção de dispositivos conectados na SAM à gestão de identidades e permissões na nuvem na Polyrize e, agora, à proteção das interações entre pessoas, agentes de IA e dados corporativos na Bold. Como sua visão sobre os limites fundamentais da segurança mudou ao longo dessas três gerações de cibersegurança?

Minha compreensão dos princípios fundamentais ficou mais apurada. O fio condutor é aproximar a segurança do lugar onde as ações acontecem e fazer com que ela funcione em grande escala.

Na SAM, levamos segurança de nível corporativo a roteadores com recursos muito limitados. Isso nos ensinou a levar tecnologias avançadas à borda de maneira eficiente. Na Polyrize, nosso foco era proteger dados em ambientes de nuvem e SaaS por meio da visibilidade e da gestão da postura de segurança. Entender a exposição é essencial, mas isso não necessariamente permite impedir uma ação arriscada.

A Bold reúne essas lições. Colocamos inteligência no dispositivo, onde pessoas e agentes de IA interagem com os dados, e fornecemos às equipes de segurança o contexto necessário para entender os riscos e intervir em tempo real.

A segurança de rede e de nuvem continua sendo importante, mas o dispositivo pode monitorar atividades em aplicativos de desktop, arquivos locais, contas pessoais e agentes executados no aparelho. Aprendi que o lugar e o momento em que a segurança atua são tão importantes quanto o nível de inteligência dela.

Olhando de três a cinco anos à frente, à medida que os funcionários trabalharem ao lado de agentes de IA cada vez mais autônomos, o que você espera que o dispositivo corporativo se torne? Poderemos chegar a um ponto em que cada dispositivo tenha, na prática, sua própria camada inteligente de segurança, que decida continuamente quais pessoas e agentes podem interagir com determinados dados?

Acho que é exatamente para onde estamos caminhando.

O dispositivo se torna uma camada inteligente de segurança que entende os dados nele armazenados, sabe se uma pessoa ou um agente está interagindo com eles e decide localmente o que deve ou não acontecer.

Isso se torna ainda mais importante à medida que os agentes ganham autonomia. Uma pessoa pode ter vários agentes trabalhando em seu nome ao mesmo tempo, em arquivos, aplicativos e sistemas da empresa. A segurança não pode depender de que essa pessoa aprove cada etapa, porque, cada vez mais, ela não estará acompanhando o que acontece.

Os dados ainda precisam ser protegidos, mas o número de agentes que os acessam crescerá muito além de uma única pessoa diante de um teclado. Os sistemas de segurança precisarão se comunicar com os agentes, tomar decisões e responder de forma autônoma à medida que as ações ocorrerem. Cada vez mais, as pessoas que operam esses sistemas supervisionarão os controles e as decisões, em vez de analisar cada evento individualmente. É no dispositivo que essas decisões podem ser tomadas enquanto os dados ainda estão sob o controle da empresa.

Obrigado pela ótima entrevista. Os leitores que quiserem saber mais sobre a proteção de dados em dispositivos e a adoção segura de IA nas empresas devem visitar Bold Security.