A Zenity Levanta $125 Milhões à Medida que as Empresas Enfrentam os Riscos de Segurança dos Agentes de IA Autônomos

Zenity levantou $125 milhões em financiamento da Série C à medida que as empresas movem os agentes de inteligência artificial de experimentos controlados para sistemas capazes de acessar dados, invocar ferramentas de software e concluir tarefas operacionais.

Norwest liderou a rodada, com Qumra Capital, SoftBank Vision Fund 2, Hitachi Ventures e LG Technology Ventures se juntando como novos investidores. Os investidores existentes Vertex Ventures, Third Point Ventures, DTCP e Intel Capital também participaram. A empresa não divulgou sua valorização.

A financiamento segue Zenity’s $38 milhões da Série B em outubro de 2024 e traz o financiamento divulgado da empresa para pelo menos $180 milhões.

De Experimentos de IA para Sistemas Autônomos

O tamanho da rodada reflete uma mudança mais ampla na forma como as empresas estão adotando a IA. A primeira onda de IA gerativa envolvia principalmente funcionários interagindo com chatbots para produzir texto, resumir documentos ou recuperar informações.

Os agentes de IA introduzem um nível diferente de risco porque podem tomar ações. Dependendo de suas permissões, os agentes podem acessar bancos de dados internos, chamar interfaces de programação de aplicações, atualizar registros, executar código, enviar mensagens ou iniciar fluxos de trabalho que abrangem vários sistemas empresariais.

Isso muda o problema de segurança para além de saber se um modelo produz uma resposta inadequada. As organizações também devem entender quais agentes foram implantados, quem os controla, quais informações eles podem acessar e quais ações eles estão autorizados a realizar.

Um agente pode se comportar exatamente como projetado e ainda criar um incidente de segurança se tiver permissões excessivas, encontrar informações manipuladas ou interpretar as instruções de um atacante como parte de uma tarefa legítima.

Zenity descreve isso como um problema de “camada de agente”. Sua plataforma é projetada para examinar a configuração de um agente, permissões, ferramentas conectadas, memória e ações em tempo de execução, em vez de olhar apenas para os prompts que entram em um modelo ou as respostas que ele gera.

Como a Zenity Segura os Agentes de IA

Zenity divide sua plataforma em três áreas principais: observabilidade, gestão de postura de segurança e detecção e resposta.

O componente de observabilidade descobre e inventaria os agentes que operam em toda a organização. Isso inclui agentes incorporados em plataformas de software como serviço, agentes desenvolvidos internamente que executam em ambientes de nuvem e ferramentas locais instaladas em dispositivos de funcionários.

O objetivo é dar às equipes de segurança uma visão continuamente atualizada de cada agente, incluindo seu proprietário, configuração, permissões, integrações e comportamento em tempo de execução. Isso está se tornando cada vez mais importante à medida que departamentos e funcionários individuais ganham a capacidade de criar agentes sem passar por um processo de desenvolvimento de software ou revisão de segurança convencional.

A camada de governança da Zenity avalia configurações e permissões antes que um agente entre em produção. Políticas podem ser usadas para identificar acesso excessivo, integrações não seguras ou ferramentas que poderiam permitir que um agente opere além de seu papel pretendido. A plataforma pode continuar verificando esses controles à medida que os agentes são modificados ao longo do tempo.

Em tempo de execução, a Zenity analisa o caminho de execução de um agente, incluindo suas chamadas de ferramentas, acesso à memória, uso de dados e interações com outros sistemas. A empresa afirma que pode usar esse contexto para permitir, modificar ou bloquear uma ação antes que ela ocorra.

Essa abordagem pretende distinguir entre um pedido normal e um pedido aparentemente normal que foi influenciado por conteúdo malicioso. Ela também aborda uma limitação importante do filtro de prompts: um resultado perigoso pode surgir de uma sequência de ações individualmente inofensivas.

Cobrindo SaaS, Nuvem e Dispositivos de Funcionários

A Zenity está tentando fornecer uma camada de segurança comum em um ecossistema de agentes fragmentado.

Para ambientes de software como serviço, ela suporta agentes associados a plataformas como Microsoft 365 Copilot, Microsoft Copilot Studio, ChatGPT Enterprise e Salesforce (CRM ) Agentforce. Esses sistemas podem fornecer aos agentes acesso a documentos de negócios, registros de clientes, comunicações e fluxos de trabalho que a empresa não hospeda ou controla totalmente.

A plataforma também cobre agentes personalizados construídos com serviços como AWS Bedrock, Azure AI Foundry e Google Vertex AI. A Zenity monitora quais ferramentas e serviços de nuvem esses agentes invocam, aplicando políticas durante o desenvolvimento e a execução.

Uma terceira área envolve agentes baseados em dispositivos, como assistentes de codificação, aplicativos de área de trabalho e navegadores agênticos. Essas ferramentas podem operar dentro do ambiente autenticado de um funcionário, potencialmente herdando acesso a arquivos, sessões de navegador e serviços conectados.

Levar esses ambientes para um sistema único pode simplificar a governança, mas também cria um desafio técnico considerável. A arquitetura, permissões e telemetria disponíveis de um copiloto de software como serviço podem diferir substancialmente daquelas de um agente personalizado de nuvem ou de uma ferramenta de codificação instalada localmente.

Pesquisa de Segurança Destaca o Modelo de Ameaça Emergente

A Zenity apoiou o desenvolvimento de seu produto com pesquisas realizadas por meio de Zenity Labs, que investiga como os sistemas autônomos podem ser manipulados por meio de conteúdo não confiável.

Sua pesquisa AgentFlayer examinou cadeias de ataques de um clique e sem cliques envolvendo plataformas de IA de empresa amplamente utilizadas. As demonstrações incluíram cenários em que instruções maliciosas entregues por meio de e-mails, documentos, casos de suporte ou ferramentas de colaboração fizeram com que os agentes expusessem informações, mal utilizassem ferramentas conectadas ou alterassem suas respostas.

Pesquisas mais recentes examinaram o navegador agêntico Comet da Perplexity. Os pesquisadores da Zenity demonstraram como instruções ocultas dentro de um convite de calendário poderiam influenciar o navegador enquanto ele realizava uma tarefa de rotina. Em um cenário, o agente comprometido navegou por um cofre da web de 1Password desbloqueado e transmitiu credenciais por meio de solicitações da web normais.

A pesquisa atribuiu a questão à separação insuficiente entre as intenções do usuário e o conteúdo de terceiros encontrado pelo agente. Como o agente já estava operando dentro de uma sessão de navegador autenticada, ele poderia potencialmente usar o acesso que o usuário havia concedido legitimamente.

Essas demonstrações ilustram por que a segurança do agente não pode depender inteiramente da detecção de prompts obviamente maliciosos. As instruções podem estar enterradas dentro de dados que um agente está projetado para ler, enquanto as ações resultantes podem se assemelhar a navegação normal, recuperação de documentos ou atividade de aplicativos.

Eles também enfatizam a importância de limites que permanecem aplicáveis mesmo quando o raciocínio de um agente foi manipulado.

Financiamento da Expansão Global e Desenvolvimento de Produto

A Zenity afirma que sua receita triplicou nos dois últimos anos e está no ritmo de triplicar novamente este ano. A empresa relata que muitos de seus clientes são organizações Fortune 500 e Global 2000 que operam em setores regulamentados, como serviços financeiros, saúde, farmacêuticos, manufatura e energia.

Agora ela tem mais de 230 funcionários, com pesquisa e desenvolvimento centrados em Tel Aviv e suas funções de marketing e operacionais lideradas a partir de Nova York.

O financiamento da Série C será usado para acelerar o desenvolvimento de produtos, expandir os Zenity Labs e fortalecer a presença da empresa na Europa e na região da Ásia-Pacífico. Ele também dará à Zenity recursos adicionais para apoiar um número crescente de estruturas de agentes à medida que a infraestrutura de IA empresarial se torna mais diversificada.

Essa expansão ocorre menos de dois anos após a rodada institucional anterior da empresa, quando a Zenity ainda enfatizava suas origens na segurança de aplicativos de baixo código e sem código. Sua posição atual reflete como essas preocupações anteriores evoluíram: funcionários que antes podiam construir aplicativos de negócios simples agora podem criar agentes capazes de tomar decisões e operar sistemas conectados.

A Segurança do Agente de IA Está Se Tornando Sua Própria Categoria

A captação de recursos da Zenity sinaliza a confiança dos investidores de que a segurança do agente de IA pode se desenvolver em uma categoria substancial de cibersegurança, em vez de permanecer como um recurso dentro de produtos de nuvem, identidade ou endpoint existentes.

O argumento para uma categoria dedicada é que as ferramentas convencionais geralmente veem apenas parte da atividade de um agente. As plataformas de segurança de nuvem podem inspecionar a infraestrutura, os sistemas de identidade podem gerenciar permissões e os produtos de endpoint podem detectar ameaças de nível de sistema operacional. Eles não necessariamente entendem o papel pretendido de um agente ou como uma cadeia de chamadas de ferramentas se relaciona com o objetivo original do usuário.

A Zenity ainda precisará provar que seus controles baseados em intenção podem operar em frameworks em rápida mudança sem criar alertas excessivos, bloquear trabalho legítimo ou adicionar latência inaceitável. Ela também deve demonstrar que as empresas comprarão uma plataforma de segurança de agente separada em vez de confiar em controles adicionados por provedores de nuvem e software importantes.

A oportunidade de mercado imediata está se tornando cada vez mais clara, no entanto. À medida que os agentes ganham acesso a dados sensíveis e começam a controlar processos de negócios importantes, as organizações precisarão de mais do que um registro do que aconteceu após um incidente. Elas precisarão de mecanismos capazes de identificar quais agentes existem, restringir o que eles podem fazer e intervir antes que uma ação não intencional se torne uma violação.

Zenity’s $125 milhões da Série C dá à empresa recursos significativos para perseguir esse papel à medida que as equipes de segurança se preparam para um ambiente empresarial cada vez mais povoado por software autônomo.