Zenity recauda 125 millones de dólares mientras las empresas enfrentan los riesgos de seguridad de los agentes de inteligencia artificial autónomos

Zenity ha recaudado $125 millones en financiación de Serie C mientras las empresas trasladan a los agentes de inteligencia artificial desde experimentos controlados a sistemas capaces de acceder a datos, invocar herramientas de software y completar tareas operativas.

Norwest lideró la ronda, con Qumra Capital, SoftBank Vision Fund 2, Hitachi Ventures y LG Technology Ventures uniéndose como nuevos inversores. Los partidarios existentes Vertex Ventures, Third Point Ventures, DTCP y Intel Capital también participaron. La empresa no divulgó su valoración.

La financiación sigue a la ronda de financiación de Serie B de Zenity de $38 millones en octubre de 2024 y lleva la financiación divulgada de la empresa a al menos $180 millones.

De experimentos de inteligencia artificial a sistemas autónomos

El tamaño de la ronda refleja un cambio más amplio en la forma en que las empresas adoptan la inteligencia artificial. La primera ola de inteligencia artificial generativa involucró principalmente a los empleados interactuando con chatbots para producir texto, resumir documentos o recuperar información.

Los agentes de inteligencia artificial introducen un nivel diferente de riesgo porque pueden tomar medidas. Dependiendo de sus permisos, los agentes pueden acceder a bases de datos internas, llamar a interfaces de programación de aplicaciones, actualizar registros, ejecutar código, enviar mensajes o iniciar flujos de trabajo que abarcan múltiples sistemas empresariales.

Esto cambia el problema de seguridad más allá de si un modelo produce una respuesta inapropiada. Las organizaciones también deben comprender qué agentes se han desplegado, quién los controla, qué información pueden alcanzar y qué acciones están autorizados a realizar.

Un agente puede comportarse exactamente como se diseñó y aún así crear un incidente de seguridad si tiene permisos excesivos, encuentra información manipulada o interpreta las instrucciones de un atacante como parte de una tarea legítima.

Zenity describe esto como un problema de “capa de agente”. Su plataforma está diseñada para examinar la configuración de un agente, permisos, herramientas conectadas, memoria y acciones de tiempo de ejecución en lugar de mirar solo las solicitudes que entran en un modelo o las respuestas que genera.

Cómo Zenity protege a los agentes de inteligencia artificial

Zenity divide su plataforma en tres áreas principales: observabilidad, gestión de la postura de seguridad y detección y respuesta.

El componente de observabilidad descubre y inventaria a los agentes que operan en una organización. Esto incluye agentes incrustados en plataformas de software como servicio, agentes desarrollados internamente que se ejecutan en entornos de nube y herramientas locales instaladas en dispositivos de empleados.

El objetivo es dar a los equipos de seguridad una imagen actualizada continuamente de cada agente, incluyendo su propietario, configuración, permisos, integraciones y comportamiento de tiempo de ejecución. Esto se está volviendo cada vez más importante a medida que los departamentos y empleados individuales ganan la capacidad de crear agentes sin pasar por un proceso de desarrollo de software o revisión de seguridad convencional.

La capa de gobernanza de Zenity evalúa las configuraciones y los permisos antes de que un agente entre en producción. Las políticas se pueden utilizar para identificar un acceso excesivo, integraciones no seguras o herramientas que podrían permitir que un agente opere más allá de su función prevista. La plataforma puede continuar verificando esos controles a medida que los agentes se modifican con el tiempo.

En tiempo de ejecución, Zenity analiza la ruta de ejecución de un agente, incluyendo sus llamadas a herramientas, acceso a memoria, uso de datos y interacciones con otros sistemas. La empresa dice que puede utilizar este contexto para permitir, modificar o bloquear una acción antes de que ocurra.

Este enfoque está destinado a distinguir entre una solicitud normal y una solicitud aparentemente normal que ha sido influenciada por contenido malicioso. También aborda una limitación importante del filtrado de solicitudes: un resultado peligroso puede surgir de una secuencia de acciones individualmente inofensivas.

Cubriendo SaaS, nube y dispositivos de empleados

Zenity está tratando de proporcionar una capa de seguridad común en un ecosistema de agentes fragmentado.

Para entornos de software como servicio, admite agentes asociados con plataformas como Microsoft 365 Copilot, Microsoft Copilot Studio, ChatGPT Enterprise y Salesforce (CRM ) Agentforce. Estos sistemas pueden proporcionar a los agentes acceso a documentos comerciales, registros de clientes, comunicaciones y flujos de trabajo que la empresa no aloja o controla completamente.

La plataforma también cubre agentes personalizados construidos con servicios como AWS Bedrock, Azure AI Foundry y Google Vertex AI. Zenity supervisa qué herramientas y servicios de nube invocan estos agentes mientras aplica políticas durante el desarrollo y la ejecución.

Un tercer área implica agentes basados en dispositivos como asistentes de codificación, aplicaciones de escritorio y navegadores agenticos. Estas herramientas pueden operar dentro del entorno autenticado de un empleado, potencialmente heredando acceso a archivos, sesiones de navegador y servicios conectados.

Traer estos entornos a un solo sistema podría simplificar la gobernanza, pero también crea un desafío técnico considerable. La arquitectura, los permisos y la telemetría disponibles de un copiloto de software como servicio pueden diferir sustancialmente de los de un agente de nube personalizado o una herramienta local instalada.

La investigación de seguridad destaca el modelo de amenaza emergente

Zenity ha respaldado su desarrollo de productos con investigaciones realizadas a través de Zenity Labs, que investiga cómo los sistemas autónomos pueden ser manipulados a través de contenido no confiable.

Su investigación AgentFlayer examinó cadenas de ataques de un clic y cero clic que involucran plataformas de inteligencia artificial empresarial ampliamente utilizadas. Las demostraciones incluyeron escenarios en los que instrucciones maliciosas entregadas a través de correos electrónicos, documentos, casos de soporte o herramientas de colaboración causaron que los agentes expusieran información, malutilizaran herramientas conectadas o alteraran sus respuestas.

Una investigación más reciente examinó el navegador agéntico Comet de Perplexity. Los investigadores de Zenity demostraron cómo instrucciones ocultas dentro de una invitación de calendario podrían influir en el navegador mientras realizaba una tarea rutinaria. En un escenario, el agente comprometido navegó un vault web de 1Password desbloqueado y transmitió credenciales a través de solicitudes web ordinarias.

La investigación atribuyó el problema a una separación insuficiente entre las intenciones del usuario y el contenido de terceros con el que se encuentra el agente. Dado que el agente ya estaba operando dentro de una sesión de navegador autenticada, podría potencialmente utilizar el acceso que el usuario había otorgado legítimamente.

Estas demostraciones ilustran por qué la seguridad de los agentes no puede depender enteramente de la detección de solicitudes obviamente maliciosas. Las instrucciones pueden estar enterradas dentro de los datos que se espera que el agente lea, mientras que las acciones resultantes pueden parecerse a la navegación normal, recuperación de documentos o actividad de aplicación.

También subrayan la importancia de los límites que siguen siendo aplicables incluso cuando el razonamiento de un agente ha sido manipulado.

Financiación de la expansión global y el desarrollo de productos

Zenity dice que sus ingresos han triplicado en cada uno de los dos últimos años y están a punto de triplicarse nuevamente este año. La empresa informa que muchos de sus clientes son organizaciones Fortune 500 y Global 2000 que operan en industrias reguladas como servicios financieros, atención médica, productos farmacéuticos, fabricación y energía.

Ahora tiene más de 230 empleados, con investigación y desarrollo centrados en Tel Aviv y sus funciones de comercialización y operativas lideradas desde Nueva York.

La financiación de Serie C se utilizará para acelerar el desarrollo de productos, expandir Zenity Labs y fortalecer la presencia de la empresa en Europa y la región de Asia-Pacífico. También dará a Zenity recursos adicionales para respaldar un número creciente de marcos de agentes a medida que la infraestructura de inteligencia artificial empresarial se vuelve más diversa.

Esa expansión llega menos de dos años después de la ronda institucional anterior de la empresa, cuando Zenity aún enfatizaba sus orígenes en la seguridad de aplicaciones de bajo código y sin código. Su posición actual refleja cómo esas preocupaciones anteriores han evolucionado: los empleados que una vez pudieron construir aplicaciones comerciales simples ahora pueden crear agentes capaces de tomar decisiones y operar sistemas conectados.

La seguridad de los agentes de inteligencia artificial se está convirtiendo en su propia categoría

La recaudación de fondos de Zenity señala la confianza de los inversores de que la seguridad de los agentes de inteligencia artificial podría desarrollarse en una categoría sustancial de ciberseguridad en lugar de permanecer como una función dentro de productos de nube, identidad o punto de conexión existentes.

El argumento para una categoría dedicada es que las herramientas convencionales generalmente solo ven una parte de la actividad de un agente. Las plataformas de seguridad de la nube pueden inspeccionar la infraestructura, los sistemas de identidad pueden administrar permisos y los productos de punto de conexión pueden detectar amenazas a nivel de sistema operativo. No necesariamente entienden el papel previsto de un agente o cómo una cadena de llamadas a herramientas se relaciona con el objetivo original del usuario.

Zenity todavía necesitará demostrar que sus controles basados en la intención pueden operar en marcos que cambian rápidamente sin crear alertas excesivas, bloquear trabajo legítimo o agregar latencia inaceptable. También debe demostrar que las empresas comprarán una plataforma de seguridad de agente separada en lugar de confiar en los controles agregados por los principales proveedores de nube y software.

La oportunidad de mercado inmediata está volviéndose cada vez más clara. A medida que los agentes acceden a datos sensibles y comienzan a controlar procesos comerciales importantes, las organizaciones necesitarán más que un registro de lo que sucedió después de un incidente. Necesitarán mecanismos capaces de identificar qué agentes existen, restringir lo que pueden hacer e intervenir antes de que una acción no intencional se convierta en una violación.

La ronda de Serie C de $125 millones de Zenity le da a la empresa recursos significativos para perseguir ese papel a medida que los equipos de seguridad se preparan para un entorno empresarial cada vez más poblado por software autónomo.