Nati Hazut, director ejecutivo y cofundador de Bold Security – Serie de entrevistas

Nati Hazut es director ejecutivo y cofundador de Bold Security. Anteriormente cofundó SAM Seamless Network y Polyrize, donde adquirió experiencia en seguridad de dispositivos conectados, identidad, permisos en la nube y protección de datos. En Bold, aplica esos conocimientos para proteger las interacciones entre los empleados, los agentes de IA y los datos empresariales confidenciales.

Bold Security desarrolla tecnología de protección de datos en los dispositivos que utiliza modelos de lenguaje pequeños, ejecutados directamente en ellos, para clasificar la información confidencial y entender cómo se utiliza. Su plataforma ofrece a los equipos de seguridad herramientas para orientar a los usuarios, redirigir actividades o bloquear acciones riesgosas en navegadores, aplicaciones de escritorio y agentes de IA. En esta entrevista, Hazut habla sobre la IA en la sombra, la inteligencia integrada en los dispositivos, los agentes autónomos y la cambiante frontera de seguridad en torno a los datos empresariales.

Antes de crear Bold Security con Hadar Krasner y Omri Mallis, cofundaste SAM Seamless Network y Polyrize. ¿Qué cambios observaste en la seguridad empresarial y la IA que te convencieron de que era necesario crear otra empresa de seguridad desde cero?

El principal efecto de la IA ha sido cambiar el lugar donde se trabaja. Durante décadas, las tareas más delicadas que las personas realizaban con los datos de la empresa tenían lugar en navegadores y aplicaciones SaaS, precisamente donde se concentraba la infraestructura de seguridad. Ahora, una mayor parte de ese trabajo se hace en el propio dispositivo: las personas redactan con un asistente de IA de escritorio, pegan código fuente en una aplicación nativa y ejecutan agentes que acceden directamente a archivos, aplicaciones y sistemas de la empresa desde el portátil.

Ese cambio rompió los supuestos en los que se basaban la mayoría de los productos de seguridad. La inspección de red solo ve el tráfico que pasa por ella, mientras que las aplicaciones de escritorio cifran su tráfico y eluden el proxy. CASB ve las aplicaciones en la nube autorizadas. DSPM ve los datos almacenados en la nube. Ninguna de estas herramientas ve un archivo local que se introduce en una aplicación de IA de escritorio ni a un agente que transfiere datos sin que haya nadie frente al teclado.

Creamos Bold porque el dispositivo es el único lugar donde todo converge. Ahí se pueden ver los datos, el empleado o el agente que interactúa con ellos, lo que intenta hacer y adónde va la información. Además, se puede actuar antes de que los datos confidenciales escapen del control de la empresa.

La IA en la sombra puede abarcar desde empleados que usan cuentas personales de ChatGPT hasta aplicaciones de escritorio, extensiones de navegador, API, conexiones mediante el Protocolo de contexto de modelos y agentes cada vez más autónomos. ¿Qué formas de IA en la sombra les resulta más difícil detectar y controlar hoy a los equipos de seguridad empresarial?

Hace un año, todo el mundo estaba preocupado por la «IA en la sombra», pero la conversación empieza a profundizarse. Los equipos de seguridad empresarial están asumiendo que los empleados adoptan nuevas herramientas de IA más rápido que nunca. Por eso, la cuestión ya no gira tanto en torno a hacer un inventario de las herramientas, sino a controlar los datos que circulan por ellas.

Por supuesto, no se puede controlar lo que no se ve. Y los canales más difíciles de detectar son los que nunca pasan por una ruta de red que alguien esté supervisando. Las aplicaciones de escritorio leen archivos directamente del dispositivo y cifran su tráfico, por lo que este no pasa por las herramientas diseñadas para inspeccionarlo. Los agentes tienen acceso a información de la empresa y siguen utilizándola sin que un empleado tenga que proporcionarles algo cada vez.

Todos esos son nuevos canales de exfiltración de datos, y la cuestión principal es qué información circula por ellos. Que un documento público se introduzca en una cuenta corporativa aprobada no equivale a que una base de datos de clientes o código fuente propietario se introduzca en una cuenta personal; esa diferencia solo se ve donde están los datos y se lleva a cabo la acción. Por eso, la IA en la sombra que no se puede ver es también donde más importa la cuestión de los datos.

Bold adopta un enfoque centrado en los dispositivos y ejecuta la IA localmente en ellos, en lugar de depender principalmente de la supervisión de la red o la nube. ¿Qué puede entender un modelo integrado en el dispositivo sobre una interacción con IA que la prevención tradicional de pérdida de datos no puede?

Bold hace dos cosas de manera diferente. En primer lugar, usamos IA para proteger los datos confidenciales sin tener que enviarlos a otro servicio de IA para que los analice. Nuestros modelos de lenguaje pequeños se ejecutan directamente en el dispositivo, donde pueden determinar qué datos son confidenciales, quién accede a ellos y adónde se dirigen. Esto nos permite identificar y detener acciones riesgosas en tiempo real, sin la latencia ni el costo de enviar todo a la nube.

En segundo lugar, vamos más allá de los canales que supervisan las herramientas de seguridad tradicionales. La mayor parte del mercado todavía se centra en los navegadores y el tráfico de red, pero cada vez más datos confidenciales circulan por aplicaciones de IA de escritorio, herramientas de programación, terminales y agentes autónomos. A los productos convencionales de prevención de pérdida de datos y seguridad en la nube les resulta mucho más difícil detectar estos canales.

Al operar en los dispositivos, podemos proteger los datos en todos estos entornos e intervenir antes de que la información confidencial escape del control de la empresa.

Su tecnología está diseñada para entender no solo a qué datos se accede, sino también el contexto y la intención que hay detrás de una acción. ¿Cómo distinguen el uso legítimo de información confidencial de un comportamiento que supone un riesgo real para la seguridad, sin generar un exceso de falsos positivos?

El contexto lo es todo. No se puede tratar cada archivo que se sube o cada agente que accede a datos como un incidente de seguridad, o nadie podrá hacer su trabajo.

El mismo archivo puede ser algo rutinario en un lugar y un problema grave en otro. Es normal que una lista de clientes esté en la herramienta de soporte, pero subirla a una cuenta personal sí supone un problema. El código fuente debe estar en el repositorio, no en una solicitud a una herramienta de IA para consumidores.

Una herramienta que solo sabe que el contenido coincide con una regla tiene que marcar ambos casos o ninguno. De ahí surgen los falsos positivos. Saber qué son los datos, quién los mueve y adónde van permite distinguir entre el uso normal de la IA y un riesgo real.

Los agentes de IA plantean un modelo de seguridad distinto, porque cada vez más el software puede acceder a archivos, invocar herramientas, conectarse mediante servidores MCP y realizar acciones con poca intervención humana. ¿Cómo debe evolucionar la seguridad de los dispositivos terminales cuando quien interactúa con datos corporativos confidenciales puede ser un agente autónomo en lugar de un empleado?

La seguridad se ha diseñado, en gran medida, pensando en las personas, pero ahora los agentes pueden actuar a la velocidad de las máquinas: abrir archivos, llamar a herramientas y mover datos sin que alguien apruebe cada paso. La seguridad debe funcionar a esa misma velocidad. Muchos productos usan la IA para analizar incidentes una vez ocurridos. Nosotros la usamos para comprender y detener acciones de riesgo en tiempo real, incluidas las que tienen lugar fuera del navegador.

Un agente puede trabajar desde una aplicación de escritorio, una terminal u otra herramienta que encuentre mientras completa una tarea. La seguridad debe seguir los datos y las acciones en todos esos entornos, tanto si es una persona como si es un agente quien las realiza.

Esto también plantea una pregunta que los equipos de seguridad no habían tenido que hacerse antes. Cuando ocurre algo arriesgado, ¿la persona quiso hacerlo o el agente se equivocó? Cada caso requiere una respuesta distinta. Si un empleado está tomando una mala decisión, se le orienta. Si un agente hace algo que nadie le pidió, se lo detiene.

El dispositivo terminal es donde se puede distinguir la diferencia, porque allí coinciden los datos, el proceso y la acción.

Muchas empresas han respondido a los riesgos de la IA generativa restringiendo o prohibiendo ciertas herramientas. ¿Cree que las organizaciones avanzan hacia un modelo en el que se pueda permitir prácticamente cualquier herramienta de IA, siempre que haya controles sobre los datos a los que puede acceder y adónde pueden ir?

Las prohibiciones generales no van a resolver el problema. Los empleados pueden encontrar una nueva herramienta de IA y empezar a usarla en cuestión de segundos, y la mayoría no intenta eludir la seguridad. Solo intenta hacer su trabajo más rápido.

La pregunta más pertinente es qué ocurre con los datos de la empresa cuando usan esas herramientas.

Si alguien usa una cuenta personal de IA para una tarea inofensiva, quizá baste con indicarle que use la cuenta corporativa. Pero si está a punto de enviar código fuente, información de clientes o credenciales a un lugar no autorizado por la empresa, el equipo de seguridad debe intervenir.

Creo que hacia ahí nos dirigimos. Hay que dar margen a las personas para que usen la IA, pero establecer controles sobre los datos. Saber a qué se accede, adónde van los datos y cuándo hay que intervenir.

El uso local de la IA puede ofrecer ventajas en latencia y privacidad, pero los dispositivos terminales tienen una capacidad de procesamiento y una memoria limitadas. ¿Qué concesiones técnicas tuvieron que hacer al crear modelos capaces de clasificar semánticamente los datos y aplicar medidas en tiempo real directamente en los dispositivos de los empleados?

No se puede instalar un modelo enorme en la computadora portátil de alguien, consumir toda su CPU y memoria y llamarlo seguridad. Si el producto de seguridad hace que la computadora sea insoportable de usar, los empleados lo detestarán y el equipo de TI lo desactivará.

Así que hay concesiones muy reales. El modelo debe comprender los datos lo suficiente como para distinguir entre algo inofensivo y algo confidencial, pero también debe ser lo bastante rápido, pequeño y fiable para funcionar continuamente en segundo plano.

El trabajo inicial consistió en crear modelos que pudieran clasificar distintos tipos de datos de forma útil en diferentes computadoras sin ralentizarlas. Ya hemos realizado ese trabajo de ingeniería, así que los clientes no tienen que hacer esas concesiones por su cuenta.

Durante todo el desarrollo, nuestra principal prioridad ha sido la experiencia de usuario. Nuestro producto consume alrededor del 20 % de los recursos informáticos que utilizan los agentes sin IA de la competencia tradicional, y toma decisiones localmente en el momento en que se realiza una acción. Los datos confidenciales no tienen que salir del dispositivo solo para determinar si son confidenciales.

Bold puede identificar herramientas y cuentas de IA, así como la actividad de los agentes, y orientar a los usuarios, redirigirlos o bloquear acciones arriesgadas. ¿Cómo determinan cuándo el sistema debe limitarse a advertir al usuario y cuándo debe detener una acción automáticamente?

Piense en cómo actuaría un buen colega. Si estuviera a punto de pegar un borrador en su ChatGPT personal, se acercaría y le diría: «Oye, para eso tenemos una cuenta de la empresa». Si estuviera a punto de subir la base de datos de clientes a su Drive personal, lo detendría físicamente.

Intentamos trabajar del mismo modo y hemos comprobado que la orientación es eficaz en al menos el 90 % de los casos para redirigir a los usuarios hacia una alternativa segura. En la mayoría de los casos, alguien está usando por error la cuenta equivocada o desconoce la política de la empresa sobre dónde pueden almacenarse los datos.

En última instancia, corresponde al cliente decidir dónde bloquear, y cada empresa establece ese límite de manera diferente. Nuestro trabajo es proporcionarles el contexto y la confianza necesarios para tomar la decisión correcta. En los flujos de trabajo de mayor riesgo y complejidad, eso implica el contexto del que hablamos antes, evaluado en función del historial del propio usuario e incluso del de su grupo de pares.

Tu trayectoria ha pasado de proteger dispositivos conectados en SAM a gestionar identidades y permisos en la nube en Polyrize, y ahora a proteger las interacciones entre las personas, los agentes de IA y los datos empresariales en Bold. ¿Cómo ha cambiado tu perspectiva sobre el límite fundamental de la seguridad a lo largo de estas tres generaciones de ciberseguridad?

Mi visión de los fundamentos se ha vuelto más precisa. El hilo conductor es acercar la seguridad al lugar donde se producen las acciones y hacer que funcione a gran escala.

En SAM, incorporamos seguridad de nivel empresarial a enrutadores con recursos muy limitados. Eso nos enseñó a llevar tecnología avanzada al borde de la red de forma eficiente. En Polyrize, nos centramos en proteger los datos en entornos de nube y SaaS mediante la visibilidad y la gestión de la postura de seguridad. Comprender la exposición es esencial, pero no necesariamente permite impedir una acción de riesgo.

Bold reúne esas lecciones. Incorporamos inteligencia al dispositivo, donde las personas y los agentes de IA interactúan con los datos, y proporcionamos a los equipos de seguridad el contexto necesario para comprender los riesgos e intervenir en tiempo real.

La seguridad de la red y de la nube sigue siendo importante, pero el dispositivo puede detectar la actividad en aplicaciones de escritorio, archivos locales, cuentas personales y agentes que se ejecutan en él. He aprendido que el lugar y el momento en que opera la seguridad importan tanto como su nivel de inteligencia.

Si miramos de tres a cinco años hacia el futuro, a medida que los empleados trabajen junto con agentes de IA cada vez más autónomos, ¿en qué crees que se convertirá el dispositivo corporativo? ¿Podríamos llegar a un punto en el que cada dispositivo cuente, en la práctica, con su propia capa de seguridad inteligente, que decida continuamente qué personas y agentes pueden interactuar con determinados datos?

Creo que ese es exactamente el rumbo que llevamos.

El dispositivo se convierte en una capa de seguridad inteligente que comprende los datos almacenados en él, sabe si quien interactúa con ellos es una persona o un agente y decide localmente qué debe y qué no debe ocurrir.

Esto cobra más importancia a medida que los agentes se vuelven más autónomos. Una persona podría tener varios agentes trabajando en su nombre al mismo tiempo, con archivos, aplicaciones y sistemas de la empresa. La seguridad no puede depender de que esa persona apruebe cada paso, porque cada vez estará menos pendiente de lo que ocurre.

Es necesario seguir protegiendo los datos, pero el número de actores que acceden a ellos crecerá mucho más allá de una sola persona frente a un teclado. Los sistemas de seguridad tendrán que comunicarse con los agentes, tomar decisiones y responder de manera autónoma a medida que se produzcan las acciones. Quienes gestionen esos sistemas supervisarán cada vez más los controles y las decisiones, en lugar de revisar todos los eventos uno por uno. El dispositivo es el lugar donde pueden tomarse esas decisiones mientras los datos siguen bajo el control de la empresa.

Gracias por esta estupenda entrevista. Los lectores que quieran conocer más sobre la protección de datos en los dispositivos y la adopción segura de la IA empresarial pueden visitar Bold Security.