Claudionor Coelho, Director de Inteligencia Artificial en Zscaler – Serie de Entrevistas

Claudionor Coelho es el Director de Inteligencia Artificial en Zscaler, responsable de liderar a su equipo para encontrar nuevas formas de proteger datos, dispositivos y usuarios a través de técnicas de aprendizaje automático (ML), aprendizaje profundo y generación de inteligencia artificial de vanguardia. Antes de unirse a Zscaler, se desempeñó como Director de Inteligencia Artificial y Vicepresidente Senior de ingeniería en Advantest. Previamente, Coelho fue Vicepresidente y Jefe de Laboratorios de Inteligencia Artificial en Palo Alto Networks. También ocupó cargos de aprendizaje automático y aprendizaje profundo en Google.

Zscaler se enfoca en acelerar la transformación digital permitiendo que las organizaciones logren una mayor agilidad, eficiencia, resiliencia y seguridad. La plataforma de intercambio de confianza cero de la empresa es de código abierto y está diseñada para proteger a los usuarios de ciberataques y pérdida de datos al conectar de manera segura a los usuarios, dispositivos y aplicaciones, independientemente de su ubicación. Zscaler atiende a miles de clientes en todo el mundo, enfatizando la seguridad robusta y la conectividad sin problemas.

Como primer Director de Inteligencia Artificial de Zscaler, ¿cómo ha dado forma a la estrategia de inteligencia artificial de la empresa, particularmente en la integración de la inteligencia artificial con la ciberseguridad?

Zscaler ha logrado avances significativos en inteligencia artificial para la ciberseguridad, lo que la distingue de sus competidores. La plataforma de confianza cero de Zscaler aprovecha la inteligencia artificial para detectar y detener el robo de credenciales y la explotación del navegador desde páginas de phishing. La inteligencia de amenazas de más de 400 mil transacciones diarias proporciona análisis en tiempo real que mejoran la defensa contra ciberataques sofisticados. Además, colaboramos con NVIDIA para entregar innovaciones de seguridad y tecnología de información impulsadas por inteligencia artificial generativa, como el copiloto ZDX de Zscaler, que simplifica las operaciones de TI y la red, procesando datos de la plataforma de intercambio de confianza cero para defender proactivamente a las empresas contra amenazas. Finalmente, con la adquisición de Avalor, hemos extendido las capacidades de intercambio de confianza cero utilizando Data Fabric para Seguridad. Con más de 150 integraciones preestablecidas, identifica y predice vulnerabilidades críticas mientras mejora las eficiencias operativas.

Ha fundado varias empresas, incluyendo Kunumi, y ha ocupado cargos de liderazgo en empresas de primer nivel. ¿Cómo ha influido su experiencia empresarial en su enfoque como líder de inteligencia artificial corporativa en Zscaler?

Cuando era Vicepresidente Senior de Ingeniería en Jasper Design Automation, una startup de automatización de diseño electrónico, competimos contra empresas de varios miles de millones de dólares pero logramos más del 70-80% de la participación de mercado debido a la innovación, los procesos comerciales y la agilidad. Uno de los libros que siempre consultaba durante nuestras reuniones de estrategia era “Competir en el borde: Estrategia como caos estructurado” del Prof. Kathleen M. Eisenhardt. Aunque este libro es de 1998, todavía se aplica a lo que estamos viendo con la inteligencia artificial generativa hoy en día.

Nunca antes una tecnología que cambia el mundo se ha movido a esta velocidad. El ingeniero de Motorola Martin Cooper hizo la primera llamada de teléfono celular en 1973, pero le tomó al mundo 10 años hasta que se abrió la primera red comercial y 24 años más hasta que se lanzó el iPhone, cambiando la forma en que interactuamos con las máquinas de computación.

ChatGPT se lanzó en noviembre de 2022. Al año siguiente, discutimos en un seminario patrocinado por el Foro Económico Mundial que la Inteligencia Artificial General (IAG) estaba a punto de llegar. En ese momento, solo unos pocos de nosotros reconocimos que podemos usar agentes para crear muchos sistemas inteligentes rellenando las brechas de los LLM con herramientas, incluso antes de la IAG. En 2024, la discusión se centró en los agentes de inteligencia artificial, y al final del año, estamos empezando a ver varios agentes de inteligencia artificial inteligentes (como el copiloto ZDX o la plataforma de blogging Kiroku).

Esta velocidad solo se puede ver en un entorno de startup, por lo que está causando un estrés tremendo en las grandes organizaciones, que luchan por ser lo suficientemente ágiles como para acomodar una tecnología con una velocidad sin precedentes.

Dado su experiencia al frente de empresas en Brasil y EE. UU., ¿cuáles son algunas de las diferencias clave entre los dos mercados en términos de adopción de inteligencia artificial y ciberseguridad?

Discutir startups es una buena manera de comenzar a ilustrar las similitudes y diferencias entre los mercados, ya que es donde a menudo se ven innovaciones radicales antes de que lleguen a las grandes corporaciones. Una estrategia común en Brasil para las startups ha sido copiar startups de etapa temprana exitosas de EE. UU., ya que las startups de EE. UU. suelen mirar el mercado interno primero (aunque esto ha cambiado). Sin embargo, EE. UU. ha tenido tradicionalmente un sistema de capital más estable que hace que sea más fácil iniciar una empresa.

Creamé Kunumi en 2014 como la primera empresa de aprendizaje profundo en Brasil. Fue vendida al Banco Bradesco a principios de este año. En general, las corporaciones en Brasil no saben cómo adoptarán la inteligencia artificial generativa, y verás muchos errores, también cierto en EE. UU. He construido cuatro copilotos en mi vida, el primero en 2016, mientras estaba en Synopsys. Era un agente que podía escanear registros de compilación y ejecución de grandes máquinas de emulación, buscando información relacionada con las preguntas del usuario, con soporte multilenguaje. En ese momento, no había transformadores, no había LLM, y incluso la traducción era muy diferente a la de hoy en día.

En 2020, era investigador en Google trabajando en la compresión y cuantificación de modelos de aprendizaje profundo, con CERN utilizando lo que creé en la búsqueda de partículas subatómicas. Cuando pensé que estábamos en una guerra sobre datos, se hizo claro que la ciberseguridad es un problema global que no se limita a un país o otro. Fue entonces cuando decidí moverme hacia allí.

Hace unos meses, estaba hablando con un funcionario del gobierno extranjero que decía que la ciberseguridad era un problema de EE. UU. y su agencia no tenía nada que temer, solo para tener un ciberataque en su organización unas semanas después.

Finalmente, al comparar el estado de la ciberseguridad con los cargos de ransomware entre Brasil y EE. UU., la realidad es que los cargos estimados de ransomware son aproximadamente los mismos.

¿Cómo difiere el entorno regulatorio para la inteligencia artificial y la ciberseguridad entre Brasil y EE. UU., y cómo impacta la innovación en estas regiones?

Debido a que la inteligencia artificial generativa se está moviendo muy rápido, los gobiernos reconocen la necesidad de proteger algo, pero a menudo no están seguros de qué es lo que están tratando de proteger. ¿Cuál es el impacto si creamos leyes para los LLM en 2023, y en 2024 estamos utilizando agentes de inteligencia artificial? Necesitamos regulaciones, pero también necesitamos hacer un análisis desapasionado del entorno regulatorio para ver cómo podemos proteger mejor a los ciudadanos locales.

Dicho esto, cuando la inteligencia artificial toma decisiones basadas únicamente en entradas numéricas exactas que representan razones o características, el análisis a menudo es incompleto y produce un resultado real de la vida defectuoso. Por ejemplo, si un algoritmo de inteligencia artificial toma una decisión de préstamo a una persona basada en un criterio ambiguo como “probabilidad” y un factor como el salario o la raza se incluyeron, podrías ver fácilmente un escenario en el que a una persona se le negaría un préstamo basado en el efecto neto de uno de esos dos factores. Con la inteligencia artificial generativa, el problema se vuelve aún peor, debido a la incapacidad de los LLM para traer datos externos para hacer suposiciones de razonamiento. Es importante asegurarse de que tenemos regulaciones que no permitan que los sistemas defectuosos tomen decisiones (especialmente sin supervisión profunda), ya que están destinados a cometer errores.

Por otro lado, me ha gustado mucho la capacidad de conducción autónoma de los automóviles Tesla, que, en comparación con los humanos, han demostrado superar la cantidad de millas conducidas antes de estar involucrados en accidentes. Sí, cometen errores, pero incluso en aviones con copiloto, los pilotos necesitan tomar el control en caso de emergencia.

En cuanto a la ciberseguridad, varias organizaciones de EE. UU. (por ejemplo, JCDC.AI, NIST, CISA, etc.) han discutido la necesidad de abordar la inteligencia artificial y la ciberseguridad. Por supuesto, en mercados o tecnologías de ritmo rápido, necesitas adaptarte continuamente a los cambios, y cuando se mueven extremadamente rápido, necesitas operar al borde del caos.

La plataforma de intercambio de confianza cero de Zscaler es una parte clave de su modelo de seguridad. ¿Cómo mejora la inteligencia artificial esta plataforma, y cuáles son algunos de los desarrollos más emocionantes en esta área?

La arquitectura de confianza cero de Zscaler ayuda a las organizaciones a crear un entorno más seguro para las implementaciones de inteligencia artificial, pero la plataforma también aprovecha la inteligencia artificial de numerousas maneras, comenzando con el copiloto ZDX, que entrega innovaciones de seguridad impulsadas por inteligencia artificial generativa. Desarrollado en colaboración con NVIDIA, el agente aprovecha la inteligencia artificial generativa para defender proactivamente a las empresas contra amenazas y simplifica las operaciones de TI y la red. Zscaler también ha mejorado la identificación predictiva de vulnerabilidades al agregar Data Fabric para Seguridad de Avalor a la plataforma de intercambio de confianza cero de Zscaler. Finalmente, la inteligencia artificial es fundamental en la plataforma de confianza cero de Zscaler, detectando y deteniendo el robo de credenciales y la explotación del navegador desde páginas de phishing. Los análisis en tiempo real basados en la inteligencia de amenazas de más de 400 mil transacciones diarias mejoran su defensa contra ciberataques sofisticados.

La inteligencia artificial se ha vuelto cada vez más central en la lucha contra las amenazas cibernéticas. ¿Cómo ve la evolución de la inteligencia artificial para abordar la creciente complejidad de los riesgos de ciberseguridad, especialmente en el ámbito de los dispositivos IoT y OT?

El panorama de amenazas ha evolucionado inequívocamente con el advenimiento de ciberataques basados en inteligencia artificial, por lo que las organizaciones pueden luchar contra la inteligencia artificial con inteligencia artificial. La principal evolución será mejorar las soluciones de inteligencia artificial con fuentes de datos adicionales.

A medida que aumenta el número de ciberataques, necesitamos usar más automatización con inteligencia artificial para detectar y abordar los riesgos cibernéticos. Vale la pena señalar que la inteligencia artificial y la inteligencia artificial generativa se están utilizando actualmente para crear nuevos frentes de ataque, y debido a eso, necesitamos mejorar nuestro juego correlacionando más señales de las que hicimos antes.

En el caso de los dispositivos IoT y OT, plantean riesgos significativos para las organizaciones, ya que varios dispositivos IoT no utilizan los stacks de software más actualizados, a pesar de que puedes comprar fácilmente interruptores Wi-Fi, televisores conectados a Internet, lavavajillas, hornos, etc. Durante años, hemos visto numerosos artículos que muestran las vulnerabilidades a las que estamos sujetos en IoT/OT.

Necesitamos una conciencia constante y mejorar la defensa de ciberseguridad analizando todos los tipos de datos y señales para detectar anomalías y amenazas potenciales. Para ganar este juego, necesitamos modelos de inteligencia artificial de vanguardia entrenados con grandes cantidades de datos en tiempo real. La inteligencia artificial generativa desempeña un papel instrumental, permitiendo a las empresas analizar y resumir resultados a los usuarios y operadores de seguridad.

Como miembro de los grupos de trabajo de inteligencia artificial y ciberseguridad del Foro Económico Mundial, ¿cómo influyen las discusiones globales sobre ética de inteligencia artificial y ciberseguridad en su enfoque para su rol en Zscaler?

Debido a que la tecnología se está moviendo muy rápido, los gobiernos y las organizaciones necesitan tener información de base, y veo esto como el papel del Foro Económico Mundial. La inteligencia artificial y la ciberseguridad por sí solas tienen suficiente necesidad como para requerir grupos separados, pero cuando se combinan, es casi un área nueva por sí misma. Por ejemplo, Gartner este año mostró que la inteligencia artificial generativa aumenta la superficie de ataque enormemente, pasando de la inyección de comandos en la entrada y salida a ataques de código de aplicación, ataques de modelo y甚至 ataques de complementos.

Algunos de estos ataques son específicos de los LLM como ChatGPT, pero si consideramos que estamos pasando de los LLM a los agentes de inteligencia artificial y sistemas de agentes múltiples, necesitamos considerar mucha más información. Por ejemplo, en los LLM, puedes preocuparte por la inyección de comandos, el comportamiento de celda dormida (disparando el LLM para que responda de manera diferente en función de palabras clave especiales) o la fuga de información confidencial. Cuando se discuten los agentes de inteligencia artificial, necesitamos considerar ataques a herramientas y fuentes de datos, incluso asumiendo que la inyección SQL y la inyección de comandos del sistema operativo pueden ser posibles nuevamente.

Finalmente, necesitamos preparar a nuestra fuerza laboral para usar la inteligencia artificial generativa, proporcionando herramientas y un entorno en el que puedan operar en este nuevo mundo.

Ha sido un defensor firme de la diversidad y la inclusión, especialmente como patrocinador ejecutivo del ERG Latino y Hispano de Zscaler, Sabor. ¿Cómo ha influido su trasfondo cultural en su estilo de liderazgo y enfoque para el desarrollo de inteligencia artificial?

Como un orgulloso latino nacido y criado en Brasil, estoy apasionado por apoyar y empoderar a las comunidades latinas e hispanas en Zscaler. Siento un gran sentido de logro al poder contribuir a un mundo mejor a través de la ciberseguridad, donde ayudamos a proteger a la sociedad en un mundo cada vez más complejo. Mis valores me han ayudado a llegar a donde estoy hoy, y estoy extremadamente orgulloso de donde vengo.

Mi consejo sería nunca olvidar de dónde vienes y qué has hecho. Siempre sé orgulloso de lo que te hace único, pero también reconoce que la diversidad es la clave. Vivo conmigo mismo 24 horas al día. Si solo contrato a personas que son similares a mí y están de acuerdo conmigo, no aumentaré mi conocimiento. Contratar a personas de numerosas ubicaciones y orígenes me ayuda a entender mejor las necesidades específicas de nuestra base de clientes global.

Finalmente, ¿qué es lo que más le emociona sobre el futuro de la inteligencia artificial en la ciberseguridad, y qué papel ve para Zscaler en ese futuro?

La inteligencia artificial no cambia los fundamentos de la defensa cibernética efectiva, sino que destaca su importancia. Anticipamos ver la transparencia, las prácticas de seguridad robustas y el monitoreo continuo proliferar en toda la industria. Las organizaciones deben adoptar un enfoque integral de la seguridad, implementando medidas avanzadas para detectar y responder a las amenazas. Esto incluye fomentar una cultura de conciencia sobre la seguridad, realizar auditorías de seguridad regulares y colaborar con las partes interesadas para desarrollar estrategias de seguridad efectivas. Al hacerlo, las organizaciones pueden reducir el riesgo de violaciones y proteger su información sensible.

Zscaler se compromete a salvaguardar la privacidad del usuario, empleando las técnicas más avanzadas para anonimizar los datos y asegurarse de que no se identifiquen a los usuarios o organizaciones individuales. Mientras podemos explorar la personalización de los LLM en el futuro, nuestras estrictas medidas de privacidad de datos para garantizar que no se comprometa ningún dato de usuario seguirán siendo fundamentales. Nuestro objetivo es aprovechar el poder de la inteligencia artificial para mejorar la seguridad sin infringir la privacidad del cliente.

Gracias por la gran entrevista, los lectores que deseen aprender más pueden visitar Zscaler.