Claudionor Coelho, Directeur des opérations d’IA chez Zscaler – Série d’entretiens

Claudionor Coelho est le Directeur des opérations d’IA chez Zscaler, responsable de diriger son équipe pour trouver de nouvelles façons de protéger les données, les appareils et les utilisateurs grâce à des techniques d’apprentissage automatique (ML), d’apprentissage profond et d’IA générative de pointe. Avant de rejoindre Zscaler, il a occupé le poste de Directeur des opérations d’IA et de Vice-président senior de l’ingénierie chez Advantest. Auparavant, Coelho était Vice-président et Chef des laboratoires d’IA chez Palo Alto Networks. Il a également occupé des postes liés à l’apprentissage automatique et à l’apprentissage profond chez Google.

Zscaler se concentre sur l’accélération de la transformation numérique en permettant aux organisations d’atteindre une plus grande agilité, efficacité, résilience et sécurité. La plate-forme Zero Trust Exchange de l’entreprise, native cloud, est conçue pour protéger les utilisateurs contre les cyberattaques et les pertes de données en connectant de manière sécurisée les utilisateurs, les appareils et les applications, quelle que soit leur localisation. Zscaler sert des milliers de clients dans le monde entier, en mettant l’accent sur la sécurité robuste et la connectivité sans faille.

En tant que premier Directeur des opérations d’IA de Zscaler, comment avez-vous façonné la stratégie d’IA de l’entreprise, en particulier en intégrant l’IA avec la cybersécurité ?

Zscaler a réalisé des progrès importants dans l’IA pour la cybersécurité, ce qui la distingue de la concurrence. La plate-forme Zero Trust de Zscaler utilise l’IA pour détecter et arrêter le vol de mots de passe et l’exploitation des navigateurs à partir de pages de phishing. Les renseignements sur les menaces provenant de plus de 400 milliards de transactions quotidiennes fournissent des analyses en temps réel qui améliorent la défense contre les cyberattaques sophistiquées. De plus, nous collaborons avec NVIDIA pour livrer des innovations de sécurité et de TI alimentées par l’IA générative, comme le Zscaler ZDX Copilot, qui simplifie les opérations TI et réseau, tout en traitant les données de la plate-forme Zero Trust Exchange pour défendre proactivement les entreprises contre les menaces. Enfin, avec l’acquisition d’Avalor, nous avons étendu les capacités de la plate-forme Zero Trust Exchange en utilisant Data Fabric pour la sécurité. Avec plus de 150 intégrations préconstruites, il identifie et prédit les vulnérabilités critiques tout en améliorant les efficacités opérationnelles.

Vous avez fondé plusieurs entreprises, notamment Kunumi, et occupé des postes de direction dans des entreprises de premier plan. Comment votre expérience entrepreneuriale a-t-elle influencé votre approche en tant que leader d’IA d’entreprise chez Zscaler ?

Lorsque j’étais Vice-président de l’ingénierie chez Jasper Design Automation, une startup en automatisation de la conception électronique, nous nous sommes opposés à des entreprises de plusieurs milliards de dollars, mais nous avons atteint plus de 70-80 % de parts de marché en raison de l’innovation, des processus commerciaux et de l’agilité. L’un des livres que j’ai toujours consulté lors de nos réunions de stratégie était « Competing on the Edge : Strategy as Structured Chaos » du Prof. Kathleen M. Eisenhardt. Bien que ce livre date de 1998, il est toujours d’actualité avec ce que nous voyons avec l’IA générative aujourd’hui.

Jamais auparavant, une technologie révolutionnaire n’a évolué à une telle vitesse. L’ingénieur de Motorola, Martin Cooper, a effectué le premier appel de téléphone cellulaire en 1973, mais il a fallu au monde 10 ans pour que le premier réseau commercial soit ouvert et 24 ans de plus pour que l’iPhone soit lancé, changeant la façon dont nous interagissons avec les ordinateurs.

ChatGPT a été lancé en novembre 2022. L’année suivante, nous avons discuté lors d’un séminaire parrainé par le WEF que l’intelligence artificielle générale (AGI) allait bientôt arriver. À ce moment-là, seuls quelques-uns d’entre nous ont reconnu que nous pouvions utiliser des agents pour créer de nombreux systèmes intelligents en comblant les lacunes des LLM avec des outils, même avant l’AGI. En 2024, la discussion a porté sur les agents d’IA, et à la fin de l’année, nous commençons à voir plusieurs agents d’IA intelligents (comme ZDX Copilot ou la plate-forme de blog Kiroku).

Cette vitesse ne peut être vue que dans un environnement de startup, ce qui cause un stress énorme dans les grandes organisations, qui luttent pour devenir suffisamment agiles pour accommoder une technologie à une vitesse sans précédent.

Étant donné votre expérience à la tête d’entreprises au Brésil et aux États-Unis, quels sont les principales différences entre les deux marchés en termes d’adoption de l’IA et de la cybersécurité ?

Discuter des startups est un bon moyen de commencer à illustrer les similitudes et les différences entre les marchés, puisqu’elles sont souvent là où l’on voit des innovations radicales avant qu’elles n’atteignent les grandes entreprises. Une stratégie courante au Brésil pour les startups a été de copier les startups américaines à un stade précoce, car les startups américaines regardent généralement le marché interne en premier (bien que cela change). Cependant, les États-Unis ont traditionnellement eu un système de capital plus stable qui facilite la création d’une entreprise.

J’ai créé Kunumi en 2014 en tant que première entreprise de Deep Learning au Brésil. Elle a été vendue à Bradesco Bank plus tôt cette année. En général, les entreprises au Brésil ne savent pas comment elles vont adopter l’IA générative, et vous allez voir beaucoup d’erreurs – ce qui est également vrai aux États-Unis. J’ai construit quatre Copilots dans ma vie – le premier en 2016, alors que j’étais chez Synopsys. C’était un agent qui pouvait analyser les journaux de compilation et d’exécution de grandes machines d’émulation, à la recherche d’informations liées aux questions de l’utilisateur, avec une prise en charge multilingue. À ce moment-là, il n’y avait pas de transformateurs, pas de LLM, et même la traduction était très différente de ce que nous avons aujourd’hui.

En 2020, j’étais chercheur chez Google, travaillant sur la compression et la quantification de modèles de Deep Learning, avec CERN en utilisant ce que j’ai créé pour rechercher des particules subatomiques. Lorsque j’ai pensé que nous étions en guerre sur les données, il est devenu clair que la cybersécurité est un problème mondial qui n’est pas localisé à un pays ou à un autre. C’est alors que j’ai décidé de passer à la cybersécurité.

Il y a quelques mois, je discutais avec un responsable gouvernemental étranger qui disait que la cybersécurité était un problème des États-Unis et que son agence n’avait rien à craindre – pour subir une cyberattaque dans son organisation quelques semaines plus tard.

Enfin, en comparant l’état de la cybersécurité aux accusations de rançongiciel entre le Brésil et les États-Unis, la réalité est que les frais de rançongiciel estimés sont à peu près les mêmes.

Comment l’environnement réglementaire pour l’IA et la cybersécurité diffère-t-il entre le Brésil et les États-Unis, et comment cela impacte-t-il l’innovation dans ces régions ?

Puisque l’IA générative évolue si rapidement, les gouvernements reconnaissent la nécessité de protéger quelque chose, mais ils sont souvent incertains sur ce qu’ils essaient de protéger. Quel est l’impact si nous créons des lois pour les LLM en 2023, et en 2024 nous utilisons des agents d’IA ? Nous avons besoin de réglementations, mais nous devons également effectuer une analyse sans émotion de l’environnement réglementaire pour voir comment nous pouvons mieux protéger les citoyens locaux.

Cela étant dit, lorsque l’IA prend des décisions uniquement sur des entrées numériques exactes représentant des raisons ou des fonctionnalités, l’analyse est souvent incomplète et donne un résultat réel défectueux. Par exemple, si un algorithme d’IA prend une décision de prêt à une personne sur la base d’un critère ambigu comme la « probabilité » et d’un facteur comme le salaire ou la race, vous pourriez facilement voir un scénario dans lequel une personne serait refusée un prêt en fonction de l’effet net de l’un de ces deux facteurs. Avec l’IA générative, le problème devient encore pire, en raison de l’incapacité des LLM à apporter des données externes pour faire des hypothèses de raisonnement. Il est important de s’assurer que nous avons des réglementations qui n’autorisent pas des systèmes défectueux à prendre des décisions (en particulier sans une supervision approfondie), car ils sont destinés à faire des erreurs.

D’un autre côté, j’ai été extrêmement satisfait de la capacité de conduite autonome complète des voitures Tesla, qui, par rapport aux humains, ont été montrées pour dépasser le nombre de miles parcourus avant d’être impliquées dans des accidents. Oui, ils font des erreurs, mais même dans les avions avec un copilote, les pilotes doivent reprendre le contrôle en cas d’urgence.

En ce qui concerne la cybersécurité, plusieurs organisations américaines (par exemple JCDC.AI, NIST, CISA, etc.) ont discuté de la nécessité de s’attaquer à l’IA et à la cybersécurité. Bien sûr, sur des marchés ou des technologies à forte vitesse, vous devez continuellement s’adapter aux changements, et lorsque ceux-ci évoluent à une vitesse extrême, vous devez opérer à la limite du chaos.

La plate-forme Zero Trust Exchange de Zscaler est un élément clé de son modèle de sécurité. Comment l’IA améliore-t-elle cette plate-forme, et quels sont les développements les plus passionnants dans ce domaine ?

L’architecture Zero Trust de Zscaler aide les organisations à créer un environnement plus sécurisé pour les déploiements d’IA, mais la plate-forme utilise également l’IA de nombreuses manières, en commençant par ZDX Copilot qui livre des innovations de sécurité alimentées par l’IA générative. Développé en collaboration avec NVIDIA, l’agent utilise l’IA générative pour défendre proactivement les entreprises contre les menaces et simplifie les opérations TI et réseau. Zscaler a également amélioré son identification prédictive des vulnérabilités en ajoutant Data Fabric pour la sécurité d’Avalor à la plate-forme Zero Trust Exchange. Enfin, l’IA est au cœur de la plate-forme Zero Trust de Zscaler, détectant et arrêtant le vol de mots de passe et l’exploitation des navigateurs à partir de pages de phishing. Les analyses en temps réel basées sur les renseignements sur les menaces provenant de plus de 400 milliards de transactions quotidiennes améliorent sa défense contre les cyberattaques sophistiquées.

L’IA est devenue de plus en plus centrale dans la lutte contre les menaces cybernétiques. Comment voyez-vous l’IA évoluer pour répondre à la complexité croissante des risques de cybersécurité, en particulier dans le domaine des appareils IoT et OT ?

Le paysage des menaces a évolué de manière indiscutable avec l’avènement des cyberattaques basées sur l’IA, les organisations peuvent donc lutter contre l’IA avec l’IA. L’évolution majeure sera d’améliorer les solutions d’IA avec des sources de données supplémentaires.

Alors que le nombre de cyberattaques augmente, nous devons utiliser davantage l’automatisation avec l’IA pour détecter et traiter les risques cybernétiques. Il est important de noter que l’IA et l’IA générative sont utilisées pour créer de nouveaux fronts d’attaque, et que, pour cette raison, nous devons améliorer notre jeu en corrélant plus de signaux que nous ne l’avons fait auparavant.

Dans le cas des appareils IoT et OT, ils posent des risques importants pour les organisations, car de nombreux appareils IoT n’utilisent pas les piles logicielles les plus à jour – malgré le fait que vous pouvez facilement acheter des interrupteurs Wi-Fi, des téléviseurs connectés à Internet, des lave-vaisselle, des fours, etc. Depuis des années, nous voyons de nombreux articles qui montrent les vulnérabilités auxquelles nous sommes soumis dans les appareils IoT/OT.

Nous devons avoir une conscience constante et améliorer la défense de la cybersécurité en analysant tous les types de données et de signaux pour détecter les anomalies et les menaces potentielles. Pour gagner ce jeu, nous devons avoir des modèles d’IA de pointe formés avec des quantités massives de données en temps réel. L’IA générative joue un rôle instrumental, en permettant aux entreprises d’analyser et de résumer les résultats aux utilisateurs et aux opérateurs de sécurité.

En tant que membre des groupes de travail sur l’IA et la cybersécurité au Forum économique mondial, comment les discussions mondiales sur l’éthique de l’IA et la cybersécurité façonnent-elles votre approche en tant que Directeur des opérations d’IA chez Zscaler ?

Puisque la technologie évolue si rapidement, les gouvernements et les organisations ont besoin d’informations solides, et je vois cela comme le rôle du Forum économique mondial. L’IA et la cybersécurité seules ont suffisamment besoin de groupes séparés, mais lorsque vous fusionnez les deux, c’est presque un nouveau domaine en soi. Par exemple, Gartner cette année a montré que l’IA générative augmente considérablement la surface d’attaque, la faisant passer de l’injection de prompt à l’entrée et à la sortie à des attaques d’application, de code, de modèle et même de plug-in.

Certaines de ces attaques sont spécifiques aux LLM comme ChatGPT, mais si vous considérez que nous passons des LLM aux agents d’IA et aux systèmes multi-agents, vous devez considérer beaucoup plus d’informations. Par exemple, dans les LLM, vous pouvez vous soucier de l’injection de prompt, du comportement de cellule dormante (déclenchant l’LLM pour répondre différemment en fonction de mots-clés spéciaux), ou de la fuite d’informations confidentielles. Lorsque nous discutons des agents d’IA, nous devons considérer les attaques contre les outils et les sources de données – même en supposant que l’injection SQL et l’injection de commande OS puissent être possibles à nouveau.

Enfin, nous devons préparer notre main-d’œuvre à utiliser l’IA générative, en fournissant des outils et un environnement dans lequel ils peuvent opérer dans ce nouveau monde.

Vous avez été un fervent défenseur de la diversité et de l’inclusion, en particulier en tant que parrain exécutif du groupe de ressources des employés latino-américains et hispaniques de Zscaler, Sabor. Comment votre origine culturelle a-t-elle influencé votre style de leadership et votre approche du développement de l’IA ?

En tant que Latino fier, né et élevé au Brésil, je suis passionné par le soutien et l’autonomisation des communautés latino-américaines et hispaniques chez Zscaler. Je ressens un grand sentiment de réalisation en étant capable de contribuer à un monde meilleur grâce à la cybersécurité, où nous aidons à protéger la société dans un monde de plus en plus complexe. Mes valeurs m’ont aidé à arriver où je suis aujourd’hui, et je suis extrêmement fier de d’où je viens.

Mon conseil serait de ne jamais oublier d’où vous venez et ce que vous avez fait. Soyez toujours fier de ce qui vous rend unique, mais reconnaissez également que la diversité est roi. Je vis avec moi-même 24 heures sur 24. Si je n’embauche que des personnes qui me ressemblent et qui sont d’accord avec moi, je n’augmenterai pas mes connaissances. Embaucher des personnes de nombreux endroits et de divers horizons nous aide à mieux comprendre les besoins spécifiques de notre clientèle mondiale.

Enfin, qu’est-ce qui vous excite le plus à propos de l’avenir de l’IA dans la cybersécurité, et quel rôle voyez-vous Zscaler jouer dans cet avenir ?

L’IA ne change pas les fondamentaux d’une défense cybernétique efficace – elle met en évidence leur importance. Nous anticipons voir la transparence, les pratiques de sécurité robustes et la surveillance continue se propager à travers l’industrie. Les organisations doivent adopter une approche globale de la sécurité, en mettant en œuvre des mesures avancées pour détecter et répondre aux menaces. Cela inclut la promotion d’une culture de sensibilisation à la sécurité, la réalisation d’audits de sécurité réguliers et la collaboration avec les parties prenantes pour élaborer des stratégies de sécurité efficaces. En agissant ainsi, les organisations peuvent réduire le risque de violations et protéger leurs informations sensibles.

Zscaler est déterminé à protéger la vie privée des utilisateurs, en utilisant les techniques les plus avancées pour anonymiser les données et en veillant à les garder hors de nos LLM. Même si nous pourrions explorer le réglage fin des LLM à l’avenir, nos mesures de confidentialité des données strictes pour garantir que aucune donnée utilisateur ne soit compromise resteront primordiales. Notre objectif est de exploiter le pouvoir de l’IA pour améliorer la sécurité sans porter atteinte à la confidentialité des clients.

Je vous remercie pour cette grande interview, les lecteurs qui souhaitent en savoir plus peuvent visiter Zscaler.