Claudionor Coelho, Chief AI Officer chez Zscaler – Série d’entretiens

Claudionor Coelho est le Chief AI Officer de Zscaler, responsable de diriger son équipe pour trouver de nouvelles façons de protéger les données, les appareils et les utilisateurs grâce à des techniques d’apprentissage automatique (ML), d’apprentissage profond et d’intelligence artificielle générative de pointe. Avant de rejoindre Zscaler, il a occupé le poste de Chief AI Officer et de Senior Vice President de l’ingénierie chez Advantest. Auparavant, Coelho était Vice President et Head of AI Labs chez Palo Alto Networks (PANW ). Il a également occupé des postes d’apprentissage automatique et d’apprentissage profond chez Google (GOOGL ).

Zscaler se concentre sur l’accélération de la transformation numérique en permettant aux organisations d’atteindre une plus grande agilité, une plus grande efficacité, une plus grande résilience et une plus grande sécurité. La plate-forme Zero Trust Exchange de l’entreprise, native du cloud, est conçue pour protéger les utilisateurs contre les cyberattaques et les pertes de données en connectant de manière sécurisée les utilisateurs, les appareils et les applications, quelle que soit leur localisation. Zscaler sert des milliers de clients dans le monde entier, en mettant l’accent sur une sécurité robuste et une connectivité sans faille.

En tant que premier Chief AI Officer de Zscaler, comment avez-vous façonné la stratégie d’intelligence artificielle de l’entreprise, en particulier dans l’intégration de l’intelligence artificielle avec la cybersécurité ?

Zscaler a réalisé des progrès significatifs dans l’intelligence artificielle pour la cybersécurité, ce qui la distingue de la concurrence. La plate-forme Zero Trust de Zscaler utilise l’intelligence artificielle pour détecter et arrêter le vol de mots de passe et l’exploitation des navigateurs à partir de pages de phishing. Les renseignements sur les menaces provenant de plus de 400 milliards de transactions quotidiennes fournissent des analyses en temps réel qui améliorent la défense contre les cyberattaques sophistiquées. De plus, nous collaborons avec NVIDIA (NVDA ) pour livrer des innovations de sécurité et de technologie de l’information alimentées par l’intelligence artificielle générative, comme le Zscaler ZDX Copilot, qui simplifie les opérations informatiques et réseau, tout en traitant les données de la plate-forme Zero Trust Exchange pour défendre proactivement les entreprises contre les menaces. Enfin, avec l’acquisition d’Avalor, nous avons étendu les capacités de la plate-forme Zero Trust Exchange en utilisant Data Fabric pour la sécurité. Avec plus de 150 intégrations préconstruites, il identifie et prédit les vulnérabilités critiques tout en améliorant les efficacités opérationnelles.

Vous avez fondé plusieurs entreprises, notamment Kunumi, et occupé des postes de direction dans des entreprises de premier plan. Comment votre expérience entrepreneuriale a-t-elle influencé votre approche en tant que leader d’intelligence artificielle d’entreprise chez Zscaler ?

Lorsque j’étais SVP de l’ingénierie chez Jasper Design Automation, une startup d’automatisation de la conception électronique, nous nous sommes opposés à des entreprises de plusieurs milliards de dollars, mais nous avons atteint plus de 70-80 % de parts de marché en raison de l’innovation, des processus commerciaux et de l’agilité. L’un des livres que j’ai toujours consulté lors de nos réunions de stratégie était « Competing on the Edge : Strategy as Structured Chaos » du professeur Kathleen M. Eisenhardt. Bien que ce livre date de 1998, il s’applique encore à ce que nous voyons avec l’intelligence artificielle générative aujourd’hui.

Jamais auparavant, une technologie révolutionnaire n’a évolué à une telle vitesse. L’ingénieur de Motorola, Martin Cooper, a effectué le premier appel téléphonique cellulaire en 1973, mais il a fallu au monde 10 ans pour que le premier réseau commercial soit ouvert et 24 ans supplémentaires pour que l’iPhone soit lancé, changeant la façon dont nous interagissons avec les ordinateurs.

ChatGPT a été lancé en novembre 2022. L’année suivante, nous avons discuté lors d’un séminaire parrainé par le WEF que l’intelligence artificielle générale (AGI) allait bientôt arriver. À l’époque, seuls quelques-uns d’entre nous ont reconnu que nous pouvons utiliser des agents pour créer de nombreux systèmes intelligents en comblant les lacunes des LLM avec des outils, même avant l’AGI. En 2024, la discussion s’est déplacée vers les agents d’intelligence artificielle, et à la fin de l’année, nous commençons à voir plusieurs agents d’intelligence artificielle intelligents (comme le ZDX Copilot ou la plate-forme de blog Kiroku).

Cette vitesse ne peut être observée que dans un environnement de startup, ce qui cause un stress énorme dans les grandes organisations, qui luttent pour devenir suffisamment agiles pour accommoder une technologie à une vitesse sans précédent.

Compte tenu de votre expérience à la tête d’entreprises au Brésil et aux États-Unis, quels sont les principales différences entre les deux marchés en termes d’adoption de l’intelligence artificielle et de la cybersécurité ?

Discuter des startups est un bon moyen de commencer à illustrer les similitudes et les différences entre les marchés, car ce sont souvent les startups qui voient les innovations radicales avant qu’elles n’atteignent les grandes entreprises. Une stratégie courante au Brésil pour les startups a été de copier les startups américaines de premier plan, car les startups américaines regardent généralement le marché interne en premier (bien que cela change). Cependant, les États-Unis ont traditionnellement eu un système de capital plus stable qui facilite la création d’une entreprise.

J’ai créé Kunumi en 2014 en tant que première entreprise de Deep Learning au Brésil. Elle a été vendue à la banque Bradesco plus tôt cette année. En général, les entreprises au Brésil ne savent pas comment elles vont adopter l’intelligence artificielle générative, et vous allez voir beaucoup d’erreurs – ce qui est également vrai aux États-Unis. J’ai construit quatre copilotes dans ma vie – le premier en 2016, alors que j’étais chez Synopsys. C’était un agent qui pouvait analyser les journaux de compilation et d’exécution de grandes machines d’émulation, à la recherche d’informations liées aux questions de l’utilisateur, avec une prise en charge multilingue. À l’époque, il n’y avait pas de transformateurs, pas de LLM, et même la traduction était très différente de ce que nous avons aujourd’hui.

En 2020, j’étais chercheur chez Google, travaillant sur la compression et la quantification de modèles de Deep Learning, avec le CERN en utilisant ce que j’ai créé pour rechercher des particules subatomiques. Lorsque j’ai pensé que nous étions en guerre pour les données, il est devenu clair que la cybersécurité est un problème mondial qui n’est pas localisé à un pays ou à un autre. C’est alors que j’ai décidé de passer à la cybersécurité.

Il y a quelques mois, je discutais avec un fonctionnaire gouvernemental étranger qui disait que la cybersécurité était un problème des États-Unis et que son agence n’avait rien à craindre – pour subir une cyberattaque dans son organisation quelques semaines plus tard.

Enfin, en comparant l’état de la cybersécurité aux accusations de rançongiciel entre le Brésil et les États-Unis, la réalité est que les frais de rançongiciel estimés sont à peu près les mêmes.

Comment l’environnement réglementaire pour l’intelligence artificielle et la cybersécurité diffère-t-il entre le Brésil et les États-Unis, et comment cela affecte-t-il l’innovation dans ces régions ?

Puisque l’intelligence artificielle générative évolue à une telle vitesse, les gouvernements reconnaissent la nécessité de protéger quelque chose, mais ils sont souvent incertains sur ce qu’ils essaient de protéger. Quel est l’impact si nous créons des lois pour les LLM en 2023, et en 2024 nous utilisons des agents d’intelligence artificielle ? Nous avons besoin de réglementations, mais nous devons également effectuer une analyse sans émotion de l’environnement réglementaire pour voir comment nous pouvons mieux protéger les citoyens locaux.

Ceci étant dit, lorsque l’intelligence artificielle prend des décisions uniquement sur des entrées numériques exactes représentant des raisons ou des fonctionnalités, l’analyse est souvent incomplète et donne lieu à un résultat réel défectueux. Par exemple, si un algorithme d’intelligence artificielle prend une décision de prêt à une personne sur la base d’un critère ambigu comme la « probabilité » et qu’un facteur comme le salaire ou la race était inclus, vous pourriez facilement voir un scénario dans lequel une personne serait refusée un prêt en fonction de l’effet net de l’un de ces deux facteurs. Avec l’intelligence artificielle générative, le problème devient encore pire, en raison de l’incapacité des LLM à apporter des données externes pour faire des hypothèses de raisonnement. Il est important de s’assurer que nous avons des réglementations qui n’autorisent pas des systèmes défectueux à prendre des décisions (en particulier sans une supervision approfondie), car ils sont destinés à faire des erreurs.

En revanche, j’ai été extrêmement satisfait de la capacité de conduite autonome complète des voitures Tesla (TSLA ), qui, par rapport aux humains, ont été montrées pour dépasser le nombre de miles parcourus avant d’être impliquées dans des accidents. Oui, ils font des erreurs, mais même dans les avions avec un copilote, les pilotes doivent reprendre le contrôle en cas d’urgence.

En ce qui concerne la cybersécurité, plusieurs organisations américaines (par exemple JCDC.AI, NIST, CISA, etc.) ont discuté de la nécessité de traiter l’intelligence artificielle et la cybersécurité. Bien sûr, dans les marchés ou les technologies à rythme rapide, vous devez continuellement s’adapter aux changements, et lorsque les choses évoluent à une vitesse extrême, vous devez opérer à la limite du chaos.

La plate-forme Zero Trust Exchange de Zscaler est un élément clé de son modèle de sécurité. Comment l’intelligence artificielle améliore-t-elle cette plate-forme, et quels sont les développements les plus excitants dans ce domaine ?

L’architecture Zero Trust de Zscaler aide les organisations à créer un environnement plus sécurisé pour les déploiements d’intelligence artificielle, mais la plate-forme utilise également l’intelligence artificielle de nombreuses manières, en commençant par le ZDX Copilot, qui livre des innovations de sécurité alimentées par l’intelligence artificielle générative. Développé en collaboration avec NVIDIA, l’agent utilise l’intelligence artificielle générative pour défendre proactivement les entreprises contre les menaces et simplifie les opérations informatiques et réseau. Zscaler a également amélioré son identification prédictive des vulnérabilités en ajoutant Data Fabric pour la sécurité à la plate-forme Zero Trust Exchange. Enfin, l’intelligence artificielle est au cœur de la plate-forme Zero Trust de Zscaler, détectant et arrêtant le vol de mots de passe et l’exploitation des navigateurs à partir de pages de phishing. Les analyses en temps réel basées sur les renseignements sur les menaces provenant de plus de 400 milliards de transactions quotidiennes améliorent sa défense contre les cyberattaques sophistiquées.

L’intelligence artificielle est de plus en plus centrale dans la lutte contre les menaces cybernétiques. Comment voyez-vous l’intelligence artificielle évoluer pour répondre à la complexité croissante des risques de cybersécurité, en particulier dans le domaine des appareils IoT et OT ?

Le paysage des menaces a évolué de manière indiscutable avec l’avènement des cyberattaques basées sur l’intelligence artificielle, les organisations peuvent donc lutter contre l’intelligence artificielle avec l’intelligence artificielle. L’évolution majeure sera d’améliorer les solutions d’intelligence artificielle avec des sources de données supplémentaires.

À mesure que le nombre de cyberattaques augmente, nous devons utiliser davantage l’automatisation avec l’intelligence artificielle pour détecter et traiter les risques cybernétiques. Il est important de noter que l’intelligence artificielle et l’intelligence artificielle générative sont actuellement utilisées pour créer de nouveaux fronts d’attaque, et à cause de cela, nous devons améliorer notre niveau de jeu en corrélant plus de signaux que nous ne l’avons fait auparavant.

Dans le cas des appareils IoT et OT, ils posent des risques importants pour les organisations, car de nombreux appareils IoT n’utilisent pas les piles logicielles les plus récentes – malgré le fait que vous pouvez facilement acheter des interrupteurs Wi-Fi, des téléviseurs connectés à Internet, des lave-vaisselle, des fours, etc. Depuis des années, nous voyons de nombreux articles qui montrent les vulnérabilités auxquelles nous sommes confrontés dans les appareils IoT/OT.

Nous devons avoir une conscience constante et améliorer la défense de la cybersécurité en analysant tous les types de données et de signaux pour détecter les anomalies et les menaces potentielles. Pour gagner ce jeu, nous devons avoir des modèles d’intelligence artificielle de pointe formés avec des quantités massives de données en temps réel. L’intelligence artificielle générative joue un rôle instrumental, en permettant aux entreprises d’analyser et de résumer les résultats aux utilisateurs et aux opérateurs de sécurité.

En tant que membre des groupes de travail sur l’intelligence artificielle et la cybersécurité du Forum économique mondial, comment les discussions mondiales sur l’éthique de l’intelligence artificielle et la cybersécurité façonnent-elles votre approche de votre rôle chez Zscaler ?

Puisque la technologie évolue à une telle vitesse, les gouvernements et les organisations doivent avoir des informations de base, et je vois cela comme le rôle du Forum économique mondial. L’intelligence artificielle et la cybersécurité ont suffisamment besoin de groupes distincts, mais lorsqu’on les combine, c’est presque un nouveau domaine en soi. Par exemple, Gartner cette année a montré que l’intelligence artificielle générative augmente considérablement la surface d’attaque, la faisant passer de l’injection de prompte à l’entrée et à la sortie à des attaques d’applications, des attaques de modèles et même des attaques de plug-in.

Certaines de ces attaques sont spécifiques aux LLM comme ChatGPT, mais si l’on considère que nous passons des LLM aux agents d’intelligence artificielle et aux systèmes multi-agents, nous devons considérer beaucoup plus d’informations. Par exemple, dans les LLM, vous pouvez vous soucier de l’injection de prompte, du comportement de cellule dormante (déclencher l’LLM pour répondre différemment en fonction de mots clés spéciaux) ou de la fuite d’informations confidentielles. Lorsque nous discutons des agents d’intelligence artificielle, nous devons considérer les attaques sur les outils et les sources de données – même en supposant que l’injection SQL et l’injection de commande OS peuvent être possibles à nouveau.

En outre, si nous ajoutons des systèmes multi-agents, où les agents peuvent résider dans différents emplacements, nous devons imaginer que cela implique une communication réseau complètement différente. Les gens ont expérimenté des milliers d’agents – tout comme un réseau d’ordinateurs.

Enfin, nous devons préparer notre main-d’œuvre à utiliser l’intelligence artificielle générative, en fournissant des outils et un environnement dans lequel ils peuvent opérer dans ce nouveau monde.

Vous avez été un fervent défenseur de la diversité et de l’inclusion, en particulier en tant que parrain exécutif du groupe d’intérêt ethnique latino et hispanique de Zscaler, Sabor. Comment votre origine culturelle a-t-elle influencé votre style de leadership et votre approche du développement de l’intelligence artificielle ?

En tant que Latino fier, né et élevé au Brésil, je suis passionné par le soutien et l’autonomisation des communautés latino et hispanique chez Zscaler. Je me sens fier d’avoir pu contribuer à un monde meilleur grâce à la cybersécurité, où nous aidons à protéger la société dans un monde de plus en plus complexe. Mes valeurs m’ont aidé à arriver où je suis aujourd’hui, et je suis extrêmement fier de d’où je viens.

Mon conseil serait de ne jamais oublier d’où vous venez et ce que vous avez fait. Soyez toujours fier de ce qui vous rend unique, mais reconnaissez également que la diversité est roi. Je vis avec moi-même 24 heures sur 24. Si je n’embauche que des personnes qui me ressemblent et qui sont d’accord avec moi, je n’augmenterai pas mes connaissances. Embaucher des personnes de nombreux endroits et de divers horizons m’aide à mieux comprendre les besoins spécifiques de notre clientèle mondiale.

Enfin, qu’est-ce qui vous excite le plus à propos de l’avenir de l’intelligence artificielle dans la cybersécurité, et quel rôle voyez-vous Zscaler jouer dans cet avenir ?

L’intelligence artificielle ne change pas les fondamentaux de la défense contre les cybermenaces – elle met en évidence leur importance. Nous anticipons voir la transparence, les pratiques de sécurité robustes et la surveillance continue se propager à travers l’industrie. Les organisations doivent adopter une approche globale de la sécurité, en mettant en œuvre des mesures avancées pour détecter et répondre aux menaces. Cela inclut la promotion d’une culture de sensibilisation à la sécurité, la réalisation d’audits de sécurité réguliers et la collaboration avec les parties prenantes pour élaborer des stratégies de sécurité efficaces. En agissant ainsi, les organisations peuvent réduire le risque de violations et protéger leurs informations sensibles.

Zscaler est déterminé à protéger la vie privée des utilisateurs, en utilisant les techniques les plus avancées pour anonymiser les données et en veillant à ce que nous les gardions hors de nos LLM. Même si nous pourrions explorer le fine-tuning des LLM à l’avenir, nos mesures de protection des données pour garantir que les données des utilisateurs ne sont pas compromises resteront primordiales. Notre objectif est de tirer parti de l’intelligence artificielle pour améliorer la sécurité sans porter atteinte à la vie privée des clients.

Je vous remercie pour cette grande interview, les lecteurs qui souhaitent en savoir plus peuvent visiter Zscaler.