Claudionor Coelho, Diretor de Inteligência Artificial da Zscaler – Série de Entrevistas

Claudionor Coelho é o Diretor de Inteligência Artificial da Zscaler, responsável por liderar sua equipe para encontrar novas maneiras de proteger dados, dispositivos e usuários por meio de técnicas de Aprendizado de Máquina (ML), Aprendizado Profundo e Inteligência Artificial Gerativa de ponta. Antes de se juntar à Zscaler, ele atuou como Diretor de Inteligência Artificial e Vice-Presidente Sênior de Engenharia na Advantest. Anteriormente, Coelho foi Vice-Presidente e Chefe dos Laboratórios de Inteligência Artificial da Palo Alto Networks (PANW ). Ele também ocupou cargos de ML e Aprendizado Profundo no Google (GOOGL ).

Zscaler se concentra em acelerar a transformação digital, permitindo que as organizações alcancem maior agilidade, eficiência, resiliência e segurança. A plataforma de Troca de Confiança Zero da empresa é projetada para proteger os usuários contra ataques cibernéticos e perda de dados, conectando de forma segura usuários, dispositivos e aplicativos, independentemente de sua localização. A Zscaler atende a milhares de clientes em todo o mundo, enfatizando segurança robusta e conectividade sem interrupções.

Como o primeiro Diretor de Inteligência Artificial da Zscaler, como você moldou a estratégia de IA da empresa, especialmente na integração da IA com a segurança cibernética?

A Zscaler fez avanços significativos em IA para segurança cibernética, o que a distingue dos concorrentes. A plataforma de Confiança Zero da Zscaler aproveita a IA para detectar e parar o roubo de credenciais e a exploração de navegadores a partir de páginas de phishing. A inteligência de ameaças de mais de 400 bilhões de transações diárias fornece análises em tempo real que melhoram a defesa contra ataques cibernéticos sofisticados. Além disso, colaboramos com a NVIDIA (NVDA ) para entregar inovações de segurança e TI alimentadas por IA gerativa, como o Zscaler ZDX Copilot, que simplifica as operações de TI e rede, processando dados da plataforma de Troca de Confiança Zero para defender proativamente as empresas contra ameaças. Finalmente, com a aquisição da Avalor, estendemos as capacidades da Troca de Confiança Zero usando o Data Fabric para Segurança. Com mais de 150 integrações pré-construídas, ele identifica e prevê vulnerabilidades críticas, melhorando a eficiência operacional.

Você fundou várias empresas, incluindo a Kunumi, e ocupou cargos de liderança em empresas de ponta. Como seu histórico empreendedor influenciou sua abordagem como líder de IA corporativa na Zscaler?

Quando eu era Vice-Presidente Sênior de Engenharia na Jasper Design Automation, uma startup de Automação de Design Eletrônico, competimos contra empresas de multi-bilhões de dólares, mas alcançamos mais de 70-80% de participação de mercado devido à inovação, processos de negócios e agilidade. Um dos livros que eu sempre me referia durante nossas reuniões de estratégia foi “Competindo na Ponta: Estratégia como Caos Estruturado” do Prof. Kathleen M. Eisenhardt. Embora este livro seja de 1998, ele ainda se aplica ao que estamos vendo com a IA Gerativa hoje.

Nunca antes uma tecnologia que muda o mundo se moveu tão rápido. O engenheiro da Motorola, Martin Cooper, fez a primeira ligação de telefone celular em 1973, mas levou 10 anos até que a primeira rede comercial fosse aberta e 24 anos mais até que o iPhone fosse lançado, mudando a forma como interagimos com máquinas de computação.

O ChatGPT foi lançado em novembro de 2022. No ano seguinte, discutimos em um seminário patrocinado pelo Fórum Econômico Mundial que a Inteligência Artificial Geral (IAG) estava chegando em breve. Na época, apenas alguns de nós reconheciam que podemos usar Agentes para criar muitos sistemas inteligentes, preenchendo as lacunas dos LLMs com ferramentas – mesmo antes da IAG. Em 2024, a discussão mudou para Agentes de IA, e no final do ano, estamos começando a ver vários Agentes de IA inteligentes (como o ZDX Copilot ou a plataforma de blog Kiroku).

Essa velocidade só pode ser vista em um ambiente de startup, então está causando um estresse tremendo em organizações grandes, que estão lutando para se tornar ágeis o suficiente para acomodar uma tecnologia com uma velocidade sem precedentes.

Dada sua experiência em liderar empresas nos EUA e no Brasil, quais são as principais diferenças entre os dois mercados em termos de adoção de IA e segurança cibernética?

Discutir startups é uma boa maneira de ilustrar as semelhanças e diferenças entre os mercados, pois é onde você geralmente vê inovações radicais antes que elas alcancem grandes corporações. Uma estratégia comum no Brasil para startups tem sido copiar startups de estágio inicial bem-sucedidas dos EUA, pois as startups dos EUA geralmente olham para o mercado interno primeiro (embora isso esteja mudando). No entanto, os EUA tradicionalmente tiveram um sistema de capital mais estável que facilita o início de uma empresa.

Criei a Kunumi em 2014 como a primeira empresa de Aprendizado Profundo do Brasil. Ela foi vendida para o Bradesco Bank no início deste ano. Em geral, as corporações no Brasil não sabem como adotarão a IA Gerativa, e você verá muitos erros – também verdadeiro nos EUA. Eu construí quatro Copilots em minha vida – o primeiro em 2016, enquanto estava na Synopsys. Ele era um agente que podia digitalizar logs de compilação e execução de máquinas de emulação grandes, procurando informações relacionadas às perguntas do usuário, com suporte a vários idiomas. Na época, não havia transformadores, LLMs, e até a tradução era muito diferente do que temos hoje.

Em 2020, eu era pesquisador no Google trabalhando na compressão e quantização de modelos de Aprendizado Profundo, com o CERN usando o que eu criei na busca por partículas subatômicas. Quando pensei que estávamos em uma guerra sobre dados, ficou claro que a segurança cibernética é um problema global que não é localizado em um país ou outro. Foi então que decidi me mudar para essa área.

Há alguns meses, eu estava conversando com um funcionário do governo estrangeiro que estava dizendo que a segurança cibernética era um problema dos EUA e que sua agência não tinha nada com que se preocupar – apenas para ter um ataque cibernético em sua organização algumas semanas depois.

Finalmente, ao comparar o estado da segurança cibernética com as acusações de ransomware entre o Brasil e os EUA, a realidade é que as estimativas de cobranças de ransomware são aproximadamente as mesmas.

Como o ambiente regulatório para IA e segurança cibernética difere entre o Brasil e os EUA, e como isso impacta a inovação nessas regiões?

Porque a IA Gerativa está se movendo tão rápido, os governos reconhecem a necessidade de proteger algo, mas muitas vezes não estão claros sobre o que estão tentando proteger. Qual é o impacto se criarmos leis para LLMs em 2023 e, em 2024, estamos usando Agentes de IA? Precisamos de regulamentações, mas também precisamos fazer uma análise desapaixonada do ambiente regulatório para ver como podemos melhor proteger os cidadãos locais.

Dito isso, quando a IA está tomando decisões apenas com base em entradas numéricas exatas que representam razões ou recursos, a análise é frequentemente incompleta e produz um resultado realista defeituoso. Por exemplo, se um algoritmo de IA toma uma decisão de empréstimo para uma pessoa com base em um critério ambíguo como “probabilidade” e um fator como salário ou raça foi incluído, você facilmente pode ver um cenário em que uma pessoa seria negada um empréstimo com base no efeito líquido de um desses dois fatores. Com a IA Gerativa, o problema se torna ainda pior, devido à incapacidade dos LLMs de trazer dados externos para fazer suposições de raciocínio. É importante garantir que tenhamos regulamentações que não permitam que sistemas defeituosos tomem decisões (especialmente sem supervisão profunda), pois eles estão destinados a cometer erros.

Por outro lado, fiquei extremamente satisfeito com a capacidade de condução autônoma total dos carros da Tesla (TSLA ), que, em comparação com os humanos, mostrou exceder o número de milhas dirigidas antes de serem envolvidos em acidentes. Sim, eles cometem erros, mas mesmo em aviões com copiloto, os pilotos precisam assumir o controle em caso de emergência.

Com relação à segurança cibernética, várias organizações dos EUA (por exemplo, JCDC.AI, NIST, CISA, etc.) discutiram a necessidade de abordar a IA e a segurança cibernética. Claro, em mercados ou tecnologias de ritmo acelerado, você precisa adaptar-se continuamente às mudanças, e quando elas se movem extremamente rápido, você precisa operar na borda do caos.

A Troca de Confiança Zero da Zscaler é uma parte fundamental de seu modelo de segurança. Como a IA melhora essa plataforma, e quais são os desenvolvimentos mais emocionais nessa área?

A arquitetura de Confiança Zero da Zscaler ajuda as organizações a criar um ambiente mais seguro para implantações de IA, mas a plataforma também aproveita a IA de várias maneiras, começando com o ZDX Copilot, que entrega inovações de segurança alimentadas por IA gerativa. Desenvolvido em colaboração com a NVIDIA, o agente aproveita a IA Gerativa para defender proativamente as empresas contra ameaças e simplificar as operações de TI e rede. A Zscaler também melhorou a identificação de vulnerabilidades preditivas, adicionando o Data Fabric para Segurança da Avalor à Troca de Confiança Zero da Zscaler. Finalmente, a IA vive no núcleo da plataforma de Confiança Zero da Zscaler, detectando e parando o roubo de credenciais e a exploração de navegadores a partir de páginas de phishing. Análises em tempo real com base na inteligência de ameaças de mais de 400 bilhões de transações diárias melhoram sua defesa contra ataques cibernéticos sofisticados.

A IA se tornou cada vez mais central na luta contra as ameaças cibernéticas. Como você vê a IA evoluindo para lidar com a complexidade crescente dos riscos de segurança cibernética, especialmente no reino dos dispositivos IoT e OT?

O cenário de ameaças evoluiu inequivocamente com o advento de ataques cibernéticos baseados em IA, então as organizações podem lutar contra a IA com a IA. A principal evolução será melhorar as soluções de IA com fontes de dados adicionais.

À medida que o número de ataques cibernéticos aumenta, precisamos usar mais automação com a IA para detectar e abordar os riscos cibernéticos. Vale a pena notar que a IA e a IA Gerativa estão sendo usadas agora para criar novos fronts de ataque, e por causa disso, precisamos aumentar o jogo, correlacionando mais sinais do que fizemos antes.

No caso dos dispositivos IoT e OT, eles representam riscos significativos para as organizações, pois vários dispositivos IoT não usam pilhas de software mais atualizadas – apesar de você poder facilmente comprar interruptores Wi-Fi, TVs conectadas à Internet, lavadoras, fornos, etc. Por anos, vimos vários artigos que mostram as vulnerabilidades às quais estamos sujeitos em IoT/OT.

Precisamos de conscientização constante e melhorar a defesa de segurança cibernética, analisando todos os tipos de dados e sinais para detectar anomalias e ameaças potenciais. Para ganhar esse jogo, precisamos de modelos de IA de ponta treinados com grandes quantidades de dados em tempo real. A IA Gerativa desempenha um papel instrumental, permitindo que as empresas analisem e resumam os resultados para os usuários e operadores de segurança.

Como membro dos grupos de trabalho de IA e segurança cibernética do Fórum Econômico Mundial, como as discussões globais sobre ética de IA e segurança cibernética moldam sua abordagem para seu papel na Zscaler?

Porque a tecnologia está se movendo tão rápido, os governos e as organizações precisam ter informações de base, e vejo isso como o papel do Fórum Econômico Mundial. A IA e a segurança cibernética sozinhas têm necessidade suficiente para exigir grupos separados, mas quando você combina os dois, é quase uma área nova por si só. Por exemplo, a Gartner este ano mostrou que a IA Gerativa aumenta a superfície de ataque tremendamente, levando-a de injeção de prompt na entrada e saída para ataques de aplicativos, ataques de modelos e até ataques de plug-ins.

Alguns desses ataques são específicos de LLMs como o ChatGPT, mas se considerarmos que estamos mudando de LLMs para Agentes de IA e sistemas de multiagentes, você precisa considerar muito mais informações. Por exemplo, em LLMs, você pode se importar com a injeção de prompt, o comportamento de célula dormante (disparando o LLM para responder de forma diferente com base em palavras-chave especiais) ou vazamento de informações confidenciais. Quando discutimos Agentes de IA, precisamos considerar ataques a ferramentas e fontes de dados – mesmo supondo que injeção de SQL e injeção de comando do sistema operacional possam ser possíveis novamente.

Além disso, se adicionarmos sistemas de multiagentes, onde os agentes podem residir em locais diferentes, precisamos imaginar que isso implica uma rede de comunicação completamente diferente. As pessoas têm experimentado milhares de agentes – assim como uma rede de computadores.

Finalmente, precisamos preparar nossa força de trabalho para usar a IA Gerativa, fornecendo ferramentas e um ambiente onde eles possam operar nesse novo mundo.

Você tem sido um defensor forte da diversidade e inclusão, especialmente como Patrocinador Executivo do ERG Latino e Hispano da Zscaler, Sabor. Como seu histórico cultural influenciou seu estilo de liderança e abordagem para o desenvolvimento de IA?

Como um latino orgulhoso nascido e criado no Brasil, sou apaixonado por apoiar e empoderar as comunidades latinas e hispânicas na Zscaler. Sinto um grande senso de realização por poder contribuir para um mundo melhor por meio da segurança cibernética, onde ajudamos a proteger a sociedade em um mundo cada vez mais complexo. Meus valores me ajudaram a chegar onde estou hoje, e estou extremamente orgulhoso de onde vim.

Minha sugestão seria nunca esquecer de onde você veio e o que você fez. Sempre seja orgulhoso do que o torna único, mas também reconheça que a diversidade é o rei. Eu vivo comigo mesmo 24 horas por dia. Se eu só contratar pessoas que sejam semelhantes a mim e concordem comigo, não aumentarei meu conhecimento. Contratar pessoas de várias localizações e origens ajuda a entender melhor as necessidades específicas de nossa base de clientes global.

Por fim, o que mais o emociona sobre o futuro da IA na segurança cibernética, e qual papel você vê a Zscaler desempenhando nesse futuro?

A IA não muda os fundamentos de uma defesa cibernética eficaz – ela destaca sua importância. Antecipamos ver a transparência, práticas de segurança robustas e monitoramento contínuo se proliferarem por toda a indústria. As organizações devem adotar uma abordagem abrangente para a segurança, implementando medidas avançadas para detectar e responder a ameaças. Isso inclui fomentar uma cultura de conscientização sobre segurança, realizar auditorias de segurança regulares e colaborar com partes interessadas para desenvolver estratégias de segurança eficazes. Ao fazer isso, as organizações podem reduzir o risco de violações e proteger suas informações sensíveis.

A Zscaler está comprometida em proteger a privacidade do usuário, empregando as técnicas mais avançadas para anonimizar os dados e garantir que mantenhamos esses dados fora de nossos LLMs, impedindo a identificação de usuários ou organizações individuais. Embora possamos explorar a fine-tuning de LLMs no futuro, nossas medidas rigorosas de privacidade de dados para garantir que nenhum dado do usuário seja comprometido continuará a ser fundamental. Nosso objetivo é aproveitar o poder da IA para melhorar a segurança sem infringir a privacidade do cliente.

Obrigado pela grande entrevista, leitores que desejam aprender mais devem visitar Zscaler.