Steve Wilson, Diretor de IA e Produto da Exabeam – Série de Entrevistas

Steve Wilson é o Diretor de IA e Produto da Exabeam, onde sua equipe aplica tecnologias de IA de ponta para enfrentar desafios de segurança cibernética do mundo real. Ele fundou e co-preside o projeto OWASP Gen AI Security, a organização por trás da lista de segurança de modelo de linguagem grande OWASP Top 10.

Seu livro premiado, “The Developer’s Playbook for Large Language Model Security” (O’Reilly Media), foi selecionado como o melhor livro de cibersegurança de ponta por Cyber Defense Magazine.

Exabeam é um líder em inteligência e automação que alimenta operações de segurança para as empresas mais inteligentes do mundo. Ao combinar a escala e o poder da IA com a força de nossa análise comportamental e automação de ponta, as organizações ganham uma visão mais holística dos incidentes de segurança, descobrem anomalias perdidas por outras ferramentas e alcançam respostas mais rápidas, precisas e repetíveis. Exabeam empodera equipes de segurança globais para combater ameaças cibernéticas, mitigar riscos e otimizar operações.

Você tem um novo título, Diretor de IA e Produto da Exabeam. Como isso reflete a importância crescente da IA na segurança cibernética?

A segurança cibernética foi um dos primeiros domínios a realmente abraçar o aprendizado de máquina – na Exabeam, estamos usando ML como o núcleo do nosso mecanismo de detecção por mais de uma década para identificar comportamento anômalo que os humanos sozinhos podem perder. Com a chegada de novas tecnologias de IA, como agentes inteligentes, a IA cresceu de importante para absolutamente central.

Meu papel combinado como Diretor de IA e Produto da Exabeam reflete exatamente essa evolução. Em uma empresa profundamente comprometida em incorporar a IA em todos os seus produtos e em uma indústria como a segurança cibernética, onde o papel da IA é cada vez mais crítico, fez sentido unificar a estratégia de IA e a estratégia de produto em um único papel. Essa integração garante que estamos estrategicamente alinhados para entregar soluções transformadoras impulsionadas por IA para os analistas de segurança e equipes de operações que dependem de nós mais.

A Exabeam está pioneira em “agentic AI” nas operações de segurança. Você pode explicar o que isso significa na prática e como se diferencia das abordagens tradicionais de IA?

A agentic AI representa uma evolução significativa das abordagens tradicionais de IA. É orientada para ação – iniciando processos proativamente, analisando informações e apresentando insights antes que os analistas sequer peçam. Além da mera análise de dados, a agentic AI atua como um consultor, oferecendo recomendações estratégicas em toda a SOC, orientando os usuários em direção às vitórias mais fáceis e fornecendo orientação passo a passo para melhorar sua postura de segurança. Além disso, os agentes operam como pacotes especializados, não como um único chatbot desajeitado, cada um personalizado com personalidades e conjuntos de dados específicos que se integram perfeitamente ao fluxo de trabalho dos analistas, engenheiros e gerentes para fornecer assistência direcionada e impactante.

Com a Exabeam Nova integrando vários agentes de IA em todo o fluxo de trabalho da SOC, como o papel do analista de segurança parece no futuro? Está evoluindo, encolhendo ou se tornando mais especializado?

O papel do analista de segurança está definitivamente evoluindo. Analistas, engenheiros de segurança e gerentes de SOC estão sobrecarregados com dados, alertas e casos. A mudança real no futuro não é apenas sobre economia de tempo em tarefas mundanas – embora os agentes certamente ajudem nisso – mas sobre elevar o papel de todos para o de líder de equipe. Os analistas ainda precisarão de fortes habilidades técnicas, mas agora estarão liderando uma equipe de agentes prontos para acelerar suas tarefas, ampliar suas decisões e realmente impulsionar melhorias na postura de segurança. Essa transformação posiciona os analistas para se tornarem orquestradores estratégicos em vez de respondentes táticos.

Dados recentes mostram uma desconexão entre executivos e analistas sobre o impacto da produtividade da IA. Por que você acha que essa lacuna de percepção existe e como pode ser abordada?

Dados recentes mostram uma desconexão clara: 71% dos executivos acreditam que a IA aumenta significativamente a produtividade, mas apenas 22% dos analistas de linha de frente, os usuários diários, concordam. Na Exabeam, vimos essa lacuna crescer ao lado do frenesi recente de promessas de IA na segurança cibernética. Nunca foi tão fácil criar demos de IA impressionantes, e os fornecedores estão ansiosos para afirmar que resolveram todos os desafios da SOC. Embora esses demos impressionem os executivos inicialmente, muitos falham onde importa – nas mãos dos analistas. O potencial está lá, e existem bolsões de pagamento real, mas ainda há muito barulho e poucas melhorias significativas. Para fechar essa lacuna de percepção, os executivos devem priorizar ferramentas de IA que realmente empoderem os analistas, não apenas impressionem em uma demo. Quando a IA realmente melhora a eficácia dos analistas, a confiança e as melhorias reais de produtividade seguirão.

A IA está acelerando a detecção e resposta a ameaças, mas como você mantém o equilíbrio entre automação e julgamento humano em incidentes de segurança cibernética de alto risco?

As capacidades de IA estão avançando rapidamente, mas os modelos de linguagem fundamentais que sustentam os agentes inteligentes foram originalmente projetados para tarefas como tradução de linguagem – não tomada de decisão nuances, teoria dos jogos ou tratamento de fatores humanos complexos. Isso torna o julgamento humano mais essencial do que nunca na segurança cibernética. O papel do analista não é diminuído pela IA; é elevado. Os analistas agora são líderes de equipe, usando sua experiência e insight para orientar e direcionar vários agentes, garantindo que as decisões permaneçam informadas por contexto e nuances. Em última análise, equilibrar a automação com o julgamento humano é criar uma relação simbiótica onde a IA amplifica a expertise humana, não a substitui.

Como sua estratégia de produto evolui quando a IA se torna um princípio de design central em vez de um complemento?

Na Exabeam, nossa estratégia de produto é fundamentalmente moldada pela IA como um princípio de design central, não como um complemento superficial. Construímos a Exabeam do zero para suportar o aprendizado de máquina – desde a ingestão de logs, parsing, enriquecimento e normalização – para população de um modelo de informação comum robusto especificamente otimizado para alimentar sistemas de ML. Dados de alta qualidade e estruturados não são apenas importantes para os sistemas de IA – são a sua vida. Hoje, incorporamos diretamente nossos agentes inteligentes em fluxos de trabalho críticos, evitando chatbots genéricos e desajeitados. Em vez disso, visamos precisamente casos de uso cruciais que entregam benefícios reais e tangíveis para nossos usuários.

Com a Exabeam Nova, você está visando “mover de assistivo para autônomo”. Quais são os principais marcos para alcançar operações de segurança totalmente autônomas?

A ideia de operações de segurança totalmente autônomas é intrigante, mas prematura. Agentes totalmente autônomos, em qualquer domínio, simplesmente não são eficientes ou seguros ainda. Embora a tomada de decisão na IA esteja melhorando, não alcançou a confiabilidade humana e não o fará por algum tempo. Na Exabeam, nossa abordagem não é perseguir a autonomia total, que meu grupo na OWASP identifica como uma vulnerabilidade central conhecida como Excessive Agency. Dar aos agentes mais autonomia do que pode ser testada e validada de forma confiável coloca as operações em terreno arriscado. Em vez disso, nosso objetivo é equipes de agentes inteligentes, capazes, mas cuidadosamente orientados, trabalhando sob a supervisão de especialistas humanos na SOC. Essa combinação de supervisão humana e assistência agente direcionada é o caminho realista e impactante para o futuro.

Quais são os maiores desafios que você enfrentou ao integrar GenAI e aprendizado de máquina na escala necessária para segurança cibernética em tempo real?

Um dos maiores desafios ao integrar GenAI e aprendizado de máquina na escala para segurança cibernética é equilibrar velocidade e precisão. A GenAI sozinha não pode substituir a escala do que nosso motor de ML de alta velocidade lida – processando terabytes de dados continuamente. Mesmo os agentes de IA mais avançados têm uma “janela de contexto” que é vastamente insuficiente. Em vez disso, nossa receita envolve usar ML para destilar dados maciços em insights ação, que nossos agentes inteligentes então traduzem e operacionalizam de forma eficaz.

Você co-fundou a OWASP Top 10 para Aplicativos LLM. O que o inspirou a isso e como você vê isso moldando as melhores práticas de segurança de IA?

Quando lancei a OWASP Top 10 para Aplicativos LLM no início de 2023, informações estruturadas sobre segurança de LLM e GenAI eram escassas, mas o interesse era incrivelmente alto. Em poucos dias, mais de 200 voluntários se juntaram à iniciativa, trazendo opiniões e expertise diversificadas para moldar a lista original. Desde então, foi lida mais de 100.000 vezes e se tornou fundamental para padrões internacionais da indústria. Hoje, o esforço expandiu-se para o Projeto de Segurança de IA Gen da OWASP, cobrindo áreas como Red Team de IA, sistemas agênticos seguros e uso ofensivo de Gen AI na segurança cibernética. Nosso grupo recentemente ultrapassou 10.000 membros e continua avançando nas práticas de segurança de IA globalmente.

Seu livro, ‘The Developer’s Playbook for LLM Security‘, ganhou um prêmio importante. Qual é a principal lição ou princípio do livro que todo desenvolvedor de IA deve entender ao construir aplicações seguras?

A principal lição do meu livro, “The Developer’s Playbook for LLM Security”, é simples: “com grande poder vem grande responsabilidade”. Embora entender conceitos de segurança tradicionais permaneça essencial, os desenvolvedores agora enfrentam um conjunto completamente novo de desafios exclusivos dos LLMs. Essa tecnologia poderosa não é um passe livre; exige práticas de segurança proativas e pensadas. Os desenvolvedores devem expandir sua perspectiva, reconhecendo e abordando essas novas vulnerabilidades desde o início, incorporando segurança em cada etapa do ciclo de vida da aplicação de IA.

Como você vê a força de trabalho de segurança cibernética evoluindo nos próximos 5 anos à medida que a IA agêntica se torna mais mainstream?

Estamos atualmente em uma corrida armamentista de IA. Adversários estão implantando agressivamente IA para promover seus objetivos mal-intencionados, tornando os profissionais de segurança cibernética mais cruciais do que nunca. Os próximos cinco anos não diminuirão a força de trabalho de segurança cibernética; eles a elevarão. Os profissionais devem abraçar a IA, integrando-a em suas equipes e fluxos de trabalho. Os papéis de segurança mudarão para o comando estratégico – menos sobre esforço individual e mais sobre orquestrar uma resposta eficaz com uma equipe de agentes impulsionados por IA. Essa transformação empodera os profissionais de segurança cibernética para liderar decisivamente e com confiança na batalha contra ameaças em constante evolução.

Obrigado pela grande entrevista, leitores que desejam aprender mais devem visitar Exabeam.