Líderes de pensamento

A IA pode ampliar a segurança. Mas ampliar o quê?

Eyal Fisher
Adicione Unite.AI às suas fontes preferidas no Google
Pontos-chaveProcessar mais dados não melhora automaticamente a detecção de ameaças sem contexto…
Ver mais
  • Processar mais dados não melhora automaticamente a detecção de ameaças sem contexto organizacional.
  • Modelos ajustados podem apoiar investigações em larga escala com custo mais previsível do que modelos de fronteira.
  • A autonomia deve ser proporcional ao risco, com governança concebida antes de os agentes serem escalados.

Hoje, as equipes de segurança corporativa enfrentam mais atividades, telemetria e alertas do que conseguem investigar manualmente de forma realista. As estimativas variam, e algumas pesquisas sugerem que uma equipe de operações de segurança recebe, em média, mais de 4.400 alertas por dia. À medida que as organizações crescem e incorporam mais ferramentas, e a IA possibilita mais ataques, esse número tende a aumentar. Já vemos empresas com dois milhões de endpoints em seus ambientes, e as equipes de segurança que investigam esses alertas manualmente não têm condições de enfrentar em pé de igualdade atacantes que recorrem cada vez mais a agentes.

Para quem atua na defesa, os agentes de IA podem mudar esse cenário ao assumir investigações e outras tarefas repetitivas em todo o ambiente. No entanto, a capacidade de processar mais dados não se traduz automaticamente em melhor detecção ou resposta a ameaças. O que é necessário não é apenas escala, mas também contexto.

A importância do contexto na avaliação da escala

Um agente que investiga milhões de endpoints precisa entender o que está procurando, o que constitui um comportamento incomum naquele ambiente específico e quais descobertas justificam uma investigação mais aprofundada. Sem esse contexto, a automação corre o risco de ampliar o ruído e gerar conclusões irrelevantes ou enganosas.

Também é importante ter em mente que nem todas as organizações poderão recorrer a modelos de ponta para investigar cada alerta: isso se tornaria caro demais.

Os ambientes de segurança variam quanto à infraestrutura, às aplicações, aos requisitos operacionais, às obrigações regulatórias e à tolerância ao risco. Quem atua na defesa precisa manter as aplicações em funcionamento, cumprir os requisitos de conformidade e evitar interrupções operacionais.

Para serem eficazes, os agentes precisam incorporar o conhecimento organizacional, incluindo investigações anteriores, procedimentos estabelecidos e o discernimento de analistas experientes. Grande parte desse conhecimento não pode simplesmente ser fornecida a um agente em uma planilha ou em outro formato; é preciso observá-lo em ação, aprendendo com defensores em ação experientes.

Para as empresas, a grande questão é como aproveitar esse conhecimento institucional e transformá-lo em sistemas capazes de tomar decisões consistentes e adequadas ao contexto na velocidade das máquinas.

Como operacionalizar o conhecimento organizacional

As organizações precisam de mecanismos para registrar e aplicar o conhecimento que orienta as investigações, incluindo decisões tomadas em casos anteriores, procedimentos estabelecidos e a forma como os analistas interpretam as evidências. As empresas também podem ter processos, ferramentas e conhecimentos tácitos próprios que precisam ser registrados.

A especialização de modelos é uma abordagem possível. O ajuste fino de modelos para clientes corporativos específicos pode viabilizar investigações em grande escala a um custo mais previsível, mantendo um alto desempenho. Modelos de código aberto ajustados podem ser particularmente úteis em tarefas que envolvem populações muito grandes de endpoints.

As organizações também precisam avaliar o desempenho dos agentes à medida que os modelos, os fluxos de trabalho e os ambientes corporativos mudam. Ambientes sintéticos, ou gêmeos digitais, podem oferecer cenários representativos para testar diferentes versões de agentes quando os dados de produção deixam de estar disponíveis ou ficam desatualizados.

O ajuste fino não é a única maneira de fornecer contexto. Recuperação de informações, memória, orquestração de fluxos de trabalho e controles explícitos de políticas são abordagens alternativas. O requisito fundamental é que o método escolhido melhore o desempenho do agente no ambiente em que ele vai operar.

A autonomia em escala exige limites claros, supervisão e coordenação

Identificar corretamente uma ameaça é apenas parte do desafio. Os agentes precisam entender quais ações estão autorizados a realizar, quando é necessária a aprovação humana e como evitar interromper operações comerciais legítimas. Determinar em que situações os agentes podem agir de forma autônoma e em quais é necessária a tomada de decisão humana é essencial para uma implementação confiável.

A autonomia em escala também exige ganhos de escala. As empresas que usam modelos de ponta para milhões de investigações vão à falência. Por isso, é fundamental encontrar a forma mais eficiente de conduzir investigações com um modelo de IA, seja ele um modelo de linguagem pequeno (SLM) ou um modelo proprietário.

O grau de autonomia deve ser proporcional ao risco. Tarefas rotineiras e bem compreendidas podem ser adequadas à execução autônoma, enquanto ações de grande impacto ou que possam causar interrupções podem exigir aprovação humana ou autorização adicional. A segurança corporativa também depende da coordenação entre equipes. Uma investigação que identifique uma ameaça cuja mitigação exija alterar a configuração de um firewall precisa ser encaminhada sem obstáculos à equipe responsável por esse sistema, com a devida autorização e responsabilização pela correção.

Por isso, a governança e o desenho dos fluxos de trabalho são componentes essenciais da implementação de agentes, e não controles que possam ser acrescentados depois que a tecnologia já tiver sido ampliada.

A próxima medida do sucesso da IA na segurança será a qualidade dos resultados

As organizações devem avaliar os agentes com base em resultados, considerando a precisão das investigações, as taxas de falsos positivos e falsos negativos, o tempo necessário para investigar e corrigir problemas, o custo por investigação, a qualidade dos encaminhamentos e o cumprimento das políticas de autorização.

A avaliação contínua é essencial à medida que os modelos e os fluxos de trabalho mudam. Testar diferentes versões dos agentes com casos representativos e usar ambientes sintéticos pode ajudar as organizações a identificar regressões antes de implementar atualizações em produção.

Os líderes de segurança precisam equilibrar os benefícios da automação com os riscos operacionais da implementação. A disponibilidade das aplicações, as obrigações de conformidade, a tolerância a riscos da organização e os prazos de implementação influenciam a rapidez com que novos recursos podem ser adotados.

A IA oferece às equipes de segurança a oportunidade de enfrentar um problema de capacidade que persiste há muito tempo, mas ampliar a escala por si só não é o objetivo final. A verdadeira oportunidade está em combinar a velocidade das máquinas com o contexto organizacional, a autoridade adequada e o discernimento humano, para que os agentes consigam distinguir o que importa, tomar as medidas certas e envolver as pessoas certas quando necessário.

Eyal Fisher é cofundador e diretor de tecnologia da Legion Security, onde lidera a visão técnica por trás da plataforma de operações de segurança baseadas em agentes da empresa. Referência em IA e empreendedor, Eyal foi cofundador da empresa de IA generativa ART AI e de uma startup de segurança na nuvem, além de trazer experiência em pesquisa da University of Cambridge. Reconhecido como pioneiro em IA generativa, dedicou a carreira a ampliar os limites da aplicação do aprendizado de máquina em operações de segurança no mundo real.