Lutando contra a IA com IA no Paisagem de Ameaças Moderna

Não é exatamente notícia de última hora dizer que a IA mudou dramaticamente a indústria de cibersegurança. Tanto os atacantes quanto os defensores estão recorrendo à inteligência artificial para melhorar suas capacidades, cada um tentando ficar um passo à frente do outro. Esse jogo de gato e rato não é novidade — os atacantes vêm tentando superar as equipes de segurança há décadas, afinal —, mas o surgimento da inteligência artificial introduziu um elemento fresco (e frequentemente imprevisível) na dinâmica. Atacantes em todo o mundo estão esfregando as mãos com alegria ao prospecto de aproveitar essa nova tecnologia para desenvolver métodos de ataque inovadores e nunca vistos antes.

Pelo menos, essa é a percepção. Mas a realidade é um pouco diferente. Embora seja verdade que os atacantes estão cada vez mais utilizando a IA, eles estão principalmente usando-a para aumentar a escala e a complexidade de seus ataques, aprimorando sua abordagem de táticas existentes em vez de quebrar novos terrenos. O raciocínio aqui é claro: por que gastar tempo e esforço para desenvolver os métodos de ataque de amanhã quando os defensores já lutam para parar os de hoje? Felizmente, as equipes de segurança modernas estão aproveitando as capacidades de IA por conta própria — muitas das quais estão ajudando a detectar malware, tentativas de phishing e outras táticas de ataque comuns com maior velocidade e precisão. À medida que a “corrida armamentista de IA” entre atacantes e defensores continua, será cada vez mais importante para as equipes de segurança entender como os adversários estão realmente implantando a tecnologia — e garantir que seus próprios esforços estejam focados no lugar certo.

Como os Atacantes Estão Aproveitando a IA

A ideia de uma IA semi-autônoma sendo implantada para hackear metodicamente as defesas de uma organização é assustadora, mas (por enquanto) permanece firmemente no reino de romances de William Gibson e outras obras de ficção científica. É verdade que a IA avançou a um ritmo incrível nos últimos anos, mas ainda estamos longe da inteligência artificial geral (AGI) capaz de mimetizar perfeitamente padrões de pensamento e comportamento humanos. Isso não significa que a IA de hoje não seja impressionante — certamente é. Mas as ferramentas de IA gerativa e os grandes modelos de linguagem (LLMs) são mais eficazes na síntese de informações a partir de material existente e na geração de pequenas mudanças iterativas. Ela não pode criar algo completamente novo por conta própria — mas não se engane, a capacidade de sintetizar e iterar é incrivelmente útil.

Na prática, isso significa que, em vez de desenvolver novos métodos de ataque, os adversários podem simplesmente melhorar os atuais. Usando a IA, um atacante pode enviar milhões de e-mails de phishing, em vez de milhares. Eles também podem usar um LLM para criar uma mensagem mais convincente, enganando mais destinatários para clicar em um link malicioso ou baixar um arquivo infectado com malware. Táticas como phishing são efetivamente um jogo de números: a vasta maioria das pessoas não cairá em um e-mail de phishing, mas se milhões de pessoas o receberem, mesmo uma taxa de sucesso de 1% pode resultar em milhares de novas vítimas. Se os LLMs puderem aumentar essa taxa de sucesso de 1% para 2% ou mais, os golpistas podem efetivamente dobrar a eficácia de seus ataques com pouco ou nenhum esforço. O mesmo se aplica ao malware: se pequenas alterações no código do malware podem efetivamente disfarçá-lo da detecção por ferramentas, os atacantes podem obter muito mais proveito de um programa de malware individual antes de precisarem mudar para algo novo.

O outro elemento em jogo aqui é a velocidade. Como os ataques baseados em IA não estão sujeitos a limitações humanas, eles podem frequentemente conduzir uma sequência de ataque completa a um ritmo muito mais rápido do que um operador humano. Isso significa que um atacante poderia potencialmente invadir uma rede e alcançar as “joias da coroa” da vítima — seus dados mais sensíveis ou valiosos — antes que a equipe de segurança sequer receba um alerta, quanto mais responda a ele. Se os atacantes puderem se mover mais rápido, eles não precisam ser tão cuidadosos — o que significa que podem se safar com atividades mais barulhentas e disruptivas sem serem interrompidos. Eles não estão necessariamente fazendo nada de novo aqui, mas ao impulsionar seus ataques mais rapidamente, eles podem superar as defesas de rede de uma maneira potencialmente decisiva.

Essa é a chave para entender como os atacantes estão aproveitando a IA. Golpes de engenharia social e programas de malware já são vetores de ataque bem-sucedidos — mas agora os adversários podem torná-los ainda mais eficazes, implantá-los mais rapidamente e operar em uma escala ainda maior. Em vez de lutar contra dezenas de tentativas por dia, as organizações podem estar lutando contra centenas, milhares ou até dezenas de milhares de ataques rápidos. E se elas não tiverem soluções ou processos em vigor para detectar rapidamente esses ataques, identificar quais representam ameaças reais e tangíveis e remediá-los eficazmente, elas estão deixando-se perigosamente abertas aos atacantes. Em vez de se perguntar como os atacantes podem aproveitar a IA no futuro, as organizações devem aproveitar soluções de IA por conta própria com o objetivo de lidar com métodos de ataque existentes em uma escala maior.

Virando a IA a Favor das Equipes de Segurança

Especialistas em segurança em todos os níveis, tanto de negócios quanto de governo, estão procurando maneiras de aproveitar a IA para fins defensivos. Em agosto, a Agência de Projetos de Pesquisa Avançada de Defesa dos EUA (DARPA) anunciou os finalistas de seu recente Desafio de IA em Cibersegurança (AIxCC), que concede prêmios a equipes de pesquisa de segurança que trabalham para treinar LLMs para identificar e corrigir vulnerabilidades baseadas em código. O desafio é apoiado por grandes fornecedores de IA, incluindo Google, Microsoft e OpenAI, todos os quais fornecem suporte tecnológico e financeiro para esses esforços para fortalecer a segurança baseada em IA. Claro, a DARPA é apenas um exemplo — você mal consegue sacudir um pedaço de madeira no Vale do Silício sem atingir uma dúzia de fundadores de startups ansiosos para contar sobre suas soluções de segurança avançadas baseadas em IA. Basta dizer, encontrar novas maneiras de aproveitar a IA para fins defensivos é uma alta prioridade para organizações de todos os tamanhos e tipos.

Mas, assim como os atacantes, as equipes de segurança frequentemente encontram mais sucesso quando usam a IA para amplificar suas capacidades existentes. Com ataques acontecendo em uma escala cada vez maior, as equipes de segurança estão frequentemente esticadas — tanto em termos de tempo quanto de recursos —, tornando difícil identificar, investigar e remediar todos os alertas de segurança que surgem. Simplesmente não há tempo. As soluções de IA estão desempenhando um papel importante ao aliviar esse desafio, fornecendo capacidades de detecção e resposta automatizadas. Se há uma coisa que a IA é boa, é identificar padrões — e isso significa que as ferramentas de IA são muito boas em reconhecer comportamento anormal, especialmente se esse comportamento se conforma a padrões de ataque conhecidos. Como a IA pode revisar vastas quantidades de dados muito mais rapidamente do que os humanos, isso permite que as equipes de segurança aumentem suas operações de maneira significativa. Em muitos casos, essas soluções podem até automatizar processos básicos de remediação, contrariando ataques de baixo nível sem a necessidade de intervenção humana. Elas também podem ser usadas para automatizar o processo de validação de segurança, fazendo uma verificação constante e provocativa em torno das defesas de rede para garantir que elas estão funcionando como pretendido.

Também é importante notar que a IA não permite apenas que as equipes de segurança identifiquem atividades de ataque potenciais mais rapidamente — mas também melhora dramaticamente sua precisão. Em vez de perseguir falsos alarmes, as equipes de segurança podem ter certeza de que, quando uma solução de IA os alerta para um ataque potencial, ele é digno de sua atenção imediata. Esse é um elemento da IA que não é discutido quase o suficiente — enquanto grande parte da discussão gira em torno da IA “substituindo” humanos e tirando seus empregos, a realidade é que as soluções de IA estão permitindo que os humanos façam seus trabalhos melhor e mais eficientemente, além de aliviar a exaustão que vem com a realização de tarefas tediosas e repetitivas. Longe de ter um impacto negativo nos operadores humanos, as soluções de IA estão lidando com muito do “trabalho burocrático” associado a posições de segurança, permitindo que os humanos se concentrem em tarefas mais interessantes e importantes. Em um momento em que a exaustão está em um nível recorde e muitas empresas estão lutando para atrair novos talentos de segurança, melhorar a qualidade de vida e a satisfação no trabalho pode ter um impacto positivo massivo.

Aqui está a verdadeira vantagem para as equipes de segurança. As soluções de IA não apenas podem ajudá-las a escalar suas operações para combater eficazmente os atacantes que aproveitam as ferramentas de IA por conta própria — mas também podem manter os profissionais de segurança mais felizes e satisfeitos em seus papéis. Essa é uma solução de vitória para todos os envolvidos e deve ajudar os negócios de hoje a reconhecer que o momento de investir em soluções de segurança baseadas em IA é agora.

A Corrida Armamentista de IA Está Apenas Começando

A corrida para adotar soluções de IA está em andamento, com atacantes e defensores encontrando diferentes maneiras de aproveitar a tecnologia em seu favor. À medida que os atacantes usam a IA para aumentar a velocidade, escala e complexidade de seus ataques, as equipes de segurança precisarão combater fogo com fogo, usando ferramentas de IA por conta própria para melhorar a velocidade e precisão de suas capacidades de detecção e remediação. Felizmente, as soluções de IA estão fornecendo informações críticas às equipes de segurança, permitindo-lhes testar e avaliar melhor a eficácia de suas próprias soluções, além de liberar tempo e recursos para tarefas mais críticas. Não se engane, a corrida armamentista de IA está apenas começando — mas o fato de os profissionais de segurança já estarem usando a IA para ficar um passo à frente dos atacantes é um muito bom sinal.