Combater a IA com IA no Paisagem de Ameaças Moderna

Não é exatamente notícia de última hora dizer que a IA mudou dramaticamente a indústria de cibersegurança. Tanto os atacantes quanto os defensores estão recorrendo à inteligência artificial para melhorar suas capacidades, cada um tentando ficar um passo à frente do outro. Esse jogo de gato e rato não é novo — os atacantes vêm tentando superar as equipes de segurança há décadas, afinal —, mas o surgimento da inteligência artificial introduziu um elemento fresco (e frequentemente imprevisível) na dinâmica. Atacantes em todo o mundo estão se regozijando com a perspectiva de aproveitar essa nova tecnologia para desenvolver métodos de ataque inovadores e nunca antes vistos.

Pelo menos, essa é a percepção. Mas a realidade é um pouco diferente. Embora seja verdade que os atacantes estão cada vez mais recorrendo à IA, eles estão principalmente usando-a para aumentar a escala e a complexidade de seus ataques, aprimorando sua abordagem de táticas existentes em vez de quebrar novos terrenos. A lógica aqui é clara: por que gastar tempo e esforço para desenvolver os métodos de ataque de amanhã quando os defensores já lutam para parar os de hoje? Felizmente, as equipes de segurança modernas estão recorrendo às capacidades de IA por conta própria — muitas das quais estão ajudando a detectar malware, tentativas de phishing e outras táticas de ataque comuns com maior rapidez e precisão. À medida que a “corrida armamentista de IA” entre atacantes e defensores continua, será cada vez mais importante para as equipes de segurança entender como os adversários estão realmente implantando a tecnologia — e garantir que seus próprios esforços estejam focados no lugar certo.

Como os Atacantes Estão Aproveitando a IA

A ideia de uma IA semi-autônoma sendo implantada para hackear metodicamente as defesas de uma organização é assustadora, mas (por enquanto) permanece firmemente no reino de romances de ficção científica de William Gibson e outros. É verdade que a IA avançou a um ritmo incrível nos últimos anos, mas ainda estamos longe da inteligência artificial geral (IAG) capaz de imitar perfeitamente padrões de pensamento e comportamento humanos. Isso não significa que a IA de hoje não seja impressionante — certamente é. No entanto, as ferramentas de IA gerativa e os grandes modelos de linguagem (LLMs) são mais eficazes na síntese de informações a partir de material existente e na geração de pequenas alterações iterativas. Eles não podem criar algo completamente novo por conta própria — mas não se engane, a capacidade de sintetizar e iterar é incrivelmente útil.

Na prática, isso significa que, em vez de desenvolver novos métodos de ataque, os adversários podem aumentar seus atuais. Usando a IA, um atacante pode enviar milhões de e-mails de phishing, em vez de milhares. Eles também podem usar um LLM para criar uma mensagem mais convincente, enganando mais destinatários para clicar em um link malicioso ou baixar um arquivo de malware. Táticas como o phishing são basicamente um jogo de números: a grande maioria das pessoas não cairá em um e-mail de phishing, mas se milhões de pessoas o receberem, mesmo uma taxa de sucesso de 1% pode resultar em milhares de novas vítimas. Se os LLMs puderem aumentar essa taxa de sucesso de 1% para 2% ou mais, os golpistas podem efetivamente dobrar a eficácia de seus ataques com pouco ou nenhum esforço. O mesmo se aplica ao malware: se pequenas alterações no código de malware podem efetivamente disfarçá-lo de ferramentas de detecção, os atacantes podem obter muito mais proveito de um programa de malware individual antes de precisar passar para algo novo.

O outro elemento em jogo aqui é a velocidade. Como os ataques baseados em IA não estão sujeitos a limitações humanas, eles podem frequentemente conduzir uma sequência de ataque completa a um ritmo muito mais rápido do que um operador humano. Isso significa que um atacante pode potencialmente invadir uma rede e alcançar os “tesouros” da vítima — seus dados mais sensíveis ou valiosos — antes que a equipe de segurança sequer receba um alerta, quanto mais responda a ele. Se os atacantes puderem se mover mais rápido, eles não precisam ser tão cuidadosos — o que significa que podem se safar de atividades mais barulhentas e disruptivas sem serem parados. Eles não estão necessariamente fazendo nada de novo aqui, mas ao impulsionar seus ataques mais rapidamente, eles podem superar as defesas da rede de uma maneira potencialmente decisiva.

Essa é a chave para entender como os atacantes estão aproveitando a IA. Os golpes de engenharia social e os programas de malware já são vetores de ataque bem-sucedidos — mas agora os adversários podem torná-los ainda mais eficazes, implantá-los mais rapidamente e operar em uma escala ainda maior. Em vez de lutar contra dezenas de tentativas por dia, as organizações podem estar lutando contra centenas, milhares ou até dezenas de milhares de ataques rápidos. E se elas não tiverem soluções ou processos em vigor para detectar rapidamente esses ataques, identificar quais representam ameaças reais e tangíveis e remediá-los efetivamente, elas estão se deixando perigosamente abertas aos atacantes. Em vez de se perguntar como os atacantes podem aproveitar a IA no futuro, as organizações devem aproveitar soluções de IA por conta própria com o objetivo de lidar com métodos de ataque existentes em uma escala maior.

Virando a IA a Favor das Equipes de Segurança

Especialistas em segurança em todos os níveis de negócios e governo estão procurando maneiras de aproveitar a IA para fins defensivos. Em agosto, a Agência de Projetos de Pesquisa Avançada de Defesa dos EUA (DARPA) anunciou os finalistas de seu recente Desafio de IA em Cibersegurança (AIxCC), que premia equipes de pesquisa de segurança que trabalham para treinar LLMs para identificar e corrigir vulnerabilidades baseadas em código. O desafio é apoiado por grandes fornecedores de IA, incluindo Google, Microsoft e OpenAI, que fornecem suporte tecnológico e financeiro para esses esforços para reforçar a segurança baseada em IA. Claro, a DARPA é apenas um exemplo — você mal pode sacudir um bastão no Vale do Silício sem atingir uma dúzia de fundadores de startups ansiosos para contar sobre suas soluções de segurança avançadas baseadas em IA. Basta dizer que encontrar novas maneiras de aproveitar a IA para fins defensivos é uma alta prioridade para organizações de todos os tipos e tamanhos.

Mas, assim como os atacantes, as equipes de segurança frequentemente encontram mais sucesso quando usam a IA para amplificar suas capacidades existentes. Com os ataques acontecendo em uma escala cada vez maior, as equipes de segurança estão frequentemente esticadas — tanto em termos de tempo quanto de recursos —, tornando difícil identificar, investigar e remediar todos os alertas de segurança que surgem. Simplesmente não há tempo. As soluções de IA estão desempenhando um papel importante ao aliviar esse desafio, fornecendo capacidades de detecção e resposta automatizadas. Se há uma coisa que a IA é boa, é identificar padrões — e isso significa que as ferramentas de IA são muito boas em reconhecer comportamento anormal, especialmente se esse comportamento se conforma a padrões de ataque conhecidos. Como a IA pode revisar vastas quantidades de dados muito mais rapidamente do que os humanos, isso permite que as equipes de segurança ampliem suas operações de forma significativa. Em muitos casos, essas soluções podem até automatizar processos básicos de remediação, contrariando ataques de baixo nível sem a necessidade de intervenção humana. Elas também podem ser usadas para automatizar o processo de validação de segurança, cutucando constantemente as defesas da rede para garantir que elas estejam funcionando como pretendido.

É importante notar que a IA não permite apenas que as equipes de segurança identifiquem atividade de ataque potencial mais rapidamente — também melhora drasticamente sua precisão. Em vez de perseguir falsos alarmes, as equipes de segurança podem ter certeza de que, quando uma solução de IA os alerta para uma possível ameaça, ela vale a pena de sua atenção imediata. Esse é um elemento da IA que não é discutido quase o suficiente — enquanto grande parte da discussão gira em torno da IA “substituindo” humanos e tirando seus empregos, a realidade é que as soluções de IA estão permitindo que os humanos façam seus trabalhos melhor e mais eficientemente, além de aliviar a queima de estágio que vem com a realização de tarefas tediosas e repetitivas. Longe de ter um impacto negativo nos operadores humanos, as soluções de IA estão lidando com grande parte do “trabalho burocrático” associado às posições de segurança, permitindo que os humanos se concentrem em tarefas mais interessantes e importantes. Em um momento em que a queima de estágio está em um nível recorde e muitos negócios estão lutando para atrair novos talentos de segurança, melhorar a qualidade de vida e a satisfação no trabalho pode ter um impacto positivo enorme.

Aqui está a verdadeira vantagem para as equipes de segurança. Não apenas as soluções de IA podem ajudá-las a ampliar suas operações para combater efetivamente os atacantes que aproveitam as ferramentas de IA por conta própria — elas também podem manter os profissionais de segurança mais felizes e satisfeitos em seus papéis. Essa é uma solução de vitória para todos os envolvidos e deve ajudar as empresas de hoje a reconhecer que o momento de investir em soluções de segurança baseadas em IA é agora.

A Corrida Armamentista de IA Está Apenas Começando

A corrida para adotar soluções de IA está em andamento, com os atacantes e defensores encontrando maneiras diferentes de aproveitar a tecnologia em seu favor. À medida que os atacantes usam a IA para aumentar a velocidade, escala e complexidade de seus ataques, as equipes de segurança precisarão lutar fogo com fogo, usando ferramentas de IA por conta própria para melhorar a velocidade e precisão de suas capacidades de detecção e remediação. Felizmente, as soluções de IA estão fornecendo informações críticas às equipes de segurança, permitindo que elas melhor testem e avaliem a eficácia de suas próprias soluções, além de liberar tempo e recursos para tarefas mais críticas. Não se engane, a corrida armamentista de IA está apenas começando — mas o fato de os profissionais de segurança já estarem usando a IA para ficar um passo à frente dos atacantes é um muito bom sinal.