Inteligência Artificial em Phishing: Quem se Beneficia Mais, Atacantes ou Defensores?

À medida que a cibercrime cresceu, a indústria de cibersegurança teve que abraçar tecnologias de ponta para acompanhar. A inteligência artificial (IA) rapidamente se tornou uma das ferramentas mais úteis para interromper ataques cibernéticos, mas os atacantes também podem usá-la. As tendências recentes de phishing são um excelente exemplo de ambos os lados da questão.

O phishing é o tipo mais comum de cibercrime hoje de longe. À medida que mais empresas se tornam conscientes dessa ameaça crescente, mais delas implementaram ferramentas de IA para impedi-la. No entanto, os cibercriminosos também estão aumentando o uso de IA no phishing. Aqui está uma visão mais detalhada de como ambos os lados usam essa tecnologia e quem está se beneficiando mais dela.

Como a IA Ajuda a Combater o Phishing

Os ataques de phishing tiram proveito da tendência natural das pessoas em relação à curiosidade e ao medo. Como essa engenharia social é tão eficaz, uma das melhores maneiras de se proteger contra ela é garantir que você não a veja em primeiro lugar. É aí que a IA entra em ação.

As ferramentas de IA anti-phishing geralmente vêm na forma de filtros de e-mail avançados. Esses programas escaneiam as suas mensagens de entrada em busca de sinais de tentativas de phishing e enviam automaticamente e-mails suspeitos para a pasta de lixo. Algumas soluções mais recentes podem identificar e-mails de phishing com 99,9% de precisão gerando diferentes versões de mensagens de golpe com base em exemplos reais para treinar a si mesmos para detectar variações.

À medida que os pesquisadores de segurança detectam mais e-mails de phishing, eles podem fornecer esses modelos com mais dados, tornando-os ainda mais precisos. A capacidade de aprendizado contínuo da IA também ajuda a refinar os modelos para reduzir falsos positivos.

A IA também pode ajudar a interromper ataques de phishing quando você clica em um link malicioso. O software de monitoramento automatizado pode estabelecer um padrão de comportamento normal para detectar anomalias que provavelmente surgirão quando alguém mais usa sua conta. Eles podem, então, bloquear o perfil e alertar as equipes de segurança antes que o intruso cause muito dano.

Como os Atacantes Usam a IA no Phishing

O potencial da IA para interromper ataques de phishing é impressionante, mas também é uma ferramenta poderosa para gerar e-mails de phishing. À medida que a IA geradora, como o ChatGPT, se tornou mais acessível, está tornando os ataques de phishing mais eficazes.

O spearphishing — que usa detalhes pessoais para criar mensagens personalizadas para os usuários — é um dos tipos mais eficazes de phishing. Um e-mail que obtém todos os detalhes pessoais corretos naturalmente será muito mais convincente. No entanto, essas mensagens tradicionalmente foram difíceis e demoradas para criar, especialmente em larga escala. Isso não é mais o caso com a IA geradora.

A IA pode gerar grandes quantidades de mensagens de phishing personalizadas em uma fração do tempo que levaria a um humano. É também melhor do que as pessoas em escrever falsificações convincentes. Em um estudo de 2021, os e-mails de phishing gerados por IA viram taxas de cliques significativamente mais altas do que os escritos por humanos — e isso foi antes do lançamento do ChatGPT.

Assim como os marketers usam a IA para personalizar as campanhas de alcance ao cliente, os cibercriminosos podem usá-la para criar mensagens de phishing eficazes e personalizadas para os usuários. À medida que a IA geradora melhora, essas falsificações se tornarão ainda mais convincentes.

Os Atacantes Permanecem à Frente Graças às Fraquezas Humanas

Com os atacantes e defensores aproveitando a IA, qual lado viu os benefícios mais proeminentes? Se você olhar para as tendências recentes de cibercrime, verá que os cibercriminosos prosperaram apesar de proteções mais sofisticadas.

Os ataques de comprometimento de e-mail empresarial aumentaram 81% na segunda metade de 2022 e os funcionários abriram 28% dessas mensagens. Isso faz parte de um aumento de longo prazo de 175% nos últimos dois anos, sugerindo que o phishing está crescendo mais rápido do que nunca. Esses ataques são eficazes, também, roubando $17.700 por minuto, o que provavelmente é por que eles estão por trás de 91% dos ataques cibernéticos.

Por que o phishing cresceu tanto apesar da IA melhorar as proteções anti-phishing? Isso provavelmente se deve ao elemento humano. Os funcionários devem realmente usar essas ferramentas para que sejam eficazes. Além disso, os trabalhadores podem se engajar em outras atividades inseguras que os tornam propensos a tentativas de phishing, como fazer login em suas contas de trabalho em dispositivos pessoais não autorizados e não protegidos.

A pesquisa mencionada anteriormente também encontrou que os trabalhadores relatam apenas 2,1% dos ataques. Essa falta de comunicação pode dificultar a visão de onde e como as medidas de segurança devem melhorar.

Como se Proteger Contra os Ataques de Phishing em Ascensão

Dada essa tendência alarmante, as empresas e os usuários individuais devem tomar medidas para se manterem seguros. Implementar ferramentas de IA anti-phishing é um bom começo, mas não pode ser a única medida. Apenas 7% das equipes de segurança não estão usando ou planejando usar IA, ainda assim o domínio do phishing persiste, então as empresas devem abordar o elemento humano também.

Como os humanos são o elo mais fraco contra os ataques de phishing, eles devem ser o foco das medidas de mitigação. As organizações devem tornar as melhores práticas de segurança uma parte mais proeminente do treinamento de integração de funcionários e do treinamento contínuo. Esses programas devem incluir como identificar ataques de phishing, por que é um problema e simulações para testar a retenção de conhecimento após o treinamento.

Usar ferramentas de gerenciamento de identidade e acesso mais fortes também é importante, pois essas ajudam a parar violações bem-sucedidas após elas entrarem em uma conta. Mesmo os funcionários experientes podem cometer erros, então você deve ser capaz de detectar e parar contas violadas antes que causem danos extensivos.

A IA é uma Ferramenta Poderosa para o Bem e para o Mal

A IA é uma das tecnologias mais disruptivas da história recente. Se isso é bom ou ruim depende de seu uso.

É vital reconhecer que a IA pode ajudar os cibercriminosos tanto quanto — ou mais do que — os profissionais de cibersegurança. Quando as organizações reconhecem esses riscos, elas podem tomar medidas mais eficazes para lidar com os ataques de phishing em ascensão.