O AI Pode Escrever um E-mail de Phishing Mais Convincente do que os Humanos?

O processamento de linguagem natural e as capacidades de tradução avançadas tornam o AI gerador um instrumento inestimável para hackers. No entanto, os e-mails de phishing gerados por AI podem não ser mais perigosos do que o conteúdo de golpe gerado por humanos. O que os usuários e os profissionais de segurança devem saber sobre o papel do AI nos golpes de phishing e cibercrimes?

Como o AI Escreve E-mails de Phishing

O conteúdo de phishing relatado aumentou 61% de 2021 para 2022. Desde URLs maliciosas até golpes de e-mail, o phishing está se tornando cada vez mais prevalente a cada ano. O AI é a última ferramenta que os hackers estão adotando para avançar nas campanhas de phishing. Embora o processamento de linguagem natural do AI seja benéfico, os hackers podem aproveitá-lo para criar conteúdo de phishing mais eficaz.

A disponibilidade de plataformas de AI como serviço, como o ChatGPT, torna mais fácil do que nunca para qualquer pessoa gerar conteúdo. Um hacker pode mostrar a um modelo de linguagem grande do AI milhares de exemplos de e-mails legítimos e, em seguida, pedir que ele crie e-mails originais com base nesses. O processamento de linguagem natural (NLP) permite que o AI compreenda e recrie conteúdo escrito realista — uma ferramenta perfeita em ataques de phishing.

Idealmente, o AI gera um e-mail original que imita um e-mail escrito por um humano. O hacker pode pedir que ele personalize a mensagem para incluir detalhes sobre uma empresa, pessoa ou local específico. O AI até pode traduzir a mensagem para um idioma diferente. Os hackers podem criar e-mails de phishing personalizados e originais em apenas momentos, permitindo que eles se afastem de reciclar um único e-mail malicioso entre muitos alvos.

Os E-mails de Phishing Gerados por AI São Eficazes?

As possibilidades de phishing impulsionado por AI podem soar intimidantes, mas são mais perigosas do que o conteúdo de golpe criado por humanos? As vantagens dos e-mails de phishing gerados por AI se resumem principalmente a fluxos de trabalho mais eficientes para os hackers.

Estudos de pesquisa iniciais mostraram que os e-mails de phishing gerados por AI são aproximadamente tão convincentes quanto os e-mails de phishing gerados por humanos. Além disso, os hackers estão limitados em seu acesso às plataformas de AI como serviço. A maioria dos grandes desenvolvedores — incluindo o OpenAI — tem salvaguardas para prevenir aplicações ilegais de modelos de AI.

As principais vantagens do AI para os hackers de phishing são eficiência e linguagem. Usar o AI para gerar e-mails de golpe é mais rápido do que escrevê-los manualmente, permitindo que os hackers criem uma variedade maior de e-mails de phishing. Além disso, eles podem atingir vítimas em qualquer lugar do mundo, graças a ferramentas de tradução de AI facilmente acessíveis com capacidades de NLP.

Portanto, os e-mails de phishing gerados por AI aumentam o risco de ataques de phishing, mas podem não ser necessariamente mais convincentes do que o conteúdo de golpe gerado por humanos.

Como se Defender Contra E-mails de Phishing Gerados por AI

O AI é uma ferramenta útil para os hackers, mas não é infalível. A tecnologia de segurança e os usuários também podem avançar suas estratégias de defesa à medida que os ataques de phishing se tornam mais inteligentes. Os usuários devem começar a se manter atualizados sobre sinais de alerta de conteúdo de phishing, pois esses permanecerão relevantes mesmo com e-mails gerados por AI.

Embora possa ser mais difícil detectar e-mails de phishing à primeira vista, certas medidas de segurança podem minimizar ou eliminar o potencial de danos causados por phishing. Além disso, novas tecnologias de detecção podem capturar tanto e-mails maliciosos escritos por humanos quanto por AI.

Mudar para Armazenamento em Nuvem

Mudar para armazenamento em nuvem é uma ótima maneira de minimizar a ameaça de e-mails de phishing e cibercrimes. A natureza isolada do armazenamento de dados convencional o torna altamente vulnerável à exploração por hackers. Tudo o que um hacker precisa fazer é obter controle de um disco rígido ou servidor, e eles podem segurar todos os dados de alguém como refém.

O armazenamento em nuvem evita essa ameaça. Como os dados não estão vinculados a um dispositivo específico, é muito mais difícil para os hackers excluir ou danificar qualquer informação. A segurança baseada em nuvem também pode melhorar a resiliência a tentativas de hacking.

Por exemplo, os usuários podem implementar varreduras de vulnerabilidade automatizadas para encontrar vulnerabilidades na segurança da nuvem. Isso é ótimo para prevenir que os hackers usem backdoors ou credenciais roubadas para acessar dados na nuvem. Mesmo que eles consigam, será difícil para eles controlar completamente os dados, pois o armazenamento em nuvem é tão disperso.

Criar um Sistema de Verificação DIY

Uma solução DIY para ajudar a dissuadir mensagens de phishing de qualquer tipo é estabelecer um sistema de código entre correspondentes confiáveis. Isso pode incluir pessoas como familiares, amigos e colegas de trabalho. Sempre que as pessoas nesse grupo enviarem e-mails umas para as outras, elas podem escrever uma frase de código específica para verificar que a mensagem é realmente deles.

Esse sistema de código não precisa ser complicado. A ideia é simplesmente adicionar um fator aos e-mails que um hacker ou AI não poderia saber com antecedência. Faça a frase de código algo incomum, para que seja improvável que seja encontrado com frequência em e-mails de treinamento do AI.

Por exemplo, o código pode ser o nome de um assentamento fantasma, como “Agloe, Nova York”. Os assentamentos fantasma são improváveis de aparecer com frequência em e-mails, pois são lugares fictícios simplesmente adicionados a mapas para fins de direitos autorais.

Usar Detecção de Phishing por AI

Os hackers não são os únicos a usar o AI para inovar sua metodologia. Os usuários e os profissionais de segurança também podem usar modelos de AI para detectar conteúdo de phishing, seja ele escrito por um humano ou por um AI.

Por exemplo, os desenvolvedores podem usar aprendizado de máquina para monitorar e rastrear os padrões de comunicação naturais de correspondentes de e-mail legítimos. Se o AI puder aprender rapidamente o estilo de comunicação único de um indivíduo, ele pode reconhecer e-mails falsos que não correspondem. Isso se aplica independentemente de um humano ou AI ter escrito o e-mail.

Uma das maiores forças do phishing impulsionado por AI também é uma grande fraqueza. Os hackers podem criar e-mails de phishing convincentes com o AI, mas o estilo de comunicação desses e-mails não pode ser personalizado de forma eficiente. Um hacker normalmente não tem a expertise técnica ou os recursos para treinar um AI para replicar com precisão o estilo de escrita de uma pessoa específica. Os modelos de detecção de phishing por AI podem aproveitar essa fraqueza para defender os usuários.

Entendendo o Risco de Phishing Impulsionado por AI

O AI pode ser uma ferramenta valiosa para os hackers ao criar e-mails de phishing. No entanto, os e-mails gerados por AI não são necessariamente mais convincentes do que o conteúdo de golpe gerado por humanos. Os principais sinais de alerta de phishing — como chamadas urgentes para ação — permanecem relevantes independentemente de quem ou o que está criando o e-mail de phishing. Os usuários e os profissionais de segurança podem adotar técnicas e tecnologias inovadoras para proteger seus dados contra campanhas de phishing impulsionadas por AI.