Inteligência Artificial Gerativa em Segurança Cibernética: O Campo de Batalha, A Ameaça, & Agora A Defesa

O Campo de Batalha

O que começou como empolgação em torno das capacidades da Inteligência Artificial Gerativa rapidamente se transformou em preocupação. Ferramentas de Inteligência Artificial Gerativa, como ChatGPT, Google Bard, Dall-E, etc., continuam a fazer manchetes devido a preocupações de segurança e privacidade. Isso até levou a questionamentos sobre o que é real e o que não é. A Inteligência Artificial Gerativa pode produzir conteúdo altamente plausível e, portanto, convincente. Tanto que, no final de um segmento recente de 60 Minutes sobre IA, o apresentador Scott Pelley deixou os telespectadores com a seguinte declaração: “Vamos encerrar com uma nota que nunca apareceu em 60 Minutes, mas uma, na revolução da IA, você pode estar ouvindo com frequência: o que precede foi criado com 100% de conteúdo humano.”

A guerra cibernética de Inteligência Artificial Gerativa começa com esse conteúdo convincente e realista e o campo de batalha é onde os hackers estão utilizando a Inteligência Artificial Gerativa, usando ferramentas como ChatGPT, etc. É extremamente fácil para os cibercriminosos, especialmente aqueles com recursos limitados e zero conhecimento técnico, cometer crimes por meio de ataques de engenharia social, phishing e impersonação.

A Ameaça

A Inteligência Artificial Gerativa tem o poder de impulsionar ataques cibernéticos cada vez mais sofisticados.

Porque a tecnologia pode produzir conteúdo convincente e semelhante ao humano com facilidade, novos golpes cibernéticos que utilizam IA são mais difíceis para as equipes de segurança detectar facilmente. Golpes gerados por IA podem vir na forma de ataques de engenharia social, como ataques de phishing multicanal realizados por e-mail e aplicativos de mensagens. Um exemplo do mundo real poderia ser um e-mail ou mensagem que contém um documento enviado a um executivo corporativo por um fornecedor terceirizado via Outlook (e-mail) ou Slack (aplicativo de mensagens). O e-mail ou mensagem direciona-os para clicar nele para visualizar uma fatura. Com a Inteligência Artificial Gerativa, pode ser quase impossível distinguir entre um e-mail ou mensagem falsa e real. É por isso que é tão perigoso.

Um dos exemplos mais alarmantes, no entanto, é que com a Inteligência Artificial Gerativa, os cibercriminosos podem produzir ataques em múltiplos idiomas – independentemente de o hacker realmente falar o idioma. O objetivo é lançar uma rede ampla e os cibercriminosos não discriminarão as vítimas com base no idioma.

O avanço da Inteligência Artificial Gerativa sinaliza que a escala e a eficiência desses ataques continuarão a aumentar.

A Defesa

A defesa cibernética para a Inteligência Artificial Gerativa notoriamente foi a peça que faltava no quebra-cabeça. Até agora. Ao usar a luta máquina contra máquina, ou enfrentando IA contra IA, podemos nos defender contra essa nova e crescente ameaça. Mas como essa estratégia deve ser definida e como ela parece?

Primeiro, a indústria deve agir para enfrentar o computador contra o computador em vez de humano contra computador. Para seguir em frente com esse esforço, devemos considerar plataformas de detecção avançadas que possam detectar ameaças geradas por IA, reduzir o tempo que leva para sinalizar e o tempo que leva para resolver um ataque de engenharia social que teve origem na Inteligência Artificial Gerativa. Algo que um ser humano é incapaz de fazer.

Recentemente, realizamos um teste de como isso pode parecer. Fizemos com que o ChatGPT criasse um e-mail de phishing baseado em linguagem em múltiplos idiomas para ver se uma plataforma de compreensão de linguagem natural ou uma plataforma de detecção avançada poderia detectá-lo. Fornecemos ao ChatGPT o prompt: “escreva um e-mail urgente solicitando que alguém ligue sobre um aviso final de acordo de licença de software.” Também comandamos que o escrevesse em inglês e japonês.

A plataforma de detecção avançada foi capaz de sinalizar os e-mails como um ataque de engenharia social imediatamente. MAS, controles de e-mail nativos, como a plataforma de detecção de phishing do Outlook, não puderam. Mesmo antes do lançamento do ChatGPT, a engenharia social feita por meio de ataques baseados em conversação e linguagem provou ser bem-sucedida porque podia evitar controles tradicionais, aterrissando nas caixas de entrada sem um link ou carga. Então, sim, é necessário combate máquina contra máquina para se defender, mas também devemos ter certeza de que estamos usando artilharia eficaz, como uma plataforma de detecção avançada. Qualquer pessoa com essas ferramentas à sua disposição tem uma vantagem na luta contra a Inteligência Artificial Gerativa.

Quando se trata da escala e da plausibilidade dos ataques de engenharia social proporcionados pelo ChatGPT e outras formas de Inteligência Artificial Gerativa, a defesa máquina contra máquina também pode ser aprimorada. Por exemplo, essa defesa pode ser implantada em múltiplos idiomas. Além disso, não precisa ser limitada apenas à segurança de e-mail, mas pode ser usada para outros canais de comunicação, como aplicativos como Slack, WhatsApp, Teams, etc.

Permaneça Vigilante

Ao navegar pelo LinkedIn, um de nossos funcionários encontrou uma tentativa de engenharia social de Inteligência Artificial Gerativa. Um anúncio de download de “whitepaper” estranho apareceu com o que pode ser descrito generosamente como “criativo de anúncio bizarro”. Ao examinar mais de perto, o funcionário viu um padrão de cor característico no canto inferior direito estampado em imagens produzidas pelo Dall-E, um modelo de IA que gera imagens a partir de prompts baseados em texto.

Encontrar esse anúncio falso do LinkedIn foi um lembrete significativo dos novos perigos de engenharia social que agora estão surgindo quando combinados com a Inteligência Artificial Gerativa. É mais crítico do que nunca estar vigilante e desconfiado.

A era da Inteligência Artificial Gerativa sendo usada para cibercrime está aqui, e devemos permanecer vigilantes e preparados para lutar de volta com todas as ferramentas à nossa disposição.