O Impacto Crescente da IA nos Golpes Eleitorais Esta Temporada

Em 2022, e-mails mal-intencionados que visavam trabalhadores eleitorais do condado da Pensilvânia aumentaram em torno das eleições primárias de 17 de maio, aumentando mais de 546% em seis meses. Combinado com o potencial de modelos de linguagem grande (LLMs) nefastos em cima desses ataques de phishing tradicionais, há uma grande probabilidade de que o americano comum seja o alvo de um golpe ainda mais realista esta temporada eleitoral.

Os governos estão começando a notar, especialmente à medida que a IA se integra à nossa vida diária. Por exemplo, a Agência de Segurança Cibernética e Infraestrutura dos EUA lançou um programa para aumentar a segurança eleitoral – demonstrando uma demanda crescente do governo e do público para proteger a si mesmos e seus dados de potenciais atores malignos esta temporada eleitoral.

E ainda mais recentemente, na Conferência de Segurança de Munique de 2024, 20 empresas de tecnologia e IA assinaram um “Acordo de Tecnologia para Combater o Uso Enganoso de IA nas Eleições de 2024,” que destaca princípios orientadores para proteger as eleições e o processo eleitoral, incluindo prevenção, procedência, detecção, proteção responsiva, avaliação e conscientização pública. Composto por grandes jogadores de tecnologia, incluindo Microsoft (MSFT ), Amazon (AMZN ) e Google, isso sinaliza uma mudança importante na indústria, que mesmo além de afiliações políticas, a segurança de dados é um tópico que preocupará cidadãos e especialistas em cibersegurança ao longo do resto deste ano eleitoral. Além disso, a IA gerativa terá um grande impacto sobre como os atores malignos podem realizar seus ataques, tornando mais fácil criar golpes altamente realistas.

Tipos de Golpes Eleitorais

Enquanto a temporada eleitoral não é o único momento em que vemos um aumento nos golpes, quando chega a hora de votar, seja nas primárias ou nas eleições gerais, tendemos a ver um aumento em vários métodos e técnicas. Cada um deles é usado com o objetivo típico de obter acesso à conta de um indivíduo ou ganho monetário, e as consequências de cair nesses golpes podem ter consequências graves. Na verdade, a fraude de deepfake sozinha custou aos EUA mais de $3,4 bilhões em perdas.

Alguns exemplos de golpes que vemos durante a temporada eleitoral incluem:

• Phishing: O phishing envolve o uso de links, e-mails e sites falsos para obter acesso a informações de consumidor sensíveis – geralmente instalando malware no sistema alvo. Esses dados são então usados para roubar outras identidades, obter acesso a ativos valiosos e sobrecarregar as caixas de entrada com spam de e-mail. Durante a temporada eleitoral, os e-mails de phishing podem ser disfarçados como e-mails de doação, fazendo com que um cidadão clique no link, pensando que está doando a um candidato, mas na verdade jogando no esquema de um ator maligno.
• Chamadas automatizadas, Impersonações e Chatbots Gerados por IA: Como visto em New Hampshire quando uma chamada automatizada imitou o presidente Biden, aconselhando os cidadãos a não votar, a temporada eleitoral trará um aumento nas impersonações de pesquisadores ou candidatos políticos para falsamente ganhar confiança e obter informações sensíveis.
• Deepfakes: Com o surgimento da IA, os deepfakes se tornaram incrivelmente realistas hoje e podem ser usados para imitar um chefe ou até mesmo seu celebridade favorita. Os deepfakes são vídeos ou imagens que usam IA para substituir rostos ou manipular expressões faciais ou discurso. Muitos dos deepfakes que encontramos diariamente serão na forma de um vídeo, com um clipe manipulado mostrando a pessoa dizendo ou fazendo algo que ela nunca fez. Isso é esperado para ser especialmente prevalente nesta temporada eleitoral, com o risco de deepfakes sendo criados para imitar candidatos. Até mesmo fora dos EUA, como no Reino Unido, há medos de que os deepfakes possam ser usados para manipular eleições.

O Impacto da IA nas Eleições

Além desses golpes, algoritmos de IA estão sendo usados para gerar mensagens falsas, e-mails e posts de mídia social mais convincentes e envolventes para enganar os usuários e fazer com que eles forneçam informações sensíveis.

A Microsoft e a OpenAI publicaram um relatório de ameaças, “Navegando Ameaças Cibernéticas e Fortalecendo Defesas na Era da IA”, que observou que cinco atores de ameaças da Rússia, Coreia do Norte, Irã e China já estão usando a IA para novas e inovadoras maneiras de melhorar suas operações contra alvos macios.

Golpes como chatbots, clonagem de voz e mais são levados um passo adiante com a IA como uma ferramenta para disseminar desinformação, desenvolver malware e imitar indivíduos. Ferramentas de clonagem de voz podem criar réplicas quase perfeitas da voz ou rosto de uma figura eleitoral, por exemplo. A IA também pode ser usada para inundar centros de chamadas com chamadas de votantes falsas, sobrecarregando-os com desinformação.

No mais alto alerta estará a mídia social, pois é um veículo principal para campanhas nesta temporada eleitoral. Os eleitores compartilharão se votaram e talvez até mostrem apoio ao seu candidato favorito em suas páginas. No entanto, este ano apresenta uma nova ameaça, pois vemos um aumento nos golpes de phishing da IA (incluindo smishing e vishing).

Considere se alguém postou em sua conta de mídia social apoio a um candidato específico. Alguns minutos depois, eles recebem um e-mail que parece ser do gerente de campanha, agradecendo seu apoio. Essa possível vítima pode interagir com esse e-mail, clicando em um link, abrindo-o a colheita de credenciais, perda financeira ou instalação de malware. Devido à capacidade da IA de monitorar, criar e entregar campanhas de phishing direcionadas em tempo quase real, posts de mídia social aparentemente inofensivos agora abrem os usuários a um novo nível de esquemas de phishing realistas.

Permanecendo Vigilante Esta Temporada Eleitoral

Ataques como o phishing continuarão a ser uma forma comum para atores malignos criarem golpes realistas que podem passar até mesmo pelos mais conhecedores, e na era da IA gerativa, o potencial impacto desses golpes foi apenas acelerado para permitir que os atores malignos tenham acesso mais rápido a informações sensíveis.

Enquanto as empresas implantam tecnologia para proteger seus dados e funcionários, os consumidores também precisam estar cientes de técnicas para detectar e evitar golpes. Algumas dessas incluem:

• Olhando para hiperlinks aleatórios ou títulos de e-mail mal escritos
• Não clicar em um link de um remetente desconhecido
• Empregando autenticação de dois fatores ou autenticação biométrica sempre que possível
• Tornando as contas de mídia social privadas
• Relatando atividade maliciosa
• Educando outros colegas ou membros da família
• Procure por um domínio de site .gov para verificar a autenticidade de um candidato eleitoral
• Se você tiver TI no seu local de trabalho, também pode perguntar sobre:
  • Redes de confiança zero
  • Autenticação de dois fatores resistente a phishing
  • Ferramentas de segurança de e-mail (DMARC, DKIM, SPF)
  • Métodos para assinar digitalmente o conteúdo (ou outra forma de verificar criptograficamente suas comunicações)

Embora as temporadas eleitorais sejam um momento para estar em alerta, os ataques podem acontecer a qualquer momento, então é importante garantir que as fundações de cibersegurança sejam fortes e confiáveis o ano todo. ferramentas (DMARC, DKIM, SPF) Métodos para assinar digitalmente o conteúdo (ou outra forma de verificar criptograficamente suas comunicações) Embora as temporadas eleitorais sejam um momento para estar em alerta, os ataques podem acontecer a qualquer momento, então é importante garantir que as fundações de cibersegurança sejam fortes e confiáveis o ano todo.