Como as Deepfakes Impulsionadas por IA Ameaçam a Integridade das Eleições — E o que Fazer a Respeito

Os anúncios de campanha já podem ser um pouco confusos e controversos.

Agora imagine que você é alvo de um anúncio de campanha em que um candidato expressa opiniões fortes que influenciam seu voto — e o anúncio não é mesmo real. É uma deepfake.

Isso não é um hipotético futurista; as deepfakes são um problema real e generalizado. Já vimos “endossos” gerados por IA que fizeram manchetes, e o que ouvimos apenas arranha a superfície.

À medida que nos aproximamos das eleições presidenciais dos EUA em 2024, estamos entrando em um território inexplorado em termos de cibersegurança e integridade de informações. Eu trabalhei na interseção da cibersegurança e da IA desde que ambos os conceitos eram nascentes, e nunca vi nada como o que está acontecendo agora.

A evolução rápida da inteligência artificial — especificamente a IA geradora e, claro, a facilidade resultante de criar deepfakes realistas — transformou o cenário de ameaças às eleições. Essa nova realidade exige uma mudança nas suposições básicas sobre segurança eleitoral e educação do eleitor.

IA Armada

Você não precisa levar minha experiência pessoal como prova; há muitas evidências de que os desafios de cibersegurança que enfrentamos hoje estão evoluindo a uma taxa sem precedentes. Em apenas alguns anos, testemunhamos uma transformação dramática nas capacidades e metodologias de potenciais atores ameaçadores. Essa evolução espelha o desenvolvimento acelerado que vimos nas tecnologias de IA, mas com uma reviravolta preocupante.

Exemplo:

• Armação rápida de vulnerabilidades. Os atacantes de hoje podem explorar rapidamente vulnerabilidades recém-descobertas, muitas vezes mais rápido do que os patches podem ser desenvolvidos e implantados. As ferramentas de IA aceleram ainda mais esse processo, reduzindo a janela entre a descoberta da vulnerabilidade e a exploração.
• Superfície de ataque expandida. A adoção generalizada de tecnologias de nuvem ampliou significativamente a superfície de ataque potencial. A infraestrutura distribuída e o modelo de responsabilidade compartilhada entre provedores de nuvem e usuários criam novos vetores de exploração se não forem gerenciados adequadamente.
• Medidas de segurança tradicionais desatualizadas. As ferramentas de segurança legadas, como firewalls e softwares antivírus, estão lutando para acompanhar essas ameaças em evolução, especialmente quando se trata de detectar e mitigar conteúdo gerado por IA.

Quem Está Falando

Nesse novo cenário de ameaças, as deepfakes representam um desafio particularmente insidioso à integridade das eleições. Pesquisa recente da Ivanti coloca alguns números nessa ameaça: mais da metade dos trabalhadores de escritório (54%) não sabe que a IA avançada pode imitar a voz de qualquer pessoa. Essa falta de conscientização entre os eleitores potenciais é profundamente preocupante à medida que nos aproximamos de um ciclo eleitoral crítico.

Há muito em jogo.

A sofisticação da tecnologia de deepfakes de hoje permite que atores ameaçadores, tanto estrangeiros quanto domésticos, criem conteúdo falso de áudio, vídeo e texto convincente com esforço mínimo. Um simples prompt de texto pode agora gerar uma deepfake que é cada vez mais difícil de distinguir do conteúdo genuíno. Essa capacidade tem implicações sérias para a disseminação de desinformação e a manipulação da opinião pública.

Desafios na Atribuição e Mitigação

A atribuição é um dos principais desafios que enfrentamos com a interferência eleitoral gerada por IA. Embora historicamente tenhamos associado a interferência eleitoral a atores estatais, a democratização das ferramentas de IA significa que grupos domésticos, impulsionados por várias motivações ideológicas, agora podem usar essas tecnologias para influenciar as eleições.

Essa difusão de potenciais atores ameaçadores complica nossa capacidade de identificar e mitigar fontes de desinformação. Isso também destaca a necessidade de uma abordagem multifacetada para a segurança eleitoral que vá além das medidas de cibersegurança tradicionais.

Um Esforço Coordenado para Manter a Integridade das Eleições

Abordar o desafio das deepfakes impulsionadas por IA nas eleições exigirá um esforço coordenado em vários setores. Aqui estão áreas-chave onde precisamos focar nossos esforços:

• Segurança para sistemas de IA. Precisamos aplicar os princípios de “segurança para a esquerda” ao desenvolvimento de sistemas de IA em si. Isso significa incorporar considerações de segurança desde os estágios iniciais do desenvolvimento do modelo de IA, incluindo considerações para uso potencial indevido na interferência eleitoral.
• Configurações de segurança. Os sistemas e plataformas de IA que possam ser usados para gerar deepfakes devem ter configurações seguras por padrão. Isso inclui medidas de autenticação fortes e restrições sobre os tipos de conteúdo que podem ser gerados.
• Segurança da cadeia de suprimentos de IA. Assim como nos concentramos em segurança da cadeia de suprimentos de software, precisamos estender essa vigilância à cadeia de suprimentos de IA. Isso inclui examinar os conjuntos de dados usados para treinar modelos de IA e os algoritmos empregados em sistemas de IA geradora.
• Capacidades de detecção aprimoradas. Precisamos investir e desenvolver ferramentas de detecção avançadas que possam identificar conteúdo gerado por IA, particularmente no contexto de informações relacionadas às eleições. Isso provavelmente envolverá usar a própria IA para combater a desinformação gerada por IA.
• Educação e conscientização do eleitor. Um componente crucial de nossa defesa contra deepfakes é um eleitorado informado. Precisamos de programas de educação abrangentes para ajudar os eleitores a entender a existência e o impacto potencial do conteúdo gerado por IA e fornecer-lhes ferramentas para avaliar criticamente as informações que encontram.
• Colaboração entre setores. O setor de tecnologia, particularmente as empresas de TI e cibersegurança, deve trabalhar em estreita colaboração com agências governamentais, funcionários eleitorais e organizações de mídia para criar uma frente unida contra a interferência eleitoral impulsionada por IA.

O que Vem a Seguir

À medida que implementamos essas estratégias, é crucial que continuemos a medir sua eficácia. Isso exigirá novas métricas e ferramentas de monitoramento projetadas especificamente para rastrear o impacto do conteúdo gerado por IA no discurso eleitoral e no comportamento do eleitor.

Devemos também estar preparados para adaptar nossas estratégias rapidamente. O campo da IA está evoluindo a um ritmo vertiginoso, e nossas medidas defensivas devem evoluir da mesma forma. Isso pode envolver usar a própria IA para criar medidas de segurança mais robustas e adaptáveis.

O desafio das deepfakes impulsionadas por IA nas eleições representa um novo capítulo em cibersegurança e integridade de informações. Para abordá-lo, devemos pensar além dos paradigmas de segurança tradicionais e fomentar a colaboração entre setores e disciplinas. O objetivo: aproveitar o poder da IA para o benefício dos processos democráticos, mitigando seu potencial para causar danos. Esse não é apenas um desafio técnico, mas um desafio societal que exigirá vigilância, adaptação e cooperação contínuas.

A integridade de nossas eleições — e, por extensão, a saúde de nossa democracia — depende de nossa capacidade de enfrentar esse desafio de frente. É uma responsabilidade que recai sobre todos nós: tecnólogos, formuladores de políticas e cidadãos.