A Nova Era de Impersonação de Executivos Não Envolverá Executivos em Absoluto

Nos últimos anos, a maior ameaça digital que as marcas enfrentavam era a impersonação de executivos, muitas vezes executada por meio de endereços de e-mail falsificados ou contas de mídia social falsas. Hoje, estamos enfrentando um inimigo muito mais complexo e convincente: os agentes de IA.

O surgimento de agentes autônomos alimentados por grandes modelos de linguagem (LLMs), projetados para operar com pouca ou nenhuma intervenção humana, desbloqueou novas possibilidades que se assemelham ao entusiasmo visto nos primórdios da web2 e das aplicações móveis.

Embora os agentes autônomos ainda não tenham feito a transição da visão para a realidade, especialistas alertam que eles podem estar aptos a percorrer redes corporativas já no próximo ano. O entusiasmo e a adoção que se seguem inevitavelmente cairão no radar de cibercriminosos que se adaptam constantemente, que veem os agentes autônomos como uma nova fronteira para o fraude digital. Então, o que acontece quando esses agentes são impersonados? Ou pior, quando são os próprios impostores?

Assim como os aplicativos móveis já enfrentaram uma onda de versões falsificadas construídas para extrair credenciais de login ou instalar malware, os agentes de IA estão agora prestes a enfrentar uma onda semelhante de falsificações. No entanto, desta vez, o risco será mais difícil de detectar e os danos potencialmente mais amplos.

Da Impersonação de Executivos à Impersonação de Agentes

A IA já introduziu novas vias de fraude e engano, caracterizadas por golpes de clonagem de voz que podem recriar os padrões de fala de um executivo usando apenas alguns segundos de áudio, por exemplo, e recentemente, evidências de impersonações de vídeo e voz em tempo real foram relatadas. Agora, imagine um agente autônomo, supostamente representando sua empresa, interagindo com clientes, investidores ou parceiros. Esse agente poderia ser incorporado a um site, integrado a um chatbot ou até interagir por e-mail, oferecendo interações plausíveis, profissionais e completamente fraudulentas.

O predecessor dos agentes falsificados pode estar nos modelos ” jailbreak“, pelos quais atores ameaçadores manipulam os LLMs, muitas vezes por meio de injeções de prompts ou técnicas de várias voltas, para produzir saídas prejudiciais ou falsas. Mas isso é apenas o começo.

De acordo com dados da PitchBook, as empresas de IA arrecadaram $131,5 bilhões em 2024, representando mais de um terço dos negócios de capital de risco globais. A corrida armamentista de IA, alimentada por fundadores ambiciosos, investidores famintos e governos ansiosos, acelerará rapidamente as capacidades dessa tecnologia emergente, cujos casos de uso legítimos continuarão a ser explorados para fins nefastos.

A IA gerativa tem e continuará a democratizar a criação de tais agentes. À medida que as plataformas correm para integrá-los, poucos guardrails existem para verificar sua autenticidade. Isso abre a porta para uma nova classe de impersonação: não apenas de pessoas, mas também de software.

Um Chamado de Atenção para Marcas Ansiosas e Consumidores Curiosos

Os consumidores e as marcas estão apenas começando a entender o que significa confiar em um agente. Mas a confiança é o pino mestre de qualquer interação digital, e quando ela é quebrada, as consequências podem ser devastadoras.

Como observado com vídeos de deepfake e clonagem de voz, os agentes falsos podem ser usados para:

• Solicitar pagamentos ou dados sensíveis sob a aparência de uma marca estabelecida ou confiável
• Redirecionar usuários para sites infestados de malware por meio de DMs de mídia social ou anúncios pagos
• Erodir a confiança do cliente e desencadear danos à reputação em larga escala

De acordo com um relatório recente da Comissão Federal de Comércio relatório, os golpes de impersonação foram responsáveis por quase $3 bilhões em perdas relatadas nos EUA – um número esperado para aumentar drasticamente à medida que a impersonação de IA se torna mais indetectável e escalável.

A Proliferação de Agentes Falsos: Anúncios, Busca e Mídia Social

O que é especialmente perigoso é como os agentes falsificados serão distribuídos. Eles não precisam de seus próprios sites ou domínios para ganhar tração. Atores mal-intencionados podem, e fazem, usar resultados de busca pagos e plataformas de mídia social para promover clones maliciosos de marcas, executivos ou produtos confiáveis. Um link patrocinado no Google ou uma postagem promovida no Instagram, por exemplo, é suficiente para direcionar usuários inexperientes para um agente falso ou portal de suporte.

Esse risco a nível de ecossistema, onde atores mal-intencionados sequestram território digital legítimo para facilitar golpes, exige uma nova escola de pensamento para a segurança cibernética. Já não é suficiente proteger sua rede, sua nuvem ou garantir as credenciais de seus funcionários. O perímetro de ameaça da sua marca agora inclui todas as redes de anúncios, plataformas de busca e ferramentas de terceiros com as quais seus clientes interagem.

Tomando Ação Antes que Seja Tarde Demais

Estamos entrando em um mundo onde a linha entre humanos e agentes está cada vez mais borrada. A ameaça não é mais apenas a impersonação de pessoas, que está atualmente em crescimento exponencial devido às ferramentas de IA disponíveis, é a impersonação de personas digitais.

Então, como as empresas podem se preparar?

1. Mapeie a presença digital da sua marca: Saiba onde seus clientes interagem com sua empresa e seus agentes – seja em seu site, via API ou por meio de terceiros – e monitore ativamente esses pontos de entrada para tentativas de falsificação.
2. Monitore os ecossistemas de agentes emergentes: À medida que os mercados e plataformas de agentes abertos (como Hugging Face Spaces) ganham popularidade, fique atento a clones ou bifurcações de suas ferramentas aparecendo em outros lugares.
3. Reduza o tempo de detecção (TTD) e o tempo de remediação (TTR): Use soluções que permitam identificar e remover rapidamente os impostores, especialmente aqueles que abusam de anúncios pagos ou plataformas de mídia social, é fundamental para limitar os danos.
4. Eduque seus usuários: Construa transparência em suas experiências de agente. Seus usuários devem entender onde e como devem interagir com suas ferramentas e como identificar sinais de alerta.
5. Estabeleça protocolos de autenticidade de agente: Trabalhe em direção à verificação criptográfica ou baseada em metadados que possa confirmar a origem e a legitimidade de um agente.

A solução reside em garantir a segurança do ecossistema de agentes de IA, e não em evitá-lo. Assim como aprendemos a verificar domínios, autenticar e-mails e verificar aplicativos móveis nas últimas décadas, agora precisamos estender o mesmo grau de vigilância para o mundo dos agentes de IA. Se não anteciparmos a impersonação de agentes agora, podemos logo nos encontrar conversando com um assistente que parece familiar, mas que trabalha para o outro lado.