Imagine isso: Você está no trabalho, completamente focado em um prazo apertado, quando recebe uma ligação de um número que parece ser o da sua mãe. A voz do outro lado é inconfundivelmente a dela, calma e amorosa, mas com um tom de urgência incomum. Ela diz que se meteu em uma situação difícil enquanto estava de férias em Paris e precisa da sua ajuda financeira imediatamente para resolver as coisas. Você sabe que ela está em Paris, e os detalhes que ela fornece, até o nome do seu hotel, tornam a ligação ainda mais convincente. Sem hesitar, você transfere o dinheiro, apenas para descobrir mais tarde que sua mãe nunca fez aquela ligação; era um sistema de IA avançado que imitava perfeitamente a voz dela e fabricava um cenário detalhado. Arrepios correm pela sua espinha quando você se dá conta do que acabou de acontecer.

Este cenário, outrora pura ficção científica, agora é uma realidade emergente. O amanhecer das tecnologias de IA, como os grandes modelos de linguagem (LLMs), trouxe avanços incríveis. No entanto, uma ameaça significativa paira: golpes impulsionados por IA. O potencial para golpes sofisticados alimentados por inteligência artificial é uma nova ameaça no horizonte do progresso tecnológico. Embora os golpes por telefone tenham sido uma preocupação desde a invenção do telefone, a integração ampla de grandes modelos de linguagem (LLMs) em todos os aspectos da comunicação digital elevou as apostas de forma dramática. À medida que abraçamos o potencial da IA, é crucial que também fortaleçamos nossas defesas contra essas ameaças cada vez mais sofisticadas.

O Cenário Atual dos Golpes por Telefone

Os criminosos vêm tentando enganar indivíduos inocentes para que transfiram dinheiro ou divulguem informações sensíveis por anos, mas, apesar da prevalência dos golpes por telefone, muitos desses golpes são relativamente não sofisticados, dependendo de operadores humanos que leem scripts. No entanto, mesmo com essa limitação, os golpes por telefone continuam a ser uma empresa criminosa lucrativa.

De acordo com a Comissão Federal de Comércio dos EUA, em 2022, os americanos perderam mais de $8,8 bilhões para fraudes, com uma parcela significativa atribuída a golpes por telefone, o que significa que, mesmo em sua forma atual, menos avançada, muitas dessas táticas ainda funcionam em indivíduos vulneráveis. O que acontece quando elas evoluem?

O Futuro Impulsionado por IA dos Golpes

O cenário dos golpes por telefone está prestes a sofrer uma mudança dramática com o advento de várias tecnologias-chave:

Grandes Modelos de Linguagem (LLMs)

Esses sistemas de IA podem gerar texto semelhante ao humano e engajar-se em conversas naturais. Quando aplicados a golpes, os LLMs poderiam criar scripts altamente convincentes e adaptáveis, tornando muito mais difícil para as vítimas potenciais identificar o golpe.

Geração Aumentada por Recuperação (RAG)

Essa tecnologia permite que os sistemas LLM acessem e utilizem vastas quantidades de informações em tempo real. Os golpistas podem criar um perfil de uma pessoa com base nas informações publicamente disponíveis, como suas contas sociais. Eles também podem usar técnicas de engenharia social em amigos e familiares para coletar informações mais profundas. Isso lhes dará acesso a informações como a identidade da vítima, informações de trabalho ou até mesmo atividades recentes. Em seguida, eles podem usar o RAG para fornecer ao LLM o contexto necessário, tornando suas abordagens parecerem incrivelmente personalizadas e legítimas.

Geração de Áudio Sintético

Plataformas como Resemble AI e Lyrebird estão liderando o caminho na criação de vozes realistas geradas por IA. Essas tecnologias são capazes de produzir áudio personalizado e semelhante ao humano, que pode ser utilizado em várias aplicações, desde assistentes virtuais até serviço de atendimento ao cliente automatizado e criação de conteúdo. Empresas como ElevenLabs estão empurrando os limites mais além, permitindo que os usuários criem vozes sintéticas que podem replicar de perto as suas próprias, permitindo um novo nível de personalização e engajamento em interações digitais.

Geração de Vídeo Sintético

Empresas como Synthesia já estão demonstrando o potencial para criar conteúdo de vídeo realista com avatares gerados por IA. Nos próximos anos, essa tecnologia poderia permitir que os golpistas imitassem amigos ou familiares, ou criassem personagens completamente fictícios para chamadas de vídeo, introduzindo um nível de realismo físico anteriormente impossível nos golpes.

Sincronização Labial por IA

Startups como Sync Labs estão desenvolvendo tecnologias de sincronização labial avançadas que podem combinar áudio gerado com footage de vídeo. Isso pode ser usado para criar vídeos de deep-fake altamente convincentes de figuras históricas, políticos, celebridades e praticamente qualquer outra pessoa, obscurecendo ainda mais a linha entre realidade e engano.

A combinação dessas tecnologias pinta um quadro bastante preocupante. Imagine uma ligação de golpe onde a IA pode adaptar a conversa em tempo real, armada com informações pessoais sobre a vítima, e até mesmo fazer a transição para uma chamada de vídeo com uma pessoa aparentemente real cujos lábios se movem em perfeita sincronia com a voz gerada. O potencial para engano é verdadeiramente enorme.

A Necessidade de Medidas de Segurança Aumentadas

À medida que esses golpes impulsionados por IA se tornam mais sofisticados, os métodos de verificação de identidade e autenticidade terão que correr em paralelo com os avanços da IA. Haverá necessidade de avanços regulatórios, bem como tecnológicos, para manter o mundo online seguro.

Melhorias Regulatórias

Leis de Privacidade de Dados mais Rígidas: A implementação de leis de privacidade de dados mais rigorosas restringiria a quantidade de informações pessoais disponíveis para os golpistas explorarem. Essas leis poderiam incluir requisitos mais estritos para a coleta de dados, protocolos de consentimento do usuário aprimorados e penalidades mais severas para violações de dados.

Nuvem Privada para os Modelos de IA Mais Potentes: Regulamentações poderiam exigir que os modelos de IA mais potentes sejam hospedados em infraestruturas de nuvem privada e seguras, em vez de serem disponibilizados abertamente. Isso limitaria o acesso às tecnologias mais avançadas, tornando mais difícil para os atores mal-intencionados usá-las para golpes. (por exemplo: https://security.apple.com/blog/private-cloud-compute/)

Colaboração Internacional sobre Regulamentações de IA: Dada a natureza global da tecnologia de IA, a colaboração internacional sobre padrões regulatórios poderia ser benéfica. Estabelecer um órgão global responsável por criar e aplicar regulamentações internacionais de IA poderia ajudar a combater crimes relacionados à IA transfronteiriços.

Campanhas de Conscientização Pública: Os governos e órgãos reguladores devem investir em campanhas de conscientização pública para educar os cidadãos sobre os riscos potenciais dos golpes de IA e como se proteger. A conscientização é um passo crucial para empoderar indivíduos e organizações a implementar medidas de segurança necessárias.

As regulamentações atuais de IA são insuficientes para prevenir golpes, e o desafio da regulamentação futura é complicado pela natureza de código aberto de muitas tecnologias poderosas. Essa abertura permite que qualquer pessoa acesse e modifique essas tecnologias para seus próprios propósitos. Como resultado, ao lado de regulamentações mais fortes, são necessários avanços em tecnologias de segurança.

Detecção de Dados Sintéticos

Detecção de Áudio Sintético: À medida que os golpistas empregam a IA, também devem nossas defesas. Empresas como Pindrop estão desenvolvendo sistemas alimentados por IA que podem detectar áudio sintético em tempo real durante chamadas de telefone. Sua tecnologia analisa mais de 1.300 recursos de um áudio de chamada para determinar se está vindo de uma pessoa real ou de um sistema de IA sofisticado.

Detecção de Vídeo Sintético: Detecção de Vídeo Sintético: Assim como o áudio pode ser manipulado pela IA, o vídeo também pode ser, representando ameaças significativas na forma de deep-fakes e outros conteúdos de vídeo sintéticos. Empresas como Deepware estão liderando o desenvolvimento de tecnologias para detectar vídeo sintético. A plataforma da Deepware usa algoritmos de aprendizado de máquina avançados para analisar inconsistências sutis nos dados de vídeo, como movimentos não naturais, iluminação irregular e anomalias de pixels que geralmente estão presentes em conteúdo gerado por IA. Ao identificar essas discrepâncias, a tecnologia da Deepware pode determinar se um vídeo é genuíno ou foi manipulado, ajudando a proteger indivíduos e organizações de serem enganados por golpes sofisticados baseados em vídeo e campanhas de desinformação.

Avanços na Autenticação de Identidade

Existem várias maneiras sendo desenvolvidas para confirmar a identidade de um usuário e uma ou mais delas se tornarão mainstream nos próximos anos para tornar a internet mais segura.

Autenticação de Dois Fatores para Conversas Remotas: A autenticação de dois fatores (2FA) permanece um componente fundamental da comunicação segura. Sob esse método, cada chamada de telefone ou e-mail acionaria uma mensagem de texto com um código de verificação único, semelhante aos atuais cadastros de e-mail. Embora a 2FA seja eficaz para autenticação básica, suas limitações significam que ela não pode ser confiável em todos os contextos, necessitando o desenvolvimento de métodos mais avançados para garantir a segurança abrangente da internet que possa funcionar em segundo plano.

Autenticação Multifator Baseada em Comportamento: Além de apenas verificar a identidade no início de uma chamada, os sistemas de segurança futuros podem analisar continuamente o comportamento ao longo de uma interação. Empresas como BioCatch usam biometria comportamental para criar perfis de usuário com base em como os indivíduos interagem com seus dispositivos. Essa tecnologia pode detectar anomalias no comportamento que possam indicar que um golpista está usando informações roubadas, mesmo que tenha passado nas verificações iniciais de autenticação.

Autenticação Baseada em Biometria: Empresas como Onfido estão à frente da tecnologia de verificação de identidade biométrica, oferecendo ferramentas de verificação de identidade alimentadas por IA que detectam deep-fakes sofisticados e outras formas de fraude de identidade. Seu sistema usa uma combinação de verificação de documentos e análise biométrica para garantir que a pessoa do outro lado de uma chamada ou chat de vídeo seja realmente quem afirma ser.

Autenticação Avançada Baseada em Conhecimento: Os sistemas de autenticação futuros podem incorporar perguntas dinâmicas e geradas por IA com base na pegada digital do usuário e atividades recentes. Por exemplo, Prove, uma empresa especializada em identidade centrada no telefone, está desenvolvendo soluções que aproveitam a inteligência do telefone e análise comportamental para verificar identidades. Sua tecnologia pode analisar padrões de como uma pessoa usa seu dispositivo para criar uma “assinatura de identidade” única que é significativamente mais difícil para os golpistas replicar.

Autenticação de Identidade Baseada em Blockchain: A tecnologia blockchain oferece um método descentralizado e seguro de verificação de identidade. Empresas como Civic estão pioneiras em sistemas de verificação de identidade baseados em blockchain que permitem que os usuários controlem suas informações pessoais enquanto fornecem autenticação segura. Esses sistemas criam um registro verificável e imutável da identidade de uma pessoa, ideal para gerenciar transações de alto risco.

Conclusão

A convergência de LLMs, RAG, geração de áudio sintético, geração de vídeo sintético e sincronização labial é uma espécie de espada de dois gumes. Embora esses avanços tenham um potencial imenso para aplicações positivas, eles também representam riscos significativos quando utilizados por golpistas.

Essa corrida armamentista contínua entre especialistas em segurança e cibercriminosos destaca a necessidade de inovação contínua e vigilância no campo da segurança digital. Podemos trabalhar para aproveitar os benefícios dessas ferramentas poderosas, mitigando seu potencial para causar danos, apenas reconhecendo e nos preparando para esses riscos.

Regulamentação abrangente, educação sobre essas novas formas de golpes, investimento em medidas de segurança de ponta e, talvez mais importante, uma saudável dose de ceticismo de cada um de nós ao interagir com entidades desconhecidas online ou por telefone será essencial para navegar nesse novo cenário.