Um operador, milhares de romances falsos: a nova economia da fraude com IA

Quando empresas de tecnologia falam sobre segurança, costumam se concentrar em ameaças externas, como violações de dados, infraestrutura vulnerável ou credenciais roubadas. Mas, para empresas baseadas na interação humana, uma das ameaças mais sérias pode estar dentro do próprio produto: nas contas que os usuários acreditam pertencer a pessoas reais. Isso é particularmente relevante para os encontros on-line, em que as pessoas compartilham informações pessoais, dedicam tempo a conversas e desenvolvem vínculos emocionais com desconhecidos. As consequências da fraude vão além dos vínculos emocionais com desconhecidos. Elas afetam a disposição dos usuários de confiar na plataforma e nas pessoas que conhecem por meio dela.

De acordo com uma pesquisa publicada pela Sumsub em 2026, 84% dos usuários de aplicativos de namoro do Reino Unido entrevistados acreditavam que o conteúdo gerado por IA havia dificultado confiar em possíveis parceiros ou ter sucesso nos encontros, em comparação com 64% em 2025. Outros 61% já haviam sido enganados por perfis falsos ou conheciam alguém que havia passado por isso. Essas constatações refletem a percepção dos consumidores, não a prevalência real de contas fraudulentas. Ainda assim, revelam um problema para um setor cujo sucesso depende da disposição das pessoas de interagir com desconhecidos. A IA está tornando mais barato simular interações, o que cria um desafio fundamental para empresas baseadas em interações humanas genuínas.

Como a IA mudou a economia da fraude

Golpes românticos não são novidade. Há décadas, fraudadores usam fotografias roubadas, identidades inventadas e conversas roteirizadas. O que mudou foi o custo e a complexidade de operar esses esquemas em grande escala. Antes, manter milhares de perfis convincentes exigia muitos recursos humanos, e os golpistas precisavam conduzir conversas, lembrar detalhes pessoais, manter identidades coerentes e responder aos usuários por longos períodos. A IA generativa reduziu grande parte desse trabalho operacional.

Em setembro de 2026, a Anthropic publicou uma investigação sobre uma rede de mais de 20 aplicativos de namoro enganosos operados por um estúdio sediado na China. Durante um período de duas semanas, pesquisadores identificaram mais de 4.700 interações de personas de IA com pelo menos 25.000 pessoas e a geração de aproximadamente 2,36 milhões de mensagens. A operação combinava conversas geradas por IA com trabalhadores humanos, responsáveis por interações que exigiam uma pessoa real, incluindo chamadas de vídeo ao vivo. Os aplicativos ocultavam a natureza automatizada do serviço, apresentando aos usuários o que pareciam ser oportunidades genuínas de namoro. Eram aplicativos concebidos para enganar, em vez de perfis fraudulentos operando dentro de plataformas de namoro estabelecidas. No entanto, o caso mostra como a IA pode reduzir drasticamente os recursos necessários para fabricar interações humanas convincentes.

Para as plataformas de namoro legítimas, tecnologias semelhantes representam um desafio crescente. Fotografias geradas, mensagens automatizadas, identidades roubadas e ferramentas criadas para contornar sistemas de verificação podem ser usadas para criar e manter contas fraudulentas. O problema já não se limita a identificar perfis suspeitos. As plataformas precisam responder a ataques cada vez mais sofisticados enquanto o custo de realizá-los continua caindo. Isso também muda a economia de operar um negócio de namoro. A confiança é tanto uma questão de produto quanto de negócio.

A fraude gera custos para os negócios que vão além da moderação. Contas falsas produzem cadastros, curtidas e conversas que parecem legítimos nas análises do produto, o que pode distorcer os sinais usados pelos algoritmos de recomendação e pelos testes A/B. Há também um aspecto comercial: usuários que continuam encontrando perfis falsos podem deixar de iniciar conversas, ficar menos ativos ou gastar menos. A dimensão desse efeito varia entre plataformas e precisa ser medida, não presumida. No setor de namoro, portanto, o combate à fraude faz parte da economia do produto, não é apenas uma função de segurança. À medida que a IA barateia a produção de atividades sintéticas, distinguir o engajamento real do fabricado se torna uma decisão central para o produto.

O dilema da gestão: segurança versus crescimento

Uma verificação mais rigorosa parece uma resposta óbvia à fraude cada vez mais sofisticada. Na prática, a decisão é mais complexa: cada etapa adicional no processo de cadastro gera atrito. Exigir documentos de identidade, verificação biométrica ou checagens repetidas pode impedir certas formas de abuso, mas também pode desestimular usuários legítimos a concluir o cadastro. Isso afeta diretamente a economia da aquisição. Se o mesmo orçamento de marketing gerar menos usuários cadastrados e ativados, o custo de aquisição por cadastro concluído aumenta.

Para aplicativos de namoro, as consequências podem ir além do processo de cadastro. Diferentemente de muitos outros produtos de consumo, as plataformas de namoro dependem da densidade da rede local: os usuários precisam encontrar um número suficiente de possíveis parceiros ativos e relevantes em determinada região para que a experiência de combinação funcione. Um processo de verificação que limite desnecessariamente os cadastros legítimos pode, portanto, retardar o desenvolvimento de uma rede local, reduzir as oportunidades de combinação e afetar a retenção. Ao mesmo tempo, permitir que contas fraudulentas permaneçam ativas gera outros custos: consumo de infraestrutura, carga de trabalho de moderação, recomendações distorcidas e queda da confiança dos usuários. Segurança excessiva pode tornar um produto difícil de usar. Segurança insuficiente pode torná-lo impossível de confiar.

A prevenção de fraudes deve ser tratada como uma decisão de produto e de negócio, não como uma função técnica isolada. Uma abordagem baseada em risco combina proteções básicas no cadastro com análise comportamental, sinais do dispositivo, monitoramento de conteúdo e verificações mais rigorosas quando surge atividade suspeita. Ainda assim, passar por uma verificação não torna um usuário confiável, pois comprovar presença não comprova intenção. A eficácia deve ser avaliada considerando em conjunto várias dimensões, entre elas o desempenho na detecção, os falsos positivos, a rapidez na aplicação das medidas, os custos de verificação, a conversão e a retenção. Uma detecção melhor que restrinja indevidamente muitos usuários legítimos não representa um resultado melhor para o negócio. A privacidade acrescenta outra camada, pois analisar comunicações ou coletar sinais adicionais de identidade exige transparência, minimização de dados e controles rigorosos de acesso. A questão não é quantas contas fraudulentas uma plataforma consegue bloquear, mas quão bem ela reduz os riscos sem prejudicar a experiência dos usuários legítimos.

Além da verificação: o papel da comunidade

À medida que as conversas geradas por IA se tornam mais convincentes, surge uma questão de produto. As plataformas de namoro devem se concentrar apenas nas interações digitais ou também criar mais oportunidades para que elas se desenvolvam no mundo real? Na Fledge, estamos explorando um modelo que combina recomendações baseadas em compatibilidade com eventos presenciais e experiências comunitárias, para que a transição da descoberta algorítmica para o encontro presencial pareça natural. Um evento não comprova que alguém seja confiável nem substitui a verificação, mas acrescenta um contexto social que perfis e conversas não conseguem reproduzir. Vemos nisso uma direção promissora, não uma resposta completa à fraude com IA.

A IA deve ajudar as pessoas a encontrar parceiros compatíveis, apoiar a moderação e detectar comportamentos suspeitos, não fabricar a aparência de relacionamentos. Portanto, o sucesso deve ser medido para além dos usuários ativos, dos matches e da conversão, incluindo a qualidade das interações, a autenticidade e os resultados que os usuários realmente buscam. Uma plataforma com alto engajamento, mas poucas conexões genuínas, corre o risco de otimizar o resultado errado.

A confiança como vantagem competitiva

A IA continuará fortalecendo tanto os fraudadores quanto as plataformas que os combatem, e é improvável que uma única solução técnica seja suficiente. A proteção exigirá adaptação contínua, várias camadas de detecção e uma avaliação responsável e cuidadosa das compensações comerciais. Mas o desafio vai além da cibersegurança. A confiança molda a qualidade do produto, o crescimento da rede, o comportamento dos usuários e a receita de longo prazo; à medida que o engajamento falso fica mais barato, as interações autênticas se tornam mais valiosas. No namoro, a confiança não é um recurso de segurança e, mais uma vez, a confiança é o produto. A próxima geração de plataformas talvez conquiste espaço menos por gerar mais interações e mais por criar um ambiente em que os usuários possam confiar que essas interações são reais.