AI pode nos ajudar a encontrar pessoas reais, não substituí‑las

Uma imagem falsa engana até os olhos mais atentos, mas o comportamento falso que a plataforma vê não deveria.  

Nos últimos vinte anos, a indústria de encontros online ensinou a segurança do usuário como uma lista de verificação simples. Aconselhávamos os usuários a examinar a foto, verificar a coerência da história da pessoa ou insistir em uma chamada de vídeo antes de concordar em encontrar‑se. Essa orientação, antes o padrão‑ouro da segurança digital, está completamente obsoleta hoje.A prova definitiva chegou em um estudo de fevereiro de 2025 da iProov, um fornecedor líder de biometria. Os pesquisadores perguntaram a 2,000 participantes no Reino Unido e nos EUA para rotular vários itens — usando tanto imagens quanto vídeos — como reais ou sintéticos. Os resultados foram impressionantes: apenas dois participantes não cometeram erros. Isso representa apenas 0,1 % das pessoas testadas, o que significa que os outros 1,998 cometeram ao menos um erro. Alta confiança combinada com alta taxa de erro é uma mistura perigosa para os consumidores. E os fraudadores estão mais que prontos para explorá‑la.De acordo com o Entrust 2026 Identity Fraud Report, deepfakes agora representam um em cada cinco tentativas de fraude biométrica. Selfies manipulados por deepfake aumentaram 58 % em 2025, e ataques de injeção aumentaram 40 % ano a ano. Esperar que um usuário comum supere um modelo de IA generativa altamente avançado na percepção visual é uma abdicação de responsabilidade; isso transfere o risco diretamente da plataforma para o cliente.

Fraude não se trata mais de encontrar imagens falsas

A realidade é que as ferramentas de detecção atuais estão falhando porque executam testes de nível de objeto em um objeto de cada vez. Um teste pergunta se uma imagem específica foi gerada por IA. Outro verifica se um documento é falsificado, enquanto um terceiro verifica se o texto de uma mensagem foi escrito por máquina. O problema é que cada um desses testes se torna obsoleto rapidamente. À medida que o progresso dos modelos generativos eleva continuamente a qualidade da saída, as respostas anteriores e os métodos de detecção ficam desatualizados ou obsoletos quase da noite para o dia.

Uma abordagem muito melhor substitui a aparência de sinal único pela combinação conjunta de muitos sinais. Nosso método avalia as relações entre várias dimensões da presença de um usuário. Uma dimensão do sinal é como um dispositivo aparece para o nosso sistema. Outra é de onde a sessão do usuário está chegando. Uma terceira é como a conta realmente se comporta. Tudo isso leva a uma revisão humana quando o sistema sinaliza indicadores de possível fraude.

O Escritório das Nações Unidas sobre Drogas e Crime, em seu Avaliação da Ameaça do Crime Organizado Transnacional para South-East Asia 2026, estimou as perdas por golpes online em 2025 entre US$88,3 bilhões e US$114,1 bilhões apenas nas áreas reportadas. A fraude industrial nessa escala funciona com velocidade e volume. Qualquer informação isolada pode ser facilmente falsificada, mas falsificar todos deles de forma consistente — em múltiplas contas que são continuamente derrubadas pela plataforma — torna-se excessivamente oneroso de manter. Cada camada de atrito que introduzimos eleva o custo por conta do negócio de fraude até que sua margem de lucro chegue a zero.

É aqui que a IA realmente demonstra seu valor. Enquanto a detecção de falsificações melhorou com novas tecnologias, a capacidade aprimorada de identificar fatores coincidentes que indicam fraude — e conduzem a intervenções mais precoces — é muito melhor para nossos usuários. Quando os indicadores de um usuário divergem, sua verdadeira intenção é revelada. Um membro honesto, um fraudador e um visitante com outro propósito podem compartilhar fotos idênticas e linhas de abertura quase idênticas. Contudo, seus indicadores combinados diferirão e contarão uma história completamente distinta. A forma como as pessoas respondem, a rapidez com que respondem, como escalam a conversa, o que perguntam e quais conversas são abandonadas pintam um quadro. A identidade pode ser uma mentira gerada perfeitamente, mas o comportamento sempre revelará más intenções.

A assimetria de informação: plataformas sabem o que os usuários não sabem

A Comissão Federal de Comércio informou em 2026 que as perdas com golpes românticos em 2025 subiu 22 % em relação a 2024, atingindo aproximadamente US$1,5 bilhão. Entre os que identificaram como foram contatados, cerca de 60 % disseram que o contato inicial ocorreu em uma plataforma de mídia social.

Existe uma enorme lacuna de informação em nossa indústria. As plataformas veem as mesmas categorias de sinal, mas quase certamente também podem ver o país de login e a idade da conta, por exemplo. Tudo o que os membros veem é um sorriso e um parágrafo cuidadosamente elaborado que mistura astutamente algo de seu perfil. As plataformas têm o poder de agir sobre esses dados ocultos, usá‑los para criar um ambiente mais seguro, ou divulgá‑los para que os membros possam agir de acordo. Infelizmente, a maior parte da indústria não faz nenhum dos dois.

A inação da indústria costuma estar relacionada aos complexos trade‑offs referentes à privacidade do usuário. A metade custosa dessa equação é tomar medidas. Existem duas vias para estabelecer confiança: a via lenta é a reputação, e a via rápida é a verificação. A verificação cria atrito. A indústria quer predominantemente velocidade, volume e baixo atrito, o que explica sua crônica sub‑verificação.

No entanto, soluções estão surgindo. Um preprint de agosto de 2024 no arXiv propôs “personhood credentials“. Os 32 autores de instituições como OpenAI, Microsoft, MIT, Oxford e Harvard propuseram uma credencial de preservação de privacidade que permite a alguém provar a um serviço que é uma pessoa real sem revelar sua identidade subjacente. Seu argumento é que os CAPTCHAs são inadequados e a detecção de anomalias está se tornando rapidamente ineficaz contra IA capaz. Eles estão certos. Namorar é um dos lugares onde as consequências dessa erosão são mais duras porque o produto central vendido é a própria confiança.

Construindo um Padrão Comunitário Melhor

Os mesmos sinais que ajudam a identificar condutas possivelmente criminosas também podem ajudar a identificar outros tipos de atos nocivos. A leitura de intenção vai muito além de simplesmente impedir fraudes. Nem todo agente nocivo em um site é um criminoso. Um usuário desagradável pode não estar infringindo a lei, e um relacionamento tratado como transação pode não ser fraude. Tratar as pessoas com desprezo não leva a uma acusação federal. Mas esses comportamentos degradam profundamente a comunidade. Pior, eles são frequentemente invisíveis para sistemas que dependem totalmente de denúncias de membros para seus programas de aplicação.

A indústria tradicionalmente traçou a linha na ilegalidade: filtrar fraudes e menores, remover o que a lei exige estritamente, e tratar o resto como questão entre adultos consententes. Não conheço nenhum outro site de namoro que use IA para ajudar a identificar comportamentos transacionais e ativamente impedi‑los. Nosso recurso Stop@Send avalia a mensagem enviada pelo remetente enquanto está sendo enviada. Ele procura um significado mais profundo ao invés de simplesmente comparar o conteúdo a uma lista estática de palavras‑chave. Na maioria das vezes, a resposta é uma explicação entregue ao remetente, informando precisamente por que a mensagem é inadequada para a comunidade.

Isso não é gratuito, claro. Interromper conversas de membros cria atrito, o que, surpreendentemente, é um custo que escolhemos absorver ativamente. Mas nossos padrões são melhor estabelecidos pelo que realmente é permitido em nossa plataforma, não pelo que está publicado em uma página de diretrizes comunitárias não aplicada. Uma plataforma que não incomoda um agente nocivo não tem o direito de se chamar comunidade.

O Desafio para a Indústria

O mercado atualmente está correndo para que a IA substitua pessoas: vemos o surgimento de companheiros de IA, perfis gerados por IA e agentes de flerte. Acredito firmemente que essa direção é um beco sem saída. Ela otimiza totalmente para engajamento, mas não entrega nada além disso. Nossa abordagem é fundamentalmente diferente. Estamos usando IA para ajudar a eliminar os agentes nocivos, responsabilizar os membros uns aos outros e ajudá‑los a tratar‑se de maneiras que têm mais probabilidade de levar a relacionamentos significativos no mundo real.

Listas de sinais de alerta a evitar perderam seu valor. Os sinais que antes denunciavam fraudadores são exatamente as características que os modelos generativos aprenderam a eliminar, criando uma corrida armamentista na qual estamos perpetuamente presos. Além da Primeira Regra — nunca envie dinheiro a ninguém que você não conheça e não tenha encontrado pessoalmente, que todos deveriam seguir — a questão chave não é mais sobre a fotografia. É sobre a plataforma, e o que ela está fazendo com o que sabe que seus usuários desconhecem.

Uma plataforma que tem boas respostas a esse desafio está ativamente engenhando a confiança. Uma plataforma que não tem está pedindo que seus membros façam mais trabalho com uma taxa de sucesso de 0,1 por cento apenas para se protegerem.

Coloco esse desafio a todas as plataformas, inclusive a minha. Espero que as respostas sejam honestas e completas. A tecnologia para fechar essa lacuna já existe. A fraude persiste porque impedi‑la significa abrir mão do enorme crescimento que vem pela porta de entrada gigante do cadastro sem esforço. Isso é uma decisão de negócios, não uma limitação técnica. E as plataformas que decidirem corretamente detêm o único ativo que importa nesta discussão: a confiança de seus membros.