Usando ‘Probabilidade’ como Métrica de Detecção de Deepfakes

Se os vídeos e áudios gerados por IA forem suficientemente avançados, os detectores de deepfakes baseados em artefatos visuais ou outros sinais tradicionais não funcionarão mais. No entanto, considerando o quão raramente as pessoas se desviam do comportamento previsível, talvez a ‘probabilidade’ possa ser adotada mais profundamente como um sinal de que um vídeo ou notícia é provável de ser verdadeiro.

Opinião No início dos anos 90, o respeitado ex-jogador de futebol britânico e comentarista esportivo David Icke revelou casualmente em um programa de entrevistas que ele era ‘o filho de Deus’ – uma revelação bizarra e inesperada que evoluiria ao longo das décadas seguintes em uma teoria da conspiração persistente e elaborada sobre uma cabala secreta e poderosa de ‘pessoas-lagarto’.

Com a adoção da internet ainda alguns anos à frente, e o advento das redes sociais ainda mais distante, a dissonância entre a celebridade de Icke e a natureza de suas novas percepções teve um impacto profundo no público britânico – não menos devido à falta total de contexto ou qualquer tipo de preparação para essa mudança massiva, de uma personalidade esportiva bem conhecida e bem estabelecida.

Mais de vinte anos depois, uma cepa similar e muito mais sombria desse choque social ocorreu, quando o amado ativista de caridade e apresentador de TV infantil Jimmy Savile foi descoberto postumamente como um criminoso sexual serial e rapaz que usou sua imagem pública para facilitar seus crimes.

A subsequente investigação policial Operation Yewtree descobriu muitos mais celebridades britânicas com longas histórias de ofensas sexuais; mais tarde, o processo de Harvey Weinstein levou a uma descoberta semelhante de agressores sexuais celebridades nos EUA, evoluindo para o movimento #metoo, e se tornando permanentemente parte da cultura americana em produções como The Morning Show. Notícias de ‘choque’ pareciam estar desenvolvendo um novo e abrupto modelo – um que eventualmente se tornaria adotado por atacantes de deepfakes.

O Fim da Detecção Tradicional de Deepfakes?

Mesmo que as redes sociais e a IA estivessem presentes nos anos 90, nenhum sistema preditivo no mundo poderia ter previsto as revelações de Icke no programa de entrevistas, que (como eu me lembro bem) não foram de forma alguma antecipadas nos anos que antecederam o evento.

Mas então, se a IA estivesse presente, poderia ter levado algum tempo para convencer uma audiência mais ampla de que as declarações de Icke não eram o produto de Google Veo 3, ou de outra geração de frameworks de deepfakes de áudio/vídeo hiper-realistas.

É apenas nos últimos 6-12 meses que os métodos de deepfakes de IA se tornaram suficientemente eficazes para cumprir anos de previsões da mídia sobre interferência eleitoral de deepfakes, e capazes de gerar o tipo de mancha reputacional rápida que é falsa, mas difícil de erradicar em uma cultura cada vez mais crédula.

Até o momento, a saída de vídeo de IA geralmente deixa a desejar em termos de realismo, limitada por obstáculos técnicos e cada vez mais polarizada por uma lacuna crescente entre modelos restritivos ocidentais e lançamentos de código aberto não censurados da China^**.

No entanto, eu noto cada vez mais na literatura de pesquisa uma concessão iminente dessa guerra fria, por exemplo, no novo artigo Decadência de Desempenho na Detecção de Deepfakes^†:

‘[Nós] supomos que os vídeos de deepfakes continuarão a conter recursos aprendíveis por máquina que distiguem-nos confiavelmente dos vídeos genuínos. À medida que as capacidades da IA geradora continuam a avançar rapidamente, essa suposição pode muito bem se quebrar.

‘Nesse cenário, a marca d’água e outros métodos de rastreamento de proveniência oferecerão a única solução para manter a confiança na mídia digital.’

No entanto, o mesmo artigo admite que soluções baseadas em proveniência, como a Iniciativa de Autenticidade de Conteúdo da Adobe (e as muitas ofertas menores de pesquisa oferecidas nos últimos 7-8 anos) exigem uma adoção tão ampla que é irrealista; e o artigo termina em uma nota geral de retirada, se não derrota.

Se os métodos de detecção de deepfakes de áudio-visual forem superados pela IA geradora, e a adoção global de um esquema de marca d’água ou proveniência intrusivo cair em obstáculos logísticos diversificados, qual característica central comum poderia substituí-los como indicadores de saída potencialmente falsificada? Ou devemos nos resignar a um mundo em que toda a mídia está em dúvida, e o Dividendo do Mentiroso prevalece?

Grafos de Conhecimento

Parece ser hora de aproveitar mais profundamente a probabilidade e a plausibilidade de ‘eventos relatados’ como uma característica sinal em detecção de deepfakes. Além disso, como os sistemas de IA geradora de vídeo e áudio estão convergindo cada vez mais, pode ser hora de que as pesquisas separadas de ‘notícias falsas’ (como um evento narrativo baseado em texto) e imagens/vídeos falsos também converjam.

Uma probabilidade métrica de deepfake não é a mesma que RAG-aided verificação de fatos, onde um modelo de IA pode trazer resultados da web atuais para obter conhecimento de eventos que ocorrem após sua própria data de corte, e/ou para corroborar suas alegações.

Rather, ele realizaria previsões com base em tendências estatísticas geralmente indicativas, derivadas de padrões históricos que se conformam a uma investigação atual.

Isso é mais próximo de análise estatística do que abordagens mais modernas na cena atual de aprendizado de máquina.

Embora anteriormente eclipsada por abordagens mais modernas da era dos Transformers, grafos de conhecimento estão fazendo um retorno no espaço Empresarial, e parecem adaptados ao potencial de implantação de métricas de ‘probabilidade’ em detecção de deepfakes.

Um gráfico de conhecimento simplificado que ilustra como pessoas, lugares, obras de arte e eventos podem ser vinculados por meio de relacionamentos rotulados, permitindo que as máquinas raciocinem sobre entidades e conexões do mundo real. Fonte

Um gráfico de conhecimento é uma forma de organizar informações mapeando coisas do mundo real, como pessoas, empresas, eventos ou ideias, em uma rede de fatos conectados.

Cada sub-entidade é um nó, e os links entre eles (arestas) descrevem como eles se relacionam. Por exemplo, ‘Microsoft’ (um nó) pode ser vinculado a ‘OpenAI’ (outro nó) por uma aresta que diz ‘é um cliente de’. Essas conexões são frequentemente armazenadas em bancos de dados gráficos e seguem uma estrutura de sujeito-predicado-objeto, como ‘Microsoft é um cliente de OpenAI’.

Memória Persistente

Um estudo chinês de setembro deste ano propôs um método de treinamento livre que usa raciocínio baseado em grafos para detectar inconsistências sutis em deepfakes multimodais.

Ao invés de gerar razões ou ajustar modelos grandes, o sistema recupera pares de imagem-texto, constrói um gráfico de similaridade e pontua conexões, a fim de recuperar os exemplos mais relevantes, e esses guiam o julgamento do modelo sem a necessidade de novo treinamento:

Visão geral do framework GASP-ICL, que melhora a detecção de deepfakes combinando a seleção de amostras baseada em grafos com o aprendizado em contexto, permitindo que um modelo de visão-linguagem congelado classifique pares de imagem/texto como reais ou falsos, sem treinamento ou ajuste.  Fonte

Isso provavelmente é o trabalho mais próximo, certamente que cruzou meu caminho, de uma abordagem ‘informada’ e consciente da história para a avaliação e verificação de saída de mídia nova. Na maior parte, as abordagens de visão computacional continuam a analisar imagens (incluindo frames de vídeos e anomalias temporais que abrangem várias frames) enquanto os quadros de detecção de ‘notícias falsas’ continuam a enfatizar dados baseados em texto, mesmo em projetos multimodais.

Crescimento de Recursos

O desafio de um sistema preditivo desse tipo é o escopo de vigilância que pode ser necessário para tornar a abordagem totalmente performática – pelo menos além da análise de celebridades e figuras públicas, para as quais dados livremente acessíveis já existem.

Provavelmente a pesquisa mais semelhante atual é o campo de pré-crime, que rotula sinais de inteligência multimodais diversificados como ‘suspiciosos’, e se apresenta como um espantalho de IA robusto em produções como Pessoa de Interesse (2011-2016), de Jonathan Nolan, e Relatório Minoritário (2002), de Steven Spielberg.

Embora um sistema de vigilância onipresente do tipo Pessoa de Interesse produziria resultados ótimos, é improvável que a cultura ocidental pudesse sancionar o nível de intrusividade pessoal que as redes internas da China impõem a seus cidadãos.

Portanto, em relação a notícias falsas sobre não-celebridades, apenas agências governamentais, como a polícia (bem como registros de nascimento e óbito e escritórios de impostos) teriam informações históricas suficientes para informar probabilidades em um fluxo de trabalho baseado em grafos; e mesmo assim, elas precisariam de uma vontade, capacidade, legislação e recursos no estilo CCCP para incluir cidadãos comuns em sua cobertura e análises (ou seja, além de pontos de dados banais, mas obrigatórios, como números de passaporte e registros de veículos).

Pontuação de Probabilidade

Parece provável que a eficácia potencial de um sistema desse tipo seria limitada aos casos de uso mais óbvios (atuais) para conteúdo de deepfakes: destabilização (deepfakes apoiados pelo Estado); deepfakes de celebridades e ‘desconhecidos’ pornográficos (que podem ser considerados maliciosos, embora o último caso tenda a atrair uma preocupação mais profunda da mídia); fraude (incluindo deepfakes de áudio/vídeo projetados para realizar ‘golpes de impersonação’); e assassinato de caráter político.

Um sistema baseado em conhecimento precisaria de uma escala de probabilidades para uma diversidade de eventos possíveis. Em um extremo do espectro, falhas humanas comuns, como gestão financeira questionável, infidelidade, vício, indiscrição, etc.; no outro… revelar que você é o filho de Deus em um programa de TV ao vivo (ou eventos de escala e impacto semelhantes).

Mesmo nesse último caso, fatores históricos pessoais para qualquer indivíduo pesariam o resultado da probabilidade: uma figura política proeminente que publicamente equilibrou assuntos controversos (como a veracidade dos pouso na lua nos anos 60/70) para ganhar capital com um eleitorado cada vez mais ‘alternativamente informado’ poderia ganhar status adicional de carta branca em rotinas de verificação, em comparação com seus pares mais comedidos.

No caso de pornô de celebridades, há contexto realista suficiente (ou seja, as vazamentos de fotos de celebridades em 2012, entre outros incidentes – relativamente raros) para gerar um Dividendo do Mentiroso moderado, em certos contextos; mas como esses incidentes de outlier tendem a operar como exceções que comprovam a regra, a maioria dos vídeos de pornô de celebridades de difusão atuais seria considerada extremamente ‘improvável’ (embora isso não resolva a questão da apropriação de identidades de pessoas para tais propósitos).

Em termos de interrupção nacional, há uma riqueza considerável de dados estatísticos que pode ajudar a avaliar as probabilidades de ‘relatórios desastrosos’. Mesmo na história antiga, eventos aparentemente ‘inesperados’ como a erupção do vulcão Vesuvius não identificado em 79 d.C. foram antecipados, se você tivesse prestado atenção suficiente; e além da disponibilidade de uma plethora de feeds apoiados por governos e ONGs, a capacidade em evolução da IA de extrair estrutura de dados brutos pode fornecer contexto histórico adicional para pontuação de probabilidade.

Conclusão

Mesmo um sistema preditivo bem implementado desse tipo não poderia dar conta do acaso, atos de Deus, ocorrências aleatórias ou eventos maliciosos concebidos longe de qualquer supervisão.

Além disso, o volume e a profundidade de dados necessários para fornecer cobertura também para pessoas não famosas seriam um ponto de partida político – pelo menos, por enquanto.

No entanto, as escolhas parecem estar se estreitando; a análise baseada em visão está prestes a falhar diante da IA geradora aprimorada, enquanto os esquemas de verificação e proveniência carregam uma carga de dívida técnica e fricção contra a adoção. Isso torna soluções como a Iniciativa de Autenticidade de Conteúdo e o sistema de direitos autorais de face da Metaphysic.ai Metaphysic Pro desafiadoras de popularizar.

Nas suas utilizações mais amplas, os sistemas baseados em RAG podem apenas determinar se uma fonte de autoridade apoia uma alegação não verificada; e como muitas grandes histórias de notícias verdadeiras surgem sem contexto prévio, a falta de substanciação de fontes de autoridade não é necessariamente significativa.

Seu valor pode provar ser maior se eles puderem fazer parte de um ecossistema de dados mais amplo preocupado com a única coisa que a maioria das formas atuais de IA encontra desafiadora – contexto histórico.

* Não confundir com os primeiros autoencoders que debutaram em 2017 e eventualmente seriam suplantados por abordagens superiores.

^† https://arxiv.org/abs/2511.07009

^** Que podem ser executados normalmente em PCs domésticos mais potentes, em vez de estar disponíveis apenas por meio de APIs controladas, como ChatGPT e a série Veo.

^††† Omitindo usos legítimos de entretenimento, como efeitos visuais profissionais em produções de filmes e TV.

Publicado pela primeira vez na quinta-feira, 13 de novembro de 2025