Expondo Edições Pequenas, mas Significativas, de IA em Vídeos Reais

Em 2019, a presidente da Câmara dos Representantes dos EUA, Nancy Pelosi, foi alvo de um ataque de estilo deepfake de baixa tecnologia, quando um vídeo real dela foi editado para fazer com que parecesse bêbada – um incidente irreal que foi compartilhado várias milhões de vezes antes de a verdade sobre ele ser revelada (e, potencialmente, após algum dano persistente à sua capital política ter sido causado por aqueles que não acompanharam a história).

Embora essa distorção tenha exigido apenas some edição de áudio e vídeo simples, e não qualquer IA, ela permanece um exemplo-chave de como mudanças sutis na saída de áudio e vídeo real podem ter um efeito devastador.

Na época, a cena de deepfakes era dominada por sistemas de substituição de face baseados em autoencoders que haviam estreado no final de 2017 e que não haviam melhorado significativamente em qualidade desde então. Tais sistemas antigos teriam dificuldade em criar esse tipo de alterações pequenas, mas significativas, ou em perseguir realisticamente estrandas de pesquisa modernas, como edição de expressões:

O quadro ‘Neural Emotion Director’ de 2022 muda o humor de um rosto famoso. Fonte: https://www.youtube.com/watch?v=Li6W8pRDMJQ

As coisas agora são bem diferentes. A indústria de cinema e TV está seriamente interessada na alteração pós-produção de performances reais usando abordagens de aprendizado de máquina, e a facilitação da IA para o perfeccionismo pós-fato até mesmo veio sob crítica recente.

Antecipando (ou argumentando) essa demanda, a cena de pesquisa de síntese de imagem e vídeo lançou uma ampla gama de projetos que oferecem ‘edições locais’ de capturas faciais, em vez de substituições diretas: projetos desse tipo incluem Diffusion Video Autoencoders; Stitch it in Time; ChatFace; MagicFace; e DISCO, entre outros.

Edição de expressão com o projeto de janeiro de 2025 MagicFace. Fonte: https://arxiv.org/pdf/2501.02260

Rostos Novos, Rugas Novas

No entanto, as tecnologias habilitadoras estão se desenvolvendo muito mais rapidamente do que os métodos de detecção. Quase todos os métodos de detecção de deepfakes que surgem na literatura estão perseguindo os métodos de deepfakes de ontem com conjuntos de dados de ontem. Até esta semana, nenhum deles havia abordado o potencial crescente de sistemas de IA para criar alterações locais pequenas e tópicas em vídeo.

Agora, um novo artigo da Índia redresou isso, com um sistema que busca identificar faces que foram editadas (em vez de substituídas) por meio de técnicas baseadas em IA:

Detecção de Edições Locais Sutis em Deepfakes: Um vídeo real é alterado para produzir fakes com mudanças sutis, como sobrancelhas levantadas, traços de gênero modificados e mudanças de expressão em direção ao desgosto (ilustrado aqui com um único quadro). Fonte: https://arxiv.org/pdf/2503.22121

O sistema dos autores é destinado a identificar deepfakes que envolvem manipulações faciais localizadas sutis – uma classe de falsificação negligenciada. Em vez de se concentrar em inconsistências globais ou falhas de identidade, a abordagem visa mudanças de granulação fina, como ligeiras mudanças de expressão ou pequenas edições de recursos faciais específicos.

O método utiliza o delimitador de Unidades de Ação (AUs) no Sistema de Codificação de Ação Facial (FACS), que define 64 áreas mutáveis individuais possíveis no rosto, que juntas formam expressões.

Algumas das partes constituintes de 64 partes de expressão no FACS. Fonte: https://www.cs.cmu.edu/~face/facs.htm

Os autores avaliaram sua abordagem contra uma variedade de métodos de edição recentes e relatam ganhos de desempenho consistentes, tanto com conjuntos de dados mais antigos quanto com vetores de ataque muito mais recentes:

‘Ao usar recursos baseados em AU para guiar representações de vídeo aprendidas por meio de Autoencoders Mascaramentados (MAE), nosso método captura efetivamente mudanças localizadas cruciais para detectar edições faciais sutis.

‘Essa abordagem nos permite construir uma representação latente unificada que codifica tanto edições localizadas quanto alterações mais amplas em vídeos centrados no rosto, fornecendo uma solução abrangente e adaptável para detecção de deepfakes.’

O novo artigo é intitulado Detectando Manipulações de Deepfakes Localizadas Usando Representações de Vídeo Orientadas por Unidades de Ação, e vem de três autores do Instituto de Tecnologia da Índia em Madras.

Método

Em linha com a abordagem adotada por VideoMAE, o novo método começa aplicando detecção de face a um vídeo e amostrando quadros espaçados uniformemente centrados nas faces detectadas. Esses quadros são então divididos em pequenas divisões 3D (ou seja, patches temporais), cada um capturando detalhe espacial e temporal local.

Esquema para o novo método. O vídeo de entrada é processado com detecção de face para extrair quadros espaçados uniformemente, centrados no rosto, que são então divididos em ‘patches tubulares’ e passados por um codificador que funde representações latentes de duas tarefas de pré-texto pré-treinadas. O vetor resultante é então usado por um classificador para determinar se o vídeo é real ou falso.

Cada patch 3D contém uma janela de tamanho fixo de pixels (ou seja, 16×16) de um número pequeno de quadros consecutivos (ou seja, 2). Isso permite que o modelo aprenda movimento e mudanças de expressão de curto prazo – não apenas como o rosto parece, mas como ele se move.

Os patches são incorporados e codificados posicionalmente antes de serem passados para um codificador projetado para extrair recursos que possam distinguir real de falso.

Os autores reconhecem que isso é particularmente difícil quando se lida com manipulações sutis e abordam essa questão construindo um codificador que combina dois tipos separados de representações aprendidas, usando um mecanismo de atenção cruzada para fundi-los. Isso pretende produzir um espaço de recurso mais sensível e generalizável para detectar edições localizadas.

Tarefas de Pré-Texto

A primeira dessas representações é um codificador treinado com uma tarefa de auto codificação mascarada. Com o vídeo dividido em patches 3D (a maioria dos quais está ocultada), o codificador então aprende a reconstruir as partes faltantes, forçando-o a capturar padrões espaciais e temporais importantes, como movimento facial ou consistência ao longo do tempo.

Treinamento de tarefas de pré-texto envolve mascarar partes da entrada de vídeo e usar uma configuração de codificador-decodificador para reconstruir quadros originais ou mapas de unidades de ação por quadro, dependendo da tarefa.

No entanto, o artigo observa que isso sozinho não fornece sensibilidade suficiente para detectar edições de granulação fina e os autores, portanto, introduzem um segundo codificador treinado para detectar unidades de ação faciais (AUs). Para essa tarefa, o modelo aprende a reconstruir mapas densos de AUs para cada quadro, novamente a partir de entradas parcialmente mascaradas. Isso o encoraja a se concentrar em atividade muscular localizada, que é onde muitas edições de deepfakes sutis ocorrem.

Mais exemplos de Unidades de Ação Facial (FAUs, ou AUs). Fonte: https://www.eiagroup.com/the-facial-action-coding-system/

Uma vez que ambos os codificadores estão pré-treinados, seus resultados são combinados usando atenção cruzada. Em vez de simplesmente mesclar os dois conjuntos de recursos, o modelo usa os recursos baseados em AU como consultas que orientam a atenção sobre os recursos espaciais-temporais aprendidos a partir da auto codificação mascarada. Em essência, o codificador de unidade de ação diz ao modelo onde olhar.

O resultado é uma representação latente fundida que pretende capturar tanto o contexto de movimento mais amplo quanto o detalhe de nível de expressão localizado. Esse espaço de recurso combinado é então usado para a tarefa final de classificação: prever se um vídeo é real ou manipulado.

Dados e Testes

Implementação

Os autores implementaram o sistema pré-processando vídeos de entrada com o framework de detecção de face PyTorch-based FaceXZoo, obtendo 16 quadros centrados no rosto de cada clipe. As tarefas de pré-texto acima mencionadas foram então treinadas no conjunto de dados CelebV-HQ, que compreende 35.000 vídeos faciais de alta qualidade.

Do artigo de origem, exemplos do conjunto de dados CelebV-HQ usado no novo projeto. Fonte: https://arxiv.org/pdf/2207.12393

Metade dos exemplos de dados foi mascarada, forçando o sistema a aprender princípios gerais em vez de sobreajustar os dados de origem.

Para a tarefa de reconstrução de quadros mascarados, o modelo foi treinado para prever regiões faltantes de quadros de vídeo usando uma perda L1, minimizando a diferença entre o conteúdo original e reconstruído.

Para a segunda tarefa, o modelo foi treinado para gerar mapas para 16 unidades de ação faciais, cada uma representando movimentos musculares sutis em áreas, incluindo sobrancelhas, pálpebras, nariz e lábios, novamente supervisionado por perda L1.

Após o pré-treinamento, os dois codificadores foram fundidos e ajustados para detecção de deepfakes usando o conjunto de dados FaceForensics++, que contém vídeos reais e manipulados.

O conjunto de dados FaceForensics++ foi a pedra angular da detecção de deepfakes desde 2017, embora agora esteja consideravelmente desatualizado em relação às últimas técnicas de síntese facial. Fonte: https://www.youtube.com/watch?v=x2g48Q2I2ZQ

Para contabilizar o desequilíbrio de classes, os autores usaram Perda Focal (uma variante da perda de entropia cruzada), que enfatiza exemplos mais desafiadores durante o treinamento.

Todo o treinamento foi realizado em uma única GPU RTX 4090 com 24Gb de VRAM, com um tamanho de lote de 8 por 600 époque (revisões completas dos dados), usando pontos de partida pré-treinados do VideoMAE para inicializar os pesos para cada uma das tarefas de pré-texto.

Testes

Avaliações quantitativas e qualitativas foram realizadas contra uma variedade de métodos de detecção de deepfakes: FTCN; RealForensics; Lip Forensics; EfficientNet+ViT; Face X-Ray; Alt-Freezing; CADMM; LAANet; e SBI de BlendFace. Em todos os casos, o código-fonte estava disponível para esses quadros.

Os testes centraram-se em deepfakes editados localmente, onde apenas parte de um clipe de origem foi alterada. Arquiteturas usadas foram Diffusion Video Autoencoders (DVA); Stitch It In Time (STIT); Disentangled Face Editing (DFE); Tokenflow; VideoP2P; Text2Live; e FateZero. Esses métodos empregam abordagens diversas (difusão para DVA e StyleGAN2 para STIT e DFE, por exemplo)

Os autores afirmam:

‘Para garantir uma cobertura abrangente de diferentes manipulações faciais, incorporamos uma ampla variedade de recursos e edições de atributos faciais. Para edição de recursos faciais, modificamos o tamanho dos olhos, a distância olho-sobrancelha, a razão do nariz, a distância nariz-boca, a razão dos lábios e a razão da bochecha. Para edição de atributos faciais, variamos expressões como sorriso, raiva, desgosto e tristeza.

‘Essa diversidade é essencial para validar a robustez do nosso modelo em uma ampla gama de edições localizadas. No total, geramos 50 vídeos para cada um dos métodos de edição mencionados acima e validamos a forte generalização do nosso método para detecção de deepfakes.’

Conjuntos de dados de deepfakes mais antigos também foram incluídos nas rodadas, nomeadamente Celeb-DFv2 (CDF2); DeepFake Detection (DFD); DeepFake Detection Challenge (DFDC); e WildDeepfake (DFW).

Métricas de avaliação foram Área Sob a Curva (AUC); Precisão Média; e Pontuação F1 Média F1.

Do artigo: comparação em deepfakes localizados recentes mostra que o método proposto superou todos os outros, com um ganho de 15 a 20 por cento em ambos AUC e precisão média em relação à abordagem mais próxima.

Os autores fornecem ainda uma comparação visual de detecção para vistas manipuladas localmente (reproduzida apenas em parte abaixo, devido à falta de espaço):

Um vídeo real foi alterado usando três manipulações localizadas diferentes para produzir fakes que permaneciam visualmente semelhantes ao original. Aqui estão mostrados quadros representativos, juntamente com as pontuações médias de detecção de fakes para cada método. Enquanto os detectores existentes lutaram com essas edições sutis, o modelo proposto consistentemente atribuiu altas probabilidades de falso, indicando maior sensibilidade a mudanças localizadas.

Os pesquisadores comentam:

‘Os métodos de detecção de deepfakes existentes, [LAANet], [SBI], [AltFreezing] e [CADMM], experimentam uma queda significativa no desempenho nos métodos de geração de deepfakes mais recentes. Os métodos atuais SOTA exibem AUCs tão baixos quanto 48-71%, demonstrando suas pobres capacidades de generalização para os deepfakes mais recentes.

‘Por outro lado, nosso método demonstra generalização robusta, alcançando um AUC na faixa de 87-93%. Uma tendência semelhante é notável no caso de precisão média. Como mostrado [abaixo], nosso método também alcança consistentemente alto desempenho em conjuntos de dados padrão, excedendo 90% de AUC e sendo competitivo com modelos recentes de detecção de deepfakes.’

Desempenho em conjuntos de dados de deepfakes tradicionais mostra que o método proposto permaneceu competitivo com as principais abordagens, indicando forte generalização em uma variedade de tipos de manipulação.

Os autores observam que esses últimos testes envolvem modelos que poderiam razoavelmente ser vistos como ultrapassados e que foram introduzidos antes de 2020.

Como uma representação visual mais extensa do desempenho do novo modelo, os autores fornecem uma tabela extensa no final, da qual reproduzimos apenas parte aqui:

Nessas amostras, um vídeo real foi modificado usando três edições localizadas para produzir fakes que permaneciam visualmente semelhantes ao original. As pontuações médias de confiança nessas manipulações mostram, segundo os autores, que o método proposto detectou as falsificações de forma mais confiável do que outras abordagens principais. Por favor, consulte a página final do PDF de origem para os resultados completos.

Os autores afirmam que seu método alcança pontuações de confiança acima de 90 por cento para a detecção de edições localizadas, enquanto os métodos de detecção existentes permanecem abaixo de 50 por cento na mesma tarefa. Eles interpretam essa lacuna como evidência tanto da sensibilidade quanto da generalização de sua abordagem e como uma indicação dos desafios enfrentados pelas técnicas atuais ao lidar com esse tipo de manipulação facial sutil.

Para avaliar a confiabilidade do modelo em condições do mundo real, e de acordo com o método estabelecido por CADMM, os autores testaram seu desempenho em vídeos modificados com distorções comuns, incluindo ajustes de saturação e contraste, borramento gaussiano, pixelação e artefatos de compressão baseados em blocos, bem como ruído aditivo.

Os resultados mostraram que a precisão de detecção permaneceu em grande parte estável em todas essas perturbações. A única queda notável ocorreu com a adição de ruído gaussiano, que causou uma queda modesta no desempenho. Outras alterações tiveram efeito mínimo.

Ilustração de como a precisão de detecção muda sob diferentes distorções de vídeo. O novo método permaneceu resiliente na maioria dos casos, com apenas uma pequena queda em AUC. A queda mais significativa ocorreu quando ruído gaussiano foi introduzido.

Essas descobertas, segundo os autores, sugerem que a capacidade do método de detectar manipulações localizadas não é facilmente interrompida por degradações típicas na qualidade do vídeo, apoiando sua potencial robustez em configurações práticas.

Conclusão

A manipulação de IA existe na consciência pública principalmente na noção tradicional de deepfakes, onde a identidade de uma pessoa é imposta sobre o corpo de outra pessoa, que pode estar realizando ações antitéticas aos princípios do proprietário da identidade. Essa concepção está lentamente sendo atualizada para reconhecer as capacidades mais insidiosas dos sistemas de vídeo gerativos (na nova geração de vídeos deepfakes) e as capacidades dos modelos de difusão latente (LDMs) em geral.

Portanto, é razoável esperar que o tipo de edição local com o qual o novo artigo está preocupado pode não chegar à atenção do público até que um evento pivotal do tipo Pelosi ocorra, pois as pessoas estão distraídas dessa possibilidade por tópicos mais fáceis de chamar a atenção, como fraude de vídeo deepfake.

No entanto, assim como o ator Nic Cage expressou preocupação consistente sobre a possibilidade de processos pós-produção ‘revisando’ o desempenho de um ator, também devemos encorajar uma maior conscientização sobre esse tipo de ‘sutil’ ajuste de vídeo – não apenas porque somos por natureza incrivelmente sensíveis a variações muito pequenas de expressão facial, mas também porque o contexto pode alterar significativamente o impacto de movimentos faciais pequenos (considere o efeito disruptivo de apenas fazer careta em um funeral, por exemplo).

Publicado pela primeira vez na quarta-feira, 2 de abril de 2025