Sobre a Ética dos Deepfakes de Hollywood

Por que houve um declínio recente no conteúdo de deepfakes em TV e cinema? O autor trabalhou para a empresa de efeitos visuais Metaphysic.ai por mais de dois anos e meio, incluindo 20 meses como funcionário em tempo integral.

Opinião/Recursos Quando era criança, fui fascinado pelas histórias da fundação da Industrial Light and Magic (ILM), operando a partir de um armazém básico em Van Nuys, e construindo com esforço os novos métodos de efeitos visuais controlados por movimento que dominariam a maior parte dos anos 80, até o advento da CGI.

Explodindo partes da Estrela da Morte no pátio da ILM em Van Nuys no início dos anos 70. Fonte

É uma história de origem notável, e eu recomendo os muitos livros e artigos que recontam como os efeitos para Star Wars (1977) foram – após muito esforço, recriminação e atraso – finalmente entregues.

A jovem ILM mais tarde se mudaria para San Francisco e iria industrializar a produção de efeitos fotoquímicos. Mesmo na época do trabalho de efeitos visuais em O Império Contra-Ataca em 1978/9, a ILM, embora ainda uma casa de efeitos inovadora e pioneira, já estava repleta de departamentos de contabilidade e RH.

Mas nesse período, e desde então, minha imaginação foi capturada por me perguntar como foram aqueles primeiros anos “raw” em Van Nuys, canibalizando kits de modelos e métodos ópticos dos anos 60, e praticamente inventando uma indústria que havia sido o preserve de especialistas de efeitos visuais auteur individuais.

Rosto da Revolução

Nos quase três anos em que trabalhei na agora dissolvida empresa de efeitos visuais Metaphysic.ai, acho que cheguei o mais perto que poderia ter chegado à experiência de Van Nuys dos anos 70.

Nesse período, a Metaphysic produziu tiros de efeitos impulsionados por IA, específicos de ID, para algumas das maiores franquias, incluindo as franquias Mad Max e Alien, bem como produzindo o trabalho de envelhecimento de deepfake pioneiro (embora muito criticado) para o filme Here (2024) de Robert Zemeckis, e muitos outros trabalhos:

Havia mais reuniões de “dailies” (apresentação do último footage produzido, em reuniões de Zoom lotadas) do que qualquer pessoa poderia razoavelmente comparecer e ainda fazer seu próprio trabalho, bem como encontros no estilo skunkworks, onde grupos selecionados trabalhavam juntos em mini-metas, buscando avançar o estado da arte da empresa.

Muitos dos funcionários vieram para a empresa diretamente da ILM ou haviam trabalhado para a ILM no passado*; e embora fosse claro, a partir de anedotas, que o espírito de Van Nuys havia dado lugar à racionalização em massa na ILM, e nas várias outras grandes casas de efeitos visuais de que alguns dos funcionários vieram, a associação permaneceu elétrica para mim.

George Lucas revisa efeitos com John Dykstra, Richard Edlund, Joe Johnston e Rose Duignan durante a produção de Star Wars. Fonte

Eu não sei se alguém poderia argumentar que a Metaphysic inventaria um equivalente em IA ao DykstraFlex motion-control rig que surgiu da oficina de Van Nuys; mas colocou efeitos visuais impulsionados por IA no mapa, e foi responsável por mais nível profissional de substituição e alteração de rosto por IA do que qualquer outra casa de efeitos ou projeto individual empreendeu no período, ou tem empreendido desde então.

Desaceleração

E eu tenho que notar que, desde que a empresa foi incorporada à sub-empresa Brahma AI da DNEG, aquele fluxo constante de trabalho de efeitos visuais baseados em IA parece ter desacelerado para um ritmo lento.

Apesar de manchetes como a parceria de VFX de IA da Netflix com Ben Affleck, e um compromisso com a IA de diretores como Soderbergh e Aronofsky, não vi muitas caras de deepfake em filmes e TV ultimamente (excluindo A Captura que simula tecnologia de deepfake), em comparação com o “pico Metaphysic”.

Dada a extensão da rejeição à IA em muitos campos e setores, eu me pergunto se não estamos todos começando a “ler o quarto” sobre identidades alteradas por IA; e se esforços facilitados por IA, como a ressurreição de Ian Holm, a juvenilização de Harrison Ford, e a ressurreição do Rat Pack para vender gim podem logo evocar a agora clássica meme ‘Foi um tempo diferente’.

Associações Negativas

De muitas maneiras, é um problema de associação; mas não é o mesmo problema de associação que era em 2021, quando a Metaphysic foi formada.

Naquela época, o deepfake porn havia se tornado um fenômeno viral, com toda a saída SFW e NSFW vinda de um dos dois repositórios de software de código aberto^† . Em contraste com hoje, não havia uma maneira “gatekeeped” ou censurada de produzir conteúdo fotorealista de IA.

Então, o maior site de deepfake porn do mundo (destinado a ser derrubado por uma investigação em 2025) era onde as instruções oficiais estavam para o maior repositório de software de deepfake, DeepFaceLab, que era a fundação admitida das abordagens originais da Metaphysic:

O guia de usuário original para DeepFaceLab, na época o software de deepfake mais popular do mundo – hospedado no maior site de deepfake porn. Desde então, o software foi arquivado e o site foi derrubado. Fonte

Desde que os desenvolvedores de software claramente não estavam se esquivando da associação entre pornografia e deepfakes, isso inevitavelmente afetaria qualquer empresa que tentasse adotar legitimamente essa tecnologia.

Consequentemente (talvez não menos porque o fundador da empresa foi incluído com o fundador do DeepFaceLab na autoria de um artigo de posição no Arxiv sobre deepfakes em 2020, e foi objeto de muitas críticas sobre essas associações) a Metaphysic tinha um departamento de ética dedicado, e a empresa era vocal e muito pública sobre esse tópico.

Esses dias, com a extensa e crescente legislação global que criminaliza conteúdo de deepfake, essa “associação infeliz” de identidades criadas por IA se transferiu da pornografia para a pobreza, à medida que forças de trabalho globais ameaçadas por diferentes tipos de IA (geralmente Large Language Models, ou LLMs) começam a demonizar o termo em geral.

Os Aldeões Estão se Revoltando

Em um determinado momento, talvez no meio de 2023, ao participar de várias reuniões da empresa, comecei a sentir, admitidamente de segunda mão, uma onda crescente de resistência casual ad hoc aos serviços que a empresa oferecia, coincidindo com os primeiros levantes sociais em torno da IA como uma ameaça existencial aos trabalhadores (embora seja necessário notar que os sindicatos de Hollywood estivessem na vanguarda nesse aspecto).

A IA parecia ser vista em alguns quartos como “não vale o risco”. Além disso, no período de pico da Metaphysic, a empresa nunca teve um sucesso inconteste após o valor de choque de colocar (um bastante inativo) jovem Elvis Presley em America’s Got Talent. Na verdade, nenhuma empresa que produzia conteúdo gerado por IA em trabalhos de cinema e TV de grande porte teve.

Sempre houve algum motivo para odiar: o sempre presente vale incômodo; a associação com pornografia; e então, a associação com uma apocalipse econômica impulsionada por IA.

O Momento ‘Tirannossauro’ da IA

Parecia-me, por um longo tempo, que recriar humanos com 100% de fidelidade em um contexto de efeitos visuais que havia falhado por CGI por um longo tempo, era um objetivo valioso, se não inevitável.

Imaginei que a evolução da IA nos efeitos visuais culminaria em uma terceira mudança “epochal” para a indústria, para o deleite dos espectadores. A primeira havia sido a primeira vista do destróier estelar rugindo sobre a cabeça em Star Wars em 1977, e a segunda, o tiranossauro furioso escapando de seu cercado em Parque Jurássico, em 1993.

Cada um havia levado a mudanças radicais na indústria, e cada um havia sido precedido por pioneiros empurrando os limites de uma tecnologia ou método nascente.

Assim, parecia-me que o fluxo de lançamentos da Metaphysic, embora não necessariamente fornecendo ao público aquele “momento tiranossauro”, inevitavelmente levaria a ele; que um dia, veríamos algo impossível em um filme; algo fundamentalmente feito por IA (em vez de coberto com CGI), que nos deixaria sem fôlego.

Agora… não sei. Não é necessariamente que eu não acredite que aquele momento de admiração venha, para a IA no cinema; nem que haja muitos problemas críticos para o vídeo de IA superar antes de poder se juntar aos profissionais na mesa.

É mais que eu comecei a compartilhar, de uma maneira vaga (e talvez moralmente covarde), aquele sentimento de associação negativa entre a IA nos efeitos visuais e as ramificações negativas da IA em outros setores, nesse período.

Além disso, não estou atualmente convencido de que a influência histórica de conjuntos de dados não pagos e não gratuitos, como o Common Crawl, tenha sido realmente contabilizada; e considero que muitos dos muito divulgados “acordos de licenciamento de IA” que fizeram manchetes nos últimos 18 meses ou mais representam algum grau de lavagem de IP.

Portanto, o momento em que um perfeito e não incômodo Marilyn Monroe ou Humphrey Bogart regenerado por IA entra em cena, acho que sentimentos gêmeos de admiração e desconforto provavelmente surgirão em mim, porque a bagagem da magia da IA começou a me pesar.

Conclusão

As duas primeiras quebras tecnológicas vieram sem essas ressalvas: o advento da ILM e dos controles de movimento efetivamente inventaram uma indústria que havia sido uma série de comissões esporádicas atendidas por uma elite esparça de freelancers ad hoc; e o advento da CGI aumentou massivamente o número de empregos na indústria de efeitos visuais, e criou valor em serviços adjacentes de desenvolvimento de software, bem como vários serviços de suporte.

Meu interesse em Visão Computacional permanece intacto, junto com meu interesse no potencial da IA em uma ampla gama de aplicações audiovisuais possíveis; e meu entusiasmo por aplicações mais amplas de aprendizado de máquina, em uma variedade de outros setores, é inabalado.

Só gostaria de poder continuar a olhar para aquele momento “uau” da IA no cinema.

Quanto à razão pela qual há uma súbita escassez de caras geradas por IA em filmes e TV, em comparação com os anos mais ativos da Metaphysic – uma possibilidade é que os ajustes auxiliados por IA agora são aplicados por casas de produção com pouca ou nenhuma publicidade (em comparação com os comunicados de imprensa estrondosos do período 2022-23), dado que a resposta pública à inovação da IA no entretenimento se tornou tão hostil ultimamente.

Em segundo lugar, para reiterar: após AGT, onde a empresa fez sua estreia, a Metaphysic nunca teve um sucesso inconteste em relação à sua própria contribuição para qualquer filme ou show de TV; e nem o deepfake de Indiana Jones 4 nem nenhum outro trabalho de outras casas de produção foi bem recebido o suficiente, ou lucrativo o suficiente para começar uma corrida de cópias, ou para dar à IA nos efeitos visuais credibilidade e amigabilidade para investidores.

* Isso é facilmente verificável apenas olhando para perfis do LinkedIn e créditos do IMDB disponíveis publicamente.

^† DeepFaceLab, e o menos associado à pornografia FaceSwap.

Publicado pela primeira vez na segunda-feira, 27 de abril de 2026