Ângulo de Anderson

Sobre a ética dos deepfakes de Hollywood

Martin Anderson
Adicione Unite.AI às suas fontes preferidas no Google
AI-generated image, GPT-2. A distracted Dr. Frankenstein reads intently beside a shrouded body on a laboratory bench, unaware that the creature’s exposed, decaying hand is beginning to rise, signaling a return to life amid crackling electrical apparatus.
Pontos-chaveA absorção da Metaphysic.ai pelo Brahma AI da DNEG coincidiu com um declínio acentuado…
Ver mais
  • A absorção da Metaphysic.ai pelo Brahma AI da DNEG coincidiu com um declínio acentuado na produção de deepfakes em Hollywood.
  • A hostilidade pública em relação à IA no entretenimento tornou os estúdios relutantes em divulgar trabalhos de VFX auxiliados por IA.
  • A ausência de um sucesso comercial definitivo após a estreia da Metaphysic no AGT impediu que os VFX de IA ganhassem credibilidade entre os investidores.

Por que houve um declínio recente no conteúdo de deepfakes em TV e cinema? O autor trabalhou para a pioneira dos deepfakes cinematográficos Metaphysic.ai por mais de dois anos e meio, incluindo 20 meses como funcionário em tempo integral.

 

Opinião / Análise Quando era criança, fui fascinado pelas histórias da fundação da Industrial Light and Magic (ILM), operando a partir de um simples armazém em Van Nuys, e construindo com esforço os novos métodos de efeitos visuais controlados por movimento que dominariam a maior parte dos anos 80, até o advento da CGI.

Explodindo partes da Estrela da Morte no pátio da ILM em Van Nuys em meados dos anos 70. Fonte - https://www.ilm.com/ilms-audacious-start-in-an-empty-warehouse-began-50-years-ago/

Explodindo partes da Estrela da Morte no pátio da ILM em Van Nuys em meados dos anos 70. Fonte

É uma história de origem notável, e eu recomendo os muitos livros e artigos que recontam como os efeitos para Star Wars (1977) foram – após muito esforço, recriminação e atraso – finalmente entregues.

A jovem ILM mais tarde se mudaria para San Francisco e iria industrializar a produção de efeitos fotoquímicos. Mesmo na época do trabalho de efeitos visuais em O Império Contra-Ataca em 1978/9, a ILM, embora ainda uma casa de efeitos inovadora e pioneira, já estava repleta de departamentos de contabilidade e RH.

Mas nesse período, e desde então, minha imaginação foi capturada por me perguntar como foram aqueles primeiros anos “raw” em Van Nuys, canibalizando kits de modelos e métodos ópticos dos anos 60, e praticamente inventando uma indústria que havia sido o domínio de especialistas de efeitos visuais auteur individuais.

Rosto da Revolução

Nos quase três anos em que trabalhei na agora dissolvida pioneira dos deepfakes cinematográficos Metaphysic.ai, acho que cheguei o mais perto que poderia ter chegado à experiência de Van Nuys de meados dos anos 70.

Nesse período, a Metaphysic produziu planos de efeitos impulsionados por IA, específicos para determinadas identidades, para algumas das maiores franquias, incluindo as franquias Mad Max e Alien, bem como produzindo o trabalho de rejuvenescimento por deepfake pioneiro (embora muito criticado) para o filme Here (2024) de Robert Zemeckis, e muitos outros trabalhos:

Havia mais reuniões de “dailies” (apresentação do último footage produzido, em reuniões de Zoom lotadas) do que qualquer pessoa poderia razoavelmente acompanhar e ainda fazer seu próprio trabalho, bem como encontros no estilo skunkworks, onde grupos selecionados trabalhavam juntos em pequenos projetos de metas ambiciosas, buscando avançar o estado da arte da empresa.

Muitos dos funcionários vieram para a empresa diretamente da ILM ou haviam trabalhado para a ILM no passado*; e embora fosse claro, a partir de anedotas, que o espírito de Van Nuys havia dado lugar à racionalização em massa na ILM, e nas várias outras grandes casas de efeitos visuais de que alguns dos funcionários vieram, a associação permaneceu elétrica para mim.

George Lucas revisa efeitos com John Dykstra, Richard Edlund, Joe Johnston e Rose Duignan durante a produção de Star Wars, enquanto a equipe trabalha no planejamento prático de efeitos visuais e concepção dos planos. Fonte - https://theasc.com/articles/star-wars-miniature-effects-dykstra

George Lucas revisa efeitos com John Dykstra, Richard Edlund, Joe Johnston e Rose Duignan durante a produção de Star Wars. Fonte

Eu não sei se alguém poderia argumentar que a Metaphysic inventaria um equivalente em IA ao DykstraFlex, o sistema de controle de movimento que surgiu da oficina de Van Nuys; mas colocou efeitos visuais impulsionados por IA no mapa, e foi responsável por mais substituições e alterações faciais por IA em nível profissional do que qualquer outra casa de efeitos ou projeto individual empreendeu no período, ou tem empreendido desde então.

Desaceleração

E eu tenho que notar que, desde que a empresa foi incorporada à sub-empresa Brahma AI da DNEG, aquele fluxo constante de trabalho de efeitos visuais baseados em IA parece ter desacelerado para um ritmo lento.

Apesar de manchetes como a parceria de VFX de IA da Netflix (NFLX ) com Ben Affleck, e um compromisso com a IA de diretores como Soderbergh e Aronofsky, não vi muitas caras de deepfake em filmes e TV ultimamente (excluindo A Captura que simula tecnologia de deepfake), em comparação com o “pico Metaphysic”.

Dada a extensão da rejeição à IA em muitos campos e setores, eu me pergunto se não estamos todos começando a perceber o clima de opinião sobre identidades alteradas por IA; e se esforços facilitados por IA, como a ressurreição de Ian Holm, a rejuvenescimento de Harrison Ford, e a ressurreição do Rat Pack para vender gim podem logo evocar o meme agora clássico ‘Foi um tempo diferente’.

Associações Negativas

De muitas maneiras, é um problema de associação; mas não é o mesmo problema de associação que era em 2021, quando a Metaphysic foi formada.

Naquela época, o deepfake porn havia se tornado um fenômeno viral, com toda a saída SFW e NSFW vinda de um dos dois repositórios de software de código aberto† . Em contraste com hoje, não havia uma maneira com acesso controlado ou censurada de produzir conteúdo fotorealista de IA.

Então, o maior site de deepfake porn do mundo (destinado a ser derrubado por uma investigação em 2025) era onde as instruções oficiais estavam para o maior repositório de software de deepfake, DeepFaceLab, que era a base reconhecida das abordagens originais da Metaphysic:

O guia de usuário original para DeepFaceLab, na época o software de deepfake mais popular do mundo – hospedado no maior site de deepfake porn. Desde então, o software foi arquivado e o site foi derrubado. Fonte - https://web.archive.org/web/20210203195545/https://mrdeepfakes.com/forums/thread-guide-deepfacelab-2-0-guide

O guia de usuário original para DeepFaceLab, na época o software de deepfake mais popular do mundo – hospedado no maior site de deepfake porn. Desde então, o software foi arquivado e o site foi derrubado. Fonte

Como os desenvolvedores de software claramente não estavam se esquivando da associação entre pornografia e deepfakes, isso inevitavelmente afetaria qualquer empresa que tentasse adotar legitimamente essa tecnologia.

Consequentemente (talvez não menos porque o fundador da empresa foi incluído com o fundador do DeepFaceLab na autoria de um artigo de posição no Arxiv sobre deepfakes em 2020, e foi objeto de muitas críticas sobre essas associações) a Metaphysic tinha um departamento de ética dedicado, e a empresa era muito explícita e pública sobre esse tópico.

Esses dias, com a extensa e crescente legislação global que criminaliza conteúdo de deepfake, essa “associação infeliz” de identidades criadas por IA se transferiu da pornografia para a pobreza, à medida que forças de trabalho globais diretamente ameaçadas por diferentes tipos de IA (geralmente Large Language Models, ou LLMs) começam a demonizar o termo em geral.

Os Aldeões Estão se Revoltando

Em um determinado momento, talvez no meio de 2023, ao participar de várias reuniões da empresa, comecei a sentir, admitidamente de segunda mão, uma onda crescente de resistência casual ad hoc aos serviços que a empresa oferecia, coincidindo com os primeiros levantes sociais em torno da IA como uma ameaça existencial aos trabalhadores (embora seja necessário notar que os sindicatos de Hollywood estivessem na vanguarda nesse aspecto).

A IA parecia ser vista em alguns círculos como “não vale o risco”. Além disso, no período de pico da Metaphysic, a empresa nunca teve um sucesso inconteste após o valor de choque de colocar um jovem bastante apático Elvis Presley em America’s Got Talent. Na verdade, nenhuma empresa que produzia conteúdo gerado por IA em trabalhos de cinema e TV de grande porte teve.

Sempre houve algum motivo para odiar: o sempre presente vale incômodo; a associação com pornografia; e então, a associação com um temido apocalipse econômico impulsionada por IA.

O Momento ‘Tirannossauro’ da IA

Parecia-me, por um longo tempo, que recriar humanos com 100% de fidelidade em um contexto de efeitos visuais em que a CGI havia falhado por muito tempo, era um objetivo valioso, se não inevitável.

Imaginei que a evolução da IA nos efeitos visuais culminaria em uma terceira mudança de época para a indústria, para o deleite dos espectadores. A primeira havia sido a primeira vista do destróier estelar rugindo sobre a cabeça em Star Wars em 1977, e a segunda, o tiranossauro furioso escapando de seu cercado em Parque Jurássico, em 1993.

Cada um havia levado a mudanças radicais na indústria, e cada um havia sido precedido por pioneiros empurrando os limites de uma tecnologia ou método nascente.

Assim, parecia-me que o fluxo de lançamentos da Metaphysic, embora não necessariamente fornecendo ao público aquele “momento tiranossauro”, inevitavelmente levaria a ele; que um dia, veríamos algo impossível em um filme; algo fundamentalmente feito por IA (em vez de coberto com CGI), que nos deixaria sem fôlego.

Agora… não sei. Não é necessariamente que eu não acredite que aquele momento de admiração venha, para a IA no cinema; nem apenas que haja muitos problemas críticos para o vídeo de IA superar antes de poder se juntar aos profissionais na mesa.

É mais que eu comecei a compartilhar, de uma maneira vaga (e talvez moralmente covarde), aquele sentimento público nascente e crescente de associação negativa entre a IA nos efeitos visuais e as ramificações negativas da IA em outros setores, nesse período.

Além disso, não estou atualmente convencido de que a influência histórica de conjuntos de dados usados sem remuneração e não livres, como o Common Crawl, tenha sido realmente contabilizada; e considero que muitos dos muito divulgados “acordos de licenciamento de IA” que fizeram manchetes ao longo de aproximadamente 18 meses representam algum grau de lavagem de IP.

Portanto, o momento em que uma Marilyn Monroe ou um Humphrey Bogart recriados por IA com perfeição e sem estranheza aparecem na tela, acho que sentimentos gêmeos de admiração e desconforto provavelmente surgirão em mim, porque a bagagem da magia da IA começou a me pesar.

Conclusão

Os dois avanços tecnológicos anteriores vieram sem essas ressalvas: o advento da ILM e dos controles de movimento efetivamente inventaram uma indústria que havia sido uma série de encomendas esporádicas atendidas por uma pequena elite de freelancers ad hoc; e o advento da CGI aumentou massivamente o número de empregos na indústria de efeitos visuais, e criou valor em serviços adjacentes de desenvolvimento de software, bem como vários serviços de suporte.

Meu interesse em Visão Computacional permanece intacto, junto com meu interesse no potencial da IA em uma ampla gama de aplicações audiovisuais possíveis; e meu entusiasmo por aplicações mais amplas de aprendizado de máquina, em uma variedade de outros setores, é inabalado.

Só gostaria de poder continuar a aguardar com entusiasmo aquele momento “uau” da IA no cinema.

Quanto à razão pela qual há uma súbita escassez de caras geradas por IA em filmes e TV, em comparação com os anos mais ativos da Metaphysic – uma possibilidade é que os ajustes auxiliados por IA agora são aplicados por casas de produção com pouca ou nenhuma publicidade (em comparação com os comunicados de imprensa estrondosos do período 2022-23), dado que a resposta pública à inovação da IA no entretenimento se tornou tão hostil ultimamente.

Em segundo lugar, para reiterar: após AGT, onde a empresa fez sua estreia, a Metaphysic nunca teve um sucesso inconteste em relação à sua própria contribuição para qualquer filme ou show de TV; e nem o deepfake de Indiana Jones 4 nem nenhum outro trabalho de outras casas de produção foi bem recebido o suficiente, ou lucrativo o suficiente para começar uma corrida de imitadores, ou para dar à IA nos efeitos visuais credibilidade genuína e atratividade para investidores.

 

* Isso é facilmente verificável apenas olhando para perfis do LinkedIn e créditos do IMDB disponíveis publicamente.

† DeepFaceLab, e o menos associado à pornografia FaceSwap.

Publicado pela primeira vez na segunda-feira, 27 de abril de 2026

Escritor em aprendizado de máquina, especialista em síntese de imagens humanas. Ex‑chefe de conteúdo de pesquisa na Metaphysic.ai, até sua dissolução na Brahma.ai da DNEG.
Website: martinanderson.ai
Contato: martin@martinanderson.ai