Anderson’un Açısı

Hollywood Deepfake Etiği Üzerine

Martin Anderson
Unite.AI sitesini Google'daki tercih ettiğiniz kaynaklara ekleyin
AI-generated image, GPT-2. A distracted Dr. Frankenstein reads intently beside a shrouded body on a laboratory bench, unaware that the creature’s exposed, decaying hand is beginning to rise, signaling a return to life amid crackling electrical apparatus.
Öne çıkan noktalarMetaphysic.ai'nin DNEG'in Brahma AI'sine katılımı, Hollywood deepfake çıktısında keskin…
Daha fazla göster
  • Metaphysic.ai'nin DNEG'in Brahma AI'sine katılımı, Hollywood deepfake çıktısında keskin bir düşüşle aynı zamana denk geldi.
  • Eğlence sektöründe yapay zekaya yönelik kamu düşmanlığı, stüdyoların yapay zeka destekli VFX çalışmalarını duyurmaktan çekinmesine neden oldu.
  • Metaphysic'in AGT çıkışından sonra kesin bir ticari başarının olmaması, yapay zeka VFX'inin yatırımcı güveni kazanmasını engelledi.

Son zamanlarda televizyon ve sinemadaki deepfake içeriği neden bu kadar azaldı? Yazar, sinema deepfake’lerinin öncüsü Metaphysic.ai’de iki buçuk yıldan fazla çalıştı; bunun 20 ayı tam zamanlı çalışan olarak geçti. 

Görüş / İnceleme Çocukken Industrial Light and Magic’in (ILM) kuruluş hikâyelerine hayrandım. Şirket, Van Nuys’taki sade bir depoda çalışıyor ve CGI ortaya çıkana kadar 1980’lerin büyük bölümüne egemen olacak yeni nesil hareket kontrollü görsel efekt yöntemlerini büyük emekle geliştiriyordu.

1970'lerin ortasında Van Nuys'taki ILM avlusunda Ölüm Yıldızı'nın parçaları patlatılıyor. Kaynak – https://www.ilm.com/ilms-audacious-start-in-an-empty-warehouse-began-50-years-ago/

1970’lerin ortasında Van Nuys’taki ILM avlusunda Ölüm Yıldızı’nın parçaları patlatılıyor. Kaynak

Olağanüstü bir kuruluş hikâyesi. Star Wars (1977) efektlerinin büyük emek, karşılıklı suçlamalar ve gecikmelerin ardından nasıl tamamlandığını anlatan çok sayıdaki kitap ve makaleyi öneririm.

Yeni kurulan ILM daha sonra San Francisco’ya taşınacak ve fotokimyasal efekt üretimini endüstrileştirecekti. The Empire Strikes Back için 1978–79’da yapılan VFX çalışmaları sırasında bile ILM, öncü ve yenilikçi bir efekt şirketi olmaya devam ederken, muhasebe ve insan kaynakları bölümleriyle donanmıştı.

Ama o dönemde ve sonrasında hayal gücümü meşgul eden, Van Nuys’taki ilk birkaç ‘ham’ yılın nasıl geçtiğiydi. Model kitleri parçalara ayrılıp yeniden kullanılıyor, 1960’ların optik yöntemleri dönüştürülüyor ve bir zamanlar bireysel auteur VFX uzmanlarının alanı olan bir endüstri adeta yeniden icat ediliyordu.

Devrimin yüzü

Bugün dağılmış olan Metaphysic.ai görsel efekt şirketinde çalıştığım yaklaşık üç yılda, sanırım 1970’lerin ortasındaki Van Nuys deneyimine benim için mümkün olabilecek en yakın noktaya geldim.

O dönemde Metaphysic, Mad Max ve Alien serileri de vardı. Ayrıca öncü nitelikteki (her ne kadar çok eleştirilen) gençleştirme deepfake çalışmasını Robert Zemeckis’in Here (2024) filmi için ve pek çok başka işi gerçekleştirdi.

En yeni üretilen görüntülerin kalabalık Zoom oturumlarında gösterildiği ‘dailies’ toplantıları, bir kişinin kendi işini de yaparak makul biçimde katılabileceğinden fazlaydı. Ayrıca seçilmiş grupların şirketin teknolojik sınırlarını ilerletmek için küçük ama iddialı atılımlar üzerinde çalıştığı, skunkworks tarzı buluşmalar vardı.

Çalışanların çoğu ya doğrudan ILM’den gelmiş ya da geçmişte ILM’de çalışmıştı*. Anlatılanlardan, Van Nuys ruhunun ILM’de ve bazı çalışanların geldiği diğer büyük VFX şirketlerinde çoktan kapsamlı rasyonalizasyona yerini bıraktığı anlaşılıyordu. Yine de bu bağ benim için heyecan vericiydi.

Star Wars yapımı sırasında George Lucas, John Dykstra, Richard Edlund, Joe Johnston ve Rose Duignan ile efekt planlarını inceliyor. Ekip pratik görsel efektlerin ve çekimlerin tasarımını planlıyor. Kaynak – https://theasc.com/articles/star-wars-miniature-effects-dykstra

George Lucas, John Dykstra, Richard Edlund, Joe Johnston ve Rose Duignan ile birlikte Star Wars yapımı sırasında efekt planlarını inceliyor. Kaynak

Metaphysic’in, Van Nuys’un zorlu atölyesinden çıkan DykstraFlex hareket kontrol düzeneğinin AI karşılığını icat edeceği söylenebilir mi, bilmiyorum. Ancak AI destekli VFX’i görünür kıldı ve o dönemde ya da sonrasında herhangi bir efekt şirketinin veya tekil projenin gerçekleştirdiğinden daha fazla profesyonel düzeyde AI yüz değiştirme ve düzenleme işi yaptı.

Yavaşlama

Şirketin DNEG’in Brahma AI alt şirketine katılmasından bu yana, o düzenli AI destekli görsel efekt işi akışının neredeyse durma noktasına geldiğini de belirtmeliyim.

Ben Affleck’in Netflix ile AI VFX ortaklığı (NFLX ) ve Soderbergh ile Aronofsky gibi ünlü yönetmenlerin AI’ye bağlılığı gibi haberlere rağmen, son zamanlarda film ve televizyonda ‘Metaphysic’in zirvesi’ dönemindeki kadar çok deepfake yüz görmedim. The Capture dizisinin deepfake teknolojisi simülasyonu bunun dışında.

Pek çok alana yayılan AI karşıtı tepkinin büyüklüğü düşünüldüğünde, AI ile değiştirilen kimlikler konusunda hepimizin kamuoyunun havasını sezmekte olup olmadığını merak ediyorum. Ian Holm’un yeniden canlandırılması, Harrison Ford’un gençleştirilmesi ve gin satmak için Rat Pack’in yeniden canlandırılması gibi AI yardımıyla yapılan işler yakında artık klasikleşen ‘O zamanlar farklıydı’ memini akla getirebilir.

Olumsuz çağrışımlar

Bu, birçok açıdan bir çağrışım sorunu; ancak Metaphysic’in kurulduğu 2021’deki sorunla aynı değil.

O dönemde deepfake pornosu viral bir olgu olmuştu. Hem işyerinde izlenmeye uygun hem de uygun olmayan bütün içerik iki açık kaynak yazılım deposundan birinden çıkıyordu† . Bugünün aksine, fotogerçekçi AI içeriği üretmenin erişimi denetlenen veya sansürlenen bir yolu yoktu.

O sıralarda dünyanın en büyük deepfake porno sitesi, 2025’te bir soruşturmanın ardından kapatılacak olsa da, en büyük deepfake yazılım deposu DeepFaceLab’in resmî talimatlarının bulunduğu yerdi. DeepFaceLab, Metaphysic’in ilk yaklaşımlarının da kabul edilmiş temeliydi.

Bir zamanlar dünyanın en popüler deepfake yazılımı olan DeepFaceLab'in özgün kullanıcı kılavuzu, dünyanın en büyük deepfake porno sitesinde barındırılıyordu. Daha sonra yazılım arşivlendi ve site kapatıldı. Kaynak – https://web.archive.org/web/20210203195545/https://mrdeepfakes.com/forums/thread-guide-deepfacelab-2-0-guide

Bir zamanlar dünyanın en popüler deepfake yazılımı olan DeepFaceLab’in özgün kullanıcı kılavuzu, dünyanın en büyük deepfake porno sitesinde barındırılıyordu. Daha sonra yazılım arşivlendi ve site kapatıldı. Kaynak

Yazılım geliştiricileri porno ve deepfake arasındaki bağı açıkça dışlamadığından, bu durum teknolojiyi meşru biçimde kullanmaya çalışan her şirketi kaçınılmaz olarak etkileyecekti.

Bu nedenle, belki de özellikle şirketin kurucusu DeepFaceLab’in kurucusuyla birlikte 2020’de deepfake hakkında bir Arxiv görüş makalesinin yazarları arasında yer aldığı ve bu bağlar nedeniyle çok eleştirildiği için, Metaphysic’in özel bir etik bölümü vardı ve şirket bu konuda sesini açıkça ve kamuoyu önünde duyuruyordu.

Bugün deepfake içeriğini suç sayan geniş ve giderek artan küresel mevzuatla birlikte, AI ile oluşturulan kimliklerin bu ‘talihsiz’ çağrışımı pornodan yoksulluğa kaydı. Küresel işgücü, farklı AI türleri (genellikle büyük dil modelleri, yani LLM’ler) tarafından doğrudan tehdit edilirken AI teriminin tamamını şeytanlaştırmaya başlıyor.

Köylüler isyan ediyor

Bir noktada, belki 2023 ortasında, çeşitli şirket toplantılarına katılırken şirketin sunduğu hizmetlere karşı giderek büyüyen, gündelik ve duruma özgü bir direnç dalgası sezmeye başladım; bunu başkalarının aktardıklarından hissettiğimi kabul etmeliyim. Bu, AI’nin çalışanlar için varoluşsal bir tehdit olarak görülmesine ilişkin ilk toplumsal dalgalarla örtüşüyordu. Hollywood sendikalarının bu konuda ön safta olduğunu da belirtmek gerekir.

Bazı çevrelerde AI, ‘riske değmez’ olarak görülüyor gibiydi. Ayrıca Metaphysic, en yoğun üretim döneminde bile, oldukça isteksiz görünen genç Elvis Presley’yi America’s Got Talent programına taşımanın yarattığı şaşkınlıktan sonra tartışmasız bir başarı elde edemedi. Aslında ana akım film ve televizyon için AI içeriği üreten hiçbir şirket de bunu yapamadı.

Her zaman nefret etmek için bir neden var gibiydi: sürekli var olan tekinsiz vadi, porno çağrışımı ve sonrasında AI kaynaklı ekonomik kıyamet tehdidiyle bağlantı.

AI’nin ‘tiranozor anı’

Uzun süre, VFX bağlamında insanları yüzde 100 sadakatle yeniden yaratmanın, CGI’nin uzun zamandır başaramadığı bir alanda değerli, hatta belki kaçınılmaz bir hedef olduğunu düşünmüştüm.

Görsel efektlerde AI’nin gelişiminin, izleyicilerin sevinciyle karşılanacak üçüncü bir çağ değişimi anında doruğa ulaşacağını hayal ettim. İlki 1977’de Star Wars filminde tepemizden gürleyerek geçen yıldız destroyerini ilk görüşümüzdü; ikincisi 1993’te Jurassic Park filminde öfkeli tiranozorun barınağından kaçışıydı.

Her biri endüstride köklü değişikliklere yol açmış, her birinden önce yeni teknoloji veya yöntemin sınırlarını zorlayan öncüler gelmişti.

Metaphysic’in yapıt akışının, seyircilere henüz o ‘tiranozor anını’ sunmasa bile, kaçınılmaz olarak ona götüreceğini düşünüyordum. Bir gün sinemada imkânsız bir şey görecektik; AI ile temelden yapılmış, sadece CGI ile örtülmüş olmayan, bizi hayrete düşürecek bir şey.

Şimdi… bilmiyorum. Sinemada AI’nin o hayranlık anının geleceğine inanmadığım anlamına gelmiyor. Mesele yalnızca AI videosunun profesyonellerin masasına oturabilmesi için aşması gereken çok sayıda kritik sorun da değil.

Daha çok, belirsiz ve belki ahlaken korkakça bir biçimde, VFX’teki AI ile bu dönemde diğer sektörlerde görülen AI’nin olumsuz sonuçları arasında giderek büyüyen olumsuz kamuoyu çağrışımını paylaşmaya başladım.

Ayrıca Common Crawl gibi karşılığı ödenmemiş ve serbest olmayan veri kümelerinin tarihsel etkisinin gerçekten hesaba katıldığına şu anda ikna değilim. Son yaklaşık 18 ayda manşetlere çıkan çok övülen AI lisans anlaşmalarının birçoğunun da belli ölçüde fikrî mülkiyet aklama olduğunu düşünüyorum.

Bu yüzden kusursuz, tekinsizliği olmayan, AI ile yeniden yaratılmış bir Marilyn Monroe veya Humphrey Bogart ekrana çıktığında içimde hem hayranlık hem de huzursuzluk belireceğini sanıyorum. AI sihrinin yükleri üzerimde ağırlık oluşturmaya başladı.

Sonuç

Önceki iki teknolojik atılım bu tür çekinceler taşımıyordu. ILM ve hareket kontrol düzeneklerinin ortaya çıkışı, daha önce az sayıda seçkin geçici serbest çalışanın aralıklı siparişleri karşılamasından oluşan bir alanı fiilen endüstriye dönüştürdü. CGI’nin gelişi VFX sektöründeki iş sayısını çok artırdı; ilgili yazılım geliştirme ve destek hizmetlerinde de değer yarattı.

Bilgisayarlı görüye ilgim değişmedi. AI’nin olası pek çok görsel-işitsel uygulamasına duyduğum ilgi ve makine öğreniminin diğer sektörlerdeki daha geniş kullanımına yönelik heyecanım da sönmedi.

Yalnızca sinemada AI’nin o ‘vay canına’ anını beklemeye devam edebilmeyi dilerdim.

Metaphysic’in en aktif yıllarına göre film ve televizyonda AI ile oluşturulmuş yüzlerin aniden azalmasının bir olasılığı, yapım şirketlerinin artık AI yardımlı rötuşları çok az tanıtımla ya da hiç duyurmadan uygulamasıdır. Bu, 2022–23 döneminin yüksek sesli basın açıklamalarının tersidir; eğlence sektöründeki AI yeniliklerine kamuoyu tepkisi son dönemde bu kadar düşmanca hale gelmiştir.

İkincisi, yinelemek gerekirse, şirketin ilk çıkışını yaptığı AGT sonrasında Metaphysic’in herhangi bir film veya televizyon programına kendi katkısı hiçbir zaman tam anlamıyla tartışmasız bir başarıya dönüşmedi. Indiana Jones 4 deepfake’i veya diğer yapım şirketlerinin işleri, bir taklitçi dalgası başlatacak ya da VFX’teki AI’ye gerçek itibar ve yatırımcılar için çekicilik kazandıracak kadar iyi karşılanmadı veya kazançlı olmadı.

 

* Bu, kamuya açık LinkedIn profillerine ve IMDB yapım künyelerine bakılarak kolayca doğrulanabilir.

† DeepFaceLab ve pornoyla daha az ilişkili FaceSwap.

İlk yayın: 27 Nisan 2026 Pazartesi

Makine öğrenimi üzerine yazar, insan görüntüsü sentezi alanında uzman. Metaphysic.ai'nin DNEG'e ait Brahma.ai bünyesine katılmasına kadar araştırma içeriğinden sorumlu yönetici olarak görev yaptı.
Web Sitesi: martinanderson.ai
İletişim: martin@martinanderson.ai