Etika Deepfakes Hollywood

Mengapa ada penurunan tajam dalam konten deepfake TV dan film akhir-akhir ini? Penulis bekerja untuk perusahaan efek visual deepfake pionir Metaphysic.ai selama lebih dari dua setengah tahun, termasuk 20 bulan sebagai karyawan penuh waktu.

Opini/Fitur Sebagai anak kecil, saya terpesona oleh cerita tentang pendirian Industrial Light and Magic (ILM), yang beroperasi dari gudang dasar di Van Nuys, dan membangun metode efek visual motion-controlled baru yang akan mendominasi sebagian besar tahun 1980-an, hingga munculnya CGI.

Menghancurkan bagian-bagian Death Star di halaman ILM di Van Nuys pada pertengahan 1970-an. Sumber

Ini adalah cerita asal yang luar biasa, dan saya sarankan banyak buku dan artikel yang menceritakan kembali bagaimana efek untuk Star Wars (1977) – setelah banyak kesulitan, penyesalan, dan keterlambatan – akhirnya disampaikan.

ILM yang masih muda kemudian pindah ke San Francisco dan melanjutkan untuk industrialisasi produksi efek foto-kimia. Bahkan pada saat pekerjaan VFX untuk The Empire Strikes Back pada 1978/9, ILM, meskipun masih sebuah rumah efek inovatif dan berani, sudah penuh dengan departemen akuntansi dan HR.

Tapi pada periode itu, dan sejak itu, imajinasi saya tertangkap oleh pertanyaan tentang apa yang terjadi pada beberapa tahun pertama di Van Nuys, mengambil kit model dan metode optik 1960-an, dan hampir menciptakan industri yang telah menjadi milik spesialis VFX auteur individual.

Wajah Revolusi

Dalam hampir tiga tahun saya bekerja di perusahaan efek visual Metaphysic.ai yang sekarang dibubarkan, saya pikir saya telah mendekati pengalaman Van Nuys pada pertengahan 1970-an.

Di waktu itu, Metaphysic menghasilkan efek visual yang digerakkan oleh AI, termasuk Mad Max dan Alien franchise, serta memproduksi pekerjaan de-aging deepfake yang berani (meskipun banyak dikritik) untuk film Robert Zemeckis Here (2024), dan banyak karya lain:

Ada lebih banyak pertemuan “dailies” (penayangan footage terbaru yang diproduksi, dalam pertemuan Zoom yang padat) daripada yang dapat dihadiri oleh satu orang dan masih menyelesaikan pekerjaannya, serta pertemuan skunkworks-style, di mana kelompok-kelompok tertentu bekerja sama untuk memajukan keadaan mutakhir perusahaan.

Banyak staf datang ke perusahaan langsung dari ILM, atau telah bekerja untuk ILM di masa lalu*; dan meskipun jelas, dari anekdot, bahwa semangat Van Nuys telah lama hilang di ILM, dan rumah-rumah efek besar lainnya yang beberapa staf datang dari, asosiasi tersebut tetap menarik bagi saya.

George Lucas meninjau efek shot dengan John Dykstra, Richard Edlund, Joe Johnston, dan Rose Duignan selama produksi Star Wars. Sumber

Saya tidak tahu apakah seseorang dapat berargumen bahwa Metaphysic akan menciptakan sesuatu yang setara dengan DykstraFlex motion-control rig yang keluar dari bengkel Van Nuys; tapi itu meletakkan VFX yang digerakkan oleh AI di peta, dan bertanggung jawab atas lebih banyak pekerjaan penggantian wajah dan pengubahan yang profesional daripada rumah efek atau proyek lainnya yang dilakukan dalam periode itu, atau telah dilakukan sejak itu.

Perlambatan

Dan saya harus mencatat bahwa sejak perusahaan tersebut diambil alih oleh Brahma AI sub-perusahaan DNEG, aliran steady pekerjaan efek visual yang digerakkan oleh AI tampaknya telah melambat menjadi merayap.

Meskipun ada judul-judul seperti kemitraan VFX AI Netflix Ben Affleck, dan komitmen terhadap AI dari sutradara terkenal Soderbergh dan Aronofsky, saya belum melihat banyak wajah deepfake di film dan TV akhir-akhir ini (kecuali The Capture yang mensimulasikan teknologi deepfake), dibandingkan dengan ‘puncak Metaphysic’.

Mengingat luasnya backlash AI di berbagai bidang dan sektor, saya bertanya-tanya apakah kita tidak semua mulai ‘membaca ruangan’ tentang identitas yang diubah oleh AI; dan jika upaya yang difasilitasi oleh AI seperti pembangkitan kembali Ian Holm, pemudaan Harrison Ford, dan pembangkitan kembali Rat Pack untuk menjual gin mungkin segera memicu meme klasik ‘It was a different time’.

Asosiasi Negatif

Dalam banyak cara, ini adalah masalah asosiasi; tapi itu bukan masalah asosiasi yang sama seperti yang ada pada 2021, ketika Metaphysic dibentuk.

Pada saat itu, deepfake porn telah menjadi fenomena viral, dengan semua output SFW dan NSFW berasal dari salah satu dari dua repositori perangkat lunak sumber terbuka^† . Berbeda dengan sekarang, tidak ada cara ‘gatekept’ atau disensor untuk menghasilkan konten AI yang realistis.

Kemudian, situs deepfake porn terbesar di dunia (yang ditakdirkan untuk dibongkar oleh penyelidikan pada 2025) adalah di mana instruksi resmi untuk repositori perangkat lunak deepfake terbesar, DeepFaceLab, itu sendiri adalah dasar dari pendekatan Metaphysic awal:

Panduan pengguna asli untuk DeepFaceLab, pada satu waktu perangkat lunak deepfake paling populer – dihosting di situs deepfake porn terbesar di dunia. Sejak itu, perangkat lunak telah diarsipkan, dan situs telah dibongkar. Sumber

Karena pengembang perangkat lunak jelas tidak menghindari asosiasi antara porn dan deepfakes, ini pasti akan mempengaruhi perusahaan yang mencoba mengadopsi teknologi ini secara sah.

Sebagai akibatnya (mungkin tidak hanya karena pendiri perusahaan termasuk dalam penulisannya bersama pendiri DeepFaceLab dalam posisi paper Arxiv tentang deepfakes pada 2020, dan menghadapi banyak kritik atas asosiasi ini) Metaphysic memiliki departemen etika yang didedikasikan, dan perusahaan tersebut vokal dan sangat terbuka tentang topik ini.

Hari-hari ini, dengan legislasi global yang luas dan tumbuh yang mengkriminalkan konten deepfake, asosiasi ‘tidak menguntungkan’ tentang identitas yang dibuat oleh AI telah berpindah dari porn ke kemiskinan, karena tenaga kerja global yang terancam oleh berbeda jenis AI (biasanya Large Language Models, atau LLMs) mulai mendemonisasi istilah tersebut secara keseluruhan.

Penduduk Desa Memberontak

Pada suatu titik, mungkin pertengahan 2023, menghadiri berbagai pertemuan perusahaan, saya mulai merasakan, secara tidak langsung, gelombang perlawanan kasual ad hoc terhadap layanan yang ditawarkan perusahaan, bersamaan dengan gejolak sosial awal sekitar AI sebagai ancaman eksistensial bagi pekerja (meskipun harus dicatat bahwa serikat pekerja Hollywood berada di garis depan dalam hal ini).

AI tampaknya dianggap sebagai ‘tidak sepadan dengan risiko’. Selain itu, pada puncak periode output Metaphysic, perusahaan tersebut tidak pernah benar-benar memiliki hit yang tidak terbantahkan setelah nilai kejutan dari memasukkan (seorang) Elvis Presley muda di America’s Got Talent. Bahkan, tidak ada perusahaan yang menghasilkan konten yang dihasilkan oleh AI di pekerjaan film dan TV mainstream yang memiliki hit yang sukses.

Selalu ada alasan untuk membenci: lembah yang tidak nyaman; asosiasi dengan porn; dan kemudian, asosiasi dengan bencana ekonomi AI yang terancam.

‘Momen Tyrannosaurus’ AI

Saya pikir, selama waktu yang lama, merekayasa ulang manusia dengan keaslian 100% dalam konteks VFX yang telah gagal oleh CGI selama waktu yang lama, adalah tujuan yang patut dan tak terelakkan.

Saya membayangkan bahwa evolusi AI dalam efek visual akan mencapai perubahan ‘epochal’ ketiga bagi industri, untuk kegembiraan pemirsa. Yang pertama adalah penampakan pertama dari kapal perusak yang menghantam di Star Wars pada 1977, dan yang kedua, T-Rex yang marah melarikan diri dari kandangnya di Jurassic Park, pada 1993.

Kedua-duanya telah menyebabkan perubahan radikal dalam industri, dan keduanya telah diprediksi oleh pelopor yang mendorong batas-batas teknologi atau metode yang baru.

Demikian pula, tampaknya bagi saya bahwa aliran rilis Metaphysic, meskipun tidak menyediakan ‘momen T-Rex’ bagi pemirsa, pasti akan menyebabkan momen itu; bahwa suatu hari nanti, kita akan melihat sesuatu mustahil dalam film; sesuatu fundamental yang dibuat oleh AI (bukan ditutupi dengan CGI), yang akan membuat kita terkejut.

Sekarang… Saya tidak tahu. Bukan karena saya tidak percaya bahwa momen kekaguman itu akan datang, untuk AI di bioskop; atau bahwa ada banyak masalah kritis untuk AI video untuk diatasi sebelum dapat bergabung dengan para profesional di meja.

Lebih dari itu, saya telah mulai berbagi, dengan cara yang samar (dan mungkin pengecut secara moral), perasaan negatif yang tumbuh di masyarakat antara AI dalam VFX, dan dampak negatif AI di sektor lain, pada periode ini.

Di samping itu, saya tidak yakin bahwa pengaruh historis dari dataset yang tidak dibayar dan tidak gratis seperti Common Crawl telah benar-benar diperhitungkan, dan saya menganggap bahwa banyak kesepakatan ‘lisensi AI’ yang telah membuat headline selama 18 bulan terakhir atau lebih mewakili beberapa bentuk pencucian IP.

Oleh karena itu, ketika momen yang sempurna dan tidak mengganggu AI-regenerasi Marilyn Monroe atau Humphrey Bogart melangkah ke layar, saya pikir perasaan kagum dan tidak nyaman akan muncul dalam diri saya, karena keajaiban AI telah mulai menimbulkan beban dalam diri saya.

Kesimpulan

Dua kemajuan teknologi sebelumnya datang tanpa catatan: pendirian ILM dan rig motion control efektif menciptakan industri yang sebelumnya merupakan serangkaian komisi yang sporadis yang dipenuhi oleh sekelompok elit freelancer ad hoc; dan pendirian CGI secara signifikan meningkatkan jumlah pekerjaan dalam industri VFX, dan menciptakan nilai dalam pengembangan perangkat lunak yang berdekatan, serta berbagai layanan pendukung.

Minat saya dalam Computer Vision tetap ada, bersama dengan minat saya dalam potensi AI dalam berbagai aplikasi audiovisual yang mungkin; dan antusiasme saya untuk aplikasi yang lebih luas dari pembelajaran mesin, di berbagai sektor lain, tidak berkurang.

Saya hanya berharap saya bisa terus menantikan ‘momen wow’ AI di bioskop.

Untuk alasan mengapa ada kelangkaan wajah yang dihasilkan AI di film dan TV, dibandingkan dengan tahun-tahun paling aktif Metaphysic – salah satu kemungkinan adalah bahwa penyesuaian yang dibantu AI sekarang diterapkan oleh rumah produksi dengan sedikit atau tanpa publisitas (dibandingkan dengan rilis pers yang keras pada periode 2022-23), mengingat respons masyarakat terhadap inovasi AI dalam hiburan telah menjadi sangat bermusuhan akhir-akhir ini.

Kedua, untuk mengulangi: setelah AGT, di mana perusahaan membuat debutnya, Metaphysic tidak pernah benar-benar memiliki hit yang tidak terbantahkan dalam hal kontribusinya pada film atau acara TV mana pun; dan tidak ada pekerjaan dari rumah produksi lain yang diterima dengan baik cukup, atau menguntungkan untuk memulai arus peniru, atau memberikan AI dalam VFX kredibilitas dan kelayakan investor yang sebenarnya.

* Ini dapat diverifikasi dengan mudah hanya dengan melihat profil LinkedIn yang tersedia secara publik dan kredit IMDB.

^† DeepFaceLab, dan FaceSwap yang kurang berhubungan dengan porn.

Publikasi pertama pada hari Senin, 27 April 2026