Về Đạo Đức Của Hollywood Deepfakes

Tại sao gần đây có sự sụt giảm rõ ràng trong nội dung deepfake trên TV và phim? Tác giả đã làm việc cho công ty hiệu ứng hình ảnh Metaphysic.ai trong hơn hai năm rưỡi, bao gồm 20 tháng là nhân viên toàn thời gian.

Ý kiến/Đặc điểm Khi còn nhỏ, tôi đã bị thu hút bởi những câu chuyện về sự hình thành của Industrial Light and Magic (ILM), hoạt động từ một kho hàng cơ bản ở Van Nuys, và xây dựng những phương pháp hiệu ứng hình ảnh mới được điều khiển bằng chuyển động mà sẽ thống trị hầu hết những năm 1980, cho đến khi xuất hiện của CGI.

Phá hủy những mảnh của Death Star trong sân của ILM tại Van Nuys vào giữa những năm 1970. Nguồn

Nó là một câu chuyện gốc tuyệt vời, và tôi khuyên bạn nên đọc nhiều sách và bài viết kể lại cách hiệu ứng cho Star Wars (1977) đã được – sau một thời gian dài làm việc chăm chỉ, chỉ trích và chậm trễ – cuối cùng cũng được thực hiện.

Công ty ILM non trẻ sau đó sẽ chuyển đến San Francisco và tiếp tục đông hóa quá trình sản xuất hiệu ứng hình ảnh bằng phương pháp hóa học. Ngay cả vào thời điểm làm việc về hiệu ứng hình ảnh cho The Empire Strikes Back vào năm 1978/9, ILM, mặc dù vẫn là một công ty hiệu ứng hình ảnh tiên phong và đổi mới, đã có nhiều bộ phận kế toán và nhân sự.

Nhưng trong giai đoạn đó, và kể từ đó, trí tưởng tượng của tôi đã bị thu hút bởi việc tự hỏi những năm đầu tiên tại Van Nuys sẽ như thế nào, khi họ sử dụng các bộ kit mô hình và phương pháp quang học từ những năm 1960, và gần như tạo ra một ngành công nghiệp mà trước đây chỉ là sở hữu của các chuyên gia hiệu ứng hình ảnh độc lập cá nhân.

Mặt Trước Của Cách Mạng

Trong gần ba năm tôi làm việc tại công ty hiệu ứng hình ảnh Metaphysic.ai đã giải thể, tôi nghĩ tôi đã đến gần nhất có thể với trải nghiệm Van Nuys vào giữa những năm 1970.

Trong thời gian đó, Metaphysic đã sản xuất các hiệu ứng hình ảnh được điều khiển bởi AI, cụ thể cho một số thương hiệu lớn nhất, bao gồm Mad Max và Alien franchises, cũng như sản xuất công việc lão hóa ngược deepfake tiên phong (mặc dù được chỉ trích nhiều) cho bộ phim Here (2024) của Robert Zemeckis, và nhiều tác phẩm khác:

Có nhiều cuộc họp “dailies” (trình chiếu các đoạn phim mới nhất được sản xuất, trong các cuộc họp Zoom đông đúc) hơn bất kỳ ai có thể tham dự hợp lý và vẫn hoàn thành công việc của mình, cũng như các cuộc họp “skunkworks” kiểu huddle, nơi các nhóm được chọn sẽ làm việc cùng nhau trên các “mini-moonshots”, nhằm mục đích thúc đẩy công nghệ tiên tiến của công ty.

Nhiều nhân viên đã đến công ty trực tiếp từ ILM, hoặc đã từng làm việc cho ILM trong quá khứ*; và mặc dù rõ ràng, từ các câu chuyện, rằng tinh thần Van Nuys đã lâu không còn tại ILM, và các công ty hiệu ứng hình ảnh lớn khác mà một số nhân viên đã đến, sự liên kết vẫn rất mạnh mẽ đối với tôi.

George Lucas xem xét các hiệu ứng hình ảnh với John Dykstra, Richard Edlund, Joe Johnston, và Rose Duignan trong quá trình sản xuất Star Wars. Nguồn

Tôi không biết liệu có thể lập luận rằng Metaphysic sẽ phát minh ra một thiết bị tương đương với DykstraFlex motion-control rig mà đã xuất hiện từ xưởng Van Nuys; nhưng nó đã đưa hiệu ứng hình ảnh được điều khiển bởi AI lên bản đồ, và chịu trách nhiệm cho nhiều hiệu ứng thay thế và thay đổi khuôn mặt bằng AI hơn bất kỳ công ty hiệu ứng hình ảnh hoặc dự án nào khác đã thực hiện trong giai đoạn đó, hoặc kể từ đó.

Chậm Lại

Và tôi phải lưu ý rằng kể từ khi công ty được sáp nhập vào công ty con Brahma AI của DNEG, dòng hiệu ứng hình ảnh được điều khiển bởi AI dường như đã chậm lại.

Mặc dù có các tiêu đề như đối tác VFX AI của Netflix, và cam kết với AI từ các đạo diễn nổi tiếng Soderbergh và Aronofsky, tôi chưa thấy nhiều khuôn mặt deepfake trong phim và TV gần đây (trừ The Capture mô phỏng công nghệ deepfake), so với “đỉnh cao Metaphysic”.

Cho đến khi mức độ phản ứng ngược lại AI trên nhiều lĩnh vực và ngành công nghiệp, tôi tự hỏi liệu chúng ta có đang bắt đầu “đọc phòng” về các bản sắc được điều khiển bởi AI; và nếu các nỗ lực được hỗ trợ bởi AI như sự hồi sinh của Ian Holm, làm trẻ lại Harrison Ford, và sự hồi sinh của Rat Pack để bán gin có thể sớm gây ra phản ứng ngược lại ‘Đó là một thời gian khác’.

Sự Liên Kết Tiêu Cực

Nó là một vấn đề về sự liên kết; nhưng nó không phải là vấn đề liên kết giống như nó đã từng vào năm 2021, khi Metaphysic được thành lập.

Vào thời điểm đó, deepfake khiêu dâm đã trở thành một hiện tượng lan truyền, với tất cả nội dung SFW và NSFW đều đến từ một trong hai kho lưu trữ phần mềm mã nguồn mở^† . Không giống như hiện tại, không có cách “đóng cửa” hoặc kiểm duyệt để sản xuất nội dung AI photorealistic.

Thời gian đó, trang web deepfake khiêu dâm lớn nhất trên thế giới (định mệnh sẽ bị đóng cửa bởi một cuộc điều tra vào năm 2025) là nơi có hướng dẫn chính thức cho kho lưu trữ phần mềm deepfake lớn nhất, DeepFaceLab, chính là cơ sở được thừa nhận của các phương pháp ban đầu của Metaphysic:

Hướng dẫn người dùng ban đầu cho DeepFaceLab, vào một thời điểm là phần mềm deepfake phổ biến nhất trên thế giới – được lưu trữ tại trang web deepfake khiêu dâm lớn nhất trên thế giới. Kể từ đó, phần mềm đã được lưu trữ, và trang web đã bị đóng cửa. Nguồn

Kể từ khi các nhà phát triển phần mềm rõ ràng không tránh khỏi sự liên kết giữa deepfake và khiêu dâm, điều này sẽ ảnh hưởng đến bất kỳ công ty nào cố gắng áp dụng công nghệ này một cách hợp pháp.

Do đó (có lẽ không chỉ vì người sáng lập công ty được bao gồm với người sáng lập DeepFaceLab trong tác giả của một bài báo vị trí trên Arxiv về deepfake vào năm 2020, và đã bị chỉ trích vì những liên kết này) Metaphysic đã có một bộ phận đạo đức chuyên dụng, và công ty đã lên tiếng và rất công khai về chủ đề này.

Những ngày này, với sự xuất hiện rộng rãi và tăng trưởng của các luật pháp toàn cầu về việc hình sự hóa nội dung deepfake, sự liên kết “không may” về bản sắc được tạo ra bởi AI đã chuyển từ khiêu dâm sang nghèo đói, khi lực lượng lao động toàn cầu bị đe dọa trực tiếp bởi loại AI khác (thường là Mô hình Ngôn ngữ Lớn, hoặc LLM), đang bắt đầu demon hóa thuật ngữ trên toàn bộ.

Những Người Dân Làng Đang Nổi Loạn

Tại một thời điểm, có lẽ vào giữa năm 2023, tham dự các cuộc họp công ty, tôi bắt đầu cảm nhận được, mặc dù gián tiếp, một làn sóng phản kháng ngày càng tăng đối với các dịch vụ mà công ty đang cung cấp, trùng hợp với những đợt sóng xã hội đầu tiên xung quanh AI như một mối đe dọa tồn tại đối với người lao động (mặc dù phải lưu ý rằng các công đoàn Hollywood đã đứng đầu trong vấn đề này).

AI dường như được xem là “không đáng rủi ro”. Ngoài ra, trong giai đoạn hoạt động cao điểm của Metaphysic, công ty không bao giờ thực sự có một hit không bị pha loãng sau giá trị shock của việc đưa Elvis Presley trẻ vào America’s Got Talent. Trên thực tế, không có công ty nào output nội dung được tạo ra bởi AI trong công việc phim và TV chính thống.

Luôn có lý do để ghét: thung lũng kỳ lạ uncanny valley; sự liên kết với khiêu dâm; và sau đó, sự liên kết với một cuộc khủng hoảng kinh tế do AI gây ra.

‘Thời Kỳ Khủng Long’ Của AI

Nó đã似乎 với tôi, trong một thời gian dài, rằng việc tái tạo con người với độ trung thực 100% trong một bối cảnh hiệu ứng hình ảnh mà đã thất bại bởi CGI trong một thời gian dài, là một mục tiêu đáng giá, nếu không phải là một mục tiêu không thể tránh khỏi.

Tôi tưởng tượng rằng sự tiến hóa của AI trong hiệu ứng hình ảnh sẽ kết thúc trong một sự thay đổi “kỷ nguyên” thứ ba cho ngành công nghiệp, để mang lại niềm vui cho khán giả. Sự thay đổi đầu tiên là sự ra đời của ILM và các giá đỡ điều khiển chuyển động; và sự thay đổi thứ hai, sự thoát khỏi Tyrannosaur trong Jurassic Park, vào năm 1993.

Mỗi sự kiện đã dẫn đến những thay đổi cơ bản trong ngành công nghiệp, và mỗi sự kiện đã được báo trước bởi những người tiên phong đẩy giới hạn của một công nghệ hoặc phương pháp mới.

Vì vậy, dường như với tôi rằng dòng sản phẩm của Metaphysic sẽ dẫn đến một “thời kỳ khủng long” như vậy; rằng một ngày nào đó, chúng ta sẽ thấy điều gì đó không thể trong một bộ phim; điều gì đó được tạo ra bởi AI (thay vì được che giấu bằng CGI), điều đó sẽ làm chúng ta ngạc nhiên.

Bây giờ… tôi không biết. Nó không nhất thiết là tôi không tin rằng khoảnh khắc đó sẽ đến, đối với AI trong điện ảnh; hay rằng có nhiều vấn đề quan trọng mà video AI cần phải vượt qua trước khi nó có thể tham gia vào bàn làm việc của các chuyên gia.

Nó chỉ là tôi đã bắt đầu chia sẻ, theo một cách mơ hồ (và có thể là một cách hèn hạ về mặt đạo đức), cảm giác tiêu cực ngày càng tăng của công chúng về sự liên kết giữa AI trong hiệu ứng hình ảnh và những tác động tiêu cực của AI trong các lĩnh vực khác, trong giai đoạn này.

Besides này, tôi không chắc chắn rằng sự ảnh hưởng của các tập dữ liệu không được trả tiền và không miễn phí như Common Crawl đã thực sự được tính đến; và tôi coi nhiều thỏa thuận “giấy phép AI” đã làm tiêu đề trong 18 tháng qua hoặc lâu hơn, đại diện cho một số mức độ rửa IP.

Vì vậy, khi một Marilyn Monroe hoặc Humphrey Bogart hoàn hảo và không kỳ lạ được tạo lại bởi AI bước lên màn hình, tôi nghĩ rằng cảm giác kinh ngạc và khó xử sẽ xuất hiện trong tôi, vì những hành lý của AI đã bắt đầu đè nặng lên tôi.

Kết Luận

Hai sự đột phá công nghệ trước đó đã đến mà không có những hạn chế như vậy: sự ra đời của ILM và các giá đỡ điều khiển chuyển động đã tạo ra một ngành công nghiệp mà trước đây chỉ là một loạt các ủy thác偶发 được đáp ứng bởi một nhóm nhỏ các freelancer độc lập; và sự ra đời của CGI đã tăng đáng kể số lượng việc làm trong ngành hiệu ứng hình ảnh, và tạo ra giá trị trong các lĩnh vực phần mềm và dịch vụ hỗ trợ khác.

Sự quan tâm của tôi đến tầm nhìn máy tính vẫn còn nguyên vẹn, cùng với sự quan tâm của tôi đến tiềm năng của AI trong nhiều ứng dụng âm thanh và hình ảnh có thể; và sự nhiệt tình của tôi đối với các ứng dụng rộng rãi hơn của học máy, trên nhiều lĩnh vực khác, vẫn không thay đổi.

Tôi chỉ mong muốn tôi có thể tiếp tục mong đợi khoảnh khắc “wow” của AI tại rạp chiếu phim.

Về lý do tại sao có sự khan hiếm đột ngột của khuôn mặt được tạo ra bởi AI trong phim và TV, so với những năm hoạt động mạnh nhất của Metaphysic – một khả năng là các chỉnh sửa được hỗ trợ bởi AI hiện được áp dụng bởi các nhà sản xuất với rất ít hoặc không có tuyên truyền (so với các thông cáo báo chí ầm ĩ của giai đoạn 2022-23), vì phản ứng của công chúng đối với sự đổi mới của AI trong giải trí đã trở nên thù địch gần đây.

Thứ hai, để nhắc lại: sau AGT, nơi công ty ra mắt, Metaphysic không bao giờ thực sự có một hit không bị pha loãng về đóng góp của mình cho bất kỳ bộ phim hoặc chương trình TV nào; và không có công việc của những nhà sản xuất khác đã được đón nhận nồng nhiệt đủ, hoặc làm cho AI trong VFX trở nên đáng tin cậy và thân thiện với nhà đầu tư.

* Điều này có thể được xác minh dễ dàng bằng cách chỉ cần xem các hồ sơ LinkedIn và tín dụng IMDB công khai.

^† DeepFaceLab, và FaceSwap ít liên quan đến khiêu dâm hơn.

Được xuất bản lần đầu vào thứ Hai, ngày 27 tháng 4 năm 2026