Về Đạo Đức Của Hollywood Deepfakes

Tại sao gần đây đã có một sự sụt giảm đáng kể trong nội dung deepfake trên TV và phim? Tác giả đã làm việc cho công ty deepfake tiên phong Metaphysic.ai trong hơn hai năm rưỡi, bao gồm 20 tháng là nhân viên toàn thời gian.

Ý Kiến/Đặc San Khi còn là một đứa trẻ, tôi đã bị thu hút bởi những câu chuyện về việc thành lập Industrial Light and Magic (ILM), hoạt động từ một kho hàng cơ bản ở Van Nuys, và xây dựng những phương pháp hiệu ứng hình ảnh mới dựa trên chuyển động được điều khiển, những phương pháp này sẽ thống trị hầu hết những năm 1980, cho đến khi xuất hiện CGI.

Blowing up bits of the Death Star in the courtyard of ILM at Van Nuys in the mid-1970s. Source

Đây là một câu chuyện về nguồn gốc xuất sắc, và tôi khuyên bạn nên đọc nhiều sách và bài viết kể lại cách những hiệu ứng cho Star Wars (1977) đã được thực hiện sau một thời gian dài làm việc chăm chỉ, chỉ trích và trì hoãn.

ILM non trẻ sau đó sẽ chuyển đến San Francisco và đi trên để cnustrialize sản xuất hiệu ứng photochemical. Ngay cả vào thời điểm làm việc về hiệu ứng hình ảnh cho The Empire Strikes Back vào năm 1978/9, ILM, mặc dù vẫn là một hiệu ứng hình ảnh tiên phong và sáng tạo, đã có rất nhiều bộ phận kế toán và nhân sự.

Nhưng trong thời gian đó, và từ đó, trí tưởng tượng của tôi đã bị thu hút bởi việc tự hỏi những năm đầu tiên ‘thô’ tại Van Nuys sẽ như thế nào, ăn cắp các bộ kit mô hình và phương pháp quang học của những năm 1960, và gần như phát minh ra một ngành công nghiệp mà trước đây là bảo tồn của các chuyên gia hiệu ứng hình ảnh auteur cá nhân.

Khuôn Mặt Của Cuộc Cách Mạng

Trong gần ba năm tôi làm việc tại công ty Metaphysic.ai đã giải thể, tôi nghĩ tôi đã đến gần nhất có thể với kinh nghiệm Van Nuys vào giữa những năm 70.

Trong thời gian đó, Metaphysic đã sản xuất các hiệu ứng hình ảnh được điều khiển bởi AI, cụ thể cho một số thương hiệu lớn nhất, bao gồm Mad Max và Alien franchises, cũng như sản xuất công việc deepfake lão hóa tiên phong (mặc dù được chỉ trích nhiều) cho bộ phim Here (2024) của Robert Zemeckis, và nhiều tác phẩm khác:

Có nhiều cuộc họp ‘dailies’ (trình chiếu các cảnh quay mới nhất được sản xuất, trong các cuộc họp Zoom đông đúc) hơn bất kỳ ai có thể tham dự hợp lý và vẫn hoàn thành công việc của mình, cũng như các cuộc họp kiểu ‘skunkworks’, nơi các nhóm được chọn sẽ làm việc cùng nhau trên các dự án nhỏ, nhằm thúc đẩy công nghệ của công ty.

Nhiều nhân viên đã đến công ty trực tiếp từ ILM, hoặc đã làm việc cho ILM trong quá khứ*; và ngay cả khi rõ ràng, từ những câu chuyện, rằng tinh thần Van Nuys đã lâu rồi đã nhường chỗ cho sự hợp lý hóa hàng loạt tại ILM, và các nhà hiệu ứng hình ảnh lớn khác mà một số nhân viên đã đến, sự liên kết vẫn còn điện cho tôi.

George Lucas reviews effects shots with John Dykstra, Richard Edlund, Joe Johnston, and Rose Duignan during the production of Star Wars. Source

Tôi không biết liệu có thể lập luận rằng Metaphysic sẽ phát minh ra một thiết bị tương đương với DykstraFlex motion-control rig mà đã xuất hiện từ xưởng Van Nuys; nhưng nó đã đưa hiệu ứng hình ảnh được điều khiển bởi AI lên bản đồ, và chịu trách nhiệm cho nhiều hiệu ứng thay thế và thay đổi khuôn mặt chuyên nghiệp hơn bất kỳ hiệu ứng nhà hoặc dự án nào khác đã thực hiện trong giai đoạn đó, hoặc đã thực hiện kể từ đó.

Chậm Lại

Và tôi phải lưu ý rằng kể từ khi công ty được sáp nhập vào Brahma AI của DNEG, dòng chảy liên tục của công việc hiệu ứng hình ảnh dựa trên AI dường như đã chậm lại.

Mặc dù có những tiêu đề như đối tác VFX AI của Netflix của Ben Affleck, và cam kết với AI từ các đạo diễn nổi tiếng Soderbergh và Aronofsky, tôi chưa thấy nhiều khuôn mặt deepfake trong phim và TV gần đây (trừ The Capture mô phỏng công nghệ deepfake), so với ‘đỉnh cao Metaphysic’.

Nhìn vào mức độ phản ứng ngược lại AI trên nhiều lĩnh vực và ngành, tôi tự hỏi liệu chúng ta không bắt đầu ‘đọc phòng’ về các bản sắc được thay đổi bởi AI; và nếu các nỗ lực được hỗ trợ bởi AI như sự hồi sinh của Ian Holm, làm trẻ hóa Harrison Ford, và sự hồi sinh của Rat Pack để bán gin có thể sớm gây ra cảm giác ‘Đó là một thời gian khác’.

Sự Liên Kết Tiêu Cực

Đây là một vấn đề về sự liên kết; nhưng nó không phải là vấn đề liên kết giống như năm 2021, khi Metaphysic được thành lập.

Vào thời điểm đó, deepfake khiêu dâm đã trở thành một hiện tượng lan truyền, với tất cả đầu ra an toàn và không an toàn đều đến từ một trong hai kho lưu trữ phần mềm nguồn mở^† . So với ngày nay, không có cách ‘cổng’ hoặc kiểm duyệt để sản xuất nội dung AI photoreal.

Sau đó, trang web deepfake khiêu dâm lớn nhất trên thế giới (định mệnh sẽ bị đóng cửa bởi một cuộc điều tra vào năm 2025) là nơi có hướng dẫn chính thức cho kho lưu trữ phần mềm deepfake lớn nhất, DeepFaceLab, chính là cơ sở được thừa nhận của các phương pháp ban đầu của Metaphysic:

The original user-guide for DeepFaceLab, at one time the world’s most popular deepfake software – hosted at the world’s biggest deepfake porn site. Since then, the software has been archived, and the site taken down. Source

Vì các nhà phát triển phần mềm rõ ràng không tránh khỏi sự liên kết giữa khiêu dâm và deepfake, điều này sẽ ảnh hưởng đến bất kỳ công ty nào cố gắng采用 công nghệ này một cách hợp pháp.

Do đó, Metaphysic đã có một bộ phận đạo đức chuyên dụng, và công ty đã lên tiếng và rất công khai về chủ đề này.

Những ngày này, với lượng lập pháp toàn cầu ngày càng tăng đang hình sự hóa nội dung deepfake, sự liên kết ‘không may’ về bản sắc được tạo bởi AI đã chuyển từ khiêu dâm sang nghèo đói, vì lực lượng lao động toàn cầu bị đe dọa bởi khác loại AI (thường là Mô hình Ngôn ngữ Lớn, hoặc LLM) đang bắt đầu demonize thuật ngữ trên toàn bộ.

Các Làng Đang Nổi Loạn

Tại một thời điểm nhất định, có lẽ vào giữa năm 2023, tham dự các cuộc họp công ty, tôi bắt đầu cảm nhận, mặc dù gián tiếp, một làn sóng ad hoc ngày càng tăng đối với các dịch vụ mà công ty đang cung cấp, trùng với những đợt sóng xã hội đầu tiên xung quanh AI như một mối đe dọa tồn tại đối với người lao động (mặc dù phải lưu ý rằng các công đoàn Hollywood đã đứng đầu trong vấn đề này).

AI dường như được coi là ‘không đáng rủi ro’. Ngoài ra, trong giai đoạn sản xuất cao điểm của Metaphysic, nó không bao giờ thực sự có một tác phẩm thành công không thể tranh cãi sau giá trị sốc của việc đưa (một) Elvis Presley trẻ vào America’s Got Talent. Trên thực tế, không có bất kỳ công ty nào đang sản xuất nội dung được tạo bởi AI trong công việc phim và TV chính thống.

Luôn có lý do để ghét: thung lũng kỳ lạ; sự liên kết với khiêu dâm; và sau đó, sự liên kết với một thảm họa kinh tế do AI thúc đẩy.

‘Tyrannosaur Moment’ Của AI

Nó đã似乎 với tôi, trong một thời gian dài, rằng việc tái tạo con người với độ trung thực 100% trong một ngữ cảnh hiệu ứng hình ảnh mà đã thất bại bởi CGI trong một thời gian dài, là một mục tiêu đáng giá, nếu không phải là một mục tiêu không thể tránh khỏi.

Tôi tưởng tượng rằng sự tiến hóa của AI trong hiệu ứng hình ảnh sẽ kết thúc trong một ‘thay đổi kỷ nguyên’ thứ ba cho ngành công nghiệp, để niềm vui của khán giả. Thay đổi đầu tiên là sự xuất hiện của chiếc tàu phá hủy sao đang thổi qua đầu trong Star Wars vào năm 1977, và thứ hai, con khủng long bạo chúa đang trốn thoát khỏi khu vực của nó trong Jurassic Park, vào năm 1993.

Mỗi thay đổi đã dẫn đến những thay đổi cơ bản trong ngành công nghiệp, và mỗi thay đổi đã được báo trước bởi những người采用 sớm đang đẩy giới hạn của một công nghệ hoặc phương pháp mới.

Vì vậy, dường như với tôi rằng dòng sản phẩm của Metaphysic, mặc dù không cung cấp cho khán giả ‘khoảnh khắc Tyrannosaur’, sẽ vô tình dẫn đến nó; rằng một ngày nào đó, chúng ta sẽ thấy điều gì đó không thể trong một bộ phim; điều gì đó cơ bản được tạo bởi AI (thay vì được che giấu bằng CGI), điều đó sẽ làm chúng ta ngạc nhiên.

Bây giờ…Tôi không biết. Nó không nhất thiết là tôi không tin rằng khoảnh khắc đó sẽ đến, đối với AI trong điện ảnh; hay chỉ là có nhiều vấn đề quan trọng đối với video AI để vượt qua trước khi nó có thể tham gia cùng các chuyên gia tại bàn.

Nó nhiều hơn là tôi đã bắt đầu chia sẻ, theo một cách mơ hồ (và có thể là đạo đức giả), cảm giác ngày càng tăng của sự liên kết tiêu cực giữa AI trong VFX, và những tác động tiêu cực của AI trong các lĩnh vực khác, trong giai đoạn này.

Ngoài ra, tôi không chắc chắn rằng sự ảnh hưởng lịch sử của các tập dữ liệu không được trả tiền và không miễn phí như Common Crawl đã thực sự được tính đến; và tôi coi nhiều thỏa thuận ‘giấy phép AI’ đã làm hàng đầu trang trong 18 tháng qua hoặc nhiều hơn đại diện cho một số mức độ rửa IP.

Do đó, vào thời điểm một Marilyn Monroe hoặc Humphrey Bogart được tái tạo hoàn hảo và không kỳ lạ bởi AI bước lên màn hình, tôi nghĩ rằng cảm giác kinh ngạc và khó xử sẽ xuất hiện trong tôi, vì hành lý của AI đã bắt đầu đè nặng lên tôi.

Kết Luận

Hai đột phá công nghệ trước đó đã không có những hạn chế như vậy: sự ra đời của ILM và các giá đỡ điều khiển chuyển động đã thực sự phát minh ra một ngành công nghiệp mà trước đây là một loạt các nhiệm vụ lẻ tẻ được đáp ứng bởi một nhóm nhỏ các nhà thầu tự do ad hoc; và sự ra đời của CGI đã tăng đáng kể số lượng việc làm trong ngành VFX, và tạo ra giá trị trong các dịch vụ phần mềm và dịch vụ hỗ trợ liền kề.

Sự quan tâm của tôi đối với tầm nhìn máy tính vẫn còn nguyên vẹn, cùng với sự quan tâm của tôi đối với tiềm năng của AI trong nhiều ứng dụng âm thanh và hình ảnh có thể; và sự nhiệt tình của tôi đối với các ứng dụng rộng hơn của học máy, trên nhiều lĩnh vực khác, vẫn không giảm.

Tôi chỉ mong mình có thể tiếp tục mong đợi khoảnh khắc ‘wow’ của AI tại rạp chiếu phim.

Về lý do tại sao có sự khan hiếm khuôn mặt được tạo bởi AI trong phim và TV, so với những năm hoạt động mạnh mẽ nhất của Metaphysic – một khả năng là các chỉnh sửa được hỗ trợ bởi AI hiện được các nhà sản xuất áp dụng mà không có sự công bố rộng rãi (so với các thông cáo báo chí ầm ĩ của giai đoạn 2022-23), vì phản ứng của công chúng đối với sự đổi mới của AI trong giải trí đã trở nên thù địch gần đây.

Thứ hai, để nhắc lại: sau AGT, nơi công ty ra mắt, Metaphysic không bao giờ thực sự có một tác phẩm thành công không thể tranh cãi về đóng góp của mình cho bất kỳ bộ phim hoặc chương trình TV nào; và không có Indiana Jones 4 deepfake hay bất kỳ công việc nào từ các nhà sản xuất khác đã được đón nhận nồng nhiệt hoặc mang lại lợi nhuận đủ để bắt đầu một làn sóng sao chép, hoặc để đưa AI trong VFX có uy tín và thân thiện với nhà đầu tư.

* Điều này có thể dễ dàng xác minh bằng cách chỉ cần nhìn vào các hồ sơ LinkedIn và tín dụng IMDB công khai.

^† DeepFaceLab, và FaceSwap ít liên quan đến khiêu dâm hơn.

Được xuất bản lần đầu vào Thứ Hai, ngày 27 tháng 4 năm 2026