Reddit Cấm Cộng Đồng Deepfake ‘SFW’

Vào cuối tuần, rõ ràng là vào khoảng Chủ nhật, Reddit đã cấm cộng đồng deepfakes “SFW” (An toàn cho công việc) có tên r/deepfakesfw. Subreddit này là một trong những phản ứng đầu tiên đối với việc xóa bỏ cộng đồng deepfakes gốc của gã khổng lồ truyền thông xã hội vào năm 2018.

Huyền thoại tương đối tiêu chuẩn mà bây giờ chào đón (ảnh chụp lưu trữ được thực hiện vào thứ Hai, ngày 13 tháng 6) bất kỳ ai truy cập vào sub giải thích rằng nó ‘được cấm do vi phạm quy tắc của Reddit về khiêu dâm không tự nguyện’.

Trang chủ mới cho r/deepfakesfw.

Sub r/deepfakesfw không thường được lưu trữ bởi các nền tảng bảo tồn phổ biến, nhưng ảnh chụp gần đây nhất của WayBack Machine, được thực hiện khoảng mười ngày trước (vào ngày 3 tháng 6 năm 2022), cho thấy sub này có 3.095 người đọc tại thời điểm đó.

Đó thực sự là một số lượng người đăng ký cao hơn r/DeepFakesSFW (lưu ý có thêm ‘s’), hiện có 2.827 người đọc (ảnh chụp lưu trữ được thực hiện vào thứ Hai, ngày 13 tháng 6 năm 2022). Cộng đồng deepfakes ‘SFW’ phổ biến nhất hiện nay dường như là r/SFWdeepfakes, có 16.636 người đọc (ảnh chụp lưu trữ được thực hiện vào thứ Hai, ngày 13 tháng 6 năm 2022).

Đừng Hỏi

Điều gì có vẻ như đã khiến r/deepfakesfw bị cấm là không phải việc đăng bài mà là yêu cầu về khiêu dâm deepfake. Quy tắc của Reddit về Phương tiện truyền thông khiêu dâm rõ ràng:

‘[Hình ảnh] hoặc video của một người khác được đăng để mục đích tạo ra nội dung khiêu dâm hoặc yêu cầu “phản chiếu” khiêu dâm (ví dụ: “deepfakes” hoặc “bong bóng khiêu dâm”) cũng bị cấm theo Quy tắc.’

Dựa trên nguồn cấp dữ liệu RSS cuối cùng có sẵn từ sub SFW bị cấm, việc yêu cầu chứ không phải đăng bài về nội dung deepfake NSFW đã kích hoạt việc cấm:

Một số bài đăng cuối cùng, rõ ràng là NSFW, từ subreddit r/deepfakesfw đã bị xóa. Nguồn: Inoreader.

Mặc dù các bài đăng mà các nguồn cấp dữ liệu RSS này trỏ đến không còn có sẵn, nhưng việc nhấp vào liên kết hồ sơ của người yêu cầu (đã làm mờ trong hình ảnh trên) cho thấy rằng nhiều người đăng bài yêu cầu nội dung deepfake bị cấm trên nhiều diễn đàn, và đang yêu cầu hoặc cung cấp một số nội dung cực đoan nhất của loại này, bao gồm cả khiêu dâm lạm dụng và các chủ đề khiêu dâm không tự nguyện khác.

Điều này cho thấy rằng các sub Reddit ‘SFW’ còn lại sống sót bằng tốc độ, sự tận tâm và thời gian phản hồi nhanh của các moderator, vì dường như Reddit không muốn trở thành một loại ‘diễn đàn quảng cáo’ cho người dùng để kết nối và trao đổi deepfakes bất hợp pháp qua DM (trong trường hợp không thể yêu cầu rõ ràng trong một bài đăng).

Nếu vậy, thì sub r/DeepFakesSFW chưa bị cấm có thể đang sống trên thời gian vay mượn; hai bài đăng hàng đầu hiện tại khi nhập URL subreddit gốc với chủ đề ‘cũ’ của Reddit đã được đánh dấu ‘NSFW’ (một thẻ mà không nên có sẵn trong cộng đồng này).

Tùy thuộc vào hoàn cảnh, một số bài đăng vi phạm quy tắc hiện có trong sub r/DeepFakesSFW. Nguồn: https://www.reddit.com/r/DeepFakesSFW/

Bạn có thể thấy hai bài đăng NSFW này đang đứng đầu diễn đàn r/DeepFakesSFW được lưu trữ tại đây (ảnh chụp lưu trữ được thực hiện vào thứ Hai, ngày 13 tháng 6 năm 2022).

Trên thực tế, không có thẻ ‘NSFW’ nào có sẵn khi tạo một bài đăng mới tại r/DeepFakesSFW, điều này đã hoạt động trong bốn năm, theo thông tin trên sidebar của nó:

Thẻ có sẵn khi đăng bài lên r/DeepFakesSFW.

Vì vậy, thẻ NSFW tại r/DeepFakesSFW dường như đã được áp dụng bởi các moderator của diễn đàn hoặc bởi các admin cấp cao hơn – hoặc thậm chí là các thuật toán, có thể không có sự can thiệp hoặc phản đối của các moderator địa phương. Tôi đã liên hệ với moderator duy nhất được liệt kê của r/DeepFakesSFW về vấn đề này và sẽ đăng bất kỳ cập nhật nào có sẵn.

(CHỈNH SỬA, Thứ Ba, ngày 14 tháng 6 năm 2022 – Một moderator tại r/DeepFakesSFW đã phản hồi, cho biết ‘Có vẻ như nó xảy ra khi tài khoản của người dùng được đánh dấu là NSFW’. Có lẽ cách duy nhất để làm chậm khả năng của những yêu cầu như vậy trong các sub deepfake ‘SFW’ sẽ là cấm người dùng đã ‘kiếm’ được phân loại này.)

Hầu hết nội dung tại subreddit này, và tại subreddit lớn hơn r/SFWdeepfakes, liên quan đến việc sử dụng công nghệ deepfake để ‘tái diễn’ các diễn viên từ các bộ phim phổ biến hoặc kinh điển, hoặc để có một số niềm vui vô hại hơn với các phương tiện truyền thông phổ biến và công nghệ deepfake, và thực sự đủ điều kiện là ‘SFW’.

Mặc dù nhiều bài đăng như vậy đi gần với việc vi phạm bản quyền, nhưng sự tồn tại liên tục của các bài đăng video deepfake ‘IP-appropriated’ không khiêu dâm của các nhà tạo deepfake YouTube lớn như Ctrl-Shift-Face gợi ý một sự khoan dung rộng rãi từ các xưởng phim và chủ sở hữu quyền đối với hoạt động như vậy, ít nhất là trong thời gian hiện tại.

Hình Ảnh ‘Trong Sạch’ Của Quá Trình Và Cấu Trúc Deepfake

Hai tuần trước, đã được tiết lộ (và thảo luận) rằng Google đã đột ngột cấm phần mềm tạo deepfake khỏi môi trường xử lý đám mây Colab. Thậm chí đến ngày nay, Colab dường như chỉ bị ‘kích hoạt’ bởi các nỗ lực chạy DeepFaceLab (DFL), phần mềm deepfake phổ biến nhất trên thế giới (và cũng là phần mềm liên quan chặt chẽ nhất với khiêu dâm AI), chứ không phải các triển khai ít phổ biến hơn như FaceSwap, có tiếng tốt hơn, mặc dù nó thực hiện chính xác các nhiệm vụ giống như DFL.

Đến một mức độ nhất định, cách tiếp cận này có thể là cách duy nhất mà Colab có thể thực hiện bất kỳ hạn chế nào đối với việc sản xuất khiêu dâm deepfake, vì quá trình đào tạo deepfake thực tế sử dụng chỉ phần mềm mã nguồn mở và hình ảnh khuôn mặt được cắt nhỏ (thường chỉ 512x512px, thường ít hơn), với khả năng gần như không thể cho các thuật toán nhận dạng hình ảnh để bắt được bất kỳ nội dung khiêu dâm thực sự nào.

Bằng cách thời điểm mô hình deepfake được đào tạo, người tạo deepfake không còn cần sức mạnh xử lý khổng lồ của Colab hoặc một GPU địa phương đắt tiền. Hầu hết các chuyển đổi thực tế (tức là quá trình áp dụng khuôn mặt vào video, khiêu dâm hoặc không), có thể được thực hiện cục bộ, trên GPU laptop có công suất thấp – hoặc thậm chí trên CPU (với thời gian xử lý稍 lâu hơn). Bằng cách thời điểm bất kỳ nội dung khiêu dâm nào đang xảy ra trong quá trình deepfake, Colab đã lâu since đã bị loại khỏi bức tranh.

Vì vậy, các yếu tố cấu thành được truyền giữa các nhà tạo deepfake khiêu dâm hiếm khi đại diện cho hơn một vi phạm bản quyền nhỏ, dưới dạng ‘bộ mặt’, mà các nhà tạo deepfake đã trích xuất từ các video trên YouTube, đĩa Blu-ray, các cuộc phỏng vấn trên truyền hình, mạng xã hội và các nguồn khác.

Liệu Chính Sách ‘Đất Đai Đốt Cháy’ Có Sắp Đến Đối Với Các Cộng Đồng Deepfake?

Câu hỏi đang ám ảnh những người dân của các cộng đồng deepfake Discord như DeepFaceLab (bao gồm DeepFaceLive), FaceSwap, Machine Video Editor (MVE, một môi trường dựa trên GUI cho DFL, với nhiều tính năng bổ sung), và các máy chủ Discord mới dựa trên âm thanh deepfake như Audio Deepfakes là Liệu các chủ sở hữu cổng và nền tảng hiện tại sẽ sớm cấm các cộng đồng deepfake vì nguyên tắc, thay vì phải chịu chi phí cho việc kiểm duyệt liên tục chống lại sự tràn ngập của những người tạo và người dùng deepfake NSFW?

Bryan Lyon, một trong những nhà phát triển của FaceSwap, và chủ sở hữu máy chủ Discord của dự án, đã bình luận^†:

‘Chúng tôi đã quản lý để ở lại trên Discord, mặc dù đã có một số cuộc thanh trừng, bằng cách ở trong sạch. Chúng tôi không có bất kỳ kênh ẩn nào hoặc một máy chủ thứ hai với nội dung không phù hợp. Có một cuộc thanh trừng của máy chủ DeepFaceLab phổ biến một vài năm trước. Mọi người trên nó đều bị cấm. Họ có vai trò chỉ mời với quyền truy cập vào các kênh có khiêu dâm không tự nguyện.’

Đ考虑 đến việc Google, một trong những nguồn lực công nghệ lớn nhất thế giới, đã cấm đào tạo deepfake trên máy chủ và GPU của mình, thì甚至 có thể GitHub thuộc sở hữu của Microsoft sẽ quyết định rằng facilitating những công nghệ này* sẽ không đáng để đầu tư vào việc giám sát.

Ở thời điểm này, quá trình hợp pháp hóa các công nghệ deepfake để sử dụng của chúng chuyển từ khiêu dâm tự làm sang sản xuất phim và truyền hình, và sử dụng không vi phạm/criminal, vẫn còn quá non trẻ để tạo ra các hướng dẫn chính sách rõ ràng cho các nền tảng và dịch vụ lưu trữ cộng đồng.

* Lưu trữ của https://github.com/search?q=deepfake từ thứ Hai, ngày 13 tháng 6 năm 2022.
† Trong các tin nhắn riêng tư trên Discord.

Được xuất bản lần đầu vào ngày 13 tháng 6 năm 2022. Chỉnh sửa vào 15:08 GMT để sửa đổi hình ảnh.
Đã chỉnh sửa vào thứ Ba, ngày 14 tháng 6 năm 2022, 6:24 sáng GMT, để thêm phản hồi của moderator Reddit về trạng thái NSFW của một số người đăng bài. Cũng sửa đổi hình ảnh về minh họa nguồn cấp dữ liệu RSS.