Góc nhìn Anderson
Reddit cấm cộng đồng deepfake SFW

Điểm chínhReddit đã cấm r/deepfakesfw vì yêu cầu nội dung khiêu dâm không tự nguyện, chứ không…
Xem thêm
- Reddit đã cấm r/deepfakesfw vì yêu cầu nội dung khiêu dâm không tự nguyện, chứ không phải vì đăng tải nó.
- Google đã cấm huấn luyện deepfake trên Colab nhưng chỉ áp dụng với DeepFaceLab, không phải các công cụ khác.
- Các cộng đồng deepfake hợp pháp chỉ tồn tại nhờ kiểm duyệt nghiêm ngặt đối với các yêu cầu nội dung khiêu dâm.
Vào cuối tuần, rõ ràng là vào khoảng Chủ nhật, Reddit đã cấm cộng đồng deepfakes “SFW” (nội dung phù hợp để xem tại nơi làm việc) có tên r/deepfakesfw. Subreddit này là một trong những phản ứng đầu tiên đối với việc gã khổng lồ mạng xã hội nhanh chóng xóa bỏ cộng đồng r/deepfakes ban đầu, vốn tràn ngập nội dung khiêu dâm AI, vào năm 2018.
Thông báo tương đối quen thuộc hiện chào đón (ảnh chụp lưu trữ được thực hiện vào thứ Hai, ngày 13 tháng 6) bất kỳ ai truy cập vào sub giải thích rằng nó ‘được cấm do vi phạm quy tắc của Reddit cấm nội dung khiêu dâm không có sự đồng thuận của người được thể hiện’.
Sub r/deepfakesfw không thường được lưu trữ bởi các nền tảng lưu trữ phổ biến, nhưng bản lưu gần đây nhất của WayBack Machine, được thực hiện khoảng mười ngày trước (vào ngày 3 tháng 6 năm 2022), cho thấy sub này có 3.095 người đọc tại thời điểm đó.
Đó thực sự là một số lượng người đăng ký cao hơn r/DeepFakesSFW (lưu ý có thêm ‘s’), hiện có 2.827 người đọc (ảnh chụp lưu trữ được thực hiện vào thứ Hai, ngày 13 tháng 6 năm 2022). Cộng đồng deepfakes ‘SFW’ phổ biến nhất hiện nay dường như là r/SFWdeepfakes, có 16.636 người đọc (ảnh chụp lưu trữ được thực hiện vào thứ Hai, ngày 13 tháng 6 năm 2022).
Đừng yêu cầu dù chỉ một lần
Điều gì có vẻ như đã khiến r/deepfakesfw bị cấm là không phải việc đăng bài mà là yêu cầu về khiêu dâm deepfake. Quy tắc của Reddit về nội dung tình dục trực diện nêu rõ:
‘[Hình ảnh] hoặc video của một người khác được đăng để mục đích tạo ra nội dung khiêu dâm hoặc yêu cầu nội dung khiêu dâm có người giống với người trong ảnh hoặc video (ví dụ: “deepfakes” hoặc “bong bóng khiêu dâm”) cũng bị cấm theo Quy tắc.’
Dựa trên nguồn cấp dữ liệu RSS cuối cùng có sẵn từ sub SFW bị cấm, việc yêu cầu chứ không phải đăng bài về nội dung deepfake NSFW đã kích hoạt việc cấm:
Mặc dù các bài đăng mà các nguồn cấp dữ liệu RSS này trỏ đến không còn có sẵn, nhưng việc nhấp vào liên kết hồ sơ của người yêu cầu (đã làm mờ trong hình ảnh trên) cho thấy rằng nhiều người đăng bài yêu cầu nội dung deepfake bị cấm trên nhiều diễn đàn, và đang yêu cầu hoặc cung cấp một số nội dung cực đoan nhất của loại này, bao gồm cả khiêu dâm loạn luân và nhiều dạng nội dung khiêu dâm không có sự đồng thuận.
Điều này cho thấy rằng các sub Reddit ‘SFW’ còn lại sống sót bằng tốc độ, sự tận tâm và thời gian phản hồi nhanh của các moderator, vì dường như Reddit không muốn trở thành một loại diễn đàn rao vặt cho người dùng để kết nối và trao đổi deepfakes bất hợp pháp qua DM (trong trường hợp không thể yêu cầu rõ ràng trong một bài đăng).
Nếu vậy, thì sub r/DeepFakesSFW chưa bị cấm có thể có thể chỉ còn tồn tại thêm một thời gian ngắn; hai bài đăng hàng đầu hiện tại khi nhập URL subreddit gốc với chủ đề ‘cũ’ của Reddit đã được đánh dấu ‘NSFW’ (một thẻ mà không nên có sẵn trong cộng đồng này).

Tùy thuộc vào hoàn cảnh, một số bài đăng vi phạm quy tắc hiện có trong sub r/DeepFakesSFW. Nguồn: https://www.reddit.com/r/DeepFakesSFW/
Bạn có thể thấy hai bài đăng NSFW này đang đứng đầu diễn đàn r/DeepFakesSFW được lưu trữ tại đây (ảnh chụp lưu trữ được thực hiện vào thứ Hai, ngày 13 tháng 6 năm 2022).
Trên thực tế, không có thẻ ‘NSFW’ nào có sẵn khi tạo một bài đăng mới tại r/DeepFakesSFW, điều này đã hoạt động trong bốn năm, theo thông tin trên sidebar của nó:

Thẻ có sẵn khi đăng bài lên r/DeepFakesSFW.
Vì vậy, thẻ NSFW tại r/DeepFakesSFW dường như đã được áp dụng bởi các moderator của diễn đàn hoặc bởi các admin cấp cao hơn – hoặc thậm chí là các thuật toán, có thể không có sự can thiệp hoặc phản đối của các moderator địa phương. Tôi đã liên hệ với moderator duy nhất được liệt kê của r/DeepFakesSFW về vấn đề này và sẽ đăng bất kỳ cập nhật nào có sẵn.
(CHỈNH SỬA, Thứ Ba, ngày 14 tháng 6 năm 2022 – Một moderator tại r/DeepFakesSFW đã phản hồi, cho biết ‘Có vẻ như nó xảy ra khi tài khoản của người dùng được đánh dấu là NSFW’. Có lẽ cách duy nhất để giảm khả năng của những yêu cầu như vậy trong các sub deepfake ‘SFW’ sẽ là cấm người dùng đã ‘kiếm’ được phân loại này.)
Hầu hết nội dung tại subreddit này, và tại subreddit lớn hơn r/SFWdeepfakes, liên quan đến việc sử dụng công nghệ deepfake để thay diễn viên trong các vai diễn từ các bộ phim phổ biến hoặc kinh điển, hoặc để có một số niềm vui vô hại hơn với các phương tiện truyền thông phổ biến và công nghệ deepfake, và thực sự đủ điều kiện là ‘SFW’.
Mặc dù nhiều bài đăng như vậy đi gần với việc vi phạm bản quyền, nhưng sự tồn tại liên tục của các bài đăng video deepfake sử dụng tài sản trí tuệ của người khác không khiêu dâm của các nhà tạo deepfake YouTube lớn như Ctrl-Shift-Face gợi ý một sự khoan dung rộng rãi từ các xưởng phim và chủ sở hữu quyền đối với hoạt động như vậy, ít nhất là trong thời gian hiện tại.
Hình Ảnh ‘Trong Sạch’ Của Quá Trình Và Cấu Trúc Deepfake
Hai tuần trước, đã được tiết lộ (và thảo luận) rằng Google đã đột ngột cấm phần mềm tạo deepfake khỏi môi trường xử lý đám mây Colab. Thậm chí đến ngày nay, Colab dường như chỉ bị ‘kích hoạt’ bởi các nỗ lực chạy DeepFaceLab (DFL), phần mềm deepfake phổ biến nhất trên thế giới (và cũng là phần mềm liên quan chặt chẽ nhất với khiêu dâm AI), chứ không phải các triển khai ít phổ biến hơn như FaceSwap, có tiếng tốt hơn, mặc dù nó thực hiện chính xác các nhiệm vụ giống như DFL.
Đến một mức độ nhất định, cách tiếp cận này có thể là cách duy nhất mà Colab có thể thực hiện bất kỳ hạn chế nào đối với việc sản xuất khiêu dâm deepfake, vì quá trình đào tạo deepfake thực tế sử dụng chỉ phần mềm mã nguồn mở và hình ảnh khuôn mặt được cắt nhỏ (thường chỉ 512x512px, thường ít hơn), với khả năng gần như không thể cho các thuật toán nhận dạng hình ảnh để bắt được bất kỳ nội dung khiêu dâm thực sự nào.
Khi mô hình deepfake đã được huấn luyện, người tạo deepfake không còn cần sức mạnh xử lý khổng lồ của Colab hoặc một GPU cục bộ đắt tiền. Hầu hết các chuyển đổi thực tế (tức là quá trình áp dụng khuôn mặt vào video, khiêu dâm hoặc không), có thể được thực hiện cục bộ, trên GPU laptop có công suất thấp – hoặc thậm chí trên CPU (với thời gian xử lý lâu hơn một chút). Đến khi có nội dung khiêu dâm xuất hiện trong quy trình tạo deepfake, Colab đã từ lâu không còn tham gia.
Vì vậy, các yếu tố cấu thành được truyền giữa các nhà tạo deepfake khiêu dâm hiếm khi đại diện cho hơn một vi phạm bản quyền nhỏ, dưới dạng bộ ảnh khuôn mặt, mà các nhà tạo deepfake đã trích xuất từ các video trên YouTube, đĩa Blu-ray, các cuộc phỏng vấn trên truyền hình, mạng xã hội và các nguồn khác.
Liệu Chính sách “tiêu thổ” Có Sắp Đến Đối Với Các Cộng Đồng Deepfake?
Câu hỏi đang ám ảnh các thành viên của cộng đồng deepfake Discord như DeepFaceLab (bao gồm DeepFaceLive), FaceSwap, Machine Video Editor (MVE, một môi trường dựa trên GUI cho DFL, với nhiều tính năng bổ sung), và các máy chủ Discord mới dựa trên âm thanh deepfake như Audio Deepfakes là Liệu các chủ sở hữu cổng và nền tảng hiện tại sẽ sớm cấm các cộng đồng deepfake vì nguyên tắc, thay vì phải chịu chi phí cho việc kiểm duyệt liên tục chống lại sự tràn ngập của những người tạo và người dùng deepfake NSFW?
Bryan Lyon, một trong những nhà phát triển của FaceSwap, và chủ sở hữu máy chủ Discord của dự án, đã bình luận†:
‘Chúng tôi đã duy trì được sự hiện diện trên Discord, mặc dù đã có một số cuộc thanh trừng, bằng cách ở trong sạch. Chúng tôi không có bất kỳ kênh ẩn nào hoặc một máy chủ thứ hai bí mật chứa nội dung bất hợp pháp. Có một cuộc thanh trừng của máy chủ DeepFaceLab phổ biến một vài năm trước. Mọi người trên nó đều bị cấm. Họ có các vai trò chỉ được cấp theo lời mời, cho phép truy cập các kênh chứa nội dung khiêu dâm không có sự đồng thuận.’
Xét việc Google, một trong những nguồn lực công nghệ lớn nhất thế giới, đã cấm đào tạo deepfake trên máy chủ và GPU của mình, thì thậm chí có thể GitHub thuộc sở hữu của Microsoft sẽ quyết định rằng tạo điều kiện cho các công nghệ này* cuối cùng sẽ không xứng đáng với sự mơ hồ về đạo đức hoặc khoản đầu tư vào việc giám sát.
Ở thời điểm này, quá trình hợp pháp hóa các công nghệ deepfake để sử dụng của chúng chuyển từ khiêu dâm tự làm sang sản xuất phim và truyền hình, và những ứng dụng không xâm phạm quyền của người khác và không phạm pháp, vẫn còn quá non trẻ để tạo ra các hướng dẫn chính sách rõ ràng cho các nền tảng và dịch vụ lưu trữ cộng đồng.
* Lưu trữ của https://github.com/search?q=deepfake từ thứ Hai, ngày 13 tháng 6 năm 2022.
† Trong các tin nhắn riêng tư trên Discord.
Được xuất bản lần đầu vào ngày 13 tháng 6 năm 2022. Chỉnh sửa vào 15:08 UTC để sửa đổi hình ảnh.
Đã chỉnh sửa vào thứ Ba, ngày 14 tháng 6 năm 2022, 6:24 sáng UTC, để thêm phản hồi của moderator Reddit về trạng thái NSFW của một số người đăng bài. Cũng sửa đổi hình ảnh về minh họa nguồn cấp dữ liệu RSS.














