Reddit cấm Cộng đồng Deepfake 'SFW'

Vào cuối tuần, có vẻ như vào khoảng Chủ Nhật, Reddit đã cấm cộng đồng deepfakes mang tên "SFW" (An toàn cho công việc) có tên r/deepfakesfw. Subreddit này là một trong những phản hồi đầu tiên cho lời nhắc nhở của gã khổng lồ truyền thông xã hội. xóa của phụ đề r/deepfakes gốc, chứa nội dung khiêu dâm dựa trên AI vào năm 2018.

Truyền thuyết về đĩa nồi hơi (tương đối) hiện đang chào đón (ảnh chụp nhanh trong kho lưu trữ được chụp vào Thứ Hai, ngày 13 tháng XNUMX) bất kỳ ai truy cập phụ đều giải thích rằng điều đó 'đã bị cấm do vi phạm Reddit's quy tắc chống lại khiêu dâm không tự nguyện'.

Trang chủ mới cho r/deepfakesfw.

Phụ r/deepfakesfw không thường xuyên được lưu trữ bởi các nền tảng bảo tồn phổ biến, nhưng hầu hết ảnh chụp nhanh WayBack Machine gần đây, được chụp khoảng mười ngày trước (vào ngày 3 tháng 2022 năm 3,095), cho biết rằng phụ có XNUMX người đọc vào thời điểm đó.

Trên thực tế, đó là số lượng người đăng ký cao hơn r/DeepFakesSFW (lưu ý thêm 's'), hiện tại có Trình đọc 2,827 (ảnh chụp lưu trữ được chụp vào thứ Hai, ngày 13 tháng 2022 năm XNUMX). Cộng đồng deepfake SFW 'hợp pháp' phổ biến nhất hiện nay dường như là r/SFWdeepfakes, mà tại thời điểm viết bài có Trình đọc 16,636 (ảnh chụp Thứ Hai, ngày 13 tháng 2022 năm XNUMX).

Đừng hỏi nữa

Điều dường như đã khiến r/deepfakesfw phải chịu số phận không phải là bài đăng mà là yêu cầu của nội dung khiêu dâm deepfake. Quy định của Reddit về Phương tiện Truyền thông Khiêu dâm có nội dung khiêu dâm nêu rõ:

'[Hình ảnh] hoặc video của người khác được đăng với mục đích cụ thể là làm giả nội dung khiêu dâm hoặc thu hút nội dung khiêu dâm "giống hệt" (ví dụ: "deepfake" hoặc "khiêu dâm bong bóng") cũng vi phạm Quy định.'

Dựa trên các nguồn cấp RSS có sẵn cuối cùng từ phụ SFW hiện đã bị cấm, chính việc yêu cầu thay vì đăng nội dung deepfake NSFW cuối cùng đã kích hoạt lệnh cấm:

Một số bài đăng NSFW cuối cùng, rõ ràng từ subreddit r/deepfakesfw hiện đã chết. Nguồn: Inoreader.

Mặc dù các bài đăng mà các bài đăng RSS này trỏ đến hiện không còn khả dụng nữa, nhưng khi nhấp vào liên kết hồ sơ của người yêu cầu (bị làm mờ trong hình ảnh ở trên) sẽ thấy rằng nhiều người đăng yêu cầu nội dung deepfake bị cấm trên nhiều diễn đàn và đang yêu cầu hoặc cung cấp một số nội dung cực đoan nhất thuộc loại này, bao gồm nội dung khiêu dâm loạn luân và nhiều sắc thái khác nhau của chủ đề khiêu dâm không tự nguyện.

Điều này cho thấy các thành viên Reddit 'SFW' còn lại tồn tại được là nhờ tốc độ, sự siêng năng và thời gian phản hồi nhanh chóng của người điều hành, vì có vẻ như Reddit không muốn trở thành một dạng diễn đàn 'quảng cáo rao vặt' để mọi người kết nối và giao dịch deepfake bất hợp pháp qua tin nhắn trực tiếp (trong trường hợp không thể yêu cầu rõ ràng trong bài đăng).

Nếu vậy, r/DeepFakesSFW chưa bị cấm có thể sẽ không còn tồn tại lâu nữa; hai bài đăng đứng đầu hiện tại của trang này khi nhập URL subreddit gốc với chủ đề Reddit 'cũ' được bật đã được đánh dấu cụ thể là 'NSFW' (một thẻ mà có lẽ thậm chí không khả dụng trong cộng đồng cụ thể này).

Tùy thuộc vào hoàn cảnh, một số bài đăng vi phạm quy tắc hiện đang xuất hiện trong phụ r/DeepFakesSFW. Nguồn: https://www.reddit.com/r/DeepFakesSFW/

Bạn có thể thấy hai bài đăng NSFW này đứng đầu diễn đàn r/DeepFakesSFW được lưu trữ ngày hôm nay đây (ảnh chụp Thứ Hai, ngày 13 tháng 2022 năm XNUMX).

Trên thực tế, không có 'phong cách' NSFW nào khả dụng khi tạo bài đăng mới tại r/DeepFakesSFW, nơi đã hoạt động được bốn năm, theo thông tin thanh bên của trang web:

Có thể sử dụng 'flair' khi đăng lên r/DeepFakesSFW.

Do đó nsfw các thẻ tại r/DeepFakesSFW dường như đã được áp dụng bởi người kiểm duyệt tại diễn đàn hoặc quản trị viên cấp cao hơn – hoặc thậm chí là thuật toán, có thể không có bất kỳ sự can thiệp hoặc phản đối nào của người kiểm duyệt địa phương. Tôi đã liên hệ với người kiểm duyệt duy nhất được liệt kê của r/DeepFakesSFW về vấn đề này và sẽ đăng bất kỳ bản cập nhật nào có sẵn.

(CHỈNH SỬA, Thứ Ba, ngày 14 tháng 2022 năm XNUMX – Một người điều hành tại r/DeepFakesSFW đã phản hồi rằng "Điều này dường như xảy ra khi tài khoản của người dùng được đặt ở chế độ NSFW". Do đó, có lẽ cách duy nhất để làm chậm khả năng xuất hiện các yêu cầu như vậy trong các subreddit deepfake SFW là cấm những người dùng "đạt" được phân loại này.)

Hầu hết nội dung tại subreddit này và tại r/SFWdeepfakes lớn hơn đều liên quan đến việc sử dụng công nghệ deepfake để "đúc lại" các diễn viên từ những bộ phim nổi tiếng hoặc kinh điển, hoặc để có thêm chút niềm vui vô hại do AI thúc đẩy với phương tiện truyền thông đại chúng và công nghệ deepfake, và thực sự đủ điều kiện là "SFW".

Mặc dù nhiều bài đăng như vậy gần như vi phạm lệnh cấm vì lý do bản quyền, nhưng việc các bài đăng video deepfake không khiêu dâm "chiếm đoạt IP" của những kẻ làm deepfake lớn trên YouTube như Ctrl-Shift-Face vẫn tiếp tục tồn tại cho thấy sự khoan dung rộng rãi của các studio và chủ sở hữu bản quyền đối với hoạt động như vậy, ít nhất là ở thời điểm hiện tại.

Sự xuất hiện 'vô hại' của quá trình và cấu trúc sinh thái Deepfake

Hai tuần trước nó phát ra ánh sáng (và nhiều hơn thảo luận) rằng Google đã đột ngột cấm phần mềm tạo deepfake khỏi môi trường xử lý đám mây Colab phổ biến của mình. Cho đến nay, Colab dường như chỉ được "kích hoạt" bởi các nỗ lực chạy DeepFaceLab (DFL), phần mềm deepfakes phổ biến nhất trên thế giới (và là phần mềm phổ biến nhất liên kết chặt chẽ với khiêu dâm AI), thay vì triển khai ít thường xuyên hơn như Hoán đổi khuôn mặt, được đánh giá cao hơn, mặc dù nó thực hiện chính xác các nhiệm vụ giống như DFL.

Ở một mức độ nào đó, phương pháp này có thể là cách duy nhất mà Colab có thể triển khai bất kì hạn chế sản xuất nội dung khiêu dâm deepfake, vì quy trình đào tạo deepfake thực tế không sử dụng gì ngoài phần mềm nguồn mở và hình ảnh khuôn mặt được cắt xén cao (thường chỉ ở 512x512px, thường ít hơn), gần như không có khả năng thuật toán nhận dạng hình ảnh chặn bất kỳ nội dung khiêu dâm thực tế nào nội dung.

Vào thời điểm đào tạo mô hình deepfake, deepfake không còn cần sức mạnh xử lý khổng lồ của Colab hoặc GPU cục bộ đắt tiền nữa. thực tế nhất chuyển đổi (tức là quá trình đưa khuôn mặt vào video, khiêu dâm hoặc cách khác), có thể được thực hiện cục bộ, trên GPU máy tính xách tay công suất thấp – hoặc thậm chí trên CPU (với thời gian xử lý lâu hơn một chút). Vào thời điểm bất kỳ nội dung khiêu dâm nào đang diễn ra trong quy trình deepfake, Colab đã bị loại khỏi hình ảnh từ lâu.

Do đó, các yếu tố cấu thành được truyền qua lại giữa những người sáng tạo nội dung khiêu dâm deepfake hiếm khi đại diện cho hành vi vi phạm bản quyền nhỏ, dưới hình thức truyền tay nhau các 'bộ khuôn mặt' mà những người sáng tạo deepfake đã trích xuất từ ​​video trên YouTube, đĩa Blu-ray, các cuộc phỏng vấn trên truyền hình, phương tiện truyền thông xã hội và nhiều nguồn khác.

Liệu cộng đồng Deepfake có sắp áp dụng chính sách 'Thiêu rụi Trái Đất' không?

Câu hỏi ám ảnh cư dân của các cộng đồng deepfake Discord như DeepFaceLab (Bao gồm cả DeepFaceSống), Hoán đổi khuôn mặt, Trình chỉnh sửa video máy (MVE, một giao diện dựa trên GUI môi trường cho DFL, với nhiều tính năng bổ sung) và các máy chủ Discord deepfake dựa trên âm thanh mới như Âm thanh Deepfakes is Liệu các chủ sở hữu nền tảng và cổng thông tin hiện tại có sớm cấm các cộng đồng giả mạo sâu về nguyên tắc, thay vì chịu chi phí kiểm duyệt liên tục trước làn sóng người dùng và người tạo NSFW không?

Bryan Lyon, một trong những nhà phát triển của FaceSwap và là chủ sở hữu máy chủ Discord liên quan đến dự án, đã bình luận^†:

'Chúng tôi đã xoay sở để duy trì hoạt động trên Discord, bất chấp nhiều lần thanh lọc, bằng cách giữ mọi thứ hoàn toàn trong sạch. Chúng tôi không có bất kỳ kênh ẩn nào hay máy chủ thứ hai bí mật nào chứa nội dung bất hợp pháp. Máy chủ DeepFaceLab nổi tiếng đã bị thanh lọc vài năm trước. Tất cả mọi người trên đó đều bị cấm. Họ chỉ được mời vào các kênh có nội dung khiêu dâm không được đồng thuận.'

Với việc Google, một trong những nguồn lưu trữ công nghệ lớn nhất thế giới, đã cấm hoàn toàn việc đào tạo deepfake trên máy chủ và GPU của mình, thậm chí có khả năng GitHub thuộc sở hữu của Microsoft có thể quyết định rằng tạo điều kiện cho các công nghệ này* cuối cùng sẽ không xứng đáng với sự mơ hồ về mặt đạo đức hoặc đầu tư cho việc giám sát.

Tại thời điểm này, quá trình hợp pháp hóa các công nghệ deepfake để việc sử dụng chúng chuyển từ nội dung khiêu dâm tại gia sang sản xuất phim và chương trình truyền hình cũng như việc sử dụng không vi phạm/tội phạm, còn quá non trẻ để đưa ra các hướng dẫn chính sách rõ ràng cho các nền tảng và dịch vụ lưu trữ cộng đồng.

* Bản lưu trữ của https://github.com/search?q=deepfake từ Thứ Hai, ngày 13 tháng 2022 năm XNUMX.
† Trong tin nhắn trực tiếp riêng tư trên Discord.

Xuất bản lần đầu vào ngày 13 tháng 2022 năm 3. Đã chỉnh sửa lúc 08:XNUMX chiều UTC để sửa đổi hình ảnh.
Đã sửa đổi vào Thứ Ba, ngày 14 tháng 2022 năm 6 lúc 24:XNUMX sáng UTC, để thêm phản hồi của người kiểm duyệt Reddit về trạng thái NSFW của một số người đăng. Đồng thời, hình ảnh minh họa sửa đổi trên nguồn cấp RSS.