CivitAI Siết Chặt Quy Định Về Deepfake Under Áp Lực Từ Mastercard và Visa

CivitAI, có thể là kho lưu trữ mô hình AI phổ biến nhất trên internet, đã cuối cùng nhượng bộ áp lực từ các nhà cung cấp thanh toán MasterCard và Visa để sửa đổi đáng kể các chính sách về nội dung NSFW – và đặc biệt là các điều khoản về LoRAs của người nổi tiếng, một trong những luồng nội dung được người dùng gửi lên phổ biến nhất trên trang web, cho phép mọi người sử dụng các mô hình phụ trợ có thể tải xuống miễn phí như LoRAs để tạo ra các hình ảnh AI (bao gồm cả hình ảnh video) của những người nổi tiếng.

Click để phát.Mặc dù Civit không cung cấp số liệu chính xác (và việc dán nhãn sai / phân loại sai không phải là bất thường, điều này có thể làm sai lệch số liệu), số lượng mô hình AI của người nổi tiếng, chủ yếu là LoRAs, rõ ràng là hàng trăm hoặc thậm chí hàng nghìn, và rõ ràng bị chi phối bởi các chủ đề nữ. Nguồn: civitai.com

Rõ ràng đang hoạt động dưới áp lực trong một truyền hình trực tiếp Twitch** thay mặt cho công ty, Người quản lý tương tác cộng đồng của công ty, Alasdair Nicoll, bản thân là tác giả của các mô hình (SFW) tại Civit, đã thừa nhận rằng những thay đổi này đã được áp đặt lên trang web bởi các nhà cung cấp thanh toán lo lắng về nội dung người lớn và hình ảnh của những người thực. Ông cũng thừa nhận rằng khả năng các lực lượng chính đằng sau các nhà cung cấp này, Visa và MasterCard, có thể sẽ yêu cầu nhiều thay đổi hơn trong tương lai:

‘Đây không phải là những thay đổi mà chúng tôi muốn thực hiện. Điều này liên quan đến luật và quy định mới. Có luật về deepfake, có luật về nội dung người lớn… các nhà cung cấp thanh toán, và cuối cùng là Visa và MasterCard đang lo lắng; họ không muốn bị kiện, và họ đang thúc đẩy những thay đổi này.

‘Một số lựa chọn khác mà chúng tôi được đề xuất là loại bỏ hoàn toàn nội dung không an toàn; loại bỏ nội dung X và XXX khỏi CivitAI và chuyển sang một nền tảng hoàn toàn mới, và sau đó chặn địa lý cho nền tảng đó, vì hơn một nửa các tiểu bang ở Mỹ yêu cầu một số hình thức chặn địa lý, [cũng như] nhiều quốc gia châu Á và Vương quốc Anh…

‘Lựa chọn thứ ba là chuyển sang thanh toán tiền điện tử hoàn toàn… vì vậy không có lựa chọn nào tốt cho điều này.’

Tên miền Civit đã bị gián đoạn định kỳ để sửa đổi trong những ngày qua, rõ ràng là để thực hiện các thay đổi. Mặc dù trang web đã cấm sử dụng chủ đề NSFW trong các hình ảnh LoRA / mô hình của người nổi tiếng, nhưng bây giờ không thể xem trước mô hình của Civit và xem trước mô hình LoRA của người nổi tiếng cạnh nhau với số lượng lớn mô hình NSFW chung được thiết kế để tạo ra nội dung người lớn.

Thông báo chính thức cho biết:

‘Nội dung được gắn thẻ với tên của người thực (như “Tom Cruise”) hoặc được gắn cờ là tài nguyên người thực sẽ bị ẩn từ nguồn cấp dữ liệu.’

Trong phiên Twitch, Nicoll đã tiết lộ thêm các biện pháp được thiết kế để bảo vệ những người nổi tiếng và những người thực. Civit đã luôn cho phép những người thực yêu cầu xóa mô hình AI được lưu trữ trên Civit mô tả họ, nhưng bây giờ Nicoll ám chỉ đến một hệ thống có thể ngăn chặn việc tải lại các hình ảnh như vậy sau khi bị từ chối ban đầu, với khả năng xác định một ‘người được bảo vệ’ ngay cả trong các hình ảnh mà hệ thống chưa từng thấy trước đây.

Để thực hiện điều này, trang web hiện đang hợp tác với hệ thống kiểm duyệt Clavata AI – mặc dù mức độ mà Clavata sẽ cung cấp các tiện ích mới này vẫn chưa rõ ràng.

Nicoll nói:

‘Tom Hanks đã yêu cầu chúng tôi xóa hình ảnh của anh ấy, ví dụ. Rất nhiều nữ diễn viên người lớn đã làm như vậy; rất nhiều diễn viên và nữ diễn viên hạng A đã…

‘Tôi nghĩ người đầu tiên mà chúng tôi từng có là Barbara Eden, gia đình cô ấy* – cô ấy là một trong những người đầu tiên yêu cầu xóa hình ảnh của mình, điều này khá thú vị, vì cô ấy đã già.’

Bảo Vệ Theo Mặc Định?

Trong vài năm qua, công ty VFX AI Metaphysic (khai báo đầy đủ: tôi đã làm việc cho Metaphysic.ai từ đầu năm 2022 đến cuối năm 2024) đã cố gắng tạo ra một hệ thống độc quyền sẽ cho phép bất kỳ ai đăng ký hình ảnh của mình, mặc dù chủ yếu nhắm vào các tên tuổi Hollywood lo lắng về việc AI dựa trên việc đánh cắp danh tính của họ, với sự hỗ trợ từ các diễn viên như Anne Hathaway, Octavia Spencer và Tom Hanks (với người mà công ty đã làm việc trong bộ phim Đây [2024] của Robert Zemeckis).

Một cách hợp lý, giá trị của hệ thống này sẽ luôn phụ thuộc vào luật trường hợp; dựa trên các biện pháp mà Civit hiện đang bị buộc phải thực hiện, dịch vụ dựa trên đăng ký^† được đề xuất bởi Metaphysic có thể là thừa trong bối cảnh sự phát triển nhanh chóng của luật deepfake và khả năng được bảo vệ miễn phí theo luật chung. Hiện tại, không rõ liệu dịch vụ Metaphysic Pro có chuyển sang công ty VFX Double Negative, công ty đã mua lại tài sản của Metaphysic vào năm ngoái hay không.

Tuy nhiên, rõ ràng là luật pháp và áp lực thị trường toàn cầu có nhiều khả năng cung cấp sự bảo vệ và biện pháp khắc phục, thay vì các giải pháp thương mại như thế này.

Nấu Ếch

Một báo cáo năm 2023 của 404 Media đã làm nổi bật sự phổ biến của mô hình AI của người nổi tiếng và khiêu dâm tại Civit, mặc dù người sáng lập Justin Maier đã淡 hóa mối quan hệ giữa hình ảnh người nổi tiếng được gửi bởi người dùng và việc sử dụng chúng để tạo ra nội dung khiêu dâm.

Mặc dù Civit kiếm tiền bằng cách tạo điều kiện cho việc sử dụng LoRAs và các mô hình do người dùng cung cấp trên trang web, Nicoll rõ ràng rằng đây không phải là mối quan tâm chính thúc đẩy Visa và MasterCard yêu cầu thay đổi trên trang web, để nó có thể tiếp tục được kiếm tiền:

‘Một số người nói rằng lý do chúng tôi gặp rắc rối này là vì chúng tôi cho phép tạo. Điều đó không liên quan. Việc lưu trữ các mô hình này, việc lưu trữ nội dung này, đủ để thu hút sự chú ý của Sauron.’

Các luồng bình luận của cộng đồng đã ngạc nhiên trong những năm gần đây rằng Civit đã được phép lưu trữ hình ảnh của người nổi tiếng. Nhận thức được khả năng, có thể là sự kiện không thể tránh khỏi của một cuộc đàn áp, một số sáng kiến để bảo tồn LoRAs bị xóa bởi Civit hoặc bởi những người tải chúng lên đã được đề xuất hoặc thực hiện, bao gồm cả subreddit r/CivitaiArchives đang bị bỏ qua.

Mặc dù nhiều người đã đề xuất rằng một sáng kiến dựa trên torrent là giải pháp tự nhiên, nhưng dường như không có tên miền được theo dõi nào đã xuất hiện – và trong mọi trường hợp, điều này dường như chắc chắn sẽ di chuyển hoạt động bị cấm tại Civit và nơi khác đến các biên giới ngoài cùng của internet; đến các khu vườn được bao quanh; và, có khả năng nhất, đến mạng lưới ngầm, vì hầu hết các khuôn khổ có thể chứa đựng LoRAs bị cấm (như Reddit và Discord) hoặc dường như chắc chắn sẽ cấm nội dung như vậy trong thời gian tới.

Hiện tại, LoRAs của người nổi tiếng vẫn có thể được xem với một số hạn chế tại Civit, mặc dù hầu hết nội dung được tạo đã bị gỡ khỏi danh sách và sẽ bị loại khỏi việc khám phá thông thường. Điều gì có vẻ có khả năng, một người bình luận đã đề xuất với Nicoll trong phiên Twitch, là rằng cuộc đàn áp sẽ sâu sắc hơn (có thể là cấm tất cả hình ảnh của những người thực trong các mô hình hoặc hình ảnh được tải lên).

Nicoll trả lời:

‘Họ sẽ không dừng lại ở đây, họ sẽ tiếp tục yêu cầu nhiều hơn và nhiều hơn” – tuyệt đối! Vâng, tuyệt đối. Đó chỉ là thế giới mà chúng ta đang sống. Hy vọng duy nhất là chúng ta sẽ đủ lớn và đủ mạnh để có một chút quyền nói trong những gì đang được áp đặt cho chúng tôi […]

Thất vọng với các lựa chọn thay thế được đề xuất cho Civit, Nicoll thêm:

‘[…] Không ai sẽ mua Bitcoin để [sử dụng] máy phát điện CivitAI. Vì vậy, chúng tôi đã cố gắng làm cho điều này trở nên dễ chấp nhận nhất có thể, và đây là những gì chúng tôi đã kết thúc. Vì vậy, xin lỗi nếu đây là điều gì đó mà bạn chỉ không thể chịu đựng, nhưng tiếc là đó là nó – bạn phải làm điều này hoặc nó sẽ là kết thúc […]’

‘[…] Những tổ chức tài chính này, họ không hiểu những gì mọi người đang làm ở đây với nó. Chúng tôi đã cố gắng nói với họ, chúng tôi đã cố gắng nói chuyện với họ, nhưng chúng tôi thực sự là pháo đài cuối cùng của [nội dung NSFW].

Nicoll nói rằng Civit đã liên hệ với ‘mỗi nhà cung cấp thanh toán có thể tưởng tượng được:

‘Thậm chí các nhà cung cấp thanh toán rủi ro cao mà các trang web khiêu dâm sử dụng, và họ đều rất, rất thận trọng với nội dung AI. Đó là vấn đề – đó là nội dung AI. Nếu chúng tôi là một trang web khiêu dâm truyền thống, chúng tôi sẽ ổn, nhưng nội dung AI là điều họ sợ hãi.’

Đâu Là Tiếp Theo?

Trước thông báo này, Civit đã được quan sát thấy đang xóa các bản tải lên thuộc một số danh mục và loại nội dung hiện đang bị cấm. Tại thời điểm viết, một ‘kho lưu trữ khẩn cấp’ cho LoRAs Wan 2.1 đã được thiết lập tại trang web Hugging Face. Mặc dù một số LoRAs được lưu trữ ở đó được thiết kế để tạo điều kiện cho các hoạt động tình dục chung được đào tạo một cách yếu ớt hoặc vắng mặt trong các mô hình video mới như Wan 2.1, nhưng một số trong số chúng thuộc vào danh mục ‘undress’ bị cấm nghiêm ngặt (tức là ‘nudifying’), bao gồm một số mô hình có thể được cho là ‘cực đoan’ hoặc rõ ràng có khả năng gây xúc phạm.

Subreddit r/datahoarders, đã đứng đầu trong việc bảo tồn văn học trực tuyến của chính phủ Hoa Kỳ dưới chiến dịch xóa dữ liệu của Donald Trump, cho đến nay đã thể hiện sự khinh thường đối với ý tưởng về việc cứu nội dung CivitAI bị mất.

Hiện tại, LoRAs của người nổi tiếng vẫn có thể được xem với một số hạn chế tại Civit, mặc dù hầu hết nội dung được tạo đã bị gỡ khỏi danh sách và sẽ bị loại khỏi việc khám phá thông thường. Điều gì có vẻ có khả năng, một người bình luận đã đề xuất với Nicoll trong phiên Twitch, là rằng cuộc đàn áp sẽ sâu sắc hơn (có thể là cấm tất cả hình ảnh của những người thực trong các mô hình hoặc hình ảnh được tải lên).

Nicoll trả lời:

‘Họ sẽ không dừng lại ở đây, họ sẽ tiếp tục yêu cầu nhiều hơn và nhiều hơn” – tuyệt đối! Vâng, tuyệt đối. Đó chỉ là thế giới mà chúng ta đang sống. Hy vọng duy nhất là chúng ta sẽ đủ lớn và đủ mạnh để có một chút quyền nói trong những gì đang được áp đặt cho chúng tôi […]

Thất vọng với các lựa chọn thay thế được đề xuất cho Civit, Nicoll thêm:

‘[…] Không ai sẽ mua Bitcoin để [sử dụng] máy phát điện CivitAI. Vì vậy, chúng tôi đã cố gắng làm cho điều này trở nên dễ chấp nhận nhất có thể, và đây là những gì chúng tôi đã kết thúc. Vì vậy, xin lỗi nếu đây là điều gì đó mà bạn chỉ không thể chịu đựng, nhưng tiếc là đó là nó – bạn phải làm điều này hoặc nó sẽ là kết thúc […]’

‘[…] Những tổ chức tài chính này, họ không hiểu những gì mọi người đang làm ở đây với nó. Chúng tôi đã cố gắng nói với họ, chúng tôi đã cố gắng nói chuyện với họ, nhưng chúng tôi thực sự là pháo đài cuối cùng của [nội dung NSFW].

Nicoll nói rằng Civit đã liên hệ với ‘mỗi nhà cung cấp thanh toán có thể tưởng tượng được:

‘Thậm chí các nhà cung cấp thanh toán rủi ro cao mà các trang web khiêu dâm sử dụng, và họ đều rất, rất thận trọng với nội dung AI. Đó là vấn đề – đó là nội dung AI. Nếu chúng tôi là một trang web khiêu dâm truyền thống, chúng tôi sẽ ổn, nhưng nội dung AI là điều họ sợ hãi.’

Thành Phố Dữ Liệu

Một trong những thay đổi thú vị dường như được yêu cầu bởi các nhà cung cấp thanh toán, theo Nicoll, là tất cả các hình ảnh trên trang web hiện phải chứa siêu dữ liệu. Khi một hình ảnh hoặc video được tạo ra bởi một mô hình tạo ra trong một quy trình công việc điển hình trên một nền tảng như ComfyUI, đầu ra thường chứa siêu dữ liệu liệt kê mô hình được sử dụng (bản hash cũng như tên của nó, để trong trường hợp mô hình được đổi tên bởi người dùng, nguồn gốc của nó vẫn rõ ràng) và nhiều cài đặt khác.

Vì những điểm dữ liệu ẩn này về cách hình ảnh được tạo ra, người dùng có thể kéo một video hoặc hình ảnh được tạo bởi người khác vào quy trình công việc ComfyUI của riêng họ và tái tạo toàn bộ luồng, và giải quyết bất kỳ sự phụ thuộc nào bị thiếu (như mô hình hoặc thành phần mà người tạo ban đầu có, mà người dùng sẽ phải tìm và tải xuống).

Bất kỳ hình ảnh hoặc video nào được tạo ra mà thiếu dữ liệu này sẽ, như Civit đã công bố, bị xóa trong vòng 30 ngày. Người dùng có thể thêm dữ liệu như vậy theo cách thủ công, bằng cách nhập nó vào trang web Civit.

Vì giá trị của siêu dữ liệu là (giả sử) bằng chứng, yêu cầu này dường như khá vô nghĩa; nó rất dễ dàng để sao chép và dán siêu dữ liệu từ một tệp vào một tệp khác, và việc tạo siêu dữ liệu tùy ý thông qua một biểu mẫu web làm cho quy tắc mới này trở nên hơi khó hiểu.

Tuy nhiên, một số người dùng (bao gồm một người bình luận trong phiên Twitch) đã có hàng nghìn hình ảnh được tải lên tại Civit. Cách duy nhất của họ bây giờ là thêm chú thích thủ công cho từng hình ảnh, hoặc xóa và tải lại các phiên bản của hình ảnh với siêu dữ liệu được thêm – điều này sẽ xóa bất kỳ ‘thích’ hoặc ‘buzz’ hoặc cuộc trò chuyện mà hình ảnh gốc đã tạo ra.

Các Quy Tắc Mới

Dưới đây là các thay đổi được tóm tắt áp dụng tại Civit từ hôm nay:

• Nội dung được gắn thẻ với tên của người thực hoặc được xác định là tài nguyên người thực sẽ không còn xuất hiện trong nguồn cấp dữ liệu công khai.
• Nội dung có chủ đề trẻ em / người chưa thành niên sẽ bị lọc ra khỏi nguồn cấp dữ liệu.
• Nội dung X và XXX được đánh giá mà thiếu siêu dữ liệu sẽ bị ẩn khỏi tầm nhìn công khai và bị gắn cờ với một cảnh báo, cho phép người tải lên thêm các chi tiết bị thiếu. Nội dung như vậy sẽ không bị xóa nhưng sẽ chỉ hiển thị với người tạo cho đến khi được cập nhật.
• Hình ảnh được tạo bằng tính năng Bring Your Own Image (BYOI) hiện phải áp dụng thay đổi tiếng ồn ít nhất 50% trong quá trình tạo. Điều này có nghĩa là AI phải thay đổi đáng kể hình ảnh được tải lên, giảm khả năng tạo ra các bản sao gần như chính xác. Tuy nhiên, hình ảnh được tạo hoàn toàn trên CivitAI hoặc được trộn từ các nội dung khác của CivitAI không bị ảnh hưởng bởi quy tắc này và vẫn có thể sử dụng bất kỳ mức độ làm mờ nào, từ không thay đổi (0,0) đến biến đổi hoàn toàn (1,0). Thay đổi này nhằm giảm lạm dụng công cụ BYOI, có thể được sử dụng để tạo ra các bản sao tinh vi hoặc không thể phát hiện được của các hình ảnh thực tế bằng cách thay đổi chúng một cách tinh tế.
• Khi duyệt với nội dung X hoặc XXX được bật, tìm kiếm theo tên của người nổi tiếng sẽ không trả về kết quả. Kết hợp tên của người nổi tiếng với nội dung người lớn vẫn bị cấm.
• Quảng cáo sẽ không xuất hiện trên hình ảnh hoặc tài nguyên được thiết kế để sao chép hình ảnh của những người thực.
• Chức năng Tipping (Buzz) sẽ bị tắt cho hình ảnh hoặc tài nguyên mô tả những người thực.
• Mô hình được thiết kế để sao chép những người thực sẽ không đủ điều kiện để truy cập sớm, một tính năng của Civitai cho phép các nhà tạo nội dung phát hành nội dung trước cho những người ủng hộ trả tiền. Điều này hạn chế việc kiếm tiền từ hình ảnh hoặc hình ảnh của những người nổi tiếng.
• Một Tuyên bố Tuân thủ 2257 đã được thêm vào để làm rõ rằng nền tảng không cho phép bất kỳ nội dung nào không được tạo ra bởi AI. Điều này giúp đảm bảo sự bảo vệ pháp lý bằng cách xác nhận rằng tất cả nội dung khiêu dâm là tổng hợp và không dựa trên nhiếp ảnh hoặc video thực.
• Một trang Yêu cầu Xóa Nội Dung mới cho phép bất kỳ ai báo cáo nội dung lạm dụng hoặc bất hợp pháp mà không cần đăng nhập. Người dùng đã đăng ký nên tiếp tục sử dụng các công cụ báo cáo tích hợp trên mỗi bài đăng. Điều này là riêng biệt với biểu mẫu hiện có để yêu cầu xóa hình ảnh của mình khỏi nền tảng.
• CivitAI đã giới thiệu một hệ thống kiểm duyệt mới thông qua quan hệ đối tác với Clavata, công cụ phân tích hình ảnh của họ đã vượt trội so với các giải pháp trước đó như Amazon Rekognition và Hive.

** Đến thứ Ba, ngày 20 tháng 5 năm 2025 11:23:47 (nó có thể đã xảy ra sớm hơn), phiên truyền hình trực tiếp Twitch đã bị gỡ xuống. Để đảm bảo tôi có thể xác minh các sự kiện được báo cáo trong luồng, tôi giữ một bản sao.
* Mặc dù đề cập đến ‘di sản’ của Barbara Eden, nữ diễn viên I Dream of Jeannie vẫn còn sống, hiện đang 93 tuổi.
^† Đã lưu trữ: https://archive.ph/tsMb0

Được xuất bản lần đầu vào thứ Năm, ngày 24 tháng 4 năm 202. Sửa đổi vào thứ Năm, ngày 24 tháng 4 năm 2025 14:32:28: sửa lỗi ngày.
Đã sửa đổi vào thứ Ba, ngày 20 tháng 5 năm 2025 để phản ánh việc gỡ xuống nội dung Twitch được sử dụng làm tài liệu tham khảo.