CivitAI trong khủng hoảng nhà cung cấp thanh toán mới, khi Trump ký Đạo luật Chống Deepfake

Tổng thống Trump đã ký Đạo luật TAKE IT DOWN, hình sự hóa deepfake tình dục ở cấp liên bang tại Hoa Kỳ. Đồng thời, nỗ lực của cộng đồng CivitAI nhằm “làm sạch” nội dung NSFW và celeb đã thất bại trong việc làm hài lòng các nhà xử lý thanh toán, dẫn đến việc trang web phải tìm kiếm các giải pháp thay thế hoặc đối mặt với việc đóng cửa. Tất cả điều này chỉ trong hai tuần kể từ khi trang web deepfake porn lớn nhất và lâu đời nhất trên thế giới đi offline…

Đã là một vài tuần đầy biến động cho tình trạng không được kiểm soát của việc tạo deepfake hình ảnh và video. Chỉ hơn hai tuần trước, trang web số một cho việc chia sẻ deepfake porn của người nổi tiếng, Mr. Deepfakes, đã tự đóng cửa sau hơn bảy năm ở vị trí thống lĩnh và được nghiên cứu rộng rãi như là trung tâm toàn cầu cho nội dung AI tình dục hóa người nổi tiếng. Khi nó đi offline, trang web đã nhận được trung bình hơn năm triệu lượt truy cập mỗi tháng.

Nền, tên miền Mr. Deepfakes vào đầu tháng 5; chèn, thông báo treo, hiện đã được thay thế bằng lỗi 404, kể từ khi tên miền được mua bởi một người mua không xác định vào ngày 4 tháng 5 năm 2025 (https://www.whois.com/whois/mrdeepfakes.com). Nguồn: mrdeepfakes.com

Sự chấm dứt dịch vụ của Mr. Deepfakes đã được gán cho việc rút lui của một “nhà cung cấp dịch vụ quan trọng” (xem hình ảnh chèn trên, đã được thay thế bằng lỗi tên miền trong vòng một tuần). Tuy nhiên, một cuộc điều tra báo chí hợp tác đã xóa danh tính một nhân vật quan trọng đằng sau Mr. Deepfakes trực tiếp trước khi đóng cửa, cho phép khả năng trang web đã bị đóng cửa vì lý do cá nhân và/hoặc pháp lý của cá nhân đó.

Vào khoảng thời gian đó, CivitAI, nền tảng thương mại được sử dụng rộng rãi cho celeb và NSFW LoRAs, đã áp dụng một loạt các biện pháp tự kiểm duyệt không bình thường và gây tranh cãi. Những biện pháp này ảnh hưởng đến việc tạo deepfake, lưu trữ mô hình và một loạt các quy tắc và hạn chế mới, bao gồm cả việc cấm hoàn toàn một số fetishes NSFW biên giới. và những gì nó gọi là ‘mỹ học cực đoan’.

Những biện pháp này được thúc đẩy bởi các nhà cung cấp thanh toán dường như đe dọa sẽ rút dịch vụ khỏi tên miền trừ khi có sự thay đổi về nội dung NSFW và hình ảnh AI của người nổi tiếng.

CivitAI Cut Off

Tính đến ngày hôm nay, dường như các biện pháp được CivitAI thực hiện đã không làm hài lòng VISA và Mastercard: một bài đăng mới^† trên trang web, từ Quản lý Sự tham gia Cộng đồng Alasdair Nicoll, cho thấy rằng thanh toán bằng thẻ cho CivitAI (có hệ thống “buzz” ảo được cung cấp chủ yếu bởi thẻ tín dụng và thẻ ghi nợ thế giới) sẽ bị chấm dứt từ thứ Sáu (23 tháng 5 năm 2025).

Điều này sẽ ngăn chặn người dùng gia hạn đăng ký hàng tháng hoặc mua buzz mới. Mặc dù Nicoll tư vấn rằng người dùng có thể duy trì các đặc quyền đăng ký hiện tại bằng cách chuyển sang đăng ký hàng năm (chi phí^†† 100-550 USD), rõ ràng tương lai đang khá không chắc chắn cho tên miền tại thời điểm này (Nó nên được lưu ý rằng đăng ký hàng năm đã được triển khai tại cùng thời điểm khi thông báo về việc mất nhà cung cấp thanh toán được thực hiện).

Về việc thiếu nhà cung cấp thanh toán, Nicoll nói ‘Chúng tôi đang nói chuyện với mọi nhà cung cấp thoải mái với đổi mới AI’.

Về việc thất bại trong nỗ lực gần đây để suy nghĩ lại các chính sách của trang web xung quanh nội dung AI của người nổi tiếng và NSFW, Nicoll tuyên bố trong bài đăng:

‘Một số công ty thanh toán dán nhãn cho các nền tảng AI tạo sinh là rủi ro cao, đặc biệt khi chúng tôi cho phép nội dung trưởng thành do người dùng tạo, ngay cả khi nó được pháp lý và kiểm duyệt. Sự lựa chọn chính sách đó, không phải là điều gì người dùng đã làm, đã buộc chúng tôi phải cắt đứt.’

Một bình luận từ người dùng ‘Faeia’, được chỉ định là trưởng bộ phận nhân viên của công ty trong hồ sơ CivitAI của họ*, thêm bối cảnh cho thông báo này:

‘Chỉ để làm rõ, chúng tôi đang bị loại khỏi nhà cung cấp thanh toán vì chúng tôi đã chọn không loại bỏ nội dung NSFW và người lớn khỏi nền tảng. Chúng tôi vẫn cam kết hỗ trợ tất cả các loại nhà sáng tạo và đang làm việc trên các giải pháp thay thế.’

Là một truyền thống thúc đẩy các công nghệ mới, không phải là không phổ biến khi nội dung NSFW được sử dụng để khởi động sự quan tâm đến một tên miền, công nghệ hoặc nền tảng – chỉ để những người ủng hộ ban đầu bị từ chối một khi đủ “vốn” và/hoặc một cơ sở người dùng được thành lập (tức là đủ người dùng để thực thể tồn tại, khi không có bối cảnh NSFW).

Dường như CivitAI sẽ đi theo Tumblr và nhiều sáng kiến khác xuống con đường này hướng tới một sản phẩm “làm sạch” sẵn sàng quên đi cội nguồn của nó. Tuy nhiên, sự tranh cãi/stigma ngày càng tăng xung quanh nội dung AI tạo sinh bất kỳ loại nào đại diện cho một trọng lượng tích lũy dường như sẽ ngăn chặn một sự giải cứu cuối cùng, trong trường hợp này. Trong khi đó, thông báo chính thức khuyên người dùng nên áp dụng tiền điện tử như một phương thức thanh toán thay thế.

Fake Out

Sự kiện Tổng thống Donald Trump ký Đạo luật TAKE IT DOWN có thể đã ảnh hưởng đến một số sự kiện này. Luật mới hình sự hóa việc phân phối hình ảnh thân mật không đồng ý, bao gồm cả deepfake được tạo ra bởi AI.

Luật yêu cầu các nền tảng phải loại bỏ nội dung được báo cáo trong vòng 48 giờ, với việc thực thi được giám sát bởi Ủy ban Thương mại Liên bang. Các quy định hình sự của luật có hiệu lực ngay lập tức, cho phép truy tố những người biết việc xuất bản hoặc đe dọa xuất bản hình ảnh thân mật không đồng ý (bao gồm cả deepfake được tạo ra bởi AI) trong phạm vi Hoa Kỳ.

Mặc dù luật nhận được sự ủng hộ lưỡng đảng hiếm hoi, cũng như sự ủng hộ từ các công ty công nghệ và các nhóm vận động, các nhà phê bình cho rằng nó có thể đàn áp nội dung hợp pháp và đe dọa các công cụ bảo mật như mã hóa. Tháng trước, Electronic Frontier Foundation (EFF) đã phản đối dự luật, khẳng định rằng cơ chế gỡ xuống mà nó quy định nhắm vào một phạm vi vật liệu rộng lớn hơn so với định nghĩa hẹp hơn về hình ảnh thân mật không đồng ý được tìm thấy ở nơi khác trong luật.

‘Cơ chế gỡ xuống trong TAKE IT DOWN áp dụng cho một phạm vi nội dung rộng lớn hơn – có khả năng bất kỳ hình ảnh nào liên quan đến nội dung thân mật hoặc tình dục – hơn so với định nghĩa NCII hẹp hơn được tìm thấy ở nơi khác trong dự luật. Cơ chế gỡ xuống cũng thiếu các biện pháp bảo vệ quan trọng đối với các yêu cầu gỡ xuống vô căn cứ hoặc không trung thực.

‘Các dịch vụ sẽ dựa vào các bộ lọc tự động, những công cụ thô thiển. Chúng thường xuyên đánh dấu nội dung hợp pháp, từ bình luận fair-use đến báo cáo tin tức. Khung thời gian chặt chẽ của luật yêu cầu các ứng dụng và trang web phải loại bỏ ngôn từ trong vòng 48 giờ, hiếm khi đủ thời gian để xác minh liệu ngôn từ có thực sự bất hợp pháp hay không.

‘Kết quả là, các nhà cung cấp dịch vụ trực tuyến, đặc biệt là những dịch vụ nhỏ hơn, sẽ có khả năng chọn tránh rủi ro pháp lý tốn kém bằng cách đơn giản là gỡ bỏ ngôn từ thay vì thậm chí cố gắng xác minh nó.’

Các nền tảng hiện có tối đa một năm kể từ thời điểm luật được ban hành để thiết lập một quá trình thông báo và gỡ xuống chính thức, cho phép các cá nhân hoặc đại diện của họ có thể viện dẫn luật để tìm kiếm việc loại bỏ nội dung.

Điều này có nghĩa là mặc dù các quy định hình sự đã có hiệu lực ngay lập tức, các nền tảng không có nghĩa vụ pháp lý phải tuân thủ cơ sở hạ tầng gỡ xuống (như nhận và xử lý yêu cầu) cho đến khi khoảng thời gian một năm đã trôi qua.

Does the TAKE IT DOWN Act Cover AI-Generated Celebrity Content?

Mặc dù Đạo luật TAKE IT DOWN vượt qua tất cả các biên giới tiểu bang, nhưng nó không nhất thiết phải cấm tất cả các phương tiện truyền thông AI được tạo ra bởi người nổi tiếng. Luật hình sự hóa việc phân phối hình ảnh thân mật không đồng ý, bao gồm cả deepfake được tạo ra bởi AI, chỉ khi cá nhân được miêu tả có một kỳ vọng hợp lý về quyền riêng tư:

Luật quy định:

“(2) TỘI PHẠM LIÊN QUAN ĐẾN ẢNH THÂN MẬT THỰC SỰ.—

“(A) LIÊN QUAN ĐẾN NGƯỜI LỚN.—Trừ [mục đích chứng cứ, báo cáo, v.v.], sẽ là bất hợp pháp cho bất kỳ người nào, trong thương mại liên bang hoặc nước ngoài, sử dụng dịch vụ máy tính tương tác để xuất bản một hình ảnh thân mật của một cá nhân có thể xác định được không phải là một người chưa thành niên nếu—

“(i) hình ảnh thân mật được thu được hoặc tạo ra trong hoàn cảnh mà người đó biết hoặc có lý do để biết rằng cá nhân có thể xác định được có một kỳ vọng hợp lý về quyền riêng tư;

“(ii) những gì được miêu tả không được tự nguyện phơi bày bởi cá nhân có thể xác định được trong một môi trường công cộng hoặc thương mại [tức là tự xuất bản khiêu dâm];

“(iii) những gì được miêu tả không phải là một vấn đề công cộng; và

“(iv) việc xuất bản hình ảnh thân mật—

“(I) nhằm gây hại; hoặc

“(II) gây hại, bao gồm cả tổn hại tâm lý, tài chính hoặc danh tiếng, cho cá nhân có thể xác định được.

Kỳ vọng hợp lý về quyền riêng tư được áp dụng ở đây không truyền thống ủng hộ quyền của những người nổi tiếng. Tùy thuộc vào luật án lệ cuối cùng, có thể ngay cả người nổi tiếng nội dung được tạo ra bởi AI một cách rõ ràng trong các môi trường công cộng hoặc thương mại có thể không thuộc phạm vi của các lệnh cấm của Đạo luật.

Claus cuối cùng về việc xác định phạm vi của tổn hại là đặc biệt co giãn trong các thuật ngữ pháp lý, và theo cách này, không thêm gì đặc biệt mới vào gánh nặng lập pháp. Tuy nhiên, động cơ gây hại dường như sẽ hạn chế phạm vi của Đạo luật trong bối cảnh của ‘phản đòn’ khi một (không xác định) cựu bạn tình xuất bản hoặc đe dọa xuất bản nội dung truyền thông thực hoặc giả của một (cũng không xác định) cựu bạn tình khác.

Mặc dù yêu cầu ‘gây hại’ của luật có thể không phù hợp với các trường hợp mà người dùng ẩn danh đăng các hình ảnh được tạo ra bởi AI của người nổi tiếng, nhưng nó có thể chứng minh được liên quan hơn trong các kịch bản quấy rối, nơi một mẫu hành vi rộng lớn hơn hỗ trợ kết luận rằng một cá nhân đã cố ý và độc ác nhắm vào một người nổi tiếng trên nhiều mặt trận.

Mặc dù Đạo luật đề cập đến ‘các nền tảng được bảo vệ’ loại trừ các kênh riêng tư như Signal hoặc email khỏi các quy định gỡ xuống, nhưng việc loại trừ này chỉ áp dụng cho nghĩa vụ thực hiện một cơ chế loại bỏ chính thức vào tháng 5 năm 2026. Nó không có nghĩa là hình ảnh thân mật không đồng ý hoặc hình ảnh thực được chia sẻ thông qua các phương tiện truyền thông riêng tư nằm ngoài phạm vi của các lệnh cấm hình sự của luật.

Rõ ràng, sự thiếu vắng các cơ chế báo cáo trên trang web không cản trở các bên bị ảnh hưởng báo cáo nội dung bây giờ là bất hợp pháp với cảnh sát; cũng không có nghĩa là các bên đó bị ngăn chặn sử dụng bất kỳ phương thức liên lạc thông thường nào mà trang web có thể cung cấp để khiếu nại và yêu cầu loại bỏ nội dung phạm pháp.

The Rights Left Behind

Hơn bảy năm chỉ trích công khai và truyền thông về nội dung deepfake dường như đã kết thúc trong một khoảng thời gian không thường xuyên. Tuy nhiên, trong khi Đạo luật TAKE IT DOWN cung cấp các lệnh cấm liên bang rộng lớn, nó có thể không áp dụng trong mọi trường hợp liên quan đến mô phỏng AI được tạo ra, để lại một số kịch bản được giải quyết theo các luật của bang về deepfake, nơi các luật được thông qua thường phản ánh ‘sự quan tâm địa phương’.

Ví dụ, tại California, Đạo luật Quyền của Người nổi tiếng California hạn chế việc sử dụng độc quyền danh tính của người nổi tiếng cho chính họ và di sản của họ, ngay cả sau khi họ qua đời; ngược lại, Đạo luật ELVIS của Tennessee tập trung vào việc bảo vệ các nhạc sĩ khỏi việc sao chép giọng nói và hình ảnh được tạo ra bởi AI không được ủy quyền, với mỗi trường hợp thể hiện một cách tiếp cận nhắm vào các nhóm lợi ích nổi bật ở cấp độ tiểu bang.

Hầu hết các tiểu bang hiện đã có luật nhắm vào deepfake tình dục, mặc dù nhiều luật trong số đó không làm rõ liệu các biện pháp bảo vệ đó có được mở rộng đồng đều cho các cá nhân tư nhân và người nổi tiếng hay không. Trong khi đó, các deepfake chính trị được cho là đã khuyến khích sự ủng hộ của Donald Trump đối với luật liên bang mới có thể, trên thực tế, va chạm với các rào cản hiến pháp trong một số ngữ cảnh.

^† Phiên bản lưu trữ: https://web.archive.org/web/20250520024834/https://civitai.com/articles/14945

^†† Phiên bản lưu trữ (không có giá hàng tháng): https://web.archive.org/web/20250425020325/https://civitai.green/pricing

* Người đứng đầu thực sự của nhân viên cho CEO tại CivitAI được liệt kê trên LinkedIn dưới một tên không liên quan, trong khi ‘Faiona’ có âm thanh tương tự là giám sát viên nhân viên chính thức của CivitAI tại subreddit của tên miền.

Được xuất bản lần đầu vào thứ Ba, ngày 20 tháng 5 năm 2025