CivitAI у кризі нового провайдера платежів, оскільки Трамп підписав закон проти глибоких підробок

Президент Трамп підписав закон TAKE IT DOWN, який криміналізує глибокі підробки сексуального характеру на федеральному рівні в США. Тим часом спільнота CivitAI, яка намагалася “очистити свій акт” щодо NSFW AI і контенту знаменитостей, в кінцевому підсумку не змогла вплинути на процесори платежів, що призвело до того, що сайт шукає альтернативні рішення або звернення до закриття. Все це відбулося всього за два тижні після закриття найбільшого сайту глибоких підробок у світі…

Минули моментні тижні для стану нерегульованого створення та поширення глибоких підробок зображень та відео. Близько двох тижнів тому, домен #1 для спільноти, яка обмінювалася глибокими підробками знаменитостей, Mr. Deepfakes, раптово закрився після понад семи років існування в домінуючій позиції як глобальний центр для сексуалізованого контенту знаменитостей, створеного штучним інтелектом. На момент закриття сайт мав понад п’ять мільйонів відвідувачів на місяць.

Фон, домен Mr. Deepfakes на початку травня; вставка, повідомлення про зупинку, яке тепер замінено на помилку 404, оскільки домен був придбаний невідомим покупцем 4 травня 2025 року (https://www.whois.com/whois/mrdeepfakes.com). Джерело: mrdeepfakes.com

Закриття послуг Mr. Deepfakes офіційно було приписано виводу “критичного постачальника послуг” (див. зображення вище, яке було замінено на помилку домену протягом тижня). Однак спільна журналістська розслідування деанонімізувало ключову фігуру за Mr.Deepfakes безпосередньо перед закриттям, що дозволяє припустити, що сайт був закритий через особисті чи юридичні причини цієї особи.

Приблизно в той самий час CivitAI, комерційна платформа, широко використовувана для знаменитостей і NSFW LoRAs, ввела набір незвичайних і суперечливих заходів самоцензури. Ці заходи вплинули на генерацію глибоких підробок, розміщення моделей та ширший спектр нових правил і обмежень, включаючи повні заборони на певні маргінальні NSFW фетиши та те, що вони назвали “екстремістськими ідеологіями”.

Ці заходи були спровоковані постачальниками платежів, які, як видається, погрожували вивести свої послуги з домену, якщо не будуть внесені зміни щодо контенту NSFW і зображень знаменитостей, створених штучним інтелектом.

CivitAI Cut Off

На даний момент здається, що заходи, прийняті CivitAI, не задовольнили VISA і Mastercard: новий пост на сайті, від менеджера спільноти Алассдайра Ніколла, розкриває, що платежі за картки для CivitAI (чия система віртуальної валюти “buzz” здебільшого працює на реальних кредитних і дебетових картках) будуть зупинені з цієї п’ятниці (23 травня 2025 року).

Це запобіжить користувачам поновлювати місячні членства або купувати новий “buzz”. Хоча Ніколл радить користувачам зберігати поточні привілеї членства, перейшовши на річне членство (що коштує $100-$550 USD), до п’ятниці, очевидно, майбутнє для домену на даний момент досить невизначене (Зазначимо, що річне членство було введено в той самий час, коли було оголошено про втрату процесорів платежів).

Щодо відсутності процесора платежів, Ніколл каже ‘Ми розмовляємо з кожним постачальником, який комфортно почувається з інноваціями штучного інтелекту’.

Відносно невдачі останніх зусиль щодо достатнього перегляду політики сайту щодо контенту знаменитостей, створеного штучним інтелектом, і контенту NSFW, Ніколл заявляє в пості:

‘Деякі компанії з платежів вважають платформи генерації штучного інтелекту високим ризиком, особливо коли ми дозволяємо користувачам створювати дорослий контент, навіть якщо він законний і модерований. Цей вибір політики, а не те, що зробили користувачі, змусив зупинку.’

Коментар користувача “Faeia”, який позначений як начальник штабу компанії в його профілі CivitAI*, додає контекст до цього оголошення:

‘Просто щоб уточнити, нас видаляють з процесора платежів, оскільки ми вирішили не видаляти контент NSFW і дорослий контент з платформи. Ми залишаємося прив’язаними до підтримки всіх видів творців і працюємо над альтернативними рішеннями.’

Як традиційний рух нових технологій, не рідко зустрічається, коли контент NSFW використовується для запуску інтересу до домену, технології чи платформи – тільки для того, щоб перші прихильники були відкинуті, коли накопичується достатньо “легітимного” капіталу чи користувачів (тобто, достатньо користувачів, щоб сутність могла виживати, позбавленої контексту NSFW).

Здається, що CivitAI деякий час буде слідувати за Tumblr і різними іншими ініціативами цього шляху до “санітарної” продукції, готової забути свої коріння. Однак додаткова і зростаюча суперечка/стигма навколо контенту, створеного штучним інтелектом, будь-якого виду представляє собою накопичуваний тягар, який, здається, запобігає останній рятувальній місії в цьому випадку. Тим часом офіційне оголошення радить користувачам прийняти криптовалюту як альтернативний метод платежу.

Fake Out

Подія з ентузіазмом підписання президентом Дональдом Трампом федерального закону TAKE IT DOWN, ймовірно, вплинула на деякі з цих подій. Новий закон криміналізує поширення несанкціонованих інтимних зображень, включаючи глибокі підробки, створені штучним інтелектом.

Закон вимагає, щоб платформи видалили позначений контент протягом 48 годин, з дотриманням Федеральної торгової комісії. Кримінальні положення закону набувають чинності негайно, дозволяючи переслідувати осіб, які свідомо публікують або погрожують опублікувати несанкціоновані інтимні зображення (включаючи глибокі підробки, створені штучним інтелектом) у межах Сполучених Штатів.

Хоча закон отримав рідкісну двопартійну підтримку, а також підтримку технологічних компаній і груп захисту інтересів, критики стверджують, що він може придушити легітимний контент і загрожувати інструментам конфіденційності, таким як шифрування. У минулому місяці Фонд електронних кордонів (EFF) оголосив про свою опозицію до законопроекту, стверджуючи, що механізми видачі, які він передбачає, націлені на ширший спектр матеріалів, ніж вужче визначення несанкціонованих інтимних зображень, знайдених в інших місцях законодавства.

‘Положення про видачу в законі TAKE IT DOWN застосовується до набагато ширшої категорії контенту – потенційно будь-яких зображень, що включають інтимну чи сексуальну тематику – ніж вужче визначення несанкціонованих інтимних зображень, знайдене в інших місцях законодавства. Положення про видачу також не має критичних заходів захисту від фривольних або зловмисних запитів на видачу.

‘Послуги будуть покладатися на автоматичні фільтри, які є знаменитими тупими інструментами. Вони часто прапорять законний контент, від коментарів про справедливе використання до звітів у новинах. Строгий термін закону вимагає, щоб додатки та веб-сайти видалили мову протягом 48 годин, рідко достатньо часу, щоб перевірити, чи мова насправді незаконна.

‘В результаті постачальники онлайн-сервісів, особливо менші, ймовірно, виберуть уникнути ризиків, просто видаливши мову, а не навіть намагаючись перевірити її.’

Платформи тепер мають до одного року з моменту прийняття закону, щоб встановити формальний процес повідомлення та видачі, що дозволить постраждалим особам або їхнім представникам звернутися до законодавства з метою видалення контенту.

Це означає, що хоча кримінальні положення негайно набувають чинності, платформи не мають юридичної зобов’язання дотримуватися інфраструктури видачі (такої як отримання та обробка запитів) до тих пір, поки не закінчиться один річний термін.

Чи покриває закон TAKE IT DOWN AI-генерований контент знаменитостей?

Хоча закон TAKE IT DOWN перетинає всі державні кордони, він не обов’язково забороняє весь AI-генерований контент знаменитостей. Закон криміналізує поширення несанкціонованих інтимних зображень, включаючи глибокі підробки, створені штучним інтелектом, тільки якщо зображена особа мала обґрунтоване очікування конфіденційності:

Закон зазначає:

“(2) Порушення, пов’язане з автентичними інтимними візуальними зображеннями.—

“(А) З дорослими.—Крім [доказових, звітних цілей тощо] будь-якої особи буде незаконно використовувати інтерактивну комп’ютерну службу для свідомого публікування інтимного візуального зображення ідентифікованої особи, яка не є малолітньою, якщо—

“(і) інтимне візуальне зображення було отримано або створено під обставинами, при яких особа знала або повинна була знати, що ідентифікована особа мала обґрунтоване очікування конфіденційності;

“(ii) те, що зображено, не було добровільно відкрито ідентифікованою особою в публічному чи комерційному середовищі [тобто, самопубліковане порно];

“(iii) те, що зображено, не є питанням громадської уваги; і

“(iv) публікація інтимного візуального зображення—

“(І) має на меті заподіяти шкоду; або

“(ІІ) заподіяє шкоду, включаючи психологічну, фінансову чи репутаційну шкоду, ідентифікованій особі.

Умови “обґрунтованого очікування конфіденційності” не традиційно сприяли правам знаменитостей. В залежності від того, яке судове рішення з’явиться в результаті, можливо, що навіть явний AI-генерований контент, що включає публічних осіб у публічних чи комерційних середовищах, не може потрапити під заборони Закону.

Останній пункт про визначення ступеня шкоди є знаменитим еластичним у юридичних термінах і в цьому сенсі нічого нового не додає до законодавчого тягаря. Однак намір заподіяти шкоду, здається, обмежує сферу дії Закону до контексту “помсти-порно”, де (невідомий) колишній партнер публікує реальний або фальшивий медіа-контент іншого (рівно невідомого) колишнього партнера.

Хоча вимога Закону щодо шкоди може здаватися малозастосовною до випадків, коли анонімні користувачі публікують AI-генерований контент знаменитостей, вона може виявитися більш актуальною в сценаріях переслідування, де ширша картина переслідування підтримує висновок про те, що особа була свідомо і зловмисно націлена на публічну особу з різних сторін.

Хоча посилання Закону на “підтримувані платформи” виключає приватні канали, такі як Signal або електронна пошта, з положень про видачу, це виключення застосовується лише до обов’язку впровадити формальний механізм видалення до травня 2026 року. Це не означає, що несанкціонований AI- або реальний контент, поширений через приватні комунікації, знаходиться поза сферою дії кримінальних заборон Закону.

Очевидно, що відсутність механізмів повідомлення на сайті не перешкоджає постраждалим особам повідомляти про те, що тепер є незаконним контентом, поліції; ані не забороняє їм використовувати будь-які звичайні методи контакту, які сайт може зробити доступними, щоб подати скаргу та запросити видалення образливого матеріалу.

Права, які залишилися позаду

Більше семи років зростаючої публічної та медійної критики глибоких підробок контенту, здається, завершилися надзвичайно коротким проміжком часу. Однак, хоча закон TAKE IT DOWN пропонує загальні федеральні заборони, він може не застосовуватися в кожному випадку, що включає AI-генерований контент, залишаючи певні сценарії для розгляду в рамках зростаючої системи законодавства штатів щодо глибоких підробок, де прийняті закони часто відображають “локальні інтереси”.

Наприклад, у Каліфорнії закон про права знаменитостей Каліфорнії обмежує виключне використання ідентичності знаменитості самою особою та її спадкоємцями, навіть після смерті; навпаки, закон ELVIS штату Теннессі зосереджується на захисті музикантів від неавторизованих AI-генерованих голосових та візуальних репродукцій, причому кожен випадок відображає націлений підхід до груп інтересів, які є видатними на рівні штату.

Більшість штатів зараз мають закони, спрямовані на боротьбу з глибокими підробками сексуального характеру, хоча багато з них не йдуть далі уточнення того, чи ці захисти розширюються однаково на приватних осіб і публічних осіб. Тим часом політичні глибокі підробки, які, як повідомляється, спонукали підтримку Дональда Трампа нового федерального закону, можуть, на практиці, зіткнутися з конституційними бар’єрами в певних контекстах.

^† Архівна версія: https://web.archive.org/web/20250520024834/https://civitai.com/articles/14945

^†† Архівна версія (не містить місячних цін): https://web.archive.org/web/20250425020325/https://civitai.green/pricing

* Фактичний “начальник штабу” генерального директора CivitAI перелічений на LinkedIn під не пов’язаним ім’ям, тоді як подібно звучний “Faiona” є офіційним модератором персоналу CivitAI на subreddit домену.

Перша публікація вівторка, 20 травня 2025 року