CivitAI в кризисе из-за нового платежного провайдера, как Трамп подписал закон против глубоких фейков

Президент Трамп подписал закон TAKE IT DOWN, который криминализирует сексуальные глубокие фейки на федеральном уровне в США. В то же время сообщество CivitAI, которое пыталось “очистить” себя от контента NSFW и знаменитостей, в конечном итоге не смогло удовлетворить требованиям платежных процессоров, что привело к поиску альтернатив или закрытию сайта. Все это произошло всего за две недели после того, как старейший и крупнейший сайт глубоких фейков в мире был отключен…

Это были значимые две недели для состояния нерегулируемого создания и распространения глубоких фейков изображений и видео. Всего две недели назад, домен #1 для обмена контентом глубоких фейков знаменитостей, Mr. Deepfakes, внезапно отключился после более семи лет доминирования и многочисленных исследований в качестве глобального центра для сексуализированного контента знаменитостей, созданного с помощью ИИ. К моменту его отключения сайт получал в среднем более пяти миллионов посещений в месяц.

Фон, домен Mr. Deepfakes в начале мая; вставка, уведомление о приостановке, теперь заменено ошибкой 404, поскольку домен был, по-видимому, приобретен неизвестным покупателем 4 мая 2025 года (https://www.whois.com/whois/mrdeepfakes.com). Источник: mrdeepfakes.com

Приостановка работы Mr. Deepfakes была официально приписана выводу “критического поставщика услуг” (см. вставку выше, которая была заменена отказом домена в течение недели). Однако совместное журналистское расследование раскрыло личность ключевой фигуры за Mr. Deepfakes прямо перед закрытием, что позволило предположить, что сайт был закрыт по личным и/или юридическим причинам этого человека.

В то же время CivitAI, коммерческая платформа, широко используемая для знаменитостей и контента NSFW LoRAs, ввела ряд необычных и противоречивых самоцензуры. Эти меры повлияли на создание глубоких фейков, размещение моделей и более широкий спектр новых правил и ограничений, включая полные запреты на определенные маргинальные фетиши NSFW и то, что они назвали “экстремистскими идеологиями”.

Эти меры были вызваны требованиями платежных процессоров, которые, по-видимому, угрожали прекратить услуги для домена, если не будут внесены изменения в отношении контента NSFW и изображений знаменитостей, созданных с помощью ИИ.

CivitAI Cut Off

На данный момент кажется, что меры, принятые CivitAI, не удовлетворили VISA и Mastercard: новая статья^† на сайте, от менеджера по взаимодействию с сообществом Аласдайра Николла, раскрывает, что платежи по картам для CivitAI (чья система виртуальных денег “buzz” в основном питается реальными кредитными и дебетовыми картами) будут приостановлены с этой пятницы (23 мая 2025 года).

Это предотвратит возможность для пользователей продлить ежемесячные членства или купить новый “buzz”. Хотя Николл советует пользователям сохранить текущие привилегии членства, перейдя на годовое членство (стоимость^†† 100-550 долларов США), rõчно, что будущее домена сейчас довольно неопределенно (Следует отметить, что годовые членства вступили в силу в то же время, когда было объявлено о потере платежных процессоров).

Что касается отсутствия платежного процессора, Николл говорит ‘Мы говорим с каждым поставщиком, который комфортно чувствует себя с инновациями ИИ’.

Что касается неудачи недавних попыток адекватно пересмотреть политику сайта в отношении контента AI и NSFW, Николл заявляет в статье:

‘Некоторые платежные компании считают платформы с генеративным ИИ высокорисковыми, особенно когда мы разрешаем пользователям создавать контент для взрослых, даже если он законен и модерируется. Этот выбор политики, а не действия пользователей, привел к отключению.’

Комментарий пользователя ‘Faeia’, указанный как глава штаба компании в профиле CivitAI*, добавляет контекст к этому объявлению:

‘Просто чтобы уточнить, нас удаляют из платежного процессора, потому что мы решили не удалять контент NSFW и контент для взрослых с платформы. Мы остаемся приверженными поддержке всех видов создателей и работаем над альтернативными решениями.’

Как традиционный движитель новых технологий, не редко контент NSFW используется для запуска интереса к домену, технологии или платформе – только чтобы первоначальные сторонники были отвергнуты, как только будет достаточно “легитимного” капитала и/или пользовательской базы (т.е. достаточно пользователей, чтобы сущность могла выжить, когда она лишена контекста NSFW).

Кажется, что CivitAI последует за Tumblr и другими инициативами по пути к “очищенному” продукту, готовому забыть свои корни. Однако дополнительная и растущая контроверсия/стигма вокруг контента, созданного с помощью ИИ, представляет собой кумулятивный вес, который, кажется, предотвратит последнюю минуту спасения в этом случае. Тем временем официальное объявление советует пользователям использовать криптовалюту в качестве альтернативного метода оплаты.

Fake Out

Введение президента Дональда Трампа с энтузиазмом подписав федеральный закон TAKE IT DOWN, вероятно, повлияло на эти события. Новый закон криминализирует распространение неконсensualных интимных изображений, включая глубокие фейки, созданные с помощью ИИ.

Закон требует, чтобы платформы удалили помеченный контент в течение 48 часов, с контролем за соблюдением, осуществляемым Федеральной торговой комиссией. Уголовные положения закона вступают в силу немедленно, позволяя преследовать в суде лиц, которые намеренно публикуют или угрожают опубликовать неконсensualные интимные изображения (включая глубокие фейки, созданные с помощью ИИ) в рамках США.

Хотя закон получил редкую двупартийную поддержку, а также поддержку технологических компаний и групп защиты интересов, критики утверждают, что он может подавить легитимный контент и угрожать инструментам конфиденциальности, таким как шифрование. В прошлом месяце Фонд электронных рубежей (EFF) объявил оппозицию законопроекту, утверждая, что механизмы удаления, которые он предписывает, нацеливаются на более широкий спектр материалов, чем более узкое определение неконсensualных интимных изображений, найденное в других местах законодательства.

‘Положение об удалении в TAKE IT DOWN применяется к более широкой категории контента – потенциально любым изображениям, включающим интимный или сексуальный контент – чем более узкое определение неконсensualных интимных изображений, найденное в других местах законопроекта. Положение об удалении также не имеет критических гарантий против тривиальных или недобросовестных запросов на удаление.

‘Сервисы будут полагаться на автоматические фильтры, которые являются известными тупыми инструментами. Они часто помечают легитимный контент, от комментариев fair-use до новостных репортажей. Строгий срок закона требует, чтобы приложения и веб-сайты удалили речь в течение 48 часов, что редко бывает достаточно времени, чтобы проверить, является ли речь действительно незаконной.

‘В результате онлайн-сервисы, особенно более мелкие, вероятно, выберут избежать тяжелых юридических рисков, просто удалив речь, не пытаясь даже проверить ее.’

Платформы теперь имеют до одного года с момента принятия закона, чтобы создать формальный процесс уведомления и удаления, позволяющий затронутым лицам или их представителям использовать законопроект в целях удаления контента.

Это означает, что хотя уголовные положения вступают в силу немедленно, платформы не обязаны соблюдать инфраструктуру удаления (такую как получение и обработку запросов) до истечения этого срока в один год.

Does the TAKE IT DOWN Act Cover AI-Generated Celebrity Content?

Хотя закон TAKE IT DOWN распространяется на все штаты, он не обязательно запрещает все ИИ-генерируемые медиа контент знаменитостей. Закон криминализирует распространение неконсensualных интимных изображений, включая глубокие фейки, созданные с помощью ИИ, только когда изображенное лицо имело разумное ожидание конфиденциальности:

Закон гласит:

“(2) ПРЕСТУПЛЕНИЕ, СВЯЗАННОЕ С АУТЕНТИЧНЫМИ ИНТИМНЫМИ ВИЗУАЛЬНЫМИ ИЗОБРАЖЕНИЯМИ.—

“(А) СВЯЗАННОЕ С ВЗРОСЛЫМИ.—За исключением [доказательств, целей отчетности и т. д.], будет считаться незаконным для любого лица, в межгосударственной или иностранной коммерции, использовать интерактивную компьютерную службу для намеренного публикования интимного визуального изображения идентифицируемого лица, которое не является несовершеннолетним, если—

“(i) интимное визуальное изображение было получено или создано в обстоятельствах, в которых лицо знало или должно было знать, что идентифицируемое лицо имело разумное ожидание конфиденциальности;

“(ii) то, что изображено, не было добровольно раскрыто идентифицируемым лицом в публичной или коммерческой среде [т.е. самопубликованный порно];

“(iii) то, что изображено, не является делом публичной заботы; и

“(iv) публикация интимного визуального изображения—

“(I) предназначена для причинения вреда; или

“(II) причиняет вред, включая психологический, финансовый или репутационный вред, идентифицируемому лицу.

Условие “разумного ожидания конфиденциальности” примененное здесь не традиционно благоприятствовало правам знаменитостей. В зависимости от судебной практики, которая в конечном итоге появится, возможно, что даже явный контент, созданный с помощью ИИ, включающий публичные фигуры в публичных или коммерческих средах, может не подвергаться запретам Закона.

Окончательная клаузула, определяющая объем вреда, известна как эластичная в юридических терминах, и в этом смысле добавляет ничего особенно нового к законодательному бремени. Однако намерение причинить вред, кажется, ограничивает сферу действия Закона контекстом “месть-порно”, где (неизвестный) бывший партнер публикует реальный или фальшивый медиа-контент другого бывшего партнера.

Хотя требование закона о “вреде” может показаться неуместным для случаев, когда анонимные пользователи публикуют ИИ-генерируемые изображения знаменитостей, оно может оказаться более актуальным в сценариях преследования, где более широкий шаблон преследования поддерживает вывод о том, что лицо было намеренно и злонамеренно нацелено на публичную фигуру по нескольким фронтам.

Хотя ссылка Закона на “покрытые платформы” исключает частные каналы, такие как Signal или электронная почта, из его положений об удалении, это исключение применяется только к обязательству реализовать формальный механизм удаления к маю 2026 года. Оно не означает, что неконсensualный ИИ или реальные изображения, обменанные через частные коммуникации, находятся вне сферы действия уголовных запретов Закона.

Очевидно, что отсутствие механизмов отчетности на сайте не препятствует затронутым лицам сообщать о том, что теперь является незаконным контентом, в полицию; ни они не исключены из использования любых обычных методов контакта, которые сайт может сделать доступными для подачи жалобы и запроса удаления оскорбительного материала.

The Rights Left Behind

Более семи лет нарастающей публичной и медиа-критики контента глубоких фейков, по-видимому, завершились в необычно короткий срок. Однако, хотя Закон TAKE IT DOWN предлагает всеобъемлющие федеральные запреты, он может не применяться в каждом случае, связанном с ИИ-генерируемыми симуляциями, оставляя определенные сценарии для решения в рамках растущего мозаика законодательства штатов о глубоких фейках, где принятые законы часто отражают “местный интерес”.

Например, в Калифорнии Закон о правах знаменитостей Калифорнии ограничивает исключительное использование идентичности знаменитости самим знаменитостью и его имуществом, даже после смерти; напротив, закон Теннесси ELVIS Act фокусируется на защите музыкантов от неавторизированных ИИ-генерируемых воспроизведений голоса и изображения, с каждым случаем, отражающим целевой подход к группам интересов, которые являются заметными на уровне штата.

Большинство штатов теперь имеют законы, нацеленные на сексуальные глубокие фейки, хотя многие не доходят до уточнения, распространяются ли эти защиты одинаково на частных лиц и публичные фигуры. Тем временем политические глубокие фейки, которые, как сообщается, спровоцировали поддержку Трампа нового федерального закона, могут, на практике, столкнуться с конституционными барьерами в определенных контекстах.

^† Архивированная версия: https://web.archive.org/web/20250520024834/https://civitai.com/articles/14945

^†† Архивированная версия (не содержит ежемесячных цен): https://web.archive.org/web/20250425020325/https://civitai.green/pricing

* Фактический “шеф штаба” генерального директора CivitAI перечислен на LinkedIn под не связанным именем, в то время как похожее название “Faiona” является официальным модератором штаба CivitAI на subreddit домена CivitAI.

Опубликовано впервые во вторник, 20 мая 2025 года