CivitAI переживает кризис нового платежного провайдера, поскольку Трамп подписывает закон против дипфейков

Президент Трамп подписал закон «Take It Down Act», криминализирующий сексуальные дипфейки на федеральном уровне в США. В то же время, попытка сообщества CivitAI «навести порядок» в отношении ИИ, предназначенного для работы с небезопасной для работы женщин (NSFW), и контента знаменитостей в конечном итоге не удовлетворила платежные системы, что вынудило сайт искать альтернативы или быть закрытым. И всё это всего за две недели с момента закрытия старейшего и крупнейшего в мире сайта с дипфейковым порно…

Это были знаменательные несколько недель для состояния нерегулируемого deepfaking изображений и видео. Чуть больше двух недель назад домен номер 1 для сообщества, делящегося порно знаменитостей deepfakes. Mr. Deepfakes, внезапно ушел в офлайн после более чем семи лет доминирующего и много изученный позиция как глобального локуса для сексуализированного контента знаменитостей ИИ. К тому времени, как он упал, сайт получал в среднем более пяти миллионов посещений месяц.

На заднем плане: домен Mr. Deepfakes в начале мая; на врезке: уведомление о приостановке, теперь замененное ошибкой 404, поскольку домен, по-видимому, был куплен неизвестным покупателем 4 мая 2025 года (https://www.whois.com/whois/mrdeepfakes.com). Источник: mrdeepfakes.com

Прекращение услуг для Mr. Deepfakes было официально приписаны к отказу «критически важного поставщика услуг» (см. изображение выше, которое было заменено отказом домена в течение недели). Однако совместное журналистское расследование деанонимизировал ключевую фигуру стоявших за Mr.Deepfakes непосредственно перед закрытием, что допускает возможность того, что сайт был закрыт по личным и/или юридическим причинам этого человека.

Примерно в то же время CivitAI, коммерческая платформа, широко используемая для знаменитостей и NSFW LoRA, наложил ряд необычных и спорных меры самоцензуры. Они затронули генерацию дипфейков, хостинг моделей и более широкий перечень новых правил и ограничений, включая полный запрет на определенный маргинальные фетиши NSFW и то, что он называет «экстремистскими идеологиями».

Эти меры были приняты в ответ на угрозы поставщиков платежных услуг прекратить предоставление услуг на домене, если не будут внесены изменения в отношении контента NSFW и изображений знаменитостей с помощью искусственного интеллекта.

CivitAI Отключено

На сегодняшний день, по-видимому, меры, принятые CivitAI, не удовлетворили VISA и Mastercard: новый пост^† на сайте менеджер по взаимодействию с сообществом Аласдер Николл сообщает, что карточные платежи для CivitAI (чья «популярная» виртуальная денежная система в основном работает на основе реальных кредитных и дебетовых карт) будут приостановлены с этой пятницы (23 мая 2025 г.).

Это не позволит пользователям продлевать ежемесячное членство или покупать новый buzz. Хотя Николл советует пользователям сохранить текущие привилегии членства, перейдя на годовое членство (стоимостью^†† 100–550 долларов США) до пятницы, очевидно, что будущее домена в настоящее время несколько неопределенно (следует отметить, что ежегодное членство пошел вживую (в то же время, когда было сделано заявление о потере платежных систем).

Что касается отсутствия платежного процессора, Николл говорит: «Мы ведем переговоры с каждым поставщиком, готовым работать с инновациями в области искусственного интеллекта».

Что касается неудачи недавних попыток адекватно переосмыслить сайт часто критикуемый Политика в отношении искусственного интеллекта знаменитостей и контента NSFW, как утверждает Николл, выглядит следующим образом:

«Некоторые платёжные компании считают платформы с генеративным ИИ высокорискованными, особенно когда мы разрешаем пользователям размещать контент для взрослых, даже если он легален и модерируется. Именно это решение, а не действия пользователей, стало причиной блокировки».

Комментарий пользователя «Faeia», назначенного руководителем аппарата компании в CivitAI профиль*, добавляет контекст к этому объявлению:

«Просто для ясности: нас исключают из платёжной системы, поскольку мы решили не удалять с платформы контент NSFW и для взрослых. Мы по-прежнему привержены поддержке всех авторов и работаем над альтернативными решениями».

традиционный драйвер новых технологий, не редкость, когда контент NSFW используется для стимулировать интерес в домене, технологии или платформе — только для того, чтобы первоначальные приверженцы были отвергнуты, как только будет накоплен достаточный «законный» капитал и/или сформирована пользовательская база (т.е. достаточное количество пользователей, чтобы организация выжила, когда будет лишена контекста NSFW).

Некоторое время казалось, что CivitAI последует примеру Tumblr и другие разнообразные инициативы на этом пути к «очищенному» продукту, готовому забыть свои корни. Однако, дополнительные и растущие споры/стигматизация вокруг контента, созданного ИИ любого вида представляет собой кумулятивный вес, который, похоже, настроен на то, чтобы предотвратить спасение в последнюю минуту, в этом случае. В то же время официальное объявление советует пользователям принять криптовалюту в качестве альтернативного способа оплаты.

Поддельные из

Приход президента Дональда Трампа с энтузиазмом подписание федеральный Сними это Закон, вероятно, повлиял на некоторые из этих событий. Новый закон криминализирует распространение несогласованных интимных изображений, включая сгенерированные искусственным интеллектом дипфейки.

Законодательство обязывает платформы удалять помеченный контент в течение 48 часов, а за исполнением следит Федеральная торговая комиссия. Уголовные положения закона вступают в силу немедленно, позволяя преследовать лиц, которые сознательно публикуют или угрожают опубликовать несогласованные интимные изображения (включая сгенерированные искусственным интеллектом дипфейки) в рамках компетенции Соединенных Штатов.

Хотя закон получил редкую двухпартийную поддержку, а также поддержку со стороны технологических компаний и правозащитных групп, критики утверждают, что он может подавлять законный контент и угрожать инструментам конфиденциальности, таким как шифрование. В прошлом месяце Electronic Frontier Foundation (EFF) заявила оппозиция законопроекту, утверждая, что механизмы удаления, которые он предусматривает, охватывают более широкий спектр материалов, чем более узкое определение несогласованных интимных изображений, содержащееся в других частях законодательства.

«Положение об удалении в TAKE IT DOWN применяется к гораздо более широкой категории контента — потенциально к любым изображениям, включающим интимный или сексуальный контент, — чем более узкие определения NCII, содержащиеся в других частях законопроекта. Положение об удалении также не содержит критических гарантий против необоснованных или недобросовестных запросов на удаление.

«Сервисы будут полагаться на автоматизированные фильтры, которые являются печально известными тупыми инструментами. Они часто помечают законный контент, от комментариев о добросовестном использовании до новостных репортажей. Жесткие временные рамки закона требуют, чтобы приложения и веб-сайты удаляли речь в течение 48 часов, что редко бывает достаточным временем для проверки того, является ли речь действительно незаконной.

«В результате поставщики онлайн-услуг, особенно мелкие, скорее всего, предпочтут избежать обременительного юридического риска, просто удалив публикацию речи, вместо того чтобы даже попытаться ее проверить».

Теперь у платформ есть до одного года с момента вступления закона в силу, чтобы установить официальную процедуру уведомления и удаления, которая позволит пострадавшим лицам или их представителям ссылаться на закон, добиваясь удаления контента.

Это означает, что, хотя положения уголовного закона вступают в силу немедленно, платформы не обязаны по закону соблюдать инфраструктуру удаления (например, получать и обрабатывать запросы) до истечения этого годичного периода.

Распространяется ли действие Закона TAKE IT DOWN на контент о знаменитостях, созданный с помощью искусственного интеллекта?

Хотя Акт TAKE IT DOWN пересекает границы всех штатов, он не обязательно запрещает все медиа знаменитостей, управляемые искусственным интеллектом. Акт криминализирует распространение несогласованных интимных изображений, включая Созданные искусственным интеллектом дипфейки, только когда изображенный человек имел разумное ожидание конфиденциальности:

В акте говорится:

«(2) ПРАВОНАРУШЕНИЕ, СВЯЗАННОЕ С ПОДЛИННЫМИ ИНТИМНЫМИ ВИЗУАЛЬНЫМИ ИЗОБРАЖЕНИЯМИ.—

«(А) С УЧАСТИЕМ ВЗРОСЛЫХ.—За исключением [в целях доказывания, отчетности и т. д.], будет считаться незаконным для любого лица, осуществляющего межгосударственную или внешнюю торговлю, использовать интерактивную компьютерную службу для заведомой публикации интимного визуального изображения идентифицируемого лица, не являющегося несовершеннолетним, если —

«(i) интимное визуальное изображение было получено или создано при обстоятельствах, при которых лицо знало или должно было разумно знать, что идентифицируемое лицо имеет разумные ожидания относительно конфиденциальности;

«(ii) то, что изображено, не было добровольно выставлено напоказ идентифицируемым лицом в публичной или коммерческой обстановке [т.е., самостоятельно опубликованное порно];

«(iii) то, что изображено, не является предметом общественного интереса; и

«(iv) публикация интимного визуального изображения —

«(I) имеет целью причинить вред; или

«(II) причиняет вред, включая психологический, финансовый или репутационный вред, идентифицируемому лицу.

Примененное здесь условие «разумного ожидания конфиденциальности» традиционно не пользуется популярностью права знаменитостей. В зависимости от сложившейся судебной практики, возможно, что даже явный Созданный искусственным интеллектом контент с участием публичных лиц в общественных или коммерческих ситуациях может не подпадать под запреты Закона.

Заключительный пункт об определении степень вреда является невероятно эластичный в юридическом плане, и в этом смысле не добавляет ничего особенно нового к законодательной нагрузке. Однако, намерение причинение вреда, по-видимому, ограничивает сферу действия Закона контекстом «порномести», когда (неизвестный) бывший партнер публикует реальный или поддельный медиа-контент о (столь же неизвестном) другом бывшем партнере.

Хотя требование закона о «причинении вреда» может показаться неподходящим для случаев, когда анонимные пользователи публикуют созданные искусственным интеллектом изображения знаменитостей, оно может оказаться более уместным в случаях преследования, когда более широкая картина преследований подтверждает вывод о том, что человек преднамеренно и злонамеренно преследовал публичную фигуру по нескольким направлениям.

Хотя ссылка в Законе на «охваченные платформы» исключает частные каналы, такие как Signal или электронная почта, из положений об удалении, это исключение применяется только к обязательству внедрить формальный механизм удаления к маю 2026 года. Это не означает, что неконсенсуальные ИИ или реальные изображения, распространяемые посредством частной коммуникации, выходят за рамки уголовных запретов закона.

Очевидно, что отсутствие механизмов подачи жалоб на месте не мешает пострадавшим сторонам сообщать в полицию о том, что теперь является незаконным контентом; таким сторонам также не запрещается использовать любые традиционные методы связи, которые может предоставить сайт, чтобы подать жалобу и потребовать удаления оскорбительного материала.

Права, оставленные позади

Более семи лет растущей общественной и медийной критики дипфейкового контента, похоже, достигли апогея в необычайно короткий промежуток времени. Однако, хотя Закон «О снятии контента» (TAKE IT DOWN Act) предусматривает масштабные федеральные запреты, он может применяться не во всех случаях, связанных с имитациями, созданными искусственным интеллектом, оставляя некоторые сценарии под контролем разрастающегося многообразия законов о дипфейках на уровне штатов, где принимаемые законы зачастую отражают «местные интересы».

Например, в Калифорнии, Закон Калифорнии о правах знаменитостей ограничивает исключительное использование личности знаменитости ею самой и ее наследством, даже после ее смерти; в Теннесси же наоборот Закон Элвиса основное внимание уделяется защите музыкантов от несанкционированного воспроизведения голоса и изображений, созданных с помощью искусственного интеллекта, причем каждый случай отражает целенаправленный подход к группам интересов, имеющим влияние на государственном уровне.

Большинство штатов теперь есть законы нацеливание на сексуальные дипфейки, хотя многие не уточняют, распространяются ли эти меры защиты в равной степени на частных лиц и публичных деятелей. Между тем, политические дипфейки, которые, как сообщается, помогли шпора Поддержка Дональдом Трампом нового федерального закона может на практике наталкиваться на конституционные барьеры в определенных контекстах.

^† Архивная версия: https://web.archive.org/web/20250520024834/https://civitai.com/articles/14945

^†† Архивная версия (без ежемесячных цен): https://web.archive.org/web/20250425020325/https://civitai.green/pricing

* Фактическим «руководителем аппарата» генерального директора CivitAI является в списке в LinkedIn под другим именем, в то время как похожее по звучанию имя «Файона» является официальный модератор CivitAI в домене subreddit.

Впервые опубликовано Вторник, 20 мая 2025 г.