CivitAI ужесточает правила глубоких фейков под давлением Mastercard и Visa

CivitAI, возможно, самый популярный репозиторий моделей ИИ в интернете, наконец согласился на требования платежных процессоров MasterCard и Visa радикально пересмотреть свою политику в отношении контента NSFW – и, в частности, свои условия использования, касающиеся знаменитостей LoRAs, одного из наиболее популярных потоков контента, загружаемого пользователями, который позволяет людям использовать бесплатно загружаемые дополнительные модели, такие как LoRAs, для создания изображений ИИ (включая видеоизображения) известных людей.

Нажмите, чтобы воспроизвести. Хотя Civit не предоставляет точных цифр (и неправильная маркировка/несоответствующая категоризация не является необычной, что, вероятно, исказит цифры), количество моделей ИИ знаменитостей, в основном LoRAs, явно составляет несколько сотен или даже тысяч, и явно доминируют женские объекты. Источник: civitai.com

Очевидно, что под давлением в прямой трансляции Twitch** от имени компании, менеджер по взаимодействию с сообществом Алесдейр Николл, сам создатель (SFW) моделей на Civit, признал, что изменения были навязаны сайту платежными процессорами из-за опасений по поводу контента для взрослых и изображения реальных людей. Он также признает вероятность того, что основные силы, стоящие за этими процессорами, Visa и MasterCard, скорее всего, потребуют еще больших изменений позже:

‘Это не те изменения, которые мы хотели сделать. Все это сводится к новому и надвигающемуся законодательству. Есть законы о глубоких фейках, есть законы об ИИ-порнографии… платежные процессоры, и в конечном итоге Visa и MasterCard напуганы; они не хотят быть судимыми, и они в конечном итоге движут этими изменениями.

‘Некоторые из других вариантов, которые нам были предложены, были удалением контента, не подходящего для работы; удалением х и трипл-х контента с CivitAI и на совершенно новую платформу, а затем геоблокированием этой платформы, потому что более половины штатов США требуют некоторой формы геоблокирования порнографии, [а также] многие азиатские страны и Великобритания…

‘Третий вариант был полный переход на криптовалюту, платежи только в криптовалюте… поэтому не было хороших вариантов для этого.’

Домен Civit был периодически недоступен в течение последних нескольких дней, видимо, для внесения изменений. Хотя сайт уже запретил использование тем NSFW в изображениях знаменитостей LoRA/модели, теперь невозможно просматривать раздел моделей Civit и видеть предварительные просмотры знаменитостей LoRA рядом с очень большим количеством моделей NSFW, предназначенных для создания контента для взрослых.

Официальное объявление гласит:

‘Контент, помеченный именами реальных людей (например, “Том Круз”), или помеченный как ресурсы с реальными людьми, будет скрыт из лент.’

В сессии Twitch Николл раскрыл дальнейшие подробности мер, предназначенных для защиты знаменитостей и реальных людей. Civit всегда позволял реальным людям запрашивать удаление модели ИИ, размещенной на Civit, изображающей их, но теперь Николл намекает на систему, которая может предотвратить повторную загрузку таких изображений после первоначального отклонения, с возможностью идентификации “защищенного” человека, даже в изображениях, которые система никогда не видела раньше.

Для этого сайт теперь сотрудничает с системой модерации Clavata AI – хотя пока неясно, в какой степени Clavata будет обеспечивать эти новые возможности.

Николл сказал:

‘Том Хэнкс заявил о своем подобии у нас, например. Очень многие взрослые актрисы; очень многие актеры и актрисы категории А…

‘Я думаю, что первым, кто сделал это, была Барбара Эден, ее поместье* – она была одной из первых, кто заявил о своем подобии, что довольно забавно, потому что она уже старая.’

Защищено по умолчанию?

За последние пару лет компания по визуальным эффектам ИИ Metaphysic (полное раскрытие: я работал в Metaphysic.ai с начала 2022 года до конца 2024 года) попыталась создать проприетарную систему, которая позволила бы любому зарегистрировать свое подобие, хотя в основном ориентированную на голливудские имена, обеспокоенные захватом их личности ИИ, с поддержкой актеров таких как Анн Хэтэуэй, Октавия Спенсер и Том Хэнкс (с которым компания работала над фильмом Роберта Земекиса Здесь [2024]).

Логически, полезность системы всегда зависела бы от окончательного судебного решения; основываясь на мерах, которые Civit теперь вынуждена принять, сервис на основе подписки^†, предложенный Metaphysic, мог бы быть избыточным в свете быстрого роста законов о глубоких фейках и потенциального (бесплатного) покрытия в соответствии с общим законом. Неизвестно, будет ли предложение Metaphysic Pro передано компании Double Negative VFX, которая приобрела активы Metaphysic в прошлом году.

В любом случае, все больше кажется, что глобальное законодательство и общие рыночные давления с большей вероятностью обеспечат защиту и средства, а не коммерческие решения такого рода.

Варка лягушки

Отчет 2023 года от 404 Media привлек внимание к склонности моделей ИИ знаменитостей и порнографии на Civit, хотя основатель Civit Джастин Майер замалчивал связь между подобиями знаменитостей, предоставляемыми пользователями, и их использованием для генерации порнографического материала.

Хотя Civit зарабатывает деньги, облегчая использование LoRAs и других моделей, предоставляемых пользователями, на сайте, Николл ясен в том, что это не является основной проблемой, мотивирующей Visa и MasterCard требовать изменений на сайте, чтобы он мог продолжать монетизироваться:

‘Некоторые люди говорят, что причина, по которой мы находимся в этом беспорядке, заключается в том, что мы разрешаем генерацию. Это не имеет значения. Хостинг этих моделей, хостинг этого контента, достаточно, чтобы привлечь внимание Саурона.’

Треды комментариев сообщества в последние годы удивлялись, что Civit был разрешен для хостинга подобий знаменитостей. Осознав возможность, возможно, неизбежность ограничения, несколько инициатив по сохранению LoRAs, удаленных Civit или их загрузчиками, были предложены или реализованы, включая (до сих пор) довольно заброшенный subreddit r/CivitaiArchives.

Хотя многие предположили, что инициатива на основе торрентов является естественным решением, не кажется, что какой-либо популярный домен появился – и в любом случае, это, кажется, обязательно переместит деятельность, запрещенную на Civit и в других местах, на самые дальние окраины интернета; в замкнутые сады; и, скорее всего, на темную сеть, поскольку большинство рамок, которые могли бы вместить запрещенные подобия LoRAs (такие как Reddit и Discord), либо уже запрещают такой контент, либо, кажется, обязательно запретят его скоро.

На данный момент подобия знаменитостей LoRAs все еще можно увидеть с некоторыми ограничениями на Civit, хотя большинство сгенерированного контента было удалено из списка и будет исключено из случайного открытия. Что, кажется, вероятно, один комментатор предложил Николлу в сессии Twitch, заключается в том, что ограничение будет углубляться (вероятно, до степени запрета всех подобий реальных людей в загружаемых моделях или изображениях).

Николл ответил:

‘”Они не остановятся здесь, они будут требовать все больше и больше” – абсолютно! Да, абсолютно. Это просто тот мир, в котором мы живем. Единственная надежда заключается в том, что мы станем достаточно большими и мощными, чтобы иметь немного больше влияния на то, что диктуется нам […]

Отчаявшись от альтернатив, предложенных Civit, Николл добавил:

‘[…] Никто не купит Биткоин, чтобы использовать генератор CivitAI. Итак, мы попытались сделать это как можно более приятным, и это то, что мы в итоге получили. Итак, мои извинения, если это что-то, что вы просто не можете терпеть, но, к сожалению, это то, что есть. Мы сделали все возможное, мы оттолкнули как можно больше, но в конечном итоге нам было сказано, что это так – вы должны сделать это или это будет конец […]

‘[…] Эти финансовые учреждения не понимают, что люди делают здесь с этим. Мы пытались объяснить им, мы пытались поговорить с ними, но мы практически последняя крепость контента NSFW.

Николл сказал, что Civit обратился ко всем платежным процессорам:

‘Даже к высокорисковым платежным процессорам, которые используют порносайты, и они все очень осторожны с контентом ИИ. Это проблема – контент ИИ. Если бы мы были традиционным порносайтом, мы были бы в порядке, но контент ИИ – это то, чего они боятся.’

Где дальше?

До этого объявления Civit уже удалял загрузки, попадающие под некоторые из категорий и типов контента, которые теперь запрещены. На момент написания этого текста “аварийный репозиторий” для Wan 2.1 LoRAs был создан на сайте Hugging Face. Хотя некоторые из этих LoRAs предназначены для облегчения общих сексуальных действий, которые слабо обучены или отсутствуют в новых видеомоделях, таких как Wan 2.1, несколько из них попадают под строго запрещенную категорию “раздетые” (т.е. “обнаженные”), включая некоторые модели, которые можно было бы назвать “экстремальными” или явно оскорбительными.

Сабреддит r/datahoarders, который был в авангарде сохранения онлайн-литературы правительства США во время кампании по массовому удалению Дональда Трампа федеральных наборов данных и веб-сайтов, до сих пор проявил презрение к идее сохранения потерянного контента CivitAI.

В литературе легкость CivitAI в генерации контента NSFW ИИ не осталась незамеченной. Однако одно из наиболее цитируемых исследований, статья 2024 года Изучение использования моделей ИИ для создания абьюзивного контента на Civitai, ограничено тем, что Civit не разрешал знаменитостям или незаконные генерации ИИ до сих пор, и решением исследователей найти доказательства на Civit самом.

Очевидно, однако, что то, что беспокоит платежные процессоры, не является тем, что производится с помощью LoRAs на Civit, или что публикуется там, но то, что делается с этими моделями в других сообществах, которые либо закрыты, либо менее регулируются.

Сайт Mr. Deepfakes, который был синONYM с распространенным автоэнкодерным методом создания глубоких фейков NSFW, до появления Stable Diffusion и диффузионных моделей в 2022 году, недавно начал публиковать примеры видеороликов с порнографическим содержанием на основе знаменитостей, используя последнюю волну генераторов текст-видео и изображение-видео, включая Hunyuan Video и Wan 2.1 – оба очень недавних релизов, чье влияние еще только зарождается, но которые, кажется, готовы вызвать скандальные заголовки по мере развития их сообществ в течение этого года.

Обязательная метаданные

Одним из интересных изменений, которые, по-видимому, требуются платежными процессорами, является то, что все изображения на сайте теперь должны содержать метаданные. Когда изображение или видео генерируется моделью ИИ в типичном рабочем процессе на платформе, таком как ComfyUI, выход обычно содержит метаданные, которые перечисляют модель, использованную (ее хэш, а также ее имя, чтобы в случае, если модель была переименована пользователем, ее происхождение оставалось ясным), а также множество других настроек.

Благодаря этим скрытым данным о том, как было создано изображение, пользователи могут перетащить видео или изображение, созданное кем-то другим, в свой собственный рабочий процесс ComfyUI и воссоздать весь поток, и устранить любые пропущенные зависимости (такие как модели или компоненты, которые у оригинального создателя были, которые пользователь затем должен будет найти и скачать).

Любые генерации изображений или видео, не содержащие этих данных, будут, как объявил Civit, удалены в течение тридцати дней. Пользователи могут добавить такие данные вручную, введя их на сайте Civit.

Поскольку ценность метаданных, вероятно, является доказательной, это требование кажется довольно бесполезным; легко скопировать и вставить метаданные из одного файла в другой, и ад хок изобретение метаданных через веб-форму делает это новое правило немного сбивающим с толку.

Тем не менее, несколько пользователей (включая одного, комментирующего в сессии Twitch) имеют многие тысячи изображений, загруженных на Civit. Их единственная возможность сейчас – вручную аннотировать каждое из них или удалить и повторно загрузить версии изображений с добавленными метаданными – что стерет любые “лайки” или “базз” или разговоры, которые оригинальные изображения сгенерировали.

Новые правила

Вот суммированные изменения, применимые на Civit с сегодняшнего дня:

• Контент, помеченный именами реальных людей или идентифицированный как ресурсы с реальными людьми, больше не будет отображаться в публичных лентах.
• Контент с темами, связанными с детьми/несовершеннолетними, будет фильтроваться из лент.
• Контент с рейтингом X и XXX, не имеющий метаданных генерации, будет скрыт из публичного просмотра и помечен предупреждением, позволяя загрузчику добавить отсутствующие детали. Такой контент не будет удален, но будет виден только его создателю до тех пор, пока не будет обновлен.
• Изображения, созданные с помощью функции “Принеси свое изображение” (BYOI), должны теперь применять не менее 50% изменения шума во время генерации. Это означает, что ИИ должен существенно изменить загружаемое изображение, уменьшая вероятность создания почти идентичных копий. Однако изображения, созданные полностью на CivitAI или перемешанные из другого контента CivitAI, не подлежат этому правилу и могут использовать любой уровень денойза, от отсутствия изменений (0,0) до полной трансформации (1,0). Это изменение предназначено для снижения злоупотребления инструментом BYOI, которое в противном случае можно было бы использовать для создания тонких или неуловимых глубоких фейков, слегка изменяя реальные изображения. Вынуждение минимального изменения на 50% гарантирует, что ИИ не просто легкий редактор существующего изображения реального человека.
• При просмотре с включенным контентом X или XXX поиск по именам знаменитостей не вернет результатов. Объединение имен знаменитостей с контентом для взрослых по-прежнему запрещено.
• Реклама не будет отображаться на изображениях или ресурсах, предназначенных для имитации внешности реальных людей.
• Функция “базз” (тIPPING) будет отключена для изображений или ресурсов, изображающих реальных людей.
• Модели, предназначенные для имитации реальных людей, не будут иметь право на ранний доступ, функцию Civitai, которая позволяет создателям выпускать контент сначала для платящих сторон. Это ограничивает монетизацию подобий знаменитостей или реальных людей.
• Заявление о соблюдении 2257 было добавлено, чтобы уточнить, что платформа не позволяет любой не сгенерированный ИИ контент. Это помогает обеспечить юридическую защиту, подтверждая, что все явный материал является синтетическим и не основан на реальной фотографии или видео.
• Новая страница запроса на удаление контента позволяет любому сообщить о злоупотреблении или незаконном материале без необходимости входа в систему. Зарегистрированные пользователи должны продолжать использовать встроенные инструменты сообщения на каждом посте. Это отдельно от существующей формы для запроса удаления своего подобия с платформы.
• CivitAI ввел новую систему модерации через партнерство с Clavata, чьи инструменты анализа изображений превосходят предыдущие решения, такие как Amazon Rekognition и Hive.

** На момент вторника, 20 мая 2025 года 11:23:47 (это могло произойти раньше), прямая трансляция Twitch была удалена. Чтобы я мог проверить факты, сообщенные в прямом эфире, я сохраняю копию.

* Несмотря на упоминание “поместья” Барбары Эден, актриса Я мечтаю о Джинни все еще жива, в настоящее время ей 93 года.
^† Архивировано: https://archive.ph/tsMb0

Опубликовано в четверг, 24 апреля 202. Изменено в четверг, 24 апреля 2025 года 14:32:28: исправлены даты. Изменено во вторник, 20 мая 2025 года, чтобы отразить удаление контента Twitch, использованного в качестве справочного материала.