CivitAI ужесточает правила глубоких фейков под давлением Mastercard и Visa

CivitAI, возможно, самый популярный репозиторий моделей ИИ в интернете, наконец согласился на требования платежных процессоров MasterCard и Visa радикально изменить свою политику в отношении контента NSFW – и, в частности, свои условия использования (TOS) в отношении LoRAs знаменитостей, одного из самых популярных потоков контента, загружаемого пользователями, который позволяет людям использовать бесплатно загружаемые дополнительные модели, такие как LoRAs, для создания изображений ИИ (включая видеоизображения) известных людей.

Нажмите, чтобы воспроизвести. Хотя Civit не предоставляет точных цифр (и неправильная маркировка/неправильная категоризация не является необычной, что, вероятно, исказит цифры), количество моделей ИИ знаменитостей, в основном LoRAs, явно составляет сотни или даже тысячи, и явно доминируют женские персонажи. Источник: civitai.com

Очевидно, что под давлением в прямой трансляции Twitch** от имени компании, менеджер по взаимодействию с сообществом компании Alasdair Nicoll, сам создатель (SFW) моделей в Civit, признал, что изменения были навязаны сайту из-за опасений платежных процессоров по поводу взрослого контента и изображения реальных людей. Он также признает вероятность того, что основные силы, стоящие за этими процессорами, Visa и MasterCard, скорее всего, потребуют еще больших изменений позже:

‘Это не те изменения, которые мы хотели сделать. Все это сводится к новому и надвигающемуся законодательству. Существуют законы о глубоких фейках, законы об ИИ-порнографии… платежные процессоры, и в конечном итоге Visa и MasterCard напуганы; они не хотят быть привлечены к ответственности, и в конечном итоге они диктуют эти изменения.

‘Некоторые из других вариантов, которые нам были предложены, включали удаление не подходящего для работы контента; удаление контента X и XXX с CivitAI и на совершенно новую платформу, а затем геоблокирование этой платформы, поскольку более половины штатов США требуют некоторой формы геоблокирования порнографии, [а также] многие азиатские страны и Великобритания…

‘Третий вариант заключался в полном переходе на криптовалюту, платежи только в криптовалюте… поэтому у нас не было хороших вариантов для этого.’

Домен Civit был периодически недоступен в течение последних нескольких дней, видимо, для внесения изменений. Хотя сайт уже запретил использование тем NSFW в изображениях знаменитостей LoRA/модели, теперь невозможно просматривать раздел моделей Civit и видеть предварительные просмотры знаменитостей LoRA рядом с очень большим количеством общих моделей NSFW, предназначенных для создания взрослого контента.

Официальное объявление гласит:

‘Контент, помеченный именами реальных людей (например, “Том Круз”) или помеченный как ресурсы POI (реальные люди), будет скрыт из лент.’

В сессии Twitch Nicoll раскрыл дальнейшие подробности мер, направленных на защиту знаменитых людей и реальных людей. Civit всегда позволял реальным людям запрашивать удаление модели ИИ, размещенной на Civit, изображающей их, но теперь Nicoll намекает на систему, которая может предотвратить повторную загрузку таких изображений после первоначального отклонения, с возможностью выявления ‘защищенного’ персонажа даже в изображениях, которые система никогда не видела раньше.

Для этого сайт теперь сотрудничает с системой модерации Clavata AI – хотя пока неясно, в какой степени Clavata будет обеспечивать эти новые возможности.

Nicoll сказал:

‘Том Хэнкс, например, заявил о своем подобии у нас. Многие актрисы для взрослых также сделали это; многие актеры и актрисы категории А…

‘Я думаю, что первым, кто сделал это, была Барбара Эден, ее поместье* – она была одной из первых, кто заявил о своем подобии, что довольно забавно, поскольку она старая.’

Защищено по умолчанию?

За последние пару лет компания по визуальным эффектам ИИ Metaphysic (полное раскрытие: я работал в Metaphysic.ai с начала 2022 года до конца 2024 года) попыталась создать проприетарную систему, которая позволит любому зарегистрировать свое подобие, хотя в основном ориентированную на голливудские имена, обеспокоенные ИИ-основанным захватом их личности, при поддержке актеров таких как Анн Хэтэуэй, Октавия Спенсер и Том Хэнкс (с которым компания работала над фильмом Роберта Земекиса Здесь [2024]).

Логически, полезность системы всегда будет зависеть от окончательного судебного решения; на основе мер, которые Civit теперь вынуждена принять, сервис по подписке^†, предложенный Metaphysic, может оказаться избыточным перед лицом быстрого роста законов о глубоких фейках и потенциального (бесплатного) покрытия в соответствии с общим правом. Пока неясно, будет ли предложение Metaphysic Pro передано компании Double Negative VFX, которая приобрела активы Metaphysic в прошлом году.

В любом случае, все больше кажется, что глобальное законодательство и общие рыночные давления с большей вероятностью обеспечат защиту и средства, а не коммерческие решения такого рода.

Варка лягушки

Отчет 2023 года от 404 Media привлек внимание к склонности моделей ИИ знаменитостей и порнографии на Civit, хотя основатель сайта Джастин Майер замалчивал связь между пользовательским контентом знаменитостей и их использованием для создания порнографического материала.

Хотя Civit зарабатывает деньги, облегчая использование LoRAs и других моделей, предоставляемых пользователями, на сайте, Nicoll ясно дает понять, что это не является основной проблемой, которая заставляет Visa и MasterCard диктовать изменения на сайте, чтобы он мог продолжать монетизироваться:

‘Некоторые люди говорят, что причина, по которой мы в этой ситуации, заключается в том, что мы разрешаем генерацию. Это не имеет значения. Хостинг этих моделей, хостинг этого контента, достаточно, чтобы привлечь внимание Саурона.’

Потоки комментариев сообщества в последние годы удивлялись, что Civit был разрешен для хостинга подобий знаменитостей. Осознав возможность, возможно, неизбежность ужесточения контроля, несколько инициатив по сохранению LoRAs, удаленных Civit или их загрузчиками, были предложены или реализованы, включая (пока что) довольно заброшенный subreddit r/CivitaiArchives.

Хотя многие предположили, что инициатива на основе торрентов является естественным решением, пока не появился хорошо известный домен – и в любом случае, это, кажется, обязательно переместит активность, запрещенную в Civit и в других местах, на самые дальние окраины интернета; в замкнутые сады; и, скорее всего, в темную сеть, поскольку большинство рамок, которые могли бы разместить запрещенные подобия LoRAs (такие как Reddit и Discord), либо уже запрещают такой контент, либо, по-видимому, обязательно запретят его в ближайшее время.

На данный момент подобия знаменитостей LoRAs можно увидеть с некоторыми ограничениями на Civit, хотя большинство сгенерированного контента было удалено из списка и будет исключено из случайного открытия. То, что, кажется, вероятно, один комментатор предложил Nicoll в сессии Twitch, заключается в том, что разгром, вероятно, углубится (вероятно, до степени запрета всех подобий реальных людей в загруженных моделях или изображениях).

Nicoll ответил:

‘”Они не остановятся здесь, они будут требовать все больше и больше” – абсолютно! Да, абсолютно. Это просто тот мир, в котором мы живем. Единственная надежда заключается в том, что мы станем достаточно большими и мощными, чтобы иметь немного больше влияния на то, что диктуется нам […]

Отчаявшись от альтернатив, предложенных Civit, Nicoll добавил:

‘[…] Никто не будет покупать Bitcoin, чтобы использовать генератор CivitAI. Итак, мы попытались сделать это как можно более приемлемым и в итоге получили это. Итак, мои извинения, если это что-то, что вы просто не можете терпеть, но, к сожалению, это то, что есть. Мы сделали все возможное, мы сопротивлялись как могли, но в конечном итоге нам было сказано, что это то, что есть – вы должны сделать это или это будет конец […]’

‘[…] Эти финансовые учреждения не понимают, что люди делают здесь с этим. Мы пытались объяснить им, мы пытались поговорить с ними, но мы практически последнее убежище контента NSFW.

Nicoll сказал, что Civit обратился ко ‘всем платежным процессорам, которые только можно представить:

‘Даже к высокорисковым платежным процессорам, которые используют порносайты, и они все очень, очень осторожны с контентом ИИ. Это проблема – контент ИИ. Если бы мы были традиционным порносайтом, мы были бы в порядке, но контент ИИ – это то, чего они боятся.’

Следующий шаг?

До этого объявления Civit уже удалял загрузки, попадающие под некоторые из категорий и типов контента, которые теперь запрещены. На момент написания этой статьи был создан ‘аварийный репозиторий’ для Wan 2.1 LoRAs на сайте Hugging Face. Хотя некоторые из LoRAs, архивированных там, предназначены для облегчения общих сексуальных действий, которые скудно обучены или отсутствуют в новых видеомоделях, таких как Wan 2.1, несколько из них попадают под теперь строго запрещенную категорию ‘раздетый’ (т. е. ‘обнаженный’), включая некоторые модели, которые можно было бы утверждать, являются ‘крайними’ или явно потенциально оскорбительными.

Сабреддит r/datahoarders, который был на переднем крае сохранения онлайн-литературы правительства США во время кампании по массовому удалению данных под руководством Дональда Трампа, пока что показал презрение к идее сохранения потерянного контента CivitAI.

Обязательные метаданные

Одним из интересных изменений, которые, по-видимому, требуются платежными процессорами, является то, что все изображения на сайте теперь должны содержать метаданные. Когда изображение или видео генерируется моделью в типичном рабочем процессе на платформе, such как ComfyUI, выход обычно содержит метаданные, которые перечисляют использованную модель (ее хэш, а также ее имя, чтобы в случае, если модель была переименована пользователем, ее происхождение оставалось ясным) и несколько других настроек.

Из-за этих скрытых точек данных о том, как было сделано изображение, пользователи могут перетянуть видео или изображение, сделанное кем-то другим, в свой собственный рабочий процесс ComfyUI, и воспроизвести весь поток, а также устранить любые пропущенные зависимости (такие как модели или компоненты, которые у оригинального создателя были, которые пользователь затем должен будет найти и скачать).

Любые генерации изображений или видео, не содержащие таких данных, будут, как объявила Civit, удалены в течение тридцати дней. Пользователи могут добавить такие данные вручную, вводя их на сайте Civit.

Поскольку ценность метаданных, вероятно, доказательная, это требование кажется довольно бессмысленным; легко скопировать и вставить метаданные из одного файла в другой, и ad hoc изобретение метаданных через веб-форму делает это новое правило немного загадочным.

Тем не менее, несколько пользователей (включая одного, комментирующего в сессии Twitch) загрузили на Civit тысячи изображений. Теперь их единственная возможность – вручную аннотировать каждое из них или удалить и загрузить версии изображений с добавленными метаданными – что стерет любые ‘лайки’ или ‘базз’ или разговоры, которые оригинальные изображения сгенерировали.

Новые правила

Вот изменения, применимые к Civit с сегодняшнего дня:

• Контент, помеченный именами реальных людей или определенный как ресурсы реальных людей, больше не будет отображаться в публичных лентах.
• Контент с темами, связанными с детьми/малолетними, будет фильтроваться из лент.
• Контент X и XXX рейтинга, не содержащий метаданных генерации, будет скрыт из публичного просмотра и помечен предупреждением, позволяя загрузчику добавить缺ующие детали. Такой контент не будет удален, но будет виден только его создателю до тех пор, пока не будет обновлен.
• Изображения, созданные с помощью функции Bring Your Own Image (BYOI), теперь должны применять не менее 50% изменения шума во время генерации. Это означает, что ИИ должен существенно изменить загруженное изображение, уменьшая вероятность генерации почти точных копий. Однако изображения, созданные полностью на CivitAI или перемешанные из других контентов CivitAI, не подлежат этому правилу и могут использовать любой уровень шума, от отсутствия изменений (0,0) до полной трансформации (1,0). Это изменение призвано уменьшить злоупотребление инструментом BYOI, которое в противном случае можно было бы использовать для создания тонких или неуловимых глубоких фейков, слегка изменяя реальные изображения. Принуждение к минимальному изменению на 50% гарантирует, что ИИ не просто легкий редактор существующей фотографии реального человека.
• При просмотре с включенным контентом X или XXX рейтинга поиск по именам знаменитостей не даст результатов. Объединение имен знаменитостей с взрослым контентом остается запрещенным.
• Реклама не будет отображаться на изображениях или ресурсах, имитирующих вид реальных людей.
• Функция чаевых (Buzz) будет отключена для изображений или ресурсов, изображающих реальных людей.
• Модели, предназначенные для имитации реальных людей, не будут иметь права на ранний доступ, функцию Civitai, которая позволяет создателям выпускать контент сначала для платных сторонников. Это ограничивает монетизацию подобий знаменитостей или реальных людей.
• Было добавлено заявление о соблюдении 2257, чтобы уточнить, что платформа не позволяет никакой не сгенерированной ИИ контента. Это помогает обеспечить юридическую защиту, подтверждая, что все явный материал синтетический и не основан на реальной фотографии или видео.
• Была добавлена страница запроса на удаление контента, которая позволяет любому сообщить о злоупотреблениях или незаконном материале без необходимости входа в систему. Зарегистрированные пользователи должны продолжать использовать встроенные инструменты сообщения на каждом посте. Это отдельно от существующей формы для запроса удаления своего подобия с платформы.
• CivitAI ввела новую систему модерации через партнерство с Clavata, чьи инструменты анализа изображений превосходят предыдущие решения, такие как Amazon Rekognition и Hive.

** На момент вторника, 20 мая 2025 года 11:23:47 (возможно, это произошло раньше), прямая трансляция Twitch была удалена. Чтобы я мог проверить факты, сообщенные в потоке, я сохраняю копию.

* Несмотря на упоминание ‘поместья’ Барбары Эден, актриса Я мечтаю о Джинни все еще жива, в настоящее время ей 93 года.
^† Архивировано: https://archive.ph/tsMb0

Опубликовано в четверг, 24 апреля 202. Изменено в четверг, 24 апреля 2025 года 14:32:28: исправлены даты.
Изменено во вторник, 20 мая 2025 года, чтобы отразить удаление контента Twitch, использованного в качестве справочного материала.