CivitAI посилює правила щодо глибоких підробок під тиском Mastercard і Visa

CivitAI, можливо, найпопулярніший репозиторій моделей штучного інтелекту в інтернеті, нарешті поступився тиску з боку платіжних процесорів MasterCard і Visa і радикально змінив свою політику щодо контенту NSFW – і зокрема свої Умови використання щодо знаменитих LoRAs, однієї з найпопулярніших потоків контенту, створеного користувачами, який дозволяє людям використовувати вільно завантажувані допоміжні моделі, такі як LoRAs, для створення зображень штучного інтелекту (включаючи відеозображення) відомих людей.

Натисніть, щоб відтворити. Хоча Civit не надає точних цифр (а неправильне маркування/місозначення не є рідкістю, що, ймовірно, спотворить цифри), кількість моделей штучного інтелекту знаменитостей, переважно LoRAs, явно становить сотні або навіть тисячі, і явно домінують жіночі персонажі. Джерело: civitai.com

Очевидно, що під тиском у прямому ефірі Twitch** від імені компанії, менеджер з взаємодії з спільнотою Алесдейр Ніколл, сам творець (SFW) моделей на Civit, визнав, що ці зміни були нав’язані сайту його платіжними процесорами через занепокоєння щодо дорослого контенту та зображення реальних людей. Він також визнає ймовірність того, що основними силами, які стоять за цими процесорами, Visa і MasterCard, ймовірно, будуть вимагати ще більших змін пізніше:

‘Це не зміни, які ми хотіли зробити. Все це зводиться до нових і майбутніх законодавчих актів. Є закони про глибокі підробки, є закони про порнографію штучного інтелекту… платіжні процесори, і в кінцевому підсумі Visa і MasterCard налякані; вони не хочуть бути позивачами, і в кінцевому підсумі вони ініціюють ці зміни.

‘Деякі інші варіанти, які нам пропонували, полягали в тому, щоб видалити контент, не придатний для перегляду; видалити контент X і XXX з CivitAI і на повністю нову платформу, а потім геоблокувати цю платформу, оскільки більшість штатів США вимагає певної форми геоблокування порнографії, [а також] багато азійських країн і Великої Британії…

‘Третій варіант полягав у тому, щоб перейти на повністю криптовалютні платежі… тому що не було жодного хорошого варіанту для цього.’

Домен Civit був періодично недоступний для перегляду протягом останніх кількох днів, очевидно, для внесення змін. Хоча сайт вже заборонив використання тем NSFW у зображеннях знаменитих людей/моделей LoRA, тепер неможливо переглянути розділ моделей Civit і побачити попередні перегляди знаменитих людей LoRA поряд з великою кількістю загальних моделей NSFW, призначених для створення дорослого контенту.

Офіційне оголошення стверджує:

‘Контент, позначений іменами реальних людей (наприклад, “Том Круз”) або позначений як ресурси реальних осіб, буде прихований з лент.’

Під час сесії Twitch Ніколл розкрив подальші подробиці заходів, призначених для захисту знаменитих людей і реальних осіб. Civit завжди дозволяв реальним людям запитувати видалення моделей штучного інтелекту, розміщених на Civit, які зображують їх, але тепер Ніколл натякає на систему, яка може запобігти повторному завантаженню таких зображень після первинного відхилення, із можливістю ідентифікувати “захищену” особу навіть у зображеннях, які система ніколи раніше не бачила.

Для цього сайт тепер співпрацює з системою модерації штучного інтелекту Clavata – хоча ще не зрозуміло, якою мірою Clavata буде забезпечувати ці нові можливості.

Ніколл сказав:

‘Том Генкс, наприклад, заявив про своє подіб’я до нас. Багато дорослих актрис також; багато акторів і актрис категорії А…

‘Я думаю, що першим, хто це зробив, була Барбара Еден, її маєток* – вона була однією з перших, хто заявив про своє подіб’я, що досить смішно, оскільки вона стара.’

Захищено за замовчуванням?

За останні два роки компанія з візуальних ефектів штучного інтелекту Metaphysic (повна розкриття: я працював у Metaphysic.ai з початку 2022 року до кінця 2024 року) намагалася створити пропріетарну систему, яка б дозволила будь-кому зареєструвати своє подіб’я, хоча в основному націлена на голлівудських імена, які турбуються про захоплення їхньої ідентичності штучним інтелектом, з підтримкою акторів таких як Анн Гетевей, Октавія Спенсер і Том Генкс (з яким компанія працювала над фільмом Роберта Земекіса Тут [2024]).

Логічно, корисність цієї системи завжди залежала б від майбутніх судових рішень; на основі заходів, яких тепер змушений вдаватися Civit, абонентська служба^†, запропонована Metaphysic, могла б бути зайвою в умовах швидкого зростання законів про глибокі підробки та потенційного (безкоштовного) покриття згідно з загальним законодавством. Наразі невідомо, чи перейде пропозиція Metaphysic Pro до компанії Double Negative VFX, яка придбала активи Metaphysic минулого року.

У будь-якому випадку все частіше здається, що глобальне законодавство та загальні ринкові тиски більш ймовірно забезпечать захист і засоби, ніж комерційні рішення цього типу.

Варіння жаби

У звіті 404 Media 2023 року притягнув увагу до схильності моделей знаменитостей і порнографії штучного інтелекту на Civit, хоча засновник Civit Джастін Майєр занизив зв’язок між подіб’ями знаменитостей, створеними користувачами, та їхнім використанням для генерації порнографічного матеріалу.

Хоча Civit заробляє гроші, полегшуючи використання моделей LoRAs і інших моделей, наданих користувачами, на сайті, Ніколл чітко заявляє, що це не є основною проблемою, яка мотивує Visa і MasterCard до визначення змін на сайті, щоб він міг продовжувати монетизуватися:

‘Деякі люди кажуть, що причина, по якій ми опинилися в цій ситуації, полягає в тому, що ми дозволяємо генерацію. Це не має значення. Розміщення цих моделей, розміщення цього контенту, достатньо, щоб привернути увагу Саурона.’

Треди спільноти здивувалися за останні роки, що Civit дозволяє розміщувати подіб’ї знаменитостей. Свідомі можливості, можливо, неминучості закриття, ряд ініціатив щодо збереження LoRAs, видалених Civit або їхніми завантажувачами, були запропоновані або реалізовані, включаючи (до цього часу) досить знехтуваний subreddit r/CivitaiArchives.

Хоча багато хто припускає, що торент-ініціатива є природним рішенням, жоден популярний домен ще не з’явився – і в будь-якому випадку це, здається, певним чином перемістить діяльність, заборонену на Civit і в інших місцях, на зовнішні межі інтернету; у закриті сади; і, найімовірніше, у темну мережу, оскільки більшість рамок, які могли б розмістити заборонені подіб’ї LoRAs (наприклад, Reddit і Discord), або вже забороняють такий контент, або, ймовірно, заборонять його найближчим часом.

Наразі подіб’ї знаменитостей все ще можна побачити з деякими обмеженнями на Civit, хоча більшість згенерованого контенту була видалена з списку і буде виключена з випадкової відкритості. Що, здається, ймовірно, коментатор сказав Ніколлу під час сесії Twitch, полягає в тому, що закриття поглибиться (ймовірно, до рівня заборони всіх подіб’їв реальних людей у завантажених моделях чи зображеннях).

Ніколл відповів:

‘”Вони не зупиняться тут, вони будуть вимагати ще більше і більше” – абсолютно! Так, абсолютно. Це просто той світ, у якому ми живемо. Єдина надія полягає в тому, що ми станемо достатньо великими і потужними, щоб мали певний вплив на те, що нам диктують […]

Відчуваючи відчай щодо альтернатив, запропонованих Civit, Ніколл додав:

‘[…] Ніхто не купить Біткойн, щоб використовувати [генератор] CivitAI. Тому ми намагалися зробити це якомога прийнятнішим, і це те, що ми закінчили. Тому мої вибачення, якщо це щось, чого ви просто не можете терпіти, але, на жаль, це те, що є. Ми зробили все можливе, ми протестували, як могли, але в кінцевому підсумі нам сказали, що це те, що є – вам потрібно зробити це, або це буде кінець […]’

‘[…] Ці фінансові установи не розуміють, що люди роблять тут з цим. Ми намагалися сказати їм, ми намагалися говорити з ними, але ми практично останній оплот [контенту NSFW].

Ніколл сказав, що Civit звернувся до ‘кожного платіжного процесора, який тільки можна уявити:

‘Даже високоризиковані платіжні процесори, які використовують порносайти, і вони всі дуже дуже обережні щодо контенту штучного інтелекту. Це проблема – контент штучного інтелекту. Якщо б ми були традиційним порносайтом, ми були б у порядку, але контент штучного інтелекту – це те, чого вони бояться.’

Де далі?

До цього оголошення Civit спостерігався видалення завантажень, покритих деякими категоріями та типами контенту, які тепер заборонені. На момент написання цього тексту “аварійний репозиторій” для Wan 2.1 LoRAs був створений на сайті Hugging Face. Хоча деякі з цих LoRAs призначені для полегшення загальних статевих дій, які слабко тренуються або відсутні в нових відеомоделях, таких як Wan 2.1, кілька з них потрапляють під суворо заборонену категорію “розодягання” (тобто “оголення”), включаючи деякі моделі, які можна вважати “екстремальними” або явно обурливими.

Підфорум r/datahoarders, який був на передовій збереження онлайн-літератури уряду США під час масової кампанії з видалення даних Дональда Трампа, наразі показав зневагу до ідеї збереження втраченого контенту CivitAI.

У літературі нескладно звернути увагу на те, що CivitAI легко дозволяє генерацію штучного інтелекту NSFW. Однак одна з найбільш цитованих робіт, дослідження 2024 року папера Дослідження використання моделей штучного інтелекту для зловживань на Civitai, обмежена тим, що Civit не дозволяв знаменитих чи незаконних генерацій штучного інтелекту наразі, і тим, що дослідники намагалися знайти свої докази на самому Civit.

Очевидно, однак, що те, що турбує платіжні процесори, не те, що виробляється з допомогою LoRAs на Civit, або те, що публікується там, а те, що робиться з цими моделями в інших спільнотах, які або закриті, або загалом менше регульовані.

Сайт Mr. Deepfakes, який був синімонімом поширеного автоенкодерного методу глибоких підробок NSFW, до появи Stable Diffusion і моделей на основі дифузії в 2022 році, недавно почав публікувати приклади відеороликів порнографічного змісту на основі знаменитостей, створених за допомогою останньої хвилі генераторів текст-відео та зображення-відео, включаючи Hunyuan Video і Wan 2.1 – обидва дуже недавні випуски, вплив яких ще тільки з’являється, але які, здається, готуються до отримання заголовків, коли їхні спільноти розвиватимуться протягом цього року.

Обов’язкова метадані

Одна цікава зміна, яку, очевидно, вимагають платіжні процесори, згідно з Ніколлом, полягає в тому, що всі зображення на сайті тепер повинні містити метадані. Коли зображення або відео генерується генеративною моделлю в типовому робочому процесі на платформі, such як ComfyUI, вихідний код зазвичай містить метадані, які перелічують модель, використану (її хеш, а також її ім’я, щоб у разі, якщо модель буде перейменована користувачем, її походження залишилося зрозумілим) і кілька інших налаштувань.

Через ці приховані дані про те, як було створено зображення, користувачі можуть перетягнути відео або зображення, створені кимось іншим, у свій власний робочий процес ComfyUI і відтворити весь потік, а також вирішити будь-які відсутні залежності (наприклад, моделі або компоненти, які мали оригінальний творець, яких користувачеві тепер потрібно буде знайти та завантажити).

Будь-яка генерація зображень або відео, яка не містить цих даних, Civit оголосив, що буде видалена протягом тридцяти днів. Користувачі можуть додати такі дані вручну, ввівши їх на сайті Civit.

Оскільки цінність метаданих, очевидно, доказова, це вимога здається досить безглуздою; можна легко скопіювати і вставити метадані з одного файлу в інший, а випадкове вигадування метаданих через веб-форму робить це нове правило трохи незрозумілим.

Незважаючи на це, кілька користувачів (включаючи одного, хто коментував у сесії Twitch) мають тисячі завантажених зображень на Civit. Їхній єдиний засіб зараз полягає в тому, щоб вручну анотувати кожне з них або видалити та завантажити версії зображень з доданими метаданими – що видалить будь-які “лайки” або “базз” чи розмови, які оригінальні зображення генерували.

Нові правила

Ось підсумовані зміни, що застосовуються на Civit з сьогодні:

• Контент, позначений іменами реальних людей або ідентифікований як ресурси реальних осіб, більше не буде відображатися в публічних лентах.
• Контент з темами дітей/молоді буде фільтрований з лент.
• Контент X і XXX рейтингу, який не містить метаданих генерації, буде прихований з публічного перегляду і позначений попередженням, що дозволить завантажувачу додати відсутні деталі. Такий контент не буде видалений, але буде видимим лише його творцю до оновлення.
• Зображення, створені за допомогою функції “Принеси своє зображення” (BYOI), тепер повинні застосовувати至少 50% зміни шуму під час генерації. Це означає, що штучний інтелект повинен суттєво змінити завантажене зображення, зменшуючи можливість генерації майже точних копій. Однак зображення, створені повністю на CivitAI або перемішані з іншого контенту CivitAI, не підлягають цьому правилу і можуть використовувати будь-який рівень шуму, від жодної зміни (0,0) до повної трансформації (1,0). Ця зміна призначена для зменшення зловживання інструментом BYOI, який інакше можна було б використовувати для створення几乎 недетектованих підробок шляхом мінімальної зміни реальних зображень. Застосування мінімальної зміни 50% забезпечує, що штучний інтелект не просто легенько редагує існуюче фото реальної людини.
• Коли ви переглядаєте з контентом X або XXX, пошук за іменами знаменитостей не поверне жодних результатів. Комбінація імен знаменитостей з дорослим контентом залишається забороненою.
• Реклама не буде відображатися на зображеннях або ресурсах, призначених для реплікування вигляду реальних людей.
• Функція “Тіп” (Базз) буде вимкнена для зображень або ресурсів, які зображують реальних людей.
• Моделі, призначені для реплікування реальних людей, не будуть мати права на ранній доступ, функцію Civitai, яка дозволяє творцям випускати контент спочатку для платних підтримників. Це обмежує монетизацію подіб’їв знаменитостей або реальних людей.
• Була додана Заява про дотримання 2257, щоб уточнити, що платформа не дозволяє жоден не-штучно створений контент. Це допомагає забезпечити юридичний захист, підтверджуючи, що весь явний матеріал є синтетичним і не заснований на реальній фотографії чи відео.
• Була створена нова сторінка запиту на видалення контенту, яка дозволяє будь-кому повідомити проabusивний або незаконний матеріал без необхідності входу в систему. Реєстровані користувачі повинні продовжувати використовувати вбудовані інструменти повідомлення на кожному пості. Це окремо від існуючої форми для запиту на видалення свого подіб’я з платформи.
• CivitAI ввела нову систему модерації через партнерство з Clavata, чий аналіз зображень перевершив попередні рішення, такі як Amazon Rekognition і Hive.

** Станом на вівторок, 20 травня 2025 року 11:23:47 (це могло статися раніше), прямий ефір Twitch був видалений. Щоб забезпечити можливість перевірки фактів, зазначених у прямому ефірі, я зберігаю копію.

* Незважаючи на згадку про “маєток” Барбари Еден, актриса Мрію про Джинні все ще жива, зараз у віці 93 років.
^† Архивовано: https://archive.ph/tsMb0

Перша публікація – четвер, 24 квітня 2022 року. Відредаговано четвер, 24 квітня 2025 року 14:32:28: виправлено дати.
Відредаговано вівторок, 20 травня 2025 року, щоб відобразити видалення контенту Twitch, використаного як матеріал для посилання.