CivitAI מגביל את כללי ה-Deepfake בעקבות לחץ מ-Mastercard ו-Visa

CivitAI, אולי המאגר הפופולרי ביותר של מודלים של AI באינטרנט, נכנע לבסוף ללחץ מצד נציגי התשלום MasterCard ו-Visa לשנות באופן קיצוני את מדיניותם בנוגע לתוכן NSFW – ובמיוחד את תנאי השימוש (TOS) בנוגע ל-LoRAs של ידוענים, אחד מזרמי התוכן הפופולריים ביותר של האתר, שמאפשרים לאנשים להשתמש במודלים נלווים שניתנים להורדה בחינם, כגון LoRAs כדי ליצור תיאורים של AI (כולל תיאורים של וידאו) של אנשים מפורסמים.

לחץ כדי לשחק. אף על פי ש-Civit אינה מספקת נתונים מדויקים (ומיסוי/מיקוטגוריזציה אינה דבר נדיר, שיכול להטעות את הנתונים), מספר המודלים של AI של ידוענים, בעיקר LoRAs, ברור שנמצא במאות רבות או אפילו אלפים, וברור שנשלט על ידי נושאים נשיים. Source: civitai.com

ברור שהחברה פועלת תחת לחץ ב- Twitch live-stream** בעבור החברה, מנהל המעורבות הקהילתית של החברה, Alasdair Nicoll, עצמו יוצר (SFW) מודלים ב-Civit, הודה שהשינויים הוכרחו על האתר על ידי דאגות המעבדים שלהם לגבי תוכן מיני, ותיאור של אנשים אמיתיים. הוא מודה גם בהסתברות שהכוחות העיקריים מאחורי המעבדים, Visa ו-MasterCard, כנראה ידרשו שינויים גדולים עוד יותר:

‘אלו אינם שינויים שרצינו לעשות. זה נובע מחוקים חדשים וקרובים. יש חוקים של deepfake, יש חוקים של AI פורנו… מעבדי תשלום, ולבסוף Visa ו-MasterCard מבוהלים; הם לא רוצים להיתבע, והם בסופו של דבר מניעים את השינויים האלה.

‘חלק מהאפשרויות האחרות שהוצעו לנו היו הסרה של תוכן לא בטוח לעבוד; הסרה של תוכן X ו-XXX מ-CivitAI ולפלטפורמה חדשה לחלוטין, ואז ג’יאו-בלוקינג של פלטפורמה זו, בגלל שיותר ממחצית ממדינות ארצות הברית דורשות כל צורה של ג’יאו-בלוקינג, [וכן] הרבה מדינות אסיה והממלכה המאוחדת…

‘האפשרות השלישית הייתה הפיכה לקריפטו, תשלומים בקריפטו בלבד… כך שהיו אפשרויות גרועות לזה.’

הדומיין של Civit היה כבוי לסירוגין לשינויים במהלך הימים האחרונים, כנראה כדי לבצע את השינויים. אף על פי שהאתר כבר אסר את השימוש בנושאים NSFW בתיאורים של LoRA/מודלים של ידוענים, כעת אי אפשר לדפדף את חלק המודלים של Civit ולראות תצוגות מוקדמות של LoRA של ידוענים לצד הכמות הגדולה של מודלים NSFW גנריים שתוכננו לייצר תוכן בוגר.

ההודעה הרשמית מצהירה:

‘תוכן שסומן עם שמות אנשים אמיתיים (כגון “טום קרוז”) או שסומן כמשאבים של POI (אנשים אמיתיים) יוסתר מהזרמים.’

בסשן של Twitch, Nicoll חשף פרטים נוספים של צעדים שנועדו להגן על דמויות מפורסמות ואנשים אמיתיים. Civit תמיד איפשרה לאנשים אמיתיים לבקש להסיר מודל AI שמתאר אותם, אבל עכשיו Nicoll רומז למערכת שיכולה למנוע תמונות כאלה מלהיות מועלות מחדש לאחר דחייה ראשונית, עם היכולת לזהות ‘אדם מוגן’ אפילו בתמונות שהמערכת לא ראתה לפני.

לשם כך, האתר עובד עכשיו עם מערכת המודרטית Clavata AI – אף על פי שהיקף שבו Clavata תספק את היכולות החדשות הוא עדיין לא ברור.

Nicoll אמר:

‘טום הנקס תבע את הדמיון שלו מאיתנו, למשל. הרבה מהשחקניות הבוגרות עשו זאת; הרבה שחקנים ושחקניות מפורסמים עשו זאת…

‘אני חושב שהראשון שאי פעם היה היה ברברה אידן, האחוזה* שלה – היא הייתה אחת הראשונות לתבוע את הדמיון שלה, שזה דבר מצחיק, כי היא זקנה.’

מוגן ברירת מחדל?

במהלך השנתיים האחרונות, חברת AI VFX Metaphysic (גילוי מלא: עבדתי ב- Metaphysic.ai מתחילת 2022 עד סוף 2024) ניסתה ליצור מערכת פרופריטרית שתאפשר לכל אחד לרשום את הדמיון שלו, אם כי בעיקר כוונה לשמות הוליוודיים שדאגו לגבי החטיפה של AI של זהויותיהם, עם תמיכה משחקנים כגון אן האת’וויי, אוקטביה ספנסר וטום הנקס (עמו עבדה החברה על כאן [2024]).

היגיונית, השימושיות של המערכת תלויה תמיד בחוק מעשי; על בסיס השינויים ש-Civit נאלצת לעשות, ה- שירות המבוסס תשלום^† שהוצע על ידי Metaphysic עלול להיות מיותר עקב הצמיחה המהירה של חוקי deepfake, וכיסוי פוטנציאלי (חינם) תחת חוק רגיל. זה לא ידוע כרגע אם ההצעה של Metaphysic Pro תועבר לחברת Double Negative VFX, ש- רכשה את נכסיה של Metaphysic בשנה שעברה.

בכל מקרה, כעת נראה יותר ויותר שחוק גלובלי ולחצים של השוק יותר מועדים לספק הגנה ופתרונות, בניגוד לפתרונות מסחריים מסוג זה.

רותח את הצפרדע

דו”ח מ-2023 של 404 Media הביא לידיעת הציבור את הנטייה של מודלים של ידוענים ופורנו AI ב-Civit, אף על פי שמייסד האתר, Justin Maier הקטין את הקשר בין דמיונות של ידוענים שנתרמו על ידי משתמשים לשימושם ביצירת חומר פורנוגרפי.

אף על פי ש-Civit מרוויחה כסף על ידי הקלה על השימוש ב-LoRAs ומודלים אחרים שנתרמו על ידי משתמשים, Nicoll ברור שזה לא הדבר העיקרי שמניע את Visa ו-MasterCard לקבוע שינויים באתר, כדי שיוכל להמשיך להיות ממונף:

‘אנשים מסוימים אומרים שהסיבה שאנחנו במצב הזה היא שאנו מאפשרים יצירה. זה לא נכון. אירוח המודלים האלה, אירוח התוכן הזה, מספיק כדי למשוך את עין הסאורון.’

תהליכי דיון של הקהילה התפלאו בשנים האחרונות ש-Civit הורשתה לארח דמיונות של ידוענים. מודעים לאפשרות, אולי לבל-יתרות, של מחיקה, הוצעו ויושמו יוזמות לשמר LoRAs, הן שנמחקו על ידי Civit והן על ידי מעליהם, כולל ה- subreddit r/CivitaiArchives המוזנח עד עכשיו.

אף על פי שרבים הציעו שיוזמה מבוססת טורנט היא הפתרון הטבעי, לא נראה שדומיין מוביל כזה צמח – ובכל מקרה, זה כנראה יעביר פעילות שנאסרה ב-Civit ובמקומות אחרים לשוליים החיצוניים של האינטרנט; לגנים מוקפים חומה; וכנראה, לרשת האפלה, מכיוון שרוב המסגרות שיכולות להכיל LoRAs אסורים (כגון Reddit ו-Discord) או כנראה יאסרו זאת בקרוב.

ברגע זה, LoRAs של ידוענים עדיין ניתנים לצפייה עם מגבלות מסוימות ב-Civit, אף על פי שרוב התוכן המיוצר כבר הורד מהרשימה ויוצא מגילוי מקרי.

מה שכנראה, אחד המשתתפים הציע ל-Nicoll בסשן של Twitch, הוא שהמחיקה תעמיק (כנראה עד כדי איסור על כל דמיונות של אנשים אמיתיים במודלים או תיאורים שהועלו).

Nicoll ענה:

‘”הם לא יפסיקו כאן, הם ימשיכו לדרוש יותר ויותר” – בהחלט! כן, בהחלט. זהו עולם שאנו חיים בו. התקווה היחידה היא שנהיה גדולים וחזקים מספיק כדי שנוכל להשפיע יותר על מה שמוחלט לנו […]

בייאושו מהאפשרויות שהוצגו ל-Civit, Nicoll הוסיף:

‘[…] אף אחד לא יקנה ביטקוין כדי [להשתמש] ב- CivitAI generator. ולכן ניסינו להפוך את זה למשהו הכי טוב שאפשר, וזה מה שיצאנו איתו. ולכן, אני מתנצל אם זה משהו שאתה פשוט לא יכול לסבול, אבל, לצערי, זהו מה שיש. ניסינו את המיטב, דחפנו ככל שיכולנו, אבל לבסוף נאמר לנו שזהו – אתה חייב לעשות את זה או שזה יהיה הסוף […]

‘[…] המוסדות הפיננסיים, הם לא מבינים מה אנשים עושים כאן איתו. ניסינו להסביר להם, ניסינו לדבר איתם, אבל אנחנו כנראה המעוז האחרון של תוכן NSFW.

Nicoll אמר ש-Civit פנתה ל- ‘כל מעבד תשלום דמיוני’:

‘אפילו מעבדי תשלום בסיכון גבוה שאתרי פורנו משתמשים, והם כולם מאוד מאוד זהירים מתוכן AI. זהו הבעיה – תוכן AI. אם היינו אתר פורנו מסורתי, היינו בסדר, אבל תוכן AI הוא מה שהם פוחדים ממנו.’

איפה הבא?

לפני ההודעה הזו, Civit נצפתה מורידה העלאות שמכוסות על ידי חלק מהקטגוריות וסוגי התוכן שכעת אסורים. בעת כתיבת הדברים, ‘מאגר חירום’ ל-LoRAs של Wan 2.1 הוקם באתר Hugging Face. אף על פי שחלק מה-LoRAs המאוחסנים שם תוכננו להקל על פעילויות מיניות כלליות שמעטות או חסרות במודלים הווידאו החדשים כגון Wan 2.1, חלקם נופלים תחת הקטגוריה האסורה ‘להתפשט’ (כלומר, ‘להפשיט’), כולל מודלים שניתן לטעון שהם ‘קיצוניים’ או בולטים ופוטנציאלית מעוררי התנגדות.

ה- subreddit r/datahoarders, שהיה בחזית של שימור ספרות אינטרנטית של ממשלת ארצות הברית תחת מסע המחיקה של טראמפ, הראה בוז לרעיון לשמר תוכן CivitAI אבוד.

בספרות, ההקלה של CivitAI על יצירת AI NSFW לא עברה ללא הבחנה. אחד המחקרים המצוטטים ביותר, המאמר חקירת השימוש במודלים גנרטיביים אלימים ב- Civitai מ-2024, מוגבל על ידי העובדה ש-Civit לא איפשרה יצירה של ידוענים או AI בלתי חוקיים עד עכשיו, ועל ידי החלטת החוקרים למצוא את הראיות שלהם ב-Civit עצמו.

ברור, עם זאת, שמה שדואג למעבדי תשלום אינו מה שמופק עם LoRAs ב-Civit עצמו, או מה שמפורסם שם, אלא מה שנעשה עם מודלים אלה ב- קהילות אחרות שהן סגורות או פחות מוסדרות.

אתר Mr. Deepfakes, שהיה סינונים עם שיטת האוטואנקודר הנפוצה של deepfaking NSFW, עד להופעת Stable Diffusion ומודלים מבוססי דיפוזיה ב-2022, לאחרונה החל לפרסם דוגמאות של וידאו פורנוגרפיים של ידוענים המשתמשים בגל האחרון של יוצרי טקסט-לווידאו ותמונה-לווידאו, כולל Hunyuan Video ו-Wan 2.1 – שניהם שחרורים חדשים מאוד, שהשפעתם נמצאת בחיתוליה, אך נראה שהם עומדים לגרום לכותרות מעוררות התנגדות במהלך השנה.

מטא-דאטה חובה

אחד השינויים המעניינים שכנראה דורשים המעבדים, על פי Nicoll, הוא שכל התמונות באתר חייבות להוותר מטא-דאטה. כאשר תמונה או וידאו מופקים על ידי מודל גנרטיבי ב- workflow טיפוסי בפלטפורמה כגון ComfyUI, הפלט בדרך כלל מכיל מטא-דאטה שרושמת את המודל (ההאש והשם שלו, כך שאם המודל משונה על ידי משתמש, ההיסטוריה שלו נשמרת) והגדרות רבות אחרות.

בגלל נקודות הנתונים הנסתרות האלה על איך התמונה נוצרה, משתמשים יוכלו לגרור וידאו או תמונה שנוצרה על ידי מישהו אחר ל- workflow ComfyUI שלהם ולשחזר את כל הזרימה, ולטפל בכל תלות חסרה (כגון מודלים או רכיבים שהיו ליצר המקורי, שהמשתמש יצטרך לאתר ולהוריד).

כל יצירה של תמונות או וידאו חסרות מידע זה תימחק בתוך שלושים יום. משתמשים יכולים להוסיף נתונים כאלה באופן ידני, על ידי הקלדתם באתר Civit עצמו.

מכיוון שערך המטא-דאטה הוא (כנראה) משפטי; זה קל מאוד להעתיק ולהדביק מטא-דאטה מקובץ אחד למשנהו, והמצאה אד הוק של מטא-דאטה דרך טופס אינטרנט הופך את החוק החדש הזה למעט מבלבל.

בכל זאת, מספר משתמשים (כולל אחד שהתבטא בסשן של Twitch) העלו אלפי תמונות ב-Civit. הפתרון היחיד שלהם עכשיו הוא לאנוטATE אותם באופן ידני, או למחוק ולהעלות מחדש גרסאות של התמונות עם מטא-דאטה נוספת – שתמחק כל ‘לייקים’ או ‘באז’ או שיחות שהתמונות המקוריות יצרו.

הכללים החדשים

אלו הם השינויים המרוכזים החלים ב-Civit מהיום:

• תוכן שסומן עם שמות אנשים אמיתיים או שסומן כמשאבים של POI (אנשים אמיתיים) לא יופיע יותר בזרמים ציבוריים.
• תוכן עם נושאים של ילדים/קטינים יימחק מהזרמים.
• תוכן X ו-XXX שחסר מטא-דאטה של יצירה יוסתר מהצופים הציבוריים וייסומן עם אזהרה, ויאפשר למעלה להוסיף את הפרטים החסרים. תוכן כזה לא יימחק אלא יישאר גלוי רק ליצרו עד שיועדכן.
• תמונות שנוצרו באמצעות תכונת Bring Your Own Image (BYOI) חייבות עכשיו ליישם לפחות 50% שינוי רעש במהלך היצירה. זה אומר שה- AI חייב לשנות משמעותית את התמונה המועלית, ולהפחית את הסיכוי ליצור עותקים כמעט זהים. עם זאת, תמונות שנוצרו כולן ב-CivitAI או שולבו מתוכן CivitAI אחר אינן כפופות לחוק הזה ויכולות להשתמש בכל רמת רעש, מאפס (0.0) ועד המרה מלאה (1.0). שינוי זה נועד להפחית את ההתמכרות ב- BYOI, שיכולה אחרת לשמש ליצירת deepfakes עדינים או בלתי ניתנים לגילוי על ידי שינוי קל של תמונות אמיתיות.
• כאשר דפדפת עם תוכן X או XXX מופעל, חיפושים של שמות ידוענים לא יחזירו תוצאות. שילוב שמות ידוענים עם תוכן בוגר עדיין אסור.
• פרסומות לא יופיעו בתמונות או משאבים שנועדו לחקות את המראה של אנשים אמיתיים.
• טיפים (Buzz) יושבתו לתמונות או משאבים המתארים אנשים אמיתיים.
• מודלים שנועדו לחקות אנשים אמיתיים לא יהיו זכאים ל- Early Access, תכונה של Civitai שמאפשרת ליצרנים לשחרר תוכן ראשונים לתומכים משלמים. זה מגביל את מוניטיזציה של דמיונות של ידוענים או אנשים אמיתיים.
• הוספה הצהרת 2257 כדי לאשר שהפלטפורמה אינה מאפשרת תוכן שאינו AI- יוצר. זה עוזר להבטיח הגנה חוקית על ידי אישור שכל החומר המפורש הוא סינתטי ואינו מבוסס על צילום או וידאו אמיתי.
• דף בקשה להסרת תוכן חדש מאפשר לכל אחד לדווח על תוכן מעורר התנגדות או בלתי חוקי ללא צורך להירשם. משתמשים רשומים צריכים להמשיך להשתמש בכלים המובנים לדיווח בכל פוסט. זה נפרד מהטופס הקיים לבקשת הסרת הדמיון שלך מהפלטפורמה.
• CivitAI הציגה מערכת מודרטית חדשה דרך שותפות עם Clavata, שכלים לניתוח תמונות עלו על פתרונות קודמים כגון Amazon Rekognition ו- Hive.

** נכון ליום שלישי, 20 במאי 2025 11:23:47 (היא עלולה לקרות מוקדם יותר), ה- Twitch live-stream הוסר. כדי שאוכל לאמת את העובדות הדווחו בשידור, אני שומר עותק.

* על אף הזכרת ‘האחוזה’ של ברברה אידן, השחקנית אני חולם של ג’יני עדיין חיה, כרגע בת 93.
^† ארכיון: https://archive.ph/tsMb0

פורסם לראשונה ביום חמישי, 24 באפריל, 202. תוקן ביום חמישי, 24 באפריל, 2025 14:32:28: תיקון תאריכים.
שונה ביום שלישי, 20 במאי, 2025 כדי לשקף את הורדת התוכן של Twitch ששימש כחומר התייחסות.