CivitAI Kiristää Deepfake-Sääntöjä Mastercardin ja Visan Painostuksesta

CivitAI, mahdollisesti internetin suosituin AI-mallirepositorio, on lopulta myöntynyt MasterCardin ja Visan, maksuvälittäjien, painostukseen ja muuttanut radikaalisti käytäntöjään NSFW-sisällön osalta – ja erityisesti ehdot sen TOS:issa, jotka koskevat julkkisten LoRAs:ia, yhtä sivuston suosituimmista käyttäjien lähettämistä sisällön virroista, jotka mahdollistavat ihmisten käyttää vapaasti ladattavia apumalleja, kuten LoRAs, luomaan AI-kuvaus (mukaan lukien video-kuvaus) tunnetuista henkilöistä.

Painiskele. Vaikka Civit ei anna tarkkoja lukuja (ja vääränlainen merkintä/luokittelu ei ole epätavallista, mikä todennäköisesti vääristäisi luvut), julkkis-AI-mallien määrä, pääasiassa LoRAs, on selvästi satoja tai jopa tuhansia, ja selvästi hallitsee naisaiheita. Lähde: civitai.com

Selvästi toimien painostuksen alaisena Twitch Live Stream** sivuston puolesta, sivuston Community Engagement Manager Alasdair Nicoll, itse (SFW) mallien luoja Civitissä, myönsi, että muutokset on pakotettu sivustolle heidän maksuvälittäjien huolen vuoksi aikuisista sisällöistä ja todellisten henkilöiden kuvaamisesta. Hän myönsi myös todennäköisyyden, että päävoimat näiden prosessorien takana, Visa ja MasterCard, ovat todennäköisesti vaatimaan vielä suurempia muutoksia myöhemmin:

‘Nämä eivät ole muutoksia, joita halusimme tehdä. Tämä johtuu uudesta ja tulossa olevasta lainsäädännöstä. On deepfake-lakeja, on AI-porno-lakeja…maksuvälittäjät ja lopulta Visa ja MasterCard ovat peloissaan; he eivät halua olla haastettuina oikeuteen, ja he ovat lopulta ajamassa näitä muutoksia.

‘Jotkut muut vaihtoehdot, joita meille tarjottiin, olivat poistaa ei-sopiva-työpaikalle-sisältö kokonaan; poistaa x- ja triple-x-sisältö CivitAI:sta ja kokonaan uudelle alustalle, ja sitten geo-blokkauksen kyseiselle alustalle, koska yli puolet Yhdysvaltojen osavaltioista vaativat jonkinlaista pornon geo-blokkauksen [sekä] monia Aasian maita ja Iso-Britanniaa…

‘Kolmas vaihtoehto oli mennä täysin crypto, crypto-maksut vain…joten ei ollut mitään hyviä vaihtoehtoja tähän.’

Civit-alue on ollut pois käytöstä jaksollisesti muutosten aikana viime päivinä, ilmeisesti tehdäkseen muutokset. Vaikka sivusto oli jo kieltnyt NSFW-aiheiden käytön julkkis-LoRA/malli-kuvauksissa, on nyt mahdotonta selata sivuston malliosiota ja nähdä julkkis-LoRA-esikatselut rinnakkain hyvin suuren määrän geneeristen NSFW-mallien kanssa, jotka on suunniteltu tuottamaan aikuisille tarkoitettua sisältöä.

Virallinen ilmoitus virallinen ilmoitus toteaa:

‘Sisältö, joka on merkitty todellisten henkilöiden nimillä (kuten “Tom Cruise”) tai merkitty POI (todellisen henkilön) resursseiksi, piilotetaan syötteistä.’

Twitch-istunnossa Nicoll paljasti lisätietoja toimista, jotka on suunniteltu suojelemaan kuuluisia henkilöitä ja todellisia henkilöitä. Civit on aina sallinut todellisten henkilöiden pyytää, että Civit-isäntä-AI-malli, joka esittää heitä, poistettaisiin, mutta nyt Nicoll viittaa järjestelmään, joka voi estää tällaisten kuvien uudelleenlataamisen alkuperäisen hylkäyksen jälkeen, mahdollisuudella tunnistaa “suojattu” henkilö, jopa kuvissa, joita järjestelmä ei ole koskaan nähnyt aiemmin.

Tähän tarkoitukseen sivusto on nyt kumppanuussopimuksessa Clavata AI -moderaatiojärjestelmän kanssa – vaikka sitä, kuinka paljon Clavata tulee voimaan näissä uusissa palveluissa, ei vielä ole selvää.

Nicoll sanoi:

‘Tom Hanks on vaatinut oikeutensa meiltä, esimerkiksi. Melko monta aikuisviihde-näyttelijää on; melko monta A-luokan näyttelijää ja näyttelijätär on…

‘Luulen, että ensimmäinen, joka meillä oli, oli Barbara Eden, hänen perintönsä* – hän oli yksi ensimmäisistä, jotka vaativat oikeutensa, mikä on jonkinlainen vitsi, koska hän on vanha.’

Suojeltu Oletuksena?

Viimeisten kahden vuoden aikana AI-VFX-yritys Metaphysic (täysi ilmoitus: työskentelin Metaphysic.ai:lle alkuvuodesta 2022 loppuvuoteen 2024) yritti luoda omistajan järjestelmän, joka mahdollistaisi kenelle tahansa rekisteröidä oman kaltaisuutensa, vaikka pääasiassa suunnattu Hollywood-nimiin, jotka ovat huolissaan AI-pohjaisesta identiteettien kaappauksesta, tukena näyttelijöillä kuten Anne Hathaway, Octavia Spencer ja Tom Hanks (joiden kanssa yritys työskenteli Robert Zemeckisin Here [2024] -elokuvassa).

Loogisesti, järjestelmän hyödyllisyys riippuisi aina lopullisesta tapauslaista; perustuen toimiin, joita Civit on nyt pakotettu tekemään, tilauspohjainen palvelu^† ehdottama Metaphysicin voisi olla tarpeeton kasvavan deepfake-lainsäädännön ja potentiaalisen (ilmaisen) suojelun alla yleisen lain nojalla. Ei ole tällä hetkellä tiedossa, siirtyykö Metaphysic Pro -tarjoama Double Negative VFX -yritykselle, joka hankki Metaphysicin varat viime vuonna.

Joka tapauksessa, näyttää siltä, että globaali laki ja yleinen markkinapaine ovat todennäköisemmin tarjoavat suojelua ja korjaustoimia kuin kaupalliset ratkaisut tämänkaltaisia.

Keittää Sammakkoa

404 Median 2023 raportti toi huomion julkkis- ja pornon AI-malleihin Civitissä, vaikka sivuston perustaja Justin Maier vähätteli suhdetta käyttäjien lähettämien julkkisten kaltaisuuden ja niiden käytön pornografisen materiaalin tuottamiseksi.

Vaikka Civit tekee rahaa sivuston käytön helpottamisella LoRAs:ien ja muiden käyttäjien toimittamien mallien kanssa, Nicoll on selvä siinä, että tämä ei ole pääasiallinen huolenaihe, joka motivoi Visa ja MasterCardia asettamaan muutoksia sivustolle, jotta se voidaan jatkaa rahastamista:

‘Jotkut ihmiset sanovat, että syynä siihen, että olemme tässä sekamelskassa, on se, että sallimme generoinnin. Se ei kuulu tähän. Mallien isäntä, tämän sisällön isäntä, on tarpeeksi vetääkseen Sauronin silmän.

Yhteisön kommentti- ja keskustelusäikeissä on ihmetelty viime vuosina, että Civit on sallinut julkkisten kaltaisuudet. Tietoisina mahdollisuudesta, ehkä väistämättömyydestä kuriin, useita aloitteita julkkisten LoRAs:ien säilyttämiseksi, joita Civit on poistanut tai jotka on poistettu lähettäjien toimesta, on ehdotettu tai toteutettu, mukaan lukien (toistaiseksi) melko laiminlyöty subreddit r/CivitaiArchives.

Vaikka monet ovat ehdottaneet, että torrent-pohjainen aloite on luonnollinen ratkaisu, ei ole vielä näyttänyt minkäänlaista seurattavaa aluetta – ja joka tapauksessa, tämä näyttäisi varmasti siirtävän Civitissä ja muualla kiellettyä toimintaa internetin ulommille reunoille; walled garden -alueille; ja todennäköisesti dark nettiin, koska useimmat kehykset, jotka voisivat sisältää kiellettyjä kaltaisuus-LoRAs:ia (kuten Reddit ja Discord), joko kieltävät jo tällaista sisältöä tai näyttävät varmasti kieltävän sen lähipäivinä.

Tällä hetkellä julkkis-LoRAs:ia voidaan edelleen nähdä joillakin rajoituksilla Civitissä, vaikka suurin osa generoidusta sisällöstä on poistettu ja se poistetaan etsintäluetteloista. Mitä näyttää todennäköiseltä, yksi kommentoija ehdotti Nicollille Twitch-istunnossa, on, että kurinpidon kiristäminen (oletettavasti julkkisten kaltaisuuden kaiken LoRAs:ien ja kuvausten kielto) syvenee.

Nicoll vastasi:

‘”He eivät lopeta tässä, he tulevat vaatimaan yhä enemmän ja enemmän” – absoluuttisesti! Kyllä, absoluuttisesti. Se on vain maailma, jossa elämme. Ainoa toivo on, että meistä tulee tarpeeksi suuria ja voimakkaita, jotta meillä olisi enemmän sananvaltaa siinä, mitä meille määrätään […]

Epätoivon vallassa vaihtoehdoista, jotka tarjottiin Civitille, Nicoll lisäsi:

‘[…] Kukaan ei osta Bitcoinia CivitAI-generaattorin käyttöön. Olemme yrittäneet tehdä tästä mahdollisimman miedon, ja tämä on se, mitä olemme saaneet. Anteeksi, jos tämä on jotain, mitä et voi kestää, mutta valitettavasti se on mitä se on. Olemme yrittäneet parhaamme, olemme vastustaneet niin paljon kuin voimme, mutta lopulta meille sanottiin, että tämä on se – sinun on tehtävä tämä tai se on loppu […]’

‘[…] Nämä rahoituslaitokset eivät ymmärrä, mitä ihmiset tekevät täällä. Olemme yrittäneet kertoa heille, olemme yrittäneet puhua heille, mutta olemme käytännössä viimeinen linnake [NSFW]-sisällöstä.

Nicoll sanoi, että Civit oli ollut yhteydessä ‘jokaiseen maksuvälittäjään, joka on kuviteltavissa:

‘Even the high-risk payment processors that porn sites use, and they’re all very very wary of AI content. That’s the problem – it’s AI content. If we were a traditional porn site, we’d be fine, but AI content is what they’re scared of.’

Mihin Seuraavaksi?

Ennen tätä ilmoitusta Civit oli havaittu poistavan latauksia, jotka kuuluvat joillekin kategorioiden ja tyyppien sisältöihin, jotka nyt kielletty. Kirjoitushetkellä “hätävarasto” Wan 2.1 LoRAs:ille on perustettu Hugging Face -sivustolle. Vaikka jotkut näistä LoRAs:ista on arkistoitu siellä, jotka ovat suunniteltu helpottamaan yleisiä seksuaalisia toimintoja, jotka ovat vähän koulutettuja tai puuttuvat uusista video-malleista, kuten Wan 2.1, useat niistä kuuluvat nyt kiellettyyn “riisua”-kategoriaan (ts. “alastavat”), mukaan lukien jotkut mallit, jotka voidaan väittää olevan “äärimmäisiä” tai ilmiselvästi potentiaalisesti loukkaavia.

Subreddit r/datahoarders, joka on edelläkävijä Yhdysvaltain hallituksen kirjallisuuden säilyttämisessä Donald Trumpin massapoistojen kampanjan aikana, on toistaiseksi näyttänyt halveksuntaa idealle CivitAI:n kadonneen sisällön säilyttämisestä.

Kirjallisuudessa CivitAI:n helposti NSFW-AI-generaation mahdollistaminen ei ole jäänyt huomaamatta. Yksi viitatuimmista tutkimuksista, 2024 paperi Exploring the Use of Abusive Generative AI Models on Civitai, on haittaa siinä, että Civit ei ole sallinut julkkis- tai laitonta AI-generaatiota tähän asti, ja tutkijoiden määräyksessä löytää näyttö Civitissä itsessään.

Selvästi kuitenkin, mitä maksuvälittäjiä huolestuttaa, ei ole sitä, mitä tuotetaan LoRAs:ien avulla Civitissä itsessään, tai mitä julkaistaan siellä, vaan mitä tehdään näillä malleilla muiden yhteisöjen kanssa, jotka ovat joko suljettuja tai yleisesti vähemmän säänneltyjä.

Mr. Deepfakes -sivusto, joka oli synonyymi yleiselle autoencoder-pohjaiselle NSFW-deepfaking-menetelmälle, kunnes Stable Diffusion ja diffuusiopohjaiset mallit tulivat 2022, on viime aikoina alkanut julkaista esimerkkejä julkkis-pohjaisista pornovideoista, jotka käyttävät uusimman aallon teksti-videoksi ja kuva-videoksi -generaattoreita, mukaan lukien Hunyuan Video ja Wan 2.1 – molemmat hyvin tuoreita julkaisuja, joiden vaikutus on vasta alkamassa, mutta jotka näyttävät olevan valmiita herättämään räjähtävät otsikot, kun niiden yhteisöt kehittyvät tämän vuoden aikana.

Pakollinen Metatieto

Yksi mielenkiintoinen muutos, jota maksuvälittäjät vaativat, on, että kaikki kuvat sivustolla on nyt sisällytettävä metatietoihin. Kun generatiivinen malli tuottaa kuvan tyypillisessä työvirrassa alustalla, kuten ComfyUI, tuloste sisältää yleensä metatiedon, joka luetellaan mallin käytön (sen hashin sekä sen nimen, jotta mallin nimeämisen tapauksessa käyttäjän toimesta sen alkuperä voidaan säilyttää) ja useita muita asetuksia.

Näiden piilotettujen tietojen ansiosta, jotka kertovat, miten kuva tehtiin, käyttäjät voivat vetää videon tai kuvan, jonka joku toinen on luonut, omaan ComfyUI-työvirraansa ja uudelleenluoda koko virran, ja käsitellä mahdollisia puuttuvia riippuvuuksia (kuten malleja tai komponentteja, joita alkuperäinen luoja oli, joita käyttäjän on sitten etsittävä ja ladattava).

Kuvien tai videoiden generoinnit, joilta puuttuu tämä tieto, poistetaan 30 päivän kuluessa. Käyttäjät voivat lisätä tällaisen tiedon manuaalisesti kirjoittamalla sen itse Civit-sivustolle.

Vaikka metatiedon arvo on (oletettavasti) todistusvoimainen, tämä vaatimus näyttää aika typerältä; on helppoa kopioida ja liittää metatietoa toisesta tiedostosta toiseen, ja ad hoc -metatiedon keksiminen verkkolomakkeen kautta tekee tämän uuden säännön hieman hämmentäväksi.

Kuitenkin useat käyttäjät (mukaan lukien yksi, joka kommentoi Twitch-istunnossa) ovat ladanneet tuhansia kuvia Civitiin. Heidän ainoa keino on nyt manuaalisesti annotoida niitä yksitellen tai poistaa ja ladata uudelleen kuvia, joissa on lisätty metatieto – mikä poistaa “tykkäykset” tai “buzz” tai keskustelut, jotka alkuperäiset kuvat aiheuttivat.

Uudet Säännöt

Tässä on yhteenveto muutoksista, jotka ovat voimassa Civitissä tästä päivästä lähtien:

• Sisältö, joka on merkitty todellisten henkilöiden nimillä tai tunnistettu todellisten henkilöiden resursseiksi, ei enää näy julkisissa syötteissä.
• Sisältö, joka sisältää lapsi/vähemmistöaiheita, suodatetaan pois syötteistä.
• X- ja XXX-luokan sisältö, jolta puuttuu generointimetatieto, piilotetaan julkisesta näkymästä ja merkataan varoituksella, jotta lähettäjä voi lisätä puuttuvat yksityiskohdat. Tällaista sisältöä ei poisteta, mutta se on näkyvissä vain sen luojalle, kunnes se on päivitetty.
• Kuvat, jotka on tehty Bring Your Own Image (BYOI) -ominaisuuden avulla, on nyt sovellettava vähintään 50%:n määrä muutosta generoinnissa. Tämä tarkoittaa, että AI:lla on muutettava ladattu kuva merkittävästi, vähentäen mahdollisuutta luoda lähes täsmällisiä jäljennöksiä. Kuitenkin kuvat, jotka on luotu kokonaan CivitAI:lla tai sekoitettu muusta CivitAI-sisällöstä, eivät ole tämän säännön alaisia ja voivat edelleen käyttää mitä tahansa desinoimisastetta, alkaen ei-muutoksesta (0,0) täydelliseen muutokseen (1,0). Tämä muutos on tarkoitettu vähentämään BYOI-työkalun väärinkäyttöä, jota voidaan muuten käyttää luomaan hienoja tai havaitsemattomia deepfake-kuvia vain hieman muuttamalla olemassa olevia kuvia todellisista henkilöistä. Pakottaminen vähintään 50%:n muutokseen varmistaa, että AI ei ole vain kevyesti editoimassa olemassa olevaa valokuvaa todellisesta henkilöstä.
• Kun selaillaan X- tai XXX-sisällön kanssa, julkkisten nimien hakeminen ei palauta tuloksia. Yhdistäminen julkkisten nimien kanssa aikuisille tarkoitetun sisällön kanssa on edelleen kielletty.
• Mainoksia ei näytetä kuvissa tai resursseissa, jotka jäljittelevät todellisten henkilöiden ulkonäköä.
• Tippaaminen (Buzz) on poistettu kuvista tai resursseista, jotka esittävät todellisia henkilöitä.
• Malleja, jotka jäljittelevät todellisia henkilöitä, ei ole oikeutettu Early Accessiin, joka on Civitain ominaisuus, joka sallii luojien julkaista sisältöä ensin maksaville tukijoille. Tämä rajoittaa julkkisten tai todellisten henkilöiden kaltaisuuden rahastamista.
• 2257 Compliance Statement on lisätty vahvistamaan, että alusta ei salli mitään ei-AI-generoituva sisältöä. Tämä auttaa varmistamaan oikeudellisen suojelun vahvistamalla, että kaikki eksplisiittinen materiaali on syntetistä eikä perustu todelliseen valokuvaukseen tai videomateriaaliin.
• Uusi Sisällön poistopyyntö -sivu mahdollistaa kenelle tahansa ilmoittaa loukkaavaa tai laitonta materiaalia ilman kirjautumista. Kirjautuneet käyttäjät tulisi jatkaa sisäänrakennettujen ilmoitusvälineiden käyttöä kussakin julkaisussa. Tämä on erillinen olemassa olevasta lomakkeesta, jolla voidaan pyytää oman kaltaisuutensa poistamista alustalta.
• CivitAI on esitellyt uuden moderaatiojärjestelmän yhteistyössä Clavatan kanssa, jonka kuvan analyysityökalut suorittivat aiemmin paremmin kuin ratkaisut, kuten Amazon Rekognition ja Hive.

** Maanantaina, 20. toukokuuta 2025, kello 11:23:47 (se saattoi tapahtua aiemmin), Twitch Live Stream on poistettu. Varmistaakseni, että voin vahvistaa tosiasiat, joita raportoidaan suorassa lähetyksessä, säilytän kopion.

* Barbara Edenin “perintönsä” mainitsemisesta huolimatta, I Dream of Jeannie -näyttelijä on edelleen elossa, tällä hetkellä 93-vuotias.
^† Arkistoitu: https://archive.ph/tsMb0

Julkaistu torstaina, 24. huhtikuuta 202. Muutettu torstaina, 24. huhtikuuta 2025, kello 14:32:28: korjattu päivämäärät.
Muutettu tiistaina, 20. toukokuuta 2025, Twitch-sisällön poistamisen heijastamiseksi, jota käytettiin viittauksena.