CivitAI Kirehkoi Syvänvalotusohjeet Mastercardin ja Visan Painostuksesta

CivitAI, mahdollisesti internetin suosituin tekoälymallin varasto, on lopulta myöntynyt MasterCardin ja Visan painostukseen ja muuttanut radikaalisti käytäntöjään NSFW-sisällön osalta – ja erityisesti ehdot sen käyttöehdoista koskien julkkisten LoRA-malleja, jotka ovat yksi sivun suosituimpia käyttäjien lähettämiä sisällön virtauksia, ja jotka mahdollistavat ihmisten käytön vapaasti ladattavia apumalleja, kuten LoRA:ja, luomaan tekoälykuvia (mukaan lukien videoesiintymisiä) tunnetuista henkilöistä.

Paina toistaa. Vaikka Civit ei anna tarkkoja lukuja (ja vääräniminen/vääräluokittelu ei ole epätavallista, mikä todennäköisesti vääristää lukuja), julkkis-Tehtävämallien, pääasiassa LoRA:iden, määrä on selvästi satoja tai jopa tuhansia, ja selvästi hallitsee naispuolisia kohteita. Source: civitai.com

Selvästi toimien painostuksen alaisena Twitch-liveströssä** yhtiön puolesta, yhtiön yhteisöllisen osallistumisen johtaja Alasdair Nicoll, itse (SFW) mallien luoja Civitissä, myönsi, että muutokset on pakotettu sivustolle heidän maksuprosessorien huolenaiheiden vuoksi aikuisten sisällön ja todellisten henkilöiden esittämisen suhteen. Hän myönsi myös todennäköisyyden, että pääasialliset voimat, jotka ohjaavat näitä prosessoreja, Visa ja MasterCard, ovat todennäköisesti vaatimaan vielä suurempia muutoksia myöhemmin:

‘Nämä eivät ole muutoksia, joita halusimme tehdä. Tämä johtuu uudesta ja tulossa olevasta lainsäädännöstä. On syvänvalotuslakeja, on tekoälypornolakeja… maksuprosessorit ja lopulta Visa ja MasterCard ovat peloissaan; he eivät halua olla haastettavissa, ja he ohjaavat näitä muutoksia.

‘Jotkut muut vaihtoehdot, joita meille tarjottiin, olivat poistaa kokonaan ei-sopiva-työpaikalle-sisältö; poistaa x- ja triple-x-sisältö CivitAI:sta ja siirtää se täysin uudelle alustalle, ja sitten maantieteellisesti rajoittaa kyseistä alustaa, koska yli puolet Yhdysvaltojen osavaltioista vaativat jonkinlaista pornon maantieteellistä rajoittamista, [sekä] monia Aasian maita ja Iso-Britanniaa…

‘Kolmas vaihtoehto oli mennä täysin kryptovaluuttaan, krypto-maksuihin vain… joten ei ollut mitään hyviä vaihtoehtoja tähän.’

Civit-verkkotunnus on ollut pois käytöstä jaksollisesti muutosten tekemiseksi. Vaikka sivusto oli jo kieltänyt NSFW-aiheiden käytön julkkis-LoRA/malliesityksissä, on nyt mahdotonta selata Civitin malliosiota ja nähdä julkkis-LoRA-esitykset rinnakkain erittäin suuren määrän geneeristen NSFW-mallien kanssa, jotka on suunniteltu aikuisten sisällön tuottamiseksi.

Virallinen ilmoitus toteaa:

‘Sisältö, joka on merkitty todellisten henkilöiden nimillä (kuten “Tom Cruise”) tai merkitty todellisen henkilön resursseiksi, ei enää näy julkisissa syötteissä.’

Twitch-istunnossa Nicoll paljasti lisää yksityiskohtia toimista, jotka on suunniteltu suojellakseen kuuluisia henkilöitä ja todellisia henkilöitä. Civit on aina sallinut todellisten henkilöiden pyytää, että Civitissä isännöity tekoälymalli, joka esittää heitä, poistettaisiin, mutta nyt Nicoll viittaa järjestelmään, joka voi estää tällaisten kuvien uudelleenlataamisen alkuperäisen hylkäyksen jälkeen, mahdollisuudella tunnistaa “suojattu” henkilö, jopa kuvissa, joita järjestelmä ei ole koskaan nähnyt aikaisemmin.

Sen toteuttamiseksi sivusto on nyt yhteistyössä Clavata-tekoälymoderaatiojärjestelmän kanssa – vaikka sen laajuutta, jolla Clavata tulee voimaan nämä uudet palvelut, ei vielä ole selvää.

Nicoll sanoi:

‘Tom Hanks on vaatinut oikeutensa meiltä, esimerkiksi. Melko moni aikuisnäyttelijä on; melko moni A-luokan näyttelijä ja näyttelijätär on…

‘Luulen, että ensimmäinen, joka meillä oli, oli Barbara Eden, hänen tilansa* – hän oli yksi ensimmäisistä, jotka vaativat oikeutensa, mikä on jonkinlainen vitsi, koska hän on vanha.’

Suojattu oletuksena?

Viimeisten kahden vuoden aikana tekoäly-VFX-yritys Metaphysic (täysi ilmoitus: työskentelin Metaphysic.ai:lle alkuvuodesta 2022 loppuvuoteen 2024) yritti luoda omistaman järjestelmän, joka mahdollistaisi kenelle tahansa rekisteröityä oman kaltaisuutensa, pääasiassa suunnattuna Hollywood-nimiin, jotka ovat huolissaan tekoälypohjaisesta identiteettien kaappauksesta, näyttelijöiden tukeen kuten Anne Hathaway, Octavia Spencer ja Tom Hanks (joiden kanssa yhtiö työskenteli Robert Zemeckisin Here [2024] -elokuvassa).

Loogisesti, järjestelmän hyödyllisyys riippuisi aina lopullisesta tapausoikeudesta; perustuen toimiin, joita Civit nyt on pakotettu tekemään, Metaphysicin tilauspohjainen palvelu^† voisi olla tarpeeton syvänvalotuslakien nopean kasvun ja potentiaalisen (ilmaisen) kattavuuden yleisen lain alla. Ei ole vielä tiedossa, siirtyykö Metaphysic Pro -tarjonta Double Negative VFX -yhtiöön, joka hankki Metaphysicin varat viime vuonna.

Joka tapauksessa, näyttää yhä enemmän siltä, että globaali laki ja yleinen markkinapaine ovat todennäköisemmin tarjoavat suojaa ja korjaustoimia, verrattuna kaupallisiin ratkaisuihin tällä tavalla.

Kiehuvan sammakon tapaus

404 Median 2023 raportti toi huomion julkkis- ja pornomalleihin Civitissä, vaikka sivuston perustaja Justin Maier vähätteli suhdetta käyttäjien lähettämien julkkisten kaltaisuuksien ja niiden käytön välistä pornomateriaalin tuottamiseksi.

Vaikka Civit tekee rahaa helpottamalla LoRA:iden ja muiden käyttäjien toimittamien mallien käyttöä sivustolla, Nicoll on selkeä siinä, että tämä ei ole pääasiallinen huolenaihe, joka motivoi Visa ja MasterCardia määräämään muutoksia sivustolle, jotta se voidaan jatkaa rahoittamista:

‘Jotkut ihmiset sanovat, että syynä siihen, että olemme tässä sekasorrossa, on se, että sallimme generoinnin. Se ei tule kysymykseen. Mallien isännöinti, tämän sisällön isännöinti, riittää vetämään Sauronin silmään.’

Yhteisökommenttiraidat ovat ihmetelleet viime vuosina, että Civit on saanut isännöidä julkkisten kaltaisuuksia. Tietoisina mahdollisuudesta, ehkä väistämättömyydestä tiukennuksista, useita aloitteita julkkisten LoRA:iden säilyttämiseksi, jotka on poistettu Civitistä tai niiden lähettäjien toimesta, on ehdotettu tai toteutettu, mukaan lukien (toistaiseksi) melko laiminlyöty subreddit r/CivitaiArchives.

Useat ovat ehdottaneet, että torrent-pohjainen aloite on luonnollinen ratkaisu, mutta mikään seurattu domain ei vielä ole nousemassa – ja joka tapauksessa, tämä näyttäisi varmasti siirtävän toimintaa, joka on kielletty Civitissä ja muualla, uloimmille internetin reunoille; walled gardeniin; ja todennäköisimmin pimeään verkkoon, koska useimmat kehykset, jotka voisivat sisältää kiellettyjä kaltaisuuksia LoRA:ita (kuten Reddit ja Discord), joko kieltävät jo tällaista sisältöä tai näyttävät varmasti kieltävän sen lähipäivinä.

Tällä hetkellä julkkisten LoRA:it voidaan edelleen nähdä joitakin rajoituksia Civitissä, vaikka suurin osa generoivasta sisällöstä on poistettu luettelosta ja poistetaan casual-havainnoista. Mitä näyttää todennäköiseltä, yksi kommentoija ehdotti Nicollille Twitch-istunnossa, on, että tiukennus syvenee (toden näköiseen julkkisten kaltaisuuksien kaikenlaisten todellisten henkilöiden malleissa tai esityksissä).

Nicoll vastasi:

‘”He eivät lopeta tässä, he jatkavat vaatimalla enemmän ja enemmän” – absoluuttisesti! Kyllä, absoluuttisesti. Se on vain maailma, jossa elämme. Ainoa toivo on, että meistä tulee tarpeeksi suuria ja voimakkaita, jotta meillä olisi enemmän sananvaltaa siinä, mitä meille määrätään […]

Epätoivossaan vaihtoehtoja, jotka tarjottiin Civitille, Nicoll lisäsi:

‘… Kukaan ei osta Bitcoinia käyttääkseen CivitAI-generaattoria. Me olemme yrittäneet tehdä tästä mahdollisimman mukavaa, ja tämä on se, mihin olemme päätyneet. Anteeksi, jos tämä on jotain, mitä et voi kestää, mutta valitettavasti se on se, mitä se on. Me yritimme parhaamme, me vastustimme niin paljon kuin voimme, mutta lopulta meille sanottiin, että tämä on se – sinun on tehtävä tämä tai se on loppu […]’

‘… Nämä rahoituslaitokset eivät ymmärrä, mitä ihmiset tekevät täällä sen kanssa. Me olemme yrittäneet kertoa heille, me olemme yrittäneet puhua heille, mutta me olemme käytännössä viimeinen linnake [NSFW]-sisällölle.

Nicoll sanoi, että Civit oli ollut yhteydessä ‘jokaiseen maksuprosessoriin, jota voi kuvitella’:

‘Even the high-risk payment processors that porn sites use, and they’re all very very wary of AI content. That’s the problem – it’s AI content. If we were a traditional porn site, we’d be fine, but AI content is what they’re scared of.’

Mihin seuraavaksi?

Ennen tätä ilmoitusta Civit oli havaittu poistaneen latauksia, jotka kuuluivat joillekin kategorioille ja sisällön tyypeille, jotka nyt on kielletty. Kirjoitushetkellä “Wan 2.1 LoRA:iden hätävarasto” on perustettu Hugging Face -sivustolle. Vaikka jotkut LoRA:ista, jotka on arkistoitu siellä, on suunniteltu helpottamaan yleisiä seksuaalisia toimintoja, jotka ovat vähän koulutettuja tai puuttuvat uusissa videomalleissa, kuten Wan 2.1, jotkut niistä kuuluvat nyt tiukasti kiellettyyn “undress”-luokkaan (ts. “alastomaksi teko”), mukaan lukien jotkut mallit, jotka voidaan väittää olevan “ääriviivaisia” tai ilmiselvästi loukkaavia.

Subreddit r/datahoarders, joka on edelläkävijä Yhdysvaltojen hallituksen verkkokirjallisuuden säilyttämisessä Donald Trumpin massapoistokampanjan aikana, on toistaiseksi näyttänyt halveksuntaa idealle tallentaa kadonneita CivitAI-sisältöjä.

Kirjallisuudessa CivitAI:n helpottama NSFW-Tehtävämallien käyttö ei ole jäänyt huomaamatta. Yksi viitatuimmista tutkimuksista, 2024 paperi Exploring the Use of Abusive Generative AI Models on Civitai, on haittaa siinä, että Civit ei ole sallinut julkkis- tai laittomia tekoälygeneraatioita tähän asti, ja tutkijoiden määräämisenä löytää todisteita Civitissä itsessään.

Ilmeisesti kuitenkin se, mitä maksuprosessoreita huolestuttaa, ei ole sitä, mitä tehdään LoRA:iden kanssa Civitissä, tai mitä julkaistaan siellä, vaan mitä tehdään näillä malleilla muissa yhteisöissä, jotka ovat joko suljettuja tai yleensä vähemmän säänneltyjä.

Mr. Deepfakes -sivusto, joka oli synonyymi yleiselle autoencoder-pohjaiselle menetelmälle NSFW-syvänvalotusta varten, kunnes Stable Diffusion ja diffuusiopohjaiset mallit tulivat vuonna 2022, on viime aikoina alkanut julkaista esimerkkejä julkkis-pohjaisista pornovideoista, jotka käyttävät uusimpia teksti-videogeneraattoreita ja kuva-videogeneraattoreita, mukaan lukien Hunyuan Video ja Wan 2.1 – molemmat hyvin tuoreita julkaisuja, joiden vaikutus on vasta alkamassa, mutta jotka näyttävät olevan valmiita herättämään tulenarkoja otsikoita tämän vuoden aikana.

Pakollinen metadata

Yksi mielenkiintoinen muutos, jota maksuprosessorit vaativat, Nicollin mukaan, on, että kaikissa sivuston kuvissa on nyt oltava metadata. Kun kuva tai video tuotetaan generatiivisella mallilla tyypillisessä työvirrassa alustalla, kuten ComfyUI, tuotoksesta yleensä tulee metadata, joka luetellaan mallin (sen hashin sekä sen nimen, jotta mallin nimenmuutoksessa sen alkuperä säilyy) ja useita muita asetuksia.

Koska nämä piilotetut datapisteet siitä, miten kuva tehtiin, käyttäjät voivat vetää videon tai kuvan, jonka joku toinen on tehnyt, omiin ComfyUI-työvirtoihin ja uudelleenluoda koko virran ja osoittaa puuttuvat riippuvuudet (kuten malleja tai komponentteja, joita alkuperäinen luoja oli, mutta joita käyttäjällä ei ole, ja jotka hän on nyt löytävä ja lataava).

Mikä tahansa kuva- tai videogeneraatio, joka puuttuu tällaista tietoa, poistetaan, Civit on ilmoittanut, 30 päivän kuluessa. Käyttäjät voivat lisätä tällaisen tiedon manuaalisesti kirjoittamalla sen itse Civit-sivustolle.

Koska metadata-arvon on (oletettavasti) todistusarvo, tämä vaatimus näyttää aika turhalta; on helppoa kopioida ja liittää metadataa yhdestä tiedostosta toiseen, ja ad hoc -metadata keksiminen verkkolomakkeen kautta tekee tämän uuden säännön hieman hämmentäväksi.

Kuitenkin useat käyttäjät (mukaan lukien yksi, joka kommentoi Twitch-istunnossa) ovat ladanneet tuhansia kuvia Civitiin. Heidän ainoa keino on nyt lisätä manuaalisesti tällaista tietoa kullekin heidän kuvilleen, tai poistaa ja ladata uudelleen kuvia, joissa on lisätty metadata – mikä poistaa “tykkäykset” tai “buzz” tai keskustelut, jotka alkuperäiset kuvat aiheuttivat.

Uudet säännöt

Tässä on yhteenveto muutoksista, jotka ovat voimassa Civitissä tänään:

• Sisältö, joka on merkitty todellisten henkilöiden nimillä tai tunnistettu todellisten henkilöiden resursseiksi, ei enää näy julkisissa syötteissä.
• Sisältö, joka sisältää lapsi/alaikäisen teemat, suodatetaan pois syötteistä.
• X- ja XXX-luokan sisältö, joka puuttuu generoimis-metadataa, piilotetaan julkisesta näkymästä ja merkataan varoituksella, jotta lähettäjä voi lisätä puuttuvat tiedot. Tällaista sisältöä ei poisteta, mutta se näkyy vain sen lähettäjälle, kunnes se on päivitetty.
• Kuvat, jotka on tehty Bring Your Own Image (BYOI) -ominaisuuden avulla, on nyt sovellettava vähintään 50%:n melunmuutos generoinnissa. Tämä tarkoittaa, että tekoäly on muokannut ladatun kuvan merkittävästi, vähentäen mahdollisuutta luoda lähes täsmällisiä kopioita. Kuitenkin kuvat, jotka on luotu kokonaan CivitAI:lla tai sekoitettu muiden CivitAI-sisällön kanssa, eivät ole tämän säännön alaisia ja voivat edelleen käyttää mitä tahansa melunpoistotason, alkaen ei-muutoksesta (0,0) täydelliseen muodonmuutokseen (1,0). Tämä muutos on tarkoitettu vähentämään BYOI-työkalun väärinkäyttöä, jota voidaan muuten käyttää luomaan häikäiseviä tai havaitsemattomia syvänvalotuksia vähän muokkaamalla olemassa olevia kuvia todellisista henkilöistä.
• Kun selaillaan X- tai XXX-luokan sisällön kanssa, julkkisten nimien hakeminen ei palauta tuloksia. Yhdistäminen julkkisten nimien kanssa aikuisten sisällön kanssa on edelleen kielletty.
• Mainoksia ei näytetä kuvissa tai resursseissa, jotka on suunniteltu jäljittelemään todellisten henkilöiden ulkonäköä.
• Tipping (Buzz) on poistettu kuvista tai resursseista, jotka esittävät todellisia henkilöitä.
• Malleja, jotka on suunniteltu jäljittelemään todellisia henkilöitä, ei ole oikeutettu Early Accessiin, Civitain ominaisuuteen, joka sallii luojien julkaisemisen ensin maksaville kannattajille. Tämä rajoittaa julkkisten tai todellisten henkilöiden kaltaisuuksien rahastamista.
• 2257 Compliance Statement on lisätty selventämään, että alusta ei salli mitään ei-tekoälypohjaista sisältöä. Tämä auttaa varmistamaan oikeudellisen suojan vahvistamalla, että kaikki eksplisiittinen materiaali on syntetistä eikä perustu todelliseen valokuvaamiseen tai videomateriaaliin.
• Uusi Content Removal Request -sivu sallii kenelle tahansa ilmoittaa loukkaavaa tai laitonta materiaalia ilman kirjautumista. Kirjautuneet käyttäjät tulisi jatkaa sisäänrakennettujen ilmoitusvälineiden käyttöä kussakin julkaisussa. Tämä on erillinen olemassa olevasta lomakkeesta, jolla voidaan pyytää oman kaltaisuuden poistamista alustalta.
• CivitAI on esitellyt uuden moderaatiojärjestelmän yhteistyössä Clavatan kanssa, jonka kuvananalyysityökalut suorittivat paremmin kuin aiemmat ratkaisut, kuten Amazon Rekognition ja Hive.

** Kunnes tiistai, 20. toukokuuta 2025 11:23:47 (se saattoi tapahtua aikaisemmin), Twitch-liveströmi on poistettu. Varmistamaan, että voin vahvistaa ilmoitetut tosiasiat, säilytän kopion siitä.

* Barbara Edenin ’tilan’ mainitsemisesta huolimatta, I Dream of Jeannie -näyttelijä on edelleen elossa, 93-vuotias.
^† Arkistoitu: https://archive.ph/tsMb0

Julkaistu torstaina, 24. huhtikuuta 202. Muutettu torstaina, 24. huhtikuuta 2025 14:32:28: korjattu päivämäärät. Muutettu tiistaina, 20. toukokuuta 2025 Twitch-sisällön poistamisen jälkeen, jota käytettiin viittauksena.