CivitAI pooštrava pravila Deepfakea pod pritiskom Mastercarda i Vise

CivitAI, vjerojatno najpopularnije spremište AI modela na internetu, konačno je popustio pod pritiskom posrednika plaćanja MasterCarda i Vise da radikalno revidira svoje politike o NSFW sadržaju - a posebno svoje uvjete korištenja u vezi sa slavnim LoRA-ama, jednim od najpopularnijih korisničkih sadržaja na stranici, koji ljudima omogućuju korištenje besplatno preuzetih dodatnih modela kao što su LoRAs za stvaranje AI prikaza (uključujući video prikazi) poznatih ljudi.

Kliknite za reprodukciju. Iako Civit ne daje točne brojke (a krivo označavanje/pogrešno kategoriziranje nije neuobičajeno, što bi vjerojatno iskrivilo brojke), broj modela AI slavnih osoba, prvenstveno LoRA-ova, jasno je u više stotina ili čak tisuća, a jasno dominiraju ispitanice. Izvor: civitai.com

Očito radi pod pritiskom u a Twitch prijenos uživo** u ime tvrtke, voditelj tvrtke za suradnju s lokalnom zajednicom Alasdair Nicoll, i sam tvorac (SFW) modela u Civitu, priznao je da su promjene nametnute stranici zbog zabrinutosti njihovih procesora plaćanja oko sadržaja za odrasle i prikaza stvarnih ljudi. Također priznaje vjerojatnost da će glavne sile iza tih procesora, Visa i MasterCard, vjerojatno kasnije zahtijevati još veće promjene:

'Ovo nisu promjene koje smo htjeli napraviti. Sve se svodi na novo i nadolazeće zakonodavstvo. Postoje zakoni o deepfakeu, postoje zakoni o AI pornografiji... procesori plaćanja, a u konačnici su Visa i MasterCard prestrašeni; ne žele biti tuženi i u konačnici oni pokreću ove promjene.'

'Neke od drugih opcija koje smo dobili bile su potpuno uklanjanje not-safe-for-work; uklanjanje x i triple-x sadržaja s CivitAI-ja na potpuno novu platformu, a zatim geo-blokiranje te platforme, jer više od polovice američkih država zahtijeva neki oblik pornografskog geo-blokiranja, [kao i] mnoge azijske zemlje i Ujedinjeno Kraljevstvo...

'Treća opcija bila je potpuno korištenje kriptovaluta, samo kripto plaćanja... tako da doslovno nije bilo dobrih opcija za ovo.'

Domena Civit povremeno je pala zbog revizija tijekom posljednjih nekoliko dana, očito kako bi se izvršile promjene. Iako je web mjesto već zabranilo korištenje NSFW tema u prikazima slavnih LoRA-a/modela, sada je nemoguće pregledavati odjeljak modela Civita i vidjeti pretpreglede poznatih LoRA-a rame uz rame s vrlo velikim brojem generičkih NSFW modela dizajniranih za proizvodnju sadržaja za odrasle.

The službena priopćenje navodi:

Sadržaj označen stvarnim imenima osoba (poput „Tom Cruise“) ili označen kao POI (resursi stvarnih osoba) bit će skriven iz feedova.

U Twitch sesiji, Nicoll je otkrio daljnje detalje mjera osmišljenih za zaštitu poznatih osoba i stvarnih ljudi. Civit je oduvijek dopuštao stvarnim ljudima da zatraže uklanjanje modela umjetne inteligencije hostiranog na Civitu koji ih prikazuje, ali sada Nicoll aludira na sustav koji može spriječiti ponovno učitavanje takvih slika nakon početnog odbijanja, s mogućnošću identifikacije „zaštićene“ osobe čak i na slikama koje sustav nikada prije nije vidio.

U tu svrhu, stranica je sada u partnerstvu sa Clavata AI sustavom moderiranja – iako još nije jasno u kojoj će mjeri Clavata pokretati ove nove objekte.

Nicoll je rekla:

'Tom Hanks je, na primjer, tražio od nas svoju sličnost. Dosta odraslih glumica ima; dosta glumaca i glumica s A liste ima...

'Mislim da je prva koju smo ikada imali bila Barbara Eden, njezina ostavština* – bila je jedna od prvih koja je zatražila svoju sliku, što je pomalo smiješno, jer je stara.'

Zaštićeno prema zadanim postavkama?

Tijekom posljednjih nekoliko godina, AI VFX tvrtka Metaphysic (potpuno otkrivanje: Radio sam za Metaphysic.ai od početka 2022. do kasne 2024.) pokušala je stvoriti vlasnički sustav koji bi svakome omogućio da registrira vlastitu sličnost, iako je prvenstveno usmjeren na holivudska imena zabrinuta zbog otmice njihovih identiteta temeljene na umjetnoj inteligenciji, uz potporu glumaca kao što Anne Hathaway, Octavia Spencer i Tom Hanks (s kojima je tvrtka radila na izlasku Roberta Zemeckisa Ovdje [2024]).

Logično, korisnost sustava uvijek bi ovisila o eventualnoj sudskoj praksi; na temelju mjera koje je Civit sada prisiljen poduzeti, usluga temeljena na pretplati^† Predloženo od strane Metaphysic moglo bi biti suvišno s obzirom na brzi rast zakona o deepfakeu i potencijalnu (besplatnu) pokrivenost prema običajnom pravu. Trenutno nije poznato hoće li se ponuda Metaphysic Pro prenijeti na tvrtku Double Negative VFX, koja stekao imovinu Metaphysica prošle godine.

U svakom slučaju, sve se više čini da će globalni zakon i opći pritisci tržišta vjerojatnije pružiti zaštitu i pravne lijekove, za razliku od komercijalnih rješenja ove vrste.

Kuhanje Žabe

Izvješće 2023 Media iz 404 skrenuo pozornost sklonosti poznatih ličnosti i pornografskih AI modela na Civitu, iako osnivač stranice Justin Maier umanjio odnos između slika poznatih osoba koje su doprinijeli korisnici i njihove upotrebe u stvaranju pornografskog materijala.

Iako Civit zarađuje olakšavajući korištenje LoRA-a i drugih modela koje dostavljaju korisnici na licu mjesta, Nicoll je jasan da to nije primarna briga koja motivira Visu i MasterCard da uvedu izmjene na web-mjestu, kako bi se moglo nastaviti unovčavati:

'Neki ljudi kažu da je razlog zašto smo u ovom neredu taj što dopuštamo generiranje. To ne dolazi u obzir. Posjedovanje ovih modela, posjedovanje ovog sadržaja, dovoljno je da privuče Sauronovu pažnju.'

Niti komentara zajednice posljednjih su se godina čudili što je Civitu dopušteno ugostiti likove slavnih osoba. Svjesni mogućnosti, možda i neizbježnosti zatvaranja, predložene su ili implementirane brojne inicijative za očuvanje LoRA-a koje je uklonio Civit ili njihovi učitavači, uključujući (do sada) prilično zanemareni subreddit r/CivitaiArchives.

Iako su mnogi sugerirali da je inicijativa temeljena na torrentima prirodno rješenje, čini se da se još uvijek nije pojavila dobro praćena domena – i u svakom slučaju, čini se da će to sigurno premjestiti aktivnosti zabranjene u Civitu i drugdje na krajnje rubove interneta; u zidane vrtove; i, najvjerojatnije, na dark net, budući da većina okvira koji bi mogli prihvatiti zabranjene sličnosti LoRA-e (kao što su Reddit i Discord) ili već zabranjuju takav sadržaj ili se čini sigurnim da će ga uskoro zabraniti.

Trenutačno se LoRA-e slavnih još uvijek mogu vidjeti uz određena ograničenja u Civitu, iako je većina generiranog sadržaja uklonjena s popisa i bit će isključena iz slučajnog otkrivanja. Ono što se čini vjerojatnim, sugerirao je jedan komentator Nicollu u sesiji na Twitchu, jest da će se slamanje produbiti (vjerojatno do mjere zabrane svih sličnih slika stvarnih ljudi u prenesenim modelima ili prikazima).

Nicoll je odgovorila:

„Neće se ovdje zaustaviti, nastavit će zahtijevati sve više i više“ – apsolutno! Da, apsolutno. Takav je svijet u kojem živimo. Jedina je nada da postanemo dovoljno veliki i moćni da ćemo imati malo više utjecaja na ono što nam se diktira […]

Očajavajući zbog alternativa ponuđenih Civitu, Nicoll je dodao:

„[…] Nitko neće kupiti Bitcoin da bi [koristio] CivitAI generator. Stoga smo pokušali ovo učiniti što prihvatljivijim i ovo je ono što smo dobili na kraju. Dakle, ispričavam se ako je ovo nešto što jednostavno ne možete podnijeti, ali nažalost, tako je. Dali smo sve od sebe, opirali smo se koliko smo mogli, ali na kraju nam je rečeno da je to to - morate to učiniti ili će to biti kraj […]“

„[…] Ove financijske institucije, one ne razumiju što ljudi ovdje rade s tim. Pokušali smo im reći, pokušali smo razgovarati s njima, ali mi smo praktički posljednji bastion [NSFW] sadržaja.“

Nicoll je rekao da je Civit došao do 'svakog zamislivog procesora plaćanja:

„Čak su i visokorizični procesori plaćanja koje koriste pornografske stranice vrlo, vrlo oprezni prema AI sadržaju. To je problem - to je AI sadržaj. Da smo tradicionalna pornografska stranica, bilo bi nam dobro, ali AI sadržaja je ono čega se oni boje.“

Gdje dalje?

Prije ove objave, primijećeno je da Civit uklanja uploadove obuhvaćene nekim kategorijama i vrstama sadržaja koji su sada zabranjeni. U vrijeme pisanja ovog teksta, uspostavljen je 'hitni repozitorij' za Wan 2.1 LoRA. osnovan na web stranici Hugging Face. Iako su neki od tamo arhiviranih LoRA-a osmišljeni kako bi olakšali opće seksualne aktivnosti koje su slabo obučene ili ih uopće nema u novim video modelima poput Wan 2.1, nekoliko njih spada u sada strogo zabranjenu kategoriju 'skidanja' (tj. 'nudifikacije'), uključujući neke modele za koje bi se moglo tvrditi da su 'ekstremni' ili očito potencijalno uvredljivi.

Subreddit r/datahoarders, koji je bio u prvom planu očuvanja online literature američke vlade pod Donaldom Trumpom kampanja masovnog brisanja, ima do sada iskazan prezir za ideju spašavanja izgubljenog CivitAI sadržaja.

U literaturi, CivitAI-jeva jednostavna facilitacija generiranja NSFW umjetne inteligencije nije prošla nezapaženo. Međutim, jedna od najcitiranijih studija, ona iz 2024. papir Istraživanje upotrebe zlonamjernih generativnih AI modela na Civitaiju, otežan je činjenicom da Civit do danas nije dopustio generacije slavnih ili ilegalnih umjetne inteligencije, te odlučnošću istraživača da pronađu dokaze u samom Civitu.

Međutim, jasno je da ono što se tiče procesora plaćanja nije ono što se proizvodi s LoRA-ama u samom Civitu ili što se tamo objavljuje, već ono što se radi s tim modelima u drugo zajednice koje su ili zatvorene ili općenito manje regulirane.

Web stranica Mr. Deepfakes, koja je bila sinoniman s prevladavajućim metoda temeljena na autoenkoderu NSFW deepfakinga, do pojave Stable Diffusion i modela temeljenih na difuziji 2022. godine, nedavno je počeo objavljivati ​​primjere pornografskih videozapisa temeljenih na slavnim osobama koristeći najnoviji val generatora tekst-u-video i slika-u-video, uključujući Hunyuan Video i Wan 2.1 – oba vrlo nedavna izdanja čiji je utjecaj još u povoju, ali koji će, čini se, prikupiti zapaljive naslove kao njihovi odgovarajući. zajednice razvijaju se tijekom ove godine.

Obavezni metapodaci

Jedna zanimljiva promjena koju očito zahtijevaju procesori plaćanja, prema Nicollu, jest da sve slike na stranici sada moraju sadržavati metapodatke. Kada se slika ili video proizvodi pomoću generativnog modela u tipičnom tijeku rada na platformi kao što je ComfyUI, izlaz općenito sadrži metapodatke koji navode korišteni model (njegov hash kao i njegovo ime, tako da u slučaju da korisnik preimenuje model, njegovo porijeklo ostaje jasno) i više drugih postavki.

Zbog tih skrivenih podataka o tome kako je slika napravljena, korisnici su u stanju vući video ili sliku koju je izradio netko drugi u vlastiti tijek rada ComfyUI i ponovno stvoriti cijeli tok, te riješiti sve ovisnosti koje nedostaju (kao što su modeli ili komponente koje je izvorni kreator imao, a koje će korisnik zatim morati locirati i preuzeti).

Sve generacije slika ili videozapisa kojima nedostaju ti podaci bit će, najavio je Civit, izbrisane u roku od trideset dana. Korisnici takve podatke mogu dodati ručno, upisivanjem na samoj stranici Civit.

Budući da je vrijednost metapodataka (vjerojatno) dokazna, ova se odredba čini prilično besmislenom; trivijalno je kopirati i zalijepiti metapodatke iz jedne datoteke u drugu, i ad hoc izum metapodataka putem web obrasca čini ovo novo pravilo pomalo zbunjujućim.

Unatoč tome, nekoliko korisnika (uključujući jednog koji je komentirao u Twitch sesiji) ima tisuće slika postavljenih na Civit. Njihov jedini izbor sada je ručno označiti svaku od njih ili izbrisati i ponovno postaviti verzije slika s dodanim metapodacima - što će izbrisati sve 'lajkove', 'buzz' ili razgovore koje su generirale originalne slike.

Nova pravila

Ovo su sažete promjene koje se od danas primjenjuju u Civitu:

• Sadržaj označen imenima stvarnih osoba ili identificiran kao resursi stvarnih osoba više se neće prikazivati ​​u javnim feedovima.
• Sadržaj s podređenim/sporednim temama bit će filtriran iz feedova.
• Sadržaj s ocjenom X i XXX kojem nedostaju metapodaci za generiranje bit će skriven od pogleda javnosti i označen upozorenjem, dopuštajući učitavaču da doda detalje koji nedostaju. Takav sadržaj neće biti izbrisan, ali će ostati vidljiv samo njegovom autoru dok se ne ažurira.
• Slike izrađene pomoću značajke Bring Your Own Image (BYOI) sada moraju primijeniti najmanje 50% promjene šuma tijekom generiranja. To znači da umjetna inteligencija mora značajno izmijeniti prenesenu sliku, smanjujući mogućnost generiranja gotovo točnih replika. Međutim, slike u potpunosti izrađene na CivitAI-ju ili remiksirane iz drugog CivitAI sadržaja nisu podložne ovom pravilu i još uvijek mogu koristiti bilo koju razinu uklanjanja šuma, od bez ikakvih promjena (0.0) do potpune transformacije (1.0). Ova promjena namijenjena je smanjenju zlouporabe alata BYOI, koji bi se inače mogao koristiti za stvaranje suptilnih ili neotkrivenih deepfakeova jedva mijenjajući stvarne slike. Prisiljavanje na minimalnu promjenu od 50% osigurava da umjetna inteligencija ne samo lagano uređuje postojeću fotografiju stvarne osobe.
• Kada pregledavate s omogućenim X ili XXX sadržajem, pretraživanja imena slavnih neće dati rezultate. Kombinacija imena slavnih sa sadržajem za odrasle i dalje je zabranjena.
• Oglasi se neće pojavljivati ​​na slikama ili resursima koji su dizajnirani da kopiraju izgled stvarnih pojedinaca.
• Napojnice (Buzz) bit će onemogućene za slike ili resurse koji prikazuju stvarne pojedince.
• Modeli osmišljeni za repliciranje stvarnih ljudi neće ispunjavati uvjete za rani pristup, značajku Civitai koja kreatorima omogućuje da prvo objave sadržaj pristašama koji plaćaju. To ograničava unovčavanje likova slavnih ili stvarnih osoba.
• A Izjava o sukladnosti za 2257 je dodan kako bi se pojasnilo da platforma ne dopušta nikakav sadržaj koji nije generiran umjetnom inteligencijom. Ovo pomaže u osiguravanju pravne zaštite potvrđujući da je sav eksplicitni materijal sintetički i da se ne temelji na stvarnoj fotografiji ili videu.
• Nova Stranica sa zahtjevom za uklanjanje sadržaja omogućuje svima da prijave uvredljiv ili ilegalni materijal bez potrebe za prijavom. Registrirani korisnici trebaju nastaviti koristiti ugrađene alate za prijavljivanje za svaku objavu. Ovo je odvojeno od postojećeg obrasca za zahtjev za uklanjanje vlastitog lika s platforme.
• CivitAI je uveo novi sustav moderiranja kroz partnerstvo s tvrtkom Clavata, čiji su alati za analizu slike nadmašili prethodna rješenja kao što su Amazon Rekognition i Hive.

** Od utorka, 20. svibnja 2025. u 11:23:47 (moguće se dogodilo i ranije), prijenos uživo na Twitchu je ukinut. Kako bih mogao provjeriti činjenice navedene u streamu, zadržavam kopiju.

* Unatoč spominjanju 'ostavštine' Barbare Eden, I Dream of Jeannie glumica je još uvijek živa, trenutno ima 93 godine.
^† Arhivirano: https://archive.ph/tsMb0

Prvi put objavljeno u četvrtak, 24. travnja 202. Dopunjeno četvrtak, 24. travnja 2025. 14:32:28: ispravljeni datumi.
Izmijenjeno u utorak, 20. svibnja 2025. kako bi se odrazilo uklanjanje Twitch sadržaja korištenog kao referentni materijal.