Reddit Interzice Comunitatea ‘SFW’ Deepfake

Pe parcursul weekendului, aparent undeva luni, Reddit a interzis comunitatea nominal ‘SFW’ (Sigur pentru lucru) deepfakes, intitulată r/deepfakesfw. Subredditul a fost una dintre primele răspunsuri la promptul gigantului media social ștergerea originalului, plin de AI-porn, r/deepfakes sub în 2018.

Legenda (relativ) standard care acum întâmpină (o poză arhivă luată luni, 13 iunie) oricine vizitează sub explica ‘a fost interzisă din cauza unei încălcări a regulamentului Reddit împotriva pornografiei involuntare’.

Noua pagină de start pentru r/deepfakesfw.

Subredditul r/deepfakesfw nu a fost arhivat frecvent de platformele populare de conservare, dar cea mai recentă poză WayBack Machine, luată cu aproximativ zece zile în urmă (pe 3 iunie 2022), indică faptul că sub-ul avea 3.095 de cititori la acea vreme.

Acesta este de fapt un număr mai mare de abonați decât r/DeepFakesSFW (notați litera ‘s’ suplimentară), care în prezent are 2.827 de cititori (poza arhivă luată luni, 13 iunie 2022). Cea mai populară comunitate ‘legitimă’ SFW deepfakes pare a fi în prezent r/SFWdeepfakes, care la momentul scrierii are 16.636 de cititori (poza arhivă luată luni, 13 iunie 2022).

Nu Întreba

Ceea ce pare a condamnat r/deepfakesfw nu a fost postarea, ci cererea de pornografie deepfake. Regulile Reddit privind media explicită sexual afirmă:

‘[Imagini] sau video ale unei alte persoane postate în scopul specific de a crea conținut explicit sau de a solicita “pornografie cu lookalike” (de exemplu, “deepfakes” sau “pornografie cu bule”) este, de asemenea, împotriva regulamentului.’

Pe baza ultimelor fluxuri RSS disponibile de la subredditul interzis SFW, pare că a fost cererea, mai degrabă decât postarea conținutului deepfake NSFW, care a declanșat în cele din urmă interzicerea:

Unele dintre ultimele postări clare NSFW din subredditul r/deepfakesfw decedat. Sursă: Inoreader.

Deși postările la care se referă aceste fluxuri RSS nu mai sunt disponibile, accesarea linkurilor de profil ale solicitanților (estompată în imaginea de mai sus) arată că mulți dintre postatori solicită conținut deepfake interzis pe mai multe forumuri și cer sau oferă unele dintre cele mai extreme conținuturi de acest tip, inclusiv incest și diverse nuanțe de teme pornografice involuntare.

Acest lucru sugerează că subredditurile ‘SFW’ rămase supraviețuiesc datorită vitezei, diligenței și timpilor de răspuns rapid ai moderatorilor, deoarece pare că Reddit nu dorește să devină un fel de ‘anunțuri clasificate’ pentru oameni să se conecteze și să tranzacționeze deepfakes ilegitime prin DM (în cazurile în care acest lucru nu poate fi solicitat explicit într-o postare).

Dacă este așa, atunci subredditul r/DeepFakesSFW, care nu a fost încă interzis, poate trăi pe timp împrumutat; cele două postări de top actuale atunci când se intră în URL-ul subredditului cu tema ‘old’ Reddit activată au fost marcate în mod specific ‘NSFW’ (o etichetă care nu ar trebui să fie disponibilă în această comunitate în special).

În funcție de circumstanțe, unele postări care încalcă regulile pot apărea în prezent în subredditul r/DeepFakesSFW. Sursă: https://www.reddit.com/r/DeepFakesSFW/

Puteți vedea aceste două postări NSFW care se află în fruntea forumului r/DeepFakesSFW arhivat aici (poza arhivă luată luni, 13 iunie 2022).

De fapt, nu există nicio etichetă ‘NSFW’ disponibilă atunci când se face o nouă postare la r/DeepFakesSFW, care a fost operațională timp de patru ani, conform informațiilor din bara laterală:

Etichete disponibile la postarea pe r/DeepFakesSFW.

Prin urmare, etichetele NSFW de la r/DeepFakesSFW par a fi fost aplicate de moderatorii forumului sau de administratori de nivel superior – sau chiar de algoritmi, posibil fără nicio intervenție sau opoziție disponibilă din partea moderatorilor locali. M-am întors la singurul moderator listat al r/DeepFakesSFW în legătură cu acest lucru și voi posta orice actualizări disponibile.

(EDITARE, marți, 14 iunie 2022 – Un moderator de la r/DeepFakesSFW a răspuns, afirmând ‘Se pare că se întâmplă atunci când contul utilizatorului este NSFW’. Presupunând că singura modalitate de a încetini probabilitatea unor astfel de solicitări în subredditurile deepfake SFW ar fi, prin urmare, să interzică utilizatorii care au ‘câștigat’ această clasificare.)

Cea mai mare parte a conținutului de la acest subreddit, și de la subredditul mai mare r/SFWdeepfakes, se ocupă cu utilizarea tehnologiei deepfake pentru a ‘recast’ actori din filme populare sau clasice, sau altfel pentru a avea mai multe distracții inofensive cu mass-media populare și tehnologia deepfake, și într-adevăr califică ca ‘SFW’.

Chiar dacă multe astfel de postări se apropie periculos de interdicțiile bazate pe drepturi de autor, supraviețuirea continuă a postărilor video deepfake ‘apropiate de IP’ non-pornografice de către deepfakers importanți de pe YouTube, cum ar fi Ctrl-Shift-Face, sugerează o toleranță largă a studiourilor și deținătorilor de drepturi față de astfel de activități, cel puțin pentru moment.

Aspectul ‘Inocent’ al Procesului și Ecosistemului Deepfake

Acum două săptămâni a devenit cunoscut (și mult discutat) că Google a interzis brusc software-ul de creare deepfake din mediile sale de procesare cloud Colab. Chiar și până în prezent, Colab pare a fi ‘declanșat’ doar de încercări de a rula DeepFaceLab (DFL), cel mai popular software deepfake din lume (și cel mai îndeaproape asociat cu pornografia AI), mai degrabă decât implementări mai puțin frecventate, cum ar fi FaceSwap, care este mai bine reputat, deși efectuează exact aceleași sarcini ca DFL.

Într-o anumită măsură, această abordare ar fi putut fi singura modalitate prin care Colab ar fi putut implementa orice restricție asupra producției de pornografie deepfake, deoarece procesul real de antrenare deepfake utilizează doar software open source și imagini cu fețe tăiate (de obicei la doar 512x512px, adesea mai puțin), cu aproape zero posibilitate ca algoritmii de recunoaștere a imaginilor să intercepteze vreun conținut pornografic real.

În momentul în care modelul deepfake este antrenat, creatorul deepfake nu mai are nevoie de puterea de procesare imensă a Colab sau de un GPU local scump. Cele mai multe conversii reale (adică procesul de impunere a unei fețe într-un videoclip, pornografic sau nu), pot fi realizate local, pe GPU-uri cu putere redusă de pe laptop – sau chiar pe un CPU (cu un timp de procesare ușor mai lung). În momentul în care apare ceva pornografic în procesul deepfake, Colab a fost de mult scoasă din imagine.

Prin urmare, elementele constitutive care trec între creatorii de pornografie deepfake rareori reprezintă mai mult decât o posibilă încălcare minoră a drepturilor de autor, sub forma ‘seturilor de fețe’ pe care creatorii deepfake le-au extras din videoclipuri de pe YouTube, Blu-ray, interviuri televizate, mass-media sociale și diverse alte surse.

Vine o Politică ‘Pământ Arzat’ pentru Comunitățile Deepfake?

Întrebarea care bântuie locuitorii comunităților deepfake Discord, cum ar fi DeepFaceLab (inclusiv DeepFaceLive), FaceSwap, Machine Video Editor (MVE, un mediu GUI-based pentru DFL, cu multe caracteristici adăugate), și noi servere Discord audio-based deepfake, cum ar fi Audio Deepfakes este vor interzice în curând proprietarii de portal și platformă comunitățile deepfake pe principiu, mai degrabă decât să suporte cheltuielile constante de moderare împotriva unei valuri de adepți și creatori NSFW?

Bryan Lyon, unul dintre dezvoltatorii FaceSwap și proprietarul serverului Discord asociat, a comentat^†:

‘Am reușit să rămânem pe Discord, în ciuda mai multor purificări, rămânând absolut curați. Nu avem canale ascunse sau un al doilea server secret cu conținut ilicit. A existat o purificare a serverului DeepFaceLab popular cu câțiva ani în urmă. Toată lumea de pe el a fost interzisă. Aveau roluri cu acces la canale cu pornografie non-consensuală.’

Având în vedere că Google, una dintre cele mai mari resurse tehnologice de găzduire din lume, a interzis în mod clar antrenamentul deepfake pe serverele și GPU-urile sale, este posibil ca GitHub deținut de Microsoft să decidă că facilitarea acestor tehnologii* nu va fi în cele din urmă valoroasă pentru ambiguitatea morală sau investiția în supraveghere.

În acest moment, procesul de legitimizare a tehnologiilor deepfake, astfel încât utilizarea lor să treacă de la pornografia casnică către producția de film și televiziune și utilizări neîncălcătoare/infractoare, este prea în curs de dezvoltare pentru a produce linii directoare de politică clare pentru platforme și servicii de găzduire a comunităților.

* Arhivă a https://github.com/search?q=deepfake de luni, 13 iunie 2022.
† În DM private pe Discord.

Publicat pentru prima dată pe 13 iunie 2022. Editat la 15:08 GMT pentru amendarea imaginii.
Amendat marți, 14 iunie 2022, 06:24 GMT, pentru a adăuga răspunsul moderatorului Reddit cu privire la statutul NSFW al unor postatori. De asemenea, amendarea imaginii pentru ilustrarea fluxurilor RSS.