Reddit Interzice Comunitatea ‘SFW’ Deepfake

Pe parcursul weekendului, aparent undeva în jurul duminicii, Reddit a interzis comunitatea nominal ‘SFW’ (Sigur pentru lucru) deepfakes intitulată r/deepfakesfw. Subredditul a fost una dintre primele răspunsuri la promtarea gigantului media social ștergerea originală, plină de pornografie AI, a sub r/deepfakes în 2018.

Legenda (relativ) standard care acum salută (o copie arhivată făcută luni, 13 iunie) orice vizitator al sub explica faptul că ‘a fost interzisă din cauza unei încălcări a regulamentului Reddit împotriva pornografiei involuntare’‘.

Noua pagină principală pentru r/deepfakesfw.

Sub r/deepfakesfw nu a fost arhivat frecvent de platformele populare de conservare, dar cea mai recentă copie WayBack Machine, făcută cu aproximativ zece zile în urmă (pe 3 iunie 2022), indică faptul că sub avea 3.095 de cititori la acea vreme.

Acesta este de fapt un număr mai mare de abonați decât r/DeepFakesSFW (notați extra ‘s’), care are în prezent 2.827 de cititori (copie arhivată făcută luni, 13 iunie 2022). Comunitatea ‘legitimă’ SFW deepfakes cea mai populară pare a fi în prezent r/SFWdeepfakes, care are în momentul de față 16.636 de cititori (copie făcută luni, 13 iunie 2022).

Nu Întrebați

Ceea ce pare să fi condamnat r/deepfakesfw a fost nu postarea, ci cererea de pornografie deepfake. Regulile Reddit privind media explicită sexual afirmă:

‘[Imagini] sau video ale altei persoane postate în scopul specific de a crea conținut explicit sau de a solicita “pornografie cu aspect similar” (de exemplu “deepfakes” sau “pornografie cu bule”) este, de asemenea, împotriva regulamentului.’

Pe baza ultimelor fluxuri RSS disponibile din sub-ul interzis SFW, pare că cererea, mai degrabă decât postarea conținutului NSFW deepfake, a declanșat în cele din urmă interzicerea:

Unele dintre ultimele postări, clar NSFW, din subredditul r/deepfakesfw decedat. Sursă: Inoreader.

Deși postările la care aceste fluxuri RSS se referă nu mai sunt disponibile, accesarea linkurilor de profil ale solicitatorilor (estompată în imaginea de mai sus) arată că mulți dintre postatori solicită conținut deepfake interzis pe mai multe forumuri și cer sau oferă unele dintre cele mai extreme conținuturi de acest tip, inclusiv pornografie incestuoasă și diverse nuanțe de teme pornografice involuntare.

Acest lucru sugerează că subredditurile SFW rămase supraviețuiesc datorită vitezei, diligenței și timpilor de răspuns rapid ai moderatorilor, deoarece pare că Reddit nu este dispus să devină un fel de “forum de anunțuri” pentru oameni care să se conecteze și să tranzacționeze deepfakes ilegitime prin DM (în cazurile în care acest lucru nu poate fi solicitat explicit într-un post).

Dacă da, atunci r/DeepFakesSFW, care nu a fost încă interzis, poate trăi pe timp împrumutat; cele două postări de top actuale atunci când se intră în URL-ul subredditului cu tema “old” Reddit activată au fost marcate în mod specific ‘NSFW’ (o etichetă care ar trebui să nu fie disponibilă în această comunitate în special).

În funcție de circumstanțe, unele postări care încalcă regulile pot apărea în prezent în sub r/DeepFakesSFW. Sursă: https://www.reddit.com/r/DeepFakesSFW/

Puteți vedea aceste două postări NSFW care se află în fruntea forumului r/DeepFakesSFW arhivat aici (copie făcută luni, 13 iunie 2022).

Nu există o etichetă NSFW disponibilă atunci când se face o nouă postare la r/DeepFakesSFW, care a fost operațională timp de patru ani, conform informațiilor din bara laterală:

Etichete disponibile la postarea pe r/DeepFakesSFW.

Prin urmare, etichetele NSFW de la r/DeepFakesSFW par să fi fost aplicate de moderatorii forumului sau de administratori de nivel superior – sau chiar de algoritmi, posibil fără nicio intervenție sau opoziție din partea moderatorilor locali. Am contactat singurul moderator listat al r/DeepFakesSFW în legătură cu acest lucru și voi posta orice actualizări disponibile.

(EDITARE, marți, 14 iunie 2022 – Un moderator de la r/DeepFakesSFW a răspuns, afirmând ‘Se pare că se întâmplă atunci când contul utilizatorului este NSFW’. Presupunând că singura modalitate de a încetini probabilitatea unor astfel de solicitări în subredditurile SFW deepfake ar fi să interzicem utilizatorii care au “câștigat” această clasificare.)

Cele mai multe dintre conținutul de la acest subreddit și de la subredditul mai mare r/SFWdeepfakes se ocupă cu utilizarea tehnologiei deepfake pentru a “recastiga” actori din filme populare sau clasice, sau pentru a avea mai multă distracție inofensivă cu mass-media și tehnologia deepfake, și se califică într-adevăr ca ‘SFW’.

Chiar dacă multe dintre aceste postări se apropie periculos de mult de interdicțiile legate de drepturi de autor, supraviețuirea în continuare a postărilor de video deepfake “însușite de IP” non-pornografice, operate de deepfakers de pe YouTube, cum ar fi Ctrl-Shift-Face, sugerează o toleranță largă a studiourilor și deținătorilor de drepturi față de astfel de activități, cel puțin pentru moment.

Apariția “Inocentă” a Procesului și Ecosistemului Deepfake

Acum două săptămâni a apărut (și multă discuție) că Google a interzis brusc software-ul de creare a deepfakes din mediile sale de procesare cloud Colab. Chiar și până în prezent, Colab pare să fie “declanșat” doar de încercări de a rula DeepFaceLab (DFL), cel mai popular software de deepfakes din lume (și cel mai în strânsă legătură cu pornografia AI), mai degrabă decât implementări mai puțin frecventate, cum ar fi FaceSwap, care are o reputație mai bună, deși efectuează exact aceleași sarcini ca DFL.

Până la un anumit punct, această abordare poate fi singura modalitate în care Colab ar fi putut implementa orice restricție asupra producției de pornografie deepfake, deoarece procesul real de antrenare a deepfake utilizează doar software open source și imagini cu fețe tăiate (de obicei la doar 512x512px, adesea mai puțin), cu aproape zero posibilitate ca algoritmii de recunoaștere a imaginilor să intercepteze vreun conținut pornografic real.

Prin momentul în care modelul deepfake este antrenat, deepfaker nu mai are nevoie de puterea de procesare enormă a Colab sau de un GPU local scump. Majoritatea conversiilor reale (adică procesul de impunere a unei fețe într-un video, pornografic sau nu), pot fi realizate local, pe GPU-uri de laptop cu putere redusă – sau chiar pe un CPU (cu un timp de procesare puțin mai lung). Până în momentul în care se întâmplă ceva pornografic în procesul deepfake, Colab a fost de mult eliminat din imagine.

Prin urmare, elementele constitutive care trec între creatorii de pornografie deepfake rareori reprezintă mai mult decât o posibilă încălcare minoră a drepturilor de autor, sub forma “seturilor de fețe”, pe care creatorii de deepfakes le-au extras din videoclipuri de pe YouTube, Blu-ray, interviuri televizate, rețele sociale și diverse alte surse.

Vine o Politică “Pământ Arzător” pentru Comunitățile Deepfake?

Întrebarea care bântuie locuitorii comunităților Discord deepfake, cum ar fi DeepFaceLab (inclusiv DeepFaceLive), FaceSwap, Machine Video Editor (MVE, un mediu GUI-based pentru DFL, cu multe caracteristici adăugate), și noi servere Discord audio deepfake, cum ar fi Audio Deepfakes este vor interzice în curând proprietarii de portal și platformă comunitățile deepfake pe principiu, mai degrabă decât să suporte cheltuielile cu moderarea constantă împotriva unei valuri de adepți și creatori NSFW?

Bryan Lyon, unul dintre dezvoltatorii FaceSwap și proprietarul serverului Discord asociat, a comentat^†:

‘Am reușit să rămânem pe Discord, în ciuda mai multor epurări, rămânând absolut curați. Nu avem canale ascunse sau un al doilea server secret cu conținut ilicit. A fost o epurare a serverului popular DeepFaceLab acum câțiva ani. Toată lumea de pe el a fost interzisă. Aveau roluri cu invitație cu acces la canale cu pornografie non-consensuală.’

Având în vedere că Google, una dintre cele mai mari resurse tehnologice de găzduire din lume, a interzis cu blândețe antrenamentul deepfake pe serverele și GPU-urile sale, este posibil ca GitHub, deținut de Microsoft, să decidă că facilitarea acestor tehnologii* va fi, în cele din urmă, nu va fi valoroasă morală sau investiția în supraveghere.

În acest moment, procesul de legitimizare a tehnologiilor deepfake, astfel încât utilizarea lor să treacă de la pornografie casnică spre producția de filme și televiziune și utilizări neinfrinctoare/criminale, este prea în curs de dezvoltare pentru a produce linii directoare clare de politică pentru platforme și servicii de găzduire a comunității.

* Arhivă a https://github.com/search?q=deepfake de luni, 13 iunie 2022.
† În DM-uri private pe Discord.

Publicat pentru prima dată pe 13 iunie 2022. Editat 3:08 PM UTC pentru amendarea imaginii.
Amendat marți, 14 iunie 2022 6:24am UTC, pentru a adăuga răspunsul moderatorului Reddit cu privire la statutul NSFW al unor postatori. De asemenea, amendarea imaginii ilustrației fluxurilor RSS.