Reddit Civata Deepfake ya 'SFW' qedexe dike

Di dawiya hefteyê de, xuya ye ku dora Yekşemê, Reddit bi navgîniya 'SFW' (Ji Karê Ewle) civata kûrên bi navê r/deepfakesfw qedexe kir. Subreddit yek ji wan bersivên destpêkê bû ku li ser bileziya medya civakî bû jêbirin ya orîjînal, di sala 2018-an de r/deepfakes-a-porno-siwarkirî ye.

Efsaneya (bi nisbetî) boyler-plate ku naha silav dike (wêneya arşîvê ku Duşemê, 13ê Hezîranê hatî kişandin) her kesê ku serdana jêrê dike diyar dike ku ew 'ji ber binpêkirina Reddit'ê hate qedexekirin Rêbazan li dijî pornografiya bê îrade'.

Rûpelê pêşî yê nû ji bo r/deepfakesfw.

Sub r/deepfakesfw bi gelemperî ji hêla platformên parastinê yên populer ve nehat arşîv kirin, lê ya herî zêde wêneya dawî ya WayBack Machine, ku dora deh roj berê (di 3-ê Hezîrana 2022-an de) hatî kişandin, destnîşan dike ku di wê demê de 3,095 xwendevan hebûn.

Ew bi rastî hejmarek ji aboneyan zêdetir e r / DeepFakesSFW (têbînî 'yên' zêde), ya ku niha heye Xwendevanên 2,827 (Wêneya arşîvê ya Duşemê, 13 Hezîran, 2022 hatiye kişandin). Civata SFW-ya kûr a "meşrû" ya herî populer ya nuha xuya dike r/SFWdeepfakes, ku di dema nivîsandinê de heye Xwendevanên 16,636 (wêneya wêneya Duşemê, 13 Hezîran, 2022 hatiye kişandin).

Tewra Nepirsin

Tiştê ku dixuye ku r/deepfakesfw mehkûm kiriye ne şandin lê ew bû daxwaz kirin pornografiya kûr. Rêzikên Reddit li ser Medyaya Cinsîyet eşkere diyar dikin:

'[Wêne] an vîdyoya kesek din ku ji bo mebesta taybetî sextekirina naveroka eşkere an daxwazkirina pornografiya "xuyakirî" (mînak "deepfakes" an "pornoya bubble") hatî şandin jî li dijî Qanûnê ye.'

Li ser bingeha RSS-ên paşîn ên berdest ên ji jêrzemîna SFW-ya nuha-qedexekirî ye, ew daxwaz ji şandina naveroka kûr-fake NSFW-ê ye ku di dawiyê de dest bi qedexekirinê kiriye:

Hin peyamên paşîn, eşkere NSFW ji subreddit-a nuha mirî ya r/deepfakesfw. Çavkanî: Inoreader.

Her çend postên ku van postên RSS îşaret pê dikin êdî ne berdest in, lê klîkkirina lînkên profîla daxwazkeran (di wêneya li jor de hatî xuyang kirin) diyar dike ku gelek ji posteran li zêdetirî yek forumê naveroka kûr-fake ya qedexekirî daxwaz dikin, û an daxwaz dikin an pêşkêş dikin. hin ji naveroka herî tund a bi vî rengî, di nav de pornoya ensest û cûrbecûr mijarên pornografîk ên neçar.

Ev destnîşan dike ku subên Reddit yên mayî yên 'SFW' bi lez, xîret û demên bersivdayînê yên bilez ên moderatorên xwe sax dimînin, ji ber ku wusa dixuye ku Reddit ne amade ye ku bibe celebek forûmek 'reklama nepenî' ku mirov bi navgîniya kûrahiyên neqanûnî ve girêbide û danûstandinê bike. DM (di rewşên ku ev yek bi eşkere di postek de nayê xwestin).

Ger wusa be, wê hingê r/DeepFakesSFW-ya ku hîna nehatiye qedexekirin dibe ku di dema deynkirî de bijî; du postên wê yên jorîn ên heyî dema ku têkevin URL-ya root ya subreddit ya ku bi mijara Reddit 'kevn' ve hatî çalak kirin bi taybetî 'NSFW' hatine nîşankirin (tagek ku tê texmîn kirin ku di vê civata taybetî de jî tune be).

Bi şert û mercan ve girêdayî, hin postên qaîde-şikandina naha di bin r/DeepFakesSFW de xuya dibin. Çavkanî: https://www.reddit.com/r/DeepFakesSFW/

Hûn dikarin van her du postên NSFW-ê bibînin ku îro li ser foruma r/DeepFakesSFW-ya arşîvkirî ye. vir (wêneya wêneya Duşemê, 13 Hezîran, 2022 hatiye kişandin).

Bi rastî, dema ku li r/DeepFakesSFW, ku çar sal in xebitî ye, li gorî agahdariya kêleka wê, postek nû çêdikin, 'xemgîniyek' NSFW tune:

Dema ku ji r/DeepFakesSFW re dişînin, 'flair' hene.

Ji ber vê yekê NSFW etîketên li r/DeepFakesSFW dixuye ku ji hêla moderatorên li forumê ve an ji hêla rêveberên asta bilind ve hatine sepandin - an jî algorîtmayan jî, dibe ku bêyî destwerdan an dijberiya berdest ji hêla moderatorên herêmî ve. Min li ser vê yekê xwe gihand moderatorê yekane yê navnîşkirî yê r/DeepFakesSFW, û ez ê her nûvekirinên berdest bişînim.

(EDIT, Sêşem, 14 Hezîran, 2022 - Moderatorek li r/DeepFakesSFW bersiv da, û got 'Wusa dixuye ku dema ku hesabê bikarhêner NSFW be çêdibe. Ji ber vê yekê tenê awayê ku meriv îhtîmala daxwazên wusa di subredditên kûr ên SFW de hêdî bike dê ji ber vê yekê qedexekirina bikarhênerên ku ev dabeşkirin 'qezenc kirine' be.)

Piraniya naverokê di vê subredditê de, û di r/SFWdeepfakes mezintir de bi karanîna teknolojiya deepfake ve têkildar e ku lîstikvanên ji fîlimên populer an klasîk 'ji nû ve xêzkirin', an wekî din bi medyaya populer û teknolojiya kûr-deepfake re kêfek bêtir bêguneh a AI-ê heye. û bi rastî jî wekî 'SFW' binirxînin.

Her çend gelek postên weha bi xeternak nêzikî qedexeyên bi mafparêziyê dibin jî, berdewamiya zindîbûna postên vîdyoyên kûr-fake yên ne-porno yên 'IP-xwedî' yên ji hêla kûrrûbirên sereke yên YouTube-ê yên wekî Ctrl-Shift-Face ve, stûdyoyek berfireh û toleransa xwediyê mafan li hember pêşniyar dike. çalakiyên wiha, qet nebe ji bo niha.

Xuyabûna 'Bêguneh' ya Pêvajoya Deepfake û Ekostrukturê

Du hefte berê ew derket holê (û pir nîqaş) ku Google ji nişka ve nermalava çêkirina kûr-fake ji hawîrdorên xwe yên navdar ên hilberîna ewr Colab qedexe kiribû. Tewra heya roja îro, Colab bi eşkere tenê ji hêla hewildanên xebitandinê ve tê 'tehf kirin' DeepFaceLab (DFL), nermalava kûrtirîn a herî populer a li cîhanê (û ya herî zêde ji nêz ve bi porneya AI-ê ve girêdayî ye), ji bilî pêkanînên kêm-frekandî yên wekî guhastina rû, ku baştir-navûdeng e, her çend ew tam heman karan wekî DFL pêk tîne.

Heta radeyekê, ev nêzîkatî dibe ku tenê riya ku Colab dikaribû bi cih anîbe herçiyek sînordarkirina hilberîna pornografiya kûr-fake, ji ber ku pêvajoya perwerdehiya kûr-fake ya rastîn ji nermalava çavkaniya vekirî û wêneyên rûyê pir-kurtkirî (bi gelemperî bi 512x512px, pir caran kêmtir) tiştek bikar tîne. dilşad.

Wexta ku modela deepfake were perwerde kirin, deepfaker êdî ne hewceyî hêza pêvajoyek mezin a Colab an GPUyek herêmî ya biha ye. Ya herî rast guhertin (ango pêvajoya ferzkirina rûyekî di vîdyoyekê de, pornografîk an wekî din), dikare li herêmê, li ser GPU-yên laptopê yên kêm-hêz - an jî li ser CPU-yê (bi demek pêvajoyek hinekî dirêjtir) pêk were. Wexta ku di pêvajoya kûr-fake de tiştek pornografîk diqewime, Colab ji mêj ve ji wêneyê qut bûye.

Ji ber vê yekê, hêmanên pêkhatî yên ku di navbera afirînerên pornoya kûr-fake de derbas dibin, kêm kêm ji binpêkirinek piçûktir a mafê kopîkirinê zêdetir temsîl dikin, bi awayê derbasbûna 'setên rû', yên ku afirînerên kûr-fake ji vîdyoyên YouTube, Blu-ray, hevpeyivînên televîzyonê derxistine. , medyaya civakî, û çavkaniyên cuda yên din.

Ma Siyaseta 'Erdê Şewitandin' ji bo Civakên Deepfake tê?

Pirsa ku li ser niştecîhên civakên Discord ên kûr-fake yên wekî DeepFaceLab (giştî DeepFaceLive), guhastina rû, Machine Video Editor (MVE, GUI-based jîngeha ji bo DFL, bi gelek taybetmendiyên lêzêdekirî), û pêşkêşkerên Discord-ê yên kûr-bingeha dengî yên nû yên wekî Audio Deepfakes is Ma dê xwediyên portal û platformê yên heyî di demek nêzîk de tenê civakên kûr-fake li ser prensîbê qedexe bikin, li şûna ku lêçûnên nermbûna domdar li hember pêleke pêgirt û afirînerên NSFW bigirin?

Bryan Lyon, yek ji pêşdebirên FaceSwap, û xwedan servera Discord ya têkildar a projeyê, şîrove kir.^†:

'Me tevî çend paqijkirinan, bi paqijiya bêkêmasî ya qijik ve karî em li ser Discord bimînin. Me tu kanalên veşartî an serverek duyemîn a veşartî bi naverokek neqanûnî tune. Çend sal berê paqijkirina servera navdar DeepFaceLab hebû. Hemû kesên li ser wê hatin qedexekirin. Rolên wan ên tenê vexwendinê hebûn ku gihîştina kanalên bi pornografiya ne razî ne.'

Ji ber ku Google, bi xwe yek ji mezintirîn çavkaniyên mêvandariya teknolojîk a cîhanê ye, li ser server û GPU-yên xwe perwerdehiya kûr-qedexekirî qedexe kiriye, tewra dibe ku GitHub-a xwedan Microsoft biryar bide ku hêsankirina van teknolojiyên* dê di dawiyê de ne hêjayî nezelaliya exlaqî an veberhênana çavdêriyê be.

Di vê demê de, pêvajoya meşrûkirina teknolojiyên derewîn ên kûr, da ku karanîna wan ji porneya malxwê ber bi hilberîna fîlim û TV-yê, û karanîna neyên binpêkirin/sûcdar derbas bibe, pir nû ye ku ji bo platforman û karûbarên mêvandar ên civakê rêwerzên polîtîkaya zelal derxe holê.

* Arşîva https://github.com/search?q=deepfake ji Duşemê, 13 Hezîran, 2022.
† Di DM-yên taybet de li ser Discord.

Yekem di 13-ê Hezîrana 2022-an de hate weşandin. Ji bo guhertina wêneyê 3:08 PM UTC hate guherandin.
Sêşemê, 14ê Hezîrana 2022, 6:24 danê sibê UTC, hate guherandin, da ku bersiva moderatorê Reddit di derbarê rewşa NSFW ya hin posteran de zêde bike. Di heman demê de wêneyê li ser nimûneya fêdeyên RSS-ê jî biguhezînin.