Редит забранува „SFW“ Deepfake заедница

Во текот на викендот, очигледно некаде околу неделата, Редит ја забрани номинално „SFW“ (Безбедно за работа) заедницата за длабоки фејкови со наслов r/deepfakesfw. Subreddit беше еден од првите одговори на барањето на гигантот од социјалните медиуми бришење на оригиналниот, Р/Дипфејкс зафатен со вештачка интелигенција во 2018 година.

Легендата за (релативно) котел-плоча што сега поздравува (слика од архивска слика направена во понеделник, 13 јуни) секој што ја посетува подлогата објаснува дека Беше забранет поради прекршување на Reddit правила против неволната порнографија“.

Новата насловна страница за r/deepfakesfw.

Подот r/deepfakesfw не беше често архивиран од популарните платформи за заштита, но најмногу неодамнешна слика на WayBack Machine, снимен пред околу десет дена (на 3 јуни 2022 година), покажува дека подот имал 3,095 читатели во тоа време.

Тоа е всушност поголем број на претплатници од r/DeepFakesSFW (забележете ги дополнителните 's'), кои моментално ги има Читачи на 2,827 (слика од архивата направена во понеделник, 13 јуни 2022 година). Најпопуларната „легитимна“ заедница на SFW deepfakes се чини дека е моментално r/SFWdeepfakes, што во моментот на пишување има Читачи на 16,636 (слика направена во понеделник, 13 јуни 2022 година).

Дури и не прашувај

Она што се чини дека го осуди r/deepfakesfw не беше објавувањето туку барање на длабока лажна порнографија. Правилата на Reddit за сексуално експлицитни медиуми велат:

„[Слики] или видео на друго лице објавено со специфична цел за лажирање експлицитна содржина или барање „слична“ порнографија (на пр. „deepfakes“ или „bubble порно“) исто така се против Правилото.

Врз основа на последните достапни RSS доводи од сега забранетата под SFW, барањето наместо објавувањето на NSFW deepfake содржина беше она што конечно ја активира забраната:

Некои од последните, јасно NSFW објави од сега веќе мртов подредит r/deepfakesfw. Извор: Inoreader.

Иако објавите на кои посочуваат овие RSS објави повеќе не се достапни, кликнувањето на врските на профилот на барателите (заматени на сликата погоре) открива дека многу од постерите бараат забранета длабока фејк содржина на повеќе од еден форум и или бараат или нудат некои од најекстремните содржини од овој тип, вклучувајќи инцестно порно и разни нијанси на неволни порнографски теми.

Ова сугерира дека преостанатите „SFW“ претплати на Reddit преживуваат со брзината, трудољубивоста и брзото време на одговор на нивните модератори, бидејќи се чини дека Reddit не е подготвен да стане еден вид „класифицирана реклама“ форум за луѓето да се поврзат и да вршат трансакции со нелегитимни длабоки фејкови преку DM (во случаи кога тоа не може експлицитно да се побара во објава).

Ако е така, тогаш сè уште незабранетиот r/DeepFakesSFW можеби живее со позајмено време; неговите две тековни главни објави кога се внесува URL-то на root subreddit со овозможена „старата“ тема на Reddit се специјално означени како „NSFW“ (ознака што веројатно не би требало ни да биде достапна во оваа конкретна заедница).

Во зависност од околностите, некои објави кои прекршуваат правила моментално се појавуваат во подругата r/DeepFakesSFW. Извор: https://www.reddit.com/r/DeepFakesSFW/

Можете да ги видите овие две објави на NSFW кои го надополнуваат денешниот форум r/DeepFakesSFW архивирани овде (слика направена во понеделник, 13 јуни 2022 година).

Всушност, нема достапен „флер“ на NSFW кога правите нова објава на r/DeepFakesSFW, која е оперативна четири години, според информациите од неговата странична лента:

Достапни „флерови“ при објавување на r/DeepFakesSFW.

Затоа NSFW ознаките на r/DeepFakesSFW се чини дека биле применети или од модератори на форумот или од администратори од повисоко ниво - па дури и алгоритми, можеби без каква било интервенција или достапно противење од локалните модератори. За ова се обратив до единствениот наведен модератор на r/DeepFakesSFW и ќе ги објавам сите достапни ажурирања.

(УРЕДИ, вторник, 14 јуни 2022 година – Модератор на r/DeepFakesSFW одговори, изјавувајќи „Се чини дека се случува кога сметката на корисникот е NSFW“. Веројатно единствениот начин да се забави веројатноста за такви барања во SFW deepfake subreddits би бил затоа да се забранат корисниците кои ја „заработиле“ оваа класификација.)

Поголемиот дел од содржината на овој подредит, и на поголемиот r/SFWdeepfakes се занимава со користење на длабока фејк технологија за „прекажување“ на актери од популарни или класични филмови, или на друг начин да се има побезносна забава водена од вештачка интелигенција со популарни медиуми и технологија за длабока фејк. и навистина се квалификува како „SFW“.

И покрај тоа што многу вакви објави се опасно блиску до забраните засновани на авторски права, континуираното преживување на непорно фејк-фејкерите „присвоени од IP“ од големите фејкери на YouTube, како што е Ctrl-Shift-Face, сугерира широко студио и толеранција на имателите на правата. таква активност, барем засега.

„Невиниот“ изглед на процесот и екоструктурата на Deepfake

Пред две недели излезе на виделина (и многу дискусија) дека Google ненадејно го забранил софтверот за создавање длабок фејк од неговите популарни средини за обработка на облак Colab. Дури и до денес, Колаб очигледно е „активиран“ само од обидите да се кандидира DeepFaceLab (DFL), најпопуларниот софтвер за длабоко фејк во светот (и најстариот тесно поврзани со порно со вештачка интелигенција), наместо поретко имплементации како што се Размена на лица, кој е попознат, иако ги извршува токму истите задачи како DFL.

До одреден степен, овој пристап можеби беше единствениот начин што Colab можеше да го спроведе било ограничување на производството на длабока лажна порнографија, бидејќи вистинскиот процес на обука за длабока фејк не користи ништо друго освен софтвер со отворен код и високо исечени слики на лица (обично со само 512x512 пиксели, честопати помалку), со речиси нула можност алгоритмите за препознавање слики да пресретнат каква било вистинска порнографска слика содржина.

До моментот кога ќе се обучи моделот на deepfake, на deepfaker веќе не му е потребна огромната процесорска моќ на Colab или скапиот локален графички процесор. Најактуелни конверзии (т.е. процес на наметнување лице во видео, порнографско или друго), може да се постигне локално, на графички процесори со ниска моќност на лаптоп - или дури и на процесор (со малку подолго време на обработка). До моментот кога било што порнографско се случува во процесот на длабок фејк, Колаб одамна е отсечен од сликата.

Според тоа, составните елементи што минуваат помеѓу креаторите на длабоко фејк порно ретко претставуваат повеќе од потенцијално помало прекршување на авторските права, во форма на пренесување на „сетови на лица“, кои креаторите на длабока фејк ги извлекле од видеата на YouTube, Blu-ray, телевизиските интервјуа. , социјалните медиуми и разни други извори.

Доаѓа ли политика на „изгорена земја“ за Deepfake заедниците?

Прашањето што ги прогонува жителите на deepfake Discord заедниците како што се DeepFaceLab (Вклучувајќи DeepFaceLive), Размена на лица, Машински уредувач на видео (MVE, базиран на GUI средина за DFL, со многу додадени функции), и нови аудио-базирани длабоки фејк сервери Discord како што се Аудио Deepfakes is Дали сегашните сопственици на портали и платформи наскоро едноставно ќе ги забранат длабоките фејк заедници на принцип, наместо да ја сносат сметката на постојаното умереност против бранот приврзаници и креатори на NSFW?

Брајан Лион, еден од развивачите на FaceSwap и сопственик на поврзаниот сервер Discord на проектот, коментираше^†:

„Успеавме да останеме на Discord, и покрај неколкуте чистки, со тоа што останавме апсолутно чисти. Немаме скриени канали или таен втор сервер со недозволена содржина. Имаше чистка на популарниот сервер DeepFaceLab пред неколку години. Сите на него добија забрана. Тие имаа улоги само за покани со пристап до канали со неконсензуална порнографија“.

Со оглед на тоа што Гугл, сам по себе еден од најголемите светски технолошки хостинг ресурси, има целосно забранета обука за длабока фејк на своите сервери и графички процесори, можно е дури и GitHub во сопственост на Мајкрософт да одлучи дека олеснување на овие технологии* на крајот нема да вреди моралната двосмисленост или инвестицијата на надзорот.

Во моментов, процесот на легитимизирање на длабоко лажни технологии, така што нивната употреба транзитира од домашно порно кон филмска и ТВ продукција, и ненавредливи/криминални употреби, е премногу зародиш за да произведе јасни насоки за политики за платформи и услуги за домаќини во заедницата.

* Архива на https://github.com/search?q=deepfake од понеделник, 13 јуни 2022 година.
† Во приватни пораки на Discord.

Прво објавено на 13 јуни 2022 година. Изменето во 3:08 UTC за промена на сликата.
Изменет вторник, 14 јуни 2022 година, 6:24 часот UTC, за да се додаде одговорот на модераторот на Reddit во врска со статусот NSFW на некои постери. Исто така, изменете ја сликата на илустрацијата на RSS доводи.