Tillögur um Deepfake reglugerðir í Evrópu og Bretlandi eru furðu takmarkaðar

Greining Fyrir baráttumenn sem vona að 2022 gæti verið árið sem djúpfalsað myndefni falli undir strangari lagasvið, eru fyrstu vísbendingar óvænlegar.

Síðastliðinn fimmtudag var Evrópuþingið fullgiltur breytingar á lögum um stafræna þjónustu (DSA, sem á að taka gildi árið 2023), að því er varðar dreifingu djúpfalsa. Breytingarnar taka á djúpum fölsunum í tveimur köflum, sem hver um sig tengist beint auglýsingum á netinu: breyting 1709 sem snýr að 30. grein, og tengd breyting á 63. gr.

Sú fyrsta leggur til alveg nýja grein 30a, titill Djúpar falsanir, sem segir:

„Þegar mjög stór vettvangur á netinu verður meðvitaður um að efnishluti er mynd-, hljóð- eða myndbandsefni sem er búið til eða meðhöndlað sem líkist umtalsvert núverandi einstaklingum, hlutum, stöðum eða öðrum aðilum eða atburðum og virðist manni ranglega vera ósvikið eða satt (djúpar falsanir) skal veitandinn merkja efnið á þann hátt að það upplýsi að efnið sé óeðlilegt og að það sé vel sýnilegt fyrir viðtakanda þjónustunnar.“

Hin síðari bætir texta við núverandi grein 63, sem sjálf snýst aðallega um að auka gagnsæi stórra auglýsingakerfa. Viðeigandi texti hljóðar svo:

"Að auki ættu mjög stórir netkerfi að merkja öll þekkt djúp fölsuð myndbönd, hljóð eða aðrar skrár."

Í raun virðist löggjöfin vera að undirbúa vaxandi framkvæmd „lögmætra djúpfalsa“, þar sem leyfi hefur verið veittur og réttindi tryggð fyrir andlitsskipti í kynningar- eða auglýsingaefni – eins og rússneska símafyrirtækið Telefon leyfisskyld notkun af auðkenni Bruce Willis í nýlegri auglýsingaherferð.

Hik við að setja lög

DSA virðist enn sem komið er ekki taka á áhyggjum baráttumanna vegna notkunar djúpfalsatækni eins og þær eru algengast - til að endurvarpa klámmyndböndum. Hún fjallar heldur ekki um að hvaða marki, ef eitthvað er, þarf að afneita væntanlegum notkun djúpfalsa í kvikmyndum og sjónvarpi fyrir áhorfendum á sama hátt og djúpfalsanir í auglýsingum verða, að minnsta kosti í ESB, frá 2023.

Fullgildingarferlið fyrir DSA fer nú yfir í samningaviðræður við aðildarríki ESB, ásamt víðtækara gildissviði laga um stafræna markaði (DMA).

desember 2020 hjá Europol tilkynna Illgjarn notkun og misnotkun á gervigreind fullyrti að það væru mistök af ESB að taka á tiltekinni núverandi djúpfalsa tækni (ss DeepFaceLive), sem gæti leitt til þess að lög ESB spili sífellt upp á nýjustu ramma eða aðferð.

The tilkynna sagði:

„Sérstaklega ættu þessar stefnur að vera tæknivitlausar til að vera árangursríkar til lengri tíma litið og til að forðast að þurfa að endurskoða og skipta um þær reglulega eftir því sem tæknin á bak við sköpun og misnotkun djúpfalsa þróast.

„Slíkar ráðstafanir ættu samt sem áður einnig að forðast að hindra jákvæða beitingu GAN.

Lokaorð í tilvitnuninni hér að ofan, varðandi Generative andstæðingur net (GANs) einkennir í stórum dráttum hik í Evrópu og Norður-Ameríku við að beita lögum sem gætu hamlað vaxandi gervigreindarrannsóknargeiranum sem þegar er talinn vera falla á eftir Asíu (hverra fræðiþjóðir hafa verið fær um að flýta fyrir djúpfalinni löggjöf).

Til dæmis, 2018 tilkynna frá bresku valnefndinni um gervigreind í House of Lords leggur margfalt áherslu á hættuna á því að leyfa feimni að halda aftur af gervigreindarþróun í þjóðinni, sem dæmi um í titli þess: gervigreind í Bretlandi: tilbúin, viljug og fær?. Í apríl síðastliðnum varð Bretland einnig fyrsta landið til að grænt ljós á dreifinguna af sjálfkeyrandi bílum á hraðbrautum.

Ameríka er ekki síður ákafur; í Bandaríkjunum hefur The Brookings Institution hvatti þörfin fyrir aukna löggjöf um gervigreind í Bandaríkjunum, sem svíður löggjafa fyrir að „bíða og sjá“ afstöðu þeirra til afleiðinga vélanámstækninnar.

Fyrir utan fáránlega nálgun DSA til að takast á við félagslegar (frekar en pólitískar) áhyggjur í tengslum við djúpfalsanir, er ESB fyrirhugað regluverk fyrir gervigreind, gefin út í apríl 2021, sætti skjótri gagnrýni fyrir eigin undanskot frá umræðuefninu.

Scant Deepfake reglugerð í Bretlandi

Sem frekari vonbrigði fyrir baráttumenn gegn djúpfalsun eins og rithöfundinum Helen Mort, sem barðist áberandi fyrir nýja breska löggjöf árið 2021 eftir að hafa verið sýnd án samþykkis í klámrænum djúpfölsuðum myndböndum, skýrsla sem gefin var út í dag af stafrænni, menningar-, fjölmiðla- og íþróttanefnd breska þingsins. gagnrýnir bresku ríkisstjórninni fyrir að bregðast ekki við djúpfalsunum í Drög að öryggisfrumvarpi á netinu.

Með vísan til núverandi lagalegra úrræða frumvarpsdröganna gegn djúpfalinni misnotkun sem „óljós og óhagkvæm“, segir tilkynna bendir til þess að fyrirhuguð löggjöf geri ekkert til að taka á „löglegri en skaðlegri“ stöðu klámmynda- og myndvinnsluaðferða með aðstoð gervigreindar:

„[Við] mælum með því að stjórnvöld taki fyrirbyggjandi á tegundum efnis sem er tæknilega löglegt, svo sem lævísum hlutum barnaníðinga eins og brauðmola og tegunda ofbeldis á netinu gegn og konum og stúlkum eins og tæknivæddu „nektum“ á konum og djúpgervingu klámi. , með því að færa þau inn í gildissvið annað hvort með frumlögum eða sem tegundir skaðlegs efnis sem falla undir umönnunarskyldur.“

Núgildandi lög í Bretlandi einskorðast við dreifingu á „raunverulegum“ myndum, eins og tilvik um hefndarklám, þar sem, til dæmis, trúnaðarmál og skýrt einkaefni er deilt opinberlega af fyrrverandi maka. Ef ofsækjandi framkvæmir og birtir djúpfalsað efni sem setur sjálfsmynd „markmiðs“ þeirra ofan í klámfengið efni, er aðeins hægt að sækja hann til saka, annað hvort ef hann áreitir skotmarkið beint með því að beina efninu að þeim, eða samkvæmt höfundarréttartengdum lögum.

Í fyrra tilvikinu þýðir það hversu auðvelt nýtt djúpfalsað efni safnar athygli og áhorfendum nær óhjákvæmilega að fórnarlambið verði upplýst af áhyggjufullum vinum eða ótengdum þriðju aðilum, frekar en af ​​þeim sem djúpfalsaði það, sem leyfir veiruvirkni slíks efnis að vernda djúpfalskarinn, en verk hans „nær enn markmiðinu“.

Í síðara tilvikinu væri ákæra aðeins framkvæmanlegt þar sem klámmyndband frá þriðja aðila sem ekki er læknir (þar sem sjálfsmynd fórnarlambsins er síðar sett ofan á) er faglega framleitt og löglega varið undir bresku höfundarréttarléni (jafnvel þó að viðeigandi myndband sé fengið ókeypis frá hvaða lögsögu sem er í heiminum). „Amatör“ myndband frá hvaða lögsögu sem er skortir skýra höfundarréttarstöðu og sérsniðið myndband sem djúpfalsmaðurinn hefur tekið sérstaklega til að setja fórnarlambið ofan í er (kaldhæðnislegt) sjálft verndað samkvæmt höfundarréttarlögum, svo framarlega sem það er í samræmi við önnur lög.

Behind the Curve

Í desember 2021 laganefnd Bretlands fyrirhuguð að útvíkka lög um hatursorðræðu til að ná yfir kynferðislegan fjandskap, en lagði ekki til að djúpfalsanir yrðu teknar upp í þennan flokk, þrátt fyrir mörg dæmi um slíka notkun um allan heim (sérstaklega á Indlandi) af þeirri tækni sem verið er að vopna gegn kvenkyns stjórnmálamönnum og kvenkyns aðgerðarsinnum. Konur eru yfirgnæfandi skotmark ólöglegs djúpfalsaðs efnis, hvort sem hvatir falsaranna eru augljóslega félagslegar (þ.e. ætlunin að niðurlægja, afnema vettvang og gera afmögnun) eða einfaldlega skynsamlegar (þ.e. klámfengnar) í eðli sínu.

Í mars 2021 National Law Review sem byggir á Illinois tók lagaumgjörð Bretlands til verks sem „alveg ófullnægjandi um þessar mundir til að takast á við djúpfalsanir“ og jafnvel skortur á grundvallar lagalegum aðferðum sem vernda líkingu einstaklings.

Deepfake lög í Bandaríkjunum

Aftur á móti vernda Bandaríkin að einhverju leyti „kynningarrétt“ borgara sinna, þó ekki á alríkisstigi (sem stendur eru slíkar samþykktir til í um það bil helmingur bandarískra ríkja, með mjög mismunandi lagafyrirkomulagi).

Þó að frammistaða Bretlands í djúpfalsðri löggjöf hafi batnað, geta Bandaríkin aðeins státað af óreglulegri umfjöllun í hverju ríki og virðast staðráðin í að takast á við tæknina. möguleika á pólitískri meðferð áður en að lokum komist að áhrifum þess á einstaklinga.

Árið 2019 Texas fylki útlægur stofnun eða útbreiðslu pólitísk deepfakes, með öldungadeild Texas Bill 751 (SB751), að sleppa allri fullyrðingu um djúpfalsað klám. Sama ár bætti Virginia fylki við breyting til gildandi laga varðandi Ólögmæt miðlun eða sala á myndum af öðrum, sem bætir við hugtakinu sem nær yfir í stórum dráttum „fallega búið til myndbands- eða kyrrmynd“.

Árið 2020 samþykkti Kaliforníuríki Þingfrumvarp Kaliforníu 602 (AB 602) banna myndun eða dreifingu á klámfengnum djúpfalsa. Frumvarpið hefur engin sólarlagsákvæði, en fyrningarfrestur er til þriggja ára, og henni fylgir sérstakt ákvæði sem tekur til pólitískra djúpfalsa.

Í lok árs 2020 gekk New York fylki öldungadeild Bill S5959D, sem bannar ekki aðeins stofnun og/eða endurbirtingu á klámrænum djúpum fölskum, heldur verndar virkan rétt notanda til kynningar í tengslum við tölvugerðar líking með djúpfalsunum, CGI eða öðrum hætti, jafnvel eftir dauðann (ef viðkomandi var heimilisfastur í New York þegar hann lést).

Að lokum hefur Maryland-ríki breytt lög um barnaklám til að ná yfir og refsa notkun djúpfalsa, þó ekki sé fjallað um áhrif djúpfalsa á fullorðna skotmörk.

Bíð eftir 'DeepfakeGate'

Sagan bendir til þess að skaðinn sem ný tækni getur valdið hljóti að verða Starfsfólk til þjóðar til að hraða viðbrögðum hennar við löggjafarvaldið. Hið allra nýlega andlát unglingsstúlku í Egyptalandi sem sagt var að verið væri að kúga með djúpu fölsku klámi af sjálfri sér hefur fengið takmarkaða umfjöllun í vestrænum fjölmiðlum*, á meðan uppljóstranir um þjófnað á 35 milljónum dala í Sameinuðu arabísku furstadæmunum, sem kom í ljós árið 2021, tákna einnig „fjarlægan atburð“ sem er ekki líklegt til að flýta fyrir öldungadeildinni, eða kveikja eld undir þeim 45 ríkjum sem eftir eru sem hafa ekki enn sett djúpfalsaða löggjöf.

Ef Bandaríkin tileinka sér meiri sameiningu í kringum misnotkun á djúpfalsatækni, myndi víðtæk löggjöf líklega hafa áhrif á stjórnunarþátt fjarskipta og gagnainnviða og geymslu, sem leiða til skjótra stefnubreytinga sem gerðar eru á viðskiptafélaga þeirra um allan heim. Sú staðreynd að upptaka Evrópu á GDPR fór ekki á endanum yfir í stefnu Norður-Ameríku um gagnasöfnun og varðveislu þýðir ekki að ESB gæti ekki á sama hátt öðlast skiptimynt yfir þær þjóðir sem ekki uppfylla reglur sem það á viðskipti við - ef það þyrfti einhvern tíma ákveðnari afstöðu löggjafarvaldsins um myndun, geymslu og varðveislu djúpfalins kláms.

En eitthvað verður að gerast á „ground zero“ fyrst, í einum af þessum fremstu hópum ríkja; og við erum enn að bíða eftir því: gríðarmikið myrkurnet af CSAM af yfirvöldum; meiriháttar rán sem notar hljóð- og/eða myndbandsbundna djúpfalsunartækni til að blekkja American forstöðumaður fyrirtækis til að misbeina mjög stórum fjárhæðum; eða amerískt jafngildi vaxandi notkun djúpfalsa til að gera konur að fórnarlömbum í feðraveldisríkjum löndum (ef, í raun og veru, bandarísk menning er raunverulega útbúin til að spegla þessa atburði, sem er vafasamt). Þetta er erfitt að óska ​​eftir og gott að forðast með því einhver önnur aðferð en að stinga höfðinu í sandinn, eða bíða eftir „íkveikju“ atburði.

Eitt meginvandamál, sem ESB er nú að víkja sér undan með því að beina löggjafarhæfileikum sínum að auglýsingafyrirtækjum sem vilja að stuðla að snjöllum og lögmætum djúpfalsverkum sínum, er að djúpfalsanir séu áfram erfitt að koma auga á algrím; flestar hellingur af uppgötvunaraðferðum sem koma upp á arXiv í hverjum mánuði eru háðar vatnsmerkjum, sannprófun sem byggir á blockchain eða á einhvern hátt að breyta öllum innviðum sem við notum nú til frjálsrar neyslu myndbanda – lausnir sem fela í sér róttæka lagalega endurskoðun á hugmyndinni um myndband sem umboð fyrir „sannleika“. Afgangurinn er reglulega umfram áframhaldandi framfarir í vinsælum opnum djúpfalsuðum geymslum.

Annað vandamál er að helstu vestrænu þjóðirnar hafa alveg rétt fyrir sér, í einum skilningi, að bjóða ekki upp á hnéskel við einum erfiðum þætti í fjölda nýrrar gervigreindartækni, sem margar hverjar lofa gífurlegum ávinningi fyrir samfélagið og atvinnulífið, og mörg þeirra gætu orðið fyrir skaðlegum áhrifum á einhvern hátt ef sjóðheit og eftirlit með myndmyndunarkerfum hæfist af alvöru, til að bregðast við stórviðburði og upphrópunum í kjölfarið.

Hins vegar gæti verið góð hugmynd að flýta að minnsta kosti hæga og stundum stefnulausu göngunni sem við erum að fara í átt að reglusetningu á djúpfalsunum, og mæta hugsanlegum vandamálum í miðjunni, og á okkar eigin forsendum, í stað þess að vera þvinguð af síðari atburðir í minna yfirvegað svar.

* Hinir meintu gerendur eru ákærðir fyrir fjárkúgun; það eru engin egypsk lög sem ná yfir djúpfalsað klám.

Fyrst birt 24. janúar 2022.