Euroopan ja UK:n deepfake-sääntelyehdotukset ovat yllättävän rajoittuneita

Analyysi Kampanjoitsijoille, jotka toivoivat, että vuosi 2022 voisi olla se vuosi, jolloin deepfaked-kuvat joutuvat tiukemman lainsäädännön alaiseksi, varhaiset merkinnät ovat epälupauksellisia.

Viime torstaina Euroopan parlamentti vahvisti muutokset Digitaalisten palvelujen laissa (DSA, joka tulee voimaan vuonna 2023), deepfaken levittämistä koskien. Muutokset koskevat deepfakeja kahteen kohtaan, jotka liittyvät suoraan verkkomainontaan: muutos 1709, joka liittyy artikkeliin 30, ja liittyvä muutos artikkeliin 63.

Ensimmäinen ehdottaa täysin uutta artiklaa 30a, joka on otsikoitu Deep fakes, ja joka kuuluu:

‘Jos erittäin suuri verkkopalvelu tulee tietoiseksi siitä, että sisältö on luotu tai muokattu kuva-, ääni- tai videomateriaali, joka muistuttaa olennaisesti olemassa olevia henkilöitä, esineitä, paikkoja tai muita entiteettejä tai tapahtumia ja joka vaikuttaa henkilölle aidolta ja totuudenmukaiselta (deep fakes), palveluntarjoaja on merkittävä sisältö tavalla, joka ilmoittaa, että sisältö on epäaidosti ja joka on selvästi näkyvissä palvelun vastaanottajalle.’

Toinen lisää tekstiä olemassa olevaan artikkeliin 63, joka on pääasiassa huolissaan suurten mainospalvelujen avoimuuden lisäämisestä. Asiaankuuluvaa tekstiä on:

‘Lisäksi erittäin suuret verkkopalvelut tulisi merkitä kaikki tunnetut deep fake -videot, ääni- tai muut tiedostot.’

Vaikuttavasti lainsäädäntö näyttää valmistautuvan kasvavan “legitiimien deepfaken” käytännön, jossa on annettu lupa ja turvattu oikeudet kasvojen vaihtamiseen mainos- tai promootiomateriaalissa – kuten venäläisen telco Telefonin lisensoitu käyttö Bruce Willisin identiteetistä äskettäisessä mainoskampanjassa.

Epäröinti sääntelyä

DSA ei näytä osoittavan kampanjoiden huolia deepfake-tekniikoiden käytöstä, kuten ne yleisimmin käytetään – pornografia-videoiden uudelleenjärjestämiseen. Se ei myöskään osoita, miten laajasti odottamaton käyttö deepfakes-elokuvissa ja televisiossa vaatii paljastamista katsojille samalla tavalla kuin deepfakes-mainonnassa, ainakin EU:ssa, vuodesta 2023 lähtien.

DSA:n vahvistusprosessi siirtyy nyt neuvotteluun EU:n jäsenvaltioiden kanssa, yhdessä laajemman Digitaalisten markkinoiden lain (DMA) kanssa.

Europolin joulukuun 2020 raportti Malicious Uses and Abuses of Artificial Intelligence väitti, että se olisi virhe EU:lle osoittaa tiettyjä nykyisiä deepfake-tekniikoita (kuten DeepFaceLive), mikä johtaisi siihen, että EU:n laki joutuisi jatkuvasti pitämään perässä uusimpia kehyksiä tai menetelmiä.

Raportti totesi:

‘Erityisesti, nämä käytännöt tulisi olla teknologianeutraaleja, jotta ne olisivat tehokkaita pitkällä aikavälillä ja välttääkseen tarpeen tarkastella ja korvata näitä säännöksiä säännöllisesti, kun deepfaken luomisen ja väärinkäytön taustalla oleva teknologia kehittyy. ‘

‘Kuitenkin, tällaiset toimenpiteet tulisi myös välttää estämästä positiivisia sovelluksia GAN:eista.’

Yllä olevan lainauskokouksen lopputeos, joka liittyy Generative Adversarial Networks (GANs) laajasti kuvaa Euroopan ja Pohjois-Amerikan epäröintiä soveltaa lakeja, jotka voivat rajoittaa nousevaa AI-tutkimuksen alaa, joka jo nyt nähdään jäävän jälkeen Aasiasta (jonka enemmän didaktiset valtiot ovat pystyneet nopeasti kiertämään deepfake-lainsäädännön).

Esimerkiksi vuoden 2018 raportti Yhdistyneen kuningaskunnan valituista komiteoista, jotka koskevat tekoälyä, korostaa useita kertoja riskiä, joka liittyy siihen, että varovaisuus jarruttaa AI-kehitystä maassa, esimerkiksi sen otsikossa: AI in the UK: ready, willing and able?. Viime huhtikuussa Britannia oli myös ensimmäinen maa, joka antoi vihreän valon itsestään ohjautuvien autojen käytölle moottoriteillä.

Amerikka ei ole vähemmän innostunut; Yhdysvalloissa Brookings-instituutti on kehottanut lisää lainsäädäntöä AI:lle Yhdysvalloissa, moittien lainsäätäjiä heidän “odota ja näe” -asenteestaan koneoppimisen teknologioiden vaikutuksista.

Lisäksi DSA:n heikko lähestymistapa deepfake-kysymyksiin, EU:n ehdotettu sääntelykehyksensä AI:lle, joka julkaistiin huhtikuussa 2021, kärsi nopeasti kritiikkiä oman lähestymistapansa puutteesta aiheeseen.

Riittämätön deepfake-sääntely Yhdistyneessä kuningaskunnassa

Lisäpettymys anti-deepfake-kampanjoitsijoille, kuten kirjailija Helen Mort, joka kampanjoi näkyvästi uuden Yhdistyneen kuningaskunnan lainsäädännön puolesta vuonna 2021, sen jälkeen, kun hänet esittettiin suostumuksetta pornografisissa deepfake-videossa, Yhdistyneen kuningaskunnan parlamentin digitaalisen, kulttuurin, median ja urheilun komitean raportti, joka julkaistiin tänään, moittii Yhdistyneen kuningaskunnan hallitusta siitä, ettei se ole osoittanut deepfakeja Luonnos verkkoturvallisuuslaista.

Viitatessa luonnoksen oikeudellista korjaamista deepfake-väärinkäytöksiin, raportti ehdottaa, että ehdotettu lainsäädäntö ei tee mitään “laillisen, mutta haitallisen” aseman korjaamiseksi AI-välineisten pornografisten video- ja kuvamanipulaatiotekniikoiden osalta:

‘[Me] suosittelemme, että hallitus ottaa aktiivisesti käsiteltäväksi sisällön tyypit, jotka ovat teknisesti laillisia, kuten ilkeät osat lasten hyväksikäytön jaksot, kuten breadcrumbing ja tietynlainen verkkoväkivalta naisia ja tyttöjä kohtaan, kuten teknologiat, jotka mahdollistavat naisten “alastomuuden”, ja deepfake-pornografian, ottamalla ne laajempaan lainsäädäntöön joko ensisijaisen lainsäädännön kautta tai sisällyttämällä ne haitallisten sisältöjen luokkaan, josta huolehditaan.’

Nykyinen sovellettava laki Yhdistyneessä kuningaskunnassa rajoittuu “oikeiden” kuvien levittämiseen, kuten tapauksissa, joissa yksityisiä ja luottamuksellisia kuvia jaetaan julkisesti entisen kumppanin toimesta. Jos kiusaaja luo ja levittää deepfake-materiaalia, joka yhdistää uhriksi valitun henkilön identiteetin pornografiseen sisältöön, häntä voidaan syyttää vain, jos hän suoraan häirintää kohdistaa uhriin, tai tekijänoikeuksiin liittyvän lainsäädännön nojalla.

Ensimmäisessä tapauksessa uuden deepfake-sisällön leviäminen ja kerääminen saa aikaan sen, että uhri kuulee asiasta huolissaan olevilta ystäviltä tai muilta kolmansilta osapuolilta, eikä suoraan henkilöltä, joka loi deepfaken, mikä mahdollistaa deepfaken leviämisen ja suojaa deepfaken tekijää, jonka työ “saavuttaa kohteen”.

Jälkimmäisessä tapauksessa syyte olisi todennäköisesti vain mahdollinen, jos muokkaamaton kolmannen osapuolen pornovideo (johon uhriksi valittu henkilö on myöhemmin yhdistetty) on ammattimaisesti tuotettu ja laillisesti suojattu Yhdistyneen kuningaskunnan tekijänoikeusalueella (vaikka sovelias video voisi olla peräisin vapaasti mistä tahansa laillisesta valtiosta maailmassa). “Amatööri”-video mistä tahansa valtiosta puuttuu selkeä tekijänoikeusstatus, ja räätälöity video, jonka deepfaker on kuvannut nimenomaan yhdistääkseen uhriksi valitun henkilön siihen, on (ironisesti) itse suojattu tekijänoikeuslailla, kunhan se noudattaa muita lakeja.

Jäljessä

Joulukuussa 2021 Yhdistyneen kuningaskunnan lakikomissio ehti esittämään vihamielisyyden lakien laajentamista sukupuoleen perustuvaan vihamielisyyteen, mutta ei ehdottanut deepfaken sisällyttämistä tähän luokkaan, vaikka maailmassa on useita esimerkkejä tämän teknologian käytöstä (erityisesti Intiassa) naispoliitikkoja ja naisaktivisteja vastaan.

Maaliskuussa 2021 Illinoisissa sijaitseva National Law Review arvosteli Yhdistyneen kuningaskunnan oikeudellista kehykstä “täysin riittämättömäksi” deepfaken käsittelemiseksi ja puuttuvan perustavista oikeudellisista mekanismeista, jotka suojaavat henkilön ulkonäköä.

Deepfake-lait Yhdysvalloissa

Toisin kuin Yhdistynyt kuningaskunta, Yhdysvallat suojelee jonkin verran kansalaistensa “julkisuuden oikeutta”, vaikka ei liittovaltion tasolla (tällä hetkellä tällaiset säädökset ovat noin puolessa Yhdysvaltain osavaltioista, joissa on erilaiset oikeudelliset mekanismit).

Vaikka se on parannus Yhdistyneen kuningaskunnan suorituskykyyn deepfake-lainsäädännössä, Yhdysvallat voi vain ylpeillä epäsäännöllisellä, osavaltioittain määritellyllä kattavuudella, ja näyttää olevan päättänyt käsitellä teknologian mahdollista poliittista manipulaatiota ennen kuin se pääsee lopulta käsittelemään sen vaikutusta yksityishenkilöihin.

Vuonna 2019 Texas kielsi poliittisten deepfaken luomisen ja levittämisen, Texasin senaatin lakiehdotuksella 751 (SB751), jättämällä mainitsematta deepfake-pornografian. Samana vuonna Virginia lisäsi muutoksen olemassa olevaan lakiin lailliseen kuva- ja videolevitykseen, liittäen laajaan termeihin “väärennetty videokuva tai -kuva”.

Vuonna 2020 Kalifornian osavaltio hyväksyi California Assembly Bill 602 (AB 602), joka kielsi pornografisten deepfaken luomisen ja levittämisen. Laki ei ole määräaikainen, mutta siinä on kolmen vuoden vanhentumisaika, ja siihen liittyy erillinen pykälä, joka koskee poliittisia deepfakeja.

Vuoden 2020 lopussa New Yorkin osavaltio hyväksyi senaatin lakiehdotuksen S5959D, joka ei ainoastaan kiellä pornografisten deepfaken luomisen ja uudelleenjulkaisemisen, vaan myös suojelee käyttäjän julkisuuden oikeutta tietokoneella luodun kaltaisuuden osalta deepfaken, CGI:n tai minkä tahansa muun keinon kautta, jopa kuoleman jälkeen (jos henkilö, josta on kyse, oli New Yorkin asukas kuollessaan).

Lopulta Maryland on muuttanut lakejaan lasten pornografian osalta kattamaan ja rikoksena käsittelemään deepfaken käytön, vaikka se ei ole osoittanut vaikutuksia aikuisten kohteisiin.

Odotetaan “Deepfake-porttia”

Historia osoittaa, että vahingot, joita uudet teknologiat voivat aiheuttaa, on muututtava henkilökohtaiseksi valtiolle, jotta sen lainsäädäntöreaktio nopeutuu. Erittäin hiljattain nuoren egyptiläisen tytön kuolema, jota oli väitetysti kiristetty deepfake-pornografialla, on saanut vähän huomiota länsimaisissa tiedotusvälineissä*, kun taas paljastukset 35 miljoonan dollarin varastamisesta Yhdistyneissä arabiemiirikunnissa, jotka tulivat julki vuonna 2021, edustavat “etäistä tapahtumaa”, joka ei todennäköisesti kiirehtisi senaattia tai sytyttäisi tulen Yhdysvaltain 45 muun osavaltion jäljillä, joissa deepfake-lainsäädäntöä ei ole vielä toteutettu.

Jos Yhdysvallat ottaa yhtenäisemmän kannan deepfake-tekniikan väärinkäytöstä, laaja lainsäädäntö vaikuttaisi todennäköisesti tietoliikenne- ja tietojen infrastruktuuriin ja varastointiin, johtaisi nopeisiin jäljittämispolitiikkaan, jotka asetettaisiin liikekumppaneille ympäri maailmaa. Se, ettei Euroopan tietosuojalain (GDPR) omaksuminen johtanut Pohjois-Amerikan tietojen keräämiseen ja säilyttämiseen, ei tarkoita, ettei EU voisi saada vaikutusvaltaa vähemmän yhteensopiville valtioille, joilla se kauppaa – jos se ottaa koskaan sitoutuneemman lainsäädäntöaseman deepfake-pornografian luomiseen, varastointiin ja säilyttämiseen.

Mutta jotain on tapahtuvaa “maaliin” ensin, yhdessä näistä johtavista ryhmistä; ja odotamme sitä: valtavan CSAM:n takavarikoinnin viranomaisilla; suuren ryöstön, jossa käytetään ääni- ja / tai videopohjaisia deepfake-tekniikoita pettääkseen Amerikkalaisen yritysjohtajan ohjaamaan suuren määrän rahaa; tai Amerikan vastine kasvavalle käytölle deepfakesia naisten uhkaamiseen patriarkaalisemmissa maissa (jos Yhdysvaltain kulttuuri on todella varustettu heijastamaan näitä tapahtumia, mikä on kyseenalaista). Nämä ovat vaikeita asioita toivottaviksi, ja hyviä asioita välttääkseen mikä tahansa muu keino kuin piiloutuminen tai odottaminen “syttymistä”.

Yksi keskeinen ongelma, jonka EU on parhaillaan kiertämässä ohjaamalla lainsäädäntövoimaansa mainosyrityksiin, jotka haluavat edistää oivallisia ja legitiimejä deepfakeja, on, että deepfakes ovat edelleen vaikeita havaita algoritmien avulla; useimmat viimeaikaisista havaintamenetelmistä, jotka ilmestyvät arXiv:ssä joka kuukausi, riippuvat watermarkingista, blockchain-pohjaisesta verifioinnista tai jollain tavoin muuttavat koko infrastruktuurin, jonka käytämme vapaasti videoita kuluttamaan – ratkaisut, jotka vaativat radikaalia lakimuutosta videon käsitteestä “totuuden” edustajana. Loput joutuvat jatkuvasti jälkeen kehittyvien avoimen lähdekoodin deepfake-arkistojen edelle.

Toinen ongelma on, että suuret länsimaiset valtiot ovat oikein, jossain mielessä, estämättä reagoimasta yksittäiseen ongelmalliseen säikeeseen uusissa AI-tekniikoissa, joista monet lupaavat valtavan hyödyn yhteiskunnalle ja teollisuudelle, ja joista monet voivat joutua haittaan, jos hätäinen kieltäminen ja sääntely kuvansynteesijärjestelmiä alkaisi tosissaan, reagoiden merkittävään tapahtumaan ja sitä seuraavaan kohuun.

Kuitenkin se voisi olla hyvä ajatus nopeuttaa hitaasti ja toisinaan tavoittamatonta askelta, jota otamme deepfaken sääntelyä kohti, ja kohtaamaan mahdolliset ongelmat puolivälissä ja omalla ehdoillamme, sen sijaan, että joudumme myöhemmin tapahtumiin pakotetuksi vähemmän harkitun vastauksen antoon.

* Syytetyt ovat syytteessä kiristyksestä; Egyptissä ei ole lakia, joka koskee deepfake-pornografiaa.

Julkaistu ensimmäisen kerran 24. tammikuuta 2022.