Euroopan ja UK:n deepfake-sääntelyehdotukset ovat yllättävän rajoitetut

Analyysi Kampanjoiden toivomista, että vuosi 2022 voisi olla vuosi, jolloin deepfake-kuvat pääsevät tiukemman lainsäädännön piiriin, alkuvuoden merkinnät eivät ole lupaavia.

Edellisellä viikolla Euroopan parlamentti vahvisti muutoksia Digitaalisten palvelujen laissa (DSA, joka tulee voimaan vuonna 2023), deepfake-kuvien levittämistä koskien. Muutokset käsittelevät deepfake-kuvia kahdessa kohdassa, jotka liittyvät suoraan verkkomainontaan: muutos 1709, joka liittyy 30. artiklaan, ja liittyvä muutos 63. artiklaan.

Ensimmäinen ehdottaa täysin uutta 30a-artiklaa, jonka otsikko on Deep fakes, ja joka kuuluu:

‘Jos hyvin suuri verkkopalvelu huomaa, että sisältö on luotu tai muokattu kuva-, ääni- tai videomateriaali, joka muistuttaa olemassa olevia henkilöitä, esineitä, paikkoja tai muita entiteettejä tai tapahtumia ja joka vaikuttaa epäaidolta tai totuudenmukaiselta (deep fakes), palveluntarjoaja on merkittävä sisältö tavalla, joka ilmoittaa, että sisältö on epäaido ja joka on selvästi näkyvissä palvelun vastaanottajalle.’

Toinen lisää tekstiä 63. artiklaan, joka on pääasiassa huolenaiheuttava suurten mainospalvelujen läpinäkyvyyden lisääminen. Asiaankuuluvat sanat kuuluvat:

‘Lisäksi suuret verkkopalvelut on merkittävä kaikki tunnetut deep fake -videot, äänet tai muut tiedostot.’

Käytännössä lainsäädäntö näyttää valmistautuvan kasvavaan “legitiimien deepfake”-käytännön, jossa on annettu lupa ja turvattu oikeudet kasvojen vaihtamiseen mainos- tai markkinointimateriaalissa – kuten venäläisen puhelinoperaattorin Telefonin lisensoidun käytön Bruce Willisin identiteetin mainoskampanjassa.

Epäröinti lainsäädännössä

DSA ei ole tällä hetkellä osoittanut olevan huolissaan kampanjoiden huolenaiheita deepfake-tekniikoiden käytöstä, kuten ne yleisimmin käytetään – pornografisten videoiden uudelleenjärjestelyyn. Se ei myöskään osoita, miten laajuudella deepfake-kuvia tulee käyttää elokuvissa ja televisiossa ja miten niiden tulee olla ilmoitettuina katsojille samalla tavalla kuin deepfake-kuvat mainonnassa tulevat olemaan vähintään EU:ssa vuodesta 2023 lähtien.

Ratifiointiprosessi DSA:lle siirtyy nyt neuvotteluihin EU:n jäsenvaltioiden kanssa yhdessä laajemman Digitaalisten markkinoiden lain (DMA) kanssa.

Europolin joulukuun 2020 raportti Malicious Uses and Abuses of Artificial Intelligence väitti, että se olisi virhe EU:lle osoittaa tiettyjä nykyisiä deepfake-tekniikoita (kuten DeepFaceLive), mikä voisi johtaa siihen, että EU:n lainsäädäntö joutuu jatkuvasti seuraamaan uusimman kehyksen tai menetelmän kehitystä.

Raportti totesi:

‘Erityisesti nämä käytännöt tulisi olla teknologianeutraaleja, jotta ne olisivat tehokkaita pitkällä aikavälillä ja estääkseen joutumasta arvioimaan ja korvaamaan nämä säännöt säännöllisesti, kun deepfake-kuvien luomisen ja hyväksikäytön taustalla oleva teknologia kehittyy. ‘

‘Kuitenkin tällaiset toimenpiteet eivät saa estää GANien (Generative Adversarial Networks) myönteisiä sovelluksia.’

Yllä olevan lainaus viimeinen huomautus, joka liittyy GAN:iin, kuvaa laajasti Euroopan ja Pohjois-Amerikan epäröintiä soveltaa lakeja, jotka voivat rajoittaa kehittyvää tekoälytutkimuksen alaa, joka jo nyt nähdään jäävän jälkeen Aasian maiden takana (jotka ovat pystyneet nopeuttamaan deepfake-lainsäädäntöä).

Esimerkiksi vuoden 2018 raportti Yhdistyneen kuningaskunnan tekoälyvaliokunnalta korostaa useita kertoja riskiä, joka liittyy siihen, että tekoälyn kehitystä estetään, kuten sen otsikossa AI in the UK: ready, willing and able?. Viime huhtikuussa Iso-Britannia oli myös ensimmäinen maa, joka antoi luvan itseajavien autojen käytölle moottoriteillä.

Amerikka ei ole vähemmän innostunut; Yhdysvalloissa Brookings Institution on vaatinut lisää lainsäädäntöä tekoälylle Yhdysvalloissa, kritisoimalla lainsäätäjiä heidän “odota ja näe” -asenteestaan tekoälytekniikoiden vaikutuksista

Lisäksi DSA:n heikko lähestymistapa deepfake-kuvien sosiaalisten (eikä poliittisten) huolenaiheiden käsittelyssä, EU:n ehdotettu sääntelykehyks tekoälylle, joka julkaistiin huhtikuussa 2021, sai nopeasti kritiikkiä oman lähestymistapansa puutteesta aiheen käsittelyssä.

Rajoitettu deepfake-sääntely Yhdistyneessä kuningaskunnassa

Lisäpettymys deepfake-kampanjoitsijoille, kuten kirjailija Helen Mort, joka kampanjoi uuden Yhdistyneen kuningaskunnan lainsäädännön puolesta vuonna 2021, kun hänet esittettiin suostumuksetta pornografisissa deepfake-videossa, Yhdistyneen kuningaskunnan parlamentin digitaalisen, kulttuurin, median ja urheilun valiokunnan raportti kritisoi Yhdistyneen kuningaskunnan hallitusta siitä, että se ei osoittanut deepfake-kuvia uudessa Luonnos verkkoturvallisuuslaista.

Raportti, joka siteeraa luonnoksen oikeudellista korvausta deepfake-hyväksikäytöstä “epäselvänä ja epäkäytännöllisenä”, ehdottaa, että ehdotettu lainsäädäntö ei tee mitään “laillisten, mutta haitallisten” AI-välineiden pornografisen videon ja kuvan manipulointitekniikoiden käsittelyyn:

‘[Me] suosittelemme, että hallitus ottaa aktiivisesti käsittelyyn sisällön tyypit, jotka ovat teknisesti laillisia, kuten vaaralliset osat lapsen hyväksikäytön jaksosta, kuten leivonta ja tietynlainen verkkoväkivalta naisia ja tyttöjä vastaan, kuten teknologian mahdollistama “alastomuus” ja deepfake-pornografia, ja tuo ne laajemman huolenaiheen piiriin joko pääasiallisella lainsäädännöllä tai sisällön huolenaiheiden velvollisuuksien kautta.’

Nykyinen sovellettava laki Yhdistyneessä kuningaskunnassa rajoittuu “oikeiden” kuvien levittämiseen, kuten tapauksissa, joissa luottamuksellista ja yksityistä materiaalia jaetaan julkisesti esimerkiksi entisen kumppanin toimesta. Jos kiusaaja luo ja julkaisee deepfake-materiaalia, joka yhdistää kohteen identiteetin pornografiseen sisältöön, häntä voidaan vain syyttää, jos hän suoraan häirintää kohdetta osoittamalla materiaalia hänelle, tai tekijänoikeuslain nojalla.

Jos kohde kuulee uudesta deepfake-sisällöstä huolissaan olevilta ystäviltä tai muilta kolmansilta osapuolilta, eikä suoraan henkilöltä, joka loi deepfaken, deepfaken levittäminen suojaa deepfaken tekijää, jonka työ “saavuttaa kohteen”.

Jälkimmäisessä tapauksessa syyte olisi mahdollinen vain, jos alkuperäinen, muokkaamaton kolmannen osapuolen pornovideo (johon kohteen identiteetti yhdistetään myöhemmin) on ammattimaisesti tuotettu ja laillisesti suojattu Yhdistyneen kuningaskunnan tekijänoikeusalueella (vaikka sovelias video voisi olla peräisin vapaasti mistä tahansa laillisesta valtiosta maailmassa). “Amatööri”-video mistä tahansa valtiosta puuttuu selvä tekijänoikeusstatus, ja deepfaken tekijän itse kuvaama erikoisvideo on (ironisesti) itsessään suojattu tekijänoikeuslailla, kunhan se noudattaa muita lakeja.

Jäljessä

Joulukuussa 2021 Yhdistyneen kuningaskunnan lakikomissio ehti ehdottaa vihamielisyyden laajentamista sukupuoleen perustuvaksi, mutta ei ehdottanut deepfake-kuvien sisällyttämistä tähän luokkaan, vaikka maailmalla on useita esimerkkejä tällaisen teknologian käytöstä aseena naispoliitikkoja ja naisaktivisteja vastaan. Naiset ovat ylivoimaisesti laittoman deepfake-sisällön kohteena, riippumatta siitä, ovatko motiivit sosiaalisia (esim. aikomus häpäistä, deplatformata ja vaarantaa) vai pelkästään seksuaalisia (esim. pornografisia) luonteisia.

Maaliskuussa 2021 Illinoisissa sijaitseva National Law Review arvosteli Yhdistyneen kuningaskunnan oikeudellista kehyksistöä “täysin riittämättömäksi” deepfake-kuvien käsittelyyn ja puuttuvan perustavanlaatuisista oikeudellisista mekanismeista, jotka suojaavat henkilön ulkonäköä.

Deepfake-lait Yhdysvalloissa

Toisaalta Yhdysvallat suojelee jonkin verran kansalaistensa “julkisen oikeuden”, vaikka ei liittovaltion tasolla (tällä hetkellä tällaiset lait ovat noin puolessa Yhdysvaltain osavaltioista, joissa on erilaiset oikeudelliset mekanismit).

Vaikka Yhdysvallat on parantanut Yhdistyneen kuningaskunnan suorituskykyä deepfake-lainsäädännössä, se voi vain ilmoittaa epäsäännöllistä, osavaltioittain määritettyä kattavuutta ja näyttää olevan päättänyt kohdistaa huomionsa teknologian poliittisen manipuloinnin mahdollisuuksiin ennen kuin se kohdistaa huomionsa yksityishenkilöiden vaikutukseen.

Vuonna 2019 Texas kielsi poliittisten deepfake-kuvien luomisen ja levittämisen, Texasin senaatin lakiehdotuksella 751 (SB751), jättämättä mainintaa deepfake-pornografialle. Samana vuonna Virginian osavaltio lisäsi muutoksen olemassa olevaan lakiin lailliseen videoiden ja kuvien levittämiseen, lisäten laajaan termeen ‘väärennetty videokuva tai kuva’.

Vuonna 2020 Kalifornian osavaltio hyväksyi California Assembly Bill 602 (AB 602), joka kielsi pornografisten deepfake-kuvien luomisen ja levittämisen. Laki ei ole määräaikainen, mutta siinä on kolmen vuoden vanhentumisaika, ja siihen liittyy erillinen pykälä poliittisista deepfake-kuvista.

Vuoden 2020 lopussa New Yorkin osavaltio hyväksyi senaatin lakiehdotuksen S5959D, joka ei ainoastaan kiellä pornografisten deepfake-kuvien luomisen ja uudelleenjulkaisun, vaan myös suojelee käyttäjän julkisen oikeuden tietokoneella luodun kaltaisuuden kautta deepfake-kuvissa, CGI:ssä tai millä tahansa muulla tavalla, jopa kuoleman jälkeen (jos henkilö, josta on kyse, oli New Yorkin asukas kuollessaan).

Lopulta Marylandin osavaltio on muuttanut lakejaan lasten hyväksikäytön osalta, jotta se kattaa ja rikollistaa deepfake-kuvien käytön, mutta se ei kohdistu aikuisten kohteiden vaikutuksiin.

Odotetaan ‘DeepfakeGatea’

Historia osoittaa, että vahinko, jonka uudet teknologiat voivat aiheuttaa, on muututtava henkilökohtaiseksi kunkin maan kannalta, jotta lainsäädäntö voisi nopeasti reagoida. Erittäin tuore nuoren tytön kuolema Egyptissä, jota väitetysti uhkailtiin deepfake-pornografialla, on saanut vähän huomiota länsimaisissa medioissa*, kun taas paljastukset 35 miljoonan dollarin pankkiryöstöstä Yhdistyneissä arabiemiirikunnissa, jotka tulivat julki vuonna 2021, edustavat “etäistä tapahtumaa”, joka ei todennäköisesti kiirehtisi senaattia tai sytyttäisi tulen Yhdysvaltain 45:een muuhun osavaltioon, jotka eivät ole vielä hyväksyneet deepfake-lainsäädäntöä.

Jos Yhdysvallat ottaa yhtenäisemmän kannan deepfake-teknologian hyväksikäytöstä, laaja lainsäädäntö vaikuttaisi todennäköisesti tietoliikenteen ja tietojen tallennuksen hallintoon ja johtaisi nopeisiin jäljittämispolitiikkamuutoksiin, jotka asetettaisiin liikekumppaneille ympäri maailmaa. Se, ettei Euroopan tietosuojalain (GDPR) omaksuminen johtanut Pohjois-Amerikan tietojen keräämisen ja säilyttämisen politiikkaan, ei tarkoita, ettei EU voisi saada vaikutusvaltaa vähemmän yhteensopivista maita, joilla se käy kauppaa, jos se ottaisi lopulta vahvemman lainsäädännöllisen kannan deepfake-pornografian luomiseen, säilyttämiseen ja jakamiseen.

Jokin on kuitenkin tapahtumassa “maanpinnalla” ensin; joko valtava CSAM:n (lasten seksuaalisen hyväksikäytön) takavarikko viranomaisten toimesta, suuri ryöstö, jossa audio- ja/tai videopohjaisia deepfake-teknologioita käytetään huijaamaan yhdysvaltalainen yritysjohtaja ohjaamaan suuren summan rahaa, tai yhdysvaltalainen vastine kasvavalle käytännölle hyväksikäyttää naisia patriarkaalisissa maissa (jos Yhdysvaltain kulttuuri on todella valmis heijastamaan nämä tapahtumat, mikä on epävarmaa). Nämä ovat vaikeita toivomuksia, ja hyviä asioita välttää mikä tahansa muu keino kuin piilottaa päänsä hiekkaan tai odottaa “sytyttävää” tapahtumaa.

Toinen keskeinen ongelma, jonka EU on tällä hetkellä kiertänyt kohdistamalla lainsäädäntönsä mainosyrityksiin, jotka haluavat mainostaa legitiimejä deepfake-kuvia, on, että deepfake-kuvat ovat vaikeita havaita algoritmien avulla; useimmat havaitsemismenetelmistä, jotka ilmestyvät arXiv:ssä joka kuussa, riippuvat watermarkingista, blockchain-pohjaisesta verifioinnista tai jollain tavoin muuttamisesta koko infrastruktuuria, jonka käytämme vapaasti videon kuluttamiseen – ratkaisuja, jotka vaativat radikaalia oikeudellista tarkastelua videon käsitteen uudelleenmäärittelyä “totuuden” edustajana. Loput jäävät jatkuvasti jälkeen avoimen lähdekoodin deepfake-arkistojen edistyksellisten kehitysten jälkeen.

Toinen ongelma on, että suuret länsimaiset maat ovat oikein yhdessä mielessä, etteivät he tarjoa hätäistä reaktiota yhdelle ongelmalliseen säikeeseen uusissa tekoälytekniikoissa, joista monet lupaavat suuria hyötyjä yhteiskunnalle ja teollisuudelle, ja joita voisi vaikuttaa jollain tavoin, jos tekoälyyn perustuvien kuvien synteesijärjestelmien kieltäminen tai sääntely alkaisi tosissaan vastauksena merkittävään tapahtumaan ja sitä seuraavaan kohuun.

Kuitenkin olisi hyvä ajatus nopeuttaa hitaasti ja usein tavoittamatonta deepfake-sääntelyn kohti, ja kohtaa mahdolliset ongelmat puolivälissä, ja omalla tavallamme, sen sijaan, että joutuisimme myöhemmin odottamattomiin tapahtumiin, jotka pakottaisivat meidät vähemmän harkitun vastauksen.

* Syytetyt ovat syytettynä kiristyksestä; Egyptissä ei ole lakia, joka koskee deepfake-pornografiaa.

Julkaistu ensimmäisen kerran 24. tammikuuta 2022.