Andersonin kulma

Euroopan ja UK:n deepfake-sääntelyehdotukset ovat yllättävän rajoitetut

Martin Anderson
Lisää Unite.AI suosikkilähteisiisi Google-palvelussa
Keskeiset kohdatEU:n deepfake-sääntely kohdistuu mainontaan, mutta jättää täysin huomiotta…
Näytä lisää
  • EU:n deepfake-sääntely kohdistuu mainontaan, mutta jättää täysin huomiotta suostumuksettoman pornografian.
  • Ison-Britannian laki ei voi syyttää deepfake-pornosta, ellei uhria häiritä suoraan tekijän toimesta.
  • Yhdysvaltojen osavaltiot kuten Kalifornia ja New York kieltävät deepfake-pornon, mutta useimmissa osavaltioissa ei ole vielä mitään lakia.

Analyysi Niille kampanjoijille, jotka toivovat deepfake-kuvien päätyvän vuonna 2022 tiukemman lainsäädännön piiriin, ensimmäiset merkit eivät ole lupaavia.

Viime torstaina Euroopan parlamentti vahvisti muutoksia Digitaalisten palvelujen laissa (DSA, joka tulee voimaan vuonna 2023), deepfake-kuvien levittämistä koskien. Muutokset käsittelevät deepfake-kuvia kahdessa kohdassa, jotka liittyvät suoraan verkkomainontaan: muutos 1709, joka liittyy 30. artiklaan, ja liittyvä muutos 63. artiklaan.

Ensimmäisessä ehdotetaan täysin uutta 30a artiklaa, jonka otsikko on Deep fakes, ja joka kuuluu:

‘Jos hyvin suuri verkkopalvelu huomaa, että sisältö on luotu tai muokattu kuva-, ääni- tai videomateriaali, joka muistuttaa olemassa olevia henkilöitä, esineitä, paikkoja tai muita entiteettejä tai tapahtumia ja joka näyttää ihmisestä virheellisesti aidolta tai totuudenmukaiselta (deepfake), palveluntarjoajan on merkittävä sisältö tavalla, joka ilmoittaa sen epäaidoksi ja joka on selvästi näkyvissä palvelun vastaanottajalle.’

Toinen lisää tekstiä 63. artiklaan, joka koskee pääasiassa suurten mainosalustojen avoimuuden lisäämistä. Asiaankuuluvat sanat kuuluvat:

‘Lisäksi erittäin suurten verkkoalustojen olisi merkittävä kaikki tiedossaan olevat deepfake-videot, äänet tai muut tiedostot.’

Käytännössä lainsäädäntö näyttää valmistautuvan kasvavaan “legitiimien deepfake”-käytännön, jossa on annettu lupa ja turvattu oikeudet kasvojen vaihtamiseen mainos- tai markkinointimateriaalissa – kuten venäläisen puhelinoperaattorin Telefonin lisensoidun käytön Bruce Willisin identiteetin mainoskampanjassa.

Epäröinti lainsäädännössä

DSA ei toistaiseksi näytä vastaavan kampanjoijien huoliin deepfake-tekniikoiden käytöstä siinä tarkoituksessa, johon niitä yleisimmin käytetään – pornografisten videoiden esiintyjien kasvojen vaihtamiseen. Se ei myöskään käsittele sitä, missä määrin elokuvissa ja televisiossa mahdollisesti käytettävistä deepfakeista olisi ilmoitettava katsojille samalla tavoin kuin mainonnan deepfakeista ainakin EU:ssa vuodesta 2023 lähtien.

Ratifiointiprosessi DSA:lle siirtyy nyt neuvotteluihin EU:n jäsenvaltioiden kanssa yhdessä laajemman Digitaalisten markkinoiden lain (DMA) kanssa.

Europolin joulukuun 2020 raportti Malicious Uses and Abuses of Artificial Intelligence väitti, että se olisi virhe, jos EU kohdistaisi sääntelyn tiettyihin nykyisiin deepfake-tekniikoihin (kuten DeepFaceLive), mikä voisi johtaa siihen, että EU:n lainsäädäntö joutuu jatkuvasti seuraamaan uusimman kehyksen tai menetelmän kehitystä.

Raportti totesi:

‘Erityisesti nämä käytännöt tulisi olla teknologianeutraaleja, jotta ne olisivat tehokkaita pitkällä aikavälillä ja estääkseen joutumasta arvioimaan ja korvaamaan nämä säännöt säännöllisesti, kun deepfake-kuvien luomisen ja hyväksikäytön taustalla oleva teknologia kehittyy. ‘

‘Kuitenkin tällaiset toimenpiteet eivät saa estää GANien (Generative Adversarial Networks) myönteisiä sovelluksia.’

Yllä olevan lainaus viimeinen huomautus, joka liittyy generatiivisiin vastakkaisverkkoihin (GAN), kuvaa laajasti Euroopan ja Pohjois-Amerikan epäröintiä soveltaa lakeja, jotka voivat rajoittaa kehittyvää tekoälytutkimuksen alaa, joka jo nyt nähdään jäävän jälkeen Aasian maiden takana (jotka ovat pystyneet nopeuttamaan deepfake-lainsäädäntöä).

Esimerkiksi vuoden 2018 raportti Yhdistyneen kuningaskunnan tekoälyvaliokunnalta korostaa useita kertoja riskiä, joka liittyy siihen, että arkuus jarruttaa tekoälyn kehitystä maassa, kuten jo raportin otsikko osoittaa: AI in the UK: ready, willing and able?. Viime huhtikuussa Iso-Britannia oli myös ensimmäinen maa, joka antoi luvan itseajavien autojen käytölle moottoriteillä.

Amerikka ei ole vähemmän innostunut; Yhdysvalloissa Brookings Institution on vaatinut lisää lainsäädäntöä tekoälylle Yhdysvalloissa, kritisoimalla lainsäätäjiä heidän “odota ja näe” -asenteestaan tekoälytekniikoiden vaikutuksista

Lisäksi DSA:n heikko lähestymistapa deepfake-kuvien sosiaalisten (eikä poliittisten) huolenaiheiden käsittelyssä, EU:n ehdotettu sääntelykehys tekoälylle, joka julkaistiin huhtikuussa 2021, sai nopeasti kritiikkiä siitä, että sekin väisteli aihetta.

Rajoitettu deepfake-sääntely Yhdistyneessä kuningaskunnassa

Lisäpettymys deepfake-kampanjoitsijoille, kuten kirjailija Helen Mort, joka kampanjoi uuden Yhdistyneen kuningaskunnan lainsäädännön puolesta vuonna 2021, kun hänet esittettiin suostumuksetta pornografisissa deepfake-videossa, Yhdistyneen kuningaskunnan parlamentin digitaalisen, kulttuurin, median ja urheilun valiokunnan raportti kritisoi Yhdistyneen kuningaskunnan hallitusta siitä, että se ei käsitellyt deepfakeja uudessa Luonnos verkkoturvallisuuslaista.

Raportti, joka kuvaa luonnoksen oikeussuojakeinoja deepfake-väärinkäytöksiä vastaan “epäselvänä ja epäkäytännöllisenä”, ehdottaa, että ehdotettu lainsäädäntö ei tee mitään “laillisten, mutta haitallisten” AI-välineiden pornografisen videon ja kuvan manipulointitekniikoiden käsittelyyn:

‘[Me] suosittelemme, että hallitus ottaa aktiivisesti käsittelyyn sisällön tyypit, jotka ovat teknisesti laillisia, kuten vaaralliset osat lapsen hyväksikäytön jaksosta, kuten vähittäin jaettavat vihjeet (breadcrumbing), sekä tietyt verkkoväkivallan muodot naisia ja tyttöjä vastaan, kuten teknologialla toteutettu naisten kuvien “riisuminen” ja deepfake-pornografia, ja saattaa ne sääntelyn piiriin joko suoraan lailla tai huolellisuusvelvoitteiden kattamina haitallisen sisällön lajeina.’

Nykyinen sovellettava laki Yhdistyneessä kuningaskunnassa rajoittuu “oikeiden” kuvien levittämiseen, kuten tapauksissa, joissa luottamuksellista ja yksityistä materiaalia jaetaan julkisesti esimerkiksi entisen kumppanin toimesta. Jos kiusaaja luo ja julkaisee deepfake-materiaalia, joka yhdistää kohteen identiteetin pornografiseen sisältöön, asiasta voidaan nostaa syyte vain, jos tekijä häiritsee kohdetta suoraan lähettämällä materiaalin hänelle, tai tekijänoikeuslain nojalla.

Jos kohde kuulee uudesta deepfake-sisällöstä huolissaan olevilta ystäviltä tai muilta kolmansilta osapuolilta, eikä suoraan henkilöltä, joka loi deepfaken, deepfaken levittäminen suojaa deepfaken tekijää, jonka työ “saavuttaa kohteen”.

Jälkimmäisessä tapauksessa syyte olisi mahdollinen vain, jos alkuperäinen, muokkaamaton kolmannen osapuolen pornovideo (johon kohteen identiteetti yhdistetään myöhemmin) on ammattimaisesti tuotettu ja laillisesti suojattu Yhdistyneen kuningaskunnan tekijänoikeusalueella (vaikka sovelias video voisi olla peräisin vapaasti mistä tahansa laillisesta valtiosta maailmassa). “Amatööri”-video mistä tahansa valtiosta puuttuu selvä tekijänoikeusstatus, ja deepfaken tekijän itse kuvaama erikoisvideo on (ironisesti) itsessään suojattu tekijänoikeuslailla, kunhan se noudattaa muita lakeja.

Jäljessä

Joulukuussa 2021 Yhdistyneen kuningaskunnan lakikomissio ehti ehdottaa vihapuhelakien laajentamista kattamaan sukupuoleen perustuvan vihamielisyyden, mutta ei ehdottanut deepfake-kuvien sisällyttämistä tähän luokkaan, vaikka maailmalla on useita esimerkkejä tällaisen teknologian käytöstä aseena naispoliitikkoja ja naisaktivisteja vastaan. Naiset ovat ylivoimaisesti laittoman deepfake-sisällön kohteena, riippumatta siitä, ovatko motiivit sosiaalisia (esim. aikomus häpäistä, poistaa alustoilta ja riistää vaikutusvalta) vai pelkästään seksuaalisia (esim. pornografisia) luonteisia.

Maaliskuussa 2021 Illinoisissa sijaitseva National Law Review arvosteli Yhdistyneen kuningaskunnan oikeudellista kehyksistöä “täysin riittämättömäksi” deepfake-kuvien käsittelyyn ja puuttuvan perustavanlaatuisista oikeudellisista mekanismeista, jotka suojaavat henkilön ulkonäköä.

Deepfake-lait Yhdysvalloissa

Toisaalta Yhdysvallat suojelee jonkin verran kansalaistensa oikeutta määrätä oman henkilöllisyyden kaupallisesta hyödyntämisestä (right of publicity), vaikka ei liittovaltion tasolla (tällä hetkellä tällaiset lait ovat noin puolessa Yhdysvaltain osavaltioista, joissa on erilaiset oikeudelliset mekanismit).

Vaikka Yhdysvallat on parantanut Yhdistyneen kuningaskunnan suorituskykyä deepfake-lainsäädännössä, se voi vain ilmoittaa epäsäännöllistä, osavaltioittain määritettyä kattavuutta ja näyttää olevan päättänyt kohdistaa huomionsa teknologian poliittisen manipuloinnin mahdollisuuksiin ennen kuin se kohdistaa huomionsa yksityishenkilöiden vaikutukseen.

Vuonna 2019 Texas kielsi poliittisten deepfake-kuvien luomisen ja levittämisen, Texasin senaatin lakiehdotuksella 751 (SB751), mainitsematta deepfake-pornografiaa. Samana vuonna Virginian osavaltio lisäsi muutoksen olemassa olevaan lakiin toisen henkilön kuvien laittomaan levittämiseen tai myyntiin, lisäten laajaan termeen ‘väärennetty videokuva tai kuva’.

Vuonna 2020 Kalifornian osavaltio hyväksyi California Assembly Bill 602 (AB 602), joka kielsi pornografisten deepfake-kuvien luomisen ja levittämisen. Laki ei ole määräaikainen, mutta siinä on kolmen vuoden vanhentumisaika, ja siihen liittyy erillinen pykälä poliittisista deepfake-kuvista.

Vuoden 2020 lopussa New Yorkin osavaltio hyväksyi senaatin lakiehdotuksen S5959D, joka ei ainoastaan kiellä pornografisten deepfake-kuvien luomisen ja uudelleenjulkaisun, vaan myös suojelee henkilön oikeutta määrätä oman henkilöllisyytensä kaupallisesta hyödyntämisestä tietokoneella tuotetuissa näköiskuvissa deepfake-kuvissa, CGI:ssä tai millä tahansa muulla tavalla, jopa kuoleman jälkeen (jos henkilö, josta on kyse, oli New Yorkin asukas kuollessaan).

Lopulta Marylandin osavaltio on muuttanut lakejaan lasten hyväksikäytön osalta, jotta se kattaa ja rikollistaa deepfake-kuvien käytön, mutta se ei kohdistu aikuisten kohteiden vaikutuksiin.

Odotetaan ‘DeepfakeGatea’

Historia osoittaa, että vahinko, jonka uudet teknologiat voivat aiheuttaa, on muututtava henkilökohtaiseksi kunkin maan kannalta, jotta lainsäädäntö voisi nopeasti reagoida. Erittäin tuore nuoren tytön kuolema Egyptissä, jota väitetysti uhkailtiin deepfake-pornografialla, on saanut vähän huomiota länsimaisissa medioissa*, kun taas paljastukset 35 miljoonan dollarin pankkiryöstöstä Yhdistyneissä arabiemiirikunnissa, jotka tulivat julki vuonna 2021, edustavat “etäistä tapahtumaa”, joka ei todennäköisesti kiirehtisi senaattia tai sytyttäisi tulen Yhdysvaltain 45:een muuhun osavaltioon, jotka eivät ole vielä hyväksyneet deepfake-lainsäädäntöä.

Jos Yhdysvallat ottaa yhtenäisemmän kannan deepfake-teknologian hyväksikäytöstä, laaja lainsäädäntö vaikuttaisi todennäköisesti tietoliikenteen ja tietojen tallennuksen hallintoon ja johtaisi nopeisiin sääntömuutoksiin kehityksen kiinni kuromiseksi, jotka asetettaisiin liikekumppaneille ympäri maailmaa. Se, ettei Euroopan tietosuojalain (GDPR) omaksuminen johtanut Pohjois-Amerikan tietojen keräämisen ja säilyttämisen politiikkaan, ei tarkoita, ettei EU voisi saada vaikutusvaltaa vähemmän yhteensopivista maita, joilla se käy kauppaa, jos se ottaisi lopulta vahvemman lainsäädännöllisen kannan deepfake-pornografian luomiseen, säilyttämiseen ja jakamiseen.

Jonkin on kuitenkin ensin tapahduttava näiden maiden omalla maaperällä; joko valtava CSAM-aineiston (lasten seksuaalista hyväksikäyttöä esittävän materiaalin) takavarikko pimeässä verkossa viranomaisten toimesta, suuri ryöstö, jossa audio- ja/tai videopohjaisia deepfake-teknologioita käytetään huijaamaan yhdysvaltalainen yritysjohtaja ohjaamaan suuren summan rahaa, tai yhdysvaltalainen vastine kasvavalle käytännölle hyväksikäyttää naisia patriarkaalisissa maissa (jos Yhdysvaltain kulttuuri on todella valmis heijastamaan nämä tapahtumat, mikä on epävarmaa). Nämä ovat vaikeita toivomuksia, ja hyviä asioita välttää mikä tahansa muu keino kuin piilottaa päänsä hiekkaan tai odottaa “sytyttävää” tapahtumaa.

Yksi keskeinen ongelma, jonka EU on tällä hetkellä kiertänyt kohdistamalla lainsäädäntönsä mainosyrityksiin, jotka haluavat mainostaa legitiimejä deepfake-kuvia, on, että deepfake-kuvat ovat vaikeita havaita algoritmien avulla; useimmat havaitsemismenetelmistä, jotka ilmestyvät arXiv:ssä joka kuussa, riippuvat watermarkingista, blockchain-pohjaisesta verifioinnista tai jollain tavoin muuttamisesta koko infrastruktuuria, jonka käytämme vapaasti videon kuluttamiseen – ratkaisuja, jotka vaativat radikaalia oikeudellista tarkastelua videon käsitteen uudelleenmäärittelyä “totuuden” edustajana. Loput jäävät jatkuvasti jälkeen avoimen lähdekoodin deepfake-arkistojen edistyksellisten kehitysten jälkeen.

Toinen ongelma on, että suuret länsimaiset maat ovat oikein yhdessä mielessä, etteivät he tarjoa hätäistä reaktiota yhdelle ongelmalliseen säikeeseen uusissa tekoälytekniikoissa, joista monet lupaavat suuria hyötyjä yhteiskunnalle ja teollisuudelle, ja joita voisi vaikuttaa jollain tavoin, jos tekoälyyn perustuvien kuvien synteesijärjestelmien kieltäminen tai sääntely alkaisi tosissaan vastauksena merkittävään tapahtumaan ja sitä seuraavaan kohuun.

Olisi kuitenkin hyvä nopeuttaa hidasta ja toisinaan päämäärätöntä etenemistä kohti deepfake-sääntelyä sekä kohdata mahdolliset ongelmat ennakoivasti ja omilla ehdoillamme sen sijaan, että myöhemmät tapahtumat pakottaisivat meidät vähemmän harkittuun reaktioon.

 

* Syytetyt ovat syytettynä kiristyksestä; Egyptissä ei ole lakia, joka koskee deepfake-pornografiaa.

Julkaistu ensimmäisen kerran 24. tammikuuta 2022.

Kirjoittaja koneoppimisen parissa, ihmisiä esittävien kuvien synteesin asiantuntija. Entinen tutkimussisällön johtaja Metaphysic.ai:ssa, kunnes se sulautui DNEG:n Brahma.ai:hin.
Verkkosivu: martinanderson.ai
Yhteystiedot: martin@martinanderson.ai