Kiina ehdottaa lisääntynyttä sääntelyä deepfake- ja muiden tekoälysynthesoitujen järjestelmien osalla

Kiinan kyberspace-hallinto (CAC) on ehdottanut uutta joukkoa luonnoksia, jotka koskevat tekoälyavusteisia synteesijärjestelmiä, mukaan lukien deepfakes, virtuaalitodellisuusskenaariot, tekstin generointi, ääni ja muut tekoälymedian synteesin alat – ala, jossa Kiina tuottaa runsaasti akateemisia artikkeleita ja innovatiivisia tutkimushankkeita joka kuukausi.

CAC:n virallisella sivustolla oleva viesti (Google-käännös, alkuperäinen täällä) esittää ehdotetut velvoitteet ja kuvaa vaikuttavia palveluita “syvän synteesipalvelun tarjoajiksi”, kutsuen kansalaisia osallistumaan kommentoimalla luonnoksia, joiden deadline on 28. helmikuuta.

Ei vain deepfakes

Vaikka ehdotetut säännökset on raportoitu niiden potentiaalisen vaikutuksen luomisessa ja levittämisessä deepfake-kuvia, asiakirja yrittää kattaa kaiken, mitä algoritmit voivat generoida, mitä tahansa tyyppiä sisältöä, joka voidaan tulkita laajasti ymmärrettynä “median” merkityksessä.

Artikla 2 ilmoittaa säännösten suunnitellun laajuuden kuuden sektorin ylitse*:

(1) Tekniikat tekstin sisällön generoimiseksi tai muokkaamiseksi, kuten luvun generointi, tyylin muuttaminen ja kysymys-vastausdialogi;

(2) Teknologiat äänisisällön generoimiseksi tai muokkaamiseksi, kuten teksti-ääneksi, äänen muuttaminen ja äänen ominaisuuksien muokkaus;

(3) Teknologiat ei-äänen sisällön generoimiseksi tai muokkaamiseksi, kuten musiikin generointi ja kuvan äänimaailman muokkaus;

(4) Kasvojen generointi, kasvojen korvaaminen, hahmon ominaisuuksien muokkaus, kasvojen manipulointi, eleiden manipulointi ja muut teknologiat biometrisien ominaisuuksien generoimiseksi tai muokkaamiseksi, kuten kasvojen kuvissa ja videomateriaalissa;

(5) Tekniikat ei-biologisten ominaisuuksien muokkaamiseksi kuvissa ja videomateriaalissa, kuten kuvan parantaminen ja kuvan palauttaminen;

(6) Teknologiat virtuaalisten skenaarioiden generoimiseksi tai muokkaamiseksi, kuten 3D-rekonstruktio.

Deepfake-sääntely

Kiina rikollisti tekoälyn käytön väärän uutisen levittämiseen vuoden 2019 lopussa, jolloin CAC ilmaisi huolensa deepfake-tekniikan mahdollisista vaikutuksista, mikä sai monet ajattelemaan, että Kiinan hallitus kieltäisi lopulta deepfake-tekniikan kokonaan.

Kuitenkin tämä edellyttäisi, että Kiina luopuisi yhdestä merkittävimmistä poliittisista ja kulttuurisista kehityksistä median, tekoälyn ja jopa politiikan historiassa, ja katkaisi itsensä avainkehityksestä ja avoimesta tieteellisestä yhteistyöstä.

Näin ollen näyttää siltä, että Kiina on nyt päättänyt kokeilla teknologian sääntelyä sen sijaan, että kieltäisi sen kokonaan, mikä useiden mielestä lopulta siirtyy “pornon kiihdytysvaiheesta” legitiimeihin ja hyödynnettävissä oleviin käyttötarkoituksiin, erityisesti viihteessä.

NeRF mukana

Artikla 2.6 käsittelee virtuaalisten skenaarioiden generointia tai muokkaamista, kuten 3D-rekonstruktio, joka on nuorempi teknologia kuin deepfake-impersonaatio, ja joka on saavuttanut eniten mainetta viimeisen kahden vuoden aikana Neural Radiance Fields (NeRF) -keksinnön kautta, jossa fotogrammetriaa käytetään syntetisoimaan koko skenaarioita koneoppimismallien latenttiavaruudessa.

Kuitenkin NeRF laajentaa nopeasti ulospäin mallien ja ympäristöjen katselukohteista täysimittaisten videoiden generointiin, ja kiinalaiset tutkijat ovat edistäneet joitakin merkittäviä innovaatioita tässä suhteessa.

Kiinan ST-NeRF toiminnassa.

Vaikka NeRF on tuottanut runsaasti uutta tutkimusta sen julkaisun jälkeen vuonna 2020, sen toteutus VR- tai AR-järjestelmissä tai sen soveltuvuus visuaalitehosteiden prosesseihin edelleen kohtaa useita merkittäviä haasteita ja teknisiä pullonkauloja. NeRF:n kasvava kyky rekonstruoida ja muokata täydellisiä ihmisten fysiognomioita ei ole vielä sisällyttänyt yhtään standardia identiteetin muuttavaa deepfake-ominaisuutta, joka on leimannut uutisotsikoita viimeisen kahden vuoden ajan.

Äänideepfakes prioriteetti?

Jos otetaan Artikla 2:n listajärjestys osoituksena siitä, mitkä syvän synteesiteknologiat Kiina on eniten huolissaan sääntelemään ja valvomaan, tämä viittaisi siihen, että tekstipohjainen tekoälygeneroitu väärä uutinen on ensisijainen huolenaihe, ja äänensynteesi on video-deepfake-edellä sen potentiaalisen vaikutuksen suhteen.

Jos näin on, tämä vastaa sitä, että deepfake-videota ei ole vielä käytetty mihinkään rikokseen, joka ei liity pornografiaan (Aasia ei ole viivytellyt deepfake-pornografian rikollistamisessa), kun taas äänideepfake on esitetty toimivana teknologiana vähintään kahdessa suuressa rikoksessa, Isossa-Britanniassa vuonna 2019 ja Yhdistyneissä arabiemiirikunnissa vuonna 2021.

Uudet luonnokset velvoittavat käyttäjiä, jotka haluavat hyödyntää henkilön identiteettiä tekoälyjärjestelmien avulla, hakea kirjallista lupaa yksilöltä. Syntetisoitu media on myös näytettävä jollain “merkitsevällä” logolla tai vesileimalla tai muulla tavalla, jolla kuluttaja voi ymmärtää, että sisältö on muutettu tai kokonaan keksitty. Ei ole täysin selvää, miten tämä voidaan toteuttaa äänideepfake-kuvissa.

Rekisteröinti

Jos luonnokset hyväksytään, ne velvoittavat syvän synteesipalvelun tarjoajat rekisteröimään sovellettavat sovellukset valtiolle Provisioitten mukaisesti, jotka koskevat algoritmien suosittelua internetin tietopalveluissa, ja noudattamaan kaikkia tarvittavia ilmoittamismenettelyjä. Synteesipalvelun tarjoajien on myös yhteistyössä toimittava valvonnan ja tarkastuksen suhteen ja tarjottava “tarvittavaa teknistä ja tietoteknistä tukea ja apua” pyydettäessä.

Lisäksi palveluntarjoajien on perustettava helppokäyttöisiä portaalit valituksille, ja julkaistava odotettavat ajat valitusten käsittelyyn, sekä tarjottava “väärän tiedon kumoamismekanismit” – vaikka ehdotukset eivät anna yksityiskohtaisia tietoja tämän toteuttamisesta.

Rikkomukset voivat johtaa sakoihin, jotka ovat 10 000 ja 100 000 juanin (1 600 ja 16 000 dollaria) välillä, sekä altistaa rikkomuksista vastuussa olevat yritykset siviili- ja rikosoikeudellisiin kanneihin.

* Käännös Google-kääntäjällä, katso linkki artikkelin alussa.

Julkaistu ensimmäisen kerran 28. tammikuuta 2022.