Andersonin kulma
Kiina ehdottaa tiukempaa sääntelyä deepfake-tekniikalle ja muille tekoälysynteesijärjestelmille
Keskeiset kohdatKiinan luonnosasetukset kohdistuvat kuuteen tekoälysynteesin alaan, mukaan lukien…
Näytä lisää
- Kiinan luonnosasetukset kohdistuvat kuuteen tekoälysynteesin alaan, mukaan lukien teksti, ääni ja 3D-rekonstruktio.
- Palveluntarjoajien on vesileimattava kaikki synteettinen media ja hankittava kirjallinen lupa henkilöllisyyden käyttöön.
- Enintään 100 000 juanin sakot odottavat rikkojia, jotka eivät rekisteröi syvässynteesipalveluita.
Kiinan kyberspace-hallinto (CAC) on ehdottanut uusia asetusluonnoksia, jotka koskevat tekoälyavusteisia synteesijärjestelmiä, mukaan lukien deepfakes, virtuaalitodellisuusskenaariot, tekstin generointi, ääni ja muut tekoälymedian synteesin alat – ala, jossa Kiina tuottaa runsaasti akateemisia artikkeleita ja innovatiivisia tutkimushankkeita joka kuukausi.
CAC:n virallisella sivustolla oleva viesti (Google-käännös, alkuperäinen täällä) esittää ehdotetut velvoitteet ja kuvaa sääntelyn piiriin kuuluvia palveluita “syvän synteesipalvelun tarjoajiksi”, kutsuen kansalaisia osallistumaan kommentoimalla luonnoksia, joiden deadline on 28. helmikuuta.
Ei vain deepfakes
Vaikka ehdotetut säännökset on raportoitu niiden potentiaalisen vaikutuksen luomisessa ja levittämisessä deepfake-kuvia, asiakirja yrittää kattaa kaiken, mitä algoritmit voivat generoida, mitä tahansa tyyppiä sisältöä, joka voidaan tulkita laajasti ymmärrettynä “median” merkityksessä.
Artikla 2 ilmoittaa säännösten suunnitellun laajuuden kuuden sektorin ylitse*:
(1) Tekniikat tekstin sisällön generoimiseksi tai muokkaamiseksi, kuten luvun generointi, tyylin muuttaminen ja kysymys-vastausdialogi;
(2) Teknologiat äänisisällön generoimiseksi tai muokkaamiseksi, kuten teksti-ääneksi, äänen muuttaminen ja äänen ominaisuuksien muokkaus;
(3) Teknologiat muun äänisisällön kuin puheen generoimiseksi tai muokkaamiseksi, kuten musiikin generointi ja kohtauksen äänimaailman muokkaus;
(4) Kasvojen generointi, kasvojen korvaaminen, hahmon ominaisuuksien muokkaus, kasvojen manipulointi, eleiden manipulointi ja muut teknologiat biometrisien ominaisuuksien generoimiseksi tai muokkaamiseksi, kuten kasvojen kuvissa ja videomateriaalissa;
(5) Tekniikat ei-biologisten ominaisuuksien muokkaamiseksi kuvissa ja videomateriaalissa, kuten kuvan parantaminen ja kuvan palauttaminen;
(6) Teknologiat virtuaalisten skenaarioiden generoimiseksi tai muokkaamiseksi, kuten 3D-rekonstruktio.
Deepfake-sääntely
Kiina rikollisti tekoälyn käytön väärän uutisen levittämiseen vuoden 2019 lopussa, jolloin CAC ilmaisi huolensa deepfake-tekniikan mahdollisista vaikutuksista, mikä sai monet ajattelemaan, että Kiinan hallitus kieltäisi lopulta deepfake-tekniikan kokonaan.
Kuitenkin tämä edellyttäisi, että Kiina luopuisi yhdestä merkittävimmistä poliittisista ja kulttuurisista kehityksistä median, tekoälyn ja jopa politiikan historiassa, ja sulkisi itsensä maailmanlaajuisen ja avoimen tieteellisen yhteistyön hyötyjen ulkopuolelle.
Näin ollen näyttää siltä, että Kiina on nyt päättänyt kokeilla teknologian sääntelyä sen sijaan, että kieltäisi sen kokonaan, mikä useiden mielestä lopulta siirtyy pornografian vauhdittamasta kehitysvaiheestaan legitiimeihin ja hyödynnettävissä oleviin käyttötarkoituksiin, erityisesti viihteessä.
NeRF mukana
Artikla 2.6 käsittelee virtuaalisten skenaarioiden generointia tai muokkaamista, kuten 3D-rekonstruktio, joka on nuorempi teknologia kuin deepfake-impersonaatio, ja joka on saavuttanut eniten mainetta viimeisen kahden vuoden aikana Neural Radiance Fields (NeRF) -keksinnön kautta, jossa fotogrammetriaa käytetään syntetisoimaan kokonaisia näkymiä koneoppimismallien tutkittavissa olevaan latenttiavaruuteen.
Kuitenkin NeRF laajentaa nopeasti ulospäin mallien staattisista esityksistä ja ympäristöjen virtuaalisista läpikäynneistä kokovartalovideoiden generointiin, ja kiinalaiset tutkijat ovat edistäneet joitakin merkittäviä innovaatioita tässä suhteessa.

Kiinan ST-NeRF toiminnassa.
Vaikka NeRF on tuottanut runsaasti uutta tutkimusta sen julkaisun jälkeen vuonna 2020, sen toteutus VR- tai AR-järjestelmissä tai sen soveltuvuus visuaalitehosteiden prosesseihin edelleen kohtaa useita merkittäviä haasteita ja teknisiä pullonkauloja. NeRF:n kasvava kyky rekonstruoida ja muokata täydellisiä ihmisten fysiognomioita ei ole vielä sisällyttänyt yhtään standardia identiteetin muuttavaa deepfake-ominaisuutta, joka on leimannut uutisotsikoita viimeisen kahden vuoden ajan.
Äänideepfakes prioriteetti?
Jos otetaan Artikla 2:n listajärjestys osoituksena siitä, mitkä syvän synteesiteknologiat Kiina on eniten huolissaan sääntelemään ja valvomaan, tämä viittaisi siihen, että tekstipohjainen tekoälygeneroitu väärä uutinen on ensisijainen huolenaihe, ja äänensynteesi on video-deepfake-edellä sen potentiaalisen vaikutuksen suhteen.
Jos näin on, tämä vastaa sitä, että deepfake-videota ei ole vielä käytetty mihinkään rikokseen, joka ei liity pornografiaan (Aasia ei ole viivytellyt deepfake-pornografian rikollistamisessa), kun taas äänideepfake-tekniikan on arveltu olleen käytössä vähintään kahdessa suuressa talousrikoksessa, Isossa-Britanniassa vuonna 2019 ja Yhdistyneissä arabiemiirikunnissa vuonna 2021.
Uudet luonnokset velvoittavat käyttäjät, jotka haluavat hyödyntää henkilön identiteettiä koneoppimisjärjestelmien avulla, hakemaan häneltä kirjallisen luvan. Syntetisoitu media on myös näytettävä jollain “näkyvällä” logolla tai vesileimalla tai muulla tavalla, jolla kuluttaja voi ymmärtää, että sisältö on muutettu tai kokonaan keksitty. Ei ole täysin selvää, miten tämä voidaan toteuttaa äänideepfakejen tapauksessa.
Rekisteröinti
Jos luonnokset hyväksytään, ne velvoittavat syvän synteesipalvelun tarjoajat rekisteröimään sovellettavat sovellukset valtiolle internetin tietopalvelujen algoritmisten suosittelujen hallinnointia koskevien voimassa olevien säännösten mukaisesti, ja noudattamaan kaikkia tarvittavia ilmoittamismenettelyjä. Synteesipalvelun tarjoajien on myös yhteistyössä toimittava valvonnan ja tarkastuksen suhteen ja tarjottava “tarvittavaa teknistä ja datatukea sekä apua” pyydettäessä.
Lisäksi palveluntarjoajien on perustettava helppokäyttöisiä portaaleja valituksille, ja julkaistava odotettavat ajat valitusten käsittelyyn, sekä tarjottava “väärän tiedon kumoamismekanismit” – vaikka ehdotukset eivät anna yksityiskohtaisia tietoja tämän toteuttamisesta.
Rikkomukset voivat johtaa sakoihin, jotka ovat 10 000 ja 100 000 juanin (1 600 ja 16 000 dollaria) välillä, sekä altistaa rikkomuksista vastuussa olevat yritykset siviili- ja rikosoikeudellisiin kanneihin.
* Käännös Google-kääntäjällä, katso linkki artikkelin alussa.
Julkaistu ensimmäisen kerran 28. tammikuuta 2022.












