Kina foreslår øget regulering af deepfakes og andre AI-syntesesystemer

Cyberspace Administration of China (CAC) har foreslået en ny sæt af udraftsregler til at styre AI-baserede syntesesystemer, herunder deepfakes, virtuelle virkelighedsscener, tekstgenerering, lyd og andre undersektorer af AI-mediesyntese – et felt, hvor Kina producerer en betydelig mængde akademiske artikler og innovative forskningsprojekter hver måned.

En post (Google Translate, original her) på CAC’s officielle website beskriver de foreslåede forpligtelser og karakteriserer berørte tjenester som ‘dyb syntese-tjenesteudbydere’, og inviterer borgere til at deltage ved at bidrage med kommentarer til udraftsforlagene, med en frist på 28. februar.

Ikke kun deepfakes

Selvom de foreslåede regler er blevet rapporteret i forhold til deres potentielle indvirkning på oprettelse og spredning af deepfakes, forsøger dokumentet at dække alle former for indhold, der kan genereres af algoritmer, og som kan fortolkes i den bredt forståede betydning af ‘medie’.

Artikel 2 erklærer den planlagte omfang af reglerne på tværs af seks sektorer*:

(1) Teknikker til generering eller redigering af tekstindhold, såsom kapitelgenerering, tekststilsomdannelse og spørgsmål-svar-dialog;

(2) Teknologier til generering eller redigering af lydindhold, såsom tekst-til-tale, taleomdannelse og taleattributediting;

(3) Teknologier til generering eller redigering af ikke-lydindhold, såsom musikgenerering og scenelydredigering;

(4) Ansigtsgenerering, ansigtsudskiftning, karakterattributediting, ansigtmanipulation, gestusmanipulation og andre teknologier til generering eller redigering af biometriske træk såsom ansigter i billeder og videoindhold;

(5) Teknikker til redigering af ikke-biologiske træk i billeder og videoindhold, såsom billedforbedring og billedrestaurering;

(6) Teknologier til generering eller redigering af virtuelle scener såsom 3D-rekonstruktion.

Deepfake-regulering

Kina kriminaliserede brugen af AI til spredning af falske nyheder i slutningen af 2019, på det tidspunkt hvor CAC udtrykte bekymring over de potentielle konsekvenser af deepfake-teknologi, hvilket fik mange til at overveje, at den kinesiske regering ville til sidst forbyde deepfake-teknologi helt.

Men dette ville indebære, at Kina officielt opgav en af de mest politisk og kulturelt betydningsfulde udviklinger i mediegenererings-, AI- og selv politikkens historie, og afskære sig fra fordelene ved global og åben videnskabelig samarbejde.

Derfor synes det, at Kina nu er fast besluttet på at eksperimentere med at kontrollere i stedet for at forbyde den potentielt rogue-teknologi, som mange mener, til sidst vil migrere ud af sin porn accelerator-fase og ind i en legitim og udnyttelig sæt af brugsområder, navnlig i underholdning.

NeRF inkluderet

Artikel 2.6 omhandler generering eller redigering af virtuelle scener, såsom 3D-rekonstruktion, en mere ung teknologi end deepfake-impersonation, og en, der har opnået mest prominens over de sidste to år gennem introduktionen af Neural Radiance Fields (NeRF), hvor fotogrammetri bruges til at syntetisere hele scener i den latente rum af maskinlæringsmodeller.

Men NeRF udvider hurtigt sin rækkevidde ud fra tabeller af modeller og gennemgang af miljøer til generering af fuld-kropsvideo, med kinesiske forskere, der har fremført nogle store innovationer på dette område.

Kinas ST-NeRF i aktion.

Selvom NeRF har produceret en blizzard af nye forskningsresultater siden sin introduktion i 2020, har dens implementering i VR- eller AR-systemer eller dens egnethed i visuelle effektpipelines stadig mange bemærkelsesværdige udfordringer og tekniske flaskehalse at overvinde. NeRF’s voksende evne til at genskabe og redigere komplette menneskelige fysiognomier har endnu ikke inkorporeret nogen af de standard identitets-transformationer, der har kendetegnet nyhedsoverskrifter over de sidste to år.

Audio deepfakes en prioritet?

Hvis man skal tage Artikel 2’s listeorden som en indikation af de dybe synteseteknologier, som Kina er mest bekymret for at kontrollere og regulere, ville dette antyde, at tekstbaseret AI-genereret falske nyheder er af primær bekymring, med stemmesyntese foran video-deepfakes i forhold til deres potentielle indvirkning.

Hvis så, stemmer dette overens med det faktum, at deepfake-video endnu ikke er blevet brugt i nogen forbrydelse, der ikke er relateret til pornografi (Asien har ikke tøvet med at kriminalisere deepfake-porn), hvorimod deepfake-lyd er blevet fremført som en aktiv teknologi i mindst to større finansielle forbrydelser, i Storbritannien i 2019, og i De Forenede Arabiske Emirater i 2021.

De nye udraftsregler forpligter brugere, der ønsker at udnytte en persons identitet via brug af maskinlærings-systemer, til at søge skriftlig tilladelse fra personen. Desuden skal syntetisk medie vises med en slående logo eller vandmærke, eller andre midler, hvorved personen, der forbruger materialet, kan få at vide, at indholdet er ændret eller helt fabrikeret. Det er ikke helt klart, hvordan dette kan opnås i tilfælde af audio-deepfakes.

Registrering

Hvis udraftsforlagene ratificeres, vil de foreslåede forslag forpligte dyb syntese-tjenesteudbydere til at registrere deres relevante ansøgninger hos staten, i overensstemmelse med de eksisterende bestemmelser om administration af algoritme-anbefalinger for internetinformationstjenester, og til at overholde alle nødvendige indregistreringsprocedurer. Dyb syntese-udbydere vil også blive pålagt at samarbejde frit i forhold til tilsyn og inspektion, og til at yde ‘nødvendig teknisk og datastøtte og assistance’ på anmodning.

Desuden vil sådanne udbydere behøve at etablere brugervenlige porte for klage, og til at offentliggøre forventede tidsgrænser for behandling af sådanne klager, samt til at tilbyde ‘rygter-afvisningsmekanismer’ – selvom forslagene ikke giver detaljer om implementeringen heraf.

Overtrædelser kunne føre til bøder på mellem 10.000 og 100.000 yuan ($1.600 og $16.000), samt udsætte overtrædende virksomheder for civil- og straffesager.

* Translation by Google Translate, se link tidligt i artiklen.

Først publiceret 28. januar 2022.