Andersons vinkel
Kina foreslår øget regulering af deepfakes og andre AI-syntesesystemer
NøglepunkterKinas udkast til regulativer retter sig mod seks AI-synteserelaterede sektorer…
Vis mere
- Kinas udkast til regulativer retter sig mod seks AI-synteserelaterede sektorer, herunder tekst, tale og 3D-rekonstruktion.
- Udbyderne skal vandmærke alt syntetiseret medie og indhente skriftlig tilladelse til brug af identitet.
- Overtrædere, der undlader at registrere dybsyntesetjenester, risikerer bøder på op til 100.000 yuan.
Cyberspace Administration of China (CAC) har foreslået et nyt sæt udkast til regler til at styre AI-baserede syntesesystemer, herunder deepfakes, virtuelle virkelighedsscener, tekstgenerering, lyd og andre undersektorer af AI-mediesyntese – et felt, hvor Kina producerer en betydelig mængde akademiske artikler og innovative forskningsprojekter hver måned.
En post (Google Translate, original her) på CAC’s officielle website beskriver de foreslåede forpligtelser og karakteriserer berørte tjenester som ‘dyb syntese-tjenesteudbydere’, og inviterer borgere til at deltage ved at bidrage med kommentarer til udkastene, med en frist på 28. februar.
Ikke kun deepfakes
Selvom de foreslåede regler er blevet rapporteret i forhold til deres potentielle indvirkning på oprettelse og spredning af deepfakes, forsøger dokumentet at dække alle former for indhold, der kan genereres af algoritmer, og som kan fortolkes i den bredt forståede betydning af ‘medie’.
Artikel 2 erklærer det planlagte omfang af reglerne på tværs af seks sektorer*:
(1) Teknikker til generering eller redigering af tekstindhold, såsom kapitelgenerering, tekststilsomdannelse og spørgsmål-svar-dialog;
(2) Teknologier til generering eller redigering af taleindhold, såsom tekst-til-tale, taleomdannelse og redigering af stemmeegenskaber;
(3) Teknologier til generering eller redigering af andet lydindhold end tale, såsom musikgenerering og scenelydredigering;
(4) Ansigtsgenerering, ansigtsudskiftning, redigering af karakteregenskaber, ansigtsmanipulation, gestusmanipulation og andre teknologier til generering eller redigering af biometriske træk såsom ansigter i billeder og videoindhold;
(5) Teknikker til redigering af ikke-biologiske træk i billeder og videoindhold, såsom billedforbedring og billedrestaurering;
(6) Teknologier til generering eller redigering af virtuelle scener såsom 3D-rekonstruktion.
Deepfake-regulering
Kina kriminaliserede brugen af AI til spredning af falske nyheder i slutningen af 2019, på det tidspunkt hvor CAC udtrykte bekymring over de potentielle konsekvenser af deepfake-teknologi, hvilket fik mange til at overveje, at den kinesiske regering ville til sidst forbyde deepfake-teknologi helt.
Men dette ville indebære, at Kina officielt opgav en af de mest politisk og kulturelt betydningsfulde udviklinger i mediegenererings-, AI- og selv politikkens historie, og afskære sig fra fordelene ved global og åben videnskabelig samarbejde.
Derfor synes det, at Kina nu er fast besluttet på at eksperimentere med at kontrollere i stedet for at forbyde den potentielt ukontrollerbare teknologi, som mange mener, til sidst vil migrere ud af sin udviklingsfase drevet frem af pornografi og ind i et legitimt og udnytteligt sæt af brugsområder, navnlig i underholdning.
NeRF inkluderet
Artikel 2.6 omhandler generering eller redigering af virtuelle scener, såsom 3D-rekonstruktion, en yngre teknologi end identitetsimitation med deepfakes, og en, der har opnået mest prominens over de sidste to år gennem introduktionen af Neural Radiance Fields (NeRF), hvor fotogrammetri bruges til at syntetisere hele scener i det udforskelige latente rum i maskinlæringsmodeller.
Men NeRF udvider hurtigt sin rækkevidde ud fra statiske fremstillinger af modeller og virtuelle gennemgange af miljøer til generering af fuld-kropsvideo, med kinesiske forskere, der har fremført nogle store innovationer på dette område.

Kinas ST-NeRF i aktion.
Selvom NeRF har produceret en strøm af nye forskningsresultater siden sin introduktion i 2020, har dens implementering i VR- eller AR-systemer eller dens egnethed i visuelle effektpipelines stadig mange bemærkelsesværdige udfordringer og tekniske flaskehalse at overvinde. NeRF’s voksende evne til at genskabe og redigere komplette menneskelige fysiognomier har endnu ikke inkorporeret nogen af de almindelige identitetsændrende deepfake-funktioner, der har kendetegnet nyhedsoverskrifter over de sidste to år.
Audio deepfakes en prioritet?
Hvis man skal tage Artikel 2’s listeorden som en indikation af de dybe synteseteknologier, som Kina er mest bekymret for at kontrollere og regulere, ville dette antyde, at tekstbaseret AI-genereret falske nyheder er af primær bekymring, med stemmesyntese foran video-deepfakes i forhold til deres potentielle indvirkning.
Hvis så, stemmer dette overens med det faktum, at deepfake-video endnu ikke er blevet brugt i nogen forbrydelse, der ikke er relateret til pornografi (Asien har ikke tøvet med at kriminalisere deepfake-porn), hvorimod det er blevet formodet, at deepfake-lyd har været anvendt som teknologi i mindst to større økonomiske forbrydelser, i Storbritannien i 2019, og i De Forenede Arabiske Emirater i 2021.
De nye regeludkast forpligter brugere, der ønsker at udnytte en persons identitet via brug af maskinlærings-systemer, til at søge skriftlig tilladelse fra personen. Desuden skal syntetisk medie vises med et fremtrædende logo eller vandmærke, eller andre midler, hvorved personen, der forbruger materialet, kan få at vide, at indholdet er ændret eller helt fabrikeret. Det er ikke helt klart, hvordan dette kan opnås i tilfælde af audio-deepfakes.
Registrering
Hvis udkastene ratificeres, vil forslagene forpligte dyb syntese-tjenesteudbydere til at registrere deres relevante applikationer hos staten, i overensstemmelse med de eksisterende bestemmelser om administration af algoritme-anbefalinger for internetinformationstjenester, og til at overholde alle nødvendige indregistreringsprocedurer. Dyb syntese-udbydere vil også blive pålagt at samarbejde frit i forhold til tilsyn og inspektion, og til at yde ‘nødvendig teknisk og datastøtte og assistance’ på anmodning.
Desuden vil sådanne udbydere behøve at etablere brugervenlige klageportaler, og til at offentliggøre forventede tidsgrænser for behandling af sådanne klager, samt til at tilbyde ‘rygter-afvisningsmekanismer’ – selvom forslagene ikke giver detaljer om implementeringen heraf.
Overtrædelser kunne føre til bøder på mellem 10.000 og 100.000 yuan ($1.600 og $16.000), samt udsætte overtrædende virksomheder for civil- og straffesager.
* Oversættelse ved Google Translate, se link tidligt i artiklen.
Først publiceret 28. januar 2022.












