Kina foreslår økt regulering av deepfakes og andre AI-syntesesystemer

Det kinesiske cyberspace-administrasjonen (CAC) har foreslått en ny sett med utkast til reguleringer for å styre AI-basert syntese-systemer, inkludert deepfakes, virtuelle virkelighets-scener, tekstgenerering, lyd og andre undersektorer av AI-medie-syntese – et felt hvor Kina produserer en betydelig mengde akademiske artikler og innovative forskningsprosjekter hver måned.

En artikkel (Google -oversettelse, original her) på CACs offisielle nettsted setter ut de foreslåtte forpliktelsene, og karakteriserer berørte tjenester som ‘dypt syntese-tjenesteleverandører’, og inviterer borgere til å delta ved å bidra med kommentarer til utkastforslagene, med en frist på 28. februar.

Ikke bare deepfakes

Selv om de foreslåtte reguleringene har blitt rapportert i forhold til deres potensielle innvirkning på skapelsen og spredningen av deepfakes, forsøker dokumentet å dekke alle mulige typer innhold som kan tolkes i den bredt forståtte betydningen av ‘medie’.

Artikkel 2 erklærer den planlagte omfanget av reguleringene over seks sektorer*:

(1) Teknikker for å generere eller redigere tekstinnhold, som kapittelgenerering, tekststil-omforming og spørsmål-og-svar-dialog;

(2) Teknologier for å generere eller redigere lydinnhold, som tekst-til-tale, tale-omforming og tale-egenskapsredigering;

(3) Teknologier for å generere eller redigere ikke-lydinnhold, som musikkgenerering og scenelydredigering;

(4) Ansiktsgenerering, ansikts-erstatning, karakter-egenskapsredigering, ansiktsmanipulering, gest-manipulering og andre teknologier for å generere eller redigere biometriske trekk som ansikter i bilder og videoinnhold;

(5) Teknikker for å redigere ikke-biologiske trekk i bilder og videoinnhold, som bilde-forbedring og bilde-gjenopprettelse;

(6) Teknologier for å generere eller redigere virtuelle scener, som 3D-rekonstruksjon.

Deepfake-regulering

Kina kriminaliserte bruken av AI for å spre falske nyheter ved slutten av 2019, da CAC uttrykte bekymring over de potensielle implikasjonene av deepfake-teknologi, og mange mente at den kinesiske regjeringen ville eventuelt forbyle deepfake-teknologi fullstendig.

Men dette ville innebære at Kina offisielt oppga en av de mest politisk og kulturelt betydningsfulle utviklingene i medie-genereringens historie, AI og selv politikk, og kutte seg selv av fra fordelen av global og åpen vitenskapelig samarbeid.

Derfor ser det ut til at Kina nå er bestemt på å eksperimentere med å kontrollere i stedet for å forbyle den potensielt uærlige teknologien, som mange mener vil til slutt migrere ut av sin porn-akselerator-fase og inn i en legitim og utnyttbar sett med bruksområder, særlig i underholdning.

NeRF inkludert

Artikkel 2.6 omhandler generering eller redigering av virtuelle scener, som 3D-rekonstruksjon, en mer ny teknologi enn deepfake-impersonasjon, og en som har oppnådd mest prominens de siste to årene gjennom introduksjonen av Neural Radiance Fields (NeRF), hvor fotogrammetri brukes til å syntetisere hele scener i den utforskende latente rommet av maskinlæringsmodeller.

Men NeRF utvider raskt sitt område utenfor tabeller av modeller og gjennomgang av miljøer inn i generering av fullkroppsvideo, med kinesiske forskere som har fremmet enkelte større innovasjoner i denne sammenhengen.

Kinas ST-NeRF i aksjon.

Selv om NeRF har produsert en blizzard av ny forskning siden dens annonsering i 2020, har dens implementering i VR- eller AR-systemer, eller dens egnethet i visuelle effektpipelines, fortsatt mange bemerkelsesverdige utfordringer og tekniske flaskeshals til å krysse. NeRFs økende evne til å rekonstituere og redigere fullstendige menneskelige fysiognomier har ennå ikke inkorporert noen av de standard identitets-transformerende deepfake-egenskapene som har karakterisert nyhetsoverskrifter de siste to årene.

Audio-deepfakes en prioritet?

Hvis en skal ta Artikkel 2s listeorden som en indikasjon på de dypt syntese-teknologier som Kina er mest bekymret for å kontrollere og regulere, ville dette antyde at tekst-basert AI-generert falske nyheter er av primær bekymring, med tale-syntese foran video-deepfakes i forhold til deres potensielle innvirkning.

Hvis så, stemmer dette overens med det faktum at deepfake-video ennå ikke har blitt brukt i noen kriminell handling ikke relatert til pornografi (Asia har ikke nølt å kriminalisere deepfake-porn), mens deepfake-lyd har blitt fremmet som en aktiv teknologi i minst to større finansielle kriminalitets-saker, i Storbritannia i 2019, og i De forente arabiske emirater i 2021.

De nye utkast-reguleringene forplikter brukere som ønsker å utnytte en persons identitet via bruk av maskinlærings-systemer til å søke skriftlig tillatelse fra den enkelte. I tillegg må syntetisk media vise noen typer ‘prominent’ logo eller vannmerke, eller andre midler som kan gjøre det mulig for personen som konsumerer materialet å forstå at innholdet er endret eller fullstendig fabrikkert. Det er ikke fullstendig klart hvordan dette kan oppnås i tilfelle av audio-deepfakes.

Registrering

Hvis de foreslåtte forslagene blir ratifisert, vil de foreslåtte forpliktelsene pålegge dypt syntese-tjenesteleverandører å registrere sine relevante applikasjoner hos staten, i henhold til de eksisterende bestemmelsene om administrasjon av algoritme-anbefalinger for internett-informasjonstjenester, og å følge alle nødvendige registreringsprosedyrer. Dypt syntese-leverandører vil også bli pålagt å samarbeide fritt i forhold til tilsyn og inspeksjon, og å produsere ‘nødvendig teknisk og data-støtte og assistanse’ på forespørsel.

Videre vil slike leverandører måtte etablere brukervennlige portalene for klage, og å publisere forventede tidsbegrensninger for behandling av slike klager, samt å tilby ‘rykte-avkreftings-mekanismer’ – selv om forslagene ikke gir detaljer i forhold til implementeringen av dette.

Overtridelser kunne føre til bøter på mellom 10 000 og 100 000 yuan ($1 600 og $16 000), samt eksponere selskaper som overtrer reglene for sivile og kriminelle søksmål.

* Oversatt med Google Translate, se lenke tidlig i artikkelen.

Først publisert 28. januar 2022.