Andersons vinkel
Kina foreslår økt regulering av deepfakes og andre AI-syntesesystemer
Viktige punkter中国草案法规针对六大AI合成领域,包括文本、语音和3D重建。
Vis mer
- 中国草案法规针对六大AI合成领域,包括文本、语音和3D重建。
- 提供者必须对所有合成媒体添加水印,并获取身份使用的书面许可。
- 未注册深度合成服务的违规者将面临最高10万元罚款。
Den kinesiske cyberspace-administrasjonen (CAC) har foreslått et nytt sett med utkast til reguleringer for å styre AI-baserte syntesesystemer, inkludert deepfakes, virtuelle virkelighets-scener, tekstgenerering, lyd og andre undersektorer av AI-medie-syntese – et felt hvor Kina produserer en betydelig mengde akademiske artikler og innovative forskningsprosjekter hver måned.
En artikkel (Google -oversettelse, original her) på CACs offisielle nettsted beskriver de foreslåtte forpliktelsene, og karakteriserer berørte tjenester som ‘dypt syntese-tjenesteleverandører’, og inviterer borgere til å delta ved å bidra med kommentarer til utkastforslagene, med en frist på 28. februar.
Ikke bare deepfakes
Selv om de foreslåtte reguleringene har blitt rapportert i forhold til deres potensielle innvirkning på skapelsen og spredningen av deepfakes, forsøker dokumentet å dekke alle mulige typer innhold som kan tolkes i den bredt forståtte betydningen av ‘medie’.
Artikkel 2 erklærer det planlagte omfanget av reguleringene over seks sektorer*:
(1) Teknikker for å generere eller redigere tekstinnhold, som kapittelgenerering, tekststil-omforming og spørsmål-og-svar-dialog;
(2) Teknologier for å generere eller redigere taleinnhold, som tekst-til-tale, tale-omforming og tale-egenskapsredigering;
(3) Teknologier for å generere eller redigere annet lydinnhold enn tale, som musikkgenerering og scenelydredigering;
(4) Ansiktsgenerering, ansikts-erstatning, karakter-egenskapsredigering, ansiktsmanipulering, gest-manipulering og andre teknologier for å generere eller redigere biometriske trekk som ansikter i bilder og videoinnhold;
(5) Teknikker for å redigere ikke-biologiske trekk i bilder og videoinnhold, som bilde-forbedring og bilde-gjenopprettelse;
(6) Teknologier for å generere eller redigere virtuelle scener, som 3D-rekonstruksjon.
Deepfake-regulering
Kina kriminaliserte bruken av AI for å spre falske nyheter ved slutten av 2019, da CAC uttrykte bekymring over de potensielle implikasjonene av deepfake-teknologi, og mange mente at den kinesiske regjeringen etter hvert ville forby deepfake-teknologi fullstendig.
Men dette ville innebære at Kina offisielt oppga en av de mest politisk og kulturelt betydningsfulle utviklingene i medie-genereringens historie, AI og selv politikk, og kutte seg selv av fra fordelen av global og åpen vitenskapelig samarbeid.
Derfor ser det ut til at Kina nå er bestemt på å eksperimentere med å kontrollere i stedet for å forby den potensielt ukontrollerbare teknologien, som mange mener vil til slutt migrere ut av sin utviklingsfase drevet frem av pornografi og inn i et legitimt og utnyttbart sett med bruksområder, særlig i underholdning.
NeRF inkludert
Artikkel 2.6 omhandler generering eller redigering av virtuelle scener, som 3D-rekonstruksjon, en nyere teknologi enn identitetsimitasjon med deepfakes, og en som har oppnådd mest prominens de siste to årene gjennom introduksjonen av Neural Radiance Fields (NeRF), hvor fotogrammetri brukes til å syntetisere hele scener i det utforskbare latente rommet i maskinlæringsmodeller.
Men NeRF utvider raskt sitt område utenfor statiske fremstillinger av modeller og virtuelle gjennomganger av miljøer inn i generering av fullkroppsvideo, med kinesiske forskere som har fremmet enkelte større innovasjoner i denne sammenhengen.

Kinas ST-NeRF i aksjon.
Selv om NeRF har produsert en strøm av ny forskning siden dens annonsering i 2020, har dens implementering i VR- eller AR-systemer, eller dens egnethet i visuelle effektpipelines, fortsatt mange bemerkelsesverdige utfordringer og tekniske flaskehalser å overvinne. NeRFs økende evne til å rekonstituere og redigere fullstendige menneskelige fysiognomier har ennå ikke inkorporert noen av de standard identitets-transformerende deepfake-egenskapene som har karakterisert nyhetsoverskrifter de siste to årene.
Audio-deepfakes en prioritet?
Hvis en skal ta Artikkel 2s listeorden som en indikasjon på de dypt syntese-teknologier som Kina er mest bekymret for å kontrollere og regulere, ville dette antyde at tekst-basert AI-generert falske nyheter er av primær bekymring, med tale-syntese foran video-deepfakes i forhold til deres potensielle innvirkning.
Hvis så, stemmer dette overens med det faktum at deepfake-video ennå ikke har blitt brukt i noen kriminell handling ikke relatert til pornografi (Asia har ikke nølt å kriminalisere deepfake-porn), mens det har vært antatt at deepfake-lyd ble brukt som teknologi i minst to større økonomiske kriminalsaker, i Storbritannia i 2019, og i De forente arabiske emirater i 2021.
De nye utkast-reguleringene forplikter brukere som ønsker å utnytte en persons identitet via bruk av maskinlærings-systemer til å søke skriftlig tillatelse fra den enkelte. I tillegg må syntetisk media vise en eller annen form for ‘fremtredende’ logo eller vannmerke, eller andre midler som kan gjøre det mulig for personen som konsumerer materialet å forstå at innholdet er endret eller fullstendig fabrikkert. Det er ikke fullstendig klart hvordan dette kan oppnås i tilfelle av audio-deepfakes.
Registrering
Hvis de foreslåtte forslagene blir ratifisert, vil de foreslåtte forpliktelsene pålegge dypt syntese-tjenesteleverandører å registrere sine relevante applikasjoner hos staten, i henhold til de eksisterende bestemmelsene om administrasjon av algoritme-anbefalinger for internett-informasjonstjenester, og å følge alle nødvendige registreringsprosedyrer. Dypt syntese-leverandører vil også bli pålagt å samarbeide fritt i forhold til tilsyn og inspeksjon, og å produsere ‘nødvendig teknisk og data-støtte og assistanse’ på forespørsel.
Videre vil slike leverandører måtte etablere brukervennlige klageportaler, og å publisere forventede tidsbegrensninger for behandling av slike klager, samt å tilby ‘rykte-avkreftings-mekanismer’ – selv om forslagene ikke gir detaljer i forhold til implementeringen av dette.
Overtredelser kunne føre til bøter på mellom 10 000 og 100 000 yuan ($1 600 og $16 000), samt eksponere selskaper som overtrer reglene for sivilrettslige og strafferettslige prosesser.
* Oversatt med Google Translate, se lenke tidlig i artikkelen.
Først publisert 28. januar 2022.












