Andersons hoek
China Stelt Verhoogde Regulering van Deepfakes en Andere AI-Synthese-Systemen Voor
Belangrijkste puntenDe ontwerpregelgeving van China richt zich op zes AI-synthesetakken, waaronder tekst…
Meer weergeven
- De ontwerpregelgeving van China richt zich op zes AI-synthesetakken, waaronder tekst, spraak en 3D-reconstructie.
- Aanbieders moeten alle gesynthetiseerde media van een watermerk voorzien en schriftelijke toestemming verkrijgen voor het gebruik van identiteit.
- Overtreders die diepe synthesediensten niet registreren, riskeren boetes tot 100.000 yuan.
De Cyberspace Administration of China (CAC) heeft een nieuwe set conceptregels voorgesteld om AI-geassisteerde synthese-systemen te reguleren, waaronder deepfakes, virtuele realiteitsscènes, tekstgeneratie, audio en andere subsectoren van AI-media-synthese – een veld waarin China een groot aantal academische papers en innovatieve onderzoeksprojecten produceert elke maand.
Een bericht (Google Vertaling, origineel hier) op de officiële site van de CAC zet de voorgestelde verplichtingen uiteen en karakteriseert getroffen diensten als ‘diepe synthese-dienstverleners’, en nodigt burgers uit om deel te nemen door commentaar te geven op de conceptvoorstellen, met een deadline van 28 februari.
Niet Alleen Deepfakes
Hoewel de voorgestelde regels zijn gerapporteerd in termen van hun potentiële impact op de creatie en verspreiding van deepfakes, probeert het document een allesomvattende kijk te hebben op de mogelijkheid van algoritmes om elke soort inhoud te genereren die kan worden geïnterpreteerd in de breed begrepen zin van ‘media’.
Artikel 2 verklaart de beoogde reikwijdte van de regels over zes sectoren*:
(1) Technieken voor het genereren of bewerken van tekstinhoud, zoals hoofdstukgeneratie, tekststijlconversie en vraag- en antwoordgesprek;
(2) Technologieën voor het genereren of bewerken van spraakinhoud, zoals tekst-naar-spraak, spraakconversie en spraakkenmerkbewerking;
(3) Technologieën voor het genereren of bewerken van niet-spraakinhoud, zoals muziekgeneratie en het bewerken van omgevingsgeluid in scènes;
(4) Gezichtsgeneratie, gezichtsvervanging, karakterkenmerkbewerking, gezichtsbewerking, gebarenbewerking en andere technologieën voor het genereren of bewerken van biometrische kenmerken zoals gezichten in afbeeldingen en video-inhoud;
(5) Technieken voor het bewerken van niet-biologische kenmerken in afbeeldingen en video-inhoud, zoals beeldverbetering en beeldherstel;
(6) Technologieën voor het genereren of bewerken van virtuele scènes zoals 3D-reconstructie.
Deepfake Regulering
China heeft het gebruik van AI voor het verspreiden van nepnieuws eind 2019 gecriminaliseerd, op dat moment uitte de CAC zijn bezorgdheid over de potentiële implicaties van deepfake-technologie, waardoor velen dachten dat de Chinese regering uiteindelijk deepfake-technologie zou verbieden.
Maar dit zou betekenen dat China een van de meest politiek en cultureel significante ontwikkelingen in de geschiedenis van media-generatie, AI en zelfs politiek officieel zou opgeven, en zich zou afsluiten van de voordelen van wereldwijde en open wetenschappelijke samenwerking.
Daarom lijkt het erop dat China nu besloten heeft om te experimenteren met het beheersen van de potentieel oncontroleerbare technologie in plaats van die te verbieden, wat, naar mening van velen, uiteindelijk zal migreren uit zijn ontwikkelingsfase waarin pornografie als aanjager fungeert en naar een legitieme en exploiteerbare reeks use cases, met name in de entertainmentsector.
NeRF Inbegrepen
Artikel 2.6 behandelt de generatie of bewerking van virtuele scènes, zoals 3D-reconstructie, een meer embryonale technologie dan deepfake-impersonatie, en een die de afgelopen twee jaar de meeste prominentie heeft gekregen door de introductie van Neural Radiance Fields (NeRF), waarbij fotogrammetrie wordt gebruikt om complete scènes te synthetiseren in de verkenbare latente ruimte van machinelearningmodellen.
Maar NeRF breidt zijn bereik snel uit van statische voorstellingen van modellen en virtuele rondgangen door omgevingen naar het genereren van video’s van het volledige lichaam, met Chinese onderzoekers die enkele belangrijke innovaties op dit gebied hebben doorgevoerd.

China’s ST-NeRF in actie.
Hoewel NeRF een stortvloed aan nieuw onderzoek heeft geproduceerd sinds zijn aankondiging in 2020, heeft zijn implementatie in VR- of AR-systemen, of zijn geschiktheid in visuele effecten-pipelines, nog veel opvallende uitdagingen en technologische bottlenecks te overwinnen. NeRF’s groeiende capaciteit om complete menselijke fysionomieën te reconstrueren en te bewerken, heeft nog geen van de standaard identiteitstransformerende deepfake-mogelijkheden geïncorporeerd die de afgelopen twee jaar de krantenkoppen hebben gehaald.
Audio Deepfakes een Prioriteit?
Als men de lijst van Artikel 2 als een indicatie neemt van de diepe synthese-technologieën die China het meest wil controleren en reguleren, zou dit suggereren dat tekstgebaseerd, door AI gegenereerd nepnieuws de eerste zorg is, met spraaksynthese vóór video-deepfakes in termen van zijn potentiële impact.
Als dat zo is, dan komt dit overeen met het feit dat deepfake-video nog niet is gebruikt in enig misdrijf dat niet met pornografie te maken heeft (Azië heeft niet geaarzeld om deepfake-pornografie strafbaar te stellen), terwijl wordt vermoed dat deepfake-audio als technologie is gebruikt bij ten minste twee grote financiële misdrijven, in het VK in 2019, en in de Verenigde Arabische Emiraten in 2021.
De nieuwe conceptregels verplichten gebruikers die de identiteit van een persoon via machinelearning-systemen willen gebruiken om schriftelijke toestemming te vragen van het individu. Bovendien moet gesynthetiseerde media een soort ‘opvallend’ logo of watermerk weergeven, of andere middelen waarmee de persoon die de materialen consumeert, kan worden gemaakt om te begrijpen dat de inhoud is gewijzigd of geheel gefabriceerd. Het is niet geheel duidelijk hoe dit kan worden bereikt in het geval van audio-deepfakes.
Registreren
Als de conceptvoorstellen worden goedgekeurd, zullen de diepe synthese-dienstverleners verplicht zijn om hun toepassingen te registreren bij de staat, in overeenstemming met de bestaande Bepalingen inzake de administratie van algoritme-aanbevelingen voor internetinformatiediensten, en om alle noodzakelijke indieningsprocedures te volgen. Diepe synthese-aanbieders zullen ook verplicht zijn om onbelemmerd mee te werken in termen van toezicht en inspectie, en om ‘noodzakelijke technische en gegevensondersteuning en -hulp’ te bieden op verzoek.
Verder zullen dergelijke aanbieders een gebruikersvriendelijke portal voor klachten moeten opzetten, en de verwachte verwerkingstijd van dergelijke klachten moeten publiceren, evenals ‘mechanismen om geruchten te weerleggen’ – hoewel de voorstellen geen details geven over de implementatie hiervan.
Overtredingen kunnen leiden tot boetes van tussen 10.000 en 100.000 yuan ($1.600 en $16.000), evenals tot civielrechtelijke en strafrechtelijke aansprakelijkheid voor de betreffende bedrijven.
* Vertaling door Google Translate, zie link vroeg in het artikel.
Eerst gepubliceerd 28 januari 2022.












