China Stelt Verhoogde Regulering van Deepfakes en Andere AI-Synthese-Systemen Voor

Het Cyberspace Administration of China (CAC) heeft een nieuwe set conceptregels voorgesteld om AI-geassisteerde synthese-systemen te reguleren, waaronder deepfakes, virtuele realiteitsscènes, tekstgeneratie, audio en andere subsectoren van AI-media-synthese – een veld waarin China een groot aantal academische papers en innovatieve onderzoeksprojecten produceert elke maand.

Een bericht (Google Vertaling, origineel hier) op de officiële site van de CAC zet de voorgestelde verplichtingen uiteen en karakteriseert getroffen diensten als ‘diepe synthese-dienstverleners’, en nodigt burgers uit om deel te nemen door commentaar te geven op de conceptvoorstellen, met een deadline van 28 februari.

Niet Alleen Deepfakes

Hoewel de voorgestelde regels zijn gerapporteerd in termen van hun potentiële impact op de creatie en verspreiding van deepfakes, probeert het document een allesomvattende kijk te hebben op de mogelijkheid van algoritmes om elke soort inhoud te genereren die kan worden geïnterpreteerd in de breed begrepen zin van ‘media’.

Artikel 2 verklaart de beoogde reikwijdte van de regels over zes sectoren*:

(1) Technieken voor het genereren of bewerken van tekstinhoud, zoals hoofdstukgeneratie, tekststijlconversie en vraag- en antwoordgesprek;

(2) Technologieën voor het genereren of bewerken van spraakinhoud, zoals tekst-naar-spraak, spraakconversie en spraakkenmerkbewerking;

(3) Technologieën voor het genereren of bewerken van niet-spraakinhoud, zoals muziekgeneratie en geluidsbewerking;

(4) Gezichtsgeneratie, gezichtsvervanging, karakterkenmerkbewerking, gezichtsbewerking, gebarenbewerking en andere technologieën voor het genereren of bewerken van biometrische kenmerken zoals gezichten in afbeeldingen en video-inhoud;

(5) Technieken voor het bewerken van niet-biologische kenmerken in afbeeldingen en video-inhoud, zoals beeldverbetering en beeldherstel;

(6) Technologieën voor het genereren of bewerken van virtuele scènes zoals 3D-reconstructie.

Deepfake Regulering

China heeft het gebruik van AI voor het verspreiden van nepnieuws eind 2019 gecriminaliseerd, op dat moment uitte de CAC zijn bezorgdheid over de potentiële implicaties van deepfake-technologie, waardoor velen dachten dat de Chinese regering uiteindelijk deepfake-technologie zou verbieden.

Maar dit zou betekenen dat China een van de meest politiek en cultureel significante ontwikkelingen in de geschiedenis van media-generatie, AI en zelfs politiek officieel zou opgeven, en zich zou afsluiten van de voordelen van wereldwijde en open wetenschappelijke samenwerking.

Daarom lijkt het erop dat China nu besloten heeft om te experimenteren met het controleren van deepfake-technologie in plaats van het te verbieden, wat, naar mening van velen, uiteindelijk zal migreren uit zijn pornofase en naar een legitieme en exploiteerbare reeks use cases, met name in de entertainment.

NeRF Inbegrepen

Artikel 2.6 behandelt de generatie of bewerking van virtuele scènes, zoals 3D-reconstructie, een meer embryonale technologie dan deepfake-impersonatie, en een die de afgelopen twee jaar de meeste prominentie heeft gekregen door de introductie van Neural Radiance Fields (NeRF), waarbij fotogrammetrie wordt gebruikt om complete scènes te synthetiseren in de exploratie-latente ruimte van machine learning-modellen.

Maar NeRF breidt zijn bereik snel uit van tableaux van modellen en doorloop van omgevingen naar de generatie van volledige video, met Chinese onderzoekers die enkele belangrijke innovaties op dit gebied hebben doorgevoerd.

China’s ST-NeRF in actie.

Hoewel NeRF een blizzard van nieuwe onderzoeken heeft geproduceerd sinds zijn aankondiging in 2020, heeft zijn implementatie in VR- of AR-systemen, of zijn geschiktheid in visuele effecten-pipelines, nog veel opvallende uitdagingen en technologische bottlenecks te overwinnen. NeRF’s groeiende capaciteit om complete menselijke fysionomieën te reconstrueren en te bewerken, heeft nog geen van de standaard identiteitstransformerende deepfake-mogelijkheden geïncorporeerd die de afgelopen twee jaar de krantenkoppen hebben gehaald.

Audio Deepfakes een Prioriteit?

Als men de lijst van Artikel 2 als een indicatie neemt van de diepe synthese-technologieën die China het meest wil controleren en reguleren, zou dit suggereren dat tekstgebaseerde AI-gegenereerde nepnieuws de eerste zorg is, met spraaksynthese voorop van video-deepfakes in termen van zijn potentiële impact.

Als dat zo is, dan komt dit overeen met het feit dat deepfake-video nog niet is gebruikt in enig misdrijf dat niet met pornografie te maken heeft (Azië heeft geen twijfels om deepfake-pornografie te criminaliseren), terwijl deepfake-audio is voorgesteld als een actieve technologie in tenminste twee grote financiële misdrijven, in het VK in 2019, en in de Verenigde Arabische Emiraten in 2021.

De nieuwe conceptregels verplichten gebruikers die een persoonlijkheid via het gebruik van machine learning-systemen willen exploiteren om schriftelijke toestemming te vragen van het individu. Bovendien moet gesynthetiseerde media een soort ‘prominente’ logo of watermark weergeven, of andere middelen waarmee de persoon die de materialen consumeert, kan worden gemaakt om te begrijpen dat de inhoud is gewijzigd of geheel gefabriceerd. Het is niet geheel duidelijk hoe dit kan worden bereikt in het geval van audio-deepfakes.

Registreren

Als de conceptvoorstellen worden goedgekeurd, zullen de diepe synthese-dienstverleners verplicht zijn om hun toepassingen te registreren bij de staat, in overeenstemming met de bestaande Bepalingen inzake de administratie van algoritme-aanbevelingen voor internetinformatiediensten, en om alle noodzakelijke indieningsprocedures te volgen. Diepe synthese-aanbieders zullen ook verplicht zijn om vrijwillig mee te werken in termen van toezicht en inspectie, en om ‘noodzakelijke technische en gegevensondersteuning en -hulp’ te bieden op verzoek.

Verder zullen dergelijke aanbieders een gebruikersvriendelijke portal voor klachten moeten opzetten, en de verwachte verwerkingstijd van dergelijke klachten moeten publiceren, evenals ‘roddel-weerleggende mechanismen’ – hoewel de voorstellen geen details geven over de implementatie hiervan.

Overtredingen kunnen leiden tot boetes van tussen 10.000 en 100.000 yuan ($1.600 en $16.000), evenals tot civielrechtelijke en strafrechtelijke aansprakelijkheid voor de betreffende bedrijven.

* Vertaling door Google Translate, zie link vroeg in het artikel.

Eerst gepubliceerd 28 januari 2022.