Čína navrhuje zvýšenou regulaci deepfake a dalších systémů syntézy AI

Čínská správa kybernetického prostoru (CAC) navrhla nový soubor návrhů nařízení pro řízení systémů syntézy AI, včetně deepfake, virtuální reality, generování textu, audio a dalších subsektorů syntézy médií AI – oblasti, ve které Čína produkuje značné množství akademických článků a inovativních výzkumných projektů každý měsíc.

Článek (Google Translation, původní zde) na oficiálních stránkách CAC uvádí navrhované povinnosti a charakterizuje postižené služby jako ‘poskytovatele služeb deep syntézy’, vyzývá občany, aby se zúčastnili podáním komentářů k návrhům, s termínem do 28. února.

Nejen deepfakes

Ačkoli navrhovaná nařízení byla hlášena v souvislosti s jejich potenciálním dopadem na vytváření a šíření deepfake, dokument se snaží o komplexní přehled schopnosti algoritmů generovat jakýkoli typ obsahu, který by mohl být interpretován v široce pochopeném smyslu ‘médií’.

Článek 2 deklaruje předpokládaný rozsah nařízení napříč šesti sektory*:

(1) Techniky pro generování nebo editaci textového obsahu, jako je generování kapitol, konverze stylu textu a dialog otázek a odpovědí;

(2) Technologie pro generování nebo editaci hlasového obsahu, jako je text-to-speech, konverze hlasu a editace atributů hlasu;

(3) Technologie pro generování nebo editaci nehlasového obsahu, jako je generování hudby a editace scénických zvuků;

(4) Generování obličeje, nahrazování obličeje, editace atributů postavy, manipulace s obličejem, manipulace s gesty a další technologie pro generování nebo editaci biometrických rysů, jako jsou obličeje v obrazovém a videoobsahu;

(5) Techniky pro editaci nebiologických rysů v obrazovém a videoobsahu, jako je vylepšení obrazu a restaurace obrazu;

(6) Technologie pro generování nebo editaci virtuálních scén, jako je 3D rekonstrukce.

Regulace deepfake

Čína zločinně zneužila AI pro šíření falešných zpráv na konci roku 2019, v době, kdy CAC vyjádřila obavy o potenciální dopady technologie deepfake, což vedlo mnoho lidí k úvaze, že čínská vláda nakonec zakázala technologii deepfake.

Nicméně, toto by vyžadovalo, aby se Čína oficiálně vzdala jedné z nejvýznamnějších politických a kulturních událostí v historii generování médií, AI a dokonce i politiky, a odřízla se od výhod globální a otevřené vědecké spolupráce.

Proto se zdá, že Čína je nyní rozhodnuta experimentovat s kontrolou namísto zákazu potenciálně problémové technologie, která, jak many věří, nakonec opustí svou pornografickou akcelerační fázi a vstoupí do legitimní a využitelné sady použití, zejména v zábavě.

NeRF zahrnuto

Článek 2.6 se zabývá generováním nebo editací virtuálních scén, jako je 3D rekonstrukce, technologii, která je méně zavedená než deepfake impersonace, a která získala největší význam v posledních dvou letech díky vzniku Neural Radiance Fields (NeRF), kde se používá fotogrammetrie k syntéze celých scén v exploračním latentním prostoru modelů strojového učení.

Nicméně, NeRF se rychle rozšiřuje z modelů a procházek prostředí do generování plných videí, přičemž čínští výzkumníci dosáhli několika významných inovací v tomto ohledu.

Čínský ST-NeRF v akci.

Ačkoli NeRF vyprodukoval mnoho nových výzkumů od svého oznámení v roce 2020, jeho implementace do systémů VR nebo AR, nebo jeho vhodnost ve vizuálních efektech, stále má mnoho významných výzev a technologických úzkých míst, která je třeba překonat. NeRF schopnost rekonstruovat a editovat kompletní lidské fyziognomie dosud nezahrnuje žádné standardní identifikační transformační deepfake schopnosti, které charakterizovaly titulky novin v posledních dvou letech.

Audio deepfakes prioritou?

Pokud je možné brát pořadí seznamu v článku 2 jako indikaci deep syntetických technologií, které Čína nejvíce dbá na kontrolu a regulaci, to by naznačovalo, že textově založené AI-generované falešné zprávy jsou primárním problémem, s hlasovou syntézou před deepfake videem vzhledem k jejich potenciálnímu dopadu.

Pokud ano, to souhlasí s tím, že deepfake video dosud nebylo použito v žádném zločinu, který není spojen s pornografií (Asie neváhala zločinně zneužít deepfake pornografii), zatímco deepfake audio bylo naznačeno jako aktivní technologie v alespoň dvou významných finančních zločinech, ve Spojeném království v roce 2019 a v Spojených arabských emirátech v roce 2021.

Nová návrh nařízení vyžaduje, aby uživatelé, kteří chtějí využít osobu identity prostřednictvím použití systémů strojového učení, získali písemný souhlas od jednotlivce. Kromě toho musí syntetizované médium zobrazovat somekind ‘prominentní’ logo nebo vodotisk, nebo jiný prostředek, kterým lze osobu, která konzumuje materiál, informovat, že obsah je upravený nebo zcela fiktivní. Není zcela jasné, jak lze toto provést v případě audio deepfake.

Registrace

Pokud jsou návrhy ratifikovány, budou poskytovatelé deep syntézy povinny registrovat své příslušné aplikace u státu, v souladu s existujícími ustanoveními o správě algoritmických doporučení pro internetové informační služby, a dodržovat všechny nezbytné postupů registrace. Poskytovatelé deep syntézy budou také povinny spolupracovat při dohledu a inspekci a poskytovat ‘nezbytnou technickou a datovou podporu a pomoc’ na vyžádání.

Dále budou tito poskytovatelé muset zřídit uživatelsky přívětivé portály pro stížnosti a zveřejnit očekávané lhůty pro zpracování těchto stížností, jakož i být povinny nabízet ‘mechanismy odporující fámům’ – ačkoli návrhy neuvádějí detaily o implementaci tohoto.

Přestupky by mohly vést k pokutám ve výši mezi 10 000 a 100 000 juanů ($1 600 a $16 000), jakož i vystavit provinilé společnosti občanskoprávním a trestním žalobám.

* Překlad pomocí Google Translate, viz odkaz na začátku článku.

První zveřejnění 28. ledna 2022.