Čína navrhuje zvýšenou regulaci deepfake a dalších systémů syntézy AI

Čínská správa kyberprostoru (CAC) navrhla nový soubor návrhů předpisů pro řízení systémů syntézy AI, včetně deepfake, virtuálních realitních scén, generování textu, audio a dalších sub-sektorů syntézy médií AI – oblast, ve které Čína produkuje obrovské množství akademických článků a inovativních výzkumných projektů každý měsíc.

Příspěvek (překlad Google, originál zde) na oficiálních stránkách CAC uvádí navrhované povinnosti a charakterizuje postižené služby jako ‘poskytovatele služeb deep syntézy’, vyzývá občany, aby se zúčastnili podáním komentářů k návrhu, s termínem do 28. února.

Nejen deepfakes

Ačkoli navrhované předpisy byly hlášeny v souvislosti s jejich potenciálním dopadem na vytváření a šíření deepfake, dokument se snaží o komplexní přehled schopnosti algoritmů generovat jakýkoli typ obsahu, který by mohl být interpretován v široce pochopeném smyslu ‘médií’.

Článek 2 deklaruje předpokládaný rozsah předpisů v šesti sektorech*:

(1) Techniky pro generování nebo editaci textového obsahu, jako je generování kapitol, konverze stylu textu a dialog otázek a odpovědí;

(2) Technologie pro generování nebo editaci hlasového obsahu, jako je text-to-speech, konverze hlasu a editace atributů hlasu;

(3) Technologie pro generování nebo editaci nehlasového obsahu, jako je generování hudby a editace scénického zvuku;

(4) Generování obličeje, nahrazení obličeje, editace atributů postavy, manipulace s obličejem, manipulace s gesty a další technologie pro generování nebo editaci biometrických rysů, jako je obličej ve snímcích a videoobsahu;

(5) Techniky pro editaci nebiologických rysů ve snímcích a videoobsahu, jako je vylepšení obrazu a obnovení obrazu;

(6) Technologie pro generování nebo editaci virtuálních scén, jako je 3D rekonstrukce.

Regulace deepfake

Čína zločinně zneužila použití AI pro šíření falešných zpráv na konci roku 2019, v době, kdy CAC vyjádřila obavy o potenciální důsledky technologie deepfake, což vedlo mnoho lidí k úvaze, že čínská vláda nakonec zakázala technologii deepfake úplně.

Nicméně, toto by vyžadovalo, aby se Čína oficiálně vzdala jedné z nejpoliticky a kulturně významných vývojů v historii generování médií, AI a dokonce i politiky, a odřízla by se od výhod globální a otevřené vědecké spolupráce.

Proto se zdá, že Čína je nyní rozhodnuta experimentovat s kontrolou místo zákazu potenciálně problémové technologie, která, jak many věří, nakonec migruje z fáze urychlení porna do legitimní a využitelné sady případů použití, zejména v zábavním průmyslu.

NeRF zahrnuto

Článek 2.6 se zabývá generováním nebo editací virtuálních scén, jako je 3D rekonstrukce, technologie, která je mladší než deepfake impersonation, a která získala největší význam v posledních dvou letech díky vzniku Neural Radiance Fields (NeRF), kde se používá fotogrammetrie k syntéze celých scén v prozkoumatelném latentním prostoru modelů strojového učení.

Nicméně, NeRF se rychle rozšiřuje z modelů a procházení prostředí do generování plnohodnotného videa, přičemž čínští výzkumníci dosáhli některých významných inovací v tomto ohledu.

Čínští ST-NeRF v akci.

Ačkoli NeRF produkoval blizard nových výzkumů od jeho oznámení v roce 2020, jeho implementace v systémech VR nebo AR, nebo jeho vhodnost v vizuálních efektech, ještě má mnoho významných výzev a technologických úzkých míst, které je třeba překonat. Rostoucí schopnost NeRF rekonstituovat a editovat kompletní lidské fyziognomie ještě nezahrnuje žádné standardní identifikační transformační deepfake schopnosti, které charakterizovaly titulky zpráv za poslední dva roky.

Hlasové deepfakes prioritou?

Pokud je třeba brát seznam článku 2 jako indikaci deep syntetických technologií, které Čína chce nejvíce kontrolovat a regulovat, to by naznačovalo, že textově založené AI-generované falešné zprávy jsou primárním problémem, s hlasovou syntézou před deepfake videem z hlediska jeho potenciálního dopadu.

Pokud ano, to souhlasí s tím, že deepfake video ještě nebylo použito v žádném zločinu, který není spojen s pornografií (Asie neváhala zločinně zneužít deepfake porn), zatímco deepfake audio byl navržen jako aktivní technologie v alespoň dvou významných finančních zločinech, ve Spojeném království v roce 2019 a v Spojených arabských emirátech v roce 2021.

Nové návrhy předpisů vyžadují, aby uživatelé, kteří chtějí využít osobu identity prostřednictvím použití systémů strojového učení, získali písemný souhlas od osoby. Kromě toho musí syntetizovaná média zobrazovat somekind ‘prominent’ logo nebo vodotisk, nebo jiný prostředek, kterým lze osobě, která spotřebuje materiál, sdělit, že obsah je upravený nebo zcela falešný. Není zcela jasné, jak lze toto provést v případě hlasových deepfake.

Registrace

Pokud jsou návrhy ratifikovány, vyžádají si, aby poskytovatelé služeb deep syntézy zaregistrovali své příslušné aplikace u státu, v souladu s existujícími ustanoveními o správě algoritmických doporučení pro internetové informační služby, a aby dodržovali všechny nezbytné procedury podávání. Poskytovatelé deep syntézy budou také muset spolupracovat volně z hlediska dohledu a inspekce, a aby poskytli ‘nezbytnou technickou a datovou podporu a pomoc’ na vyžádání.

Dále budou muset tito poskytovatelé zřídit uživatelsky přívětivé portály pro stížnosti, a aby zveřejnili očekávané časové limity pro zpracování těchto stížností, jakož i být povinni nabízet ‘mechanismy vyvracení fám’ – i když návrhy neposkytují detaily ohledně implementace.

Porušení předpisů by mohlo vést k pokutám od 10 000 do 100 000 yuan ($1 600 a $16 000), jakož i vystavit provinilé společnosti občanskoprávním a trestním žalobám.

* Překlad Google, viz odkaz na začátku článku.

Poprvé zveřejněno 28. ledna 2022.