Andersonův úhel

Čína navrhuje zvýšenou regulaci deepfake a dalších systémů syntézy AI

Martin Anderson
Přidejte Unite.AI mezi své preferované zdroje na Google
Klíčové bodyČínský návrh nařízení se zaměřuje na šest sektorů syntézy umělé inteligence, včetně…
Zobrazit více
  • Čínský návrh nařízení se zaměřuje na šest sektorů syntézy umělé inteligence, včetně textu, hlasu a 3D rekonstrukce.
  • Poskytovatelé musí vodoznačit všechna syntetizovaná média a získat písemné povolení pro použití identity.
  • Porušovatele, kteří nezaregistrují služby hluboké syntézy, čekají pokuty až do výše 100 000 jüanů.

Čínská správa kybernetického prostoru (CAC) navrhla nový soubor návrhů nařízení pro řízení systémů syntézy AI, včetně deepfake, virtuální reality, generování textu, audio a dalších subsektorů syntézy médií AI – oblasti, ve které Čína produkuje značné množství akademických článků a inovativních výzkumných projektů každý měsíc.

Článek (Google Translation, původní zde) na oficiálních stránkách CAC uvádí navrhované povinnosti a charakterizuje postižené služby jako ‘poskytovatele služeb deep syntézy’, vyzývá občany, aby se zúčastnili podáním komentářů k návrhům, s termínem do 28. února.

Nejen deepfakes

Ačkoli navrhovaná nařízení byla hlášena v souvislosti s jejich potenciálním dopadem na vytváření a šíření deepfake, dokument se snaží o komplexní přehled schopnosti algoritmů generovat jakýkoli typ obsahu, který by mohl být interpretován v široce pochopeném smyslu ‘médií’.

Článek 2 deklaruje předpokládaný rozsah nařízení napříč šesti sektory*:

(1) Techniky pro generování nebo editaci textového obsahu, jako je generování kapitol, konverze stylu textu a dialog otázek a odpovědí;

(2) Technologie pro generování nebo editaci hlasového obsahu, jako je text-to-speech, konverze hlasu a editace atributů hlasu;

(3) Technologie pro generování nebo editaci nehlasového obsahu, jako je generování hudby a editace scénických zvuků;

(4) Generování obličeje, nahrazování obličeje, editace atributů postavy, manipulace s obličejem, manipulace s gesty a další technologie pro generování nebo editaci biometrických rysů, jako jsou obličeje v obrazovém a videoobsahu;

(5) Techniky pro editaci nebiologických rysů v obrazovém a videoobsahu, jako je vylepšení obrazu a restaurace obrazu;

(6) Technologie pro generování nebo editaci virtuálních scén, jako je 3D rekonstrukce.

Regulace deepfake

Čína označila používání AI k šíření falešných zpráv za trestný čin na konci roku 2019, v době, kdy CAC vyjádřila obavy o potenciální dopady technologie deepfake, což vedlo mnoho lidí k úvaze, že čínská vláda nakonec technologii deepfake zcela zakáže.

Nicméně, toto by vyžadovalo, aby se Čína oficiálně vzdala jedné z nejvýznamnějších politických a kulturních událostí v historii generování médií, AI a dokonce i politiky, a odřízla se od výhod globální a otevřené vědecké spolupráce.

Proto se zdá, že Čína je nyní rozhodnuta experimentovat s kontrolou namísto zákazu potenciálně problémové technologie, která, jak mnozí věří, nakonec opustí svou fázi vývoje urychlovaného pornografií a vstoupí do legitimní a využitelné sady použití, zejména v zábavě.

NeRF zahrnuto

Článek 2.6 se zabývá generováním nebo editací virtuálních scén, jako je 3D rekonstrukce, technologie, která je mladší než napodobování identity pomocí deepfake, a která získala největší význam v posledních dvou letech díky vzniku Neural Radiance Fields (NeRF), kde se používá fotogrammetrie k syntéze celých scén v prozkoumatelném latentním prostoru modelů strojového učení.

Nicméně, NeRF se rychle rozšiřuje od statických vyobrazení modelů a virtuálních procházek prostředím ke generování videí celého těla, přičemž čínští výzkumníci dosáhli několika významných inovací v tomto ohledu.

ST-NeRF

Čínský ST-NeRF v akci.

Ačkoli NeRF vyprodukoval mnoho nových výzkumů od svého oznámení v roce 2020, jeho implementace do systémů VR nebo AR, nebo jeho vhodnost ve vizuálních efektech, stále má mnoho významných výzev a technologických úzkých míst, která je třeba překonat. Rostoucí schopnost NeRF rekonstruovat a editovat kompletní lidské fyziognomie dosud nezahrnuje žádné standardní schopnosti deepfake měnící identitu, které charakterizovaly titulky novin v posledních dvou letech.

Audio deepfakes prioritou?

Pokud je možné brát pořadí seznamu v článku 2 jako indikaci deep syntetických technologií, které Čína nejvíce dbá na kontrolu a regulaci, to by naznačovalo, že textově založené AI-generované falešné zprávy jsou primárním problémem, s hlasovou syntézou před deepfake videem vzhledem k jejich potenciálnímu dopadu.

Pokud ano, to souhlasí s tím, že deepfake video dosud nebylo použito v žádném zločinu, který není spojen s pornografií (Asie neváhala označit deepfake pornografii za trestný čin), zatímco se předpokládá, že technologie deepfake audia byla použita alespoň ve dvou významných finančních trestných činech, ve Spojeném království v roce 2019 a v Spojených arabských emirátech v roce 2021.

Nový návrh nařízení vyžaduje, aby uživatelé, kteří chtějí využít identitu osoby prostřednictvím použití systémů strojového učení, získali písemný souhlas od jednotlivce. Kromě toho musí syntetizované médium zobrazovat nějaké ‘výrazné’ logo nebo vodoznak, nebo jiný prostředek, kterým lze osobu, která konzumuje materiál, informovat, že obsah je upravený nebo zcela fiktivní. Není zcela jasné, jak lze toto provést v případě audio deepfake.

Registrace

Pokud jsou návrhy ratifikovány, budou poskytovatelé hluboké syntézy povinni registrovat své příslušné aplikace u státu, v souladu s existujícími ustanoveními o správě algoritmických doporučení pro internetové informační služby, a dodržovat všechny nezbytné registrační postupy. Poskytovatelé hluboké syntézy budou také povinni spolupracovat při dohledu a inspekci a poskytovat ‘nezbytnou technickou a datovou podporu a pomoc’ na vyžádání.

Dále budou tito poskytovatelé muset zřídit uživatelsky přívětivé portály pro stížnosti a zveřejnit očekávané lhůty pro zpracování těchto stížností, a nabízet ‘mechanismy vyvracející fámy’ – ačkoli návrhy neuvádějí detaily o implementaci tohoto.

Přestupky by mohly vést k pokutám ve výši mezi 10 000 a 100 000 juanů ($1 600 a $16 000), jakož i vystavit provinilé společnosti občanskoprávním a trestním žalobám.

 

* Překlad pomocí Google Translate, viz odkaz na začátku článku.

První zveřejnění 28. ledna 2022.

Spisovatel v oblasti strojového učení, odborník na syntézu lidských obrazů. Bývalý vedoucí výzkumného obsahu ve společnosti Metaphysic.ai, až do jejího sloučení do Brahma.ai společnosti DNEG.
Webová stránka: martinanderson.ai
Kontakt: martin@martinanderson.ai