Čína navrhuje zvýšenou regulaci deepfakes a dalších systémů syntézy umělé inteligence

Čínský úřad pro kyberprostor (CAC) navrhl nový soubor návrhů předpisů, kterými se budou řídit systémy syntézy podporované umělou inteligencí, včetně deepfakes, scén virtuální reality, generování textu, zvuku a dalších pododvětví syntézy médií umělé inteligence – obor, ve kterém Čína každý měsíc produkuje ohromné ​​množství akademických prací a inovativních výzkumných projektů.

Příspěvek (Překlad Google, originál zde) na oficiálních stránkách CAC stanoví navrhované povinnosti a charakterizuje dotčené služby jako „poskytovatele služeb hluboké syntézy“, přičemž vyzývá občany, aby se zúčastnili tím, že přidají připomínky k předlohám návrhů, s termínem do 28. února.

Nejen Deepfakes

Ačkoli navrhovaná nařízení byla popsána z hlediska jejich potenciálního dopadu na vytváření a šíření deepfakes, dokument se pokouší o všezahrnující kontrolu schopnosti algoritmů generovat jakýkoli typ obsahu, který by mohl být interpretován v široce chápaném smyslu. „médií“.

Článek 2 uvádí předpokládaný rozsah působnosti nařízení v šesti odvětvích*:

(1) Techniky pro generování nebo úpravy textového obsahu, jako je generování kapitol, převod stylů textu a dialog otázky a odpovědi;

(2) Technologie pro generování nebo úpravu hlasového obsahu, jako je převod textu na řeč, převod hlasu a úprava hlasových atributů;

(3) Technologie pro generování nebo úpravu nehlasového obsahu, jako je generování hudby a úprava zvuku scény;

(4) generování obličeje, nahrazování obličeje, úprava atributů postavy, manipulace s obličejem, manipulace s gesty a další technologie pro generování nebo úpravu biometrických prvků, jako jsou obličeje na obrázcích a video obsahu;

(5) Techniky pro úpravu nebiologických prvků v obrazech a videoobsahu, jako je vylepšení obrazu a restaurování obrazu;

(6) Technologie pro generování nebo úpravu virtuálních scén, jako je 3D rekonstrukce.

Deepfake nařízení

Čína kriminalizovala používání AI pro šíření falešných zpráv na konci roku 2019, v té době CAC vyjádřil obavy z potenciálních důsledků technologie deepfake, což mnohé přimělo uvažovat o tom, že čínská vláda nakonec technologii deepfake úplně zakáže.

To by však znamenalo, že by se Čína oficiálně vzdala jednoho z politicky a kulturně nejvýznamnějších událostí v historii mediální generace, umělé inteligence a dokonce i politiky a odřízla se od výhod globální a otevřené vědecké spolupráce.

Zdá se tedy, že Čína je nyní odhodlána spíše experimentovat s kontrolou než se zákazem potenciálně nepoctivé technologie, která, jak mnozí věří, nakonec migruje z její fáze akcelerátoru porna a do legitimního a zneužitelného souboru případů použití, zejména v oblasti zábavy.

NeRF v ceně

Článek 2.6 se zabývá generováním nebo úpravou virtuálních scén, jako je 3D rekonstrukce, což je technologie, která se stále více rodí, než je deepfake zosobnění, a která za poslední dva roky dosáhla největšího významu díky příchodu Neural Radiance Fields (NeRF), kde se fotogrammetrie používá k syntéze celých scén v prozkoumatelném latentním prostoru modelů strojového učení.

NeRF však rychle rozšiřuje svůj dosah z obrazů modelů a procházek prostředími do generace celotělového videa, přičemž čínští vědci pokročili některé zásadní inovace v tomto ohledu.

Čína je ST-NeRF v akci.

I když NeRF od svého oznámení v roce 2020 vytvořil bouři nového výzkumu, jeho implementace ve VR nebo AR systémech nebo jeho vhodnost do potrubí vizuálních efektů má stále mnoho pozoruhodných výzev a technologických překážek, které je třeba překonat. Rostoucí schopnost NeRF rekonstituovat a upravovat kompletní lidské fyziognomie dosud nezahrnuje žádnou ze standardních schopností hlubokého falšování transformace identity, které charakterizovaly titulky zpráv v posledních dvou letech.

Je zvuk Deepfake prioritou?

Pokud bychom měli vzít pořadí v seznamu v článku 2 jako označení technologií hluboké syntézy, o jejichž kontrolu a regulaci se Čína nejvíce stará, naznačuje to, že prvořadým zájmem jsou textové falešné zprávy generované umělou inteligencí, přičemž hlasová syntéza je před videem. deepfakes z hlediska jeho potenciálního dopadu.

Pokud ano, je to v souladu se skutečností, že hluboce falešné video dosud nebylo použito v žádném zločinu, který nesouvisí s pornografií (Asie má neváhal kriminalizovat deepfake porno), vzhledem k tomu, že hluboce falešný zvuk byl ve Spojeném království považován za aktivní technologii nejméně ve dvou hlavních finančních zločinech v 2019, a ve Spojených arabských emirátech v 2021.

Nové návrhy nařízení zavazují uživatele, kteří chtějí zneužít identitu osoby pomocí systémů strojového učení, požádat o písemné povolení od jednotlivce. Kromě toho musí syntetizovaná média zobrazovat nějaký druh „výrazného“ loga nebo vodoznaku nebo jiných prostředků, pomocí kterých lze osobu, která materiál konzumuje, přimět pochopit, že obsah je pozměněn nebo zcela vyroben. Není zcela jasné, jak toho lze dosáhnout v případě audio deepfakes.

Registrace

V případě ratifikace by předlohy návrhů zavazovaly poskytovatele služeb hluboké syntézy k tomu, aby své příslušné žádosti registrovali u státu v souladu se stávajícími ustanoveními o správě doporučení pro algoritmus pro internetové informační služby a aby dodrželi všechny nezbytné postupy podávání. Poskytovatelé hloubkové syntézy budou také povinni volně spolupracovat, pokud jde o dohled a kontrolu, a na požádání poskytnout „nezbytnou technickou a datovou podporu a pomoc“.

Dále budou muset tito poskytovatelé zřídit uživatelsky přívětivé portály pro podávání stížností a zveřejňovat očekávané lhůty pro zpracování takových stížností a také po nich bude požadováno, aby nabídli „mechanismy vyvracející fámy“ – ačkoli návrhy neuvádějí podrobnosti s ohledem na provádění tohoto.

Porušení by mohlo vést k pokutám mezi 10,000 100,000 a 1,600 16,000 juanů (XNUMX XNUMX až XNUMX XNUMX USD) a také vystavit porušující společnosti občanskoprávním a trestním žalobám.

* Překlad pomocí Google Translate, viz odkaz na začátku článku.

Poprvé publikováno 28. ledna 2022.