Kína a mélyhamisítások és más mesterséges intelligencia szintézis-rendszerek fokozott szabályozását javasolja

A Kínai Kibertér Adminisztráció (CAC) új szabályozástervezetet javasolt a mesterséges intelligencia által támogatott szintézisrendszerek szabályozására, beleértve a mélyhamisításokat, a virtuális valóság jeleneteit, a szöveggenerálást, a hangot és az AI médiaszintézis egyéb alágazatait. Kína minden hónapban hatalmas számú tudományos dolgozatot és innovatív kutatási projektet készít.

Egy bejegyzés (Google Translation, eredeti itt) a CAC hivatalos oldalán rögzíti a javasolt kötelezettségeket, és az érintett szolgáltatásokat „mélyszintézis szolgáltatóként” jellemzi, amelyben a polgárokat a javaslattervezetekhez való észrevételeik megtételével való részvételre hívja fel, február 28-i határidővel.

Nem csak Deepfakes

Bár a javasolt szabályozásokról beszámoltak a mélyhamisítások létrehozására és terjesztésére gyakorolt ​​lehetséges hatásuk tekintetében, a dokumentum mindenre kiterjedően megkísérli az algoritmusok azon képességét, hogy bármilyen típusú tartalmat generáljanak, amely tág értelemben értelmezhető. a „médiáról”.

A 2. cikk meghatározza a rendeletek tervezett hatályát hat ágazatra*:

(1) Szövegtartalom létrehozásának vagy szerkesztésének technikái, például fejezetgenerálás, szövegstílus-átalakítás és kérdés-felelet párbeszéd;

(2) Technológiák hangtartalom generálására vagy szerkesztésére, például szöveg-beszédre, hangkonverzió és hangattribútum-szerkesztés;

(3) Nem hangos tartalom generálására vagy szerkesztésére szolgáló technológiák, például zenegenerálás és jelenetek hangszerkesztése;

(4) Arcgenerálás, arccsere, karakterattribútumok szerkesztése, arcmanipuláció, kézmozdulat-manipuláció és egyéb biometrikus jellemzők, például arcok kép- és videotartalom generálására vagy szerkesztésére szolgáló technológiák;

(5) A képek és videotartalmak nem biológiai jellemzőinek szerkesztési technikái, például képjavítás és kép-helyreállítás;

(6) Technológiák virtuális jelenetek generálására vagy szerkesztésére, mint például a 3D rekonstrukció.

Deepfake szabályozás

Kína kriminalizálta a mesterséges intelligencia használatát álhírek terjesztésére 2019 végén, ekkor a CAC aggodalmának adott hangot a mélyhamisítási technológia lehetséges következményei miatt, ami sokakat arra késztetett, hogy elgondolkodjanak azon, hogy a kínai kormány végül egyenesen betiltja a mélyhamisítási technológiát.

Ez azonban azzal járna, hogy Kína hivatalosan feladja a médiagenerálás, a mesterséges intelligencia, sőt a politika történetének egyik politikai és kulturális szempontból legjelentősebb fejleményét, és elzárja magát a globális és nyílt tudományos együttműködés előnyeitől.

Ezért úgy tűnik, hogy Kína most eltökélt szándéka, hogy a potenciálisan szélhámos technológia betiltása helyett az ellenőrzéssel kísérletezzen, amely sokak szerint végül ki fog vándorolni a technológiából. pornógyorsító fázis valamint a felhasználási esetek legitim és kihasználható halmazába, különösen a szórakoztatás terén.

NeRF tartalmazza

A 2.6. cikk olyan virtuális jelenetek létrehozásával vagy szerkesztésével foglalkozik, mint például a 3D-s rekonstrukció, amely a mélyhamisított megszemélyesítésnél inkább kialakulóban lévő technológia, és amely az elmúlt két évben a legjelentősebbé vált a neurális sugárzási mezők megjelenésével (NeRF), ahol a fotogrammetriát teljes jelenetek szintetizálására használják a gépi tanulási modellek felfedezhető látens terében.

A NeRF azonban gyorsan kiterjeszti hatókörét a modellek tablóiból és a környezetek bejárásaiból a teljes testre kiterjedő videók generálására, miközben a kínai kutatók előrehaladtak. néhány fontosabb újítás ebben a tekintetben.

Kína ST-NeRF akcióban.

Bár a NeRF 2020-as bejelentése óta új kutatások hóviharát produkálta, a VR- vagy AR-rendszerekben való megvalósítása, vagy a vizuális effektusok csővezetékeiben való alkalmassága még mindig számos figyelemre méltó kihívást és technológiai szűk keresztmetszetet rejt magában. A NeRF egyre növekvő képessége teljes emberi fiziognómiák rekonstruálására és szerkesztésére még nem tartalmazta a szabványos identitás-átalakító mélyhamisítási képességeket, amelyek az elmúlt két évben a híreket jellemezték.

Az audio mélyhamisítások prioritást élveznek?

Ha a 2. cikk listás sorrendjét azon mélyszintézis-technológiák jelzésének tekintjük, amelyek ellenőrzése és szabályozása tekintetében Kína a leginkább érdekelt, ez azt sugallná, hogy a szövegalapú mesterséges intelligencia által generált álhírek az elsődleges szempontok, mivel a hangszintézis megelőzi a videót. mélyhamisítások potenciális hatása szempontjából.

Ha igen, ez összhangban van azzal a ténnyel, hogy mélyhamisított videót még nem használtak fel semmilyen, nem pornográfiához kapcsolódó bűncselekményben (Ázsiában nem habozott bűncselekménnyé nyilvánítani a hamisított pornót), mivel a mélyhamisított hangot legalább két jelentős pénzügyi bűncselekmény aktív technológiájaként jelölték meg az Egyesült Királyságban 2019-benés az Egyesült Arab Emírségekben A 2021.

Az új rendelettervezet arra kötelezi azokat a felhasználókat, akik gépi tanulási rendszerek segítségével kívánják kihasználni egy személy identitását, hogy kérjenek írásos engedélyt az egyéntől. Ezenkívül a szintetizált médián fel kell tüntetni valamilyen „feltűnő” logót vagy vízjelet, vagy más olyan eszközt, amellyel az anyagot fogyasztó személy megértheti, hogy a tartalom megváltozott vagy teljesen kitalált. Nem teljesen világos, hogy ez hogyan valósítható meg audio mélyhamisítások esetén.

regisztráció

A javaslattervezetek ratifikálásuk esetén köteleznék a mélyszintézis szolgáltatókat arra, hogy az internetes információs szolgáltatásokra vonatkozó algoritmusajánlások adminisztrációjáról szóló hatályos rendelkezéseknek megfelelően az államnál regisztrálják a vonatkozó kérelmeiket, és betartsanak minden szükséges bejelentési eljárást. A mélyszintézis-szolgáltatóknak ezenkívül szabadon kell együttműködniük a felügyelet és ellenőrzés terén, és kérésre „szükséges műszaki és adattámogatást és segítségnyújtást” kell biztosítaniuk.

Ezen túlmenően az ilyen szolgáltatóknak felhasználóbarát portálokat kell létrehozniuk a panasztételhez, és közzé kell tenniük az ilyen panaszok feldolgozásának várható határidőit, valamint kötelesek „pletykacáfoló mechanizmusokat” kínálni – bár a javaslatok nem tartalmaznak részleteket ennek végrehajtására tekintettel.

A jogsértések 10,000 100,000 és 1,600 16,000 jüan (XNUMX és XNUMX XNUMX dollár) közötti pénzbírságot vonhatnak maguk után, valamint polgári és büntetőperek elé állíthatják a jogsértő cégeket.

* Fordítás a Google Fordító által, lásd a hivatkozást a cikk elején.

Első megjelenés: 28. január 2022.