China Propune Reglementarea Întărită a Tehnologiilor de Sinteză Profundă și a Altora Sisteme de Sinteză AI

Administrația Chineză a Spațiului Cibernetic (CAC) a propus un nou set de regulamente pentru a guverna sistemele de sinteză asistate de IA, inclusiv deepfakes, scene virtuale, generare de text, audio și alte subsectoare ale sintezei media AI – un domeniu în care China produce o cantitate impresionantă de lucrări academice și proiecte de cercetare inovatoare în fiecare lună.

Un post (traducere Google, original aici) de pe site-ul oficial al CAC prezintă obligațiile propuse și caracterizează serviciile afectate ca “furnizori de servicii de sinteză profundă”, invitând cetățenii să participe prin contribuții de comentarii la propunerile de proiect, cu un termen limită de 28 februarie.

Nu Doar Deepfakes

Deși regulamentele propuse au fost raportate în termeni de impactul lor potențial asupra creării și diseminării deepfakes, documentul încearcă o perspectivă cuprinzătoare asupra capacității algoritmilor de a genera orice tip de conținut care ar putea fi interpretat în sensul larg de “media”.

Articolul 2 declară domeniul de aplicare al regulamentelor propuse în șase sectoare*:

(1) Tehnici pentru generarea sau editarea conținutului de text, cum ar fi generarea de capitole, conversia stilului de text și dialogul întrebare-răspuns;

(2) Tehnologii pentru generarea sau editarea conținutului vocal, cum ar fi text-to-speech, conversia vocii și editarea atributele vocii;

(3) Tehnologii pentru generarea sau editarea conținutului non-vocal, cum ar fi generarea de muzică și editarea sunetului de scenă;

(4) Generarea feței, înlocuirea feței, editarea atributele caracterului, manipularea feței, manipularea gesturilor și alte tehnologii pentru generarea sau editarea caracteristicilor biometrice, cum ar fi fețele în imagini și conținut video;

(5) Tehnici pentru editarea caracteristicilor non-biologice în imagini și conținut video, cum ar fi îmbunătățirea imaginii și restaurarea imaginii;

(6) Tehnologii pentru generarea sau editarea scenelor virtuale, cum ar fi reconstrucția 3D.

Reglementarea Deepfakes

China a incriminat utilizarea IA pentru răspândirea de știri false la sfârșitul anului 2019, în momentul în care CAC a exprimat îngrijorare cu privire la implicațiile potențiale ale tehnologiei deepfake, determinând mulți să considere că guvernul chinez va interzice în cele din urmă tehnologia deepfake în totalitate.

Cu toate acestea, acest lucru ar presupune ca China să abandoneze oficial una dintre cele mai semnificative dezvoltări politice și culturale din istoria generării de media, IA și chiar politicii, și să se taie de la beneficiile colaborării științifice globale și deschise.

Prin urmare, pare că China este acum hotărâtă să experimenteze controlul, mai degrabă decât interzicerea tehnologiei potențial periculoase, care, mulți cred, va migra în cele din urmă din faza sa de “accelerator de pornografie” într-un set legitim și exploatabil de cazuri de utilizare, în special în divertisment.

NeRF Inclus

Articolul 2.6 se referă la generarea sau editarea scenelor virtuale, cum ar fi reconstrucția 3D, o tehnologie mai puțin dezvoltată decât impersonarea deepfake, și una care a obținut cea mai mare prominanță în ultimii doi ani prin apariția Neural Radiance Fields (NeRF), unde fotogrammetria este utilizată pentru a sintetiza întregi scene în spațiul latent explorabil al modelelor de învățare automată.

Cu toate acestea, NeRF se extinde rapid dincolo de tablourile de modele și de plimbările prin medii în generarea de videoclipuri complete, cercetătorii chinezi având făcut câteva inovații majore în acest sens.

ST-NeRF al Chinei în acțiune.

Deși NeRF a produs o furtună de cercetare nouă de la anunțul său din 2020, implementarea sa în sisteme VR sau AR, sau potrivirea sa în fluxurile de lucru ale efectelor vizuale, încă are multe provocări și blocaje tehnologice de traversat. Capacitatea NeRF de a reconstitui și edita fizionomii complete umane încă nu a incorporat niciuna dintre capacitățile standard de transformare a identității deepfake care au caracterizat știrile din ultimii doi ani.

Deepfakes Audio O Prioritate?

Dacă se consideră că ordinea listei din Articolul 2 este un indicator al tehnologiilor de sinteză profundă pe care China este cel mai preocupată să le controleze și să le reglementeze, acest lucru ar sugera că știrile false generate de IA pe bază de text sunt de primă importanță, cu sinteza vocală înaintea deepfakes video în ceea ce privește impactul lor potențial.

Dacă este așa, acest lucru se potrivește cu faptul că deepfake video nu a fost utilizat în niciun crime nu legate de pornografie (Asia nu a ezitat să incrimineze deepfake porn), în timp ce deepfake audio a fost propus ca o tehnologie activă în cel puțin două crime financiare majore, în Regatul Unit în 2019, și în Emiratele Arabe Unite în 2021.

Noile regulamente propuse obligă utilizatorii care doresc să exploateze identitatea unei persoane prin utilizarea sistemelor de învățare automată să solicite permisiunea scrisă a individului. De asemenea, media sintetizată trebuie să afișeze un fel de “logo proeminent” sau o marcă a apei, sau alte mijloace prin care persoana care consumă materialul poate fi făcută să înțeleagă că conținutul este alterat sau complet fabricat. Nu este complet clar cum poate fi realizat acest lucru în cazul deepfakes audio.

Înregistrarea

Dacă sunt ratificate, propunerile de proiect ar obliga furnizorii de servicii de sinteză profundă să-și înregistreze aplicațiile pertinente la stat, în conformitate cu dispozițiile existente privind administrarea recomandărilor de algoritmi pentru serviciile de informații de internet, și să se conformeze tuturor procedurilor de depunere necesare. Furnizorii de sinteză profundă vor fi, de asemenea, obligați să coopereze liber în ceea ce privește supravegherea și inspecția, și să ofere “sprijin și asistență tehnică și de date necesare” la cerere.

Mai mult, astfel de furnizori vor trebui să stabilească portaluri ușor de utilizat pentru reclamații și să publice limitele de timp așteptate pentru procesarea reclamațiilor, precum și să fie obligați să ofere “mecanisme de combatere a zvonurilor” – deși propunerile nu oferă detalii cu privire la implementarea acestora.

Încălcările pot determina amenzi cuprinse între 10.000 și 100.000 de yuan (1.600 și 16.000 de dolari), precum și pot expune companiile vinovate la acțiuni civile și penale.

* Traducere de Google Translate, vezi linkul de la începutul articolului.

Publicat pentru prima dată pe 28 ianuarie 2022.