Unghiul lui Anderson

China propune reglementări mai stricte pentru deepfake-uri și alte sisteme de sinteză AI

Martin Anderson
Adaugă Unite.AI la sursele tale preferate pe Google
Puncte cheieProiectul de reglementări al Chinei vizează șase sectoare de sinteză AI, inclusiv text…
Vezi mai mult
  • Proiectul de reglementări al Chinei vizează șase sectoare de sinteză AI, inclusiv text, voce și reconstrucție 3D.
  • Furnizorii trebuie să adauge filigran pe toate mediile sintetizate și să obțină permisiunea scrisă pentru utilizarea identității.
  • Amenzi de până la 100.000 de yuani îi așteaptă pe cei care încalcă regulile, nerespectând înregistrarea serviciilor de sinteză profundă.

Administrația Chineză a Spațiului Cibernetic (CAC) a propus un nou set de proiecte de reglementări pentru a guverna sistemele de sinteză asistate de IA, inclusiv deepfake-uri, scene de realitate virtuală, generare de text, audio și alte subsectoare ale sintezei media IA – un domeniu în care China produce o cantitate impresionantă de lucrări academice și proiecte de cercetare inovatoare în fiecare lună.

Un articol (Google Translation, original aici) de pe site-ul oficial al CAC prezintă obligațiile propuse și caracterizează serviciile afectate ca “furnizori de servicii de sinteză profundă”, invitând cetățenii să participe prin contribuții la propunerile de proiect, cu un termen limită de 28 februarie.

Nu Doar Deepfake-uri

Deși regulamentele sugerate au fost raportate în termeni de impact potențial asupra creării și diseminării deepfake-urilor, documentul încearcă o perspectivă cuprinzătoare asupra capacității algoritmilor de a genera orice tip de conținut care ar putea fi interpretat în sensul larg de “media”.

Articolul 2 declară domeniul de aplicare al regulamentelor propuse în șase sectoare*:

(1) Tehnici pentru generarea sau editarea conținutului de text, cum ar fi generarea de capitole, conversia stilului de text și dialogul de tip întrebare-răspuns;

(2) Tehnologii pentru generarea sau editarea conținutului vocal, cum ar fi text-to-speech, conversia vocii și editarea atributelor vocii;

(3) Tehnologii pentru generarea sau editarea conținutului non-vocal, cum ar fi generarea de muzică și editarea sunetului de fundal;

(4) Generarea feței, înlocuirea feței, editarea atributelor personajului, manipularea feței, manipularea gesturilor și alte tehnologii pentru generarea sau editarea caracteristicilor biometrice, cum ar fi fețele în imagini și conținut video;

(5) Tehnici pentru editarea caracteristicilor non-biologice în imagini și conținut video, cum ar fi îmbunătățirea imaginii și restaurarea imaginii;

(6) Tehnologii pentru generarea sau editarea scenelor virtuale, cum ar fi reconstrucția 3D.

Reglementarea Deepfake-urilor

China a incriminat utilizarea IA pentru răspândirea de știri false la sfârșitul anului 2019, în momentul în care CAC a exprimat îngrijorări cu privire la implicațiile potențiale ale tehnologiei deepfake, determinând mulți să considere că guvernul chinez va interzice în cele din urmă tehnologia deepfake.

Cu toate acestea, acest lucru ar implica ca China să abandoneze oficial una dintre cele mai semnificative dezvoltări politice și culturale din istoria generării media, a IA și chiar a politicii, și să se izoleze de beneficiile colaborării științifice globale și deschise.

Prin urmare, pare că China este acum hotărâtă să experimenteze controlul, în loc de interzicerea tehnologiei potențial periculoase, care, mulți cred, va migra în cele din urmă din faza sa de dezvoltare accelerată de pornografie și într-un set legitim și exploatabil de cazuri de utilizare, în special în divertisment.

NeRF Inclus

Articolul 2.6 se referă la generarea sau editarea scenelor virtuale, cum ar fi reconstrucția 3D, o tehnologie mai puțin dezvoltată decât uzurparea identității prin deepfake, și una care a dobândit cea mai mare proeminență în ultimii doi ani prin apariția câmpurilor de radianță neuronale (NeRF), unde fotogrammetria este utilizată pentru a sintetiza întregi scene în spațiul latent explorabil al modelelor de învățare automată.

Cu toate acestea, NeRF se extinde rapid dincolo de reprezentările statice ale modelelor și explorările virtuale ale mediilor către generarea de videoclipuri cu întregul corp, cercetătorii chinezi realizând câteva inovații majore în acest sens.

ST-NeRF

ST-NeRF-ul Chinei în acțiune.

Deși NeRF a produs o furtună de noi cercetări de la anunțul său din 2020, implementarea sa în sisteme VR sau AR, sau adecvarea sa în fluxurile de efecte vizuale, încă are multe provocări și blocaje tehnologice de traversat. Capabilitatea NeRF de a reconstitui și edita fizionomii umane complete încă nu a incorporat niciuna dintre capabilitățile standard de transformare a identității deepfake care au caracterizat știrile din ultimii doi ani.

Deepfake-uri Audio, o Prioritate?

Dacă se ia în considerare ordinea listei din Articolul 2 ca o indicație a tehnologiilor de sinteză profundă pe care China este cel mai preocupată să le controleze și să le reglementeze, acest lucru ar sugera că știrile false generate de IA pe bază de text sunt de primă preocupare, urmate de sinteza vocală, înainte de deepfake-uri video, în ceea ce privește impactul lor potențial.

Dacă este așa, acest lucru se potrivește cu faptul că deepfake video încă nu a fost utilizat în nicio infracțiune fără legătură cu pornografia (Asia nu a ezitat să incrimineze deepfake porn), în timp ce s-a presupus că tehnologia deepfake audio a fost folosită în cel puțin două infracțiuni financiare majore, în Regatul Unit în 2019, și în Emiratele Arabe Unite în 2021.

Noile regulamente propuse obligă utilizatorii care doresc să exploateze identitatea unei persoane prin utilizarea sistemelor de învățare automată să solicite permisiunea scrisă a individului. De asemenea, media sintetizată trebuie să afișeze un fel de “logo proeminent” sau un filigran, sau alte mijloace prin care persoana care consumă materialul poate fi făcută să înțeleagă că materialul este alterat sau complet fabricat. Nu este complet clar cum poate fi realizat acest lucru în cazul deepfake-urilor audio.

Înregistrarea

Dacă sunt ratificate, propunerile de proiect ar obliga furnizorii de servicii de sinteză profundă să își înregistreze aplicațiile relevante la stat, în conformitate cu dispozițiile existente privind administrarea recomandărilor de algoritmi pentru serviciile de informații de internet, și să se conformeze tuturor procedurilor de depunere necesare. Furnizorii de sinteză profundă vor fi, de asemenea, obligați să colaboreze liber în ceea ce privește supravegherea și inspecția, și să furnizeze “sprijin și asistență tehnică și de date necesare” la cerere.

Mai mult, astfel de furnizori vor trebui să stabilească portaluri ușor de utilizat pentru reclamații și să publice limitele de timp așteptate pentru procesarea acestor reclamații, precum și să fie obligați să ofere “mecanisme de combatere a zvonurilor” – deși propunerile nu oferă detalii cu privire la implementarea acestora.

Încălcările ar putea duce la amenzi cuprinse între 10.000 și 100.000 de yuan (1.600 și 16.000 de dolari), precum și să expună companiile vinovate la acțiuni civile și penale.

 

* Traducere de Google Translate, vezi linkul de la începutul articolului.

Publicat pentru prima dată pe 28 ianuarie 2022.

Scriitor în învățare automată, specialist de domeniu în sinteza imaginilor umane. Fost șef al conținutului de cercetare la Metaphysic.ai, până la dizolvarea sa în Brahma.ai de la DNEG.
Site web: martinanderson.ai
Contact: martin@martinanderson.ai