Chiny proponują zwiększoną regulację deepfake’ów i innych systemów syntezy AI

Chińska Administracja Cyberprzestrzeni (CAC) zaproponowała nowy zestaw projektów regulacji, które będą dotyczyć systemów syntezy wspomaganych przez sztuczną inteligencję, w tym deepfake’ów, scen wirtualnej rzeczywistości, generowania tekstu, audio i innych podsektorów syntezy mediów AI – dziedziny, w której Chiny produkują ogromną ilość prac naukowych i innowacyjnych projektów badawczych każdego miesiąca.

Post (tłumaczenie Google, oryginał tutaj) na oficjalnej stronie CAC przedstawia proponowane obowiązki i określa usługi objęte regulacjami jako “dostawców usług syntezy głębokiej”, zapraszając obywateli do udziału w dyskusji nad projektem regulacji, z terminem składania uwag do 28 lutego.

Nie tylko deepfakes

Chociaż proponowane regulacje zostały opisane w kontekście ich potencjalnego wpływu na tworzenie i rozpowszechnianie deepfake’ów, dokument ten próbuje objąć wszystkie algorytmy generujące każdy typ treści, który mógłby być interpretowany w szeroko pojętym znaczeniu “mediów”.

Artykuł 2 deklaruje zakres regulacji w sześciu sektorach*:

(1) Techniki generowania lub edytowania treści tekstowych, takie jak generowanie rozdziałów, konwersja stylu tekstu i dialogi pytanie-odpowiedź;

(2) Technologie generowania lub edytowania treści głosowych, takie jak tekst-na-mowę, konwersja głosu i edytowanie atrybutów głosu;

(3) Technologie generowania lub edytowania treści niegłosowych, takie jak generowanie muzyki i edytowanie dźwięku sceny;

(4) Generowanie twarzy, zastępowanie twarzy, edytowanie atrybutów postaci, manipulowanie twarzami, manipulowanie gestami i inne technologie generowania lub edytowania cech biometrycznych, takich jak twarze w treściach wideo i obrazach;

(5) Techniki edytowania cech niebiologicznych w treściach wideo i obrazach, takie jak wzmocnienie obrazu i restauracja obrazu;

(6) Technologie generowania lub edytowania wirtualnych scen, takich jak rekonstrukcja 3D.

Regulacja deepfake’ów

Chiny zdekryminalizowały użycie AI do rozpowszechniania fałszywych informacji pod koniec 2019 roku, kiedy CAC wyraził obawy dotyczące potencjalnych implikacji technologii deepfake, co skłoniło wielu do przypuszczeń, że chiński rząd ostatecznie zakazałby technologii deepfake.

Jednakże oznaczałoby to, że Chiny oficjalnie porzuciłyby jeden z najbardziej istotnych politycznie i kulturowo rozwojów w historii generowania mediów, AI i nawet polityki, i odcięłyby się od korzyści wynikających z globalnej i otwartej współpracy naukowej.

W związku z tym wydaje się, że Chiny są teraz zdeterminowane do eksperymentowania z kontrolowaniem, a nie zakazem potencjalnie wadliwej technologii, która, jak wielu uważa, ostatecznie wyjdzie ze swojej fazy przyspieszania pornografii i wejdzie w fazę uzasadnionych i wykorzystywanych przypadków użycia, szczególnie w rozrywce.

NeRF włączony

Artykuł 2.6 dotyczy generowania lub edytowania wirtualnych scen, takich jak rekonstrukcja 3D, bardziej zalążkowej technologii niż oszustwa deepfake, i jednej, która zdobyła największą sławę w ciągu ostatnich dwóch lat dzięki pojawieniu się Neural Radiance Fields (NeRF), gdzie fotogrametria jest używana do syntezy całych scen w latentnym przestrzeni modeli uczenia maszynowego.

Jednak NeRF szybko rozszerza swój zasięg poza tabeleau modeli i spacery po środowiskach do generowania pełnych filmów wideo, a chińscy badacze dokonali pewnych głównych innowacji w tym zakresie.

Chiny’ ST-NeRF w akcji.

Chociaż NeRF wyprodukował lawinę nowych badań od swojego ogłoszenia w 2020 roku, jego wdrożenie w systemach VR lub AR, lub jego przydatność w pipeline’ach efektów wizualnych, nadal ma wiele znaczących wyzwań i technologicznych przeszkód do pokonania. Rosnąca zdolność NeRF do rekonstruowania i edytowania pełnych ludzkich fizjonomii jeszcze nie uwzględnia standardowych możliwości transformacji tożsamości, które charakteryzowały nagłówki wiadomości w ciągu ostatnich dwóch lat.

Czy audio deepfakes są priorytetem?

Jeśli przyjmiemy, że lista w Artykule 2 jest wskazaniem technologii syntezy głębokiej, której Chiny są najbardziej zainteresowane kontrolować i regulować, to sugerowałoby to, że AI-generowane fałszywe wiadomości oparte na tekście są głównym zmartwieniem, a synteza głosu jest przed deepfake’ami wideo pod względem potencjalnego wpływu.

Jeśli tak, to zgadza się to z faktem, że deepfake wideo jeszcze nie zostało użyte w żadnym przestępstwie niezwiązanym z pornografią (Azja nie wahają się zdekryminalizować deepfake pornografii), podczas gdy deepfake audio zostało przedstawione jako aktywna technologia w co najmniej dwóch dużych przestępstwach finansowych, w Wielkiej Brytanii w 2019 roku, i w Zjednoczonych Emiratach Arabskich w 2021 roku.

Nowe projekty regulacji zobowiązują użytkowników, którzy chcą wykorzystać tożsamość osoby za pomocą systemów uczenia maszynowego, do uzyskania pisemnej zgody od tej osoby. Ponadto, syntetyzowane media muszą wyświetlać jakiś “wyraźny” logo lub znak wodny, lub inne środki, za pomocą których osoba konsumująca materiał może zrozumieć, że treść jest zmieniona lub całkowicie sfabrykowana. Nie jest całkowicie jasne, jak to można osiągnąć w przypadku audio deepfake’ów.

Rejestracja

Jeśli projekty zostaną zatwierdzone, dostawcy usług syntezy głębokiej będą zobowiązani do zarejestrowania swoich odpowiednich aplikacji w państwie, zgodnie z istniejącymi przepisami dotyczącymi zarządzania rekomendacjami algorytmicznymi dla usług informacyjnych internetowych, i do przestrzegania wszystkich niezbędnych procedur składania wniosków. Dostawcy syntezy głębokiej będą również zobowiązani do współpracy w zakresie nadzoru i inspekcji, oraz do udzielania “niezbędnego wsparcia technicznego i pomocy” na żądanie.

Ponadto, tacy dostawcy będą musieli utworzyć przyjazne dla użytkowników portale do składania skarg, oraz opublikować oczekiwane limity czasowe na przetwarzanie skarg, a także będą musieli zaoferować “mechanizmy zaprzeczające plotkom” – chociaż projekty nie dostarczają szczegółów dotyczących wdrożenia tego.

Uchybienia mogą spowodować nałożenie kar w wysokości od 10 000 do 100 000 juanów (1 600 i 16 000 dolarów), a także mogą narażać firmy na odpowiedzialność cywilną i karną.

* Tłumaczenie za pomocą Google Translate, zobacz link na początku artykułu.

Pierwotnie opublikowane 28 stycznia 2022.