์ธ๊ณต์ง๋ฅ
์ค๊ตญ, ๋ฅํ์ดํฌ ๋ฐ ๊ธฐํ AI ํฉ์ฑ ์์คํ ์ ๋ํ ๊ท์ ๊ฐํ ์ ์
중국의 사이버 공간 관리 위원회(Cyberspace Administration of China, CAC)는 딥페이크, 가상 현실 장면, 텍스트 생성, 오디오 및 기타 AI 미디어 합성의 하위 분야를 포함하는 AI 지원 합성 시스템에 대한 새로운 규제 초안을 제안했습니다. 중국은 매월 이 분야에서 다수의 학술 논문과 혁신 연구 프로젝트를 생산합니다.
CAC의 공식 사이트에 게시된 게시물(Google 번역, 원본 여기)에서 제안된 의무를 설명하며, 영향을 받는 서비스를 ‘딥 합성 서비스 제공자’로 지칭하며, 시민들이 2월 28일까지 의견을 제안할 수 있도록 초대합니다.
딥페이크만이 아님
제안된 규제가 딥페이크의 생성 및 전파에 대한 잠재적인 영향을 언급하면서 보고되었지만, 문서는 알고리즘이 ‘미디어’의 광범위하게 이해되는 의미에서 해석될 수 있는 모든 유형의 콘텐츠를 생성하는 능력에 대한 포괄적인 관점을 시도합니다.
제2조는 6개 분야에 걸쳐 규제의 예상 범위를 선언합니다:
(1) 텍스트 콘텐츠 생성 또는 편집을 위한 기술,例如 장 생성, 텍스트 스타일 변환, 질문 및 대화 다이얼로그;
(2) 음성 콘텐츠 생성 또는 편집을 위한 기술,例如 텍스트 음성, 음성 변환, 음성 속성 편집;
(3) 음성이 아닌 콘텐츠 생성 또는 편집을 위한 기술,例如 음악 생성 및 장면 사운드 편집;
(4) 얼굴 생성, 얼굴 대체, 문자 속성 편집, 얼굴 조작, 제스처 조작 및 이미지 및 비디오 콘텐츠의 얼굴과 같은 생체 특징을 생성 또는 편집하는 기타 기술;
(5) 이미지 및 비디오 콘텐츠의 비생물학적 특성을 편집하는 기술,例如 이미지 강화 및 이미지 복원;
(6) 3D 재구성을 포함한 가상 장면을 생성 또는 편집하는 기술.
딥페이크 규제
중국은 2019년 말에 가짜 뉴스의 전파를 위한 AI의 사용을 범죄화했으며, CAC는 딥페이크 기술의 잠재적인 영향에 대해 우려를 표명했으며, 많은 사람들이 중국 정부가 결국 딥페이크 기술을 완전히 금지할 것으로 생각했습니다.
그러나 이것은 중국이 미디어 생성, AI, 심지어 정치의 역사에서 가장 정치적이고 문화적으로 중요한 발전에 대한 공식적인 포기를 의미할 것입니다. 또한 중국은 글로벌 및 공개 과학 협력의 이점에서 자신을 단절시킬 것입니다.
따라서 중국은 이제 금지하는 대신에 잠재적으로 불량한 기술을 제어하려는 것으로 보입니다. 많은 사람들이 이것이 결국 성인 콘텐츠 가속기 단계에서 벗어나 엔터테인먼트와 같은 합법적이고 활용 가능한 사용 사례로 이동할 것으로 믿습니다.
NeRF 포함
제2조 제6항은 3D 재구성을 포함한 가상 장면의 생성 또는 편집을 다루며, 이는 딥페이크 인물보다 더 초기의 기술로, 지난 2년 동안 Neural Radiance Fields(NeRF)의 등장으로 가장 두드러진 발전을 이루었습니다. 여기서 기계 학습 모델의 탐색 가능한 잠재 공간에서 전체 장면을 합성하기 위해 사진測量법이 사용됩니다.
그러나 NeRF는 모델의 테이블로 및 환경의 워크스루와 같은 전체 비디오 생성으로부터 빠르게 확장되고 있으며, 중국 연구자들은 이方面에서 몇 가지 주요 혁신을 이루었습니다.
중국의 ST-NeRF 동작.
NeRF는 2020년에 발표된 이후 많은 새로운 연구를 생산했지만, VR 또는 AR 시스템에서 또는 시각적 효과 파이프라인에서 구현하기에는 여전히 많은 도전과 기술적 병목 현상이 있습니다. NeRF의 완전한 인간의 외모를 재구성하고 편집하는 능력은 아직 표준적인 신원 변환 딥페이크 기능을 포함하지 않습니다.
오디오 딥페이크 우선순위?
제2조의 목록 순서를 중국이 가장 우선적으로 제어하고 규제하려는 딥 합성 기술의 지표로 간주한다면, 이는 텍스트 기반 AI 생성 가짜 뉴스가 주요 우려 사항이며, 음성 합성이 비디오 딥페이크보다 잠재적인 영향에 앞서다는 것을 시사합니다.
이것은 딥페이크 비디오가 아직 성인 콘텐츠와 관련이 없는 범죄에서 사용되지 않았으며(아시아는 딥페이크 포르노를 범죄화하지 않은 반면), 오디오 딥페이크는 2019년 영국과 2021년 아랍 에미리트에서 최소 2건의 주요 금융 범죄에서 활성 기술로 제시되었습니다.
새로운 규제 초안은 사용자가 기계 학습 시스템을 사용하여 개인의 신원을 악용하려는 경우 개인으로부터 서면 승인을 얻어야 합니다. 또한 합성 미디어는 소비자가 콘텐츠가 변경되거나 완전히 조작되었다는 것을 이해할 수 있도록 ‘뛰어난’ 로고 또는 워터마크 또는 기타 수단을 표시해야 합니다. 오디오 딥페이크의 경우 이것을 어떻게 달성할 수 있는지는 완전히 명확하지 않습니다.
등록
제안된 초안이批准되면, 딥 합성 서비스 제공자는 기존의 인터넷 정보 서비스 알고리즘 추천 관리规定에 따라 국가에 해당 응용 프로그램을 등록하고 모든 필요한 제출 절차를 준수해야 합니다. 딥 합성 제공자는 또한 감독 및 검사에 자유롭게 협력하고 요청에 따라 ‘필요한 기술 및 데이터 지원 및 협조’를 제공해야 합니다.
또한 제공자는 사용자 친화적인 불만 처리 포털을 설정하고 불만 처리에 대한 예상 시간 제한을 게시해야 하며, ‘루머 반박 메커니즘’을 제공해야 합니다. 그러나 제안은 이의 구현에 대한 세부 정보를 제공하지 않습니다.
위반 사항은 10,000에서 100,000 위안(1,600달러에서 16,000달러) 사이의 벌금을 초래할 수 있으며, 범법 회사에 대한 민사 및 형사 소송에 노출될 수 있습니다.
* Google 번역, 위의 게시물 참조.
최초 게시일: 2022년 1월 28일.
