중국, 딥페이크 및 기타 AI 합성 시스템 규제 강화 제안

중국 사이버 공간 관리위원회(Cyberspace Administration of China, CAC)는 딥페이크, 가상 현실 장면, 텍스트 생성, 오디오 및 기타 AI 미디어 합성의 하위 분야를 포함하는 AI 보조 합성 시스템에 대한 새로운 규정 초안을 제안했습니다. 이 분야는 중국에서 매월 수많은 학술 논문과 혁신 연구 프로젝트를 생산하는 분야입니다.

중국 사이버 공간 관리위원회 공식 사이트의 게시물(Google 번역, 원본 여기)에서 제안된 의무를 설명하며, 영향을 받는 서비스를 ‘딥 합성 서비스 제공자’로 지칭하고, 시민들이 제안된 초안에 대한 의견을 제안할 것을 요청하고, 2월 28일까지 마감일을 설정했습니다.

딥페이크만이 아님

제안된 규정은 딥페이크의 생성 및 전파에 대한 잠재적 영향에 대한 용어로 보고되었지만, 문서는 알고리즘이 광범위하게 이해되는 ‘미디어’라는 의미에서 해석될 수 있는 모든 유형의 콘텐츠를 생성할 수 있는 능력에 대한 포괄적인 관점을 시도합니다.

제2조는 규정의 dự kiến 범위를 6개 부문으로 선언합니다*:

(1) 텍스트 콘텐츠 생성 또는 편집을 위한 기술, chẳng hạn jako 장 생성, 텍스트 스타일 변환 및 질문-답변 대화;

(2) 음성 콘텐츠 생성 또는 편집을 위한 기술, chẳng hạn jako 텍스트-음성, 음성 변환 및 음성 속성 편집;

(3) 비음성 콘텐츠 생성 또는 편집을 위한 기술, chẳng hạn jako 음악 생성 및 장면 사운드 편집;

(4) 얼굴 생성, 얼굴 대체, 문자 속성 편집, 얼굴 조작, 제스처 조작 및 이미지 및 비디오 콘텐츠에서 생체 특征을 생성 또는 편집하는 기타 기술;

(5) 이미지 및 비디오 콘텐츠에서 비생물학적 특성을 편집하는 기술, chẳng hạn jako 이미지 향상 및 이미지 복원;

(6) 가상 장면 생성 또는 편집을 위한 기술, chẳng hạn jako 3D 재구성.

딥페이크 규제

중국은 2019년 말에 AI를 사용하여 가짜 뉴스를 퍼트리는 것을 범죄화했으며, 이때 중국 사이버 공간 관리위원회는 딥페이크 기술의 잠재적 영향을 우려했습니다. 많은 사람들이 중국 정부가 결국 딥페이크 기술을 완전히 금지할 것으로 생각했습니다.

그러나 이것은 중국이 미디어 생성, AI 및 정치의 역사에서 가장 정치적이고 문화적으로 중요한 발전에 대한 하나를 공식적으로 포기하고, 글로벌 및 공개 과학 협력의 이점에서 자신을 단절하는 것을 의미할 것입니다.

따라서 중국은 이제 딥페이크 기술을 금지하는 대신에 그것을 통제하려는 것으로 보입니다. 많은 사람들이 결국이 기술이 성인 콘텐츠 가속기 단계에서 벗어나 합법적이고 개발 가능한 사용 사례를 갖게 될 것으로 생각합니다. 특히 엔터테인먼트 분야에서 그렇습니다.

NeRF 포함

제2조 제6항은 가상 장면 생성 또는 편집, 즉 3D 재구성을 다루며, 이는 딥페이크 모방보다 더 초기 단계의 기술입니다. 이 기술은 최근 2년 동안 신경 복사장(Neural Radiance Fields, NeRF)을 통해 가장 두드러진 발전을 이루었습니다. 여기서 기계 학습 모델의 잠재 공간에서 전체 장면을 합성하기 위해 기법을 사용합니다.

그러나 NeRF는 모델의 테이블과 환경의 워크 스루에서 전체 비디오 생성으로 범위를 빠르게 확장하고 있으며, 중국 연구자들은 이方面에서 몇 가지 주요 혁신을 이루었습니다.

중국의 ST-NeRF 동작.

NeRF는 2020년 발표 이후 많은 새로운 연구를 생산했지만, VR 또는 AR 시스템에서 구현하거나 시각 효과 파이프라인에서 사용하기에는 여전히 많은 기술적인 문제와 병목 현상이 있습니다. NeRF는 완전한 인간의 신체를 재구성하고 편집하는 능력이 증가하고 있지만, 아직까지는 지난 2년 동안 헤드라인을 장식한 표준적인 신원 변환 딥페이크 기능을 통합하지 못했습니다.

오디오 딥페이크 우선순위?

제2조의 목록 순서를 중국이 가장 통제하고 규제하려는 딥 합성 기술의 지표로 간주한다면, 이는 텍스트 기반 AI 생성 가짜 뉴스가 주요 우려事項이며, 음성 합성이 비디오 딥페이크보다 잠재적 영향을 우선시한다는 것을 의미할 것입니다.

그렇다면 이는 딥페이크 비디오가 아직 성인 콘텐츠와 관련되지 않은 범죄에서 사용되지 않았으며(아시아는 딥페이크 포르노를 범죄화하지 않음), 반면에 딥페이크 오디오는 이미 2019년 영국과 2021년 아랍에미리트에서 두 건의 주요 금융 범죄에서 활성 기술로 제시된 바 있습니다.

새로운 규정 초안은 기계 학습 시스템을 사용하여 개인의 신원을 악용하려는 사용자에게서 서면 허가를 받도록 요구합니다. 또한, 합성 미디어는 로고 또는 워터마크와 같은 ‘뛰어난’ 표시 또는 콘텐츠가 변경되거나 완전히 조작되었음을 사용자가 이해할 수 있도록 하는 다른 수단을 표시해야 합니다. 그러나 오디오 딥페이크의 경우 이를 어떻게 달성할 수 있는지 정확히 명확하지 않습니다.

등록

제안된 초안이 승인되면, 딥 합성 서비스 제공자는 기존 인터넷 정보 서비스 알고리즘 추천 관리规定에 따라 해당 응용 프로그램을 국가에 등록하고, 모든 필요한 제출 절차를 준수해야 합니다. 딥 합성 제공업체는 또한 감독 및 검사에 자유롭게 협력하고, 요청 시 필요한 기술 및 데이터 지원 및 협力を 제공해야 합니다.

또한, 제공업체는 사용자 친화적인 포털을 설정하여 불만을 처리하고, 불만 처리에 대한 예상 시간 제한을 게시해야 하며, ‘루머 반박 메커니즘’을 제공해야 합니다. 그러나 제안된 초안은 이에 대한 구현 세부 사항을 제공하지 않습니다.

위반 사항은 10,000에서 100,000 위안(1,600달러에서 16,000달러) 사이의 벌금을 초래할 수 있으며, 범법 업체를 민사 및 형사 소송에 노출시킬 수 있습니다.

* Google 번역, 원본 게시물 참조.

최초 게시일: 2022년 1월 28일.