Anderson의 관점

중국, 딥페이크 및 기타 AI 합성 시스템 규제 강화 제안

Martin Anderson
Unite.AI를 Google의 선호 소스에 추가
핵심 포인트중국의 규정 초안은 텍스트, 음성, 3D 재구성을 포함한 6개 AI 합성 분야를 대상으로 한다.
더 보기
  • 중국의 규정 초안은 텍스트, 음성, 3D 재구성을 포함한 6개 AI 합성 분야를 대상으로 한다.
  • 제공자는 모든 합성 미디어에 워터마크를 표시해야 하며 신원 사용에 대해서는 서면 허가를 받아야 한다.
  • 딥 합성 서비스를 등록하지 않은 위반자에게는 최대 10만 위안의 벌금이 부과된다.

중국 사이버 공간 관리위원회(Cyberspace Administration of China, CAC)는 딥페이크, 가상 현실 장면, 텍스트 생성, 오디오 및 기타 AI 미디어 합성의 하위 분야를 포함하는 AI 보조 합성 시스템에 대한 새로운 규정 초안을 제안했습니다. 이 분야는 중국에서 매월 수많은 학술 논문과 혁신 연구 프로젝트를 생산하는 분야입니다.

중국 사이버 공간 관리위원회 공식 사이트의 게시물(Google 번역, 원본 여기)에서 제안된 의무를 설명하며, 영향을 받는 서비스를 ‘딥 합성 서비스 제공자’로 지칭하고, 시민들이 제안된 초안에 대한 의견을 제안할 것을 요청하고, 2월 28일까지 마감일을 설정했습니다.

딥페이크만이 아님

제안된 규정은 딥페이크의 생성 및 전파에 대한 잠재적 영향에 대한 용어로 보고되었지만, 문서는 알고리즘이 광범위하게 이해되는 ‘미디어’라는 의미에서 해석될 수 있는 모든 유형의 콘텐츠를 생성할 수 있는 능력에 대한 포괄적인 관점을 시도합니다.

제2조는 규정의 예정된 범위를 6개 부문으로 선언합니다*:

(1) 텍스트 콘텐츠 생성 또는 편집을 위한 기술, 예를 들어 장 생성, 텍스트 스타일 변환 및 질문-답변 대화;

(2) 음성 콘텐츠 생성 또는 편집을 위한 기술, 예를 들어 텍스트-음성, 음성 변환 및 음성 속성 편집;

(3) 비음성 콘텐츠 생성 또는 편집을 위한 기술, 예를 들어 음악 생성 및 장면 사운드 편집;

(4) 얼굴 생성, 얼굴 대체, 캐릭터 속성 편집, 얼굴 조작, 제스처 조작 및 이미지 및 비디오 콘텐츠에서 얼굴과 같은 생체 특징을 생성 또는 편집하는 기타 기술;

(5) 이미지 및 비디오 콘텐츠에서 비생물학적 특성을 편집하는 기술, 예를 들어 이미지 향상 및 이미지 복원;

(6) 가상 장면 생성 또는 편집을 위한 기술, 예를 들어 3D 재구성.

딥페이크 규제

중국은 2019년 말에 AI를 사용하여 가짜 뉴스를 퍼트리는 것을 범죄화했으며, 이때 중국 사이버 공간 관리위원회는 딥페이크 기술의 잠재적 영향을 우려했습니다. 많은 사람들이 중국 정부가 결국 딥페이크 기술을 완전히 금지할 것으로 생각했습니다.

그러나 이것은 중국이 미디어 생성, AI 및 정치의 역사에서 가장 정치적이고 문화적으로 중요한 발전에 대한 하나를 공식적으로 포기하고, 글로벌 및 공개 과학 협력의 이점에서 자신을 단절하는 것을 의미할 것입니다.

따라서 중국은 이제 딥페이크 기술을 금지하는 대신에 그것을 통제하려는 것으로 보입니다. 많은 사람들이 결국이 기술이 포르노가 기술 발전을 촉진하는 단계에서 벗어나 합법적이고 개발 가능한 사용 사례를 갖게 될 것으로 생각합니다. 특히 엔터테인먼트 분야에서 그렇습니다.

NeRF 포함

제2조 제6항은 가상 장면 생성 또는 편집, 즉 3D 재구성을 다루며, 이는 딥페이크 모방보다 더 초기 단계의 기술입니다. 이 기술은 최근 2년 동안 신경 복사장(Neural Radiance Fields, NeRF)을 통해 가장 두드러진 발전을 이루었습니다. 이 기술은 사진측량법을 이용해 기계 학습 모델의 탐색 가능한 잠재 공간에 전체 장면을 합성합니다.

그러나 NeRF는 모델의 정적인 표현과 환경의 가상 탐색에서 전신 비디오 생성으로 범위를 빠르게 확장하고 있으며, 중국 연구자들은 이 분야에서 몇 가지 주요 혁신을 이루었습니다.

ST-NeRF

중국의 ST-NeRF 동작.

NeRF는 2020년 발표 이후 많은 새로운 연구를 생산했지만, VR 또는 AR 시스템에서 구현하거나 시각 효과 파이프라인에서 사용하기에는 여전히 많은 기술적인 문제와 병목 현상이 있습니다. NeRF는 완전한 인간의 신체를 재구성하고 편집하는 능력이 증가하고 있지만, 아직까지는 지난 2년 동안 헤드라인을 장식한 표준적인 신원 변환 딥페이크 기능을 통합하지 못했습니다.

오디오 딥페이크 우선순위?

제2조의 목록 순서를 중국이 가장 통제하고 규제하려는 딥 합성 기술의 지표로 간주한다면, 이는 텍스트 기반 AI 생성 가짜 뉴스가 주요 우려 사항이며, 잠재적 영향 측면에서 음성 합성이 비디오 딥페이크보다 앞선다는 것을 의미할 것입니다.

그렇다면 이는 딥페이크 비디오가 아직 성인 콘텐츠와 관련되지 않은 범죄에서 사용되지 않았으며(아시아는 딥페이크 포르노를 주저 없이 범죄로 규정했습니다), 반면에 딥페이크 오디오는 영국의 2019년 사건과 아랍에미리트의 2021년 사건 등 최소 두 건의 주요 금융 범죄에 실제 사용된 기술로 추정되었습니다.

새로운 규정 초안은 기계 학습 시스템을 사용하여 개인의 신원을 이용하려는 사용자가 당사자에게 서면 허가를 받도록 요구합니다. 또한, 합성 미디어는 로고 또는 워터마크와 같은 ‘눈에 띄는’ 표시 또는 콘텐츠가 변경되거나 완전히 조작되었음을 사용자가 이해할 수 있도록 하는 다른 수단을 표시해야 합니다. 그러나 오디오 딥페이크의 경우 이를 어떻게 달성할 수 있는지 정확히 명확하지 않습니다.

등록

제안된 초안이 승인되면, 딥 합성 서비스 제공자는 기존 인터넷 정보 서비스 알고리즘 추천 관리 규정에 따라 해당 응용 프로그램을 국가에 등록하고, 모든 필요한 제출 절차를 준수해야 합니다. 딥 합성 제공업체는 또한 감독 및 검사에 자유롭게 협력하고, 요청 시 필요한 기술 및 데이터 지원 및 도움을 제공해야 합니다.

또한, 제공업체는 사용자 친화적인 포털을 설정하여 불만을 처리하고, 불만 처리에 대한 예상 시간 제한을 게시해야 하며, ‘루머 반박 메커니즘’을 제공해야 합니다. 그러나 제안된 초안은 이에 대한 구현 세부 사항을 제공하지 않습니다.

위반 사항은 10,000에서 100,000 위안(1,600달러에서 16,000달러) 사이의 벌금을 초래할 수 있으며, 범법 업체를 민사 및 형사 소송에 노출시킬 수 있습니다.

 

* Google 번역, 원본 게시물 참조.

최초 게시일: 2022년 1월 28일.

머신러닝 분야 작가이자 인간 이미지 합성 도메인 전문가. Metaphysic.ai에서 연구 콘텐츠 책임자를 역임했으며, DNEG의 Brahma.ai로 통합될 때까지 근무했습니다.
웹사이트: martinanderson.ai
연락처: martin@martinanderson.ai