Trung Quốc Đề Xuất Tăng Cường Quy Định Đối Với Deepfakes và Các Hệ Thống Tổng Hợp AI Khác

Cơ quan Quản lý Không gian Mạng của Trung Quốc (CAC) đã đề xuất một bộ quy định dự thảo mới để quản lý các hệ thống tổng hợp hỗ trợ bởi AI, bao gồm deepfakes, cảnh thực tế ảo, tạo văn bản, âm thanh và các phân đoạn khác của tổng hợp truyền thông AI – một lĩnh vực mà Trung Quốc sản xuất một số lượng lớn các bài báo học thuật và dự án nghiên cứu sáng tạo mỗi tháng.

Một bài đăng (Dịch bởi Google, bản gốc tại đây) trên trang web chính thức của CAC đã nêu ra các nghĩa vụ được đề xuất và mô tả các dịch vụ bị ảnh hưởng là ‘cung cấp dịch vụ tổng hợp sâu’, mời công dân tham gia bằng cách đóng góp ý kiến về dự thảo đề xuất, với thời hạn là ngày 28 tháng 2.

Không Chỉ Là Deepfakes

Mặc dù các quy định được đề xuất đã được báo cáo về tác động tiềm năng của chúng đối với việc tạo ra và lan truyền deepfakes, nhưng tài liệu này cố gắng có một cái nhìn bao quát về khả năng của các thuật toán để tạo ra bất kỳ loại nội dung nào có thể được giải thích theo nghĩa rộng của ‘truyền thông’.

Điều 2 tuyên bố phạm vi dự kiến của các quy định trên sáu lĩnh vực*:

(1) Các kỹ thuật để tạo hoặc chỉnh sửa nội dung văn bản, chẳng hạn như tạo chương, chuyển đổi phong cách văn bản và đối thoại hỏi và đáp;

(2) Công nghệ để tạo hoặc chỉnh sửa nội dung giọng nói, chẳng hạn như văn bản sang giọng nói, chuyển đổi giọng nói và chỉnh sửa thuộc tính giọng nói;

(3) Công nghệ để tạo hoặc chỉnh sửa nội dung không phải giọng nói, chẳng hạn như tạo nhạc và chỉnh sửa âm thanh cảnh;

(4) Tạo khuôn mặt, thay thế khuôn mặt, chỉnh sửa thuộc tính nhân vật, thao túng khuôn mặt, thao túng cử chỉ và các công nghệ khác để tạo hoặc chỉnh sửa các đặc điểm sinh trắc học như khuôn mặt trong hình ảnh và nội dung video;

(5) Các kỹ thuật để chỉnh sửa các đặc điểm không sinh học trong hình ảnh và nội dung video, chẳng hạn như tăng cường hình ảnh và phục hồi hình ảnh;

(6) Công nghệ để tạo hoặc chỉnh sửa cảnh ảo như 3D tái tạo.

Quy Định Deepfake

Trung Quốc đã hình sự hóa việc sử dụng AI để lan truyền tin giả vào cuối năm 2019, tại thời điểm CAC đã bày tỏ mối quan ngại về các tác động tiềm tàng của công nghệ deepfake, khiến nhiều người suy nghĩ rằng chính phủ Trung Quốc sẽ cuối cùng cấm công nghệ deepfake hoàn toàn.

Tuy nhiên, điều này sẽ khiến Trung Quốc chính thức từ bỏ một trong những phát triển quan trọng nhất về mặt chính trị và văn hóa trong lịch sử tạo ra truyền thông, AI và thậm chí chính trị, và cắt đứt mình khỏi những lợi ích của hợp tác khoa học toàn cầu và cởi mở.

Do đó, dường như Trung Quốc hiện đang quyết tâm thử nghiệm việc kiểm soát thay vì cấm công nghệ có khả năng đi lạc, mà nhiều người tin rằng sẽ cuối cùng di chuyển ra khỏi giai đoạn tăng tốc cho người lớn và vào một tập hợp hợp pháp và có thể khai thác các trường hợp sử dụng, đáng chú ý trong giải trí.

NeRF Included

Điều 2.6 đề cập đến việc tạo hoặc chỉnh sửa cảnh ảo, chẳng hạn như 3D tái tạo, một công nghệ non trẻ hơn so với giả mạo deepfake, và một công nghệ đã đạt được sự nổi bật nhất trong hai năm qua thông qua sự ra đời của Neural Radiance Fields (NeRF), nơi photogrammetry được sử dụng để tổng hợp toàn bộ cảnh trong không gian 潛 của mô hình học máy.

Tuy nhiên, NeRF đang nhanh chóng mở rộng phạm vi của mình từ các mô hình và các chuyến tham quan môi trường đến việc tạo ra video toàn thân, với các nhà nghiên cứu Trung Quốc đã đạt được một số đổi mới chính trong khía cạnh này.

ST-NeRF của Trung Quốc trong hành động.

Mặc dù NeRF đã tạo ra một cơn bão của các nghiên cứu mới kể từ khi nó được công bố vào năm 2020, nhưng việc triển khai nó trong các hệ thống VR hoặc AR, hoặc sự phù hợp của nó trong các đường ống hiệu ứng hình ảnh, vẫn còn nhiều thách thức và nút thắt công nghệ đáng kể để vượt qua. Khả năng ngày càng tăng của NeRF trong việc tái tạo và chỉnh sửa toàn bộ hình dáng con người vẫn chưa kết hợp bất kỳ khả năng biến đổi danh tính sâu nào mà đã đặc trưng cho các tiêu đề tin tức trong hai năm qua.

Audio Deepfakes là Ưu Tiên?

Nếu chúng ta lấy thứ tự danh sách của Điều 2 làm chỉ dẫn về các công nghệ tổng hợp sâu mà Trung Quốc quan tâm nhất để kiểm soát và quy định, điều này sẽ cho thấy rằng tạo tin giả dựa trên văn bản AI là của chính là mối quan tâm hàng đầu, với tổng hợp giọng nói đứng trước video deepfakes về tác động tiềm tàng.

Nếu vậy, điều này phù hợp với thực tế là video deepfake vẫn chưa được sử dụng trong bất kỳ tội phạm nào không liên quan đến khiêu dâm (Châu Á chưa ngần ngại hình sự hóa deepfake khiêu dâm), trong khi deepfake âm thanh đã được đề xuất là một công nghệ hoạt động trong ít nhất hai tội phạm tài chính lớn, ở Anh vào năm 2019, và ở Các Tiểu vương quốc Ả Rập Thống nhất vào năm 2021.

Các quy định dự thảo mới buộc người dùng muốn khai thác danh tính của một người thông qua việc sử dụng các hệ thống học máy phải xin phép viết từ cá nhân. Ngoài ra, truyền thông tổng hợp phải hiển thị một số loại ‘logo nổi bật’ hoặc watermark, hoặc các phương tiện khác mà người tiêu dùng nội dung có thể được thông báo rằng nội dung đã được thay đổi hoặc hoàn toàn được tạo ra. Không hoàn toàn rõ ràng về cách này có thể được thực hiện trong trường hợp của audio deepfakes.

Đăng Ký

Nếu được phê chuẩn, các đề xuất dự thảo sẽ buộc các nhà cung cấp dịch vụ tổng hợp sâu phải đăng ký các ứng dụng liên quan với nhà nước, theo các Quy định về Quản lý Khuyến nghị Thuật toán cho Dịch vụ Thông tin Internet, và tuân thủ tất cả các thủ tục nộp đơn cần thiết. Các nhà cung cấp tổng hợp sâu cũng sẽ được yêu cầu hợp tác tự do về giám sát và kiểm tra, và sản xuất ‘hỗ trợ và hỗ trợ kỹ thuật và dữ liệu cần thiết’ theo yêu cầu.

Hơn nữa, các nhà cung cấp như vậy sẽ cần thiết lập các cổng thông tin dễ sử dụng cho khiếu nại, và xuất bản các giới hạn thời gian dự kiến về việc xử lý các khiếu nại như vậy, cũng như được yêu cầu cung cấp ‘cơ chế phản hồi tin đồn’ – mặc dù các đề xuất không cung cấp chi tiết về việc thực hiện này.

Các vi phạm có thể gây ra các khoản phạt từ 10.000 đến 100.000 nhân dân tệ (1.600 và 16.000 đô la), cũng như khiến các công ty vi phạm phải đối mặt với các vụ kiện dân sự và hình sự.

* Dịch bởi Google Translate, xem liên kết đầu bài.

Được xuất bản lần đầu vào ngày 28 tháng 1 năm 2022.