Đề Xuất Quy Định Deepfake Của Châu Âu Và Vương Quốc Anh Có Giới Hạn Bất Ngờ

Phân Tích Đối với những người vận động hy vọng rằng năm 2022 có thể là năm mà hình ảnh deepfake rơi vào phạm vi pháp lý nghiêm ngặt hơn, những chỉ số ban đầu là không hứa hẹn.

Vào tuần trước, Nghị viện Châu Âu chấp thuận các sửa đổi đối với Đạo luật Dịch vụ Kỹ thuật số (DSA, dự kiến có hiệu lực vào năm 2023), liên quan đến việc phổ biến deepfakes. Các sửa đổi này đề cập đến deepfakes trong hai phần, mỗi phần liên quan trực tiếp đến quảng cáo trực tuyến: sửa đổi 1709 liên quan đến Điều 30 và một sửa đổi liên quan đến điều 63.

Đầu tiên, nó đề xuất một điều mới 30a, có tiêu đề Deep fakes, đọc:

‘Khi một nền tảng trực tuyến rất lớn nhận thức được rằng một phần nội dung là hình ảnh, âm thanh hoặc video được tạo hoặc thao túng mà trông giống như những người, vật, địa điểm hoặc sự kiện khác và giả mạo để người dùng nghĩ rằng nó là đích thực hoặc trung thực (deepfakes), nhà cung cấp phải gắn nhãn nội dung đó theo cách thông báo cho người dùng rằng nội dung đó không chính xác và rõ ràng cho người nhận dịch vụ.’

Thứ hai, nó thêm văn bản vào điều 63 hiện có, chủ yếu liên quan đến việc tăng tính minh bạch của các nền tảng quảng cáo lớn. Văn bản liên quan đọc:

‘Ngoài ra, các nền tảng trực tuyến rất lớn nên gắn nhãn cho bất kỳ video, âm thanh hoặc tệp deepfake nào đã biết.’

Hiệu quả, luật pháp dường như đang chuẩn bị cho việc thực hành ngày càng tăng của ‘deepfakes hợp pháp’, nơi đã được cho phép và bảo đảm quyền cho việc thay thế khuôn mặt trong tài liệu quảng cáo hoặc tiếp thị – như việc sử dụng được cấp phép của công ty viễn thông Nga Telefon đối với danh tính của Bruce Willis trong một chiến dịch quảng cáo gần đây.

Ngần Ngại Trong Việc Lập Pháp

DSA, cho đến nay, dường như không giải quyết các mối quan ngại của những người vận động về việc sử dụng kỹ thuật deepfake như chúng được sử dụng phổ biến nhất – để tái tạo video khiêu dâm. Nó cũng không giải quyết mức độ, nếu có, mà việc sử dụng deepfakes trong phim và truyền hình sẽ cần phải được thông báo cho người xem theo cách tương tự như deepfakes trong quảng cáo sẽ được, ít nhất là trong EU, từ năm 2023.

Quá trình phê chuẩn DSA hiện được chuyển sang đàm phán với các quốc gia thành viên EU, cùng với phạm vi rộng lớn hơn của Đạo luật Thị trường Kỹ thuật số (DMA).

Báo cáo tháng 12 năm 2020 của Europol report Sử Dụng và Lạm Dụng Trí Tuệ Nhân Tạo khẳng định rằng sẽ là một sai lầm nếu EU giải quyết các công nghệ deepfake cụ thể hiện tại (như DeepFaceLive), điều này có thể dẫn đến luật EU liên tục đuổi theo các khung hoặc phương pháp mới nhất.

Báo cáo này đã tuyên bố:

‘Đặc biệt, những chính sách đó nên tránh bị ảnh hưởng bởi công nghệ để có hiệu quả trong dài hạn và tránh phải xem xét và thay thế chúng thường xuyên khi công nghệ đằng sau việc tạo và lạm dụng deepfakes phát triển. ‘

‘Tuy nhiên, những biện pháp như vậy cũng nên tránh cản trở các ứng dụng tích cực của GANs.’

Nhận xét kết luận trong trích dẫn trên, liên quan đến Mạng Đối Nghịch Tạo (GANs) rộng rãi, đặc trưng cho sự ngần ngại của châu Âu và Bắc Mỹ trong việc áp dụng luật có thể làm suy yếu một lĩnh vực nghiên cứu AI mới nổi đã được coi là đang tụt hậu so với châu Á (các quốc gia didactic hơn đã có thể đẩy nhanh luật deepfake).

Ví dụ, một báo cáo năm 2018 từ Uy ban Chọn về Trí Tuệ Nhân Tạo tại Hạ viện Anh nhấn mạnh nhiều lần rủi ro cho phép sự nhút nhát cản trở sự phát triển của AI trong quốc gia, được minh họa trong tiêu đề của nó: AI ở Anh: sẵn sàng, sẵn sàng và có khả năng?. Vào tháng Tư năm ngoái, Anh cũng trở thành quốc gia đầu tiên cho phép việc triển khai xe tự lái trên đường cao tốc.

Mỹ không kém nhiệt tình; tại Mỹ, Viện Brookings đã khuyến nghị sự cần thiết của việc tăng cường lập pháp cho AI tại Mỹ, chỉ trích các nhà lập pháp vì quan điểm ‘chờ và xem’ về tác động của công nghệ học máy

Ngoài việc tiếp cận nhạt nhẽo của DSA trong việc giải quyết các mối quan ngại xã hội (thay vì chính trị) xung quanh deepfakes, khuôn khổ quy định đề xuất của EU cho AI, được công bố vào tháng 4 năm 2021, đã bị chỉ trích vì sự tránh né của nó về chủ đề này.

Quy Định Deepfake Thưa Thớt ở Vương Quốc Anh

Là một sự thất vọng thêm cho các nhà vận động chống deepfake như tác giả Helen Mort, người vận động nổi bật cho luật mới của Anh vào năm 2021 sau khi được mô tả không đồng ý trong các video khiêu dâm deepfake, một báo cáo được công bố hôm nay bởi Ủy ban Văn hóa, Truyền thông và Thể thao Kỹ thuật số của Quốc hội Anh chỉ trích chính phủ Anh vì không giải quyết deepfakes trong Dự luật An toàn Trực tuyến.

Trích dẫn báo cáo hiện tại của dự luật về việc giải quyết lạm dụng deepfake là ‘không rõ ràng và không thực tế’, báo cáo này đề xuất rằng luật đề xuất không làm gì để giải quyết tình trạng ‘hợp pháp nhưng có hại’ của kỹ thuật thao túng video và hình ảnh được hỗ trợ bởi AI:

‘[Chúng tôi] khuyến nghị rằng Chính phủ nên chủ động giải quyết các loại nội dung hợp pháp, chẳng hạn như các phần tinh vi của các chuỗi lạm dụng trẻ em như breadcrumbing và các loại bạo lực trực tuyến đối với phụ nữ và trẻ em gái như ‘nudifying’ được hỗ trợ bởi công nghệ, bằng cách đưa chúng vào phạm vi hoặc thông qua các loại nội dung có hại được bảo vệ bởi nghĩa vụ chăm sóc.’

Luật hiện hành ở Anh chỉ giới hạn ở việc phổ biến ‘hình ảnh thực’, chẳng hạn như trường hợp của khiêu dâm trả thù, nơi vật liệu riêng tư và nhạy cảm được chia sẻ công khai bởi một người bạn cũ. Nếu một kẻ hành hạ thực hiện và công khai nội dung deepfake mà siêu cấp danh tính của mục tiêu vào nội dung khiêu dâm, họ chỉ có thể bị truy tố nếu họ trực tiếp quấy rối mục tiêu bằng cách hướng nội dung đến họ, hoặc theo luật liên quan đến bản quyền.

Trong trường hợp đầu tiên, sự dễ dàng mà nội dung deepfake mới thu hút sự chú ý và người xem gần như chắc chắn có nghĩa là nạn nhân sẽ được thông báo bởi những người bạn quan tâm hoặc các bên thứ ba không liên quan, chứ không phải bởi người đã deepfake họ, cho phép sự lan truyền của nội dung như vậy để bảo vệ kẻ deepfake, công việc của họ vẫn ‘đạt được mục tiêu’.

Trong trường hợp thứ hai, việc truy tố chỉ có khả năng xảy ra nếu một video khiêu dâm không được chỉnh sửa (vào đó danh tính của nạn nhân sau đó được siêu cấp) được sản xuất chuyên nghiệp và được bảo vệ hợp pháp theo luật bản quyền của Anh (mặc dù một video phù hợp có thể được lấy từ bất kỳ khu vực pháp lý nào trên thế giới). Một video ‘nghệ sĩ’ từ bất kỳ khu vực pháp lý nào thiếu tình trạng bản quyền rõ ràng, và một video tùy chỉnh mà kẻ deepfake đã quay để siêu cấp nạn nhân vào là (một cách iron) được bảo vệ theo luật bản quyền, miễn là nó tuân thủ các luật khác.

Đằng Sau Đường Cong

Vào tháng 12 năm 2021, Ủy ban Luật của Anh đề xuất mở rộng luật thù hận để bao gồm sự thù địch dựa trên giới tính, nhưng không đề xuất việc bao gồm deepfakes trong danh mục này, mặc dù có nhiều ví dụ về việc sử dụng công nghệ này trên toàn thế giới (đặc biệt là ở Ấn Độ) của việc công nghệ này được sử dụng như một vũ khí chống lại các nhà lãnh đạo và nhà hoạt động nữ.

Vào tháng 3 năm 2021, tạp chí Luật Quốc gia Illinois đã chỉ trích khuôn khổ pháp lý của Anh là ‘hoàn toàn không đầy đủ hiện tại để đối phó với deepfakes’, và thậm chí còn thiếu các cơ chế pháp lý cơ bản để bảo vệ sự giống nhau của một người.

Luật Deepfake ở Hoa Kỳ

Ngược lại, Hoa Kỳ có một số biện pháp bảo vệ ‘Quyền Công khai’ của công dân, mặc dù không ở cấp liên bang (hiện tại, các luật như vậy tồn tại ở khoảng một nửa các tiểu bang, với các cơ chế pháp lý khác nhau).

Mặc dù là một cải tiến so với hiệu suất của Anh trong việc lập pháp về deepfake, Hoa Kỳ chỉ có thể tự hào về sự bảo vệ không đồng đều, theo tiểu bang, và dường như quyết tâm giải quyết tiềm năng cho sự thao túng chính trị trước khi giải quyết tác động của nó đối với các cá nhân tư nhân.

Vào năm 2019, Tiểu bang Texas làm cho việc tạo hoặc lan truyền chính trị deepfakes trở thành bất hợp pháp, với Dự luật Thượng viện Texas 751 (SB751), bỏ qua bất kỳ tuyên bố nào về deepfake khiêu dâm. Vào cùng năm đó, Tiểu bang Virginia đã thêm một sửa đổi vào một luật hiện có liên quan đến Sự phân phối hoặc bán hình ảnh của người khác một cách bất hợp pháp, thêm thuật ngữ ‘hình ảnh hoặc video được tạo giả mạo’ rộng rãi.

Vào năm 2020, Tiểu bang California đã ban hành Dự luật Hội đồng California 602 (AB 602) cấm việc tạo hoặc lan truyền deepfakes khiêu dâm. Dự luật này không có điều khoản hết hạn, nhưng có thời hạn truy cứu trách nhiệm hình sự là ba năm, và được kèm theo một điều khoản riêng biệt về deepfakes chính trị.

Vào cuối năm 2020, Tiểu bang New York đã thông qua Dự luật Thượng viện S5959D, không chỉ làm cho việc tạo và republication của deepfakes khiêu dâm trở thành bất hợp pháp, mà còn chủ động bảo vệ quyền công khai của người dùng đối với sự giống nhau được tạo bởi máy tính thông qua deepfakes, CGI hoặc bất kỳ phương tiện nào khác, ngay cả sau khi chết (nếu người đó là cư dân của New York tại thời điểm họ chết).

Cuối cùng, Tiểu bang Maryland đã sửa đổi luật của mình về khiêu dâm trẻ em để bao gồm và hình sự hóa việc sử dụng deepfakes, mặc dù không giải quyết tác động của deepfakes đối với các mục tiêu người lớn.

Đợi ‘DeepfakeGate’

Lịch sử cho thấy rằng thiệt hại mà các công nghệ mới có thể gây ra phải trở nên cá nhân đối với một quốc gia để tăng tốc phản ứng lập pháp của nó. Cái chết gần đây của một cô gái trẻ ở Ai Cập, người bị tự tử sau khi bị tống tiền bằng hình ảnh deepfake của mình, đã nhận được sự chú ý hạn chế trong truyền thông phương Tây*, trong khi việc tiết lộ về việc đánh cắp 35 triệu đô la tại Các Tiểu vương quốc Ả Rập Thống nhất, được phát hiện vào năm 2021, cũng đại diện cho một ‘sự kiện xa’ không có khả năng tăng tốc Thượng viện, hoặc thắp sáng lửa dưới 45 tiểu bang còn lại mà chưa ban hành luật deepfake.

Nếu Hoa Kỳ áp dụng một mặt trận thống nhất hơn xung quanh việc lạm dụng công nghệ deepfake, việc lập pháp rộng rãi sẽ có khả năng ảnh hưởng đến khía cạnh quản lý của viễn thông và cơ sở hạ tầng dữ liệu, dẫn đến các thay đổi chính sách nhanh chóng được áp đặt cho các đối tác kinh doanh trên toàn thế giới. Việc châu Âu áp dụng GDPR không nhất thiết ‘đã vượt qua’ sang chính sách thu thập và lưu trữ dữ liệu của Bắc Mỹ không có nghĩa là EU không thể có được đòn bẩy đối với các quốc gia kém tuân thủ mà họ giao dịch – nếu họ từng có một lập trường lập pháp cam kết hơn về deepfake.

Tuy nhiên, điều gì đó phải xảy ra ở ‘điểm zero’ đầu tiên, trong một trong những nhóm quốc gia hàng đầu này; và chúng tôi vẫn đang chờ đợi: một vụ thu giữ lớn CSAM bởi cơ quan chức năng; một vụ cướp lớn sử dụng công nghệ deepfake dựa trên âm thanh và / hoặc video để lừa một giám đốc công ty Mỹ vào việc chuyển một lượng tiền rất lớn; hoặc một sự tương đương của Mỹ về việc sử dụng deepfakes để làm nạn nhân phụ nữ ở các quốc gia theo chủ nghĩa yêu nước hơn (nếu văn hóa Mỹ thực sự được trang bị để phản ánh những sự kiện này, điều mà còn đáng ngờ). Những điều này là những điều khó mong muốn, và những điều tốt để tránh bằng bất kỳ phương tiện nào khác ngoài việc nhét đầu vào cát, hoặc chờ đợi một ‘sự kiện incendiary’.

Một vấn đề trung tâm, mà EU hiện đang tránh bằng cách hướng sự mạnh mẽ lập pháp của mình vào các công ty quảng cáo muốn quảng bá deepfakes hợp pháp của họ, là deepfakes vẫn khó phát hiện bằng thuật toán; hầu hết các phương pháp phát hiện xuất hiện trên arXiv mỗi tháng phụ thuộc vào watermarking, xác minh dựa trên blockchain hoặc thay đổi hoàn toàn cơ sở hạ tầng mà chúng ta hiện đang sử dụng để tiêu thụ video miễn phí – những giải pháp này ngụ ý một sửa đổi pháp lý cơ bản về khái niệm video như một đại diện cho ‘sự thật’. Phần còn lại thường bị vượt qua bởi những tiến bộ liên tục trong các kho deepfake mã nguồn mở phổ biến.

Một vấn đề khác là các quốc gia phương Tây lớn là hoàn toàn đúng, theo một nghĩa nào đó, khi không cung cấp một phản ứng nóng nảy đối với một sợi dây vấn đề trong một loạt các công nghệ AI mới, nhiều trong số đó hứa hẹn mang lại lợi ích to lớn cho xã hội và ngành công nghiệp, và nhiều trong số đó có thể bị ảnh hưởng tiêu cực theo một cách nào đó nếu việc cấm và quy định hình ảnh tổng hợp bắt đầu một cách nghiêm túc, như một phản ứng đối với một sự kiện lớn, và đối với sự phản đối sau đó.

Tuy nhiên, có thể là một ý tưởng hay để tăng tốc bước đi chậm và đôi khi không có hướng của chúng tôi towards việc quy định deepfakes, và gặp những vấn đề tiềm năng ở giữa, và theo điều kiện của chúng tôi, thay vì bị buộc bởi các sự kiện sau vào một phản ứng ít được xem xét hơn.

* Những kẻ bị cáo buộc đang bị buộc tội tống tiền; không có luật Ai Cập nào bao gồm deepfake khiêu dâm.

Được xuất bản lần đầu vào ngày 24 tháng 1 năm 2022.