Cung cấp ‘Sự nhận dạng bí mật’ cho Nhân vật hoạt hình được Bản quyền

Nghiên cứu mới từ Trung Quốc cung cấp một phương pháp không xâm lấn để bảo vệ các nhân vật hoạt hình được bản quyền, bằng cách ‘tiêm’ các thay thế chung vào thời điểm suy luận. Nhưng phương pháp này có thể đánh bại sự thông minh của các hacker lời nhắc không?

Được xem xét phạm vi của tài liệu bản quyền hiện diện trong các tập dữ liệu siêu lớn datasets (vì chi phí khổng lồ của việc loại bỏ các vi phạm như vậy), các mô hình được đào tạo trên chúng có xu hướng sao chép các nhân vật bản quyền.

Chỉnh sửa trực tiếp mô hình đã đào tạo, hoặc sử dụng các bộ lọc để bắt từ khóa khi mô hình được truy cập qua API, thường có thể bị đánh bại bằng cách mô tả yếu tố bản quyền mô tả một cách gián tiếp:

Một nhân vật bản quyền được tạo ra bởi một chương trình trò chuyện AI phổ biến, dường như không cần gọi trực tiếp tên nhân vật. Nguồn

Trong một dòng nghiên cứu mạnh mẽ và dai dẳng, các kỹ thuật chỉnh sửa mô hình đã thử nghiệm để thay đổi các tham số trong mô hình đã đào tạo, với các kết quả khác nhau:

Từ bài báo năm 2023 ‘Ablating Concepts in Text-to-Image Diffusion Models’, các hình ảnh siêu thực của nữ diễn viên Brie Larson trong vai ‘Captain Marvel’ – được tích hợp vào mô hình khuếch tán phổ biến – được chuyển thành hình ảnh hoạt hình liên quan lỏng lẻo khi được người dùng yêu cầu. Nguồn

Tuy nhiên, việc loại bỏ thường là một quá trình có hại và không chính xác, và một quá trình có thể thường ảnh hưởng đến các đặc điểm khác của mô hình đã đào tạo; hơn nữa, có nhiều cách để vượt qua nó.

Phương pháp phổ biến khác là ‘lời nhắc tiêu cực’, trong đó một ‘lời nhắc chống’ bổ sung được gửi đến mô hình, được thiết kế để hạn chế đầu ra. Khi các mô hình được truy cập qua API (như tất cả các mô hình tiền phong đều có), một ‘lời nhắc bí mật’ tiêu cực có thể được gửi cùng với lời nhắc người dùng đã biết, bao gồm một khuôn khổ được thiết kế để ngăn mô hình cung cấp tài liệu bị cấm cho người dùng. Phương pháp này, mặc dù phổ biến như một vector bảo vệ bản quyền, không luôn luôn hoạt động.

Hầu hết công việc xung quanh sau khi suy luận kiểm duyệt là chiếm đóng với vấn đề rộng lớn hơn là đảm bảo các mô hình không xuất ra CSAM, hoặc bất kỳ loại nội dung NSFW nào, mặc dù có thể có lượng lớn tài liệu như vậy có mặt trong dữ liệu đào tạo của một mô hình lớn. Những sáng kiến như vậy có thể ảnh hưởng đến các lớp nội dung toàn bộ, chứ không phải các trường hợp cụ thể, và thường thiếu sự tinh tế cần thiết để giải quyết các mối quan tâm của các chủ sở hữu bản quyền tìm cách đàn áp các bản sắc cụ thể.

Người thay thế

Với điều này trong tâm trí, một bài báo mới từ Trung Quốc đề xuất thay thế các nhân vật hoạt hình bản quyền trong quá trình tạo hình ảnh bằng thay thế chung được học – ‘người thay thế’ giữ lại đủ hình dạng và cấu trúc của nhân vật để bảo tồn cảnh xung quanh, trong khi loại bỏ bất kỳ chi tiết đặc trưng nào liên quan đến nhân vật được bảo vệ:

Các hình ảnh ‘nặc danh’ của tài liệu bản quyền hiện diện và có thể truy cập trong mô hình đã đào tạo, được thực hiện bằng phương pháp nhúng mới. Nguồn

Quan trọng là, sự can thiệp này xảy ra trong quá trình tạo hình ảnh mà không cần thay đổi hoặc tinh chỉnh mô hình khuếch tán cơ bản, và có thể được điều chỉnh để xác định mức độ rộng泛 mà nhân vật gốc bị xóa.

Phương pháp này ngầm thừa nhận rằng việc chỉnh sửa mô hình là một phương pháp kém cho mục đích này, và thay vào đó tiêm nhúng được tạo vào quá trình suy luận – các nhúng được thiết kế để ‘tái cấu trúc’ chứ không phải loại bỏ (xóa, loại bỏ) tài sản bản quyền. Quá trình này không ảnh hưởng trực tiếp hoặc sửa đổi mô hình cơ bản, và do đó có thể được tái sử dụng hoặc thích nghi trên nhiều mô hình.

Mặc dù phương pháp này đã được các tác giả thử nghiệm trên dòng mô hình Stable Diffusion cũ hơn, nhưng nó cũng đã được thử nghiệm hiệu quả trên kiến trúc Z-Image mới hơn, cho thấy rằng khái niệm của các tác giả có thể áp dụng trên nhiều kiến trúc tạo hình ảnh.

Bài báo cho biết:

‘[Chúng tôi] đề xuất một phương pháp có thể kiểm soát được hoạt động trên biểu diễn văn bản liên tục của mô hình để xóa các nhân vật mục tiêu trong quá trình tạo hình ảnh. Chúng tôi [tối ưu hóa] một nhúng neo qua các ràng buộc cấu trúc và chi tiết để phục vụ như một người thay thế cho nhân vật, sau đó [thay thế] các nhúng liên quan đến mục tiêu bằng neo thông qua một chiến lược thích ứng với cấu trúc.

‘Thử nghiệm cho thấy phương pháp của chúng tôi đạt được hiệu quả xóa cao nhất và bảo tồn hình ảnh tốt nhất, đồng thời hỗ trợ mức độ xóa có thể kiểm soát, loại bỏ nhiều mục tiêu và khả năng chuyển đổi mô hình.

‘Hơn nữa, các neo được tối ưu hóa của chúng tôi là plug-and-play với các phương pháp chỉnh sửa mô hình hiện có để cải thiện hiệu suất xóa của chúng.’

Phương pháp mới straddles các kiến trúc đa dạng và cung cấp kiểm soát chi tiết, theo các tác giả.

Bài báo mới này có tiêu đề Xóa nhưng bảo tồn: Loại bỏ có thể kiểm soát các nhân vật hoạt hình bản quyền thông qua các neo ngữ nghĩa được tối ưu hóa, và đến từ bảy tác giả trên Viện Kỹ thuật Thông tin tại Học viện Khoa học Trung Quốc, và Đại học Học viện Khoa học Trung Quốc ở Bắc Kinh.

Phương pháp

Ý tưởng trung tâm đằng sau phương pháp mới, như được minh họa dưới đây, là tạo ra một người thay thế cho mỗi nhân vật bản quyền giữ lại hình dạng và cấu trúc chung, trong khi loại bỏ các chi tiết trực quan đặc trưng làm cho nhân vật có thể nhận biết – và sau đó sử dụng người thay thế này trong quá trình tạo hình ảnh bất cứ khi nào nhân vật được bảo vệ được yêu cầu.

Sơ đồ cho phương pháp mới.

Người thay thế, mà các tác giả gọi là neo, được thiết kế để giữ lại đủ hình dạng và cấu trúc của nhân vật gốc để phù hợp tự nhiên vào cùng một cảnh, trong khi loại bỏ các chi tiết làm cho nhân vật trở nên đặc trưng.

Để thực hiện việc này, hệ thống so sánh thông tin cấu trúc thô được tạo ra cho nhân vật gốc với thông tin đó được tạo ra cho neo đang phát triển, đẩy hai thông tin này đến cùng một hình dạng chung. Một hình ảnh tham chiếu của nhân vật bản quyền sau đó được sử dụng cho mục đích ngược lại, đẩy neo xa khỏi các chi tiết nhận biết:

Phương pháp xây dựng một người thay thế không xâm phạm cho một nhân vật bản quyền. Cấu trúc rộng của nhân vật được giữ lại trong khi các chi tiết trực quan đặc trưng của nó bị ức chế, tạo ra một ‘neo’ được tối ưu hóa để sử dụng trong quá trình tạo hình ảnh.

Neo kết quả do đó chiếm một vị trí trung gian được thiết kế cẩn thận giữa việc bảo tồn thành phần được yêu cầu và loại bỏ bản sắc được bảo vệ.

Neo đi

Một khi những thuộc tính này đã được thiết lập, neo cần được dịch thành thứ mà mô hình khuếch tán có thể hiểu. Thuật ngữ Neo* [sic] do đó được đưa vào một biểu diễn có thể học trong máy mã hóa văn bản CLIP, hiệu quả tạo ra một từ / thực thể nhân tạo mới, ý nghĩa của nó có thể được định hình mà không cần thay đổi mô hình tạo hình ảnh cơ bản.

Nhúng này sau đó được điều chỉnh lặp lại theo các mục tiêu cấu trúc và chi tiết được mô tả ở trên, dạy Neo* có nghĩa là thứ gì đó có hình dạng rộng giống như nhân vật được bảo vệ, nhưng bị tước đi ngoại hình nhận biết.

Phần còn lại của máy mã hóa văn bản vẫn đóng băng trong quá trình này, trong khi các thẻ bắt đầu, kết thúc và đệm thông thường xung quanh Neo* cung cấp ngữ cảnh cần thiết để biến từ / thực thể giả này thành các nhúng cuối cùng được sử dụng trong quá trình tạo hình ảnh.

Thay thế thích ứng

Trong quá trình tạo hình ảnh (suy luận), thuật toán tìm kiếm mã hóa lời nhắc cho các thuật ngữ liên quan đến nhân vật được bảo vệ, và thay thế các nhúng neo đã học vào vị trí của chúng, đồng thời điều chỉnh các nhúng kết thúc và đệm mang thông tin ngữ cảnh.

Để chuẩn bị cho việc này, hệ thống cho phép làm sạch nhiễu để thiết lập bố cục chung của hình ảnh được yêu cầu, theo dõi các thay đổi trong cấu trúc thô của nó để xác định khi nào bố cục đó bắt đầu ổn định:

Một biểu diễn về khi nào việc thay thế neo xảy ra trong quá trình tạo hình ảnh. Các thay đổi trong cấu trúc hình ảnh thô được theo dõi trong suốt quá trình làm sạch nhiễu, với việc thay thế được kích hoạt vào khoảng thời điểm bố cục chung ổn định và các chi tiết tinh tế bắt đầu xuất hiện.

Trong hình ảnh trên, chúng ta thấy sự chuyển đổi này xảy ra vào khoảng bước thời gian 720, nơi sự thay đổi cấu trúc được đo lường đạt đến đỉnh và sau đó bắt đầu giảm. Tại thời điểm này, sự sắp xếp rộng của hình ảnh đã hình thành phần lớn, cho phép neo thay thế nhân vật được bảo vệ, đồng thời giảm thiểu rủi ro làm gián đoạn thành phần đã thiết lập.

Dữ liệu và thử nghiệm

Các tác giả đã so sánh phương pháp của họ với năm phương pháp cơ sở dựa trên lời nhắc: Sự khuếch tán tiềm ẩn an toàn (SLD); STG; SAFREE; TraSCE; và Lời nhắc tiêu cực (NP).

Các nhúng neo được tối ưu hóa cũng được tích hợp vào bốn phương pháp chỉnh sửa mô hình hiện có: MACE; UCE; ESD-u; và AC. Điều này được thực hiện để kiểm tra xem những phương pháp này có thể cải thiện trên mô hình được đề xuất về việc loại bỏ nhân vật.

Để đánh giá, một tập dữ liệu gồm 80 nhân vật hoạt hình đã được thu thập, bao gồm 36 nhân vật giống người; 23 nhân vật hình động vật; và 21 từ các danh mục khác – với tất cả các nhân vật được chọn vì chúng có thể được mô hình khuếch tán tái tạo một cách đáng tin cậy.

100 hình ảnh sau đó đã được tạo cho mỗi nhân vật, sử dụng các lời nhắc được tạo bởi GPT-4o.

Sự khuếch tán ổn định v1.4 đã được sử dụng cho các thí nghiệm chính, với khả năng chuyển đổi được kiểm tra thêm trên các phiên bản Sự khuếch tán ổn định khác v1.5; V2; v2.1; XL base 1.0; và cũng kiến trúc Z-Image dựa trên DiT mới hơn này. Không có tinh chỉnh mô hình tinh chỉnh nào được thực hiện, để lại các tham số của mỗi mô hình tiền đào tạo không đổi.

Để đo lường, LLaVA-1.5 và BLIP-3 đo lường xem nhân vật mục tiêu có còn nhận biết được không, với độ chính xác nhận dạng thấp hơn cho thấy việc loại bỏ hoàn chỉnh hơn; Chỉ số tương đồng cấu trúc (SSIM) đo lường sự bảo tồn cấu trúc; Đo lường sự tương đồng nhận thức học (LPIPS) đo lường sự khác biệt nhận thức; và Điểm dự đoán thẩm mỹ V2 đánh giá chất lượng hình ảnh trực quan của hình ảnh đã thay đổi.

Khoảng cách Inception Fréchet (FID) và Điểm CLIP cũng được tính toán từ các lời nhắc không liên quan trong COCO-30K, để đo lường xem việc tạo hình ảnh bình thường có bị ảnh hưởng hay không:

Kết quả thử nghiệm so sánh các phương pháp loại bỏ nhân vật trên 80 nhân vật hoạt hình. Hai cột đầu tiên đo lường bao nhiêu lần nhân vật bị xóa có thể vẫn được nhận biết, vì vậy điểm số thấp hơn cho thấy việc loại bỏ tốt hơn. Các cột còn lại đo lường mức độ bảo tồn hình ảnh ban đầu và tạo hình ảnh không liên quan. Các mũi tên chỉ ra liệu điểm số cao hơn hay thấp hơn là mong muốn; chữ đậm chỉ ra kết quả tốt nhất và gạch dưới chỉ ra kết quả tốt thứ hai.

Trong số những kết quả so sánh ban đầu này, các tác giả cho biết:

‘So với tất cả các phương pháp cơ sở, hình ảnh bị xóa bằng phương pháp của chúng tôi đạt được độ chính xác nhận dạng thấp nhất cho việc nhận dạng mục tiêu thành công bởi cả LLaVA-1.5 (6.0%) và BLIP-3 (4.0%), với giảm 3.5% và 1.7% so với phương pháp tốt thứ hai, tương ứng.

‘Điều này chứng minh hiệu quả xóa của phương pháp của chúng tôi, vì nó hiệu quả [lừa dối] các mô hình lớn đa phương thức.’

Về tính toàn vẹn của hình ảnh, phương pháp của các tác giả đã tạo ra điểm SSIM cao nhất, ở mức 0,467, và điểm LPIPS thấp nhất ở mức 0,505 – cho thấy sự bảo tồn mạnh nhất của nội dung không liên quan và cấu trúc nền trong số các phương pháp được thử nghiệm. Nó cũng đạt được điểm Dự đoán thẩm mỹ V2 cao nhất trong số các phương pháp loại bỏ nhân vật, ở mức 5,18, cho thấy rằng sự bảo tồn này không phải trả giá bằng chất lượng hình ảnh tổng thể.

Một thử nghiệm định tính đã theo sau:

Kết quả thử nghiệm so sánh việc loại bỏ nhân vật trên năm nhân vật hoạt hình. Mỗi hàng hiển thị kết quả từ một phương pháp khác nhau, với các hình ảnh được tạo ra bởi Sự khuếch tán ổn định v1.4 ở hàng trên cùng và phương pháp được đề xuất ở hàng dưới cùng. Phương pháp được đề xuất thay thế mục tiêu một cách nhất quán hơn trong khi bảo tồn cảnh xung quanh. Vui lòng tham khảo nguồn PDF gốc hoặc trang web dự án để có độ phân giải tốt hơn một chút.

Theo bài báo, các ví dụ cho thấy sự khác biệt đặc biệt rõ ràng đối với các nhân vật có hình dạng và thuộc tính phức tạp hơn, với Donald Duck và Super Mario được trích dẫn làm ví dụ:

‘[Phương pháp của chúng tôi] đạt được sự xóa bỏ mịn màng của các nhân vật hoạt hình thông qua các neo được tối ưu hóa, trong khi các phương pháp cơ sở dựa trên lời nhắc thường thất bại—đặc biệt là đối với các nhân vật có hình dạng và thuộc tính phức tạp (ví dụ: Donald Duck và Super Mario).

‘Hơn nữa, phương pháp của chúng tôi đạt được sự nhất quán của nền mà không có các hiện象 mờ hoặc cong, hỗ trợ các luồng công việc sáng tạo lặp lại.’

Kiểm soát chi tiết

Một không gian nhúng liên tục cũng cho phép cường độ loại bỏ nhân vật có thể được điều chỉnh, chứ không phải là một tất cả hoặc không gì. Bằng cách nội suy giữa neo được tối ưu hóa và nhúng mục tiêu ban đầu, phương pháp có thể dần dần khôi phục lại nhiều hơn của nhân vật, trong khi vẫn giữ lại cấu trúc hình ảnh xung quanh:

Hình ảnh thử nghiệm cho thấy các mức độ khác nhau của việc loại bỏ nhân vật. Ba cột đầu tiên hiển thị nhân vật ban đầu, phiên bản bị xóa và các tính năng trực quan bị loại bỏ; các cột còn lại hiển thị các cài đặt trung gian tại α=0,25, 0,5 và 0,75. Các giá trị α cao hơn bảo tồn nhiều hơn của nhân vật ban đầu. Vui lòng tham khảo nguồn PDF gốc hoặc trang web dự án để có độ phân giải tốt hơn một chút.

Como được hiển thị ở trên, các tác giả cũng đã thử nghiệm kiểm soát này trên các nhân vật Winnie the Pooh; Olaf; Chuột Mickey; và Stitch. Tương đồng cấu trúc vẫn còn khá ổn định khi cường độ phục hồi thay đổi, trong khi nhận dạng bởi LLaVA-1.5 và BLIP-3 tăng lên khi nhiều hơn của mỗi nhân vật được khôi phục.

Winnie the Pooh và Stitch trở nên nhận biết được trong các phạm vi hẹp; Olaf và Chuột Mickey thay đổi một cách渐 dần; và Chuột Mickey trở nên nhận biết được với sự phục hồi tương đối ít, cho thấy rằng cường độ xóa phù hợp phụ thuộc vào nhân vật đang được nhắm đến.

Các thí nghiệm thêm để thay thế nhiều mục tiêu tại một lần đã được thực hiện thành công, và chúng tôi đề cập người đọc đến bài báo nguồn để biết thêm chi tiết về điều này, cũng như các kết quả và tài liệu bổ sung khác.

Kết luận

Như mọi khi, nếp gấp mới nhất này trong các rào chắn bản quyền tương đương với việc khóa cửa chuồng sau khi ngựa đã thoát.

Trong những trường hợp hiếm hoi mà các nhà nghiên cứu và công ty đã thử để đàn áp khả năng của mô hình tạo ra sự khiêu dâm và / hoặc nội dung người lớn, bằng cách thực sự cắt đứt quyền truy cập nội bộ vào ‘nội dung không an toàn’ trong tập dữ liệu (vì nó vẫn quá tốn kém để thực sự kiểm duyệt nó), nó đã trở thành rõ ràng rằng mô hình không còn hiểu được giải phẫu người đúng cách.

Phương pháp mới được đề xuất ở đây, về cơ bản, tương đương với việc cắt bỏ / chung một người mẫu khiêu dâm cụ thể, trong trường hợp một bộ lọc NSFW đang được xây dựng cho một mô hình được đào tạo trên một lượng lớn nội dung web được thu thập một cách không phân biệt. Đối với phương pháp mới, việc tạo ra một ‘người thay thế chung’ cho một nhân vật bản quyền phải để lại miền siêu anh hùng còn nguyên vẹn trong không gian tiềm ẩn của mô hình; và càng quan trọng nhân vật bản quyền được nhắm đến, chúng định nghĩa miền của chúng trong không gian đã đào tạo.

Vì vậy, việc loại bỏ chúng giống như việc cố gắng loại bỏ đường khỏi cà phê, một khi nó đã được khuấy.

Vì vậy, trong khi phương pháp này có thể đạt được một số thành công hạn chế nếu được thêm vào các tường lửa API đang phát triển của các mô hình tiền phong, thì bản chất liên kết của một mô hình GenAI gợi ý, về mặt lịch sử, rằng tài liệu bản quyền mà phương pháp này nhắm đến có thể vẫn có thể truy cập được thông qua sự thông minh thông thường của những người tạo lời nhắc.

Được xuất bản lần đầu vào thứ Sáu, ngày 14 tháng 8 năm 2026