Telifli Animasyon Karakterlerine “Gizli Kimlikler” Verme

Çin’den yapılan yeni bir araştırmada, telifli animasyon karakterlerini korumak için bunların yerine genel değiştirilebilirler eklenerek, görüntü oluşturma sırasında “enjekte” edilebilecek bir yöntem öneriliyor. Ancak bu yöntem,.prompt-hacker’lerin zekasına karşı etkili olabilir mi?

Veri setlerindeki telifli materyalin miktarı dikkate alındığında, bu setlere dayalı olarak eğitilen modeller, genellikle telifli karakterleri üretebilme yeteneğine sahiptirler.

Modelin doğrudan düzenlenmesi veya modelin API aracılığıyla erişildiğinde, anahtarlara müdahale etmek için filtreler kullanmak, genellikle telifli öğeyi kapsamlı bir şekilde tarif ederek atlatılabilir.

Bir popüler AI sohbet botu tarafından, karakter adlarının doğrudan çağrılması olmadan üretilen telifli bir karakter. Kaynak

Güçlü ve sürekli bir araştırma çizgisi olarak, model-modifikasyonu teknikleri, eğitimli bir modeldeki parametreleri değiştirmeye çalışmış, ancak değişken sonuçlar elde edilmiştir:

2023 tarihli ‘Ablating Concepts in Text-to-Image Diffusion Models’ makalesinden, ‘Kaptan Marvel’ olarak Brie Larson’ın fotogerçekçi temsilleri, bir difüzyon modeline gömülü olarak, kullanıcı tarafından istendiğinde, gevşek bir şekilde ilgili karikatür görüntülerine dönüştürülür. Kaynak

Bununla birlikte, ablasyon genellikle zararlı ve kesin olmayan bir işlemdir ve sık sık modelin diğer özelliklerini etkileyebilir; ayrıca, buna karşı birçok yol vardır.

Diğer popüler yaklaşım, ‘negatif prompting’ yöntemidir; burada, modelin çıktısını kısıtlamak amacıyla ek bir ‘anti-prompt’ gönderilir. Model API aracılığıyla erişildiğinde, bilinen kullanıcı promtının yanı sıra ‘gizli’ bir negatif prompt da gönderilebilir; bu, yasaklanmış materyali kullanıcıya sunmasını önlemek için tasarlanmış bir rubriktir. Bu yaklaşım, popüler bir telif koruma vektörü olarak popüler olsa da, her zaman etkili değildir.

Vekil Kimlikler

Bu düşünceyle, Çin’den yapılan yeni bir makale, telifli animasyon karakterlerinin yerine, görüntü oluşturma sırasında “enjekte” edilebilecek genel değiştirilebilirler eklenmesini öneriyor – karakterlerin geniş şeklini ve yapısını koruyarak, ancak ayırt edici görsel detayları kaldırarak:

Eğitimli bir modelde bulunan ve erişilebilen telifli materyalin ‘anonimleştirilmiş’ temsilleri, yeni gömme yöntemiyle elde edilir. Kaynak

Bu müdahale, modelin altındaki difüzyon modelini değiştirmeden veya ayarlamadan, görüntü oluşturma sırasında gerçekleşir ve orijinal karakterin ne kadar silineceğini belirlemek için ayarlanabilir.

Yaklaşım, model değiştirme yönteminin bu amaç için uygun olmadığını ima eder ve bunun yerine, modelin çıkarım sürecine hazırlanmış gömmeleri enjekte eder – telifli varlığı ‘yeniden yapılandırmak’ yerine ‘sıfırlamak’ veya ‘kaldırmak’ için tasarlanmış gömmeler. Bu işlem, temel modeli etkilemez veya değiştirmez ve böylece çeşitli modellerde yeniden kullanılabilir veya uyarlanabilir.

Yöntem, daha eski Stable Diffusion model serisinde test edildi, ancak aynı zamanda daha yeni Z-Image mimarisi üzerinde de etkili bir şekilde denenmiştir; bu, yazarların kavramının çeşitli üretilen mimarilerde uygulanabilir olduğunu göstermektedir.

Makale şöyle diyor:

‘[Biz] hedef karakterleri oluşturma sırasında silmek için modelin sürekli metinsel temsilinde çalışan kontrollü bir yöntem öneriyoruz. Yapısal ve ayrıntılı kısıtlamalarla bir ancor gömmesini optimize ediyoruz, ardından hedefle ilgili gömmeleri bu ancorla değiştiriyoruz, yapısal bir strateji kullanarak.

‘Deneyimler, yöntemimizin devlet-sanal silme etkinliği ve görüntü sadakatini koruma konusunda en iyi sonucu sağladığını, ayrıca kontrollü silme derecesini, çoklu hedef kaldırma ve model taşınabilirliğini desteklediğini gösteriyor.

‘Ayrıca, optimize edilmiş ancorlarımız, mevcut model-modifikasyonu temel çizgilerini geliştirmek için tak ve çalışır şekilde kullanılabilir.’

Yöntemin, çeşitli mimarileri kapsadığını ve granüler kontrol sunduğunu gösteren yazarlar.

Yeni makale, Erase but Preserve: Controllable Removal of Copyrighted Animation Characters via Optimized Semantic Anchors başlığını taşır ve Çin Bilimler Akademisi’ndeki Bilgi Mühendisliği Enstitüsü’nden ve Pekin’deki Çin Bilimler Akademisi Üniversitesi’nden yedi yazar tarafından yazılmıştır.

Yöntem

Yeni yöntemin arkasındaki temel fikir, her telifli karakter için, karakterin geniş şeklini ve yapısını koruyarak, ancak ayırt edici görsel detayları atan bir değiştirilebilir oluşturmaktır – sonra da bu değiştirilebilirin, korunan karakterin istendiğinde görüntü oluşturma sırasında kullanılmasını sağlar.

Yeni yaklaşımın şeması.

Değiştirilebilir, yani anchor, orijinal karakterin yeterli şeklini ve yapısını korumak için tasarlanır, ancak karakteri ayırt edici kılan detayları atmaktır.

Bunu başarmak için, sistem, orijinal karakter için oluşturulan kaba yapısal bilgileri, geliştirilen anchor için oluşturulanlarla karşılaştırır, ikisini benzer bir genel forma doğru iter. Telifli karakterin referans görüntüsü, tersine, anchor’un tanınabilir ince detaylarından uzaklaşması için kullanılır:

Telifli bir karakter için bir değiştirilebilir oluşturma yöntemi. Karakterin geniş yapısı korunurken, ayırt edici görsel detayları bastırılır, optimize edilmiş bir ‘anchor’ oluşturulur.

Sonuç olarak, anchor, istenen kompozisyonu korurken korunan kimliği kaldırmak için tasarlanmış bir ara zemini işgal eder.

Anchor Away

Bu özellikler belirlendikten sonra, anchor’un, difüzyon modelinin anlayabileceği bir forma dönüştürülmesi gerekir. Anchor* [sic] terimi, öngörülebilir bir temsil olarak CLIP metin kodlayıcısına sahiptir, böylece yeni, sanal bir kelime/varlık oluşturulur ve anlamı, değiştirilmeden şekillendirilebilir.

Bu yeni temsil, yukarıda belirtilen yapısal ve ayrıntı hedeflerine göre tekrar tekrar ayarlanır, Anchor*‘in, korunan karakterin geniş şekline benzeyen, ancak ayırt edici görünümünden arınmış bir anlam kazanmasını sağlar.

Metin kodlayıcısının geri kalanı, bu işlem sırasında dondurulur, Anchor* etrafındaki normal başlangıç, bitiş ve doldurulma token’ları, bu yeni öğrenilen sözde-kelimenin, oluşturma sırasında kullanılan nihai gömmelere dönüştürülmesi için gerekli bağlamı sağlar.

Uyarlanabilir Değiştirme

Oluşturma sırasında (çıkarım), algoritma, korumalı karakterle ilgili terimleri arar ve bunların yerine öğrenilen anchor gömmelerini koyar, aynı zamanda bağlamsal bilgileri taşıyan bitiş ve doldurulma gömmelerini de ayarlar.

Bunun için hazırlık olarak, sistem gürültü azaltma yoluyla istenen görüntünün geniş bileşimini kurar, görüntünün kaba yapısında değişiklikleri izler ve bu düzenin ne zaman stabilize olmaya başladığını belirlemek için:

Görüntü oluşturma sırasında anchor değiştirme zamanının bir temsili. Gürültü azaltma sırasında görüntünün kaba yapısındaki değişiklikler izlenir, değiştirme, genel düzenin stabilize olduğu ve daha ince detayların ortaya çıktığı noktada tetiklenir.

Üstteki görüntüde, bu geçişin yaklaşık 720. adımda gerçekleştiğini görüyoruz, burada ölçülen yapısal değişim zirveye ulaşıp sonra düşmeye başlar. Bu noktada, görüntünün geniş düzeni büyük ölçüde oluşmuştur ve anchor, korumalı karakteri değiştirebilir, aynı zamanda kurulan bileşimi bozma riskini azaltabilir.

Veri ve Testler

Yazarlar, yaklaşımını beş prompt-tabanlı temel çizgiyle karşılaştırdı: Safe Latent Diffusion (SLD); STG; SAFREE; TraSCE; ve Negatif Prompting (NP).

Optimize edilmiş anchor gömmeleri, ayrıca dört mevcut model-modifikasyonu yöntemine entegre edildi: MACE; UCE; ESD-u; ve AC. Bu, karakter silme performansını geliştirebileceklerini test etmek için yapıldı.

Değerlendirme için, 36 antropomorfik karakter, 23 hayvan şekilli karakter ve 21 çeşitli kategoriden oluşan 80 animasyon karakterinden oluşan bir veri seti oluşturuldu – tüm seçilen karakterler, difüzyon modelleri tarafından güvenilir bir şekilde üretilmeleri nedeniyle seçildi.

Her karakter için, GPT-4o tarafından üretilen promt’lar kullanılarak 100 görüntü oluşturuldu.

Stable Diffusion v1.4 ana deneyler için kullanıldı, taşınabilirlik ayrıca Stable Diffusion’un diğer sürümleri v1.5; V2; v2.1; XL base 1.0; ve ayrıca daha yeni DiT tabanlı Z-Image üzerinde test edildi. Hiçbir model ayarlanması yapılmadı, her ön-eğitimli modelin parametreleri değiştirilmeden bırakıldı.

Metrikler için, LLaVA-1.5 ve BLIP-3 hedef karakterin hala tanınabilir olup olmadığını ölçtü, daha düşük tanımlama doğruluğu daha eksiksiz silme anlamına geliyordu; Yapısal Benzerlik Endeksi (SSIM) yapısal korunmayı ölçtü; Öğrenilmiş Algısal Benzerlik Ölçümleri (LPIPS) algısal farkı ölçtü; ve Estetik Tahmin Edici V2 Skoru değiştirilen görüntünün görsel kalitesini değerlendirdi.

Fréchet Inception Mesafesi (FID) ve CLIP Skoru ayrıca, normal görüntü oluşturmasının etkilenip etkilenmediğini ölçmek için COCO-30K‘ten ilgili olmayan promt’lar kullanılarak hesaplandı:

80 animasyon karakteri boyunca karakter silme yöntemlerinin karşılaştırma sonuçları. İlk iki sütun, silinen karakterin hala tanınabilir olabileceği sıklığı ölçer, bu nedenle daha düşük puanlar daha iyi silme anlamına gelir. Kalan sütunlar, orijinal görüntü ve ilişkisiz oluşturmanın ne kadar iyi korunduğunu ölçer. Oklar, daha yüksek veya daha düşük puanların tercih edilip edilmediğini gösterir; kalın, en iyi sonucu ve alt çizgi, ikinci en iyi sonucu gösterir.

Bu ilk nicel karşılaştırma sonuçlarından, yazarlar şöyle diyor:

‘Tüm temel çizgilere kıyasla, yöntemimizle silinen görüntüler, LLaVA-1.5 (6.0%) ve BLIP-3 (4.0%) tarafından hedef tanımlamanın en düşük doğruluklarını sağlar, ikinci en düşük olanlara göre sırasıyla 3.5% ve 1.7% giảm gösterir.

‘Bu, yöntemimizin silme etkinliğini göstermektedir, çünkü çok modelli büyük modelleri etkisiz kılar.’

Görüntü sadakati için, yazarların yöntemi, 0.467 ile en yüksek SSIM puanını ve 0.505 ile en düşük LPIPS puanını üretti – bu, test edilen yöntemler arasında en güçlü ilgisiz içerik ve arka plan yapısını koruduğunu gösteriyor. Ayrıca, karakter silme yöntemleri arasında en yüksek Estetik Tahmin Edici V2 Skoruna ulaştı, 5.18 ile, bu korumanın genel görsel kalite pahasına gelmediğini gösteriyor.

Bir nitel test de yapıldı:

Beş animasyon karakteri boyunca karakter silme karşılaştırma sonuçları. Her satır, farklı bir yöntemin sonuçlarını gösterir, en üstte Stable Diffusion v1.4’ün orijinal üretimleri ve en altta önerilen yöntem bulunur. Önerilen yöntem, hedef karakterleri daha tutarlı bir şekilde değiştirirken, çevre sahneyi korur. Lütfen daha iyi bir çözünürlük için orijinal kaynak PDF’sine veya proje sitesine başvurun.

Makaleye göre, örnekler, özellikle karmaşık şekillere ve özelliklere sahip karakterler için, özellikle Donald Duck ve Super Mario için, belirgin farklılıklar gösterir:

‘[Bizim] yöntemimiz, optimize edilmiş ancorlar aracılığıyla animasyon karakterlerinin sorunsuz silmesini sağlar, oysa prompt-tabanlı temel çizgiler genellikle başarısız olur – özellikle karmaşık şekillere ve özelliklere sahip karakterler için (örneğin, Donald Duck ve Super Mario).

‘Ayrıca, bizim yöntemimiz, bulanıklaştırma veya eğme artifactsı olmadan arka plan tutarlılığını sağlar, bu da yinelemeli yaratıcı iş akışlarını destekler.’

Granüler Kontrol

Sürekli bir gömme uzayı, karakter silme gücünün ayarlanmasına da izin verir, silmeyi tüm veya hiç olarak değil, bir dizi olarak ele alır. Optimize edilmiş anchor ile orijinal hedef gömmesi arasında interpolasyon yaparak, karakterin daha fazla portionuprogressively geri yüklenerek, çevre görüntü yapısını korur:

Farklı karakter silme derecelerini gösteren test görüntüleri. İlk üç sütun, orijinal karakteri, silinen versiyonu ve kaldırılan görsel özellikleri gösterir; kalan sütunlar, α=0.25, 0.5 ve 0.75’de ara ayarları gösterir. Daha yüksek α değerleri, orijinal karakterin daha fazla portionunu korur. Lütfen daha iyi bir çözünürlük için orijinal kaynak PDF’sine veya proje sitesine başvurun.

Üstteki görüntüde, yazarlar bu kontrolü Winnie the Pooh; Olaf; Minnie Mouse; ve Stitch karakterleri üzerinde test etmiştir. Yapısal benzerlik, silme gücünün değişmesi karşısında göreceli olarak sabit kaldı, LLaVA-1.5 ve BLIP-3 tarafından tanınma, karakterin daha fazla portionu geri yüklenerek arttı.

Winnie the Pooh ve Stitch, dar bir aralıkta tanınabilir hale geldiler; Olaf ve Minnie Mouse daha渐 dần değişti; ve Minnie Mouse, çok az geri yüklemeye rağmen tanınabilir hale geldi, bu da uygun silme gücünün, hedeflenen karaktere bağlı olduğunu gösterdi.

Birden fazla hedefi bir defada değiştirme deneyleri de başarılı bir şekilde gerçekleştirildi ve bu konuda daha fazla ayrıntı ve ek sonuçlar için okuyucuyu kaynak makaleye yönlendiriyoruz.

SONUÇ

Her zaman olduğu gibi, bu en son telif koruma güncellemesi, ahır kapılarının, atın kaçmasından sonra kilitlenmesiyle eşdeğerdir.

Nadiren, araştırmacılar ve şirketler, bir modelin cinsellik veya herhangi bir NSFW materyali üretmesini önlemek için çalıştıklarında, genellikle bu materyalleri veri setinden fiilen kaldırmaya çalışmışlardır (çünkü bunları gerçekten çıkarmak çok pahalıdır). Ancak, modelin artık insan anatomisini doğru bir şekilde anlamadığını keşfettiler.

Burada önerilen yeni yaklaşım, esasen, bir NSFW filtresi inşa edilirken, bir telifli karakter için ‘genel bir değiştirilebilir’ oluşturmakla eşdeğerdir. Bu yöntem, telifli karakter için ‘genel bir değiştirilebilir’ oluşturmak zorunda kalır, ancak süper kahraman alanını, modelin gizli uzayında intact bırakmak zorundadır; ve hedeflenen telifli karakter ne kadar önemliyse, o kadar çok kendi alanını, eğitilen uzayda tanımlar.

Bu nedenle, onu kaldırmak, şekerli kahveden şekeri çıkarmaya benzer; bir kez karıştırıldığında.

Bu nedenle, bu yaklaşım, frontier modellerin不断 büyüyen API güvenlik duvarlarına eklendiğinde sınırlı bir başarı elde edebilir, ancak telifli materyali hedef alan GenAI modelinin doğası, tarih boyunca, bu yöntemin hedef aldığı telifli materyalin, prompt’ların geleneksel zekasıyla erişilebilir kalabileceğini öne sürer.

İlk olarak 14 Ağustos 2026 Cuma günü yayınlandı