Yapay Zeka

Görüntü İşleme Veri Kümeleri için DRM

Güncellenmiş on 9 Aralık 2022

Tarih, tekrarlanabilirlik ve olumlu emsal incelemesinin yeni bir girişimin geliştirilmesinde merkezi öneme sahip olduğu bilgisayarlı görü araştırmalarının 'açık' çağının, sonunda yerini, kapalı mekanizmaların ve duvarlı platformların rakiplerin yüksek veri seti geliştirme maliyetlerini baltalamak veya maliyetli bir projeyi yalnızca bir basamak olarak kullanmaktan kendi (belki de daha üstün) versiyonunu geliştirmeye yönelik.

Şu anda korumacılığa yönelik artan eğilim, esas olarak, kullanıcıların seyrek belirteçler veya istekler gönderdiği ve çerçevenin yanıtlarını değerli kılan dönüşüm süreçlerinin tamamen gizlendiği API erişiminin arkasına özel merkezi çerçeveler eskrimle desteklenmektedir.

Diğer durumlarda, nihai modelin kendisi yayınlanabilir, ancak onu değerli kılan önceden eğitilmiş ağırlıklar gibi merkezi bilgiler olmadan yayınlanabilir. birkaç milyona mal olmuş olabilir üretmek için; veya tescilli bir veri kümesinden yoksun veya bir alt kümenin bir dizi açık veri kümesinden nasıl üretildiğine dair kesin ayrıntılar. OpenAI'nin dönüştürücü Doğal Dil modeli GPT-3 söz konusu olduğunda, her iki koruma önlemi de şu anda kullanımdadır ve modelin taklitçileri, örneğin GPT Neo, ürünün bir tahminini ellerinden geldiğince bir araya getirmek.

Kopya Korumalı Görüntü Veri Kümeleri

Bununla birlikte, 'korumalı' bir makine öğrenimi çerçevesinin, yalnızca yetkili kullanıcıların (örneğin ücretli kullanıcılar) söz konusu sistemi karlı bir şekilde kullanabilmesini sağlayarak bir miktar taşınabilirlik düzeyini yeniden kazanabileceği yöntemlere ilgi artıyor. Bu genellikle veri kümesinin programatik bir şekilde şifrelenmesini içerir, böylece eğitim sırasında AI çerçevesi tarafından 'temiz' okunur, ancak güvenliği ihlal edilir veya başka herhangi bir bağlamda bir şekilde kullanılamaz hale gelir.

Böyle bir sistem, Anhui'deki Çin Bilim ve Teknoloji Üniversitesi ve Şangay'daki Fudan Üniversitesi'ndeki araştırmacılar tarafından daha yeni önerildi. Başlıklı Tersine Çevrilebilir Görüntü Veri Kümesi Koruması, kâğıt otomatik olarak ekleyen bir işlem hattı sunar rakip örnek pertürbasyon bir görüntü veri kümesine, böylece korsanlık durumunda eğitim için yararlı bir şekilde kullanılamaz, ancak koruma tamamen gizli bir belirteç içeren yetkili bir sistem tarafından filtrelenir.

Makaleden: 'değerli' bir kaynak görüntü, 'yetkili' bir kullanıcı için sistematik ve tamamen otomatik olarak kaldırılan ters örnek teknikleriyle etkili bir şekilde eğitilemez hale getirilir. Kaynak: https://arxiv.org/pdf/2112.14420.pdf

Korumayı etkinleştiren mekanizmaya tersinir ters örnek oluşturucu (RAEG) adı verilir ve etkin bir şekilde gerçek ağda şifreleme anlamına gelir. KULLANILABİLİRLİK Görüntülerin sınıflandırılması amacıyla, tersine çevrilebilir veri gizleme (RDH). Yazarlar şunları belirtiyor:

Yöntem, önce mevcut AE yöntemlerini kullanarak rakip görüntüyü oluşturur, ardından rakip tedirginliği rakip görüntüye yerleştirir ve RDH kullanarak stego görüntüsünü oluşturur. Tersine çevrilebilirlik özelliğinden dolayı, rakip pertürbasyon ve orijinal görüntü kurtarılabilir.'

Veri kümesinden alınan orijinal görüntüler, sınıflandırma sistemlerini aldatmak için hazırlanmış, düşmanca etkilenmiş görüntüler üretmek için U şeklinde bir tersine çevrilebilir sinir ağına (INN) beslenir. Bu, tipik özellik çıkarımının altının oyulacağı ve cinsiyet gibi özelliklerin ve diğer yüz tabanlı özelliklerin sınıflandırılmasını zorlaştıracağı anlamına gelir (yine de mimari, yalnızca yüz tabanlı materyalden ziyade bir dizi etki alanını destekler).

Rekonstrüksiyondan önce görüntüler üzerinde farklı türden saldırıların gerçekleştirildiği bir RAEG ters çevirme testi. Saldırı yöntemleri, Gauss Bulanıklığı ve JPEG eserlerini içerir.

Bu nedenle, 'bozuk' veya 'şifrelenmiş' veri kümesini GAN tabanlı yüz oluşturma için tasarlanmış bir çerçevede veya yüz tanıma amaçlarıyla kullanmaya çalışırsanız, ortaya çıkan model, üzerinde eğitilmiş olsaydı olacağından daha az etkili olacaktır. bozulmamış görüntüler

Görüntüleri Kilitleme

Ancak bu, popüler pertürbasyon yöntemlerinin genel uygulanabilirliğinin yalnızca bir yan etkisidir. Aslında, öngörülen kullanım durumunda, temiz verilere yönelik merkezi 'anahtar' hedef mimarideki gizli bir belirteç olduğundan, hedef çerçeveye yetkili erişim durumu dışında veriler sakatlanacaktır.

Bu şifrelemenin bir bedeli vardır; araştırmacılar, orijinal görüntü kalitesindeki kaybı 'hafif bozulma' olarak nitelendiriyor ve şunu belirtiyor: "Önerilen yöntem, orijinal görüntüyü neredeyse mükemmel bir şekilde geri yükleyebilirken, önceki yöntemler yalnızca bulanık bir sürümü geri yükleyebilir."

Söz konusu önceki yöntemler Kasım 2018'den kâğıt Yetkisiz Yapay Zeka Beni Tanıyamaz: Tersine Çevrilebilir Düşman Örneği, iki Çin üniversitesi ve RIKEN Gelişmiş İstihbarat Merkezi Projesi (AIP) arasındaki bir işbirliği; Ve Tersinir Görüntü Dönüşümüne Dayalı Tersinir Düşman Saldırısı, 2019 kağıt ayrıca Çin akademik araştırma sektöründen.

Yeni makalenin araştırmacıları, ilk yaklaşımın ara müdahaleye karşı çok hassas ve atlatılması çok kolay olduğunu, ikinci yaklaşımın ise aşırı bozulmaya neden olduğunu gözlemleyerek, bu önceki yaklaşımlara kıyasla geri yüklenen görüntülerin kullanılabilirliğinde kayda değer gelişmeler kaydettiğini iddia ediyor. orijinal görüntülerin (yetkilendirilmiş) eğitim zamanında kullanılması, sistemin uygulanabilirliğini zayıflatır.

Mimari, Veriler ve Testler

Yeni sistem bir üreteç, pertürbasyon uygulayan bir saldırı katmanı, önceden eğitilmiş hedef sınıflandırıcılar ve bir ayırt edici elemandan oluşuyor.

RAEG mimarisi. Sol-ortada, kaynak görüntülerde işlenen tedirgin özellikleri tanımlayarak ve bunları iskonto ederek, eğitim zamanında görüntünün bozulmasını gidermeye izin verecek olan 'Iprt' gizli belirtecini görüyoruz.

RAEG mimarisi. Sol-orta, 'I' gizli belirtecini görüyoruz_prt', kaynak görüntülerde işlenen tedirgin özellikleri tanımlayarak ve bunları indirerek, eğitim zamanında görüntünün bozulmasını gidermeye izin verecek.

Aşağıda, üç veri kümesi kullanılarak önceki iki yaklaşımla yapılan bir test karşılaştırmasının sonuçları verilmiştir: ÜnlüA-100; Caltech-101; Ve Mini ImageNet.