GAN-Generaattorien Lähdeaineiston Uudelleentunnistaminen

Ranskalaisen tutkimuksen mukaan on kehitetty menetelmä “uudelleentunnistamaan” lähde-identiteetit, jotka ovat vaikuttaneet synteettisesti luoduissa tiedoissa, kuten GAN: n avulla luoduissa “olemattomissa” kasvoissa, kuten This Person Does Not Exist -projektissa.

Tutkimuksessa esitetty menetelmä, joka on julkaistu tutkimusraportissa nimeltä This Person (Probably) Exists. Identity Membership Attacks Against GAN Generated Faces, ei vaadi (epätodennäköistä) pääsyä koulutusarkkitehtuuriin tai mallidatan, ja sitä voidaan soveltaa moniin sovelluksiin, joissa GAN: ia (Generative Adversarial Networks) käytetään anonyymien henkilökohtaisten tietojen suojaamiseen tai synteettisten tietojen luomiseen lähdeaineiston suojaamiseksi.

Tutkijat ovat kehittäneet menetelmän nimeltä Identity Membership Attack, joka arvioi yhden identiteetin todennäköisyyttä esiintyä usein lähdeaineistossa, sen sijaan, että yritettäisiin tunnistaa tiettyjä identiteetin ominaisuuksia (esim. alkuperäisen kuvan pikseleitä, joita käytettiin generatiivisen mallin koulutukseen).

Lähde: https://arxiv.org/pdf/2107.06018.pdf

Yllä olevassa kuvassa, joka on peräisin tutkimuksesta, kunkin rivin ensimmäinen kuva on GAN: n avulla luotu kuva, jonka on luonut StyleGAN. Vasemmalla oleva kuvalohko on luotu 40 000 kuvan tietokannasta, keskimmäinen 80 000 kuvan tietokannasta ja oikealla oleva kuvalohko 46 000 kuvan tietokannasta. Kaikki kuvat ovat peräisin VGG2Face2-tietokannasta.

Jotkut näytteet muistuttavat toisiaan, kun taas toiset ovat vahvasti korreloivia koulutusaineistoon. Kasvot tunnistettiin onnistuneesti tutkijoiden käyttämällä kasvontunnistusverkkoa.

Lisää kuin vain kasvojen arvo

Tällaiset uudelleentunnistusmenetelmät ovat monella tavalla merkittäviä useilla tutkimusalueilla; Ranskalaiset tutkijat, jotka työskentelevät Caenin yliopistossa Normandiassa, korostavat, että heidän menetelmänsä ei ole rajoitettu vain kasvoihin tai kasvojen generoimiseen GAN: illa, vaan se on sovellettavissa myös lääketieteellisiin kuvatietokantoihin ja biometrisiin tietoihin, muun muassa.

‘Meidän mielestämme, jos tällainen hyökkäys onnistuu, se paljastaa vakavan esteen GAN: en turvallisen vaihdon esteettömissä yhteyksissä. Esimerkiksi maalausten tai muiden taidekappaleiden osalta ei-privaatti generoiminen saattaa olla kiellettyä johtuen ilmeisiä tekijänoikeusongelmia. Tärkeämpää on, kun biometrisen yrityksen A julkaisee generoittimen, joka paljastaa asiakkaan identiteetin. Toisaalta yritys B voi havaita, mitkä heidän omat asiakkaansa ovat myös yrityksen A asiakkaita. Samanlaiset tilanteet voivat aiheuttaa vakavia ongelmia lääketieteellisissä tiedoissa, joissa GAN: en paljastaminen voi rikkoa potilaan henkilökohtaisia tietoja.’

Laillisen tai yksityisen datan uudelleentunnistaminen

Vaikka tutkimusraportti käsittelee tätä aiheetta vain pintapuolisesti, alkuperäisen lähdeaineiston tunnistaminen abstrahoiduista tuloksista (kuten GAN: n avulla luoduista kasvoista, vaikka tämä koskee myös muita arkkitehtuureja) on merkittäviä vaikutuksia tekijänoikeussuojan toteuttamisessa seuraavien 5-10 vuoden aikana.

Tällä hetkellä useimmat maat noudattavat laissez faire -lähestymistapaa julkisesti saatavilla olevan verkkodatakeruumisen osalta, jotta ne eivät jää jälkeen koneoppimisen taloudellisessa kehitysvaiheessa. Kun tämä ilmasto kaupallistuu ja keskittyy, on merkittävä potentiaali uuden “Data Trolls” -sukupolven esittämiseen tekijänoikeusvaatimuksia kuvista, jotka on vahvistettu historiallisesti osaksi koneoppimisalgoritmeja.

Kun kehittyneet algoritmit kypsyvät ja arvostuvat ajan myötä, mitkä tahansa sallimattomat kuvat, jotka on käytetty niiden varhaisessa kehityksessä ja joita voidaan päätellä niiden tuloksista vastaavilla menetelmillä kuin tutkimuksessa esitetty, ovat potentiaalinen oikeudellinen vastuu SCO Vs IBM: n (legendaarisen pitkäaikaisen teknologiaa koskevan oikeudenkäynnin, joka edelleen uhkaa Linux-käyttöjärjestelmää).

Diversiteetin ja tiheyden Meksikon umpikuja

Ranskalaiset tutkijat käyttävät pääasiallisesti menetelmää, joka hyödyntää alkuperäisen tietokannan kuvien tiheyttä avaimena uudelleentunnistamiseen. Mitä useammin tietty identiteetti esiintyy tietokannassa, sitä todennäköisempää on, että sitä voidaan tunnistaa korreloimalla hyökkäyksen tuloksia julkisesti tai yksityisesti saatavilla oleviin tietokantoihin.

Tutkijat toteavat, että tätä voidaan lieventää sisällyttämällä tietokantaan paljon suurempi määrä erilaisia tietoja (esim. kasvoja) ja estämällä ylitreenaamisen. Ongelmana on, että mallin on saavutettava hyvä abstraktio paljon korkeammissa ulottuvuuksissa ja paljon suuremmalla määrällä tietoa kuin mitä on välttämätöntä saavuttaa uskottavia synteettisiä tuloksia.

Tämänkaltaisen yleistymisen saavuttaminen on kallista ja aikaa vievää: latentti avaruus (mallin formulaattinen analyysi, johon data syötetään) vaatii enemmän resursseja; tietokanta vaatii enemmän kuraattoria; ja koska tietojen määrän on oltava merkittävä, batch-koot ja aikataulutus on optimoitava laadun ja korkean yleistymisen vuoksi, ei koulutusnopeuden ja taloudellisuuden vuoksi, mikä johtaa korkeampiin kehityskustannuksiin ja pitempiin kehitysaikoihin.

Lisäksi ylitreenatut generatiiviset algoritmit voivat tuottaa erittäin realistisia synteettisiä tietoja, vaikka tulostieto (esim. kasvot, kartat, biolääketieteelliset kuvat jne.) ei ole täysin abstraktia, vaan siinä on suurempia erottavia piirteitä lähdeaineistosta kuin mitä olisi ihanteellista – houkutteleva lyhyen leikkaus. Nykyisessä “villissä länessä” -ilmapiirissä koneoppimisen alalla, jossa pienemmät aloitteet yrittävät haastaa FAANG: in johdon vähemmällä resursseilla (tai saada huomiota ostotarjouksesta), on epäilty, nouskoko standardit aina tämän korkealle.

Tutkimusraportti toteaa myös, että lähdeaineistopisteen diversiteetti (kuten kasvojen) ei ole riittävä yksin estämään uudelleentunnistamista näillä ja vastaavilla menetelmillä, koska varhainen koulutuksen lopettaminen voi jättää lähde-identiteetit riittämättömän abstrakteiksi.