Todelliset identiteetit voidaan paljastaa synteettisistä tietokannoista

Jos vuosi 2022 merkitsi hetkeä, jolloin generatiivisen tekoälyn häiritsevä potentiaali sai laajan yleisön huomion, vuosi 2024 on ollut vuosi, jolloin tekoälyn taustalla olevan datan laillisuudesta esitettyjen kysymysten vuosi yrityksille, jotka haluavat hyödyntää sen voimaa.

Yhdysvaltain reaalisuojelu, sekä akateemisen ja kaupallisen tutkimuksen sektorin pitkään sallima impliceeraus, joka on mahdollistanut generatiivisen tekoälyn tutkimisen, on tullut yhä epävakavammaksi, kun plagiaatin todisteita on tullut ilmi. Seurauksena Yhdysvallat on toistaiseksi kieltänyt tekoälyllä luodun sisällön tekijänoikeuksien suojaamisen.

Nämä asiat ovat kaukana ratkaisusta, ja kaukana välittömästä ratkaisusta; vuonna 2023, osittain kasvavan median ja yleisön huolen vuoksi tekoälytuotosten laillisesta asemasta, Yhdysvaltain tekijänoikeusvirasto käynnisti useita vuosia kestävän tutkimuksen tästä generatiivisen tekoälyn osasta, ja julkaisi ensimmäisen osan (joka koskee digitaalisia jäljennöksiä) heinäkuussa 2024.

Sillä aikaa yritysten edut ovat edelleen tyytymättömiä mahdollisuuteen, että kalliit mallit, joita he haluavat hyödyntää, voivat altistaa heidät oikeudellisille seurauksille, kun lopullinen lainsäädäntö ja määritelmät lopulta tulevat voimaan.

Kallis lyhytaikainen ratkaisu on ollut tekoälymallien laillistaminen kouluttamalla ne datalla, jolla yrityksillä on oikeus hyödyntää. Adoben teksti-kuva (ja nyt teksti-video) Firefly-arkkitehtuuri perustuu pääasiallisesti Fotolia-kuvatietokannan ostamiseen vuonna 2014, täydennettynä tekijänoikeuksien vanhentumisen jälkeen julkaistujen julkisten tietojen käytöllä*. Samalla perinteiset valokuvatoimistot, kuten Getty ja Shutterstock, ovat hyödyntäneet uutta arvoa lisensoimalla sisältöä tai kehittämällä omia tekoälyjärjestelmiä, joissa on IP-suojattu sisältö.

Synteettiset ratkaisut

Koska tekijänoikeuksien suojattu data poistaminen koulutetun tekoälymallin latenttiavaruudesta on ongelmainen, virheet tässä alueella voivat olla hyvin kalliita yrityksille, jotka kokeilevat kuluttaja- ja liiketoimintaratkaisuja, jotka käyttävät koneoppimista.

Alternatiivinen ja paljon edullisempi ratkaisu tietokoneen näköjärjestelmille (ja myös suurille kielen malleille eli LLM:ille) on synteettisen datan käyttö, jossa tietokanta koostuu satunnaisesti luoduista esimerkeistä kohdealueesta (kuten kasvoista, kissoista, kirkoista tai jopa yleistetymmästä tietokannasta).

Sivustot kuten thispersondoesnotexist.com ovat jo aikaisemmin popularisoineet idean, että aidon näköiset valokuvat “ei-olevista” ihmisistä voidaan luoda (tässä tapauksessa generatiivisen vastakkainasettelun verkkojen eli GAN:ien kautta) ilman mitään suhdetta olemassa oleviin ihmisiin.

Näin ollen, jos koulutat kasvojentunnistusjärjestelmän tai generatiivisen järjestelmän tällaisilla abstrakteilla ja epäaidoilla esimerkeillä, voit teoriassa saavuttaa fotorealistisen tuottavuuden tekoälymallille ilman, että tarvitsee huolehtia siitä, onko data laillisesti käytettävissä.

Tasapainoilu

Ongelma on, että synteettisen datan tuottavat järjestelmät itse ovat koulutettu todellisella datalla. Jos tämän datan jälkiä siirtyy synteettiseen dataan, se voi tarjota todisteita siitä, että rajoitettua tai muutoin laitonta materiaalia on hyödynnetty taloudellisessa tarkoituksessa.

Jotta voidaan välttää tämä, ja tuottaa todella “satunnainen” kuvamateriaali, nämä mallit tarvitsevat hyvää yleistymistä. Yleistymisaste on mittari koulutetun tekoälymallin kyvystä ymmärtää korkean tason käsitteitä (kuten ‘kasvo’, ‘mies’ tai ‘nainen’) ilman, että se joutuu toistamaan todellista koulutusdataa.

Valitettavasti on vaikea koulutetuille järjestelmille tuottaa (tai tunnistaa) yksityiskohtaisia yksityiskohtia, ellei se kouluteta hyvin laajasti tietokannalla. Tämä altistaa järjestelmän muistamiselle: taipumus toistaa jossain määrin todellisen koulutusdatan esimerkkejä.

Tätä voidaan lieventää asettamalla oppioparametri arvoon, joka on vähemmän tiukka, tai lopettamalla koulutus vaiheessa, jossa peruskäsitteet ovat edelleen joustavia eivätkä liity mihinkään tiettyyn datakohtaan (kuten tiettyyn henkilön kuvaan kasvojentunnistustietokannassa).

Kuitenkin molemmat nämä korjaavat toimenpiteet johtavat todennäköisesti malleihin, joilla on vähemmän yksityiskohtaisia yksityiskohtia, koska järjestelmä ei saa mahdollisuutta edetä “perustason” ylittäen kohdealueen yksityiskohtiin.

Näin ollen tieteellisessä kirjallisuudessa sovelletaan yleensä hyvin korkeita oppioparametreja ja kattavia koulutusohjelmia. Vaikka tutkijat yleensä pyrkivät löytämään kompromissin laajan soveltamiskelpoisuuden ja yksityiskohtaisuuden välillä lopullisessa mallissa, jopa lievästi “muistettuja” järjestelmiä voidaan usein esittää hyvin yleistyneinä järjestelminä – jopa alkuvaiheessa.

Kasvojen paljastus

Tämä johtaa meidät mielenkiintoiseen uuteen tutkimukseen Sveitsistä, joka väittää olevansa ensimmäinen, joka osoittaa, että alkuperäiset, todelliset kuvat, jotka voimistavat synteettistä dataa, voidaan paljastaa generoituista kuvista, jotka pitäisi teoriassa olla täysin satunnaisia:

Esimerkki kasvokuvista, jotka vuotivat koulutusdatasta. Ylärivissä nähdään alkuperäiset (todelliset) kuvat; alarivissä nähdään satunnaisesti generoituja kuvia, jotka vastaavat merkittävästi todellisia kuvia. Lähde: https://arxiv.org/pdf/2410.24015

Tulokset, joita tutkijat esittävät, osoittavat, että “synteettiset” generoijat ovat todella muistanneet suuren määrän koulutusdatan kohtia pyrkimyksessään saavuttaa suurempaa yksityiskohtaisuutta. Ne osoittavat myös, että järjestelmät, jotka luottavat synteettiseen dataan suojelemaan tekoälytuottajia oikeudellisista seurauksista, voivat olla hyvin epäluotettavia tässä suhteessa.

Tutkijat suorittivat laajan tutkimuksen kuudella valmiista synteettisellä tietokannalla, osoittaen, että kaikissa tapauksissa alkuperäinen (mahdollisesti tekijänoikeuksien suojama tai suojattu) data voidaan paljastaa. He kommentoivat:

‘Kokeemme osoittavat, että valmiiden synteettisten kasvojentunnistustietokantojen näytteet ovat hyvin lähellä koulutusdatan näytteitä. Jossain tapauksissa synteettiset näytteet sisältävät pieniä muutoksia alkuperäiseen kuvaan, mutta voimme myös havaita, että generoitu näyte sisältää enemmän vaihtelua (esim. eri asento, valaistusolot jne.), kun taas identiteetti säilyy.

‘Tämä osoittaa, että generoivat mallit oppivat ja muistavat identiteettiin liittyvää tietoa koulutusdatasta ja voivat generoida samanlaisia identiteettejä. Tämä herättää kriittisiä huolenaiheita synteettisen datan soveltamisesta yksityisyyden kannalta arkaluontoisissa tehtävissä, kuten biometriikassa ja kasvojentunnistuksessa.’

Tutkimus tutkimus on nimeltään Paljastamalla synteettiset kasvot: Miten synteettiset tietokannat voivat paljastaa todellisia identiteettejä, ja se on tehty kahden tutkijan toimesta Idiap-tutkimuslaitoksessa Martignyssa, École Polytechnique Fédérale de Lausannessa (EPFL) ja Université de Lausannessa (UNIL) Lausannessa.

Menetelmä, data ja tulokset

Muistetut kasvot tutkimuksessa paljastettiin Jäsenyyden inference -hyökkäyksellä. Vaikka käsite kuulostaa monimutkaiselta, se on suhteellisen itsestään selkeä: jäsenyyden inference tarkoittaa tässä tapauksessa prosessia, jossa järjestelmää kuulustellaan, kunnes se paljastaa dataa, joka vastaa etsittyä dataa tai muistuttaa sitä merkittävästi.

Lisäksi paljastettujen datalähteiden esimerkkejä tutkimuksesta. Tässä tapauksessa lähde-synteettiset kuvat ovat DCFace-tietokannasta.

Tutkijat tutkivat kuutta synteettistä tietokantaa, joissa tiedettiin (todellinen) lähdetietokanta. Koska sekä todellinen että synteettinen tietokanta sisältävät hyvin suuren määrän kuvia, tämä on käytännössä kuin etsintä neulaa heinäsuovasta.

Tutkijat käyttivät valmiina olevaa kasvojentunnistusmallia^† ResNet100-rungolla, joka on koulutettu AdaFace-häviöfunktiolla (WebFace12M-tietokannalla).

Kuusi synteettistä tietokantaa, joita tutkittiin, olivat: DCFace (latentti-diffuusiomalli); IDiff-Face (Yhdenmukainen – diffuusiomalli, joka perustuu FFHQ:hen); IDiff-Face (Kaksivaiheinen – variantti, joka käyttää eri näytteenottomenetelmää); GANDiffFace (joka perustuu generatiivisiin vastakkainasetteluverkkoihin ja diffuusiomalleihin, joissa käytetään StyleGAN3:aa alkuidentiteettien generoimiseen ja sitten DreamBoothia muunnelmien luomiseen); IDNet (GAN-menettely, joka perustuu StyleGAN-ADA:han); ja SFace (identiteetin suojaava kehys).

Koska GANDiffFace käyttää sekä GAN- että diffuusiomenetelmiä, sitä verrattiin StyleGANin koulutusdataan – lähimpään “todellisen kasvon” alkuperään, jonka tämä verkko tarjoaa.

Tutkijat suljettiin pois synteettiset tietokannat, jotka käyttävät CGI:ää sen sijaan, että ne käyttäisivät tekoälymenetelmiä, ja tuloksia arvioitaessa he poistivat lasten ja ei-kasvokuvat, joita esiintyy usein kasvotietokannoissa, joissa verkkokalastusjärjestelmät tuottavat virheellisiä positiivisia tuloksia esineille tai artefakteille, joilla on kasvojen kaltaisia ominaisuuksia.

Kosinussimilaarisuus laskettiin kaikille palautetuille pareille ja yhdistettiin histogrammeihin, jotka on esitetty alla:

Histogrammin esitys kosinussimilaarisuusluvuista, laskettuina eri tietokannoissa, yhdessä vastaavien yksityiskohtaisuuksien arvojen kanssa (pystyviivat).

Samankaltaisuuden määrä on edustettu graafin piikkien muodossa. Tutkimus esittää myös esimerkkejä kuudesta tietokannasta ja niiden vastaavista arvioituja kuvia alkuperäisistä (todellisista) tietokannoista, joista osa on esitetty alla:

Esimerkkejä monista tutkimuksessa julkaisuista, joista lukija voi lukea laajemman valikoiman.

Tutkimus toteaa:

‘[Synteettiset] tietokannat sisältävät hyvin samankaltaisia kuvia koulutusdatan generoivista malleista, mikä herättää huolenaiheita tämänkaltaisten identiteettien generoimisesta.’

Tutkijat toteavat, että tällaisen lähestymistavan tapauksessa suuremmassa mittakaavassa toimiminen olisi todennäköisesti epätarkoituksenmukaista, koska tarvittava laskenta olisi erittäin raskasta. He huomauttavat myös, että visuaalinen vertailu oli välttämätöntä jäljennösten tunnistamiseksi, ja että automaattinen kasvojentunnistus yksin ei todennäköisesti riittäisi laajempaan tehtävään.

Tutkimuksen vaikutuksista ja tulevaisuuden näkymistä tutkijat toteavat:

‘[Me] haluamme korostaa, että pääasiallinen motiivi synteettisten tietokantojen luomiseksi on ollut osoittaa yksityisyyden suojeluun liittyvät huolenaiheet laajamittaisissa verkkokalastusaineistoissa.

‘Tämän vuoksi synteettisen tietokannan vuotaminen herättää kriittisiä huolenaiheita synteettisen datan soveltamisesta yksityisyyden kannalta arkaluontoisissa tehtävissä, kuten biometriikassa. Tutkimuksemme valottaa synteettisten kasvojentunnistustietokantojen yksityisyyden vaaroja ja valmistaa tietä vastuullisten synteettisten kasvojentunnistustietokantojen kehittämistä koskeville tulevaisuuden tutkimuksille.’

Vaikka tutkijat lupaavat julkaisemansa koodin projektisivulla, ei ole vielä olemassa linkkiä siihen.

Johtopäätös

Viime aikoina median huomio on keskittynyt siihen, miten tekoälymallit voivat heikentyä ajan myötä.

Uusi Sveitsin tutkimus tuo kuitenkin esiin seikan, joka voi olla yrityksille, jotka haluavat hyödyntää ja hyötyä generatiivisesta tekoälystä, vielä tärkeämpi – tekijänoikeuksien suojattujen tai laittomien datamallien säilyminen, jopa tietokannoissa, jotka on suunniteltu torjumaan tällaista käytäntöä. Jos meidän on annettava sille määritelmä, se voisi olla “kasvojen pesu”.

* Adoben salliessa käyttäjien ladata AI:lla generoituja kuvia Adoben varastoon, on kyseinen data menettänyt laillisen “puhtauden”. Bloomberg väitti huhtikuussa 2024, että käyttäjien toimittamat kuvat MidJourney-tekoälyjärjestelmästä olivat sisällytetty Fireflyn ominaisuuksiin.

^† Tätä mallia ei mainita tutkimuksessa.

Tämä julkaistiin ensimmäisen kerran keskiviikkona 6. marraskuuta 2024