Tekoälykuvien Tekijänoikeussuojan Automatisointi

Kuten keskusteltiin viime viikolla, jopa suosittujen tekoälyjärjestelmien perusmallit voivat tuottaa tekijänoikeusloukkauksia, johtuen riittämättömästä tai väärästä kuraattorista sekä useiden saman kuvan versioiden läsnäolosta koulutusaineistoissa, mikä johtaa ylioppimiseen ja lisää tunnistettavien jäljentämisten todennäköisyyttä.

Vaikka yritykset hallita tekoälytilaa ja kasvava paine hillitä tekijänoikeusloukkauksia, suuret alustat kuten MidJourney ja OpenAI:n DALL-E jatkavat haasteiden kohtaamista tekijänoikeusloukkauksien estämisessä:

Tekoälyjärjestelmien kyky tuottaa tekijänoikeusloukkauksia ilmenee säännöllisesti mediassa.

Kun uusia malleja kehitetään ja kiinalaiset mallit saavat jalansijaa, tekijänoikeusloukkauksien torjunta perusmallissa on raskas tehtävä; tosiasia on, että markkinajohtaja OpenAI ilmoitti viime vuonna, että on ‘mahdotonta’ luoda tehokkaita ja hyödyllisiä malleja ilman tekijänoikeusloukkauksia.

Aikaisempi Tiede

Tekijänoikeusloukkauksien tahattoman tuottamisen suhteen tutkimuskenttä kohtaa samanlaisen haasteen kuin pornon ja muiden NSFW-materiaalien sisällyttäminen lähdeaineistoon: halutaan hyötyä tietämysaineistosta (eli oikean ihmisen anatomia, joka on historiallisesti aina perustunut alastontutkielmiin) ilman kykyä hyväksikäyttää sitä.

Vastaavasti mallinvalmistajat haluavat hyötyä tekijänoikeusloukkauksia sisältävän laajan hyperskaalaisen aineiston eduista, kuten LAION:ia, ilman että malli kehittää kykyä loukata tekijänoikeuksia.

Tekijänoikeusloukkauksien suodattaminen on kuitenkin paljon haasteellisempaa. NSFW-sisältö sisältää usein erityisiä matalatasoisia latenteja piirteitä, jotka mahdollistavat tehokkaan suodattamisen ilman suoraa vertailua todelliseen aineistoon. Sen sijaan latenteja upotukset, jotka määrittävät miljoonia tekijänoikeudellisesti suojattuja teoksia, eivät voi palautua helposti tunnistettaviin merkintöihin, mikä tekee automaattisen havaitsemisen paljon monimutkaisemmaksi.

CopyJudge

Ihmisen arvio on harvinainen ja kallis hyödyke, sekä aineistojen kuraattorina että post-prosessointifilttereiden ja “turvallisuusjärjestelmien” luomisessa, joiden tarkoituksena on varmistaa, että IP-suljettu materiaali ei toimiteta API-pohjaisille portaalien, kuten MidJourneyn ja ChatGPT:n, käyttäjille.

Siksi uusi akateeminen yhteistyö Sveitsin, Sony AI:n ja Kiinan välillä tarjoaa CopyJudge -järjestelmän, joka automatisoi useiden ryhmien välistä yhteistyötä tekevien ChatGPT-pohjaisien “tuomareiden” arviointia, jotka voivat tarkastella syötteitä tekijänoikeusloukkauksien merkkien perusteella.

CopyJudge arvioi erilaisia IP-loukkauksia aiheuttavia tekoälytuotoksia. Lähde: https://arxiv.org/pdf/2502.15278

CopyJudge tarjoaa tehokkaan automaattisen kehyksen, joka hyödyntää suuria visuaalisia kieli- ja mallirakenteita (LVLM) määrittämään olennaisen samankaltaisuuden tekijänoikeudellisesti suojattujen kuvien ja tekoälymallien tuottamien kuvien välillä.

CopyJudge-järjestelmä käyttää vahvistusoppimista optimoidakseen tekijänoikeusloukkauksia aiheuttavia syötteitä ja luomaan uusia syötteitä, jotka ovat vähemmän todennäköisiä aiheuttamaan tekijänoikeusloukkauksia.

Vaikka monet verkkopohjaiset tekoälykuvaluotaimet suodattavat käyttäjien syötteitä NSFW-, tekijänoikeusloukkauksia ja muita kiellettyjä aiheita vastaan, CopyJudge käyttää hienostuneita “loukkauksellisia” syötteitä luomaan “puhdistettuja” syötteitä, jotka ovat vähemmän todennäköisiä aiheuttamaan kiellettyjä kuvia ilman suoran estämisen aikomusta.

Tämä lähestymistapa ei ole uusi, mutta se edistää API-pohjaisia generatiivisia järjestelmiä vapauttamalla ne yksinkertaisesti käyttäjien syötteiden estämisestä (koska se mahdollistaa käyttäjille keinoja kehittää “takaportit” kiellettyjen tuotoksien luomiseksi kokeilemalla).

Yksi äskettäin havaittu haavoittuvuus (joka on nyt korjattu) salli käyttäjien luoda pornografista materiaalia Kling-tekoälyalustalla vain sisällyttämällä kuvaan merkittävä risti tai ristinmuoto.

Kling-kehittäjät korjasivat vuoden 2024 lopulla haavoittuvuuden, joka salli käyttäjien luoda kiellettyjä NSFW-videota vain vaatimalla, että kuvaan sisällytetään risti tai ristinmuoto. Lähde: Discord

Tällaiset tapaukset korostavat syötteiden puhdistamisen tarpeen verkkopohjaisissa generatiivisissa järjestelmissä, koska koneen unohdus, jossa perusmalli muutetaan poistamaan kielletyt käsitteet, voi aiheuttaa epätoivottuja vaikutuksia lopullisen mallin käytettävyyteen.

CopyJudge-järjestelmä jäljittelee ihmisten oikeudellisia arvioita käyttämällä tekoälyä kuvien jakamiseen avainkohtiin, kuten sommitelmaan ja väriin, poistamaan tekijänoikeudettomat osat ja vertailemaan lopputuloksia. Se sisältää myös tekoälypohjaisen menetelmän syötteiden mukauttamiseen ja kuvantuottamisen muuttamiseen tekijänoikeusloukkauksien välttämiseksi luovallisen sisällön säilyttämisessä.

Kokeelliset tulokset osoittavat, kirjoittajien mukaan, CopyJudge-järjestelmän vastaavan nykytilan lähestymistapoja tässä tavoitteessa ja osoittavat järjestelmän olevan ylivoimainen yleistettävyydessä ja tulkittavuudessa verrattuna aiempiin töihin.

Uusi tutkimus on otsikoitu CopyJudge: Automaattinen Tekijänoikeusloukkauksen Tunteminen ja Vähentäminen Tekstistä Kuvaan -Diffuusiomalleissa ja tulee viideltä tutkijalta EPFL:stä, Sony AI:sta ja Kiinan Westlake-yliopistosta.

Menetelmä

Vaikka CopyJudge käyttää GPT:ä luomaan automaattisia tuomioistuimia, kirjoittajat korostavat, että järjestelmä ei ole optimoitu OpenAI:n tuotteelle, ja että mikä tahansa vaihtoehtoinen suuri visuaalinen kieli- ja mallirakenne (LVLM) voidaan käyttää sen sijaan.

Aluksi kirjoittajien abstraktio-suodatus-verrannus-kehyksessä edellytetään, että lähdekuva jaetaan osiin, kuten alla olevan skeeman vasemmalla puolella näkyy:

Käsitteellinen skeema CopyJudge-työn ensimmäiselle vaiheelle.

Alhaalla vasemmalla reunalla nähdään suodatusagentti, joka purkaa kuvan osia yrittääkseen tunnistaa piirteitä, jotka voisivat olla yhteydessä tekijänoikeudellisesti suojattuun teokseen yhdessä, mutta joita itsessään ei voi pitää loukkauksena.

Useita LVLM:ejä käytetään arvioimaan suodatettuja elementtejä – lähestymistapa, joka on osoittautunut tehokkaaksi tutkimuksissa, kuten 2023 CSAIL tarjoaa Parantaa Faktaa ja Päättelyä Kieli- ja Mallirakenteissa Monen Agentin Keskustelun kautta ja ChatEval, sekä monia muita tutkimuksia, jotka mainitaan uudessa tutkimuksessa.

Kirjoittajat toteavat:

‘[Me] otamme käyttöön täysin kytketyn synkronisen viestintäkeskustelun, jossa jokainen LVLM vastaanottaa [vastaukset] muilta LVLM:iltä ennen seuraavan arvion tekemistä. Tämä luo dynaamisen palautekehän, joka vahvistaa analyysin luotettavuutta ja syvyyttä, kun mallit sovittavat arvionsa uusien näkökulmien mukaan, jotka heidän vertaisensa esittävät.

‘Jokainen LVLM voi sovittaa arvionsa muiden LVLM:ien vastauksien perusteella tai pitää sen muuttumattomana.’

Useita ihmisten arvioimia kuvapareja sisällytetään myös prosessiin vähän shot-oppimisen kautta’

Kun “tuomioistuimet” silmukassa ovat saavuttaneet yksimielisen arvosanan, joka on hyväksytty, tulokset siirretään “ylätuomioistuimen” LVLM:lle, joka yhdistää tulokset lopulliseksi arvosanaksi.

Vähentäminen

Seuraavaksi kirjoittajat keskittyivät aiemmin kuvattuun syötteiden vähentämismenettelyyn.

CopyJudge-järjestelmän skeema tekijänoikeusloukkauksien vähentämiseksi syötteiden ja latenteiden melun raffinoimalla. Järjestelmä sovittaa syötteitä iteratiivisesti palautteen perusteella ja käyttää vahvistusoppimista latenteja muuttamaan, vähentäen loukkauksen riskiä.

Kaksi menetelmää syötteiden vähentämiseen olivat LVLM-pohjainen syötteiden hallinta, jossa kehitettiin tehokkaita, loukkauksista vapaata syötteitä GPT-klustereiden yli – lähestymistapa, joka on täysin “musta laatikko”, joka ei vaadi sisäistä pääsyä mallin arkkitehtuuriin; ja vahvistusoppimiseen perustuva (RL-pohjainen) lähestymistapa, jossa palkkio suunniteltiin rangaistamaan tuotoksia, jotka loukkaavat tekijänoikeuksia.

Data ja Testit

CopyJudge-järjestelmän testaamiseksi käytettiin useita tietoaineistoja, mukaan lukien D-Rep, joka sisältää ihmisten arvioimia, oikeita ja väärennettyjä kuvapareja 0-5 arvostelulla.

D-Rep-tietoaineiston tutkiminen Hugging Facessa. Tämä kokoelma parittaa oikeat ja generoitetut kuvat. Lähde: https://huggingface.co/datasets/WenhaoWang/D-Rep/viewer/default/

CopyJudge-järjestelmä käytti D-Rep-kuvia, jotka saivat 4 tai enemmän arvosanana loukkauksiksi, loput pidettiin IP-loukkauksista vapaana. Tietoaineiston 4000 virallista kuvaa käytettiin testikuvina. Lisäksi tutkijat valitsivat ja kuratoivat kuvia 10:lle kuuluisalle piirroselokuva-hahmolle Wikipediasta.

Kolme diffuusiopohjaista arkkitehtuuria, joita käytettiin mahdollisesti loukkaavien kuvien tuottamiseen, olivat Stable Diffusion V2; Kandinsky2-2; ja Stable Diffusion XL. Tutkijat valitsivat manuaalisesti loukkaavan kuvan ja ei-loukkaavan kuvan kustakin mallista, saavuttaen 60 positiivista ja 60 negatiivista näytettä.

Vertailumenetelminä valittiin: L₂ normi; Learned Perceptual Image Patch Similarity (LPIPS); SSCD; RLCP; ja PDF-Emb. Mittareina käytettiin Tarkkuutta ja F1-lukua loukkauksien kriteereinä.

GPT-4o käytettiin CopyJudge-järjestelmän sisäisten keskustelutiimien populoimiseen, käyttäen kolmea agenttia enintään viiden iteroinnin ajan kullekin esitetty kuvalle. Kolme satunnaista kuvaa kustakin D-Rep-luokasta käytettiin ihmisten prioriteetteina agenttien arviointia varten.

Loukkauksen tulokset CopyJudge-järjestelmässä ensimmäisellä kierroksella.

Näistä tuloksista kirjoittajat toteavat:

‘[On] ilmeistä, että perinteiset kuvan kopiointitunnistusmenetelmät osoittavat rajoituksia tekijänoikeusloukkauksien tunnistamistehtävässä. Meidän lähestymistapa ylittää useimmat menetelmät. Verrattuna valtavirtamenetelmään, PDF-Emb, joka on koulutettu 36 000 näytteellä D-Rep-tietoaineistosta, suorituskykymme D-Rep-tietoaineistossa on hieman heikompi.

‘Kuitenkin sen heikko suorituskyky Piirros- ja Taideaineistossa korostaa sen puutteellista yleistettävyyttä, kun taas meidän menetelmämme osoittaa yhtä hyvää tulosta eri aineistoissa.’

Kirjoittajat huomauttavat myös, että CopyJudge tarjoaa “suhteellisen” selkeämmän rajan sallittujen ja loukkaavien tapausten välillä:

Lisätietoja testikierroksista, tämän tutkimuksen liitteessä.

Tutkijat vertasivat menetelmiään Sony AI:n osallistumaan yhteistyöhön vuodelta 2024, joka oli otsikoitu Tunnistaminen, Selittäminen ja Vähentäminen Diffuusiomalleissa. Tämä työ käytti hienostunutta Stable Diffusion -mallia, joka sisälsi 200 muistettua (eli ylioppinutta) kuvaa, jotta se voisi tuottaa tekijänoikeudellisesti suojattua materiaalia johtopäätöksenteon aikana.

Uuden tutkimuksen kirjoittajat totesivat, että heidän omat syötteidensä vähentämismenetelmänsä pystyivät tuottamaan kuvia, jotka olivat vähemmän todennäköisiä aiheuttamaan loukkauksia verrattuna vuoden 2024 lähestymistapaan.

Muistin vähentämisen tulokset CopyJudge-järjestelmässä verrattuna vuoden 2024 työhön.

Kirjoittajat toteavat:

‘[Meidän lähestymistapa] voi tuottaa kuvia, jotka ovat vähemmän todennäköisiä aiheuttamaan loukkauksia samalla, kun säilytetään vertailukelpoinen täsmäävyys. Kuten [alla olevassa kuvassa] näkyy, meidän menetelmämme välttää [aiemman menetelmän] puutteet, kuten muistin vähentämisen epäonnistumisen tai hyvin poikkeavien kuvien tuottamisen.

Vertailu generoituista kuvista ja syötteistä ennen ja jälkeen muistin vähentämisen.

Tutkijat suorittivat lisätutkimuksia loukkauksien vähentämiseksi, tutkien eksplisiittisiä ja implisiittisiä loukkauksia.

Eksplisiittinen loukkaus tapahtuu, kun syötteet viittaavat suoraan tekijänoikeudellisesti suojattuun materiaaliin, kuten ‘Luo kuva Mikki Hiirestä’. Tätä varten tutkijat käyttivät 20 piirros- ja taidekuvaa, joista generoitiin loukkaavia kuvia Stable Diffusion v2:lla, jossa syötteet sisälsivät nimen tai tekijän maininnan.

Vertailu meidän Latent Control (LC) -menetelmästä ja aiemman työn Prompt Control (PC) -menetelmästä, eri muunnelmilla, käyttäen Stable Diffusionia eksplisiittisten loukkauksien luomiseen.

Implisiittinen loukkaus tapahtuu, kun syötteet eivät sisällä eksplisiittisiä tekijänoikeusviittauksia, mutta johtavat silti loukkaavaan kuvaan johtuen tiettyjen kuvailevien elementtien vuoksi – skenaario, joka on erityisen relevantti kaupallisille teksti-kuva-malleille, jotka usein sisältävät sisällön tunnistusjärjestelmiä tunnistamaan ja estämään tekijänoikeuksia koskevia syötteitä.

Tätä tutkimaan tutkijat käyttivät samoja IP-suljettuja näytteitä kuin eksplisiittisessä loukkauksessa, mutta generoivat loukkaavia kuvia ilman suoria tekijänoikeusviittauksia käyttäen DALL-E 3:aa (vaikka tutkimuksessa mainitaan, että mallin sisäänrakennettu turvallisuuden tunnistusmoduli hylkäsi tiettyjä syötteitä, jotka laukaisivat sen suodattimet).

Implisiittinen loukkaus DALL-E 3:lla, loukkauksen ja CLIP-pistemäärien kanssa.

Kirjoittajat toteavat:

‘[On] nähtävissä, että meidän menetelmämme vähentää merkittävästi loukkauksen todennäköisyyttä, sekä eksplisiittisissä että implisiittisissä loukkauksissa, vain vähäisen laskun CLIP-pistemäärässä. Loukkauksen pisteytys pelkästään latenteissa on suhteellisen korkeampi kuin syötteiden hallinnan jälkeen, koska non-infringing latenteja ei voi palauttaa ilman syötteiden muuttamista. Kuitenkin voimme edelleen vähentää loukkauksen pisteytystä säilyttäen korkeamman kuvan ja tekstin vastaavuuden.

‘[Alla oleva kuva] osoittaa visualisointitulokset, joissa voidaan havaita, että vältämme IP-loukkauksia säilyttäen käyttäjien vaatimukset.’

Generoituja kuvia ennen ja jälkeen IP-loukkauksen vähentämisen.

Johtopäätös

Vaikka tutkimus esittää lupaavan lähestymistavan tekijänoikeussuojan parantamiseksi tekoälykuvissa, suurten visuaalisten kieli- ja mallirakenteiden (LVLM) käyttäminen loukkauksien tunnistamiseen voi herättää huolia puolueettomuudesta ja johdonmukaisuudesta, koska tekoälypohjaiset arviot eivät aina vastaa oikeudellisia standardeja.

On mahdollista, että tärkein asia on, että hanke olettaa, että tekijänoikeuksien täytäntöönpano voidaan automatisoida, vaikka todelliset oikeudelliset päätökset usein sisältävät subjektiivisia ja kontekstuaalisia tekijöitä, joita tekoäly voi vaikea tulkita.

Todellisessa maailmassa tekoälytuotoksien ympärillä olevan oikeudellisen konsensuksen automatisointi näyttää todennäköisesti jäävän kiistanalaiseksi aiheeksi pitkälle tulevaisuuteen, ja sen ulottuu paljon laajemmin kuin tässä tutkimuksessa käsitelty alue.

Julkaistu ensimmäisen kerran maanantaina, 24. helmikuuta 2025