Tohtori Mathilde Pavis, OpenOriginsin juridinen johtaja – Haastattelusarja

Tohtori Mathilde Pavis, OpenOriginsin juridinen johtaja, on johtava asiantuntija tekoälysäätelyssä ja digitaalisen median hallinnassa, erikoistuen syvänvalokuvissa, synteettisessä mediassa ja sisällön alkuperässä. Hän neuvoo yrityksiä, hallituksia ja ammattiyhdistyksiä tekoälyssä noudatettavista säännöistä, lisensioinnista ja riskeistä, ja hän on työskennellyt Microsoftin ja ElevenLabsin kanssa tekoälypolitiikassa ja -strategiassa. Hän on myös neuvonut Unescoa tekoälystä ja immateriaalioikeuksista, ja hän osallistuu säännöllisesti asiantuntijalausuntojen antamiseen Yhdistyneen kuningaskunnan lainsäätäjille.

OpenOrigins kehittää teknologiaa, jolla voidaan torjua virheellistä tietoa ja syvänvalokuvia luomalla vahvistettuja, muuntumattomia digitaalisen sisällön alkuperän todisteita. Sen alusta keskittyy selvän alkuperän luomiseen, jolloin media, luojat ja alustat voivat osoittaa, milloin ja miten sisältöä on luotu, muokattu ja jaettu – ominaisuus, josta on yhä enemmän hyötyä, kun synteettinen media kehittyy ja sen havaitseminen vaikeutuu.

Olet neuvonut hallituksia, kansainvälisiä organisaatioita, kuten Unescoa, ja yrityksiä, kuten Microsoftia ja ElevenLabsia, tekoälysäätelyssä. Mikä johti sinut keskittymään erityisesti syvänvalokuviin, digitaalisiin jäljennöksiin ja synteettiseen mediaan, ja miten tämä matka vaikutti Repliquen perustamiseen?

Työni syvänvalokuvien parissa ei alkanut itse teknologiasta – se alkoi vanhemmasta oikeudellisesta arvoituksesta. Kun aloitin immateriaalioikeuden tutkimisen väitöskirjaani varten vuonna 2013, olin hämmästynyt siitä, kuinka vähän suojaa esittäjille on verrattuna kirjailijiin, säveltäjiin tai elokuvantekijöihin. Käytännössä tämä tarkoittaa, että sanat tai musiikkisi on laissa paremmin suojattu kuin äänesi, kasvosi ja ruumiisi valkokankaalla. Tämä epätasapuolisuus tuntui outolta, ja se sai minut kysymään syvemmän kysymyksen: miten arvostamme kulttuurisesti ja oikeudellisesti henkilön työtä, jonka panos on hänen kasvonsa, äänensä ja ruumiinsa valkokankaalla?

Tämä kysymys johti minut esittäjien oikeuksiin ja tietoihin. Tuolloin se katsottiin niukasti kaupallisesti merkittäväksi alaksi, ja minulle neuvottiin siirtymistä “tuottoisampiin” aloihin, kuten patenteihin tai perinteiseen tekijänoikeuteen. Oletettiin, että henkilön ulkonäköön tai ääneen liittyvät ongelmat hoidettaisiin pääasiassa epävirallisesti – teollisuuden normien tai “gentlemen’s agreements” kautta Hollywoodissa. Mutta minulle tämä virallisen suojelun puute merkitsi aukkoa, ei umpikujaa tutkimukselleni, joten jatkoin sitä.

Mitä on muuttunut, on se, että nykyään melkein jokainen on esittäjä. Elämämme on välitetty kameroiden kautta – puhelimissa, kannettavissa tietokoneissa, videopuheluissa ja sosiaalisissa medioissa. Sekä työssä että henkilökohtaisessa käytössä ihmiset ovat jatkuvasti tallentamassa ja jakamassa versioita itsestään. Oikeudelliset kysymykset, jotka aikaisemmin koskettivat pääasiassa näyttelijöitä tai muusikoita, koskevat nyt kenen tahansa, jolla on älypuhelin.

Syvänvalokuvat eivät luoneet näitä ongelmia – ne paljastivat ja kiihdyttivät niitä. Tutkimukseni, jonka aloitin vuonna 2013, muuttui yhtäkkiä kiireelliseksi. Vuosina 2017 ja 2018 hermosolmukeverkkojen kehitys – erityisesti MIT:stä ja UC Berkeley:stä – osoitti, kuinka vakuuttavasti henkilön kasvoja, ääntä ja ruumista voitiin digitaalisesti muokata. Vuoden kuluessa tämä kyky tuli laajalti tunnetuksi “syvänvalokuvana” ja se sai aluksi jalansijaa erityisesti haitallisissa tavoissa, erityisesti ei-suostuvan seksuaalisen sisällön kautta, joka kohdistui naisiin ja lapsiin.

Vasta myöhemmin ilmestyivät kaupalliset seuraukset, kun luovien alojen yritykset alkoivat omaksua synteettistä mediaa. Silloin sopimukset ja taloudelliset kysymykset, joita olin työskennellyt, tulivat etualalle. Melkein yötä päiväksi se, mitä oli aikaisemmin pidetty lähinnä teoreettisena tai oikeudellisena alana, muuttui hyvin käytännölliseksi, kaupallisesti merkittäväksi ja sosiaalisesti kiireelliseksi alaksi.

Ongelma oikeudellisessa haasteessa ei ole muuttunut: ihmiset haluavat jakaa osia itsestään, mutta säilyttää samalla merkityksellisen valvonnan. Olemassa olevat kehykset kamppailevat tämän hienovaraisuuden kanssa. Ne taipuvat kohtelevan yksilöitä joko täysin yksityisinä tai täysin julkisina – joko suojeltuina tai reiluna pelinä. Mutta useimmat ihmiset ovat jossakin näiden välillä. Tämä jännite on nyt keskeinen ei vain ammattitaiteilijoille, vaan kenelle tahansa, joka osallistuu digitaaliseen elämään.

Tulin tunnetuksi asiantuntijana, joka tutki ja työskenteli tässä alassa, mikä johti minun työhöni hallitusten kanssa, jotka olivat kiinnostuneita suojelemaan ihmisiä syvänvalokuvilta, ja yritysten kanssa, jotka halusivat tehdä digitaalisten klooneja turvalliseksi käytettäväksi, kuten ElevenLabs. Repliquessa tuon kaiken, mitä olen oppinut, ihmisille ja yrityksille, jotka haluavat käyttää digitaalista kloonia tai digitaalista jäljennösteknologiaa vastuullisesti ja turvallisesti. Olen käytännössä muuttanut “taivaallisen” tutkimukseni erikoisneuvontaliiketoiminnaksi, joka tuo asiantuntijaneuvontaa luoville aloille.

OpenOriginsin juridinen johtajana, yrityksessä, joka keskittyy luomaan muuntumattoman digitaalisen sisällön alkuperän todisteen syvänvalokuvien torjumiseksi, miten näet provenienssipohjaiset järjestelmät kilpailevan tai korvaavan perinteiset syvänvalokuvien havaitsemismenetelmät?

Syvänvalokuvien havaitsemistyökalujen vertailu voi nopeasti muuttua omenoiden ja appelsiinien vertailuksi, koska niiden tehokkuus riippuu asiayhteydestä ja tarkoituksesta. Poliittisesta näkökulmasta tarvitsemme joukon täydentäviä työkaluja – ei ole yhtä “parasta” ratkaisua, ja OpenOrigins on osa laajempaa ekosysteemiä. Siinä, missä OpenOriginsin teknologia erottuu syvänvalokuvien havaitsemisratkaisuna, on tilanteissa, joissa sisällön luoja tai tietojärjestö tarvitsee osoittaa sisällön aitoutta, jonka he jakavat kumppaneiden, yleisön tai julkisuuden kanssa.

Tarjoamalla vahvistetun alkuperän ja “kuittaukset” luomishetkellä, se tarjoaa vahvan muodon estämiseksi, osoittamalla, että sisältö ei ole syvänvalokuva. Tämä lähestymistapa on kuitenkin vähemmän hyödyllinen arkisten internetin käyttäjien osalta, jotka haluavat nopeasti arvioida verkossa kohtaamiaan sisältöjä. Nämä tapauksissa havaitseminen perustuu enemmän todennäköisyyteen ja sisällön analyysiin kuin provenienssipohjaiseen vahvistamiseen. Tarvitsemme eri työkaluja eri tarpeisiin, ja meidän on hyväksyttävä, ettei ole hopealuotaa syvänvalokuvia vastaan.

Mistä oikeudellisesta näkökulmasta katsoen on suurin aukko siinä, miten viranomaiset käsittelevät suostumusta ja omistajuutta tekoälyllä luoduissa tai tekoälyllä jäljennetyissä sisällöissä?

Voi, kuinka kauan sinulla on aikaa? Vastaukset riippuvat siitä, mitä tarkoitamme tekoälyllä luoduilla tai jäljennetyillä sisällöillä. Ongelmat vaihtelevat sen mukaan, katselemmeko tekoälyllä luotua kuvaa talosta tai kissasta. Tai digitaalista jäljennöstä henkilön kasvosta tai äänestä. Pyrimme pitämään aiheena syvänvalokuvia ja digitaalista jäljennöstä, ja vastaamaan kysymyksiisi “digitaalisen kloonaamisen” asiayhteydessä.

Suostumuksesta katsoen keskeinen ongelma on, että useimmat sopimukset – olivatpa ne työsopimukset tai alustojen ehdot – sisältävät laajat, epämääräiset pykälät, jotka antavat laajat oikeudet käyttää käyttäjien sisältöä. Nämä voidaan tulkita “takaportin suostumukseksi”, jossa sopimuksen hyväksyminen voidaan tulkita suostumuksesi käyttöön, kuten kloonaamiseen, vaikka useimmat ihmiset kiistäisivät tämän tulkinnan voimakkaasti. Tämä luo merkittävän aukon oikeudellisen tulkinnan ja käyttäjän odotuksen välille, josta yritykset hyötyvät, kun sääntely jää jälkeen.

Omistajuudesta ei ole selkeää oikeudellista vastausta siitä, kuka omistaa digitaalisen kloonin, koska olemassa olevat kehykset, kuten tietosuojelu, tekijänoikeus ja persoonallisuusoikeudet, eivät ole suunniteltu tätä teknologiaa varten. Nykyään useimmat ihmiset skannataan ja kloonataan työpaikalla, työnantajan tai asiakkaan pyynnöstä ja rahoituksella. Ja nämä tahot odottavat yleensä korkeaa tasoa valvontaa tämän omaisuuden yli, mikä on ymmärrettävää, mutta usein ongelmallista, koska tämä omaisuus on digitaalinen jäljennös sinun kasvostasi tai äänestäsi, ja se voi saada sinut sanomaan asioita, joita et ole koskaan sanonut, tai tekemään asioita, joita et ole koskaan tehnyt.

Kysymys “kuka omistaa kloonisi?” on erittäin tärkeä, mutta vastaamaton oikeudessa tänään.

Olet työskennellyt äänikloonausteknologioiden parissa. Mitkä ovat eniten väärin ymmärrettyjä oikeudellisia riskejä synteettisten äänien osalta, sekä yrityksille että yksilöille?

Eniten väärin ymmärretty oikeudellinen ongelma on tasapaino yrityksen kaupallisen edun ja yksilön oikeuden yksityisyyden ja digitaalisen arvon välillä. Tämä jännite on useiden oikeudellisten järjestelmien yli (pääasiassa immateriaalioikeus, tietosuojelu ja yksityisyys), jotka eivät ole suunniteltu toimimaan yhdessä ja tulkkaavat kloonaamista perustavasti eri tavoin. Seuraus on, että niiden kääntäminen toimiviksi, liiketoimintaystävällisiksi käytännöiksi on monimutkaista ja usein epäselvää. Yritykset joko ohittavat tärkeitä riskejä tai käyttävät merkittäviä kustannuksia niiden navigoimiseen oikein. Tämä johtaa käännetyyn lopputulokseen, jossa vastuullinen noudattaminen muuttuu haasteellisemmaksi ja kalliimmaksi polkuksi kuin oletusarvo – ja se, että yritykset valitsevat helpomman, halvemman tien.

Miten yritysten tulisi suunnitella suostumusarkkitehtuuri tekoälyjärjestelmissä, erityisesti silloin, kun on kyse ulkonäöstä, identiteetistä ja koulutusdatasta?

Yritysten tulisi suunnitella järjestelmiään kolmen keskeisen kykyuden ympärillä. Ensinnäkin heidän on varmistettava perustason suostumus käyttöönoton yhteydessä. Toiseksi heidän on tehtävä helpoksi käyttäjille peruuttaa suostumus ja poistaa osa tai kaikki heidän tietonsa, mikä on teknisesti haasteellista ja usein unohdettua, mutta olennaista sääntelyn, kuten Yhdistyneen kuningaskunnan ja EU:n GDPR-lainsäädännön, noudattamiseksi. Suostumuksen ylläpitäminen ajan myötä vaatii järjestelmiä, joissa peruuttaminen on operatiivisesti sileää ja liiketoimintamallin mukaista.

Suostumus on oltava hienojakoinen. Kolmanneksi käyttäjien on oltava mahdollista hallita lupia yksittäisten tiedostojen tasolla, päivittää heidän ulkonäködataansa ja ymmärtää, miten sitä käytetään. Tämä vaatii avoimuutta ja valvontaa – työkaluja, jotka sallivat käyttäjien seurata, tarkastella ja moderoida, miten heidän digitaaliset klooninsa käytetään. Tämä taso joustavuutta on edelleen harvinaista, mutta se on siellä, missä kilpailuetu kasvaa.

Kokemuksesi mukaan, joko startup-yhtiöiden tai hallitusten neuvonantajana, missä on suurin ero siinä, miten tekoälyä kehitetään ja miten sitä säännellään?

Ero siinä, miten tekoälyä kehitetään ja miten sitä säännellään, johtuu perustavasta erosta tehtävissä. Hallitukset sääntelevät julkisen edun mukaisesti, kun taas tekoälyyritykset (usein venture-pääomarahastojen rahoittamia) ovat pääasiassa kasvun, tulon ja voiton pyrkimyksen ohjaamia. Nämä tavoitteet eivät aina ole ristiriidassa, mutta ne usein vetävät eri suuntiin, jolloin sääntely nähdään rajoituksena, ei tukena.

Tämä luo rakenteellisen jännitteen: sääntelijät ja innovaattorit toimivat eri kannustimien, arvojen ja jopa kielten kanssa. Tämä tekee yhdenmukaisuuden haasteelliseksi käytännössä, vaikka se ei ole mahdotonta. Alkaamme nähdä uuden aallon teknologiayrityksiä, jotka ovat yhdenmukaisia julkisen edun tavoitteiden kanssa, mutta ne ovat edelleen poikkeus, etenkin niiden joukossa, jotka onnistuvat skaalautumaan.

OpenOrigins keskittyy vahvistamaan sisältöä luomishetkellä käyttäen kryptografista alkuperää. Kuinka kriittinen on tämä alkuperäinen lähestymistapa verrattuna jälleenjakelun jälkeisiin suojaustoihin?

Tämä liittyy takaisin yllä olevaan vastaukseeni. Sisällön vahvistaminen luomishetkellä, “ylävirtaan”, on paljon tehokkaampaa kuin yrittää vahvistaa sitä jälleenjakelun tai kuluttamisen kohdalla, eli “alavirtaan”. Sisällön vahvistaminen luomishetkellä on kuin seurata ruokaa siitä, kun se kasvatetaan maatilalla, eikä yrittää selvittää sitä, mitä on lopullisessa aterialla. Jos tiedät, mistä kananpoika on peräisin, miten se on käsitelty ja miten se on kulkeutunut toimitusketjussa, voit luottaa siihen, mitä syöt. Jos yrität sen sijaan päätellä kaiken tämän vain katsomalla valmiin aterian, luotat arvaamiseen. Sama koskee eroon tunnistamista ihmisten luomaan ja tekoälyllä luotuun sisältöön verkossa: alkuperä lähde antaa vahvistetun varmuuden, kun taas alavirtaan havaitseminen on luonteeltaan epävarmempi ja reaktiivisempi.

Miten näet C2PA-standardeiden roolin median tulevaisuudessa, ja ovatko ne yksinään riittäviä palauttamaan luottamuksen verkossa?

C2PA on tervetullut aloite, ja monilla tavoin se tukee samaa liikettä sisällön aitouden puolesta kuin OpenOrigins. Ne ovat tärkeä osa sisällön turvallisuuden ja aitouden ekosysteemiä. Kuten koko tietoturva, ei ole hopealuotaa.

Luojille ja kykyjen omistajille aloilla, kuten elokuvissa, musiikissa ja peleissä, mitkä käytännön toimenpiteet heidän tulisi tehdä tänään suojelemalla itsensä laittomalta digitaaliselta jäljentämiseltä?

Taiteilijat kohtaavat tänään kaksi erilaista riskiä: heidän työnsä jäljentämisen (kuten musiikin, kuvien tai kirjoitusten) ja heidän ulkonäönsä jäljentämisen (kasvonsa, äänsä ja ruumiinsa). Vain vähäisen syötteen avulla tekoälyjärjestelmät voivat nyt toistaa molemmat korkealla uskottavuudella. Käytännössä suojelu alkaa siitä, että olet tietoinen siitä, mitä jaetaan verkossa, tunnistaen, että mikä tahansa julkaistu sisältö voidaan skannata ja käyttää koulutusaineistona ilman selvää suostumusta tai näkyvyyttä.

Tämä riski on nyt perusrealiteetti verkossa toimimiselle. Mutta välittömämpi ja hallitumpi riski usein piilee sopimuksissa. Sopimukset, jotka taiteilijat tekevät yhteistyökumppaneidensa, jakelijoidensa tai alustojensa kanssa, saattavat sisältää pykäliä, jotka sallivat tekoälyn käytön, uudelleenjulkaisun tai myynnin koulutustarkoituksiin – usein ilman merkityksellistä osallistumista myyntituloihin. Taiteilijoille tämä tekee sopimuksen tarkastelun kriittiseksi. Ymmärtäminen siitä, miten heidän työtään ja ulkonäköään voidaan käyttää, lisensoida tai uudelleenjulkaista, on nyt yhtä tärkeää kuin luova prosessi itsessään.

Nykyinen keskustelu (ammattiyhdistyksissä, teollisuusjärjestöissä ja alustoilla) keskittyy oikeudenmukaisuuden palauttamiseen luojille ja oikeudenmukaiseen korvaukseen. Joten kaksi tärkeintä neuvontaa: ole varovainen siitä, mitä jaat verkossa, ja lue sopimukset ja etsi tekoälyklausuulit ennen allekirjoittamista.

Katsoen eteenpäin kolmeen viiteen vuoteen, uskotko, että saavutamme pisteessä, jossa jokaisen digitaalisen sisällön on oltava varustettu vahvistettavalla alkuperällä, tai säilyykö luottamus hajaantuneena eri alustoilla ja viranomaisilla?

Toivon, että voisin sanoa kyllä, mutta realistisesti, ei – ei viiden vuoden kuluessa. Teknologiassa viisi vuotta tuntuu pitkältä; käyttäjien käyttäytymisen ja tottumusten muuttamisessa se on hyvin lyhyt. Useimmat kuluttajat eivät todennäköisesti perusta päätöksiään siihen, onko sisältö varustettu todistettavalla alkuperällä. Alustat seuraavat käyttäjien kysyntää, optimoimalla käyttäjäkokemusta alkuperän sijaan.

Tämä voi muuttua, jos sääntely astuu esiin. Olemme jo nähneet ensimmäisiä askelia paikoissa, kuten Kaliforniassa, jossa on kehittynyt merkintä- ja moderaatiovaatimuksia, mutta sen laajentaminen maailmanlaajuisesti vie aikaa – todennäköisemmin lähempänä vuosikymmentä kuin viittä vuotta.

Toinen muutos on toimialakohtainen: alat, kuten journalismi, rahoitus, vakuutus ja terveydenhuolto, saattavat alkaa vaatia alkuperää ja todistamista, koska luottamus on niiden toiminnan perusta.

Viimeksi, kuluttajat eivät ehkä välittävät alkuperätiedosta lyhyellä aikavälillä, mutta he pitävät sisällön laadusta ja tiedon laadusta. Jos tekoälyllä luotu sisältö muuttuu liian homogeeniseksi tai “tylsäksi”, yleisö saattaa alkaa arvostaa enemmän ihmisten luomaa sisältöä. Tämä voi johtaa markkinoiden segmentaatioon, jossa jotkut alustat priorisoivat mittakaavan ja tekoälyllä luodun sisällön, ja toiset kuratoivat aitoutta, alkuperää ja korkean luottamuksen, ihmisten johtamaa materiaalia – mutta tämä siirtymä on edelleen tuntematon.

Kiitos loistavista vastauksistasi, lukijat, jotka haluavat oppia lisää, kannattaa vierailla OpenOrigins-sivustolla.