Tohtori Mathilde Pavis, OpenOriginsin lakiasioiden johtaja – Haastattelusarja

Tohtori Mathilde Pavis, OpenOriginsin lakiasioiden johtaja, on johtava asiantuntija tekoälysäätelyssä ja digitaalisen median hallinnassa, erikoistuen syvänvalokuvissa, syntetisissä medioissa ja sisällön alkuperässä. Hän neuvoo yrityksiä, hallituksia ja ammattiyhdistyksiä tekoälyyn liittyvissä asiassa, kuten mukaisuudessa, lisensoinnissa ja riskienhallinnassa, ja on työskennellyt Microsoftin ja ElevenLabsin kanssa tekoälypolitiikassa ja -strategiassa. Hän on myös neuvonut Unescoa tekoälystä ja immateriaalioikeudesta, ja antaa säännöllisesti asiantuntijalausuntoja Yhdistyneen kuningaskunnan lainsäätäjille.

OpenOrigins kehittää teknologiaa, jolla voidaan torjua väärät tiedot ja syvänvalokuvat luomalla todistettavat, väärentämättömät digitaalisen sisällön alkuperätiedot. Sen alusta keskittyy alkuperän määrittämiseen, jolloin medialle, luojille ja alustoille voidaan osoittaa, milloin ja miten sisältöä on luotu, muokattu ja jaettu – ominaisuus, josta on yhä enemmän hyötyä, kun syntetiset mediat kehittyvät ja niiden havaitseminen vaikeutuu.

Olet neuvonut hallituksia, kansainvälisiä organisaatioita, kuten Unescoa, ja yrityksiä, kuten Microsoftia ja ElevenLabsia, tekoälysäätelystä. Mikä johti sinut keskittymään erityisesti syvänvalokuvien, digitaalisten jäljennösten ja syntetisten medioitten pariin, ja miten se vaikutti Repliquen perustamiseen?

Työni syvänvalokuvien parissa ei alkanut itse teknologiasta, vaan paljon vanhemmasta oikeudellisesta arvoituksesta. Kun aloitin immateriaalioikeuden tutkimisen väitöskirjaksi vuonna 2013, olin hämmästynyt siitä, kuinka vähän suojaa esittäjille on verrattuna kirjailijoihin, säveltäjiin tai elokuvantekijöihin. Käytännössä se tarkoittaa, että sanat tai musiikki on laissa paremmin suojattu kuin ääni, kasvo ja keho. Tuo epätasapuolisuus tuntui outolta, ja se sai minut kysymään syvempää kysymystä: miten me arvostamme kulttuurisesti ja oikeudellisesti työtä, jonka avain on kasvo, ääni ja keho valkokankaalla?

Se kysymys vei minut esittäjien oikeuksiin ja tietoihin. Tuolloin se katsottiin marginaaliin kuuluvaksi, jolla ei ollut juurikaan kaupallista merkitystä. Minulle suositeltiin vahvasti siirtymistä “tuottavampiin” aloihin, kuten patenteihin tai perinteiseen tekijänoikeuteen. Oletettiin, että henkilön ulkonäköön tai ääneen liittyvät ongelmat hoidettaisiin pääosin epävirallisesti – teollisuuden normien tai “gentlemen’s agreements” kautta Hollywoodissa. Mutta minulle tuo virallisen suojelun puute merkitsi aukkoa, ei umpikujaa, joten jatkoin tutkimusta.

Mitä on muuttunut, on se, että nykyään melkein jokainen on esittäjä. Elämämme on välitetty kameroiden kautta – puhelimissa, kannettavissa tietokoneissa, videopuhelussa ja sosiaalisissa medioissa. Riippumatta siitä, onko kyse työstä vai henkilökohtaisesta käytöstä, ihmiset tallentavat ja jakavat jatkuvasti versioita itsestään. Oikeudelliset kysymykset, jotka aikaisemmin koskivat lähinnä näyttelijöitä tai muusikoita, koskevat nyt kenen tahansa, jolla on älypuhelin.

Syvänvalokuvat eivät luoneet näitä ongelmia – ne paljastivat ja kiihdyttivät niitä. Tutkimus, jota olin tehnyt vuodesta 2013 alkaen, muuttui yhtäkkiä kiireelliseksi. Vuosina 2017 ja 2018 kehitys neuroverkoissa – erityisesti paikoissa kuten MIT:ssä ja UC Berkeleyssä – osoitti, kuinka vakuuttavasti henkilön kasvo, ääni ja keho voitiin digitaalisesti muokata. Vuoden kuluttua kyseinen ominaisuus tuli laajalti tunnetuksi “syvänvalokuvana” ja se sai aluksi jalansijaa erityisesti haitallisissa tavoissa, erityisesti ei-suostuvissa seksuaalisissa sisällöissä, jotka kohdistuivat naisiin ja lapsiin.

Vasta myöhemmin ilmestyivät kaupalliset seuraukset, kun luovia aloja alkoi omaksua syntetisiä medioita. Silloin sopimusten ja taloudellisten kysymysten, joita olin työskennellyt, tuli etualalle. Melkein yötä päiväkäyttöön se, mikä oli aikaisemmin katsottu lähinnä teoreettiseksi tai opilliseksi oikeuden alueeksi, muuttui erittäin käytännölliseksi, kaupallisesti merkittäväksi ja sosiaalisesti kiireelliseksi alaksi.

Oikeudellinen haaste ei ole muuttunut: ihmiset haluavat jakaa itsestään, mutta haluavat myös säilyttää merkittävän valvonnan. Olemassa olevat kehykset kamppailevat tuon hienovaraisuuden kanssa. Ne taipuvat kohtelevan yksilöitä joko täysin yksityisinä tai täysin julkisina – joko suojeltuina tai reiluna pelinä. Mutta useimmat ihmiset ovat jossakin välissä. Se jännite on nyt keskeinen ei vain ammattimaisille esittäjille, vaan myös kaikille, jotka osallistuvat digitaaliseen elämään.

Tulin tunnetuksi asiantuntijana, joka tutki ja työskenteli tässä alalla, mikä johti minun työhöni hallitusten kanssa, jotka olivat kiinnostuneita suojelemaan ihmisiä syvänvalokuvilta, ja yritysten kanssa, jotka halusivat tehdä digitaalisista klooneista turvallisia käyttää, kuten ElevenLabs. Repliquessa tuon kaiken, mitä olen oppinut, niille ihmisille ja yrityksille, jotka haluavat käyttää digitaalista kloonia tai digitaalista replikointiteknologiaa vastuullisesti ja turvallisesti. Olen käytännössä muuttanut “taivaallisen” tutkimukseni erikoisalanuurtajaksi, joka tuo luoville aloille asiantuntijalaadun oikeudellista neuvontaa.

OpenOriginsin lakiasioiden johtajana, yrityksessä, joka keskittyy luotettavan, väärentämättömän digitaalisen sisällön alkuperän luomiseen syvänvalokuvien torjumiseksi, miten näet alkuperäperusteiset järjestelmät kilpailevan tai korvaavan perinteiset syvänvalokuvien havaitsemismenetelmät?

Syvänvalokuvien havaitsemistyökalujen vertailu voi nopeasti muuttua omenoiden ja appelsiinien vertailuksi, koska niiden tehokkuus riippuu asiayhteydestä ja tarkoituksesta. Poliittisesta näkökulmasta meidän tarvitaan joukko täydentäviä työkaluja – ei yhtä “parasta” ratkaisua, ja OpenOrigins on osa laajempaa ekosysteemiä. Siinä, missä OpenOriginsin teknologia erottuu syvänvalokuvien havaitsemisratkaisuksi, on tilanteissa, joissa sisällön luoja tai tietojärjestö tarvitsee osoittaa sisällön aitoutta, jonka se jakaa kumppaneiden, yleisön tai julkisuuden kanssa.

Tarjoamalla todistettavat alkuperätiedot ja “kuittaukset” luomishetkellä, se tarjoaa vahvan ennaltaehkäisevän muodon, joka osoittaa, ettei sisältö ole syvänvalokuva. Tämä lähestymistapa on kuitenkin vähemmän hyödyllinen arkisten internetin käyttäjien osalta, jotka haluavat nopeasti arvioida verkossa kohtaamiaan sisältöjä. Noissa tapauksissa havaitseminen perustuu enemmän todennäköisyys- ja sisällön analyysimenetelmiin kuin alkuperäperusteiseen vahvistamiseen. Tarvitsemme eri työkaluja eri tarpeisiin, ja meidän on hyväksyttävä, ettei ole hopealuotia syvänvalokuvia vastaan.

Mistä oikeudellisesta näkökulmasta katsoen on suurin aukko siinä, miten viranomaiset käsittelevät suostumusta ja omistajuutta tekoälyllä luoduissa tai tekoälyllä jäljennetyissä sisällöissä?

Oof, kuinka kauan sinulla on aikaa? Vastaukset riippuvat siitä, mitä tarkoitamme tekoälyllä luoduilla tai tekoälyllä jäljennetyillä sisällöillä. Ongelmat vaihtelevat riippuen siitä, katselemmeko tekoälyllä luotua talokuvaa, kissaa tai digitaalista jäljennöstä henkilön kasvosta tai äänestä. Pyrimme pitämään vastauksemme aiheessa ja vastaamaan kysymykseesi “digitaalisen kloonaamisen” asiayhteydessä.

Suostumuksesta katsoen keskeinen ongelma on, että useimmat sopimukset – olivat ne työsopimuksia tai alustojen käyttöehtoja – sisältävät laajoja, epämääräisiä pykäliä, jotka antavat laajat oikeudet käyttäjien sisällölle. Nämä voidaan tulkita “takaportin suostumukseksi”, jossa käyttöehtojen hyväksyminen voidaan tulkita suostumukseksi käyttöön, kuten kloonaamiseen, vaikka useimmat ihmiset kiistäisivät voimakkaasti tämän tulkinnan. Tämä luo merkittävän aukon oikeudellisen tulkinnan ja käyttäjien odotusten välille, josta yritykset hyötyvät, mutta sääntely jää jälkeen.

Omistajuudesta ei ole selvää oikeudellista vastausta siitä, kuka omistaa digitaalisen kloonin, koska olemassa olevat kehykset, kuten tietosuojelu, tekijänoikeus ja henkilökohtaiset oikeudet, eivät ole suunniteltu tätä teknologiaa varten. Nykyään useimmat ihmiset skannataan ja kloonataan työpaikalla työnantajan tai asiakkaan pyynnöstä ja rahoituksella. Nämä tahot odottavat yleensä korkeaa tasoa valvontaa tästä omaisuudesta, mikä on ymmärrettävää, mutta usein ongelmallista, koska se on digitaalinen jäljennös kasvosta tai äänestä ja voi saada sinut sanomaan asioita, joita et ole koskaan sanonut, tai tekemään asioita, joita et ole koskaan tehnyt.

Kysymys “kuka omistaa kloonisi?” on erittäin tärkeä, mutta vastaamaton lainsäädännössä tänään.

Olet työskennellyt läheisesti äänikloonausteknologioiden parissa. Mitkä ovat syvänvalokuvien ja äänikloonausten oikeudelliset riskit, jotka ymmärretään väärin sekä yritysten että yksilöiden osalta?

Oikeudellisen mukautumisen ymmärrettiin väärin oleva tasapaino yrityksen kaupallisen edun ja yksilön oikeuden välillä yksityisyyteen ja digitaaliseen arvoon. Tämä jännite on useiden oikeudellisten järjestelmien yli (pääasiassa immateriaalioikeus, tietosuojelu ja yksityisyys), jotka eivät ole suunniteltu toimimaan yhdessä ja tulkkaavat kloonaamista perustavanlaatuisesti eri tavoin. Seurauksena on, että niiden kääntäminen toimiviksi, liiketoimintaystävällisiksi käytännöiksi on monimutkaista ja usein epäselvää. Yritykset joko ohittavat tärkeitä riskejä tai kokevat merkittäviä kustannuksia niiden asianmukaiseen käsittelyyn. Se johtaa käännöksiin, joissa vastuullinen mukautuminen on vaikeampi ja kalliimpi reitti, eikä oletusarvo.

Miten yritysten tulisi suunnitella suostumusarkkitehtuuri tekoälyjärjestelmissä, erityisesti kun on kyse ulkonäöstä, identiteetistä ja koulutusaineistosta?

Yritysten tulisi suunnitella järjestelmänsä kolmen keskeisen ominaisuuden ympärille. Ensinnäkin heidän on varmistettava perustason suostumus käyttöönotossa. Toiseksi heidän on tehtävä helpoksi käyttäjille peruuttaa suostumus ja poistaa osa tai kaikki heidän tietonsa, mikä on teknisesti haastavaa ja usein laiminlyötyä, mutta välttämätöntä lakien, kuten Yhdistyneen kuningaskunnan ja EU:n GDPR:n, noudattamiseksi ja vastaavien Yhdysvaltain järjestelmien osalta. Suostumuksen ylläpitäminen ajan myötä tarkoittaa järjestelmien rakentamista, joissa peruuttaminen on sujuvaa ja liittyy liiketoimintamalliin.

Suostumus on oltava hienojakoinen. Kolmanneksi käyttäjien on oltava mahdollista hallita lupia yksittäisten tiedostojen tasolla, päivittää heidän ulkonäköään ja ymmärtää, miten sitä käytetään. Siihen tarvitaan avoimuutta ja valvontaa – työkaluja, jotka sallivat käyttäjien seurata, tarkastella ja säätää, miten heidän digitaalisia kloonejaan käytetään. Tämä tasainen joustavuus on edelleen harvinaista, mutta se on siellä, missä kilpailuetu kasvaa.

Missä on suurin yhteensopimattavuus siinä, miten tekoälyä rakennetaan ja miten sitä säännellään, sinun kokemuksesi mukaan, joka kattaa sekä start-upit että hallitukset?

Yhteensopimattavuus siinä, miten tekoälyä rakennetaan ja miten sitä säännellään, johtuu perustavanlaatuisista erilaisista tehtävistä. Hallitukset sääntelevät julkisen edun mukaisesti, kun taas tekoälyyritykset (usein venture-rahoitteisia) ovat pääasiassa kasvun, tuoton ja voiton pyrkimyksessä. Nämä tavoitteet eivät välttämättä ole ristiriidassa, mutta ne usein vetävät eri suuntiin, ja sääntely nähdään rajoituksena, ei tukena.

Tämä luo rakenteellisen jännitteen: sääntelijät ja innovaattorit toimivat eri kannustimien, arvojen ja jopa kielien kanssa. Se tekee yhdenmukaisuuden haasteelliseksi käytännössä, vaikka se ei ole mahdotonta. Alkaa näkyä uusi aalto teknologiayrityksiä, jotka ovat lähempänä julkisen edun tavoitteita, mutta ne ovat edelleen poikkeus, erityisesti niiden joukossa, jotka onnistuvat skaalautumaan.

OpenOrigins keskittyy todistettavaan alkuperään luomalla kryptografisen alkuperän luomishetkellä. Miten kriittinen on tämä alkuperäinen lähestymistapa verrattuna jälkijakelun turvallisuuteen?

Tämä liittyy takaisin vastaukseeni yllä. Sisällön todentaminen luomishetkellä, “ylivirtana”, on paljon tehokkaampaa kuin yrittää todentaa sitä jälkijakelun tai jopa kuluttajan käytön aikana, eli “alivirtana”. Sisällön todentaminen luomishetkellä on kuin seurata ruokaa siitä, kun se kasvatetaan maatilalla, eikä yrittääksesi arvata, mistä se tuli, kun se on jo lautasella. Jos tiedät, mistä kananpoika on peräisin, miten se on käsitelty ja miten se on kulkeutunut toimitusketjussa, voit luottaa siihen, mitä syöt. Jos yrität päätellä kaiken tämän vain katsomalla valmiin aterian, luotat arvailuihin. Sama koskee erottamista ihmisten luomasta ja tekoälyllä luodusta sisällöstä verkossa: alkuperä luomishetkellä antaa todistettavan varmuuden, kun taas jälkijakelun havaitseminen on luonteeltaan epävarmempi ja reaktiivisempi.

Mitä roolia näet C2PA-tyyppisten standardien pelaavan tulevaisuudessa medialle, ja ovatko ne riittäviä itsessään palauttamaan luottamus verkossa?

C2PA on tervetullut aloite, ja monin tavoin se tukee samaa liikettä sisällön aitouden puolesta kuin OpenOrigins. Ne ovat tärkeä osa sisällön turvallisuuden ja aitouden ekosysteemiä. Kuten jokainen kyberTurvallisuustyökalu, ei ole hopealuotia.

Miten luojien ja kykyjen tulisi toimia nykyään, jotta he suojeleisivat itseään laittomilta digitaalisilta jäljennöksiltä aloilla, kuten elokuvissa, musiikissa ja pelaamisessa?

Taiteilijat kohtaavat tänään kaksi erillistä riskiä: heidän työnsä jäljennöksen (kuten musiikin, kuvien tai kirjoitusten) ja heidän ulkonäkönsä jäljennöksen (kasvo, ääni ja keho). Vähäisellä syötöllä tekoälyjärjestelmät voivat toistaa molemmat korkealla uskottavuudella. Käytännössä suojaus alkaa siitä, että olet tietoinen siitä, mitä jaetaan verkossa, ja tunnistat, että mikä tahansa verkossa julkaistu sisältö voidaan skannata ja käyttää koulutusaineistona ilman selvää suostumusta tai näkyvyyttä.

Se riski on nyt perusrealiteetti verkossa toimimiselle. Mutta lähempänä oleva ja hallittavampi riski usein piilee sopimuksissa. Sopimukset, jotka taiteilijat tekevät yhteistyökumppaneidensa, jakelijoidensa tai alustojensa kanssa, saattavat sisältää pykäliä, jotka sallivat tekoälykäytön, uudelleenjulkaisun tai myynnin koulutusmielessä – usein ilman merkittävää osallistumista jälkimmäisiin tuloksiin.

Taiteilijoille tämä tekee sopimusten tarkastelun kriittiseksi. Ymmärtäminen, miten heidän työtään ja ulkonäköään voidaan käyttää, lisensoida tai uudelleenjulkaista, on yhtä tärkeää kuin luomisprosessi itsessään. Suurin osa nykyisestä keskustelusta (ammattiyhdistyksissä, teollisuusjärjestöissä ja alustoilla) pyrkii oikaisemaan tämän epätasapuolisuuden ja varmistamaan, että luojat säilyttävät sekä valvonnan että oikeudenmukaisen korvauksen.

Joten kaksi tärkeää neuvoa: ole varovainen siitä, mitä jaat verkossa, ja lue sopimukset ja etsi tekoälypykäliä ennen allekirjoittamista.

Katsoen eteenpäin kolmeen tai viiden vuoden päähän, uskotko, että saavutamme vaiheen, jossa jokaisen digitaalisen sisällön on oltava varustettu todistettavalla alkuperällä, vai säilyykö luottamus hajaantuneena eri alustoilla ja viranomaisilla?

Haluaisin sanoa kyllä, mutta realistisesti, ei – ei viiden vuoden kuluessa. Teknologiassa viisi vuotta tuntuu pitkältä; käyttäjien käyttäytymisen ja tottumusten muuttamisessa se on hyvin lyhyt. Useimmat kuluttajat eivät todennäköisesti perustaisi päätöksiään siihen, sisältääkö sisältö todistettavaa alkuperää. Alustat seuraavat käyttäjien kysyntää, optimoimalla käyttäjäkokemusta alkuperän sijaan.

Se voi muuttua, jos sääntely astuu esiin. Näemme jo aikaisia liikkeitä paikoissa, kuten Kaliforniassa, jossa on kehittymässä merkintä- ja moderaatiovaatimuksia, mutta niiden laajentaminen maailmanlaajuisesti vie aikaa – todennäköisemmin lähempänä vuosikymmentä kuin viittä vuotta.

Toinen muutosalue on alan mukainen: aloilla, kuten journalismi, rahoitus, vakuutus ja terveydenhuolto, alkuperä ja todentaminen saattavat tulla välttämättömiksi, koska luottamus on niiden toiminnan perusta.

Viimeiseksi, kuluttajat eivät välttämättä välitä alkuperätiedoista lyhyellä aikavälillä, mutta heidän on todennäköisesti arvostettava sisällön laatua ja tietojen laatua. Jos tekoälyluotu sisältö muuttuu liian yhdenmukaiseksi tai “tylsäksi”, yleisö saattaa alkaa arvostaa enemmän ihmisten luomaa sisältöä. Se voi ajaa markkinoiden segmentaatiota, jossa jotkut alustat priorisoivat mittakaavan ja tekoälyluodun sisällön, ja toiset kuratoivat aitoutta, alkuperää ja korkean luottamuksen, ihmisten johtamaa materiaalia – mutta se siirtymä on edelleen tuntematon.

Kiitos erinomaisista vastauksista, lukijat, jotka haluavat oppia lisää, voivat vierailla OpenOrigins-sivustolla.