Syvän väärennyksen epämääräinen määritelmä

Mielenterveyttä vaivaava uusi saksalainen tutkimus arvostelee EU:n tekoälylain määritelmää termeistä “syvän väärennys” liian epämääräiseksi, erityisesti digitaalisten kuvien manipuloinnin yhteydessä. Tutkimuksen tekijät väittävät, että lain painopiste sisällön muistuttaa oikeita ihmisiä tai tapahtumia – mutta mahdollisesti näyttäen epäaidolta – puuttuu selkeät määritelmät.

He korostavat myös, että lain poikkeukset “standardoituneesta editoinnista” (ts. oletusarvoisesti vähäisiin, tekoälyavusteisiin muokkauksiin kuvissa) eivät huomioi sekä tekoälyn laajaa vaikutusta kuluttajasovelluksissa että taiteellisten konventioiden subjektiivista luonnetta, jotka edeltävät tekoälyn kehittymistä.

Epmääräinen lainsäädäntö näissä asioissa aiheuttaa kaksi tärkeää riskiä: “jäähdyttävä vaikutus”, jossa lain laaja tulkintakelpoisuus hillitsee innovaatiota ja uusien järjestelmien omaksumista; ja “lakiin perustuva vaikutus”, jossa lakiin suhtaudutaan ylenpalttiseksi tai merkityksettömäksi.

Molemmissa tapauksissa epämääräiset lait siirtävät vastuun käytännön oikeudellisten määritelmien vahvistamisesta tuleviin oikeuden päätöksiin – varovainen ja riskien välttävä lähestymistapa lainsäädännössä.

Tekoälypohjaiset kuvamanipulaatioteknologiat ovat edelleen merkittävästi lainsäädännön kyvyn mukaisia. Esimerkiksi yksi merkittävimmistä esimerkeistä kasvavan “automaattisen” jälkikäsittelyn käsitteen joustavuudesta, tutkimus huomauttaa, on Samsung-kameroissa oleva “Scene Optimizer” -toiminto, joka voi korvata käyttäjän ottamat kuvaltaan kuun (haasteellinen aihe), tekoälyohjatulla “parannetulla” kuvalla:

Ylänurkassa, uuden tutkimuksen esimerkki todellisesta käyttäjän ottamasta kuvaltaan kuusta, vasemmalla puolella on Samsungin parannettu versio, joka on luotu automaattisesti Scene Optimizerilla; Oikealla on Samsungin virallinen kuva prosessin taustalla; alhaalla vasemmalla on esimerkkejä Reddit-käyttäjältä u/ibreakphotos, jotka näyttävät (vasemmalla) tarkoituksella sumennettua kuvaltaan kuusta ja (oikealla) Samsungin uudelleen luomaa kuvaltaan – vaikka alkuperäinen kuva oli valokuvan valokuvasta, eikä todellisesta kuusta. Lähteet (myötäpäivään ylhäältä vasemmasta): https://arxiv.org/pdf/2412.09961; https://www.samsung.com/uk/support/mobile-devices/how-galaxy-cameras-combine-super-resolution-technologies-with-ai-to-produce-high-quality-images-of-the-moon/; https:/reddit.com/r/Android/comments/11nzrb0/samsung_space_zoom_moon_shots_are_fake_and_here/

Alhaalla vasemmalla nähdään kaksi kuvaltaan kuusta. Vasemmalla oleva kuva on otettu Reddit-käyttäjän toimesta. Tässä kuva on tarkoituksella sumennettu ja pienennetty käyttäjän toimesta.

Oikealla puolella nähdään kuva samasta heikennetystä kuvasta, joka on otettu Samsung-kameralla, jossa on tekoälyohjattu jälkikäsittely käytössä. Kamera on automaattisesti “parantanut” tunnistetun “kuu”-kohteen, vaikka se ei ollut todellinen kuu.

Tutkimus esittää syvempää arvostelua Google -älypuhelinten “Best Take” -ominaisuutta kohtaan – kiistanalainen tekoälyominaisuus, joka editoi ryhmäkuvan “parhaat” osat, skannaten useita sekunteja valokuvauksen jälkeen siten, että hymyt siirretään eteen- tai taaksepäin ajassa tarpeen mukaan – eikä kukaan näytä keskellä räpäyttämässä.

Tutkimus väittää, että tällainen yhdistetty prosessi voi johtaa tapahtumien väärään esittämiseen:

‘[Yleisessä] ryhmäkuvan asetelussa keskivertokäyttäjä luultavasti edelleen pitäisi tulosta aidona. Hymy, joka on lisätty, on olemassa muutaman sekunnin päästä siitä, kun loput kuvasta on otettu.

‘Toisaalta “parhaan otoksen” ominaisuuden kymmenen sekunnin aikajakso on riittävä mielentilan muutokseen. Henkilö voi lopettaa hymyilyn, kun loput ryhmästä nauraa vitseille, jotka on kohdistettu hänen kustannukselleen.

‘Seurauksena oletamme, että tällainen ryhmäkuva voi hyvin olla syvän väärennys.’

Uusi tutkimus on nimeltään Mikä muodostaa syvän väärennyksen? Epmääräinen raja legitimiin käsittelyyn ja manipulointiin EU:n tekoälylaissa, ja se on kahden tutkijan työ Computational Law Labista Tübingenin yliopistosta ja Saarlandin yliopistosta.

Vanhat temput

Ajan manipulointi valokuvauksessa on paljon vanhempi kuin kuluttajatasoinen tekoäly. Uuden tutkimuksen tekijät huomauttavat, että on olemassa paljon vanhempia tekniikoita, joita voidaan väittää “epäaidoiksi”, kuten useiden peräkkäisten kuvien yhdistäminen korkean dynaamisen alueen (HDR) -kuvaan tai ‘ommeltu’ panoraamakuvaksi.

Todella, jotkut vanhimmista ja hauskimmista valokuvaväärennöksistä luotiin perinteisesti koululaisilla juostessaan kouluryhmän toisesta päästä toiseen edellä erityisten panoraamakameroita, jotka käytettiin urheilu- ja kouluryhmävalokuvauksessa – mahdollistaen oppilaan näyttäytyä kahdesti samassa kuvassa:

Kouluvalokuvien panoraamakameroihin temppuaminen oli monille oppilaille liian houkuttelevaa, ja he ottivat riskin huonosta istunnosta rehtorin toimistossa voidakseen “kloonata” itsensä koulukuvissa. Lähde: https://petapixel.com/2012/12/13/double-exposure-a-clever-photo-prank-from-half-a-century-ago/

Ellet otta valokuvaa RAW-muodossa, joka periaatteessa dumppaa kameran linssin anturin hyvin suurelle tiedostolle ilman mitään tulkintaa, on todennäköistä, että digitaaliset valokuvat eivät ole täysin aidoita. Kamerajärjestelmät soveltavat säännöllisesti “parannusalgoritmejä”, kuten kuvan terävöittämistä ja valkotasapainoa, oletusarvoisesti – ja ovat tehneet niin kuluttajatasoisen digitaalisen valokuvauksen alusta alkaen.

Tutkimuksen tekijät väittävät, että nämä vanhemmat digitaalisen valokuvauksen muokkaustekniikat eivät edusta “todellisuutta”, koska nämä menetelmät on suunniteltu tekemään valokuvista miellyttävämmät, ei “aidommat”.

Tutkimus ehdottaa, että EU:n tekoälylaki, myös myöhempien muutosten, kuten johdantojen 123-127, asettaa kaiken valokuvauksen todisteelliseen viitekehykseen, joka ei sovellu siihen asiayhteyteen, jossa valokuvat tuotetaan nykyään, verrattuna (nominatiivisesti objektiiviseen) turvallisuuskameroiden kuvaamiseen tai oikeudelliseen valokuvaukseen. Useimmat EU:n tekoälylaissa käsitellyt kuvat ovat todennäköisemmin peräisin yhteyksistä, joissa valmistajat ja verkkopalvelut aktiivisesti edistävät luovaa valokuvatulkintaa, mukaan lukien tekoälyn käytön.

Tutkijat ehdottavat, että valokuvat “eivät ole koskaan olleet objektiivista todellisuuden kuvausta”. Huomioon otettavia seikkoja, kuten kameran sijainti, valittu syvyysala ja valintavalot, kaikki vaikuttavat siihen, että valokuva on syvästi subjektiivinen.

Tutkimus huomauttaa, että tavalliset “siivous” -tehtävät – kuten anturin pölyjen poistaminen tai ei-toivottujen voimajohtojen poistaminen muuten hyvin koostetusta kohtauksesta – olivat vain puolivirallisia ennen tekoälyn aikakautta: käyttäjien piti manuaalisesti valita alue tai käynnistää prosessi saadakseen haluamansa tuloksen.

Nykyään nämä toiminnot ovat usein käyttäjän tekstipyyntöjen kautta, erityisesti työkaluissa kuten Photoshop. Kuluttajatasolla nämä ominaisuudet ovat yhä enenevissä määrin automaattisia ilman käyttäjän syötettä – tulos, jota valmistajat ja palveluntarjoajat näyttävät pitävän “ilmeiseksi” toivottavaksi.

Syvän väärennyksen epämääräinen määritelmä

Tekoälymuokattujen ja tekoälyluotujen kuvien lainsäädännön ympärillä on keskeinen haaste “syvän väärennyksen” termin epämääräisyys, jonka merkitys on laajentunut merkittävästi viimeisen kahden vuoden aikana.

Alun perin termejä sovellettiin vain video-ulosottoon autoencoder-pohjaisista järjestelmistä, kuten DeepFaceLab ja FaceSwap, jotka perustuivat anonyymien koodien jakamiseen Redditissä vuoden 2017 lopulla.

Vuodesta 2022 alkaen Latent Diffusion Models (LDM) kuten Stable Diffusion ja Flux, sekä teksti-videomuunnosjärjestelmät kuten Sora, mahdollistivat identiteetin vaihtamisen ja mukauttamisen, parannetulla resoluutiolla, joustavuudella ja uskottavuudella. Nyt oli mahdollista luoda diffuusiopohjaisia malleja, jotka voivat esittää julkkiksia ja poliitikkoja. Koska termi “syvän väärennys” oli jo otsikoiden helmi, se laajennettiin kattamaan nämä järjestelmät.

Myöhemmin, sekä mediassa että tutkimuskirjallisuudessa, termiä alettiin käyttää myös tekstipohjaiseen henkilöllisyyden väärinkäyttöön. Tässä vaiheessa alkuperäinen “syvän väärennyksen” merkitys oli jo lähes kadonnut, kun taas sen laajennettu merkitys oli jatkuvasti kehittyvä ja yhä epämääräisempi.

mutta koska sana oli niin tulenarka ja voimakas, ja oli jo voimakas poliittinen ja media-aihe, se osoittautui mahdottomaksi luopua. Se houkutteli lukijoita verkkosivuille, rahoitusta tutkijoille ja huomiota poliitikoille. Tämä sanan epämääräisyys on uuden tutkimuksen pääaihe.

Koska tutkijat huomauttavat, artikla 3(60) EU:n tekoälylaissa määrittelee neljä ehtoa, jotka määrittelevät “syvän väärennyksen”.

1: Tosi kuu

Ensinnäkin, sisällön on luotava tai muokattava, ts. joko luotava alusta alkaen tekoälyllä (luominen) tai muokattava olemassa olevasta aineistosta (muokkaus). Tutkimus korostaa vaikeutta erottaa “hyväksyttävien” kuvamuokkaus tuloksia manipuloivista syvän väärennyksistä, koska digitaaliset valokuvat eivät ole koskaan todellisia todellisuuden edustajia.

Tutkimus väittää, että Samsungin luoma kuu on väittäen aidosti, koska kuu on todennäköisesti muuttumaton, ja koska tekoälyluotu sisältö, joka on koulutettu todellisilla kuukuvilla, on todennäköisesti tarkin.

Kuitenkin tutkijat myös toteavat, että koska Samsung-järjestelmä on osoittanut pystyvänsä luomaan “parannetun” kuvan kuusta tapauksessa, jossa alkuperäinen kuva ei ollut kuu, tämä olisi katsottava “syvän väärennykseksi”.

On epäkäytännöllistä laatia kattava luettelo eroavaisista käyttötavoista tällaisen ad hoc -toiminnallisuuden ympärillä. Sen vuoksi määritelmän taakka näyttää siirtyvän jälleen oikeuden päätöksiin – varovainen ja riskien välttävä lähestymistapa lainsäädännössä.

2: Tekstiväärennökset

Toiseksi, sisällön on oltava muodossa kuva, ääni tai video. Tekstisisältö, vaikka se on altis muiden avoimuuden velvollisuuksille, ei katsota “syvän väärennykseksi” tekoälylaissa. Tätä ei käsitellä yksityiskohtaisesti uudessa tutkimuksessa, mutta se voi vaikuttaa merkittävästi näkyvien syvän väärennyksen tehokkuuteen (ks. alla).

3: Todelliset maailman ongelmat

Kolmanneksi, sisällön on muistuttava olemassa olevia henkilöitä, esineitä, paikkoja, yhteisöjä tai tapahtumia. Tämä ehto luo yhteyden todelliseen maailmaan, tarkoittaen, että täysin keksittyjä kuvia, vaikka ne olisivat fotorealistisia, ei katsota “syvän väärennykseksi”. Johdanto 134 EU:n tekoälylaissa korostaa “muistuttamisen” osuutta lisäämällä sanan “huomattavasti” (ilmeinen viittaus myöhempään oikeudelliseen tulkintaan).

Tutkijat, jotka viittaavat aiempaan tutkimukseen, pohtivat, onko tekoälyluodun kasvon tarpeen kuulua todelliseen henkilöön, vai riittäisikö, että se on riittävän samankaltainen todelliseen henkilöön.

Esimerkiksi, miten voimme määrittää, onko tekoälyluotu kasvo, joka esittää poliitikkoa Donald Trumpia, tarkoitettu henkilöllisyyden varastamiseksi, jos kuva (tai liitetty teksti) ei mainitse häntä nimenomaisesti? Kasvojen tunnistus? Käyttäjän kyselyt? Tuomarin määritelmä “yleisestä järjestä”?

Palatakseni “tekstiväärennöksiin” (ks. yllä), sanat muodostavat usein merkittävän osan näkyvän syvän väärennyksen toimintaa. Esimerkiksi on mahdollista ottaa (muuttamaton) kuva tai video “henkilö a” ja sanoa kuvatekstissä tai sosiaalisessa mediassa, että kuva on “henkilö b” (olettaen, että kaksi henkilöä muistuttaa toisiaan).

Tällaisessa tapauksessa ei tarvita tekoälyä, ja tulos voi olla hämmästyttävän tehokas – mutta katsotaanko tällainen matalatekniikka “syvän väärennykseksi”?

4: Retouche, Remodel

Lopuksi, sisällön on näyttäytyttävä aidolta tai totuudenmukaiselta ihmiselle. Tämä ehto korostaa ihmisen havainnon. Sisältö, jota vain algoritmi tunnistaa edustavan todellista henkilöä tai esinettä, ei katsota “syvän väärennykseksi”.

Kaikista 3(60) ehdosta tämä on selkeästi se, joka jättää eniten tilaa myöhempään oikeudelliseen tulkintaan, koska se ei salli tulkintaa teknisen tai mekanisoitujen välineiden kautta.

On selvästi joitakin sisäänrakennettuja vaikeuksia pääsemiseen yksimielisyyteen tämän subjektiivisen määrityksen kanssa. Tutkijat huomauttavat esimerkiksi, että eri ihmiset ja erilaiset ihmisryhmät (kuten lapset ja aikuiset) voivat olla eri tavoin alttiita uskomaan tiettyyn syvän väärennykseen.

Tutkijat huomauttavat myös, että järjestelmien edistyneet tekoälyominaisuudet, kuten Photoshop, haastavat perinteiset “syvän väärennyksen” määritelmät. Vaikka nämä järjestelmät voivat sisältää perusvarotoimia kiistanalaisia tai kiellettyjä sisältöjä vastaan, ne laajentavat dramaattisesti “retouche” -käsitteen. Käyttäjät voivat nyt lisätä tai poistaa esineitä hyvin vakuuttavalla ja fotorealistisella tavalla, saavuttaen ammattitason uskottavuuden, joka määrittelee uudelleen kuvamanipulaation rajat.

Tutkijat toteavat:

‘Väitämme, että nykyinen määritelmä syvän väärennyksestä tekoälylaissa ja vastaavat velvollisuudet eivät ole riittävän määriteltyjä vastaamaan syvän väärennyksen asettamiin haasteisiin. Analysoimalla digitaalisen valokuvan elinkaarta kameran anturista digitaalisiin muokkausominaisuuksiin, havaitsemme, että:

‘(1.) Syvän väärennökset ovat epämääräisiä EU:n tekoälylaissa. Määritelmä jättää liian paljon tilaa siitä, mitä syvän väärennys on.

‘(2.) On epäselvää, miten Googlen “parhaan otoksen” kaltaiset muokkausominaisuudet voidaan pitää poikkeuksena avoimuuden velvollisuuksista.

‘(3.) Poikkeus merkittävästi muokatusta sisällöstä herättää kysymyksiä siitä, mitä tarkoitetaan merkittävällä sisällön muokkauksella ja onko tällainen muokkaus havaittavissa luonnolliselle henkilölle.’

Poikkeukset

EU:n tekoälylaki sisältää poikkeukset, jotka tutkijoiden mukaan voivat olla hyvin myöntäviä. 50 § 2, he toteavat, tarjoaa poikkeuksen tapauksissa, joissa alkuperäisen lähdekuvan enemmistö ei ole muutettu. Tutkijat huomauttavat:

‘Mitä voidaan pitää sisällönä 50 § 2:ssa digitaalisen äänen, kuvan ja videon tapauksissa? Esimerkiksi kuvissa tarvitseeko meidän tarkastella pikselien tilaa vai ihmisten havaitsemaa näkyvää tilaa? Merkittävät manipulaatiot pikselien tilassa eivät välttämättä vaikuta ihmisten havaintoon, ja toisaalta, pienet häiriöt pikselien tilassa voivat muuttaa havainnon dramaattisesti.’

Tutkijat esittävät esimerkin, jossa lisätään ase kuvaan henkilöstä, joka osoittaa jotakuta. Lisäämällä aseen, muutetaan vain 5 % kuvasta; kuitenkin muutetun osan semanttinen merkitys on merkittävä. Näin ollen näyttää siltä, että tämä poikkeus ei ota huomioon “yleistä järkeä” siitä, miten pieni yksityiskohta voi vaikuttaa kuvan kokonaismerkitykseen.

50 § 2 sallii myös poikkeuksia “avustavalle standardoituneelle editoinnille”. Koska laki ei määrittele, mitä “standardoitunut editointi” tarkoittaa, jopa äärimmäiset jälkikäsittelyominaisuudet, kuten Google Best Take, näyttävät suojellun tämän poikkeuksen nojalla, tutkijat toteavat.

Johtopäätös

Uuden tutkimuksen ilmoitettu tarkoitus on kannustaa monitieteelliseen tutkimukseen syvän väärennyksen sääntelyä koskien ja toimia aloitteena uusille vuoropuheluille tekoälytutkijoiden ja oikeustieteilijöiden välillä.

Kuitenkin tutkimus itse joutuu tautologiaan useissa kohdissa: se käyttää usein termiä “syvän väärennys” kuin sen merkitys olisi itsestään selvä, samalla kun se arvostelee EU:n tekoälylakia siitä, että se ei määrittele, mitä “syvän väärennys” todella on.

Julkaistu ensimmäisen kerran maanantaina, 16. joulukuuta 2024