Lähes 80%:ssa koulutusaineistoista voi olla laillinen vaara yritysten tekoälylle

LG AI Research -yhtiön viimeaikainen tutkimus viittaa siihen, että tekoälymallien koulutukseen käytettävät avoimet aineistot saattavat tarjota väärän turvallisuuden tunteen – havaitsemalla, että lähes neljä viidestä tekoälyaineistosta, jotka on merkitty “kaupallisesti käytettäviksi”, sisältävät piileviä laillisia riskejä.

Näitä riskejä ovat muun muassa sisällytettyjä julkaisemattomia tekijänoikeuksia sisältäviä materiaaleja sekä rajoittavia lisenssiehtoja, jotka ovat piilossa aineiston riippuvuuksissa. Jos tutkimuksen löydökset ovat oikein, yritykset, jotka luottavat julkisiin aineistoihin, saattavat joutua uudelleenarvioimaan nykyiset tekoälyputkensa tai riskiä lailliseen altistumiseen.

Tutkijat ehdottavat radikaalia ja mahdollisesti kiistanalaista ratkaisua: tekoälypohjaisia vaatimustenmukaisuusagenteja, jotka voivat skannata ja tarkastaa aineistojen historiaa nopeammin ja tarkemmin kuin ihmisjuristit.

Tutkimus toteaa:

‘Tämä tutkimus korostaa, että tekoälykoulutusaineistojen laillinen riski ei voida määrittää ainoastaan tarkastelemalla pintatasolla lisenssiehtoja; perusteellinen, loppuun asti analyysi aineiston uudelleenjakaumisesta on välttämätöntä vaatimustenmukaisuuden varmistamiseksi.

‘Koska tällainen analyysi on ihmisten kykyjen ulottumattomissa sen monimutkaisuuden ja laajuuden vuoksi, tekoälyagentit voivat täyttää tämän aukon suorittamalla sen nopeammin ja tarkemmin. Ilman automaatiota kriittiset lailliset riskit ovat pääosin tutkimattomia, vaarantaen eettisen tekoälykehityksen ja sääntelyn.

‘Kehtoomme tekoälytutkimusyhteisöä tunnistamaan loppuun asti laillisen analyysin perustavan vaatimuksena ja omaksumaan tekoälyohjatut lähestymistavat toimivana tienä skaalautuvaan aineistojen vaatimustenmukaisuuteen.’

Tutkijat tarkastelivat 2 852 suosituinta aineistoa, jotka näyttivät kaupallisesti käytettävissä olevilta lisenssiehtojensa perusteella, ja heidän automaattinen järjestelmänsä totesi, että vain 605 (noin 21 %) olivat todella laillisesti turvallisia kaupallistamiseen kerran kaikki niiden komponentit ja riippuvuudet oli jäljitetty

Uusi tutkimus on otsikoitu Älä luota niihin lisensseihin, joita näet — Aineistojen vaatimustenmukaisuus edellyttää massiivista tekoälyohjausta, ja se on peräisin kahdeksalta LG AI Research -tutkijalta.

Oikein ja väärin

Tutkijat korostavat haasteita, joita yritykset kohtaavat edistäessään tekoälykehitystä yhä epävarmemmassa oikeudellisessa maisemassa – kun entinen akateeminen “oikean käytön” asenne aineistojen koulutukseen antaa tilaa hajanaiselle ympäristölle, jossa oikeudelliset suojaukset ovat epäselviä ja turvapaikkaa ei enää voida taata.

Kuten yksi julkaisu huomautti äskettäin, yritykset ovat yhä puolustavampia koulutusdatansa lähteitä kohtaan. Kirjailija Adam Buick kommentoi*:

‘[Vaikka] OpenAI paljasti GPT-3:n pääasialliset datalähteet, GPT-4:ää esittelevä paperi paljasti ainoastaan, että malliin koulutettu data oli sekoitus ’julkisesti saatavilla olevaa dataa (kuten internet-dataa) ja kolmansien osapuolien lisensoimaa dataa’.

‘Motiivit siirtymiselle pois avoimuudesta eivät ole selkeästi ilmaistu mitään erityistä yksityiskohtaa AI-kehittäjien toimesta, jotka useissa tapauksissa eivät ole antaneet mitään selitystä.

‘OpenAI perusteli päätöstään olla julkaisematta tarkempia tietoja GPT-4:stä ”kilpailumaiseman ja suurten mallien turvallisuusvaikutusten” vuoksi, ilman lisäselitystä raportissa.’

Avoinheitto voidaan tulkita epärehelliseksi termeksi – tai yksinkertaisesti virheelliseksi; esimerkiksi Adoben lippulaiva Firefly -generatiivinen malli, joka on koulutettu Adoben omistamalla osakkeella, tarjosi asiakkaille varmistuksen mallin laillisuudesta. Myöhemmin todisteita tuli esiin, että Firefly-aineistot olivat “rikastuneet” mahdollisesti tekijänoikeuksilla suojatuilla aineistoilla muiden alustojen osalta.

Kuten keskustelimme tällä viikolla, on kasvava määrä aloitteita, joiden tavoitteena on varmistaa lisenssien mukaisuus aineistoissa, mukaan lukien yksi, joka poimii ainoastaan YouTube-videota, joilla on joustavat Creative Commons -lisenssit.

Ongelma on, että lisenssit itsessään saattavat olla virheellisiä tai myönnettyjä virheellisesti, kuten uusi tutkimus näyttää osoittavan.

Avointen aineistojen tarkastelu

On haastavaa kehittää arviointijärjestelmää, kuten tutkijoiden Nexus, kun konteksti on jatkuvasti muuttumassa. Siksi tutkimus toteaa, että NEXUS-aineistojen vaatimustenmukaisuusjärjestelmä perustuu “erilaisiin edeltäviin tapauksiin ja oikeudellisiin perusteisiin tässä vaiheessa”.

NEXUS käyttää tekoälyohjausta automaattiseen aineistojen vaatimustenmukaisuuteen. AutoCompliance koostuu kolmesta avainosasta: navigointimoduulista verkkoselailuun; kysymys-vastausmoduulista (QA) tietojen poistamiseen; ja arviointimoduulista oikeudellisen riskin arviointiin.

AutoCompliance alkaa käyttäjän antamasta verkkosivusta. Tekoäly poistaa avainasiat, etsii liittyviä resursseja, tunnistaa lisenssiehdot ja riippuvuudet ja määrittää oikeudellisen riskipisteytyksen. Lähde: https://arxiv.org/pdf/2503.02784

Nämä moduulit ovat voimassa hienosäädettyjen tekoälymallien ansiosta, mukaan lukien EXAONE-3.5-32B-Instruct -malli, joka on koulutettu syntetisillä ja ihmisten merkityillä aineistoilla. AutoCompliance käyttää myös tietokantaa tuloksien välimuistina tehokkuuden parantamiseksi.

AutoCompliance alkaa käyttäjän antamasta aineiston URL-osoitteesta ja käsittelee sitä juurialueena, etsien sen lisenssiehtoja ja riippuvuuksia, ja jäljittää rekursiivisesti linkitettyjä aineistoja rakentaakseen lisenssiriippuvuuskaavion. Kun kaikki yhteydet on kartoitettu, se laskee vaatimustenmukaisuuspisteet ja määrittää riskiluokat.

Tutkimuksessa esitetty aineistojen vaatimustenmukaisuusjärjestelmä tunnistaa erilaisia aineiston elinkaaren osapuolia, mukaan lukien aineistot, jotka muodostavat tekoälykoulutuksen peruslähdemateriaalin; datakäsittelyohjelmistot ja tekoälymallit, jotka käytetään muokkaamaan ja hyödyntämään dataa; ja alustapalveluntarjoajat, jotka mahdollistavat datan käsittelyn.

Järjestelmä arvioi oikeudellisia riskejä kokonaisvaltaisesti huomioimalla nämä erilaiset osapuolet ja niiden riippuvuudet, siirtymällä lisenssien yksinkertaisesta arvioinnista laajempaan ekosysteemiin, joka sisältää tekoälykehitykseen osallistuvat komponentit.

Aineistojen vaatimustenmukaisuus arvioi oikeudellisen riskin koko aineiston elinkaaren ajan. Se määrittää pisteet aineistojen yksityiskohtien ja 14 kriteerin perusteella, luokitellen yksittäisiä osapuolia ja aggregoimalla riskin riippuvuuksien yli.

Koulutus ja mittarit

Tutkijat poimivat 1 000 suosituinta aineistoa Hugging Facen sivuilta ja valitsivat satunnaisesti 216 koetta.

EXAONE-malli hienosääteli tutkijoiden mukautetulla aineistolla, jossa navigointimoduuli ja kysymys-vastausmoduuli käyttivät syntetistä dataa, ja arviointimoduuli käytti ihmisten merkittyjä aineistoja.

Viitearvot luotiin viidellä oikeudellisella asiantuntijalla, jotka olivat koulutettu vähintään 31 tuntia samankaltaisiin tehtäviin. Nämä ihmisten asiantuntijat tunnistivat manuaalisesti riippuvuudet ja lisenssiehdot 216 testitapauksessa, ja aggregoivat ja jalostivat löytönsä keskustelun kautta.

Koulutetun, ihmisten kalibroiman AutoCompliance-järjestelmän testaus ChatGPT-4o ja Perplexity Pro -järjestelmien kanssa osoitti, että paljon enemmän riippuvuuksia löytyi lisenssiehdoista:

Tarkin riippuvuuksien ja lisenssiehtojen tunnistamisen tarkkuus 216 arviointiaineistossa.

Tutkimus toteaa:

‘AutoCompliance suorittaa huomattavasti paremmin kuin muut agentit ja ihmisten asiantuntijat, saavuttaen 81,04 %:n ja 95,83 %:n tarkin tarkkuuden kummassakin tehtävässä. Vertailukohtaisesti sekä ChatGPT-4o että Perplexity Pro osoittavat suhteellisen alhaisen tarkin tarkkuuden Lähde- ja Lisenssitehtävissä.’

‘Nämä tulokset korostavat AutoCompliancen erinomaisen suorituskyvyn ja osoittavat sen tehokkuuden kummassakin tehtävässä, sekä osoittavat merkittävän suorituskyvyn eron tekoälymallien ja ihmisten asiantuntijoiden välillä näissä aloissa.’

Suorituskyvyn osalta AutoCompliance-lähestymistapa kesti ainoastaan 53,1 sekuntia, verrattuna 2 418 sekuntiin vastaavan ihmisten arvioinnin kestolle samassa tehtävässä.

Lisäksi arviointikierros maksoi 0,29 USD, verrattuna 207 USD:aan ihmisten asiantuntijoiden kustannuksiin. On kuitenkin huomattava, että tämä perustuu GCP a2-megagpu-16gpu -solmun vuokraamiseen kuukausittain 14 225 USD:n kuukausihinnalla – osoittaen, että tämänkaltaisen kustannustehokkuuden on lähinnä suurten operaatioiden ominaisuus.

Aineistojen tutkiminen

Analyysiin valittiin 3 612 aineistoa, jotka koostuivat 3 000 suosituinta aineistoa Hugging Facen sivuilta ja 612 aineistosta vuoden 2023 Data Provenance -aloitteesta.

Tutkimus toteaa:

‘Aloittaen 3 612 kohde-entiteetistä, tunnistimme yhteensä 17 429 yksilöllistä entiteettiä, joista 13 817 entiteettiä olivat kohde-entiteettien suoria tai epäsuoria riippuvuuksia.’

‘Empiirisessä analyysissämme pidämme entiteettiä ja sen lisenssiriippuvuuskaaviota yksikerroksisena rakenteena, jos entiteetillä ei ole riippuvuuksia, ja monikerroksisena rakenteena, jos sillä on yksi tai useampi riippuvuus.’

‘3 612 kohde-aineistosta 2 086 (57,8 %) oli monikerroksisia rakenteita, kun taas loput 1 526 (42,2 %) olivat yksinkerroksisia rakenteita ilman riippuvuuksia.’

Tekijänoikeuksilla suojattuja aineistoja voidaan jakaa ainoastaan laillisen valtuutuksen kanssa, joka voi tulla lisenssistä, tekijänoikeuksien poikkeuksista tai sopimusehdoista. Laillisen valtuutuksen puute voi johtaa oikeudellisiin seuraamuksiin, mukaan lukien tekijänoikeusloukkaukset tai sopimusrikkomukset. Siksi selkeä epämukaisuuden tunnistaminen on välttämätöntä.

Jakamisrikkomuksia, jotka havaittiin tutkimuksen mainitsemien kriteerien 4.4. mukaisesti.

Tutkimus osoitti 9 905 tapausta epämukaisista aineistojen jakamisista, jaettuna kahteen luokkaan: 83,5 % oli nimenomaisesti kiellettyjä lisenssiehdoissa, mikä teki jakamisesta selkeän oikeudellisen rikkomuksen; ja 16,5 % liittyi aineistoihin, joilla oli ristiriitaiset lisenssiehdot, joissa jakaminen oli teoriassa sallittua, mutta joissa ei täytetty vaadittuja ehtoja, mikä loi aliriputusvaaran.

Tutkijat myöntävät, että NEXUSissa ehdotetut riskikriteerit eivät ole yleispäteviä ja voivat vaihdella maittain ja tekoälysovelluksittain, ja että tulevaisuuden parannukset tulisi keskittää sopeutumaan muuttuviin kansainvälisiin sääntöihin ja tekoälyohjattuun oikeudelliseen arviointiin.

Johtopäätös

Tämä on monimutkainen ja pääosin epäystävällinen tutkimus, mutta se käsittelee ehkä suurinta hidasteena tekoälyn nykyisessä teollisuuden omaksumisessa – mahdollisuutta, että näennäisesti “avoin” data voidaan myöhemmin vaatia eri tahojen, yksityishenkilöiden ja organisaatioiden toimesta.

DMCA-loukkaukset voivat laillisesti merkitä massiivisia sakkoja kunkin tapauksen perusteella. Missä loukkaukset voivat olla miljoonien dollarien luokkaa, kuten tutkijat havaitsivat, oikeudellinen vastuu on todella merkittävä.

Lisäksi yritykset, joita voidaan osoittaa hyötyneen ylävirran datasta, eivät voi (kuten yleensä) väittää tietämättömyyttä tekosyynä, ainakaan vaikutusvaltaisilla Yhdysvaltain markkinoilla. Heillä ei myöskään ole todellisia työkaluja, joilla he voivat tunkeutua monimutkaisten aineistojen lisenssisopimusten labyrinttiin.

Ongelma NEXUS-järjestelmän kehittämisessä on, että se olisi haastavaa kalibroida jokaisen osavaltion osalta Yhdysvalloissa tai jokaisen valtion osalta EU:ssa; mahdollisuus luoda todella globaali kehys (tekoälyprovenienssin “Interpol”) on heikentynyt ei ainoastaan moninaisten hallitusten ristiriitaisista motiiveista, vaan myös siitä, että nämä hallitukset ja heidän lakinsa ovat jatkuvasti muuttumassa.

* Korvasin alkuperäisen tekstin viittauksilla.
† Kuusi tyyppiä on määritelty tutkimuksessa, mutta viimeiset kaksi eivät ole määriteltyjä.

Julkaistu ensimmäisen kerran perjantaina 7. maaliskuuta 2025