Huidige AI-praktijken kunnen een nieuwe generatie auteursrechtelijke trollen mogelijk maken

Een nieuwe onderzoeks samenwerking tussen Huawei en academici suggereert dat een groot deel van het meest belangrijke huidige onderzoek in kunstmatige intelligentie en machine learning mogelijk aan rechtszaken blootgesteld kan worden zodra het commercieel prominent wordt, omdat de datasets die doorbraken mogelijk maken, worden verspreid met ongeldige licenties die de oorspronkelijke voorwaarden van de openbare domeinen waaruit de gegevens zijn verkregen, niet respecteren.

In feite heeft dit twee vrijwel onvermijdelijke mogelijke gevolgen: dat zeer succesvolle, gecommercialiseerde AI-algoritmen die bekend staan om het gebruik van dergelijke datasets, in de toekomst het doelwit kunnen worden van opportunistische octrooioctrooien wiens auteursrechten niet werden gerespecteerd toen hun gegevens werden gescraped; en dat organisaties en individuen deze zelfde juridische kwetsbaarheden kunnen gebruiken om te protesteren tegen de inzet of verspreiding van machine learning-technologieën die ze afkeuren.

Het artikel heeft als titel Kan ik deze openbaar beschikbare dataset gebruiken om commerciële AI-software te bouwen? Waarschijnlijk niet en is een samenwerking tussen Huawei Canada en Huawei China, samen met de York University in het VK en de University of Victoria in Canada.

Vijf van de zes (populaire) open source-datasets zijn niet juridisch bruikbaar

Voor het onderzoek vroegen de auteurs afdelingen bij Huawei om de meest gewenste open source-datasets te selecteren die ze wilden gebruiken in commerciële projecten en selecteerden de zes meest gevraagde datasets uit de antwoorden: CIFAR-10 (een subset van de 80 miljoen kleine afbeeldingen dataset, aangezien ingetrokken voor ‘smadelijke termen’ en ‘aanstootgevende afbeeldingen’, hoewel zijn afgeleiden zich vermenigvuldigen); ImageNet; Cityscapes (die uitsluitend origineel materiaal bevat); FFHQ; VGGFace2, en MSCOCO.

Om te analyseren of de geselecteerde datasets geschikt waren voor juridisch gebruik in commerciële projecten, ontwikkelden de auteurs een nieuw pipeline om de keten van licenties zo ver mogelijk te traceren voor elke set, hoewel ze vaak moesten terugvallen op webarchief-captures om licenties van inmiddels verlopen domeinen te lokaliseren, en in sommige gevallen moesten ‘raden’ naar de licentiestatus op basis van de dichtstbijzijnde beschikbare informatie.

Architectuur voor het provenance-tracingsysteem ontwikkeld door de auteurs. Bron: https://arxiv.org/pdf/2111.02374.pdf

De auteurs ontdekten dat de licenties voor vijf van de zes datasets ‘risico’s bevatten die zijn verbonden met ten minste één commercieel gebruikskader’:

‘[We] observeren dat, behalve MS COCO, geen van de bestudeerde licenties praktijkmensen het recht geeft om een AI-model te commercialiseren dat is getraind op de gegevens of zelfs de uitvoer van het getrainde AI-model. Een dergelijk resultaat verhindert praktijkmensen ook effectief om vooraf getrainde modellen te gebruiken die zijn getraind op deze datasets. Openbaar beschikbare datasets en AI-modellen die zijn getraind op deze datasets, worden wijdverspreid commercieel gebruikt.’ *

De auteurs merken verder op dat drie van de zes bestudeerde datasets bovendien kunnen leiden tot licentie-schending in commerciële producten als de dataset wordt gewijzigd, aangezien alleen MS-COCO dit toestaat. Toch is het gebruiken van gegevensverrijking en subsets en supersets van invloedrijke datasets een gebruikelijke praktijk.

In het geval van CIFAR-10 hebben de oorspronkelijke compilers geen conventionele vorm van licentie gemaakt, maar alleen vereist dat projecten die de dataset gebruiken, een citaat naar het oorspronkelijke artikel opnemen dat de release van de dataset begeleidde, waardoor een verdere belemmering ontstaat voor het vaststellen van de juridische status van de gegevens.

Verder bevat alleen de CityScapes-dataset materiaal dat uitsluitend door de makers van de dataset is gegenereerd, in plaats van te zijn ‘gecurateerd’ (gescraped) van netwerkbronnen, met CIFAR-10 en ImageNet die meerdere bronnen gebruiken, die elk moeten worden onderzocht en getraceerd om een soortgelijk auteursrechtmechanisme (of zelfs een zinvolle disclaimer) vast te stellen.

Geen uitweg

Er zijn drie factoren waarop commerciële AI-bedrijven lijken te vertrouwen om zich te beschermen tegen rechtszaken rond producten die zijn gemaakt met auteursrechtelijk beschermd materiaal uit datasets zonder toestemming, om AI-algoritmen te trainen. Geen van deze factoren biedt veel (of enige) betrouwbare langetermijnbescherming:

1: Laissez Faire-nationale wetten
Hoewel overheden over de hele wereld verplicht zijn om wetten rond datascraping te versoepelen om niet achter te blijven in de race naar prestatiegerichte AI (die afhankelijk is van grote hoeveelheden echte wereldgegevens waarvoor reguliere auteursrechtelijke naleving en licenties onrealistisch zouden zijn), biedt alleen de Verenigde Staten volledige immuniteit in dit opzicht, onder de Fair Use Doctrine – een beleid dat in 2015 werd geratificeerd met de conclusie van Authors Guild v. Google, Inc., die bevestigde dat de zoekgigant vrijelijk auteursrechtelijk beschermd materiaal kon opnemen voor zijn Google Books-project zonder van inbreuk te worden beschuldigd.

Als het Fair Use Doctrine-beleid ooit verandert (d.w.z. als reactie op een andere mijlpaalzaak met voldoende krachtige organisaties of bedrijven), zou het waarschijnlijk worden beschouwd als een a priori toestand in termen van het exploiteren van huidige auteursrechtinbreukdatabases, het beschermen van voormalig gebruik; maar niet gaand gebruik en ontwikkeling van systemen die zijn ingeschakeld door auteursrechtelijk beschermd materiaal zonder overeenkomst.

Dit zet de huidige bescherming van de Fair Use Doctrine op een zeer voorlopige basis, en zou mogelijk, in dat scenario, vereisen dat gevestigde, gecommercialiseerde machine learning-algoritmen hun activiteiten moeten stoppen in gevallen waarin hun oorsprong is ingeschakeld door auteursrechtelijk beschermd materiaal – zelfs in gevallen waarin het model gewichten nu uitsluitend met toegestane inhoud omgaat, maar getraind zijn op (en nuttig zijn gemaakt door) illegaal gekopieerd materiaal.

Buiten de VS, zoals de auteurs in het nieuwe artikel opmerken, zijn de beleidsregels over het algemeen minder soepel. Het VK en Canada komen alleen het gebruik van auteursrechtelijk beschermd materiaal voor niet-commerciële doeleinden in aanmerking, terwijl de EU-wet inzake tekst- en datamining (die niet geheel is ingetrokken door de recente voorstellen voor formeel AI-regulering) eveneens commerciële exploitatie uitsluit voor AI-systemen die niet voldoen aan de auteursrechtelijke vereisten van de oorspronkelijke gegevens.

Deze laatste regelingen betekenen dat een organisatie grote dingen kan bereiken met andermans gegevens, tot – maar niet inclusief – het punt waarop er geld wordt verdiend. Op dat punt zou het product ofwel juridisch kwetsbaar worden, ofwel zouden regelingen moeten worden getroffen met letterlijk miljoenen auteursrechthouders, waarvan velen nu onvindbaar zijn vanwege de veranderende aard van het internet – een onmogelijke en onbetaalbare onderneming.

2: Caveat Emptor
In gevallen waarin inbreukmakende organisaties hopen de schuld af te wentelen, merkt het nieuwe artikel ook op dat veel licenties voor de meest populaire open source-datasets zichzelf automatisch vrijwaren tegen enige claims van auteursrechtelijke misbruik:

‘Bijvoorbeeld, vereist de licentie van ImageNet expliciet dat praktijkmensen de ImageNet-team vrijwaren tegen enige claims die voortkomen uit het gebruik van de dataset. De FFHQ-, VGGFace2- en MS COCO-datasets vereisen dat de dataset, als deze wordt verdeeld of gewijzigd, onder dezelfde licentie wordt gepresenteerd.’

Dit dwingt degene die FOSS-datasets gebruikt ertoe de verantwoordelijkheid voor het gebruik van auteursrechtelijk beschermd materiaal op zich te nemen in het geval van eventuele rechtszaken (hoewel het de oorspronkelijke compilers in een zaak waarin het huidige klimaat van ‘veilige haven’ is geschonden, niet noodzakelijkerwijs beschermt).

3: Vrijwaring door onduidelijkheid
De collaboratieve aard van de machine learning-gemeenschap maakt het vrij moeilijk om corporate occultisme te gebruiken om de aanwezigheid van algoritmen te verhullen die hebben geprofiteerd van auteursrechtinbreukdatabases. Lange-termijn commerciële projecten beginnen vaak in open FOSS-omgevingen waar het gebruik van datasets een kwestie van record is, op GitHub en andere openbaar toegankelijke forums, of waar de oorsprong van het project is gepubliceerd in preprint- of peer-reviewed papers.

Zelfs waar dit niet het geval is, is model-inversie steeds meer in staat om de typische kenmerken van datasets (of zelfs uitdrukkelijk uitvoer van enkele van de bronmateriaal) te onthullen, hetzij als bewijs op zich, hetzij voldoende vermoeden van inbreuk om gerechtelijke toegang te krijgen tot de geschiedenis van de ontwikkeling van het algoritme en details van de datasets die bij die ontwikkeling zijn gebruikt.

Conclusie

Het artikel schetst een chaotisch en ad-hoc gebruik van auteursrechtelijk beschermd materiaal dat zonder toestemming is verkregen, en van een reeks licentieketens die, logisch gevolgd tot de oorspronkelijke bron van de gegevens, zouden vereisen dat onderhandelingen worden gevoerd met duizenden auteursrechthouders wiens werk werd gepresenteerd onder de auspiciën van sites met een breed scala aan licentievoorwaarden, waarvan velen afgeleide commerciële werken uitsluiten.

De auteurs concluderen:

‘Openbaar beschikbare datasets worden wijdverspreid gebruikt om commerciële AI-software te bouwen. Men kan dit doen als [en] alleen als de licentie die is geassocieerd met de openbaar beschikbare dataset, het recht geeft om dit te doen. Echter, het is niet gemakkelijk om de rechten en verplichtingen die zijn verleend in de licentie die is geassocieerd met de openbaar beschikbare datasets, te verifiëren. Omdat, soms, de licentie onduidelijk of mogelijk ongeldig is.’

Een ander nieuw werk, getiteld Building Legal Datasets, uitgegeven op 2 november van het Centre for Computational Law van de Singapore Management University, benadrukt ook de noodzaak voor datawetenschappers om te erkennen dat de ‘wilde westen’-periode van ad-hocgegevensverzameling ten einde loopt, en spiegelt de aanbevelingen van het Huawei-rapport om strengere gewoonten en methodologieën te adopteren om ervoor te zorgen dat het gebruik van datasets een project niet blootstelt aan juridische gevolgen naarmate de cultuur verandert en de huidige wereldwijde academische activiteit in de machine learning-sector een commercieel rendement op jaren van investeringen zoekt. De auteur merkt op*:

‘[De] corpus van wetgeving die ML-datasets beïnvloedt, zal groeien, te midden van bezorgdheid dat de huidige wetten onvoldoende bescherming bieden. De ontwerp-AIA [EU Artificial Intelligence Act], als en wanneer aangenomen, zou de AI- en datagovernance-landschap aanzienlijk veranderen; andere rechtsgebieden kunnen hun eigen wetten volgen. ‘

* Mijn conversie van inline-citaten naar hyperlinks