Plagiarismproblemet: Hvordan generative AI-modeller reproduserer opphavsrettsliggjort innhold

De raske fremskrittene i generative AI har ført til stor begeistring for teknologiens kreative potensial. Likevel stiller disse kraftfulle modellene også bekymringsverdige risikoer rundt reprodusering av opphavsrettsliggjort eller plagiert innhold uten korrekt kildeangivelse.

Hvordan neurale nettverk absorberer treningsdata

Moderne AI-systemer som GPT-3 er trenet gjennom en prosess kalt overføringslæring. De inntar massive datasamlinger skrapt fra offentlige kilder som nettsider, bøker, akademiske artikler og mer. For eksempel omfatter GPT-3s treningsdata 570 gigabyte tekst. Under treningsprosessen søker AI etter mønster og statistiske sammenhenger i denne store datamengden. Den lærer korrelasjonene mellom ord, setninger, avsnitt, språkstruktur og andre egenskaper.

Dette gjør det mulig for AI å generere nytt sammenhengende tekst eller bilder ved å forutsi sekvenser som sannsynligvis følger en gitt innmatning eller prompt. Men det betyr også at disse modellene absorberer innhold uten å ta hensyn til opphavsrett, kildeangivelse eller plagieringsrisiko. Som følge kan generative AI-modeller uforvarende reprodusere ordrette passasjer eller parafrasere opphavsrettsliggjort tekst fra deres treningskorpus.

Nøkkel eksempler på AI-plagiat

Bekymringer rundt AI-plagiat har vært fremtredende siden 2020 etter GPTs lansering.

Nylig forskning har vist at store språkmodeller (LLM) som GPT-3 kan reprodusere betydelige ordrette passasjer fra deres treningsdata uten kildeangivelse (Nasr et al., 2023; Carlini et al., 2022). For eksempel avdekket en sak fra The New York Times at OpenAI-programvare genererte New York Times-artikler nesten ordrett (The New York Times, 2023).

Disse funnene tyder på at noen generative AI-systemer kan produsere uønsket plagierende utdata, og risikerer å krenke opphavsrett. Likevel er utbredelsen usikker på grunn av den “svarte boks”-natur til LLM. The New York Times-saken hevder at slike utdata utgjør krenkelse, som kan ha betydelige implikasjoner for generativ AI-utvikling. Overordnet sett indikerer bevisene at plagiat er en innebygd problem i store neurale nettverksmodeller som krever varsomhet og sikkerhetstiltak.

Disse sakene avdekker to nøkkel faktorer som påvirker AI-plagiatrisiko:

1. Modellstørrelse – Større modeller som GPT-3.5 er mer utsatt for å regenerere ordrette tekstpassasjer sammenlignet med mindre modeller. Deres større treningsdatasamlinger øker eksponeringen for opphavsrettsliggjort kildeinnhold.
2. Treningsdata – Modeller trenet på skrapt internettdata eller opphavsrettsliggjort verk (selv om de er lisensiert) er mer sannsynlig å plagiere sammenlignet med modeller trenet på omsorgsfullt kurerte datasamlinger.

Likevel er det vanskelig å måle plagierende utdatas utbredelse direkte. Den “svarte boks”-natur til neurale nettverk gjør det vanskelig å fullstendig spore denne sammenhengen mellom treningsdata og modellutdata. Sannsynligvis avhenger rater sterkt av modellarkitektur, datasamlingkvalitet og promptformulering. Men disse sakene bekrefter at slik AI-plagiat uten tvil skjer, og har kritiske juridiske og etiske implikasjoner.

Framvoksende plagiatdeteksjonssystemer

Som respons har forskere begynt å utforske AI-systemer for å automatisk detektere tekst og bilder generert av modeller versus skapt av mennesker. For eksempel foreslo forskere ved Mila GenFace, som analyserer språklige mønster som er karakteristiske for AI-skrevet tekst. Startup-selskapet Anthropic har også utviklet interne plagiatdeteksjonskapasiteter for sin konversasjons-AI Claude.

Likevel har disse verktøyene begrensninger. Den massive treningsdatasamlingen til modeller som GPT-3 gjør det vanskelig å peke ut opphavsrette kilder for plagiert tekst, hvis ikke umulig. Mer robuste teknikker vil være nødvendige når generative modeller fortsetter å utvikle seg raskt. Inntil da er manuell gjennomgang essensiell for å skjerme potensielt plagiert eller krenkende AI-utdata før offentlig bruk.

Beste praksis for å minimere generativ AI-plagiat

Her er noen beste praksis som både AI-utviklere og brukere kan følge for å minimere plagiatrisiko:

For AI-utviklere:

• Gjennomgå nøye treningsdatasamlingene for å ekskludere opphavsrettsliggjort eller lisensiert materiale uten korrekt tillatelse.
• Utvikle strenge datadokumenterings- og provenienssporingsprosedyrer. Registrer metadata som lisenser, tagger, skapere osv.
• Implementer plagiatdeteksjonsverktøy for å markere høyrisiko-innhold før utgivelse.
• Tilby transparensrapporter som detaljerer treningsdatasamlingene, lisensiering og opphav til AI-utdata når bekymringer oppstår.
• Tillat innholdsskapere å melde seg ut av treningsdatasamlinger enkelt. Svar raskt på forespørsler om fjerning eller eksklusjon.

For generativ AI-brukere:

• Gjennomgå nøye utdataene for å finne potensielt plagiert eller ukildevist innhold før du distribuerer på stor skala.
• Unngå å behandle AI som fullstendig autonome kreative systemer. La menneskelige gjennomgåere undersøke sluttkontent.
• Favoris AI-assistert menneskelig skapelse over å generere helt nytt innhold fra scratch. Bruk modeller for parafrasering eller idegenerering i stedet.
• Konsulter AI-leverandørens vilkår for tjenesten, innholdspolitikk og plagiatbeskyttelse før bruk. Unngå uklare modeller.
• Kilde opphavsrettsliggjort materiale tydelig hvis det dukker opp i sluttkontent, til tross for beste anstrengelser. Presentér ikke AI-arbeid som fullstendig originalt.
• Begrens deling av utdata privat eller konfidensielt inntil plagiatrisiko kan vurderes og håndteres ytterligere.

Strengere reguleringer av treningsdata kan også være nødvendig når generative modeller fortsetter å spre seg. Dette kan innebære å kreve samtykke fra skapere før deres arbeid legges til i datasamlinger. Likevel ligger ansvaret hos både utviklere og brukere å bruke etiske AI-praksiser som respekterer innholdsskaperes rettigheter.

Plagiat i Midjourneys V6 Alpha

Etter begrenset prompting Midjourneys V6-modell kunne noen forskere generere nesten identiske bilder til opphavsrettsliggjort filmer, TV-serier og videospillskjermbilder som sannsynligvis var inkludert i treningsdatasamlingen.

Bilder skapt av Midjourney som ligner scener fra kjente filmer og videospill

Disse eksperimentene bekrefter ytterligere at selv state-of-the-art visuelle AI-systemer kan uforvarende plagiere beskyttet innhold hvis kilde til treningsdata ikke kontrolleres. Det understreker behovet for varsomhet, sikkerhetstiltak og menneskelig tilsyn når generative modeller deployeres kommersielt for å begrense krenkelsesrisiko.

AI-selskapers respons på opphavsrettsliggjort innhold

Grensene mellom menneskelig og AI-kreativitet blir stadig mer uklare, og det oppstår komplekse opphavsrettslige spørsmål. Verk som kombinerer menneskelig og AI-innsats kan bare være opphavsrettsliggjort i aspekter som er utført av mennesker alene.

Det amerikanske opphavsrettskontoret har nylig avvist opphavsrett til de fleste aspekter av en AI-menneskelig grafisk roman, og betrakter AI-kunst som ikke-menneskelig. Det har også utgitt retningslinjer som ekskluderer AI-systemer fra “forfatterskap”. Føderale domstoler har bekreftet denne holdningen i en AI-kunstopphavsrettsak.

I mellomtiden hevder saker at generativ AI-krenkelse, som Getty v. Stability AI og kunstnere v. Midjourney/Stability AI. Men uten AI-“forfattere” spør noen om krenkelseskrav gjelder.

Som respons har store AI-selskaper som Meta, Google (GOOGL ), Microsoft (MSFT ) og Apple (AAPL ) argumentert for at de ikke bør trenge lisenser eller betale royalties for å trene AI-modeller på opphavsrettsliggjort data.

Her er en sammenfatning av de viktigste argumentene fra store AI-selskaper i respons til potensielle nye amerikanske opphavsrettsregler rundt AI, med sitater:

Meta argumenterer at å pålegge lisensiering nå ville føre til kaos og gi liten nytte til opphavsrettsinnehavere.

Google hevder at AI-trening er analogt med ikke-krenkende handlinger som å lese en bok (Google, 2022).

Microsoft advarer at å endre opphavsrettloven kunne skade små AI-utviklere.

Apple ønsker å oppnevne opphavsrett til AI-generert kode kontrollert av menneskelige utviklere.

Overordnet sett er de fleste selskaper imot nye lisensieringskrav og nedtoner bekymringer rundt AI-systemer som reproduserer beskyttet verk uten kildeangivelse. Likevel er denne holdningen omstridt gitt nylige AI-opphavsrettslige saker og debatter.

Veier for ansvarlig generativ AI-innovasjon

Ettersom disse kraftfulle generative modellene fortsetter å utvikle seg, er det kritisk å stoppe plagiatrisiko for å oppnå mainstream-aksept. En flerfoldig tilnærming er nødvendig:

• Politisk reform rundt treningsdatatransparens, lisensiering og skaper-samtykke.
• Større plagiatdeteksjonsteknologi og internt styre fra utviklerne.
• Økt brukerbevissthet om risiko og overholdelse av etiske AI-prinsipper.
• Klare rettslige presedenser og sakrett rundt AI-opphavsrettslige spørsmål.

Med riktige sikkerhetstiltak kan AI-assistert skapelse blomstre etisk. Men ukontrollert plagiatrisiko kan undergrave offentlig tillit betydelig. Å håndtere dette problemet direkte er nøkkel til å realisere generativ AI sitt enorme kreative potensial samtidig som man respekterer skaperes rettigheter. Å oppnå riktig balanse vil kreve å aktivt konfrontere plagiat-blindsonen som er bygget inn i neurale nettverks natur. Men å gjøre det vil sikre at disse kraftfulle modellene ikke undergraver den menneskelige kreativitet de søker å støtte.