Problém plagiátorství: Jak modely generativního AI reprodukují autorský obsah

Rychlý pokrok v generativním AI vyvolal nadšení pro kreativní potenciál této technologie. Avšak tyto silné modely také představují znepokojivé riziko reprodukce autorského nebo plagiátorského obsahu bez řádného označení.

Jak neuronové sítě absorbují trénovací data

Moderní AI systémy, jako je GPT-3, jsou trénovány prostřednictvím procesu nazývaného přenosové učení. Tyto systémy absorbují obrovské datasets získané z veřejných zdrojů, jako jsou webové stránky, knihy, akademické články a další. Například trénovací data GPT-3 zahrnovala 570 gigabytů textu. Během trénování AI vyhledává vzory a statistické vztahy v tomto obrovském množství dat. Učí se korelacím mezi slovy, větami, odstavci, strukturou jazyka a dalšími funkcemi.

To umožňuje AI generovat nový koherentní text nebo obrázky tím, že předpovídá sekvence, které pravděpodobně následují daný vstup nebo prompt. Avšak to také znamená, že tyto modely absorbují obsah bez ohledu na autorská práva, označení nebo rizika plagiátorství. V důsledku toho mohou generativní AI neúmyslně reprodukovat doslovné pasáže nebo parafrázovat autorský text ze svých trénovacích korpusů.

Klíčové příklady plagiátorství AI

Obavy kolem plagiátorství AI se objevily prominentně od roku 2020 po vydání GPT.

Recentní výzkum ukázal, že velké jazykové modely (LLM) jako GPT-3 mohou reprodukovat podstatné doslovné pasáže ze svých trénovacích dat bez citace (Nasr et al., 2023; Carlini et al., 2022). Například žalobou The New York Times bylo odhaleno, že software OpenAI generuje články The New York Times téměř doslovně (The New York Times, 2023).

Tyto výsledky naznačují, že některé generativní AI systémy mohou produkovat nechtěné plagiátorské výstupy, riskující porušení autorských práv. Avšak prevalence zůstává nejistá kvůli “černé skříňce” povaze LLM. Žaloba The New York Times argumentuje, že takové výstupy představují porušení, které by mohlo mít významné důsledky pro vývoj generativního AI. Celkově důkazy ukazují, že plagiátorství je inherentní problém velkých neuronových sítí, který vyžaduje bdělost a bezpečnostní opatření.

Tyto případy odhalují dva klíčové faktory ovlivňující rizika plagiátorství AI:

1. Velikost modelu – Větsí modely, jako je GPT-3.5, jsou více náchylné k regeneraci doslovných textových pasáží ve srovnání s menšími modely. Jejich větší trénovací datasets zvyšují expozici autorskému zdrojovému materiálu.
2. Trénovací data – Modely trénované na scrappereném internetovém datu nebo autorských dílech (i když jsou licencovány) jsou více pravděpodobné, že budou plagiátovat, ve srovnání s modely trénovanými na pečlivě kurátorovaných datech.

Avšak přímé měření prevalence plagiátorských výstupů je obtížné. “Černá skříňka” povaha neuronových sítí dělá to těžké plně stopovat spojení mezi trénovacími daty a modelovými výstupy. Míry pravděpodobně závisí silně na architektuře modelu, kvalitě datasetu a formulaci promptu. Avšak tyto případy potvrzují, že takové plagiátorství AI jednoznačně dochází, což má kritické právní a etické důsledky.

Emergující systémy detekce plagiátorství

V reakci na to výzkumníci začali zkoumat AI systémy pro automatickou detekci textu a obrázků generovaných modely versus vytvořených lidmi. Například výzkumníci z Mila navrhli GenFace, který analyzuje lingvistické vzory, které jsou indikativní pro AI-psaný text. Startup Anthropic také vyvinul interní schopnosti detekce plagiátorství pro svůj konverzační AI Claude.

Avšak tyto nástroje mají omezení. Ohromné trénovací data modelů, jako je GPT-3, dělají to obtížné identifikovat původní zdroje plagiátorského textu, pokud je to vůbec možné. Více robustních technik bude potřeba, jakmile generativní modely budou dále rychle se vyvíjet. Dokud nebude jinak, manuální kontrola zůstává esenciální pro filtrování potenciálně plagiátorských nebo porušujících AI výstupů před veřejným použitím.

Nejlepší postupy pro minimalizaci plagiátorství generativního AI

Zde jsou některé nejlepší postupy, které mohou vývojáři AI a uživatelé přijmout, aby minimalizovali rizika plagiátorství:

Pro vývojáře AI:

• Péčlivě prověřte zdroje trénovacích dat, aby se vyloučily autorské nebo licencované materiály bez řádných povolení.
• Vyviněte přísné postupy pro dokumentaci a sledování dat. Zaznamenejte metadata, jako jsou licence, značky, tvůrci atd.
• Implementujte nástroje detekce plagiátorství, aby se označily vysoké riziko obsahu před uvolněním.
• Poskytněte transparentní zprávy, které podrobně popisují zdroje trénovacích dat, licence a původ AI výstupů, když se objeví obavy.
• Povolte tvůrcům obsahu, aby se snadno vyloučili z trénovacích datasetů. Rychle vyhovte žádostem o stažení nebo vyloučení.

Pro uživatele generativního AI:

• Podrobně prošetřete výstupy na jakékoli potenciálně plagiátorské nebo neoznačené pasáže před nasazením ve velkém měřítku.
• Vyhněte se považování AI za plně autonomní kreativní systémy. Nechte lidské recenzenty prohlížet konečný obsah.
• Přednostně použijte AI asistovanou lidskou tvorbu před generováním zcela nového obsahu ze scratche. Použijte modely pro parafrázování nebo ideaci místo.
• Konzultujte podmínky poskytovatele AI, zásady obsahu a opatření proti plagiátorství před použitím. Vyhněte se neprůhledným modelům.
• Jasně citujte zdroje, pokud se v konečném výstupu objeví autorský materiál, navzdory nejlepšímu úsilí. Neprezentujte práci AI jako zcela originální.
• Omezte sdílení výstupů soukromě nebo důvěrně, dokud rizika plagiátorství nemohou být dále posouzena a řešena.

Přísnější regulace trénovacích dat mohou být také odůvodněné, jakmile generativní modely budou dále se vyvíjet. To by mohlo zahrnovat vyžadování souhlasu tvůrců předtím, než jejich práce bude přidána do datasetů. Avšak zodpovědnost leží na obou vývojářích a uživatelích, aby používali etické postupy AI, které respektují práva tvůrců obsahu.

Plagiátorství v Midjourney’s V6 Alpha

Po omezeném promptování Midjourney’s V6 model někteří výzkumníci byli schopni generovat téměř identické obrázky autorských filmů, televizních pořadů a screenshotů videoher, které byly pravděpodobně zahrnuty do jeho trénovacích dat.

Images Created by Midjourney Resembling Scenes from Famous Movies and Video Games

Tyto experimenty dále potvrzují, že i nejmodernější vizuální AI systémy mohou neúmyslně plagiátovat chráněný obsah, pokud zdroje trénovacích dat zůstanou nekontrolované. To zdůrazňuje potřebu bdělosti, bezpečnostních opatření a lidského dohledu při nasazení generativních modelů komerčně, aby se omezila rizika porušení.

Reakce AI společností na autorský obsah

Mezi lidmi a AI tvořivostí se rozostřují hranice, což vytváří komplexní otázky autorských práv.

Úřad pro autorská práva USA nedávno odmítl autorská práva pro většinu aspektů AI-lidského grafického románu, označující AI umění za ne-lidské. Také vydal pokyny, které vylučují AI systémy z “autorství”. Federální soudy potvrdily tento postoj v případě autorských práv AI umění.

Zatímco žaloby tvrdí, že generativní AI porušuje autorská práva, jako je Getty v. Stability AI a umělci v. Midjourney/Stability AI. Avšak bez “autorů” AI se někteří ptají, zda nároky na porušení platí.

V reakci na to velké AI firmy, jako jsou Meta, Google, Microsoft a Apple, argumentují, že by neměly potřebovat licence nebo platit poplatky za trénování AI modelů na autorských datech.

Zde je souhrn klíčových argumentů velkých AI společností v reakci na potenciální nové americké autorské předpisy kolem AI, s citacemi:

Meta argumentuje že uvalení licencí nyní by způsobilo chaos a poskytlo by málo výhod držitelům autorských práv.

Google tvrdí že trénování AI je analogické k ne-porušujícím aktům, jako je čtení knihy (Google, 2022).

Microsoft varuje že změna autorských zákonů by mohla znevýhodnit malé AI vývojáře.

Apple chce autorská práva pro AI-generovaný kód, který je řízen lidskými vývojáři.

Celkově většina společností odmítá nové licenční požadavky a bagatelizuje obavy o AI systémech, které reprodukují chráněné díla bez označení. Avšak tento postoj je sporný, pokud jde o nedávné žaloby AI na autorská práva a debaty.

Cesty pro odpovědnou inovaci generativního AI

Jak tyto silné generativní modely budou dále pokročit, je zásadní řešit rizika plagiátorství pro mainstreamový přijetí. Více-úrovňový přístup je vyžadován:

• Reformy politik kolem transparentnosti trénovacích dat, licencí a souhlasu tvůrců.
• Sílnější technologie detekce plagiátorství a vnitřní governance vývojáři.
• Větší povědomí uživatelů o rizicích a dodržování etických principů AI.
• Jasná právní precedenty a soudní rozhodnutí kolem otázek autorských práv AI.

S řádnými bezpečnostními opatřeními může AI-asistovaná tvorba prosperovat eticky. Avšak nekontrolovaná rizika plagiátorství by mohla významně podkopat veřejnou důvěru. Přímé řešení tohoto problému je klíčové pro realizaci enormního kreativního potenciálu generativního AI, zatímco respektuje práva tvůrců. Dosáhnutí správné rovnováhy bude vyžadovat aktivní konfrontaci s plagiátorským slepým místem, které je vloženo do samotné povahy neuronových sítí. Avšak takto učiní, aby tyto silné modely nepodkopaly lidskou originalitu, kterou mají za cíl posílit.