Umělé inteligentní agenti raději kradou autorská díla než využívají open-source alternativy

Výzkum zjistil, že umělá inteligence často vybírá autorská díla, i když jsou k dispozici volné legální alternativy – a dokonce i explicitní varování nezastaví každé porušení.

Velká pozornost byla věnována akademické obce během posledních dvou let otázkám, zda generativní modely umělé inteligence vytvářejí díla na základě autorských materiálů – scénář, ve kterém autorská díla byla součástí trénovací databáze modelu, což umožňuje modelu buď “vycházet” ze stylu umělce, nebo dokonce reprodukovat autorská díla úplně.

Méně často studovaným je dispozici agentic AI k výběru a využívání autorských děl, zatímco autonomně prochází dostupnými zdroji. To znamená, že pokud řeknete Vision Language Model (VLM), jako je ChatGPT, aby našel pěkný obrázek pro váš web, jaké jsou šance, že upřednostní autorské dílo před open-source dílem s flexibilní licencí?

V tomto příkladu z nové výzkumné práce umělý inteligentní agent selhal při testu dodržování autorských práv, protože upřednostnil krádež známého autorského obrázku pro promptera, místo toho, aby využil snadno dostupný, stejně kvalitní FOSS obrázek. Zdroj

Podle nové výzkumné práce mezi Spojeným královstvím, Spojenými státy a Izraelem jsou šance poměrně vysoké:

Průměrné míry porušování autorských práv pro uzavřené modely AI, open-source modely AI a lidi napříč čtyřmi uživatelskými promptery. Agregované ze tří testovacích scénářů, vyšší sloupečky ukazují horší výkon prostřednictvím vyššího výběru autorských obrázků, zatímco kratší sloupečky ukazují lepší dodržování autorských práv při výběru legálních obrázků. Zdroj: data v zdrojovém dokumentu.

Výzkumníci zjistili, že jak uzavřené, tak open-source modely AI často upřednostňují autorské obrázky, i když jsou k dispozici volné legální alternativy. Bez varování o autorských právech v prompteru často vybrali autorskou možnost.

Zatímco jasné varování o autorských právech výrazně zlepšilo dodržování autorských práv (zejména pro lidi, viz druhá sloupec zprava na obrázku výše), přidání časového tlaku (“spěch” na grafu výše) problém zhoršilo. Open-source modely, které výzkumníci našli, vykazovaly nejhorší výkon mezi kandidáty, když byly instruovány ignorovat licenci (pravý sloupec na obrázku výše):

‘Zjistili jsme, že výkon agentic úkolů není robustně korelován s dodržováním autorských práv. Agenti často upřednostňují výkon úkolů před právním dodržováním. Navíc, úroveň právního dodržování agentů se zdá být velmi křehká a silně ovlivněná uživatelskými instrukcemi.

‘Open-weights modely výrazně zvyšují výběr autorských materiálů v reakci na uživatelské instrukce, aby se zanedbaly právní omezení. Uzavřené modely, mezitím, vykazují vyšší míru dodržování autorských práv v neutrálních instrukcích a jsou méně náchylné k uživatelským instrukcím, aby se zanedbaly právní omezení.’

Navzdory jasnosti zjištění, která testovala 11 modelů dostupných kolem prosince 2025, včetně variant ChatGPT a Google Gemini, v současné době neexistuje žádný jasný řešení problému, kromě toho, že uzavřené modely by mohly potenciálně zvýšit a rozšířit své ochranné mechanismy v tomto směru.

Nová práce nového dokumentu se nazývá Agentic Evaluation of Copyright Law Compliance a pochází od tří výzkumníků z University of Cambridge, Fordham University a Hebrew University of Jerusalem.

Metoda

Přehled rámce hodnocení Copyright-Bench, ve kterém byli agenti AI testováni na třech komerčních úkolech výběru obrázků pomocí vizuálně shodných veřejných a autorských obrázků, které mohly být rozlišeny pouze prostřednictvím vložených metadat autorských práv. Čtyři varianty prompteru testovaly účinky varování o autorských právech, časového tlaku a instrukcí, aby se zanedbaly. Záznamy o porušování autorských práv a úspěchu úkolů byly zaznamenány. Studie lidských účastníků byly provedeny pro srovnání.

Svobodná vůle

Aby se určilo, zda agenti AI skutečně preferují autorská díla, výzkumníci nejprve odstranili nejčastější vysvětlení: že agenti jednoduše neměli legální možnost.

Takže každý úkol v benchmarku byl navržen tak, aby alespoň jeden volně použitelný obrázek mohl úspěšně dokončit úkol. To znamenalo, že výběr autorského obrázku nebyl nikdy nutný k dokončení úkolu.

Pokud agent vybral autorské dílo, bylo to proto, že selhal při identifikaci legální alternativy nebo se rozhodl ji nevyužít, spíše než proto, že benchmark ho donutil k porušení autorských práv.

Datová sada

Výzkumníci sestavili benchmark kolekci Copyright-Bench z datové sady 200 high-resolution obrázků, skládající se z 100 veřejných fotografií z U.S. National Park Service a 100 autorských obrázků licencovaných z DepositPhotos.

Autorské/FOSS obrázky byly spárovány (tj. aby se zajistilo, že jsou stejně “dobré”) pomocí CLIP-ViT-L/14 semantických vložených reprezentací a LAION-Aesthetics V2 kvalitních skórů předtím, než byly manuálně ověřeny, aby se zajistilo, že každá dvojice je vizuálně ekvivalentní. Informace o autorských právech byly poté vloženy pouze do metadat obrázků (místo viditelných vodítek, například), což donutilo agenti AI kontrolovat licenční detaily místo spoléhání se na vizuální vzhled.

Autoři uvádějí:

‘Abychom snížili vizuální kvalitu jako rušivou proměnnou, použili jsme poloautomatizovaný výběrový proces k vytvoření párů aktiv, které jsou semanticky a esteticky ekvivalentní.

‘Naším cílem bylo zajistit, aby aktiva nebyla preferována na základě pixelových dat samotných.’

Tři realistické komerční workflow byly navrženy pro Copyright-Bench, všechny zahrnující scénáře, ve kterých se autorská práva běžně vyskytují: v prvním, Web, agenti vytvořili komerční web pomocí výběru “hero” obrázku pro úvodní stránku; ve druhém, Merch, agent vybral umělecká díla pro tištěné zboží, jako jsou trička a čepice; a ve třetím, Pitch Deck, agent sestavil “investorskou prezentaci” výběrem podpůrných obrázků pro firemní prezentaci.

Každý úkol měřil, zda agenti budou vybírat legálně použitelné obrázky, i když autorské alternativy vypadaly stejně vhodné.

Každá spárovaná dvojice obrázků byla manuálně přezkoumána, aby se odstranily falešné pozitivy, s autorskými obrázky zkontrolovanými, aby se zajistilo, že na nich nezůstaly žádné viditelné vodítka nebo loga agentur. Navíc každá dvojice byla ověřena jako blízká shodě v rozlišení, osvětlení a kompozici. Tímto způsobem nemohla autorská práva být odvozena z vizuální kvality samotné.

Really Meta

Protože veřejné a autorské obrázky byly úmyslně shodné ve vizuální podobě a zbaveny zjevných vodítek, jako jsou vodítka, autorská práva nemohla být určena z vzhledu samotného. Místo toho musel agent AI prohlédnout metadata obrázků, kde byla uložena informace o autorských právech v EXIF/IPTC hlavičce.

Benchmark spoléhal na metadata “Copyright Notice”, aby rozlišil mezi legálními a omezenými obrázky, s autorskými fotografiemi označenými ‘ 2025 Deposit Photo’ a veřejnými díly označenými ‘U.S. government work product; public domain’. Jakékoli agenti, kteří selhali při kontrole tohoto metadata, nemohli spolehlivě rozlišit mezi nimi.

Prompt Attention

Benchmark byl také navržen tak, aby měřil, jak různé formy uživatelských instrukcí ovlivňují dodržování autorských práv, s každým úkolem prezentovaným za čtyřech samostatných podmínek prompteru: neutrální prompt neuvedl autorská práva; IP-aware prompt výslovně připomněl agentovi, aby respektoval autorská práva; spěchající prompt zavedl časový tlak; a IP-dismissive prompt kombinoval naléhavost s instrukcemi, jako je ‘Nezajímají mě licence’, aby otestovali, zda agenti budou zanedbávat právní zábrany, když budou aktivně povzbuzováni uživatelem, aby tak učinili.

Dvě metriky používané k hodnocení výkonu byly Violation Rate (VR), měřící, jak často agent vybral alespoň jeden autorský obrázek, i když byla k dispozici legální alternativa; a Task Success Rate (TSR), měřící, jak často byl přidělený úkol dokončen úspěšně pomocí platných akcí, správně formátovaných výstupů a obrázků, které zůstaly relevantní pro uživatelskou žádost.

Lidský dotek

Lidská referenční skupina byla také přidělena stejné úkoly, obrázky a podmínky prompteru. Účastníci, kteří neobdrželi žádné právní školení, byli požádáni, aby stručně vysvětlili své výběry, což umožnilo přímé srovnání lidského a agentního dodržování autorských práv.

Modely a testy

Uzavřené modely vybrané pro testy, všechny dostupné kolem prosince 2025, byly GPT-5.2; GPT-5.1; GPT-4o; Claude 4.5 Opus; Claude 4.5 Sonnet; Gemini 3 Pro; a Gemini 3 Flash.

Otevřené modely vybrané pro testy byly Llama-4-Maverick-400B; Llama-4-Scout-109B; Qwen-3VL-235B; a DeepSeek-VL.

Aby se zajistilo, že každý model bude testován za identických podmínek, všechny experimenty byly spuštěny pomocí frameworku AutoGen od Microsoftu. Každý model byl spárován s UserProxyAgentem, který prováděl úkoly, a AssistantAgentem, který generoval rozhodnutí, zatímco přístup byl poskytnut k šesti nástrojům MCP uvedeným v tabulce níže:

Souhrn nástrojů Model Context Protocol (MCP) dostupných pro agenti AI během hodnocení, včetně funkcí pro navigaci v souborech, inspekci obrázků, načtení metadat a finální odeslání aktiv.

Čtyři konfigurace prostředí byly testovány, aby se určilo, zda organizace souborů a dostupné informace ovlivňují dodržování autorských práv: Std, se všemi obrázky uloženými v jediné složce; Hier, s obrázky oddělenými do označených adresářů; Vis, s autorskými metadata odstraněnými, aby se rozhodnutí opírala o vizuální obsah; a Web, který přidával nástroj pro vyhledávání na webu do standardního prostředí.

Pro konzistenci byla teplota uvažování nastavena na 0,1 a každá kombinace úkolu, varianty prompteru a prostředí byla spuštěna 240krát. Otevřené modely byly spuštěny s vLLM napříč čtyřmi NVIDIA Blackwell B200 GPU, každý s 180GB HBM3e paměti:

Výsledky z hlavní evaluace Copyright-Bench, ukazující průměrné míry porušování autorských práv pro lidi, uzavřené modely a otevřené modely napříč třemi rodinami úkolů. PNeu označuje neutrální žádost; PIP, explicitní připomínku autorských práv; PUrg, žádost pod tlakem; a PDis, instrukci, aby se zanedbaly licence. Každý procentní podíl reprezentuje podíl 240 běhů, ve kterých model vybral alespoň jeden omezený obrázek, přestože byla k dispozici vhodná veřejná alternativa, s nižšími skóre ukazujícími lepší dodržování autorských práv. Výsledky pocházejí z agenta procházejícího standardní plochou složku.

Z těchto výsledků autoři uvádějí:

‘[Agenti] téměř vždy úspěšně dokončují základní úkol (TSR > 98% napříč všemi úkoly), izolující VR jako klíčovou míru právního dodržování.’

Napříč všemi třemi rodinami úkolů modely vykazovaly podobné výsledky: pod neutrálními promptery Claude 4.5 Opus vybral alespoň jeden autorský obrázek ve 38,3% úkolů WebDev, zatímco otevřené modely překročily 45%. Míry porušování autorských práv se příliš nezměnily mezi navrhováním webových stránek, tvorbou zboží a generováním prezentací.

Claude 4.5 Opus zaznamenal nejnižší celkovou míru porušování autorských práv mezi uzavřenémi modely na 27,6%, následovaný Gemini 3 Pro a Claude 4.5 Sonnet na 28,7%.

GPT-4o zaznamenal 36,2%, zatímco Llama-4-Maverick dosáhl nejnižší míry porušování autorských práv mezi otevřenými modely, na 41,0%.

Slovník prompteru také ovlivnil výkon, s připomínkami autorských práv snižujícími míry porušování autorských práv napříč všemi modely, a instrukcemi, aby se zanedbaly licence, zvyšujícími míry porušování autorských práv pro otevřené modely:

‘Pozorujeme behaviorální rozdělení mezi uzavřeným a otevřeným modelem pod instrukcí Dismissive/Negligent (PDis), kde uživatel výslovně instruuje agenta, aby zanedbal licenci.

‘Pro každý uzavřený model, který jsme studovali, míra porušování autorských práv se snížila v nastavení Dismissive IP ve srovnání s neutrálním nastavením. Otevřené modely vykazují opačný trend: Llama-4-Maverickova míra porušování autorských práv se zvyšuje z 45,0% (PNeu) na 52,1% (PDis).’

Aby se pochopilo, proč byla autorská díla vybrána, 100 selhání zahrnujících GPT-5.2, Claude 4.5 Opus a Qwen-3VL byla ručně přezkoumána a tři opakující se režimy selhání identifikovány: selhání při prohlížení metadat autorských práv; selhání uvažování, včetně kontextuálního nároku, kde obrázky poskytnuté v projektové složce byly považovány za již licencované, a kontextové okno únavy, kde dříve identifikovaná autorská díla byla zapomenuta; a uživatelské instrukce byly upřednostněny před dodržováním autorských práv, zejména pod spěchajícími a zanedbávajícími promptery:

Konečně, srovnání bylo provedeno mezi agenty AI a lidskou referenční skupinou, aby jim byly přiděleny stejné úkoly výběru obrázků pod stejnými podmínkami prompteru. Pod neutrálními promptery autorské obrázky byly vybrány lidmi ve stejných mírách jako modely AI.

Když byly poskytnuty explicitní připomínky autorských práv, porušování autorských práv bylo téměř eliminováno napříč všemi třemi úkoly. Zlepšení bylo také pozorováno u modelů AI, ale omezené obrázky byly vybrány mnohem častěji.

Pod spěchajícími promptery lidské dodržování autorských práv se zhoršilo ostře, ačkoli ještě vyšší míry porušování autorských práv byly zaznamenány u otevřených modelů – a obecně, mnohem silnější reakce na explicitní instrukce autorských práv byla prokázána lidmi než systémy AI.

Závěr

Ačkoli článek neřeší možnost, zdá se rozumné předpokládat, že společnosti provozující místní AI a neočekávající náhlé audity od místních orgánů, pravděpodobně implementují nejlevnější řešení, které jim poskytne maximum dodržování autorských práv.

Tento scénář je nejvíce v souladu s “errant” otevřenými modely studovanými v nové práci, spíše než uzavřené modely, jako je ChatGPT a Gemini; zejména proto, že žádný model, který měl všechny prostředky nutné k dodržování autorských práv, nezaznamenal skóre blízko 100%.

Pokud žádný dostupný platforma AI nemůže zabránit právnímu porušování, mnoho firem by mohlo dospět k závěru, že by se měly vybavit nejlepším a nejvíce dodržujícím modely, které mohou spustit, a postarat se o právní dodržování autorských práv sami.

Pro zřejmé důvody se zdá nepravděpodobné, že přední platformy AI, jako jsou Anthropic a OpenAI, budou nabízet “legálně dodržující” agenty bez caveat emptor. Proto, pokud právní dodržování autorských práv je produktem, který hraniční modely nenabízejí a nikdy nenabídnou, jejich ochranné mechanismy jsou jasně implementovány pouze pro jejich vlastní ochranu, a ne pro uživatele platformy.

Všechno toto je argumentem proti komoditizované AI a pro běh místních modelů – zejména s perspektivou spuštění instance otevřeného modelu jako Kimi na holém vzdáleném GPU a i jemné ladění podle specifických potřeb vaší společnosti.

Poprvé publikováno úterý, 28. července 2026