Téměř 80% trénovacích dat může být právním rizikem pro firemní AI

Nová studie od LG AI Research naznačuje, že údajně „otevřené“ datové sady používané pro trénování modelů AI mohou nabízet falešný pocit bezpečí – zjistilo se, že téměř čtyři z pěti datových sad AI označených jako „komerčně využitelné“ vlastně obsahují skrytá právní rizika.

Taková rizika sahají od zahrnutí neohlášeného autorsky chráněného materiálu až po restriktivní licenční podmínky ukryté hluboko v závislostech datové sady. Pokud jsou zjištění této studie přesná, společnosti, které se spoléhají na veřejné datové sady, mohou muset přehodnotit své současné AI potrubí, nebo riskovat právní expozici.

Výzkumníci navrhují radikální a potenciálně kontroverzní řešení: AI založené agenty pro compliance, které mohou skenovat a audovat historii datové sady rychleji a přesněji než lidský právníci.

Studie uvádí:

‘Tato studie zastává názor, že právní riziko trénovacích dat AI nelze určit pouze přezkoumáním povrchových licenčních podmínek; je zapotřebí důkladná, komplexní analýza redistribuce datové sady pro zajištění souladu.’

‘Taková analýza je pro lidi obtížná kvůli své složitosti a rozsahu, AI agenty mohou tuto mezeru překlenout prováděním analýzy s větší rychlostí a přesností. Bez automatizace zůstávají kritická právní rizika většinou neprozkoumána, ohrožují etický vývoj AI a soulad s předpisy.’

‘Vybízíme výzkumnou komunitu AI, aby uznala komplexní právní analýzu jako základní požadavek a aby přijala AI poháněné přístupy jako životaschopnou cestu ke škálovatelné souladu datové sady.’

Při zkoumání 2 852 populárních datových sad, které se zdály komerčně využitelné na základě svých individuálních licencí, automatizovaný systém výzkumníků zjistil, že pouze 605 (přibližně 21 %) byly skutečně právně bezpečné pro komercializaci, jakmile byly všechny jejich komponenty a závislosti stopovány.

Nová studie nese název Nespoléhejte se na licence, které vidíte – soulad datové sady vyžaduje masivní AI poháněnou stopu životního cyklu a pochází od osmi výzkumníků z LG AI Research.

Práva a nesprávnosti

Autoři zdůrazňují výzvy, kterým čelí společnosti, které prosazují vývoj AI v stále nejistějším právním prostředí – jak bývalý akademický „spravedlivý přístup“ k trénování datových sad ustupuje do rozděleného prostředí, kde jsou právní ochrany nejasné a bezpečný přístav již není zaručen.

Jako jeden publikace nedávno uvedl, že společnosti se stávají stále více defenzivními vůči zdrojům svých trénovacích dat. Autor Adam Buick komentuje*:

‘[Zatímco] OpenAI zveřejnil hlavní zdroje dat pro GPT-3, článek, který představil GPT-4 odhalil, pouze to, že data, na kterých byl model trénován, byla směsí ‘veřejně dostupných dat (jako internetová data) a dat licencovaných od třetích stran’.

‘Motivace za tímto krokem pryč od transparentnosti nebyly vysvětleny ve větším detailu vývojáři AI, kteří ve mnoha případech neuvedli žádné vysvětlení.

‘OpenAI ospravedlnil své rozhodnutí nezveřejňovat další podrobnosti týkající se GPT-4 na základě obav týkajících se ‘konkurenčního prostředí a bezpečnostních dopadů velkých modelů’, bez dalšího vysvětlení v rámci zprávy.’

Transparentnost může být pokryteckým termínem – nebo prostě chybným; například Adobeho vlajkový Firefly generativní model, trénovaný na akciových datech, ke kterým Adobe měl práva, údajně nabídl zákazníkům ujištění o zákonnosti jejich použití systému. Později se objevily důkazy, že Firefly datová sada se stala „bohatší“ potenciálně autorsky chráněnými daty z jiných platforem.

Jako jsme diskutovali dříve tento týden, existují rostoucí iniciativy navržené k zajištění souladu licencí v datech, včetně jedné, která bude pouze scrapovat YouTube videa s flexibilními Creative Commons licencemi.

Problém spočívá v tom, že samotné licence mohou být chybné nebo uděleny chybně, jak naznačuje nová studie.

Prohlížení otevřených datových sad

Je obtížné vyvinout evaluační systém, jako je systém autorů, NEXUS, když kontext neustále mění. Proto studie uvádí, že systém NEXUS Data Compliance je založen na „různých precedencích a právních základech v tomto okamžiku“.

NEXUS využívá AI poháněného agenta nazvaného AutoCompliance pro automatizovanou soulad datové sady. AutoCompliance se skládá ze tří klíčových modulů: navigačního modulu pro prohlížení webu; modulu pro odpovědi na otázky (QA) pro extrakci informací; a modulu pro hodnocení pro právní riziko.

AutoCompliance začíná s webovou stránkou poskytnutou uživatelem. AI extrahuje klíčové podrobnosti, hledá související zdroje, identifikuje licenční podmínky a závislosti a přiřazuje právní riziko skóre. Zdroj: https://arxiv.org/pdf/2503.02784

Tyto moduly jsou poháněny jemně vyškolenými AI modely, včetně modelu EXAONE-3.5-32B-Instruct, trénovaného na syntetických a lidsky označených datech. AutoCompliance také využívá databázi pro ukládání výsledků do mezipaměti, aby zvýšil efektivitu.

AutoCompliance začíná s URL datové sady poskytnutou uživatelem a považuje ji za kořenovou entitu, hledá její licenční podmínky a závislosti a rekurzivně stopuje propojené datové sady, aby vytvořil graf závislostí licencí. Jakmile jsou všechny spojení mapovány, vypočítává skóre souladu a přiřazuje klasifikace rizika.

Rámec souladu datové sady popsán v nové práci identifikuje různé^† typy entit zapojených do životního cyklu dat, včetně datových sad, které tvoří jádro vstupu pro trénování AI; softwaru pro zpracování dat a modelů AI, které se používají k transformaci a využití dat; a poskytovatelů platformových služeb, kteří usnadňují zpracování dat.

Systém komplexně hodnotí právní rizika, přičemž zohledňuje tyto různé entity a jejich vzájemné závislosti, a jde za rámec rutinního hodnocení licencí datových sad, aby zahrnoval širší ekosystém komponent zapojených do vývoje AI.

Soulad datové sady hodnotí právní riziko napříč celým životním cyklem dat. Přiřazuje skóre na základě podrobností datové sady a 14 kritérií, klasifikuje jednotlivé entity a agreguje riziko napříč závislostmi.

Trénování a metriky

Autoři extrahovali URL top 1 000 nejvíce stažených datových sad na Hugging Face, náhodně vybrali 216 položek, aby tvořily testovací sadu.

Model EXAONE byl jemně vyškolen na vlastních datech autorů, s navigačním modulem a modulem pro odpovědi na otázky (QA) využívajícím syntetická data, a modulem pro hodnocení využívajícím lidsky označená data.

Referenční štítky byly vytvořeny pěti právními odborníky, kteří byli trénováni nejméně 31 hodin v podobných úkolech. Tyto lidské odborníky ručně identifikovali závislosti a licenční podmínky pro 216 testovacích případů, poté agregovali a rafinovali svá zjištění prostřednictvím diskuse.

S trénovaným, lidsky kalibrovaným systémem AutoCompliance testovaným proti ChatGPT-4o a Perplexity Pro, bylo zjištěno podstatně více závislostí v licenčních podmínkách:

Přesnost při identifikaci závislostí a licenčních podmínek pro 216 evaluačních datových sad.

Studie uvádí:

‘AutoCompliance výrazně překonává všechny ostatní agenty a lidské odborníky, dosahující přesnosti 81,04 % a 95,83 % v každém úkolu. Naopak, ChatGPT-4o a Perplexity Pro ukazují relativně nízkou přesnost pro úkoly Zdroj a Licence, resp.

‘Tyto výsledky zdůrazňují výjimečnou výkonnost AutoCompliance, demonstrují jeho účinnost při zvládání obou úkolů s pozoruhodnou přesností, a současně naznačují podstatnou mezeru ve výkonu mezi AI založenými modely a lidskými odborníky v těchto oblastech.’

Z hlediska efektivnosti trval přístup AutoCompliance pouze 53,1 sekund, v porovnání s 2 418 sekundami pro ekvivalentní lidskou evaluaci stejných úkolů.

Dále, náklady na evaluaci činily 0,29 USD, ve srovnání s 207 USD za lidské odborníky. Je třeba poznamenat, že se jedná o náklady založené na pronájmu uzlu GCP a2-megagpu-16gpu měsíčně za sazbu 14 225 USD za měsíc – což naznačuje, že tato druh nákladové efektivity je spojena především s velkými operacemi.

Šetření datové sady

Pro analýzu výzkumníci vybrali 3 612 datových sad kombinujících 3 000 nejvíce stažených datových sad z Hugging Face s 612 datovými sadami z iniciativy Data Provenance z roku 2023.

Studie uvádí:

‘Od 3 612 cílových entit jsme identifikovali celkem 17 429 unikátních entit, z nichž 13 817 entit se objevilo jako přímé nebo nepřímé závislosti cílových entit.

‘Pro naši empirickou analýzu považujeme entitu a její graf závislosti licencí za jednovrstevnou strukturu, pokud entita nemá žádné závislosti, a vícevrstevnou strukturu, pokud má jednu nebo více závislostí.

‘Z 3 612 cílových datových sad mělo 2 086 (57,8 %) vícevrstevné struktury, zatímco zbývajících 1 526 (42,2 %) mělo jednovrstevné struktury bez závislostí.’

Autorsky chráněné datové sady lze redistribuovat pouze s legální autoritou, která může pocházet z licence, výjimek autorského zákona nebo smluvních podmínek. Neoprávněná redistribuce může vést k právním důsledkům, včetně porušení autorských práv nebo porušení smluv. Proto je jasná identifikace nesouladu zásadní.

Porušení distribuce nalezená podle kritéria 4.4. souladu datové sady.

Studie zjistila 9 905 případů nesouladné redistribuce datové sady, rozdělených do dvou kategorií: 83,5 % bylo výslovně zakázáno podle licenčních podmínek, což činí redistribuci jasným právním porušením; a 16,5 % zahrnovalo datové sady s rozporuplnými licenčními podmínkami, kde redistribuce byla teoreticky povolena, ale nesplňovala požadované podmínky, vytvářející právně rizikové důsledky.

Autoři přiznávají, že rizika kritérií navržená v NEXUS nejsou univerzální a mohou se lišit podle jurisdikce a aplikace AI, a že budoucí zlepšení by se měla soustředit na přizpůsobení se měnícím se globálním předpisům a rafinování AI poháněné právní revize.

Závěr

Tato studie je rozsáhlá a převážně nepřátelská, ale řeší možná největší brzdu současné průmyslové adopce AI – možnost, že zdánlivě „otevřená“ data budou později nárokována různými entitami, jednotlivci a organizacemi.

Podle DMCA mohou porušení právních předpisů znamenat masivní pokuty na případ od případu. Tam, kde porušení mohou činit miliony, jako v případech objevených výzkumníky, potenciální právní odpovědnost je skutečně významná.

<p Navíc, společnosti, které mohou být prokázány jako ty, které bénéficovaly z dat pocházejících z výše, nemohou (jako obvykle) uplatnit nevědomost jako omluvu, alespoň na vlivném americkém trhu. Nemají ani žádné realistické nástroje, pomocí kterých by mohly proniknout do složitých důsledků ukrytých v licenčních dohodách údajně otevřených datových sad.

Problém spočívá v tom, že systém, jako je NEXUS, by byl dostatečně složitý na kalibraci na základě státu uvnitř USA nebo na základě národa uvnitř EU; perspektiva vytvoření skutečně globálního rámce (druh Interpolu pro původ datové sady) je podkopána nejen protichůdnými motivacemi různých vlád zúčastněných, ale i tím, že tyto vlády a stav jejich současných zákonů v tomto ohledu jsou neustále měněny.

*Moje substituce hypertextových odkazů za citace autorů.
†Šest typů je předepsáno v článku, ale poslední dva nejsou definovány.

Poprvé zveřejněno v pátek 7. března 2025