Dilema AI dat: ochrana soukromí, regulace a budoucnost etického AI

Rozvoje řešení založených na umělé inteligenci jsou rychle přijímána napříč různými odvětvími, službami a produkty každý den. Jejich účinnost však závisí zcela na kvalitě dat, na kterých jsou trénovány – aspekt, který je často nepochopen nebo přehlížen v procesu vytváření datasetů.

Jak úřady pro ochranu dat zvyšují kontrolu nad tím, jak technologie umělé inteligence odpovídají předpisům na ochranu soukromí a dat, společnosti čelí rostoucímu tlaku na to, aby zdroje, anotovaly a rafinovaly datasety v souladu s předpisy a etickými postupy.

Existuje skutečně etický přístup k vytváření datasetů pro umělou inteligenci? Jaké jsou největší etické výzvy společností a jak je řeší? A jak se měnící právní rámce ovlivňují dostupnost a použití trénovacích dat? Pojďme prozkoumat tyto otázky.

Ochrana soukromí a umělá inteligence

Umělá inteligence vyžaduje大量 osobních dat k provedení úkolů. To vyvolalo obavy o shromažďování, ukládání a používání těchto informací. Mnoho zákonů po celém světě reguluje a omezuje použití osobních dat, od GDPR a nově zavedeného zákona o umělé inteligenci v Evropě po HIPAA v USA, který reguluje přístup k pacientům v lékařském průmyslu.

Referenční mapa pro ochranu dat po celém světě / DLA Piper

Například čtrnáct států v USA má komplexní zákony na ochranu soukromí, s šesti dalšími, které budou účinné v roce 2025 a na počátku roku 2026. Nová administrativa signalizovala změnu přístupu k vymáhání ochrany soukromí na federální úrovni. Hlavním zaměřením je regulace umělé inteligence, s důrazem na podporu inovací místo uvalování omezení. Tato změna zahrnuje zrušení předchozích výkonných příkazů o umělé inteligenci a zavedení nových směrnic pro její vývoj a aplikaci.

Legislativa na ochranu dat se vyvíjí v různých zemích: v Evropě jsou zákony přísnější, zatímco v Asii nebo Africe jsou méně přísné.

Osobní identifikovatelné informace (PII) — jako jsou obličejové snímky, oficiální doklady, jako jsou cestovní pasy, nebo jakékoli jiné citlivé osobní údaje — jsou obecně omezeny ve většině zemí do určité míry. Podle UNCTAD je sběr, použití a sdílení osobních informací třetím stranám bez oznámení nebo souhlasu spotřebitelů velkou obavou pro většinu světa. 137 ze 194 zemí má předpisy, které zajišťují ochranu dat a soukromí. V důsledku toho většina globálních společností podniká rozsáhlá opatření, aby se vyhnula používání PII pro trénování modelů, protože předpisy, jako jsou ty v EU, přísně zakazují takové postupy, s výjimkou vzácných případů v přísně regulovaných oblastech, jako je vymáhání práva.

Časem se zákony na ochranu dat stávají komplexnějšími a globálně vymáhány. Společnosti přizpůsobují své postupy, aby se vyhnula právním výzvám a splnily vznikající právní a etické požadavky.

Jaké metody společnosti používají k získání dat?

Když studujeme otázky ochrany dat pro trénování modelů, je důležité nejprve pochopit, odkud společnosti získávají tato data. Existují tři hlavní a primární zdroje dat.

• Shromažďování dat

Tato metoda umožňuje shromažďovat data z platforem pro crowdsourcing, médií a otevřených datasetů.

Je důležité poznamenat, že veřejná média jsou předmětem různých licenčních dohod. I komerční licence často explicitně uvádějí, že obsah nelze použít pro trénování modelů. Tyto očekávání se liší platforma od platformy a vyžadují, aby společnosti potvrdily, zda mohou obsah použít způsobem, který potřebují.

I když společnosti umělé inteligence získávají obsah legálně, mohou stále čelit některým problémům. Rychlý pokrok v trénování modelů umělé inteligence výrazně předčil právní rámce, což znamená, že pravidla a regulace týkající se trénovacích dat umělé inteligence jsou stále ve vývoji. V důsledku toho musí společnosti zůstat informovány o právních vývojích a pečlivě přezkoumávat licenční dohody před použitím obsahu ze stocku pro trénování umělé inteligence.

• Vytvoření dat

Jedna z nejbezpečnějších metod přípravy datasetů zahrnuje vytváření jedinečného obsahu, jako je natáčení lidí v kontrolovaném prostředí, jako jsou ateliéry nebo venkovní lokace. Před účastí jednotlivci podepisují souhlasné formuláře, které povolují použití jejich osobních identifikovatelných informací, specifikují, která data jsou shromažďována, jak a kde budou použita, a kdo bude mít k nim přístup. To zajišťuje plnou právní ochranu a dává společnostem jistotu, že nebudou čelit žalobám za nelegální použití dat.

Hlavní nevýhodou této metody je její náklad, zejména když jsou data vytvářena pro okrajové případy nebo velké projekty. Nicméně velké společnosti a podniky stále více používají tento přístup z alespoň dvou důvodů. Zaprvé zajišťuje plné dodržování všech standardů a právních předpisů. Zadruhé poskytuje společnostem data, která jsou plně přizpůsobena jejich specifickým scénářům a potřebám, garantujícím nejvyšší přesnost v trénování modelů.

• Generování syntetických dat

Používání softwarových nástrojů k vytváření obrázků, textu nebo videí na základě daného scénáře. Syntetická data však mají omezení: jsou generována na základě předdefinovaných parametrů a postrádají přirozenou variabilitu skutečných dat.

Tato absence může negativně ovlivnit modely umělé inteligence. Ačkoli to není relevantní pro všechny případy a ne vždy se to stane, je stále důležité si uvědomit „kolaps modelu“ — bod, ve kterém nadměrná závislost na syntetických datech způsobuje degradaci modelu, vedoucí k nízkokvalitním výstupům.

Syntetická data mohou být stále velmi efektivní pro základní úkoly, jako je rozpoznávání obecných vzorců, identifikace objektů nebo rozlišení základních vizuálních prvků, jako jsou obličeje.

Nicméně, není to nejlepší volba, když společnost potřebuje trénovat model zcela od začátku nebo řešit vzácné nebo vysoce specifické scénáře.

Nejvíce odhalující situace se vyskytují v kabinových prostředích, jako je řidič rozptýlený dítětem, někdo, kdo vypadá unaveně za volantem, nebo dokonce instance bezohledného řízení. Tato data nejsou běžně dostupná ve veřejných datasetech — ani by neměla být — protože se jedná o skutečné osoby v soukromých prostředích. Protože modely umělé inteligence spoléhají na trénovací data k generování syntetických výstupů, mají potíže s reprezentací scénářů, se kterými se nikdy nesetkaly přesně.

Když syntetická data selhávají, vytvořená data — shromážděná prostřednictvím kontrolovaných prostředí s reálnými herci — se stávají řešením.

Poskytovatelé datových řešení, jako je Keymakr, umisťují kamery do aut, najímají herce a zaznamenávají akce, jako je péče o dítě, pití z láhve nebo projevy únavy. Herci podepisují smlouvy, které výslovně souhlasí s použitím jejich dat pro trénování umělé inteligence, zajišťujících soulad s předpisy na ochranu soukromí.

Odpovědnosti v procesu vytváření datasetů

Každý účastník procesu, od klienta po společnost pro anotaci, má specifické odpovědnosti stanovené ve smlouvě. První krok spočívá ve stanovení smlouvy, která podrobně popisuje povahu vztahu, včetně klauzulí o nešíření a duševním vlastnictví.

Zvažme první možnost práce s daty, konkrétně když jsou vytvářena od začátku. Práva duševního vlastnictví stanoví, že všechna data, která poskytovatel vytvoří, patří společnosti, která je najala, což znamená, že jsou vytvářena na jejich účet. To také znamená, že poskytovatel musí zajistit, aby data byla shromážděna legálně a řádně.

Jako společnost pro datové řešení Keymakr zajišťuje soulad dat tím, že nejprve zkontroluje jurisdikci, ve které se data vytvářejí, získá řádný souhlas od všech zúčastněných osob a garantuje, že data lze legálně použít pro trénování umělé inteligence.

Je také důležité poznamenat, že jakmile jsou data použita pro trénování modelu umělé inteligence, stává se téměř nemožným určit, která konkrétní data přispěla k modelu, protože umělá inteligence vše spojuje. Proto se konkrétní výstup neliší, zejména při diskusi o milionech obrázků.

Vzhledem k rychlému rozvoji této oblasti se stále vytvářejí jasné směrnice pro rozdělování odpovědností. To je podobné složitostem, které obklopují samořiditelná auta, kde otázky o odpovědnosti — zda je to řidič, výrobce nebo softwarová společnost — stále vyžadují jasné rozdělení.

V jiných případech, kdy poskytovatel anotací obdrží dataset pro anotaci, předpokládá, že klient legálně získal data. Pokud existují zjevné známky toho, že data byla získána nelegálně, musí poskytovatel o tom informovat. Nicméně, takové zjevné případy jsou extrémně vzácné.

Je také důležité poznamenat, že velké společnosti, korporace a značky, které si cení své pověsti, jsou velmi opatrné, odkud získávají svá data, i když nebyla vytvořena od začátku, ale pocházejí z jiných legálních zdrojů.

V souhrnu závisí odpovědnost každého účastníka v procesu práce s daty na smlouvě. Můžeme tuto proces považovat za součást širší „řetězce udržitelnosti“, kde každý účastník hraje zásadní roli při udržování právních a etických standardů.

Jaké mýty existují o zadní straně vývoje umělé inteligence?

Velký mýtus o vývoji umělé inteligence spočívá v tom, že modely umělé inteligence fungují podobně jako vyhledávače, shromažďují a agregují informace, aby je prezentovaly uživatelům na základě získaných znalostí. Nicméně, modely umělé inteligence, zejména jazykové modely, často fungují na základě pravděpodobností spíše než skutečného pochopení. Předpovídají slova nebo termíny na základě statistické pravděpodobnosti, pomocí vzorců viděných v předchozích datech. Umělá inteligence „neví“ nic; extrapoluje, odhaduje a upravuje pravděpodobnosti.

Dále se mnoho lidí domnívá, že trénování umělé inteligence vyžaduje enormní datasety, ale většina toho, co umělá inteligence potřebuje k rozpoznání — jako psy, kočky nebo lidi — je již dobře zavedeno. Zaměření se nyní soustředí na zlepšení přesnosti a rafinaci modelů spíše než na znovuvynález rozpoznávacích schopností. Velká část vývoje umělé inteligence dnes se soustředí na uzavření posledních malých mezer v přesnosti spíše než na začínání od začátku.

Etické výzvy a dopad evropského zákona o umělé inteligenci a zmírnění amerických předpisů na globální trh umělé inteligence

Když diskutujeme o etice a legitimitě práce s daty, je také důležité jasně pochopit, co definuje „etickou“ umělou inteligenci.

Největší etickou výzvou, které společnosti čelí dnes v oblasti umělé inteligence, je určení, co je považováno za nepřijatelné pro umělou inteligenci udělat nebo naučit se. Existuje široká shoda v tom, že etická umělá inteligence by měla pomáhat spíše než škodit lidem a měla by se vyvarovat klamu. Nicméně, systémy umělé inteligence mohou dělat chyby nebo „hallucinovat“, což činí obtížným určit, zda tyto chyby kvalifikují jako dezinformace nebo škodu.

Etika umělé inteligence je velkým tématem debat s organizacemi, jako je UNESCO, které se zapojují — s klíčovými principy obklopujícími auditovatelnost a stopovatelnost výstupů.

Právní rámce týkající se přístupu k datům a trénování umělé inteligence hrají významnou roli při formování etického krajiny umělé inteligence. Země s méně omezeními na používání dat umožňují snadnější přístup k trénovacím datům, zatímco země se přísnějšími zákony na ochranu dat omezují dostupnost dat pro trénování umělé inteligence.

Například Evropa, která přijala zákon o umělé inteligenci, a USA, které zrušily mnoho předpisů o umělé inteligenci, nabízejí kontrastní přístupy, které ukazují současnou globální situaci.

Evropský zákon o umělé inteligenci má významný dopad na společnosti, které operují v Evropě. Ukládá přísný regulační rámec, který činí obtížným pro podniky používat nebo vyvíjet určité modely umělé inteligence. Společnosti musí získat speciální licence pro práci s určitými technologiemi, a ve mnoha případech regulace efektivní činí příliš obtížným pro menší podniky dodržovat tyto předpisy.

V důsledku toho některé startupy mohou zvolit opuštění Evropy nebo se vyhnout provozu tam úplně, podobně jako dopad, který byl vidět u regulací kryptoměn. Velké společnosti, které si mohou dovolit investovat do splnění požadavků na soulad, mohou se přizpůsobit. Nicméně, zákon může vést k tomu, že inovace v oblasti umělé inteligence opustí Evropu ve prospěch trhů, jako je USA nebo Izrael, kde jsou regulace méně přísné.

Rozhodnutí USA investovat významné zdroje do vývoje umělé inteligence s méně omezeními může mít také nevýhody, ale může také pozvat více diverzity na trh. Zatímco Evropská unie se soustředí na bezpečnost a soulad s předpisy, USA pravděpodobně podpoří více riskantní a experimentální činnosti.