Myslitelé

Když se vaše AI data stanou důkazem

Jerry Caviston
Přidejte Unite.AI mezi své preferované zdroje na Google
Klíčové bodyInterakce s AI musí být zachyceny jako řízené záznamy dříve, než vzniknou spory.
Zobrazit více
  • Interakce s AI musí být zachyceny jako řízené záznamy dříve, než vzniknou spory.
  • Samotný výstup AI nemůže vysvětlit, jak bylo dosaženo závěru.
  • Správa a řízení musí být budovány souběžně s nasazením, nikoli přidávány až během zjišťování.

Většina organizací dokáže identifikovat AI nástroje, které používají. Obtížnější otázkou je, zda jsou schopny vytvořit spolehlivý záznam o tom, k jakým podnikovým datům tyto systémy přistupovaly, jaké instrukce obdržely, co vrátily a jaké zásady řídily interakci.

Tato mezera může zůstat skryta během pilotního provozu. Stane se zřejmou, když regulátor klade otázky, zákazník zpochybní rozhodnutí nebo soudní řízení podrobí systém přezkoumání. V tu chvíli buď existuje auditní stopa, nebo ne.

Spojené státy nemají jednotný komplexní federální zákon o AI, ale stávající požadavky na soukromí, cenné papíry, nediskriminaci, evidenci a zpřístupňování důkazů mohou i nadále zasahovat AI data. Nové zákony specifické pro AI přidávají další vrstvu. Čekání na dokončení všech pravidel nepochopuje riziko.

Zákon nečeká na technologie

Soudy se s tímto problémem již dříve zabývaly. E‑mail se stal regulovaným důkazem prostřednictvím zavedených zákonů o evidenci a zpřístupňování důkazů, nikoli zcela novým právním rámcem. V soudním řízení Zubulake soud uplatnil povinnosti zachování a zpřístupňování důkazů na způsob, jakým organizace ukládaly a spravovaly elektronické zprávy. Tato rozhodnutí pomohla definovat moderní očekávání ohledně digitálních záznamů.

AI data pravděpodobně půjdou podobnou cestou. Prompt může obsahovat citlivé informace. Výstup může ovlivnit rozhodnutí o zaměstnání, komunikaci se zákazníkem nebo smlouvu. Agent může načíst záznamy z několika systémů před tím, než doporučí akci. Pokud se tato činnost stane předmětem sporu, právníci a regulátoři se budou ptát, k jakým údajům systém měl přístup, co použil a jaký záznam organizace uchovala.

Securities and Exchange Commission použila existující zákon o cenných papírech proti firmám, které učinily zavádějící tvrzení o svém využívání AI. Generální prokurátoři amerických států se mohou spoléhat na úřady pro ochranu spotřebitelů a soukromí, zatímco soudy mohou uplatňovat zavedená pravidla pro zpřístupňování důkazů a důkazní řízení.

Požadavky specifické pro AI tento směr posilují. EU AI Act zavádí povinnosti po etapách, zatímco Colorado a Texas zavedly dokumentaci, transparentnost a vymáhací ustanovení. Detaily se liší, ale očekávání je jednotné: organizace musí pochopit, jak AI používá data, a prokázat, že byly zavedeny vhodné kontroly.

Záznam začíná před výstupem

Považovat výstup AI za celý záznam je chyba. Výstup nevysvětluje, jak byl závěr dosažen. Obhajovatelný záznam také potřebuje prompt nebo instrukci, zdroje, k nimž byl získán přístup, oprávnění uživatele či agenta a politiku platnou v té době.

Tréninková data i provozní data také vyžadují odlišné kontroly. Organizace, která trénuje nebo dolaďuje model, musí rozumět původu a povolenému využití těchto datových sad. Když zaměstnanec nebo agent používá model třetí strany, okamžitou otázkou je, jaká podniková data byla odeslána nebo načtena. Organizace nemusí být schopny sledovat každé slovo v trénovací sadě základního modelu, ale musí být schopny vysvětlit data a procesy, které kontrolují.

Podniková data se zřídka nacházejí v jediném čistém úložišti. Jsou rozptýlena napříč provozními platformami, komunikacemi, sdíleným obsahem a staršími aplikacemi. AI zvyšuje důsledky této fragmentace. Agent může získat informace rychleji než člověk, ale také přebírá nekonzistentní přístupová práva, politiky uchovávání a klasifikace dat.

Interakce s AI je třeba spravovat jako záznamy

Organizace již zachycují e‑mail, chat a další regulované komunikace. Obchodní využití generativní AI vyžaduje stejnou disciplínu. Prompty a výstupy by měly být zachyceny při jejich vytvoření a podrobeny politice pro uchovávání, zabezpečení, uchování dat pro právní účely (legal hold), zpřístupňování důkazů a obhajovatelnou likvidaci.

Záznam také potřebuje kontext: kdo nebo co iniciovalo interakci, který model byl použit, ke kterým řízeným zdrojům systém přistupoval, jaká akce následovala a jaké politiky byly uplatněny. Bez tohoto kontextu může archiv promptů a odpovědí stále selhat ve vysvětlení, co se stalo.

Tyto kontroly začínají samotnými daty. Klasifikace, uchovávání, uchování dat pro právní účely (legal hold), přístupová oprávnění, původ a auditní logování by měly být aplikovány při vstupu informací do řízeného prostředí. AI systémy by měly pracovat s daty řízenými politikou, místo aby získávaly široký přístup k čemukoli dostupnému.

Správa nemůže být přidána během zpřístupňování důkazů

Jakmile dorazí soudní předvolání, regulační šetření nebo stížnost, organizace nemůže znovu vytvořit přesná oprávnění, verze dat a AI interakce, které existovaly před několika měsíci. Právní a compliance týmy mohou sbírat fragmenty z jednotlivých systémů, ale fragmenty nejsou úplným a obhajovatelným záznamem.

AI programy nemusí čekat, až budou vyřešeny všechny otázky správy. Základ musí být postaven současně s nasazením. Klasifikovaná data s řízeným přístupem lze použít, aniž by se vytvářely neřízené kopie. Konzistentní zachycení umožňuje právním a compliance týmům přezkoumávat AI aktivitu, aniž by ji museli rekonstruovat ze snímků obrazovky, historie prohlížeče nebo jednotlivých účtů.

Tento základ také podporuje ekonomické zdůvodnění. Vedoucí nemohou rozšiřovat systémy, které nedokážou vysvětlit ani jim důvěřovat. Spravované vstupy zvyšují důvěru, zachycené interakce umožňují přezkoumání výsledků a auditní stopy zajišťují odpovědnost za rozhodnutí.

Žaloba by neměla nutit organizaci poprvé inventarizovat její AI aktivitu. Vytvořte záznam, dokud jsou architektura a zásady ještě pod vaší kontrolou. Když se AI data stanou důkazem, měli byste již vědět, odkud pocházejí, kdo k nim mohl mít přístup, co s nimi systém udělal a jak byla spravována.

Jerry Caviston je generální ředitel společnosti Archive360, pomáhá firmám chránit, spravovat a odemykat hodnotu jejich dat.