Když je “znalost” AI 50 let stará: Compliance riziko, které nelze ignorovat

Problém falešných AI poznatků je naléhavou výzvou, protože podniky zvyšují používání generativních nástrojů. Navzdory širokému nadšení pro přijetí AI existuje také silný proud kritiky. Kritičtí komentátoři často poukazují na zdánlivě náhodné, nepředvídatelné nesprávnosti v AI výstupech, které podkopávají jeho hodnotu – a mohou dokonce ohrozit skutečné škody na lidech, zejména v sektorech, jako je zdravotnictví a doprava, kde falešné výstupy by teoreticky mohly vést k všemu od nesprávného předpisu až po srážku vlaků.

Často jsou tyto nesprávnosti připsány AI “halucinacím” – instance, ve kterých AI generuje “nejlepší odhad” odpovědi, předávané se stejnou jistotou jako “skutečná” odpověď, místo aby informoval uživatele o mezery v jeho znalostech nebo schopnostech. Halucinace mohou být obtížně rozpoznatelné na první pohled – ale existuje tišší, stejně závažný problém, který je ještě těžší detekovat.

Dluh kvality dat: Achillesova pata AI

Když AI systémy čerpané z zastaralých, neúplných nebo nesprávných dat, falešné výstupy se vyskytují, ale jsou méně okamžitě rozpoznatelné. Například můžete požádat AI, aby identifikoval symptomy zdravotního stavu a obdržel odpověď založenou na 50leté studii místo aktuální výzkumu. Výsledek je nepravděpodobně, že se bude zdát zjevně, směšně špatný – ale tato počáteční vrstva pravdivosti představuje skutečné riziko pro pacienta i poskytovatele zdravotní péče.

Totéž platí napříč průmysly – pokud data, která jsou krmena do AI modelu, zahrnují stará, zastaralá nebo částečná informace, existuje vysoké riziko falešných výstupů. A protože více společností integruje AI do podnikových kritických procesů, riziko vyvozování falešných závěrů z nedostatečně řízených dat roste.

Přesnost pro regulátory

Toto není pouze problém pro denní operace – je to také významná compliance výzva. Regulační požadavky se rychle vyvíjejí, aby řešily obavy o nesprávnou AI. Například několik raných regulačních akcí na AI se uskutečnilo; zejména když Itálie dočasně zakázala ChatGPT kvůli obavám o soukromí, a Evropská rada pro ochranu údajů spustila speciální úkolu, aby koordinovala potenciální vynucovací akce proti ChatGPT.

Jedna z nejvýznamnějších regulačních změn byla přijetí evropského zákona o AI, prvního komplexního právního rámce pro AI. Zákon stanoví povinnosti na základě úrovně rizika AI systémů, od “nepřijatelného rizika” systémů, které jsou zakázány, po “vysokého rizika” systémů, které čelí přísným požadavkům na transparentnost, kvalitu dat, řízení a lidský dohled.

Význam evropského zákona o AI spočívá nejen v jeho ambiciózním rozsahu, ale také ve stanovisku, které vytváří. Regulátoři jasně říkají, že AI bude podléhat závazným, vynutitelným pravidlům a že organizace musí považovat compliance a transparentnost kolem toho, kde a jak se AI používá, za integrální součást AI přijetí, spíše než za následnou myšlenku.

Zákon má široký rozsah, s potenciálem ovlivnit velkou část AI rozvoje. V jeho srdci je učinit AI bezpečným, zatímco respektuje základní práva a hodnoty. V rámci tohoto nového principiálního ekosystému dochází k diagnóze potenciálních zdrojů pro AI nesprávnosti, včetně dat a datových sad, které krmit modely, modelové neprůhlednosti a přístupu, a systémového designu a použití. AI řešení jsou konstrukcí všech tří – problémy s kterékoli z nich mohou mít negativní výsledek. Nejen to, ale data, která vstupují do designu, modelu, vývoje, nasazení a provozu AI, jsou pravděpodobně primárně složena z obchodních záznamů, které samy o sobě podléhají různým požadavkům na compliance.

Jinými slovy, regulační prostředí kolem AI se stává stále přísnějším – a to platí stejně pro vstupní data jako pro výstupní data, i když ta druhá získává více pozornosti.

Pět kroků pro krmení AI kompatibilními, aktuálními, relevantními daty

Pro řešení této dvojí výzvy – zajištění jak kompatibilního zpracování dat, tak vysoké kvality vstupu, která umožňuje vysokou kvalitu výstupu – podniky potřebují kontrolu nad trénovacími a inferenčními daty. Bohužel, toto je něco, co mnoho podniků stále postrádá.

Aspoň by organizace měly aplikovat své širší compliance a governance programy na AI iniciativy. Musí začít zachycovat a udržovat vhodné záznamy o datech, která krmit AI modely, jak modely a systémy jsou navrženy, jakož i rozhodnutí a obsah generovaný prostřednictvím AI.

Nicméně, je také kriticky důležité, aby organizace šly o krok dále a zajistily, že mají plnou kontrolu nad všemi daty, která by mohla být použitelná pro AI nasazení, ať už pro počáteční trénink nebo “živou” práci. To vyžaduje vysoce kvalitní strategii řízení a úložiště dat, zajišťující, že všechna relevantní data jsou inteligentně shromážděna, vyčištěna, uložena, klasifikována a oprávněna. K dosažení tohoto cíle musí organizace zvážit čtyři klíčové kroky:

1. Provenience a původ dat

To zahrnuje udržování záznamu o zdroji dat, jeho původu, vlastnictví a všech změnách metadata (pokud je to dovoleno) po celou dobu jeho životního cyklu. To také znamená udržování bohatých metadata a všech podkladových dokumentů nebo artefaktů, ze kterých je odvozeno.

2. Autenticita dat

To vyžaduje udržování jasného řetězce custody pro všechna data, ukládání objektů v jejich původních formách a hašování objektů přijatých, aby se prokázalo, že data zůstávají nezměněna. Kromě toho musí organizace udržovat plnou auditní historii pro každý objekt a pro všechny akce a události týkající se změn.

3. Klasifikace dat

Stanovení povahy souboru nebo typu dat je důležité. Organizace potřebují být schopny řídit strukturovaná data, polostrukturovaná data a strukturovaná soubory dat. Přiřazení každé třídě jedinečného schématu může umožnit organizacím spravovat rozmanité soubory dat bez pevné ontologie – vyhýbání se zbytečnému manipulování dat, aby se vešly do inflexibilní datové struktury.

4. Normalizace dat

Stanovení společných definic a formátů metadata je důležité pro použití v analytických a AI řešení. Jasně definovaná schémata jsou důležitým prvkem, spolu s nástroji, které mohou transformovat nebo mapovat data, aby udržovaly konzistentní, normalizované pohledy na související data.

5. Oprávnění dat

Podniky potřebují granulární oprávnění, včetně na úrovni objektu nebo pole, založené na uživatelských nebo systémových profilech. To znamená, že správná data jsou k dispozici uživatelům a systémům, kteří jsou oprávněni k přístupu, zatímco omezují nebo omezují přístup k těm, kteří nejsou.

S těmito kritickými prvky na místě budou podniky nejlépe vybaveny, aby zajistily, že data poskytovaná AI modelům jsou jak vysoce kvalitní, tak kompatibilní. AI povede ke zlepšením a efektivitě napříč průmysly – ale k tomu, aby se to stalo, je zapotřebí pevný základ kvality dat.