Je minimalizace nejlepším přístupem ke správě AI?

Když organizace začleňují umělou inteligenci (AI) do svých obchodních činností, potřebují jasné způsoby, jak řídit rizika spojená s jejím vývojem a používáním. Účinná správa zajišťuje dohled, složité postupy však mohou spotřebovávat zdroje a zpomalovat zavádění. Minimalizace nabízí možnost nastavit správu přiměřeněji tím, že omezuje zbytečné využívání dat a zároveň zachovává odpovědnost a ochranná opatření.

Proč je správa AI důležitá

Správa AI stanovuje zásady, odpovědnosti a dohled, které určují, jak organizace vyvíjejí, nasazují a používají systémy AI. Pomáhá jim identifikovat rizika, určit pravomoci pro rozhodování a zavést postupy pro sledování výkonnosti a řešení problémů.

Při zavádění AI musí organizace zvážit několik rizik, včetně narušení soukromí, bezpečnostních zranitelností, zkreslených výsledků, nepřesných výstupů a omezené transparentnosti. Bez odpovídajících kontrol mohou rozhodnutí vytvořená pomocí AI ovlivnit zákazníky, zaměstnance i další zainteresované strany způsobem, který lze jen obtížně napravit. Správa také organizacím pomáhá plnit příslušné právní požadavky a sladit využívání AI s obchodními cíli.

Mezinárodní asociace odborníků na ochranu soukromí uvedla, že 77 % dotázaných organizací se v roce 2025 zabývalo správou AI. Toto zjištění svědčí o značné pozornosti, kterou organizace tomuto tématu věnují, samotné zabývání se správou však nutně neznamená, že organizace svůj rámec dokončila nebo plně zavedla.

Jasně stanovené odpovědnosti a průběžné monitorování pomáhají organizacím odhalovat nově vznikající problémy, zkoumat neočekávané výsledky a upravovat kontroly podle toho, jak se systémy mění. Účinná správa může také posílit důvěru zainteresovaných stran tím, že ukazuje, že organizace zvažuje důsledky využívání AI a nese odpovědnost za svá rozhodnutí.

Výzvy při správě AI

Ačkoli správa pomáhá organizacím řídit rizika AI, zavedení a udržování účinného dohledu může být obtížné. Při vymezování rozsahu dohledu musí organizace určit, které systémy AI, činnosti a závislosti je třeba spravovat. 

Pro jasné vymezení rozsahu správy AI se organizace mohou opřít o normu ISO/IEC 42001, která stanovuje požadavky na vytvoření a udržování systému řízení AI. Soulad s normou může zlepšit výkonnost modelu, a umožnit tak rychlejší a bezpečnější AI. Organizacím také pomáhá určit, které části jejich činnosti spadají do systému řízení AI. Tyto normy zohledňují geografické pokrytí, vazby na další systémy a rozsah činností souvisejících s AI. 

Mezi další klíčové výzvy patří:

• Složitost systémů AI: Aplikace AI mohou využívat vzájemně propojené modely, datové sady, nástroje třetích stran a automatizovaná rozhodnutí. Kvůli těmto závislostem může být obtížné dohledat původ výstupů, identifikovat zranitelnosti a určit, kde jsou nutné kontroly.
• Ochrana soukromí a bezpečnost dat: Organizace musí chránit citlivé informace během sběru dat, trénování modelů, nasazení i dalšího používání. 
• Zkreslení a omezená transparentnost: Nereprezentativní trénovací data mohou přispívat k nespravedlivým výsledkům, zatímco neprůhledné fungování modelů může ztěžovat vysvětlení, posouzení nebo zpochybnění rozhodnutí.
• Měnící se předpisy a normy: Organizace působící v různých jurisdikcích mohou čelit odlišným nebo měnícím se právním požadavkům. Procesy správy musí zohledňovat příslušné povinnosti, aniž by vytvářely zbytečné duplicity.
• Omezené zdroje a provozní kapacity: Odborné dovednosti, dokumentace, kontroly a průběžné monitorování vyžadují čas a finanční prostředky. 
• Vyvažování dohledu a inovací: Přehnané požadavky na schvalování mohou zdržovat projekty, zatímco nedostatečné kontroly mohou ponechat významná rizika bez řešení.

Tyto výzvy ukazují, jak důležité je omezovat zbytečnou složitost. Minimalizace správy však musí zahrnovat také zavedení kontrol, které chrání lidi a informace a zajišťují odpovědnost organizace.

Například kontrolor státu New York zjistil, že úřady města New York přistupovaly k dohledu nad AI nejednotně a některé z nich neměly zásady pro posuzování zkreslení a přesnosti. Zjištění ukazují, že omezení složitosti vyžaduje jasné a jednotné standardy správy, které zajistí odpovědnost. 

Co znamená minimalizace při správě AI

Minimalizace při správě AI spočívá v omezení zbytečného využívání dat a administrativní zátěže při zachování opatření potřebných k řízení rizik. Má dva hlavní rozměry: minimalizaci dat a minimalizaci správy. Oba usilují o to, aby postupy při využívání AI lépe odpovídaly jejich účelu a možnému dopadu.

Minimalizace dat

Minimalizace dat omezuje shromažďování, uchovávání, zpracování a sdílení informací na rozsah potřebný pro konkrétní účel systému AI. Organizace mohou tento princip uplatňovat omezením přístupu k citlivým informacím a případným využíváním anonymizovaných nebo syntetických dat.

Omezení nadbytečných dat může snížit riziko narušení soukromí i množství informací, které musí organizace chránit. Minimalizace dat však vyžaduje pečlivé zvážení. Odstranění relevantních informací může snížit přesnost modelu, omezit zastoupení různých skupin nebo ztížit rozpoznání zkreslených výsledků. Organizace musí určit, která data jsou nezbytná k dosažení zamýšleného účelu a k zajištění spolehlivých a spravedlivých výsledků.

Minimalizace procesů řízení

Minimalizace procesů řízení se zaměřuje na zjednodušení kontrolních postupů. Organizace mohou sloučit překrývající se kontroly a tam, kde je to vhodné, opakovaně využívat již provedená posouzení. Mohou také jasně vymezit pravomoci k rozhodování a odstranit schvalovací úrovně, které nepřinášejí smysluplnou ochranu před riziky.

Tyto změny pomáhají snižovat administrativní náklady a prodlevy a zároveň vyjasňují odpovědnosti týmů. Minimalizace procesů řízení by však neměla vést k odstranění nezbytné dokumentace, nezávislého přezkumu, lidského dohledu ani povinných kontrol. Cílem je zefektivnit dohled a současně zachovat odpovědnost.

Strategie minimalizace pro řízení AI

Minimalizační přístup může zefektivnit řízení AI, pokud organizace přizpůsobí postupy při nakládání s daty a požadavky na dohled rizikům jednotlivých způsobů využití. Několik opatření může omezit zbytečnou složitost a zároveň zachovat odpovědnost, spolehlivý výkon a odpovídající ochranná opatření.

Uplatňujte přístup založený na rizicích

Organizace mohou klasifikovat systémy AI podle zamýšleného účelu, možného dopadu a citlivosti dat. Rámec AI Risk Management Framework organizace National Institute of Standards and Technology poskytuje strukturu pro řízení rizik AI prostřednictvím čtyř funkcí, mezi něž patří správa, mapování, měření a řízení. Organizace mohou tyto funkce využít k identifikaci rizik, posouzení jejich závažnosti a stanovení vhodných reakcí.

Stanovte jasné požadavky na data

Každý systém AI by měl mít jasně definovaný účel ještě před zahájením shromažďování dat. Organizace pak mohou určit potřebné kategorie dat, odstranit nerelevantní položky, omezit přístup a stanovit odpovídající lhůty uchovávání. Testování by mělo potvrdit, že i omezené datové soubory nadále umožňují dosahovat přesných a spravedlivých výsledků.

Optimalizujte modely a výpočetní zdroje

Optimalizace modelů, efektivní algoritmy a energeticky úsporný hardware mohou pomoci snížit zbytečné nároky na výpočetní výkon. Firmy mohou zvážit federované učení, které snižuje potřebu přenášet velké objemy informací. Tyto postupy mohou snížit náklady na výpočty i spotřebu energie a zároveň podpořit ochranu soukromí dat. 

Zjednodušte pracovní postupy řízení

Organizace mohou sloučit překrývající se kontroly, opakovaně využívat posouzení zahrnující stejná rizika, vyjasnit odpovědnosti a stanovit schvalovací postupy podle úrovně rizika. Standardizované procesy pomáhají týmům efektivně vyřizovat běžné případy a složitější případy předávat příslušným odborníkům.

Zachovejte nezbytná ochranná opatření

Minimalizační přístup musí zachovat ochranu soukromí a zabezpečení, posuzování zkreslení, odpovídající lidský dohled, auditní záznamy a postupy pro řešení incidentů. Organizace by také měly ověřit, že zjednodušené procesy nadále splňují příslušné právní a regulatorní povinnosti.

Sledujte výkonnost a znovu posuzujte kontrolní opatření

Požadavky na řízení se mohou měnit s tím, jak se systém AI vyvíjí, získává nové uživatele nebo podporuje další úkoly. Organizace by po nasazení měly sledovat přesnost, spravedlivost a rizika pro soukromí. S měnícími se podmínkami by také měly znovu posuzovat požadavky na data a postupy dohledu.

Jak účinně uplatnit minimalizaci při řízení AI

Minimalizace je nejúčinnější jako součást strategie řízení založené na rizicích. Vhodná míra minimalizace se však bude lišit podle účelu, složitosti a možného dopadu systému AI. Vyvážením efektivity s odpovídajícími ochrannými opatřeními, odpovědností a průběžným hodnocením mohou organizace zjednodušit řízení AI a současně zachovat její odpovědné a spolehlivé využívání.