Myslitelé
Proč by firmy měly řídit AI na základě hodnot

Klíčové bodyHodnotami řízený rámec správy umělé inteligence umožňuje společnostem působit globálně…
Zobrazit více
- Hodnotami řízený rámec správy umělé inteligence umožňuje společnostem působit globálně bez nutnosti přestavby systémů pro každou jurisdikci.
- Zavedení šesti klíčových hodnot, jako jsou odpovědnost a spravedlnost, buduje důvěru veřejnosti a splňuje nejvyšší etické standardy.
- Robustní správa umělé inteligence vytváří obchodní hodnotu tím, že umožňuje rychlejší vstup na trhy a snižuje riziko napříč více regiony.
V září 2025 se všechny členské státy Organizace spojených národů poprvé sešly k diskusi o mezinárodní správě a řízení umělé inteligence. Mnohé byly znovu zastoupeny v únoru na AI Impact Summit v Dillí. Setkání vedlo ke vzniku dvou nových orgánů zaměřených na řízení AI, ale v nejlepším případě šlo o symbolický úspěch.
Nové mechanismy OSN byly navrženy tak, aby umožňovaly dosáhnout konsenzu. Vyhýbají se proto sporným oblastem, například vojenskému využití AI, a postrádají jasné zdroje financování i pravomoci k vymáhání rozhodnutí. Zkušené pozorovatele by to nemělo překvapit. Dnešní OSN nedokáže jednat rychle ani zajistit všeobecné dodržování svých rozhodnutí, a proto se na tomto fóru skutečné změny prosazují obtížně.
Zapadá to do dlouhodobého vzorce. Navzdory letům roztříštěných snah o konsenzus ohledně regulace AI nebyly uzavřeny významné mezinárodní dohody. Vzniklo tak vakuum, v němž jednotlivé země a bloky musely vypracovat vlastní pravidla. Účinné řízení AI je přitom zásadní, pokud chceme, aby se široce využívala, získala důvěru veřejnosti a přinášela trvalé společenské a ekonomické výhody
Provizorní řešení a neustálé opravy
Pro globální firmy vyvíjející a provozující systémy AI je absence společných, dohodnutých mechanismů řízení problémem. Chtějí své systémy nasazovat po celém světě, ale žádné dvě jurisdikce se neřídí přesně stejnými pravidly. Musejí proto nejprve vytvořit obecný rámec řízení svého systému a poté jej v každé zemi, kde působí, od základu přestavět, aby splňoval místní zákony a předpisy. Tento postup vytváří obrovské množství práce navíc, zvyšuje náklady iniciativ AI i riziko zpoždění a oslabuje schopnost globálních firem dosahovat úspor z rozsahu a nabízet účinné nástroje uživatelům všude na světě.
Existuje však alternativa. Pro firmy, které chtějí svůj přístup zjednodušit, může být nejlepší volbou rámec řízení AI zohledňující společné etické zásady různých regionů a zajišťující všude vysoké standardy ochrany svobody, soukromí a bezpečnosti jednotlivců. Jde o účinný způsob, jak mohou firmy v oblasti AI posílit důvěru veřejnosti ve svou technologii, rozšířit zákaznickou základnu a využít potenciální přínosy AI pro společnost.
Šest klíčových hodnot pro řízení AI
Každé organizaci, která chce řízení AI založit na hodnotách, bych doporučil šest klíčových hodnot, jimiž se řídíme my: odpovědnost a povinnost skládat účty, vysvětlitelnost, transparentnost, spravedlnost, bezpečnost a možnost zpochybnit rozhodnutí.
Zvolili jsme je, protože pokrývají všechny hlavní oblasti životního cyklu systému AI a jsou již zakotveny v různých mezinárodních a národních standardech pro AI, například ve standardu Mezinárodní organizace pro normalizaci ISO/IEC 42001 a v příručce o umělé inteligenci pro vládu Spojeného království.
Začněme odpovědností: znamená vědět, kdo za co odpovídá v každé fázi životního cyklu AI. Bez jasně přidělené odpovědnosti mohou zásadní kontrolní opatření chybět, protože žádný člověk ani tým nenese konečnou odpovědnost. Organizace by měly jmenovitě určit vedoucí pracovníky, například ředitele pro AI, odpovědné za systémy AI a klíčové fáze. Měly by používat model řízení založený na rizicích a nástroje třetích stran prověřovat stejně důkladně jako nástroje vyvinuté interně. To znamená rozumět podmínkám, omezením a právní odpovědnosti dodavatelů stejně dobře jako vlastním systémům.
Organizace pro hospodářskou spolupráci a rozvoj, OECD, to dobře vystihuje ve svých doporučeních pro posílení odpovědnosti v oblasti AI, podle nichž by organizace měly vytvářet „mechanismy pro začlenění procesu řízení rizik AI do širšího řízení organizace a podporovat kulturu řízení rizik jak uvnitř organizací, tak v celém hodnotovém řetězci AI“.
Dále přichází vysvětlitelnost. Organizace by měly být schopny ukázat, jak systém AI dospívá k rozhodnutí. K tomu jsou zapotřebí mechanismy dokumentování a sledování rozhodovacího procesu spolu s jasnými záznamy o návrhu systému, trénovacích datech a rozhodovacích postupech. Díky tomu mohou týmy porozumět původu a cestě informací od vzniku systému až po jeho nasazení.
Spravedlnost spočívá v tom, aby systémy AI vytvářely spravedlivé výsledky a neopakovaly ani neposilovaly existující předsudky. Bez cílených kontrol mohou škodit zkreslenými výsledky, zejména v oblastech s velkým dopadem, jako je nábor pracovníků, zdravotnictví a trestní justice. Organizace by proto měly zavést opatření pro odhalování předsudků, pravidelně hodnotit výstupy pro příslušné skupiny a navrhovat rámce řízení zohledňující místní požadavky na zákaz diskriminace. V praxi to znamená vytvářet systémy splňující nejvyšší právní standardy, s nimiž se pravděpodobně setkají, včetně povinností podle britského Equality Act 2010 a Listiny základních práv EU.
Transparentnost přináší srozumitelnost uživatelům i regulačním orgánům. Lidé by měli chápat, kdy se AI používá, jakou roli hraje v rozhodování a na jakých datech staví. Praktickým začátkem je sjednotit dokumentaci systémů AI s podporou interních nástrojů, jako jsou karty modelů. Jde o krátké dokumenty doprovázející modely strojového učení, které popisují zamýšlený kontext použití, podrobnosti postupů hodnocení výkonnosti a další relevantní informace. Bez transparentnosti nemohou uživatelé napadat nespravedlivé výsledky, regulační orgány nemohou účinně zasahovat a škodlivé dopady mohou zůstat skryté.
Bezpečnost zahrnuje ochranu systémů AI před neoprávněným přístupem, manipulací a nezamýšleným chováním. Slabé zabezpečení může ohrozit organizace, uživatele a jejich data a způsobit jim finanční škody i poškození pověsti. Organizace by měly stanovit prahové hodnoty výkonnosti a přesnosti, provádět zátěžové testy v realistických podmínkách a zahrnout testování typu red team, které odhaluje zranitelnosti.
A konečně možnost zpochybnění zajišťuje jasnou a dostupnou cestu, jak napadnout rozhodnutí založené na AI nebo se proti němu odvolat. Bez ní nemají dotčení uživatelé možnost nápravy a problémy nemusejí nikdy vyjít najevo ani být vyřešeny. Organizace by měly nabízet kanály pro hlášení problémů přímo v místě používání, určit vedoucí pracovníky pro řešení stížností a zajistit, že systémy lze podle potřeby dočasně pozastavit, přezkoumat nebo aktualizovat.
Jaké výhody přináší rámec založený na hodnotách?
Pro tento hodnotový přístup k řízení AI existují dva pádné důvody. Za prvé mají vývojáři a provozovatelé systémů AI etickou odpovědnost vůči lidem a organizacím, které tyto systémy ovlivňují. Za druhé jde o účinnější způsob, jak v praxi dosáhnout slibovaných přínosů AI.
Uživatelé systémů AI, firmy i jednotlivci, implicitně důvěřují jejich tvůrcům, že nezneužijí osobní údaje ani je nevystaví zbytečným rizikům. Když organizace tuto důvěru poruší, uživatele si udrží jen velmi obtížně. Lidé nakonec zavedení systémů nepřijmou, pokud nebudou splněny obě podmínky: budou jim důvěřovat a uvidí jejich jasné přínosy. Jinak se prohloubí společenské a ekonomické rozdělení a přijdeme o mnoho příležitostí, které technologie nabízí.
Firmy, které naopak uplatňují rámec založený na hodnotách všude, včetně regionů s mírnějšími požadavky na řízení, mohou zákazníkům, investorům a regulačním orgánům ukázat, že na sebe kladou vyšší nároky než základní dodržování předpisů. To buduje důvěru, zapojení a nakonec i obchodní úspěch.
Silné řízení AI vytváří hodnotu a není břemenem dodržování předpisů. Umožňuje firmám rychleji uvádět na trh nové produkty, snižovat vystavení rizikům a s jistotou rozšiřovat řešení na více trhů.
Zpráva společnosti McKinsey „Stav AI“ podle svých zjištění uvádí, že „dohled generálního ředitele nad řízením AI… je jedním z prvků nejsilněji korelovaných s vyšším dopadem na čistý hospodářský výsledek, jak jej uvádí sama organizace, díky jejímu využívání generativní AI“, což zdůrazňuje obchodní přínosy tohoto přístupu. V tomto smyslu je začlenění silných etických rámců do systémů AI projevem osvíceného vlastního zájmu.
Vedle všech těchto důvodů je to jednoduše správná věc. Naši globální politiku etické AI jsme postavili na stejném principu: pokročilé technologie mají sloužit lidem a společnosti, nikoli naopak. To odráží širší vizi Společnosti 5.0, tedy modelu inovací zaměřeného na člověka, který usiluje o spojení ekonomického pokroku s řešením společenských výzev.
Mají-li nové technologie, jako je AI, přispět ke šťastnější a harmoničtější společnosti, musejí stát na pevných etických základech. Začíná to zaměřením nejen na standardy, které organizace musejí splňovat, ale také na ty, kterých by chtěly dosáhnout.












