Proč by společnosti měly dodržovat hodnotově založený přístup k řízení umělé inteligence

V září 2025 se všechny členské státy Organizace spojených národů poprvé sešly, aby diskutovaly o mezinárodním řízení umělé inteligence; mnohé z nich byly opět zastoupeny v únoru na summitu AI Impact Summit v Dillí. Akce vedla k založení dvou nových orgánů zaměřených na řízení umělé inteligence; ale bylo to, v nejlepším případě, symbolický úspěch.

Nové mechanismy OSN byly navrženy tak, aby zajistily konsenzus: vyhýbají se sporným oblastem, jako je vojenské použití umělé inteligence, a postrádají jasné zdroje financování a vymáhání. To by nemělo být žádným překvapením pro zkušené pozorovatele. Dnešní OSN postrádá schopnost jednat rychle nebo zajistit univerzální dodržování svých rozhodnutí, což z ní činí obtížné fórum pro skutečnou změnu.

To se hodí do dobře zavedeného vzoru. Navzdory letech rozptýlených pokusů o budování konsenzu ohledně předpisů pro umělou inteligenci nebyly uzavřeny žádné významné mezinárodní dohody, což vytvořilo vakuum, ve kterém jednotlivé země a bloky byly nuceny vyvinout své vlastní předpisy. Přesto je efektivní řízení umělé inteligence zásadní, pokud chceme vidět její široké přijetí, důvěru veřejnosti a použití způsobem, který přináší trvalé sociální a ekonomické výhody.

Vyroba a oprava

Pro globální společnosti, které budují a provozují systémy umělé inteligence, je absence společných, dohodnutých mechanismů řízení problematická. Chtějí nasadit systémy umělé inteligence po celém světě, ale žádná dvě jurisdikce se neřídí stejným sadou pravidel. Proto jsou nuceny místo toho vytvořit obecný rámec řízení kolem svého systému a poté jej přestavět od základu v každé zemi, ve které operují, aby se ujistili, že dodržují místní zákony a předpisy. Tento přístup vytváří enormní množství extra práce, činí iniciativy umělé inteligence nákladnější a náchylnější k prodlevám a oslabuje schopnost globálních firem realizovat ekonomické úspory a sdílet efektivní nástroje s uživateli všude.

Existuje však alternativa. Pro firmy, které hledají způsob, jak zjednodušit svůj přístup, může být nejlepší možností postavit rámec řízení umělé inteligence, který zohledňuje společné etické principy napříč různými regiony, a zajistit, aby splňovaly vysoké standardy všude, pokud jde o ochranu individuální svobody, soukromí a bezpečnosti. Tato technika představuje mocný způsob, jak firmy umělé inteligence mohou zvýšit důvěru veřejnosti ve svou technologii, posílit svou zákaznickou základnu a využít potenciální výhody umělé inteligence pro společnost.

Šest klíčových hodnot pro řízení umělé inteligence

Pro jakoukoli organizaci, která má zájem o přijetí hodnotově založeného přístupu k řízení umělé inteligence, bych navrhl použití šesti klíčových hodnot, které následujeme: zodpovědnost, vysvětlitelnost, transparentnost, spravedlnost, bezpečnost a zpochybnitelnost.

Vybrali jsme tyto hodnoty, protože pokrývají všechny hlavní oblasti životního cyklu systému umělé inteligence a protože již byly kodifikovány v různých mezinárodních a národních standardech týkajících se umělé inteligence, jako je ISO/IEC 42001 a Artificial Intelligence Playbook for the UK Government.

Na začátku je zodpovědnost, která znamená vědět, kdo je odpovědný za co na každé fázi životního cyklu umělé inteligence. Bez jasného vlastnictví mohou být vitální kontroly vynechány, protože žádná osoba nebo tým nemá konečnou odpovědnost. Organizace by měly jmenovat seniorní, jmenované vlastníky – jako je jejich Chief AI Officer – pro systémy umělé inteligence a klíčové fáze a použít model řízení založený na riziku, aplikující stejnou kontrolu na třetí strany jako na ty, které byly vyvinuty interně. To znamená porozumět dodavatelským podmínkám, omezením a závazkům stejně dobře jako svým vlastním systémům.

Organizace pro ekonomickou spolupráci a rozvoj (OECD) to dobře zachytila ve svém pokynu pro zlepšení zodpovědnosti v umělé inteligenci, který doporučuje, aby organizace vytvořily „mechanismy pro začlenění procesu řízení rizik umělé inteligence do širšího řízení organizace, vytvářející kulturu řízení rizik jak uvnitř organizací, tak v celém řetězci hodnot umělé inteligence“.

Dále je vysvětlitelnost. Organizace by měly být schopny ukázat, jak systém umělé inteligence dospěje k rozhodnutí. To vyžaduje mechanismy pro dokumentaci a stopování rozhodování, spolu s jasnými záznamy o návrhu systému, trénovacích datech a rozhodovacích procesech. Společně to umožňuje týmům pochopit původ informací od vzniku systému až po nasazení.

Spravedlnost se zaměřuje na zajištění, aby systémy umělé inteligence produkovaly rovné výsledky a neopakovaly nebo nezvyšovaly existující předpojatosti. Bez úmyslných kontrol mohou systémy způsobit újmu tím, že dodávají zkreslené výsledky – zvláštní problém ve vysokého dopadu oblastech, jako je nábor, zdravotní péče a trestní soudnictví. Aby se tomu zabránilo, organizace by měly implementovat opatření pro detekci předpojatostí, pravidelně přezkoumávat výstupy napříč relevantními skupinami a navrhovat rámce řízení, které mohou akomodovat místní požadavky na nediskriminaci. V praxi to znamená budování systémů, které splňují nejvyšší právní standard, se kterým se pravděpodobně setkají, včetně závazků podle zákonů, jako je zákon o rovnosti z roku 2010 ve Spojeném království a Listina základních práv Evropské unie.

Transparentnost se týká zajištění jasnosti pro uživatele i regulátory. Lidé by měli rozumět, kdy je umělá inteligence používána, jakou roli hraje v rozhodování a jaké údaje ji podporují. Praktickým výchozím bodem je standardizace dokumentace napříč systémy umělé inteligence, podporovaná interními nástroji, jako jsou karty modelů: krátké dokumenty poskytované s modely strojového učení, které vysvětlují kontext, ve kterém jsou modely určeny k použití, podrobnosti o postupech hodnocení výkonu a další relevantní informace. Bez transparentnosti nemohou uživatelé zpochybnit nespravedlivé výsledky, regulátoři nemohou účinně zasáhnout a škodlivé dopady mohou být utajeny.

Bezpečnost zahrnuje ochranu systémů umělé inteligence před neoprávněným přístupem, manipulací nebo neúmyslným chováním. Pokud je bezpečnost slabá, systémy umělé inteligence mohou ohrozit organizace, uživatele a jejich data, vystavují je finančním a reputačním škodám. Organizace by měly definovat prahové hodnoty a přesnosti, testovat systémy za realistických podmínek a zahrnovat testování červené týmy, aby identifikovaly zranitelnosti.

Nakonec zpochybnitelnost zajišťuje, aby lidé měli jasný a přístupný způsob, jak zpochybnit nebo odvolat rozhodnutí umělé inteligence. Bez ní nemají postižení uživatelé žádnou možnost nápravy a problémy se možná nikdy neobjeví nebo nevyřeší. Organizace by měly poskytovat kanály pro hlášení na místě použití, jmenovat seniorní vlastníky pro řízení stížností a zajistit, aby systémy mohly být pozastaveny, přezkoumány nebo aktualizovány podle potřeby.

Jaké jsou výhody hodnotově založeného rámce?

Existují dva silné důvody pro přijetí tohoto hodnotově založeného přístupu k řízení umělé inteligence. První je, že ti, kteří budují a nasazují systémy umělé inteligence, mají etickou odpovědnost vůči lidem a organizacím, kterých se to týká; a druhý je, že tento přístup je efektivnější pro realizaci slibovaných výhod umělé inteligence v praxi.

Uživatelé systémů umělé inteligence, ať už firemní nebo individuální, předpokládají, že jejich tvůrci nebudou zneužívat osobní údaje nebo je vystavovat zbytečným rizikům. Když organizace poruší tuto důvěru, stává se pro ně velmi obtížné udržet tyto uživatele. Nakonec, pokud lidé nevěří systémům umělé inteligence nebo nevidí jasných výhod, které přinášejí, nebudou souhlasit s jejich zavedením. To způsobí více sociálních a ekonomických rozporů a zmeškáme mnoho příležitostí, které tato technologie nabízí.

Naproti tomu společnosti, které aplikují hodnotově založený rámec všude – včetně regionů s méně přísnými požadavky na řízení – mohou prokázat zákazníkům, investorům a regulátorům, že drží sami sebe na vyšší standard než základní soulad vyžaduje. To buduje důvěru, angažovanost a nakonec obchodní úspěch.

Silné řízení umělé inteligence je tvůrcem hodnoty, ne zátěží souladu. Umožňuje firmám uvést nové produkty na trh rychleji, snížit jejich expozici riziku a škálovat své řešení napříč několika trhy s jistotou.

Zpráva McKinseyho „Stav umělé inteligence“ zjistila, že „přezkum CEO řízení umělé inteligence… je jedním z prvků, které jsou nejvíce spojeny s vyšším self-reportovaným dopadem na spodní řádek organizace z použití umělé inteligence,“ podtrhující obchodní výhody tohoto přístupu. V tomto ohledu budování silných etických rámců do systémů umělé inteligence představuje osvícený sebezáchov.

Mimo vše ostatní je to prostě správné. Postavili jsme naši globální etickou politiku umělé inteligence kolem stejného principu: že pokročilé technologie musí sloužit lidem a společnosti, ne naopak. To odráží širší vizi Společnosti 5.0: lidsky orientovaný model inovací, který kombinuje ekonomický pokrok s řešením sociálních výzev.

Pokud mají technologie, jako je umělá inteligence, vytvořit šťastější a harmoničtější společnost, musí být postaveny na silných etických základech. To začíná zaměřením se nejen na standardy, které organizace musí dodržovat, ale také na standardy, které by chtěly dosáhnout.