Pohybujte se rychle, ale neničte věci: Jak vyvážit zodpovědnou adopci AI a inovace

Podle nedávného globálního průzkumu společnosti McKinsey, ačkoli 78 % organizací nyní používá AI alespoň v jedné obchodní funkci, pouze 13 % najalo specialisty na soulad AI a pouhých 6 % má specialisty na etiku AI.

To je, upřímně řečeno, bezohledné chování.

Ačkoli jsem v nedávné minulosti byl velkým zastáncem etosu „pohybujte se rychle a ničte věci“ v Silicon Valley, nemůžeme si dovolit být tak bezstarostní s AI – technologií, která je mocnější než cokoliv, co jsme dosud viděli, a která roste rychlostí světla.

Adopce AI bez smysluplných bezpečnostních zábran je přesně ten druh rychlého a riskantního chování, který je zaručeně nakonec selže a ohrozí vše. Stačí jeden incident AI偏 nebo zneužití, aby byly zmařeny roky budování reputace značky.

A přestože si mnozí CIO a CTO jsou vědomi těchto rizik, zdá se, že jednají na základě předpokladu, že regulátoři nakonec zasáhnou a zachrání je od vytváření vlastních rámců, což vede k mnoha diskusím o rizicích, ale s velmi málo skutečnou kontrolou.

Ačkoli nemám pochyb, že regulace nakonec přijdou, jsem méně přesvědčen, že budou zavedeny brzy. ChatGPT byl uveden zhruba před třemi lety a teprve nyní začínáme vidět věci, jako je setkání Senátu o bezpečnostních rizicích chatbotů, které se konají. Realita je taková, že by mohlo trvat roky, než uvidíme jakoukoli významnou regulaci.

Místo toho, aby se tato skutečnost stala omluvou pro otálení s vnitřní kontrolou, by podniky měly přijmout proaktivnější přístup. Zvláště s ohledem na to, že když regulace nakonec přijdou, společnosti bez vlastních rámců budou bojovat o to, aby se přizpůsobily. To se přesně stalo, když byly zavedeny GDPR a CCPA.

Stejně jako scrappy startupy z počátku tisíciletí jsou nyní považovány za vyšší standardy jako korporátní technologické giganty, do kterých se vyvinuly, musíme kolektivně dospět ve svém přístupu k zodpovědné adopci AI.

Neexistuje „koupit nyní, zaplatit později“ u zodpovědných nasazení AI – začněte hned

Prvním krokem k více zodpovědnému přístupu k AI je přestat čekat na regulátory a stanovit si vlastní pravidla. Jakékoli výhody, které si myslíte, že získáte tím, že se vyhnete bezpečnostním opatřením dnes, vám budou nakonec vráceny, až budete čelit velmi nákladnému a rušivému procesu úpravy.

Samozřejmě, že pro mnohé je problémem to, že nevědí, kde začít. Moje společnost nedávno provedla průzkum mezi 500 CIO a CTO ve velkých podnicích a téměř polovina (48 %) uvedla, že „určení, co tvoří zodpovědné použití nebo nasazení AI“ je výzvou pro zajištění etického použití AI.

Jednoduchým místem pro začátek je rozšířit svůj pohled za hranice funkcí, které umožňuje AI, a zvážit možné rizika. Například, i když použití AI může zaměstnancům ušetřit čas, také otevírá možnost sdílení velkého množství osobních identifikačních informací (PII) nebo obchodních tajemství s neoprávněnými a neschválenými LLM.

Každá digitální společnost dnes je obeznámena se Software Development Life Cycle (SDLC), který poskytuje rámec pro budování kvalitních produktů. Nejlepší praktiky pro řízení AI by měly být začleněny do denního pracovního procesu, aby se zodpovědné rozhodování stalo součástí rutiny, ne až dodatečně.

Řídicí orgán, jako je etický výbor nebo řídící rada, by měl být zřízen, aby definoval standardy pro aplikace AI a metriky pro monitorování a udržení těchto standardů. Funkčně to vypadá jako řízení AI nástrojů a modelů, schvalování řešení, řízení rizik, soulad s předpisy a standardy a transparentní komunikace. Ačkoli to může být technicky „nový“ proces, není příliš odlišný od nejlepších praktik pro data a kybernetickou bezpečnost a může být automatizován, aby zajistil včasnou detekci jakýchkoli problémů.

Samozřejmě, že ne všechna rizika vyžadují stejnou úroveň pozornosti, proto je také důležité vyvinout proces řízení rizik, aby se tým mohl soustředit na to, co bylo definováno jako vysoké priority.

Nakonec a nejpodstatněji, jasná a transparentní komunikace o praktikách řízení, interně i externě, je zásadní. To zahrnuje udržování živých dokumentů pro standardy řízení a poskytování pokračujícího vzdělávání, aby se týmy udržely aktuální.

Přestaňte považovat řízení za hrozbu pro inovace

Je docela možné, že skutečnou hrozbou pro zodpovědnou AI je víra, že řízení a inovace jsou navzájem v rozporu. Naše údaje z průzkumu odrážejí, že 87 % CIO a CTO se domnívá, že příliš mnoho regulací by omezovalo inovace.

Řízení by však mělo být považováno za strategického partnera, ne za nějaký druh brzdy inovací.

Jedním z důvodů, proč je řízení považováno za sílu, která zpomaluje hybnost, je, že je často zavedeno až na konci vývoje produktu, ale bezpečnostní zábrany by měly být součástí procesu. Jak je uvedeno výše, řízení může být začleněno do sprintů, aby se produktový tým mohl pohybovat rychle, zatímco automatizované kontroly pro spravedlnost, zkreslení a soulad běží paralelně. Dlouhodobě se to vyplatí, protože zákazníci, zaměstnanci a regulátoři cítí větší důvěru, když vidí, že zodpovědnost je vestavěna od začátku.

A to se již prokázalo, že přináší finanční výhody. Výzkum ukázal, že organizace s dobře implementovanými rámci pro řízení dat a AI zaznamenávají zlepšení finančního výkonu o 21-49 %. Nedostatek těchto rámců však také přináší své vlastní důsledky. Podle stejného studie bude do roku 2027 většina organizací (60 %) „selhat v realizaci předpokládané hodnoty svých případů použití AI kvůli nekohesivním etickým rámcům řízení“.

Upřesnění k argumentu, že řízení nemusí přijít na úkor inovací, je, že zapojení právních týmů do těchto diskusí skutečně zpomaluje věci. V mém zkušenostech však zřízení týmu pro řízení, rizika a soulad (GRC) jde dlouhou cestu v udržení věcí v plynulém a rychlém chodu, a to tak, že slouží jako most mezi právními a produktovými týmy.

Když je řízení dobře řízeno, tým GRC buduje pozitivní vztahy s právními týmy, slouží jako jejich oči na místě a zajišťuje jim zprávy, které potřebují, a zároveň spolupracuje s vývojovým týmem na zmírnění budoucích rizik žalob a pokut. To nakonec dále zdůrazňuje, že investice do řízení na počátku je nejlepší způsob, jak zajistit, aby neinterferovalo s inovací.

Vytvořte systémy dohledu a řízení, které mohou škálovat

Navzdory tomu, že tolik dotázaných CIO a CTO považuje regulace za omezení inovací, podobně velký procentní podíl (84 %) očekává, že jejich společnost zvýší dohled nad AI v příštích 12 měsících. S ohledem na pravděpodobnost, že integrace AI budou pokračovat a škálovat s časem, je stejně důležité, aby systémy řízení mohly škálovat spolu s nimi.

Jednou věcí, kterou často vidím v raných fázích implementace AI v podnicích, je, že různé jednotky v rámci podniku pracují v izolaci, takže běží různé nasazení současně a s různými vizií toho, co „zodpovědná AI“ znamená. Aby se tyto nekonzistence vyhnuly, podniky by měly zřídit specializované centrum excelence AI, které kombinuje technické, souladné a obchodní odbornosti.

Centrum excelence AI by mělo stanovit jak company-wide standardy, tak i schvalovací procesy se skluzavkou pro nízkorizikové případy použití. To udržuje rychlost, zatímco zároveň zajišťuje, že nasazení s vysokým rizikem projdou více formálními bezpečnostními kontrolami. Centrum excelence by také mělo stanovit ukazatele bezpečnosti AI pro vrcholové manažery, aby se zodpovědnost neztratila v denních obchodních funkcích.

Ale aby se to stalo realitou, manažeři potřebují lepší viditelnost do ukazatelů řízení. Panely, které poskytují údaje o těchto ukazatelích v reálném čase, by byly mnohem účinnější než současné statické zprávy o souladu, které jsou okamžitě zastaralé a často nepřečtené. Ideálně by podniky také měly vytvořit registry rizik AI, podobně jako již nyní sledují rizika kybernetické bezpečnosti, a udržovat auditní stopy, které odrážejí, kdo vytvořil implementaci ML/AI, jak byla testována a jak funguje v průběhu času.

Nejdůležitější poznatek zde je, že zodpovědná AI vyžaduje, aby řízení bylo pokračujícím procesem. Není to jen o schvalování při spuštění, ale o kontinuálním monitorování po celou dobu životnosti modelu. Jako takové je školení klíčové. Vývojáři, technici a manažeři by měli být školeni v zodpovědných postupech AI, aby mohli identifikovat problémy brzy a udržovat vysoké standardy řízení, jak systémy evoluují. Tímto způsobem jsou nasazení AI jistě více důvěryhodná, účinná a zisková – bez nutnosti ničeho rozbití v procesu.