Myslitelé

Jak kultura rizik umělé inteligence formuje rozhodnutí organizací

Chad LeMaire
Přidejte Unite.AI mezi své preferované zdroje na Google
Klíčové bodyEfektivní kultura řízení rizik AI vyžaduje, aby CISO a vedoucí oddělení sdíleli důkazy…
Zobrazit více
  • Efektivní kultura řízení rizik AI vyžaduje, aby CISO a vedoucí oddělení sdíleli důkazy a hovořili jedním hlasem.
  • Střední management rozhoduje o tom, zda se pokyny k rizikům zakotví v každodenním provozu, nebo budou obcházeny.
  • Škálování kultury řízení rizik AI závisí na čistých a propojených datech, aby se zabránilo tomu, že modely budou produkovat chybné výstupy.

Příspěvek a schopnost umělé inteligence mít velký dopad byly v posledních letech většinou pouze „řeč“, ale nyní se dostala do každé společnosti, ať už se jedná o využití LLM, automatizované pracovní postupy, nebo plně autonomní agenty. Nicméně spěchat s implementací této technologie bez řádných bezpečnostních zábran může být škodlivé pro architekturu organizace, ohrozit IT infrastrukturu a nakonec ohrozit jejich konkurenční výhodu. Kromě toho mohou nedokonalé programy umělé inteligence a nedostatečné datové základy způsobit více rizik a zranitelností než efektivity.

To je důvod, proč společnosti potřebují přijmout a implementovat zralou kulturu rizik umělé inteligence, která priorizuje protokoly a postupy před zisky a agilitou. To nejen zlepší celkovou bezpečnostní pozici organizace, ale také zajistí, že pracovní postupy umělé inteligence jsou efektivní a založené na kontextových datech. Účinná kultura rizik umělé inteligence není definována pouze technologií, ale i vnitřní synergií vytvořenou, když CISO a vedoucí oddělení vidí stejné důkazy a mluví jedním hlasem.

Vytvoření transparentní, měřitelné kultury rizik umělé inteligence

Aby bylo možné vytvořit úspěšnou kulturu rizik umělé inteligence, CISO a bezpečnostní lídři potřebují vybavit týmy, aby praktikovaly rychlé, etické úsudky a odstoupily od slepé compliance, když se jedná o integraci umělé inteligence. To začíná definicí, jak kultura rizik umělé inteligence může být sladěna s obchodními cíli. Tato definice umožňuje lídrům měřit, zda zaměstnanci přijímají rizikově vědomé chování, účastní se otevřených diskusí a přispívají ke kultuře proaktivního řízení rizik.

Existují tři hlavní měřicí přístupy, které mohou určit, kde je třeba provést úpravy a jak efektivní je program: behaviorální a incidentní reakční metriky, identifikace rizik a metriky zapojení a povědomí. Incidentní reakční metriky měří účinnost bezpečnostních programů a behaviorální metriky analyzují chování uživatelů před, během a po incidentu umělé inteligence. Metriky identifikace rizik sledují potenciální hrozby umělé inteligence předtím, než se materializují. Metriky zapojení a povědomí sledují účinnost školení a chování zaměstnanců při snižování rizik s aplikacemi umělé inteligence.

Tyto metriky nejen definují účinnost bezpečnostních opatření a obrany, když se jedná o projekty umělé inteligence, ale také odhalují, zda zaměstnanci přijímají rizikově vědomé chování, cítí se bezpečně, když hlásí problémy, a aktivně priorizují proaktivní řízení rizik. Pomáhají identifikovat, kde existuje tření, jako je například neochota vyjadřovat obavy nebo nekonzistentní diskuse o rizicích. Toho lze dosáhnout pouze tehdy, pokud jsou metriky jasně komunikovány, aby zaměstnanci rozuměli, jak přispívají k větší kulturní změně v rámci organizace.

Kde kultura rizik umělé inteligence selhává nebo škáluje

Úspěch těchto měření nakonec závisí na tom, jak lídři a manažeři překládají tyto výsledky do udržitelných chování. Zjištění, zda efektivní kultura se stane zakořeněnou nebo fragmentovanou s časem, je zásadní na počátku spuštění této iniciativy, a začíná s vedením, které reprezentuje shora dolů závazek.

Střední management často určuje, zda jsou rizikové pokyny posíleny nebo obejity. Například produktoví manažeři, kteří staví bezpečnostní požadavky do roadmap, pomáhají zakořenit povědomí o rizicích, zatímco ti, kteří je odkládají až po vydání, podkopávají kulturu, kterou vedení mělo v úmyslu vytvořit. Nedostatek závazku shora dolů, únava ze změn a nestabilita a nedostatečné datové základy mohou zastavit kulturu rizik umělé inteligence, než vůbec začne.

Tento typ kultury nebude prosperovat, pokud nebude vytvořen v prostředí, kde se zaměstnanci cítí pohodlně, když hlásí incidenty. Lídři a manažeři by měli priorizovat vytváření prostoru pro otevřenou diskusi a kontinuální učení. Role musí být jasně definovány, poskytováno kontinuální školení a rozpočty by měly být účinně alokovány.

Zadruhé, organizace, která má vysokou fluktuaci zaměstnanců nebo prodělala nedávnou reorganizaci, může mít bezpečnostní kulturu, která není součástí jejího základu. To může vést k nekonzistentním iniciativám a nejasným prioritám pro zaměstnance. V těchto případech je silné bezpečnostní monitorování na síťové úrovni, které vidí veškerou činnost umělé inteligence a pohyb dat do a ze společnosti, nezbytným záložním řešením, aby se udržely obrany na správné cestě proti halucinacím a manipulaci umělé inteligence. S behaviorálním modelem na síťové úrovni mohou bezpečnostní a IT týmy rychle detekovat, zda jsou služby umělé inteligence zneužívány nebo zda v jejich prostředí fungují neautorizované služby umělé inteligence, a podniknout kroky k eliminaci rizika.

Nakonec škálování kultury rizik umělé inteligence vyžaduje vysoce kvalitní, čisté a propojené údaje, které zajišťují suverenitu dat, konzistenci a soulad s předpisy u dat používaných k trénování platforem a nástrojů umělé inteligence. Špatná kvalita dat může erodovat čitelnost umělé inteligence, což by postupem času mohlo vychylovat modely stále více z kurzu a vést k nesprávným, nekonzistentním a poškozeným výstupům umělé inteligence.

Rozhodování prostřednictvím kultury rizik umělé inteligence

Jakmile se soulad ve vedení, stabilita a zralost dat ujmou, organizace mohou přejít z fragmentovaných reakcí na sjednocené, rizikově informované rozhodování. S podmínkami pro škálování stanovenými se kultura rizik umělé inteligence stává čočkou, skrze kterou lídři interpretují události, hodnotí kompromisy a jednají rozhodně.

Silná kultura rizik umělé inteligence je podporována silnou viditelností, se sdíleným přístupem ke stejné informaci pro bezpečnostní týmy, IT týmy a všechna ostatní oddělení organizace. Když všechny týmy mohou vidět stejné přehledy v reálném čase, včetně časových os, přílivu a odlivu dat a chování spojeného s konkrétními uživateli, existuje více konkrétních důkazů o využití a rizicích umělé inteligence. Například, pokud je nalezen neautorizovaný agent umělé inteligence v rámci organizace, všechny týmy musí být schopny vidět, jak prošel bezpečnostními kontrolami na perimetru, kteří uživatelé s ním interagovali a ke kterým zařízením a systémům agent získal přístup. To umožňuje mezioborové procesy, jako jsou společné postupy pro reakci na incidenty a čtvrtletní přehledy rizik napříč týmy, klíčové signály úspěšné kultury rizik umělé inteligence za hranicemi bezpečnostní organizace.

Podstatné informace

Kultury rizik umělé inteligence začínají jasnou definicí a měřením, ale daří se pouze tehdy, když jsou důvěra, transparentnost a odpovědnost zakořeněny napříč organizací. Závazek vedení, provozní stabilita a silné datové základy určují, zda povědomí o rizicích škáluje do konzistentního, rizikově informovaného chování nebo se hroutí pod tlakem.

Když je riziko umělé inteligence viditelné, sdílené a přeložené do týmových priorit, stává se hnací silou lepšího rozhodování, odolnosti a dlouhodobé konkurenční výhody.

Chad je Chief Information Security Officer ve společnosti ExtraHop. Chad je zodpovědný za všechny aspekty kybernetického bezpečnostního rizika pro ExtraHop, stejně jako za bezpečnost zařízení, personálu a fyzickou bezpečnost. Chad dříve sloužil jako důstojník kybernetických operací v U.S. Air Force po dobu 31 let, kde zastával pět seniorních rolí v oblasti kybernetické bezpečnosti a rozvíjel a implementoval plány rozvoje, strategie a schopnosti kybernetické bezpečnosti, stejně jako radil výkonnému vedení v kritických otázkách kybernetické bezpečnosti. Kromě toho byl kvalifikovaným kybernetickým operátorem a vedl týmy pro vyhledávání hrozeb a reakci na kybernetické incidenty pro globální podnikovou síť. Bezprostředně před ExtraHopem byl Chad Chief Security Officer pro Echelon Risk + Cyber, kde řídil strategii a integraci útočných a obranných bezpečnostních služeb. Také sloužil jako CISO a byl vCISO pro několik klientů.