Osvětlení stínu umělé inteligence

Přímo napříč odvětvími zaměstnanci stále více využívají nástroje umělé inteligence (AI), aby transformovali denní operace. Bez ohledu na to, zda se jedná o marketingové profesionály, kteří používají ChatGPT k vypracování kampaní, nebo softwarové inženýry, kteří píší kód s generativními nástroji, AI se tiše integruje do téměř každého aspektu podnikání. Ve skutečnosti projekt MIT NANDA zjistil, že ve více než 90 % organizací zaměstnanci používají osobní účty chatbotů k podpoře své denní práce, často bez dohledu IT, nicméně pouze 40 % společností má oficiální předplatné velkých jazykových modelů (LLM). Tento rozpor mezi schváleným a tajným použitím AI otevřel novou bezpečnostní slepou skvrnu: stínovou AI. 

Bez dohledu může být sdílena citlivá data s externími modely, výstupy mohou být nepřesné nebo předpojaté a týmy compliance ztrácejí přehled o tom, kde a jak je informace zpracovávána. Jak zaměstnanci pokračují v experimentování s nástroji mimo schválené kanály, organizace potřebují redefinovat svou strategii pro správu AI, nebo tyto rizika budou pokračovat v objevování. Pro CIO není řešením zakázat AI nástroje úplně, protože by to mohlo ovlivnit konkurenceschopnost. Místo toho by se mělo zaměřit na přizpůsobitelné zábrany, které vyvažují inovace s odpovědným řízením rizik.

Aby organizace zůstaly jeden krok před riziky souvisejícími s AI, měly by zavednout AI zásady, které podporují odpovědnou adopci. Tyto směrnice by měly povzbudit zaměstnance k použití AI v rozumném rozsahu, a každá zásada musí být sladěna s hodnotami a apetitem organizace k riziku. Aby bylo možné dosáhnout úspěšného programu, organizace musí jít za zastaralými modely governance a nástroji, které neumožňují detekovat nebo sledovat používání AI napříč jejich podnikáním.

Zatímco zavedení AI zásady je důležitým krokem, skutečný klíč spočívá v tom, aby byly tyto zásady navrženy tak, aby byly praktické, vynutitelné a sladěny s inovační vizí a potřebami compliance každého podniku, aniž by bránily jejich pokroku.

Zde jsou čtyři kroky, které organizace mohou podniknout:

1. Určit nejlepší rámec

Podniky nemusí začínat od začátku. Několik předních institucí již vyvinulo rámce, které nabízejí cenné referenční body. Zdroje z Organizace pro ekonomickou spolupráci a rozvoj (OECD), Národního institutu standardů (NIST) a ISO/IEC mohou poskytnout vedení pro bezpečné a efektivní řízení AI. Kromě toho vládní orgány začínají zasahovat. Nové regulace z Evropské unie (EU) stanoví očekávání kolem transparentnosti, odpovědnosti a governance. Společně tyto zdroje pomohou poskytnout silný základ pro podniky, aby vyvinuly a vylepšily své vlastní rámce pro odpovědnou adopci AI.

2. Zvýšit viditelnost AI

Když organizace mapují svou cestu k efektivnímu řízení rizik AI, je zásadní, aby bezpečnostní lídři vyvinuli pevné pochopení toho, jak AI je skutečně používána napříč jejich podnikáním. Měli by investovat do nástrojů, které poskytují viditelnost do aktivity napříč funkcemi. Tyto nástroje mohou monitorovat a přistupovat k chování uživatelů a nebudou ponechávat žádný kámen na místě, pokud jde o identifikaci, kde je generativní AI používána. Toto pochopení je zásadní pro nalezení použití stínové AI a pomoc lídrům vyhodnotit rizika a řešit je.

3. Vytvořit AI radu

Jakmile je zavedena viditelnost, mohou bezpečnostní lídři použít ji k informování nových zásad. Jelikož použití AI ovlivňuje celý podnik, neměli by izolovat proces rozhodování. CISO by měli zvážit vytvoření AI rady, která zahrnuje klíčové stakeholdery z bezpečnostního, právního, IT a C-suite. Ve skutečnosti Gartner uvádí, že 55 % organizací již zavedlo AI radu, zatímco 54 % jmenovalo hlavu AI nebo dedikovaného AI lídra, aby dohlížel na strategii a implementaci.

Tito mezioboroví týmy mohou vyhodnotit rizika a příležitosti, které představují AI nástroje, ať už schválené nebo ne, které začínají infiltrovat jejich podnikatelská prostředí. Mohou poté tvarovat nové zásady, které řeší potřeby jejich podniků a vyvažují rizika.

Například, pokud rada identifikuje populární AI nástroj, který je používán bez schválení a představuje bezpečnostní obavy, může doporučit zákaz této aplikace a schválit bezpečnější alternativu. Tyto zásady by měly být posíleny investicemi do bezpečnostních kontrol a schválených AI platforem, které splňují standardy compliance. Jakmile budou nové pokroky k dispozici, rada může také zavést formální proces pro zaměstnance, aby navrhli nástroje pro ověření, což pomáhá organizaci zůstat adaptivní a v souladu se svou AI strategií.

4. Zpevnit AI vzdělávání

Vzdělávání a zapojení zaměstnanců kolem AI bude další nezbytnou součástí zajištění organizace-wide buy-in a potlačení použití stínové AI. I s správnými modely governance a nástroji závisí úspěch na tom, jak dobře zaměstnanci rozumí a přijmou je.

V jednom Pew Research průzkumu mezi pracovníky, kteří dostali školení na pracovišti (51 %), pouze čtvrtina (24 %) uvedla, že se to týkalo použití AI. Organizace by měly zajistit, aby měly AI školicí programy, které mohou pomoci zaměstnancům pochopit příležitosti a funkcionality dostupné jim. Zvýšené vzdělávání může také pomoci jim růst v jejich kariéře a cítit se více spokojeni ve své pozici.

AI školicí programy by měly mít za cíl jít za základní použití a compliance a pomoci týmům pochopit širší kontext AI a jak funguje v ekosystému jejich podnikání. Témata, která je třeba pokrýt, zahrnují, proč je důležité odpovědné použití AI, jaké zásady existují pro ochranu podniku a jeho zákazníků a jak identifikovat potenciální rizika zpracování dat nebo soukromí. Když jsou zaměstnanci vybaveni správnými znalostmi, jsou povzbuzeni k tomu, aby se stali aktivními partnery v inovacích bezpečně.

Utváření budoucnosti odpovědné AI 

Stínová AI nezmizí brzy. Jakmile se generativní technologie dále integrují do denních pracovních postupů, výzvy pro organizace budou pouze intenzivnější. Lídři nyní stojí před volbou, zda pohlížet na stínovou AI jako na nekontrolovatelnou hrozbu nebo ji uznat jako příležitost k maximalizaci efektivity a produktivity, pokud je řádně spravována.

Vyvinout AI zásadu nebo radu není jednorázový akt. Stejně jako AI rychle evoluuje, musí i strategie organizace. AI může pomoci vést chytřejší rozhodnutí, urychlit inovace a zvýšit produktivitu napříč každou funkcí. Ale aby tyto zisky byly udržitelné, zaměstnanci musí rozumět, jaké nástroje jsou jim k dispozici, a jak je používat odpovědně. Ti, kteří uspějí, zůstanou agilní, proaktivně revidují své zásady, aby zůstali před změnou, ne za ní.