Nasazení generativní umělé inteligence: Rozbor kybernetických bezpečnostních dopadů nástrojů generativní umělé inteligence

Je spravedlivé říci, že generativní umělá inteligence již upoutala pozornost každé ředitelny a obchodního lídra. Jednalo se o okrajovou technologii, která byla obtížná na ovládnutí, natož na zvládnutí, ale dveře k generativní umělé inteligenci byly nyní otevřeny díky aplikacím, jako jsou ChatGPT nebo DALL-E. Nyní jsme svědky celkové přijetí generativní umělé inteligence ve všech odvětvích a věkových skupinách, protože zaměstnanci objevují způsoby, jak využít technologii ve svůj prospěch.

Recentní průzkum ukázal, že 29 % respondentů z generace Z, 28 % z generace X a 27 % z generace Millennialů nyní používají nástroje generativní umělé inteligence jako součást své denní práce. V roce 2022 byla velká přijetí generativní umělé inteligence na 23 % a předpokládá se, že se tento počet zdvojnásobí na 46 % do roku 2025.

Generativní umělá inteligence je zárodečná, ale rychle se vyvíjející technologie, která využívá trénované modely k vytváření původního obsahu v různých formách, od psaného textu a obrázků až po videa, hudbu a dokonce i softwareový kód. Používáním velkých jazykových modelů (LLM) a enormních datových sad může technologie okamžitě vytvářet jedinečný obsah, který je téměř nerozeznatelný od lidské práce a v mnoha případech je přesnější a přesvědčivější.

Avšak zatímco podniky stále více využívají generativní umělou inteligenci k podpoře svých denních operací a zaměstnanci byli rychlí v přijetí, tempo přijetí a nedostatek regulace vyvolaly významné kybernetické a regulační problémy.

Podle jednoho průzkumu obecné populace je více než 80 % lidí znepokojeno bezpečnostními riziky, která představuje ChatGPT a generativní umělá inteligence, a 52 % dotázaných chce, aby se vývoj generativní umělé inteligence zastavil, aby se mohly vyvinout regulace. Tento širší postoj byl také vyjádřen podniky samotnými, s 65 % seniorních IT lídrů, kteří nejsou ochotni schválit bezproblémový přístup k nástrojům generativní umělé inteligence z důvodu bezpečnostních obav.

Generativní umělá inteligence je stále neznámá neznámá

Nástroje generativní umělé inteligence se živí daty. Modely, jako jsou ty, které používají ChatGPT a DALL-E, jsou trénovány na externích nebo volně dostupných datech na internetu, ale aby uživatelé mohli získat maximum z těchto nástrojů, musí sdílet velmi specifická data. Často, když uživatelé vyvolávají nástroje, jako je ChatGPT, sdílejí citlivé obchodní informace, aby získali přesné a komplexní výsledky. To vytváří mnoho neznámých pro podniky. Riziko neoprávněného přístupu nebo neúmyslného vyzrazení citlivých informací je “zabudováno” při používání volně dostupných nástrojů generativní umělé inteligence.

Toto riziko samo o sobě není nutně špatná věc. Problém je, že tato rizika nebyla dosud řádně prozkoumána. Dosud nebyla provedena žádná skutečná analýza dopadů na podniky při používání široce dostupných nástrojů generativní umělé inteligence a globální právní a regulační rámce pro používání generativní umělé inteligence jsou dosud nedozrálé.

Regulace je stále ve vývoji

Regulátoři již vyhodnocují nástroje generativní umělé inteligence z hlediska ochrany soukromí, bezpečnosti dat a integrity dat, které produkují. Avšak, jako je často případ u vyvíjející se technologie, regulační aparát pro podporu a řízení jejího použití je několik kroků pozadu. Zatímco technologie je používána společnostmi a zaměstnanci široce, regulační rámce jsou stále velmi na počátku.

To vytváří jasná a aktuální rizika pro podniky, která v současné době nejsou brána dostatečně vážně. Výkonní ředitelé jsou přirozeně zainteresováni na to, jak tyto platformy přinesou materiální obchodní zisky, jako jsou příležitosti pro automatizaci a růst, ale manažeři rizik se ptají, jak bude tato technologie regulována, jaké budou právní důsledky a jak mohou být firemní data ohrožena nebo zveřejněna. Mnoho z těchto nástrojů je volně dostupných pro každého uživatele s prohlížečem a internetovým připojením, takže zatímco čekají na regulaci, podniky musí začít velmi pečlivě uvažovat o svých vlastních “domácích pravidlech” pro používání generativní umělé inteligence.

Role CISO ve správě generativní umělé inteligence

S regulačními rámci, které jsou dosud nedozrálé, musí hlavní informační bezpečnostní úředníci (CISO) sehrát zásadní roli ve správě používání generativní umělé inteligence ve svých organizacích. Musí pochopit, kdo používá technologii a za jakým účelem, jak chránit firemní informace, když zaměstnanci interagují s nástroji generativní umělé inteligence, jak spravovat bezpečnostní rizika základní technologie a jak vyvážit bezpečnostní kompromisy s hodnotou, kterou technologie nabízí.

To není jednoduchý úkol. Měly by být provedeny podrobné analýzy rizik, aby se určily jak negativní, tak pozitivní výsledky z nasazení technologie v oficiální kapacitě a umožnění zaměstnancům používat volně dostupné nástroje bez dohledu. Vzhledem k snadnému přístupu k aplikacím generativní umělé inteligence budou CISO muset pečlivě uvažovat o firemní politice týkající se jejich používání. Měli by zaměstnanci být svobodni využívat nástroje, jako je ChatGPT nebo DALL-E, aby usnadnili svou práci? Nebo by měl být přístup k těmto nástrojům omezen nebo moderován nějakým způsobem, s interními směrnicemi a rámci o tom, jak by měly být používány? Jeden zřejmý problém je, že i kdyby byly vytvořeny interní směrnice pro používání, vzhledem k tempu, jakým se technologie vyvíjí, mohly by být zastaralé ve chvíli, kdy budou finalizovány.

Jedním ze způsobů, jak tento problém řešit, by mohlo být soustředit se na klasifikaci a ochranu dat. Klasifikace dat vždy byla klíčovým aspektem ochrany dat před porušením nebo únikem a to platí i v tomto konkrétním případě. Zahrnuje přiřazování úrovně citlivosti dat, která určuje, jak by měly být zacházeny. Měly by být šifrovány? Měly by být zablokovány, aby byly obsaženy? Měly by být oznámeny? Kdo by měl mít přístup k nim a kde je povoleno je sdílet? Soustředěním se na tok dat, spíše než na samotný nástroj, budou CISO a bezpečnostní úředníci mít mnohem větší šanci na zmírnění některých z uvedených rizik.

Jako každá vyvíjející se technologie je generativní umělá inteligence jak požehnáním, tak rizikem pro podniky. Zatímco nabízí zajímavé nové schopnosti, jako je automatizace a kreativní konceptualizace, také představuje komplexní výzvy kolem bezpečnosti dat a ochrany duševního vlastnictví. Zatímco regulační a právní rámce jsou dosud ve vývoji, podniky musí samy najít rovnováhu mezi příležitostmi a riziky, implementovat své vlastní politické kontroly, které odrážejí jejich celkovou bezpečnostní pozici. Generativní umělá inteligence bude pohánět podniky dopředu, ale měli bychom být opatrní a držet jednu ruku na volantu.