Proč zákazy AI zvyšují bezpečnostní rizika a jak by na ně měly instituce reagovat

Ačkoli se po celé Spojených státech školy a veřejné organizace snaží omezit nebo zablokovat přístup k technologiím generativní umělé inteligence (GenAI) nebo konkrétním nástrojům, je třeba si uvědomit, že takový přístup může mít opačný efekt. Školský okres Boulder Valley ve státě Colorado nedávno zakázal používání ChatGPT na svých sítích a to kvůli obavám z možného zneužití, ohrožení bezpečnosti a akademické integrity.

Pochopitelně je snaha omezit rizika spojená s bezpečností a zneužíváním dat. Platformy s nedostatečnými bezpečnostními opatřeními nebo nejasnými závazky k ochraně soukromí, jako je DeepSeek, si zaslouží omezení a kontrolu. Avšak zákaz přístupu k nástrojům GenAI nemusí významně snížit rizika, ale spíše je přesune do prostředí, kde dohled chybí.

Průzkum College Board ukázal, že 84 % studentů středních škol uvedlo, že používají GenAI pro školní práce, a to i přesto, že 45 % ředitelů škol uvedlo, že existují určitá omezení přístupu k AI ve školách. Podobně zpráva IBM zjistila, že 80 % zaměstnanců používá AI, ale pouze 22 % se výhradně spoléhá na nástroje poskytované zaměstnavatelem.

Zásady přístupu samy o sobě nejsou určujícím faktorem chování. Studenti mohou použít své telefony a přístup k jakémukoli nástroji AI přes svoji mobilní síť, nebo použít platformu doma nebo na veřejném wifi. Mohou také použít VPN, vzdálené plochy a pluginy, aby obešli omezení. Zaměstnanci mohou udělat totéž, aby obešli firemní kontroly.

Organizace by měly předpokládat, že pokud existuje vůle používat AI, existuje i způsob, jak to udělat. Když je technologie omezena způsobem, který tlačí její použití mimo institucionální viditelnost, riziko stínové AI se zvyšuje. Neexistuje žádný dohled nad tím, jaké informace jsou vkládány do promptů, nebo jaké údaje jsou uchovávány modelem. Jakákoli kontrola nad bezpečností je okamžitě ztracena.

Mimo riziko stínové AI, zákazy vytvářejí mezeru v gramotnosti, která zanechává studenty zcela nepřipravené na použití technologie, která bude velkou částí jejich budoucnosti. Tyto nástroje jsou stále více začleňovány do vyhledávačů, obchodních platforem, produktivních sad a osobních zařízení. Průzkum Pew Research ukázal, že 62 % amerických dospělých uvedlo, že interagují s AI alespoň několikrát týdně. Je prakticky jisté, že studenti a zaměstnanci budou遇ávat systémy GenAI bez ohledu na institucionální politiky.

V tomto prostředí je vzdělávání nejspolehlivější zárukou proti obavám o zneužití nebo bezpečnost a zároveň zajišťuje, že studenti a pracovníci jsou dobře připraveni na použití nástroje, který bude integrovanou součástí jejich kariéry. Učením zodpovědného a etického používání se uživatelé naučí rozpoznávat rizika spojená s daty a činit informovaná rozhodnutí, kdykoli narazí na tyto systémy.

Vzdělávací programy by se měly zaměřit na to, jak velké jazykové modely (LLM) zpracovávají a uchovávají data, jak identifikovat halucinace, jak ověřovat výstupy generované AI a jak identifikovat kampaně phishingu a obrázky generované AI, aby zmínili alespoň beberapa. Učte uživatele být skeptičtí. Výstupy AI jsou často prezentovány sebevědomě a v elegantním jazyce, což může vytvořit iluzi autority. Bez výcviku uživatelé mohou předpokládat, že dobře formátovaná odpověď je sama o sobě přesná.

Schopnost zpochybnit digitální obsah je první linie obrany, protože deepfakes a kampaně phishingu zesílené AI se stávají stále sofistikovanějšími. Průzkum Gartner ukázal, že 62 % organizací zažilo loňského roku útok deepfake a 32 % čelilo útoku na aplikace AI. Četnost a rozsah těchto incidentů se očekává, že budou dále růst.

Veřejné instituce, jako jsou školy a místní vlády, jsou zvláště zranitelné vůči deepfake-enabled sociálnímu inženýrství, protože tolik jejich činnosti je zaznamenáno a veřejně dostupné. Audio ukázky z veřejných setkání mohou být manipulovány a použity k generování přesvědčivých telefonních hovorů. Viděli jsme, jak útočníci používají tuto taktiku pro podvody, jako je přesměrování finančních prostředků během citlivých transakcí. Ačkoli k tomu dochází nejčastěji v cílených případech, uživatelé, kteří nebyli nikdy školeni k rozpoznání těchto technik, nebo kteří ani nevědí, že jsou možné, jsou znevýhodněni od samého začátku.

Po vzdělávání by organizace měly mít jasně komunikované politiky týkající se používání AI a řízení. Tyto politiky by měly definovat schválené nástroje, přijatelné použití a údaje, které lze nebo nelze vkládat do modelů. Politiky je třeba uplatňovat konzistentně napříč odděleními, spíše než lišit se od třídy ke třídě nebo od kanceláře ke kanceláři. Jasná očekávání snižují nejednoznačnost a posilují odpovědnost.

Místo celkových omezení by organizace měly snažit se tvarovat, jak je technologie používána v praxi. Když organizace schválí nástroj, který je přístupný, bezpečný a funguje dobře, stává se výchozím bodem pro většinu uživatelů. Neformální použití stínové AI se snižuje, protože existuje přímá alternativa, která nevyžaduje stahování VPN pro její použití.

Organizace a instituce se snaží poskytnout bezpečný přístup k LLM, aby jejich data byla zabezpečena a nebyla sdílena nebo použita pro školení. Rozrůstající se kategorie nástrojů pro povolení AI a bezpečnost se objevuje, aby přesně tohle zajistila. Tyto nástroje mohou poskytnout přístup k více LLM, zatímco data instituce zůstanou bezpečně kontejnerizována. Dohody o nulovém uchovávání dat poskytují právní rámec pro zajištění, že data organizace zůstanou vlastnictvím společnosti nebo instituce a LLM nemůže být na nich trénován. Kromě toho, pokud zaměstnanec opustí instituci, veškeré použití AI, pracovní postupy nebo data zůstanou vlastnictvím organizace.

Technické zábrany lze také aplikovat na úrovni funkcí. Instituce může umožnit studentům nebo zaměstnancům klást obecné otázky v rámci schváleného LLM, zatímco zakáže nahrávání souborů, sdílení dokumentů nebo další funkce s vysokým rizikem. Tyto konfigurace zachovávají výhody produktivity, aniž by otevíraly dveře k nekontrolovanému vystavení dat.

Více pokročilé nástroje mohou automaticky anonymizovat citlivé informace, než se vůbec dostanou k modelu. Například nahrazují jména pacientů nebo identifikátory neutrálními placeholdery, aby lékaři a zdravotní sestry mohli používat GenAI bez vystavení chráněných dat. Jiné integrují kontroly prevence ztráty dat, které detekují a blokují čísla sociálního zabezpečení, finanční účetní údaje nebo jinou regulovanou informaci, aby se zabránilo jejich zadání do promptů.

Jasná politika s technickými zábranami, postavená na základě vzdělávání, vytváří nejlepší obranu, zejména vzhledem k tomu, jak rychle se technologie mění. GenAI se vyvíjí rychleji, než většina veřejných institucí – a jejich rozpočtů – může přizpůsobit. Pokusy zablokovat každou novou platformu, jakmile se objeví, jsou neudržitelné, protože do doby, než je jedna platforma omezena, další již získala trakci. Uživatelé, kteří jsou školeni k pochopení základních rizik, mohou se přizpůsobit napříč nástroji a verzemi.

Bezpečnost v prostředí s umělou inteligencí závisí na uznání reality, že GenAI je nyní integrována do každodenního života. Není možné vrátit génia zpět do lahve. Celkové zákazy mohou signalizovat opatrnost, ale často vyměňují viditelná, řiditelná rizika za neviditelná, neřízená rizika. Učte člověka, aby používal AI zodpovědně, a bude připraven na cokoli, co přijde dál.