Jak se AI stalo největším kanálem pro únik dat

Vedoucí podniků investovali miliardy do nástrojů AI, aby urychli produktivitu a inovace. Ale nejnovější data odhalují vážné riziko, které mnoho organizací nevidělo. Tytéž platformy AI, které pomáhají zaměstnancům pracovat rychleji, se staly největším kanálem pro citlivá data, která opouštějí firemní prostředí. Nedávné zjištění ukazuje, že 77 % zaměstnanců vkládá data do generativních nástrojů AI a 40 % souborů nahrávaných do těchto platforem obsahuje osobní identifikační informace nebo platební kartové údaje. To se děje právě teď, v měřítku, napříč organizacemi, které se domnívají, že mají řádné bezpečnostní kontroly. To ukazuje fundamentální nesoulad mezi tím, jak si společnosti myslí, že se AI používá, a tím, co se skutečně děje, když zaměstnanci pracují s těmito nástroji denně. Porozumění tomuto posunu je prvním krokem k vytvoření bezpečnostních strategií, které odpovídají nové realitě.

Jak se AI stalo novým vektorem úniku dat

Před dvěma lety téměř neexistovaly generativní nástroje AI v podnikových pracovních postupech. Dnes 45 % všech podnikových zaměstnanců aktivně používá platformy AI, z nichž 11 % všech podnikových aktivit probíhá na těchto nástrojích. ChatGPT sám dosáhl 43% penetrace zaměstnanců, tempo, kterého jiné komunikační platformy dosáhly za desetiletí.

Rychlost tohoto přijetí vytvořila bezpečnostní vakuum. Tradiční systémy prevence ztráty dat byly postaveny pro přenos souborů, e-mailové přílohy a síťový provoz. Nebyly navrženy pro monitorování toho, co zaměstnanci zadávají do rámců dotazů nebo vkládají do chatovacích rozhraní. Tento slepý skvrn se stal primární cestou úniku citlivých informací.

Generativní AI nyní představuje 32 % všech pohybů dat z firemních na osobní účty. To z něj činí největší kanál pro únik dat, předčasně převážející sdílení souborů, e-mail a každý jiný kanál, který bezpečnostní týmy roky snažily zabezpečit. Problém není jen objem, ale také povaha úniku. Když někdo nahrává dokument na server souborů, existuje záznam. Když vkládá zákaznická data do AI dotazu, tento přenos často probíhá mimo jakékoli systémy protokolování nebo monitorování.

Problém osobního účtu

Problém není použití nástrojů AI, ale způsob, jakým zaměstnanci k nim přistupují. Modely podnikové bezpečnosti předpokládají, že zaměstnanci používají firemní účty s jednotným přihlašováním, protokolováním a dohledem. Data ukazují, že toto předpoklad je chybné a že asi 67 % použití AI probíhá prostřednictvím nespravovaných osobních účtů. Tyto jsou adresy Gmail, osobní účty Microsoftu nebo přímé registrace, které obcházejí firemní identifikační systémy úplně. Když zaměstnanec přihlašuje do ChatGPT se svou osobní e-mailovou adresou, společnost nemá žádnou viditelnost do toho, jaké otázky klade, jaké údaje sdílí nebo jaké citlivé informace se mohou objevit v odpovědích.

I když zaměstnanci používají firemní účty, tyto přihlašovací údaje často postrádají federaci. 83 % přihlášení ERP a 71 % přihlášení CRM probíhá bez jednotného přihlašování. To znamená, že firemní přihlášení nabízí téměř žádnou další bezpečnost nebo viditelnost než osobní účet. Uživatelské jméno může mít firemní doménu, ale autentizace umožňuje stejné neviditelné toky dat.

Kopírování a vkládání: Neviditelný únik dat

Tradiční strategie prevence ztráty dat (DLP) byly postaveny s důrazem na systémy souborů. Monitorují nahrávání, stahování a přílohy. Ale data ukazují, že skutečným zdrojem úniku dat nejsou soubory. Je to kopírování a vkládání. 77 % zaměstnanců vkládá data do generativních nástrojů AI. 82 % této aktivity pochází z nespravovaných osobních účtů. Průměrně každý zaměstnanec provede 15 vkládání denně pomocí svých osobních účtů a alespoň čtyři z nich obsahují citlivé osobní identifikační údaje nebo platební kartové informace.

To znamená, že citlivé informace již nejsou pouze přenášeny prostřednictvím nahrávání souborů. Jsou také přímo vkládány do dotazů, chatovacích oken a textových polí. Tyto přenosy bez souborů jsou téměř neviditelné pro tradiční systémy DLP. Probíhají na vysoké frekvenci, napříč několika platformami a mimo firemní dohled.

Výsledkem je nepřetržitý tok citlivých dat opouštějících organizaci způsoby, které jsou obtížně detekovatelné. Kopírování a vkládání se stalo novým kanálem úniku a nástroje AI jsou číslem jedna destinací.

Citlivé soubory v nesанкcionovaných destinacích

Nahrávání souborů zůstává centrální částí podnikových pracovních postupů. Ale destinace se změnily. Zaměstnanci již neomezují nahrávání na schválené úložiště nebo e-mail. Přenášejí soubory do generativních nástrojů AI, spotřebitelských aplikací a stínových SaaS platforem.

Data ukazují, že 40 % souborů nahrávaných do generativních nástrojů AI obsahuje osobní nebo finanční údaje. 41 % souborů nahrávaných do platforem úložiště souborů obsahuje stejné. Téměř 4 z 10 těchto nahrávání probíhají prostřednictvím osobních účtů.

To znamená, že citlivé údaje proudí do prostředí, kde podniky nemají žádnou viditelnost nebo kontrolu. Jakmile je soubor nahrán do osobního Google Drive, WhatsApp chatu nebo AI dotazu, je efektivní mimo firemní prostory. Nemůže být stopován, omezen nebo smazán.

Destinace jsou rozmanité. Podnikové nástroje jako Egnyte a Zendesk se objevují vedle spotřebitelských platforem jako Canva, LinkedIn a WhatsApp. Toto prolínání podnikových a spotřebitelských ekosystémů rozostřuje hranice, kde firemní data sídlí. Také ukazuje limity tradiční DLP, která byla navržena pro schválené kanály a centralizovanou kontrolu.

Co to znamená pro podnikovou bezpečnost

Tradiční bezpečnostní perimetr se zhroutil. Dříve bylo možné kontrolovat data řízením sítí, zabezpečováním koncových bodů a monitorováním schválených aplikací. Tento model předpokládá, že práce probíhá uvnitř firemních systémů a pouze občas využívá externí platformy prostřednictvím řízených kanálů.

Realita je taková, že práce nyní probíhá v prohlížečích, napříč desítkami aplikací, prostřednictvím firemních i osobních účtů, metodami, které nevytvářejí žádný auditní stop. Zaměstnanec, který vyšetřuje zákaznickou otázku, může prohledávat interní systémy, vkládat výsledky do ChatGPT pro souhrn, kopírovat tento souhrn do Slacku pro sdílení s kolegy a přeposílat jej prostřednictvím osobního e-mailu pro pozdější přehled. Každý krok zahrnuje citlivé údaje pohybující se prostřednictvím kanálů, které tradiční nástroje nevidí.

Prohlížeč se stal primárním pracovištěm, ale bezpečnostní kontroly tomu nevyhovují. Zaměstnanci tráví dny přecházením mezi aplikacemi a data ukazují, že dělají málo rozdílu mezi firemními a osobními nástroji. Používají cokoli, co funguje, co je vhodné, co nevyžaduje čekání na schválení IT. To vytváří prostředí, ve kterém citlivé informace neustále proudí ven prostřednictvím neviditelných kanálů.

Přemýšlení o podnikové bezpečnosti pro éru AI

Řešením není blokovat nástroje AI nebo zakázat osobní účty rovnou. Tyto přístupy selhávají, protože bojují proti tomu, jak zaměstnanci skutečně pracují. Tyto nástroje existují, protože dělají lidi produktivnějšími. Osobní účty se šíří, protože firemní poskytování je pomalé a restriktivní. Bezpečnost, která ignoruje tyto reality, bude prostě obcházena.

Účinná ochrana vyžaduje viditelnost na úrovni prohlížeče, kde práce skutečně probíhá. To znamená monitorovat nejen nahrávání souborů, ale také operace vkládání, odesílání formulářů, interakce s dotazy a každou jinou cestu, jak data pohybují mezi systémy. To znamená vynucovat zásady, které rozlišují mezi firemními a osobními účty, bez ohledu na to, kterou aplikaci někdo používá.

Organizace potřebují rozšířit prevenci ztráty dat za hranice souborů a zahrnout přenosy bez souborů. Dotaz odeslaný do ChatGPT by měl obdržet stejnou kontrolu jako e-mailová příloha. Operace vkládání do Slacku by měla spustit stejné kontroly jako nahrání do Google Drive. Metoda přenosu by neměla určovat, zda platí bezpečnost.

Kontrola identity musí být skutečně vynucena. Nestačí nabízet jednotné přihlašování, pokud zaměstnanci mohou stále přistupovat k podnikovým aplikacím prostřednictvím osobních účtů. Federovaná autentizace musí být povinná pro každou aplikaci, která zpracovává citlivé údaje, ne volitelná. Nespravované firemní přihlašovací údaje by měly být považovány za bezpečnostní riziko, kterým jsou.

Podstatné

AI se stalo nejrychleji rostoucí kategorií v podnikovém softwaru. Stalo se také největším kanálem pro únik dat. 77 % zaměstnanců vkládá data do nástrojů AI. 40 % nahrávaných souborů obsahuje citlivé informace. Většina této aktivity probíhá prostřednictvím nespravovaných účtů. Staré bezpečnostní perimetry již neexistují. Většina práce probíhá v prohlížečích a dokonce i jednoduché akce, jako je vkládání textu, mohou vést k únikům. Společnosti, které neaktualizují své bezpečnostní strategie pro tuto novou realitu, již ztrácejí kontrolu nad svými nejcennějšími daty.