Stínová AI džungle: Proč schválení platformy není totéž jako zabezpečení toho, co na ní bylo postaveno

Adopce podnikového AI je daleko od bezproblémové. Obavy o kontrolu dat, soulad s předpisy a zabezpečení doprovázejí každý stupeň cesty. Ale když organizace zvyšují své operace na hlavních platformách, jako jsou Microsoft (MSFT ), Salesforce (CRM ) a ServiceNow, existuje rostoucí pocit, že nejobtížnější otázky řízení jsou alespoň částečně řešeny. Podnikové dohody jsou na místě. Bezpečnostní kontroly byly dokončeny. Platformy jsou schváleny.

To, co tato důvěra často přehlíží, je úplně jiná otázka: ne zda je platforma zabezpečena, ale co a kdo staví.

Přes průmysly je tiše probíhající revoluce, kdy netechničtí zaměstnanci používají podnikové AI platformy k vytváření autonomních agentů, automatizovaných pracovních postupů a aplikací propojených s daty, často během několika minut, bez nutnosti psát jediný řádek kódu. Svobodní od tradičních vývojových lhůt a omezení, tito stavbaři jsou prokletím organizační efektivity. Ale tyto nástroje nejsou nikdy přezkoumány bezpečnostním týmem. V mnoha případech bezpečnostní týmy nevědí, že existují.

Tyto nástroje, zda klasifikovány jako aplikace, agenti nebo automatizace, jsou součástí rostoucího problému známého jako Stínová AI, a představují jeden z nejvýznamnějších posunů v podnikovém riziku za posledních deset let, a to z velmi jednoduchého důvodu, že hrozby se nyní přesunuly dovnitř.

Původní problém Stínového IT byl relativně přímočarý: zaměstnanci používali neautorizované nástroje z vnějšku organizace, a úkolem zabezpečení bylo je najít a zablokovat. Stínová AI je úplně jiná výzva. Nástroje jsou uvnitř schválených platforem. Lidé, kteří je staví, jsou vaši vlastní zaměstnanci. Přístup, který používají, je legální. A nic z toho neprochází bezpečnostními procesy navržené k odchycení problémů předtím, než dosáhnou produkční fáze.

To, co toto zvláště obtížné řešit, je měřítko. Většina bezpečnostních lídrů podstatně podceňuje, kolik se staví uvnitř jejich vlastních prostředí. Nedávný výzkum provedený u více než 200 podnikových CISO a bezpečnostních lídrů ukázal, že průměrný podnikový bezpečnostní tým může zodpovědět pouze 44% AI agentů, automatizací a aplikací, které jejich obchodní uživatelé vytvořili. To není mezera. To je slepá skvrna, která pokrývá většinu toho, co běží.

Důvod je přímočarý: obchodní uživatelé nyní převyšují profesionální vývojáře až o 10:1 v některých organizacích. Stále staví napříč všemi odděleními, na platformách, které byly navrženy tak, aby stavba byla snadná, a poté povzbuzeni vrcholovým vedením, aby stavěli. Bezpečnostní týmy jsou orientovány kolem developerských kanálů a repozitářů kódu. Nikdy nebyly navrženy k monitorování toho.

Nejběžnější omyl je víra, že schválení platformy řeší bezpečnostní problém. Není tomu tak, pouze ho přesouvá. Když podnik podepíše dohodu s Microsoftem, Salesforcem nebo UiPath (PATH ), poskytovatel platformy zabezpečuje svou infrastrukturu. To, co zaměstnanci postaví na ní a jak ji nakonfigurují, je zcela v odpovědnosti podniku.

Problém je, že nástroje, které obchodní uživatelé vytvářejí, se tradičním bezpečnostním systémům nejeví jako software. Není žádný kód, který by se dal prozkoumat, žádný repozitář, který by se dal monitorovat, žádný kanál, který by se dal prohlédnout. AI agent postavený personálním manažerem prostřednictvím série menu a textových příkazů je, z pohledu většiny bezpečnostních nástrojů, neviditelný.

A přesto jsou tyto nástroje daleko od triviálních. Výzkum ukázal, že více než polovina CISO potvrdila, že aplikace postavené obchodními uživateli nyní podporují podnikově kritické procesy a mají přístup k citlivým firemním údajům. Sázky jsou reálné a dohled dosud nedožadil.

Od nuly k katastrofě

Případy použití jsou tak rozmanité, jako jsou četné a pocházejí z téměř všech oddělení, dokonce i z těch, která by se nikdy nezdála být na očích bezpečnostního týmu.

Například marketingový koordinátor postaví zákaznickou AI na plně schválené platformě, aby odpověděl na otázky o produktech. Za několik minut je aplikace spuštěna, ale jako někdo, kdo nemá bezpečnostní školení, dvě malé chyby v konfiguraci zůstanou nezpozorované a ponechají agenta s přímým přístupem k celé firemní databázi a bez hranic toho, co může získat. V produkční fázi uživatel požádá agenta, aby získal údaje o zaměstnancích. Udělá to. Protože agent má také e-mailovou schopnost, uživatel mu přikáže, aby tyto údaje odeslal na osobní adresu. Celá sekvence trvá méně než šedesát sekund. Žádný neautorizovaný přístup. Žádné porušení platformy. Žádné bezpečnostní upozornění.

To není sofistikovaný útok. Je to předvídatelný výsledek dobře míněného zaměstnance, který postavil něco, co plně nepochopil, na platformě, která učinila stavbu snadnou a řízení volitelným.

Mezera ve správě, kterou nikdo nevyčíslil

Pro většinu organizací zůstává problém Stínové AI abstraktní, dokud se něco nepokazí. Ale podnikové riziko sahá hlouběji než reakce na porušení.

Když obchodní postavený agent únikne citlivých údajů, otázka, kterou představenstvo položí, nebude „jak se stalo porušení?“ Ale „jak nikdo nevěděl, že nástroj běží?“ NEROZLIŠUJÍ mezi porušením způsobeným externím útočníkem a tím, které způsobila nesprávně nakonfigurovaná interní nástroj. Pokud byly osobní údaje zveřejněny a organizace postrádala přehled o tom, co běží, absence dohledu je sama o sobě závadou. „Zaměstnanec postavil to na schválené platformě“ není obrana, to je popis mezery.

Nutnost je skutečná, ale záměr a provedení nejsou totéž, a pro většinu podniků mezera mezi nimi zůstává široce otevřená.

Odpověď není omezit, kdo může stavět. Zablokování občanského rozvoje by obětovalo skutečné zisky z produktivity a ve skutečnosti by to nefungovalo. Zaměstnanci by našli způsoby, jak obejít. Odpověď spočívá v tom, že co se staví, je přivedeno do zorného pole a je řízeno v okamžiku, kdy riziko skutečně vyvstává: běh.

To znamená pochopit nejen to, které agenty existují, ale také jak se chovají, ke kterým údajům mají přístup, které systémy se dotýkají a zda jejich akce zůstávají v mezích, které jejich stavbaři zamýšleli. To znamená stanovení ochranných zábran, které fungují na úrovni organizace, ne pouze v okamžiku konfigurace. A to znamená dostat se do bodu, kdy bezpečnostní týmy mohou odpovědět na nejzákladnější otázky o každém agentovi ve svém prostředí: kdo ho postavil, k čemu má přístup a chová se tak, jak byl navržen?

Většina podniků nemůže odpovědět na tyto otázky dnes. Organizace, které se tam dostanou první, budou ty, které mohou škálovat adopci AI s důvěrou, protože budou vědět, co skutečně běží.