Více výdajů na bezpečnost AI nesnižuje žádné z vašich rizik souvisejících s AI

Rozpočet na bezpečnost AI rychle roste. Ve многих organizacích roste rychleji než systémy, které mají chránit.

Tento nesoulad je snadno přehlédnutelný. Investice do umělé inteligence pokračují ve zrychlování, s globálním soukromým financováním dosahujícím $33.9 miliardy v roce 2025 samotném. Současně jsou bezpečnostní lídři vyzýváni, aby zodpověděli za nové rizika spojená s chováním modelů, expozicí dat a adversní manipulací. Odpověď byla předvídatelná: více nástrojů, více kontrol a více rozpočtu.

Je lákavé proměnit toto v konverzaci o nákladu na podnikání, jednoduchou otázku, kolik organizacím potřebují utratit za zabezpečení AI. To je však špatný způsob, jak přistoupit k tomuto novému problému. Místo toho organizace potřebují prozkoumat, zda jejich investice do AI skutečně zabezpečují správné nástroje.

Přímo napříč většiny podniků je AI stále zaváděna na úrovni úkolu. Týmy experimentují se sumarizací, asistencí při kódování, analytikou nebo automatizací pracovních postupů, aby zlepšily individuální produktivitu. Tyto nástroje poskytují lokální zisky, ale zřídka mění, jak jsou učiněna rozhodnutí nebo jak systémy fungují na širší úrovni. Tato mezera začíná být patrná v výsledcích. Zatímco adopce je široká, pouze asi 20% organizací uvádí významný dopad na jejich výsledek.

Investice do bezpečnosti se zvyšují spolu s touto experimentací. Přesto je v mnoha případech aplikována na rostoucí kolekci nesouvisejících nástrojů, spíše než na soudržné systémy, které formují, jak podnik skutečně funguje. AI je hodnocena na úrovni úkolu, zabezpečena na úrovni systému a nikdy plně navržena na úrovni pracovního postupu, kde je vytvářen skutečný hodnot.

Adopce AI se rozšiřuje rychleji, než je integrována

Většina nasazení AI dnes je úzká podle designu. Jsou postaveny tak, aby dělaly jednotlivé úkoly rychlejší, spíše než aby změnily, jak pracovní postupy proudí napříč týmy nebo systémy.

Prodejní tým může přijmout AI pro vypracování e-mailů nebo sumarizaci hovorů. Inženýrské týmy ji používají k urychlení generování kódu. Operační týmy experimentují s analytikou nebo podporou prognóz. Každý z těchto případů použití poskytuje měřitelné zisky z produktivity na individuální úrovni, a to je často dostatečné k ospravedlnění počáteční investice.

Složitost začíná, když se tyto izolované zisky nahromadí.

Každé nasazení zavádí své vlastní modely, vzorce přístupu k datům, API a závislosti. S časem organizace zjistí, že spravují rostoucí ekosystém AI schopností, které nebyly nikdy navrženy tak, aby fungovaly společně. I nyní zůstává velká část podniků ve fázi rané experimentace, s mnoha iniciativami, které nejsou dosud vloženy do základních obchodních operací.

Bezpečnostní týmy dědí toto prostředí, jak se formuje. Jsou požádáni, aby zabezpečili ne jeden systém, ale neustále se měnící kolekci nástrojů, integrací a toků dat, které se rozšiřují s každým novým experimentem. Bez ujednocující architektury se bezpečnost stává cvičením v pokrytí spíše než v kontrole.

Skutečné riziko není v individuálních nástrojích, ale ve fragmentaci systému

Jak experimentování s AI pokračuje, očekávání vedení začínají měnit. Představenstva a výkonné týmy se ptají, jak rostoucí výdaje na AI se překládají do měřitelných obchodních výsledků.

Když rané iniciativy selžou, organizace zřídka zpomalí. Rozšiřují své úsilí. Více pilotních projektů je spuštěno. Více nástrojů je zavedeno. Více integrací je vytvořeno při hledání hodnoty, která dosud nebyla realizována. Předpovědi již naznačují, že více než polovina projektů AI může selhat v dosažení produkční fáze nebo dodání očekávaných výsledků v nadcházejících letech.

Pro bezpečnostní týmy vytváří tento cyklus nový druh rizika.

Vyzvědačem již není pouze ochrana jednotlivých aplikací nebo modelů. Je to řízení prostředí, kde je základní systém neustále měněn. Každý nový nástroj zavádí další identity, toky dat a chování modelů, které rozšiřují útočný povrch, dříve než obránci mají čas plně pochopit.

V tomto kontextu nezbytně neznamená zvýšení bezpečnostních výdajů snížení rizika. Může zvýšit operační složitost. Zabezpečení fragmentovaných systémů vyžaduje více nástrojů, více monitorování a více koordinace, ale nezabývá se základní otázkou, která spočívá v absenci soudržné struktury pro to, jak je AI nasazena a používána.

Bezpečnostní výdaje se stávají strategickými pouze tehdy, když se AI stává provozní

Jsme ve skvělém postavení díky investicím do bezpečnosti AI; stupeň inovací je astronomický, a zatímco budoucnost je jasná pro použití AI, bezpečnostní investice je často odpojena od toho, kde AI skutečně vytváří hodnotu.

Když je AI nasazena primárně jako soubor izolovaných produktivních nástrojů, bezpečnostní úsilí je nuceno následovat tuto fragmentaci. Týmy nakonec chrání desítky nesouvisejících aplikací, které mají omezený vliv na základní obchodní výsledky.

Větší hodnota se objevuje, když je AI vložena do pracovních postupů, které řídí, jak organizace fungují. Plánování, prognózování, přidělování zdrojů a operační rozhodování jsou místem, kde AI začíná ovlivňovat výsledky významným způsobem. Tyto jsou také prostředí, kde se bezpečnostní investice stává více strategickou.

Zabezpečení nesouvisejícího nástroje chrání úkol. Zabezpečení integrovaného systému chrání obchodní proces.

Toto je místo, kde se stává rozlišení mezi adopcí na úrovni úkolu a návrhem na úrovni pracovního postupu kritickým. AI, která není integrována do rozhodování, bude mít potíže s dodáním měřitelného dopadu. Bezpečnost, která není zarovnána s těmito systémy pro rozhodování, bude mít potíže se snížením skutečného rizika.

Změna musí přijít dříve než později

Organizace nepotřebují méně iniciativ AI. Potřebují více úmyslných iniciativ.

První posun je v tom, jak je hodnocen úspěch AI. Pokud nasazení nezmění, jak jsou učiněna rozhodnutí nebo jak práce proudí napříč týmy, jeho dopad zůstane omezený, bez ohledu na to, jak široce je přijato. Měření úspěchu na úrovni pracovního postupu spíše než na úrovni úkolu poskytuje jasnější signál, kde AI skutečně dodává hodnotu.

Druhý posun je v tom, jak je prioritizována bezpečnostní investice. Místo distribuce kontrol napříč každým experimentálním nástrojem by organizace měly soustředit ochranu kolem systémů, které ovlivňují plánování, operace a rozhodování. Tyto jsou prostředí, kde se riziko a hodnota protínají.

Třetí posun je strukturální. Systémy AI zavádějí nové formy vlastnictví, které sahají za tradiční hranice aplikací. Modely, trénovací data, datové potrubí a výstupy generované AI všechny vyžadují jasnou odpovědnost. Bez definovaného vlastnictví se governance stává nekonzistentní a bezpečnostní mezery se stávají obtížněji identifikovatelnými.

Vzájemně tyto změny vedou organizace pryč od zabezpečení aktivity a směrem k zabezpečení výsledků.

Stavba AI systémů, které mohou skutečně škálovat

Organizace, které zarovnávají adopci AI s návrhem na úrovni pracovního postupu, získávají jasnější cestu k hodnotě i kontrole.

Bezpečnostní zdroje se stávají účinnějšími, když jsou zaměřeny na systémy, které mají největší význam, spíše než rozloženy napříč nesouvisejícími experimenty. Vedení získá lepší přehled o tom, jak investice do AI se překládají do operačního dopadu. S časem se programy AI stávají udržitelnějšími, protože jsou postaveny na strukturovaných systémech spíše než na nahromaděných nástrojích.

Investice do AI nejsou zpomaleny. Bezpečnostní výdaje budou pokračovat ve zvyšování spolu s nimi. Rozdíl bude spočívat v tom, jak jsou tyto investice aplikovány.

Organizace, které pokračují ve škálování AI na úrovni úkolu, se budou muset chránit před neustále se rozšiřujícím povrchem nesouvisejících nástrojů. Ty, které navrhují AI na úrovni pracovního postupu, budou chránit systémy, které jsou skutečně chráněny.