Myslitelé

Za hranice lidského: Zabezpečení agentic AI a nehumánních identit v světě poháněném porušením

Mike Towers Matthew Romero
Přidejte Unite.AI mezi své preferované zdroje na Google
Klíčové bodyAgentní AI může při kompromitaci automatizovat krádež dat a zvýšení oprávnění, čímž…
Zobrazit více
  • Agentní AI může při kompromitaci automatizovat krádež dat a zvýšení oprávnění, čímž násobí rizika narušení.
  • Strojové identity již nyní převažují nad lidskými v poměru 20:1 a většina IAM systémů je nedokáže efektivně spravovat.
  • Narušení u Victoria's Secret a Google ukazují, jak útočníci zneužívají nemonitorované nelidské identity k laterálnímu pohybu v síti.

Pokud jste byli někde poblíž podnikového SOC za posledních 18 měsíců, jste to viděli. Upozornění, která nejsou mapována na osobu. Pověření, která patří „něčemu“, ne „někomu“. Automatizace, která se pohybuje rychleji, než může vaše IR playbook držet krok.

A v poslední době to není jen hluk, je to kořenové příčiny největších titulků v našem odvětví. Od Victoria’s Secret kybernetického incidentu, který narušil prodej a spustil žalobu na základě třídy, až po multi-tenant cloud kompromisy, které odhalily citlivé údaje napříč zákazníky, rostoucí počet porušení nyní pochází z identit, které nevidíme, nestopujeme nebo stěží chápeme.

Růst agentic AI, autonomních systémů, které mohou jednat napříč aplikacemi, API a infrastrukturou, se střetl s explozí nehumánních identit (NHI), včetně servisních účtů, botů, API klíčů a strojových pověření. Společně vytvořily novou útočnou plochu, která se rozšiřuje rychleji, než většina organizací může zabezpečit.

Co rozumíme pod „Agentic AI“

Agentic AI odkazuje na AI „agenty“, které mohou přijmout cíle a autonomně vykonat vícekrokové úkoly, často napříč několika systémy, bez lidského dohledu.

  • Může volat API, aktualizovat databáze nebo spouštět pracovní postupy.

  • Pracuje na strojové rychlosti – v sekundách, ne v minutách.

  • Rizika: Prompt injekce, otrávená tréninková data, ukradená pověření.

Rozsah, se kterým se zabýváme

Strojové identity již nyní převyšují lidské identity ve většině podniků, v některých případech až 20:1 nebo více. Do roku 2026 se toto poměru téměř zdvojnásobí. Tyto NHI jsou ve vašich cloudových úlohách, CI/CD kanálech a API integračních bodech a nyní pohánějí LLM-založenou automatizaci.

Výzva: Most IAM systémy byly postaveny pro správu lidí, ne strojů.

  • Účty bez jasného vlastníka.

  • Statická pověření, která nikdy nevyprší.

  • Privilegia daleko za tím, co je potřeba.

Není to hypotetické. Porušení v Uberu a Cloudflare byly spojeny s kompromitovanými strojovými účty – těmi, které nikdy nedostanou simulace phishingu, ale mohou odemknout kritickou infrastrukturu.

Agentic AI: násobitel rizika

Na jedné straně je agentic AI operačním herním měničem. Na druhé straně, pokud je jeho přístup kompromitován, máte automatizaci, která běží pro útočníka.

Zvažte:

  • AI agent s právy čtení a zápisu do SaaS aplikací by mohl automatizovat krádež dat bez spuštění lidské anomální detekce.

  • Pokud stejný agent může měnit IAM role nebo nasazovat cloudové zdroje, máte eskalaci privilegií na autopilоту.

  • Prompt injekce útoky a modelová otrava znamenají, že útočníci mohou přesměrovat AI agenta bez krádeže jeho pověření.

Viděli jsme, jak nebezpečný může být špatně spravovaný servisní účet. Nyní dejte tomuto účtu schopnost dělat rozhodnutí a sázky se mnohonásobně zvyšují.

Případové studie: analýza porušení v éře AI + NHI

Victoria’s Secret (květen 2025)
Během víkendu památky Victoria’s Secret uzavřela své webové stránky a některé služby v obchodě, což se zdálo být kybernetickým incidentem (The Hacker News, Bitdefender). Výpadek trval dny a přispěl k odhadovanému poklesu tržeb o 20 milionů dolarů ve 2. čtvrtletí. Následující žalobu na základě třídy tvrdí, že maloobchodník selhal při šifrování citlivých údajů, vynechal kritické bezpečnostní audity a zanedbal školení zaměstnanců v oblasti kybernetické bezpečnosti (Top Class Actions), všechny mezery, které odrážejí slabosti často viděné u nespravovaných nehumánních identit (NHI) s privilegovaným přístupem.

Google Salesforce (CRM ) Porušení (červen 2025)
V červnu útočníci spojení se skupinou ShinyHunters (UNC6040) získali přístup k firemní instanci Salesforce CRM prostřednictvím technik vishingu (ITPro). Jakmile byli uvnitř, vyčerpali kontaktní údaje patřící malým a středním podnikům. Zatímco to začalo s lidským cíleným sociálním inženýrstvím, bod zlomu byl spojená aplikace – forma strojové identity – která umožnila útočníkům pohybovat se laterálně bez spuštění analýzy chování uživatelů.

Retail & Luxury Brand Výpadek (M&S, Cartier, The North Face)
Vlna útoků na hlavní maloobchodníky, včetně The North Face a Cartier, odhalila jména zákazníků, e-maily a vybraná metadata účtů (Sangfor, WSJ). Marks & Spencer byl zasažen zvláště tvrdě, ransomware a útok na dodavatelský řetězec připsaný skupině ‘Scattered Spider’ narušil služby click-and-collect po dobu více než 15 týdnů a je odhadován, že stál maloobchodníka až 300 milionů liber. V každém případě se třetí strany integrovaly a API spoje, často podporované NHI, staly tichými pomocníky pro útočníky.

Co je nehumánní identita (NHI)?

NHI jsou pověření a účty používané stroji, ne lidmi. Příklady:

  • Servisní účty pro databáze nebo aplikace.

  • API klíče pro cloud-to-cloud integraci.

  • Bot pověření pro automatizační skripty.

Rizika: Přespříliš privilegovaná, nedostatečně monitorovaná a často ponechaná aktivní dlouho po použití.

Proč je správa pozadu

I zralé IAM programy narazí na tyto překážky:

  • Mezery v objevování — Mnoho organizací nemůže vyprodukovat kompletní inventář NHI.

  • Zanedbání životního cyklu — NHI často přetrvávají po mnoho let, bez pravidelného přezkumu.

  • Vakuum odpovědnosti — Bez lidského vlastníka se úklid propadá.

  • Privilegální krček — Oprávnění se nahromadí, jak se role mění, ale odvolání se zpožďuje.

Toto je stejný problém, se kterým jsme bojovali s lidskými účty po desetiletích — pouze nyní může každá NHI fungovat 24/7, v měřítku, bez spuštění „lidského“ rizika.

Neutrální hra pro zabezpečení NHI a AI agentů

  1. Komplexní objevování — Mapovat každou NHI a AI agenta, včetně privilegií, vlastníků a integračních bodů.

  2. Přiřadit lidské vlastníky — Učinit někoho odpovědným za životní cyklus každé NHI.

  3. Vynutit minimální privilegia — Přizpůsobit oprávnění skutečnému použití; odstranit nadbytečné.

  4. Automatizovat hygienu pověření — Rotovat klíče, používat krátkodobé tokeny, automaticky vypršet nečinné účty.

  5. Kontinuální monitorování — Detekovat anomálie, jako jsou neočekávané API volání nebo eskalace privilegií.

  6. Integrovat AI správu — Léčit AI agenty jako vysoké privilegované správce: protokolovat aktivitu, vynucovat zásady, povolit přístup v pravý čas.

(Tyto kroky jsou v souladu s NIST CSF, CIS Control 5 a vznikající Gartner IVIP nejlepší praktiky.)

Proč se to musí stát nyní

Toto není jen o tom, že se honíme za AI trendem. Je to o tom, že rozpoznáme, že identitní perimetr se posunul z lidí na procesy. Útočníci to vědí. Pokud budeme i nadále zacházet se strojovými identitami jako s dopočetkem, dáváme útočníkům slepou skvrnu, kterou potřebují k tomu, aby mohli operovat bez detekce.

Týmy, které zůstanou vpředu, jsou ty, které udělají NHI a agent správu prvotřídním prvkem identitní bezpečnosti, s viditelností, vlastnictvím a disciplínou životního cyklu na místě, než další porušení donutí problém řešit.

Mike Towers je Chief Security & Trust Officer ve společnosti Veza, kde vede kybernetickou bezpečnost a strategii ochrany dat. Dohlíží na poradní sbor společnosti Veza, rozvíjí její schopnosti v oblasti identifikační bezpečnosti a zajišťuje, aby zákazníci rozuměli jedinečné hodnotě špičkové platformy v oboru identifikační bezpečnosti a inteligentního přístupu Veza. Mikeův tým pracuje na zajištění bezpečnosti platformy Veza a pomáhá zákazníkům řešit složité výzvy řízení přístupu, které přicházejí s digitální a cloudovou expanzí.

Jako zakladatel Digital Trust Group LLC a zkušený manažer, Mike se specializuje na digitální bezpečnost, důvěru a odolnost podnikání. Předtím, než nastoupil do Veza, působil jako Chief Digital Trust Officer ve společnosti Takeda a zastával vedoucí role ve společnostech Allergan a GSK, kde vytvořil robustní bezpečnostní rámce. Během své kariéry ovlivnil více než 50 transakcí fúzí a akvizic a byl uveden do CSO Hall of Fame. Jako respektovaný řečník, autor a poradce správní rady Mike pokračuje v prosazování odpovědné inovace, ochrany dat a sdílení znalostí. Působí v Bostonu a zůstává předním hlasem v oblasti rozvoje digitální důvěry a bezpečnosti.

Matthew Romero je manažer technického produktového marketingu ve společnosti Veza, kde propojuje technickou preciznost s marketingovou strategií v oblasti zabezpečení identit. Díky zkušenostem s bezpečnostním provozem a praktické práci v týmu Microsoft Defender přistupuje k obsahu jako praktik: píše především pro inženýry a zároveň zohledňuje potřeby vedoucích pracovníků v oblasti bezpečnosti.

Jeho práce ukazuje, jak přístupy vycházející z architektury řeší skutečné problémy správy přístupu, dodržování předpisů a snižování rizik. Matthew je známý svým přímočarým stylem „od inženýra k inženýrovi“. Zaměřuje se na srozumitelné vysvětlování složitých témat, pomáhá bezpečnostním týmům zavádět obranné modely zaměřené na identitu a objasňuje základní otázku moderní bezpečnosti: kdo má k čemu přístup?

Má certifikaci Asana a svůj neurodivergentní pohled spojený s ADHD a poruchou autistického spektra považuje za přínos pro vyvažování preciznosti a přizpůsobivosti. Mimo práci si Matthew užívá přírodu na pacifickém severozápadě USA, čas s rodinou a provozování serveru Minecraft.