Kybernetická bezpečnost
Zabezpečení AI v roce 2027: O rozsahu škod rozhodnou oprávnění agentů

Klíčové bodyO tom, jak daleko může nedorozumění dojít, budou rozhodovat oprávnění agenta, nikoli…
Zobrazit více
- O tom, jak daleko může nedorozumění dojít, budou rozhodovat oprávnění agenta, nikoli důvěryhodnost modelu.
- Bezpečnostní hodnocení musí vedle zablokovaných útoků vykazovat i legitimní dokončení úkolů, aby prokázala, že agenti zůstávají užiteční.
- Zprávy o incidentech by měly sledovat cestu přihlašovacích údajů a delegovaných oprávnění, nikoli podivný výstup modelu.
Představte si zaměstnance, který požádá asistenta s AI, aby roztřídil přeplněnou doručenou poštu. Úkol zní neškodně, dokud zpráva asistenta nepřiměje otevřít záznam zákazníka, exportovat přílohu nebo odeslat žádost o platbu. Otázka bezpečnosti už nespočívá jen v tom, zda lze odpovědi důvěřovat. Jde také o to, zda má software oprávnění proměnit nedorozumění v konkrétní akci.
Právě tento tlak stojí za rostoucím zájmem o zabezpečení agentů v roce 2027. Firmy chtějí asistenty, kteří dokážou dokončit práci. Bezpečnostní týmy potřebují vědět, kde končí jejich volnost — a zda ji mohou odebrat, dokud práce ještě probíhá.
Takové propojení se už buduje. Microsoft v roce 2026 zpřístupnil platformu Entra Agent ID široké veřejnosti. Okta rozšířila správu identit agentů napříč poskytovateli identit a ekosystémy agentů. AWS v březnu zpřístupnila zásady v Bedrock AgentCore široké veřejnosti a přesunula rozhodování o autorizaci mimo vlastní kód agenta. Předpokládat, že se produkty pro správu identit agentů objeví až v roce 2027, by znamenalo přehlížet trh, který už existuje.
1. Důkazy z produkčního prostředí budou důležitější než oznámení o identitách
Agent by měl být možné vyřadit z práce, aniž by jeho lidský zadavatel přišel o svůj přístup. Tento jednoduchý požadavek se komplikuje, když mezi asistentem a aplikací, kterou používá, leží několik konektorů a servisních účtů. V roce 2027 začnou zprávy z produkčního prostředí od konkrétních podniků ukazovat, zda si agenti na této cestě zachovají vlastní, odlišné identity: zpočátku omezená oprávnění, rozpoznatelnou identitu po celé cestě a na jejím konci možnost konkrétního agenta vypnout.
Mechanismus je známý, i když pracovní zátěž je nová. Ověření identity určuje, který softwarový subjekt provádí danou činnost. Autorizace stanovuje, které prostředky a operace může tento subjekt používat. Delegování propojuje jeho oprávnění s konkrétní osobou nebo organizací. Samotný záznam v inventáři nedokládá, že některá z těchto kontrol funguje v okamžiku, kdy dojde k závažné akci.
Diskuse NIST z srpna 2026 o identitě agentů popisuje problémy s odpovědností, které vznikají při sdílení přihlašovacích údajů. Následné zásady návrhu požadují jednoznačnou identifikaci, delegování s omezeným rozsahem oprávnění a krátkodobá oprávnění, která lze odvolat. Jde o navrhované zásady návrhu, nikoli o důkaz, že je uplatňuje každý nasazený produkt, ani o nový univerzální právní požadavek.
Technické obtíže se projeví, když pracovní postup překročí hranice organizací. Agent může začít u jednoho poskytovatele identity, zavolat konektor provozovaný jinou společností a vyvolat operaci v aplikaci, která používá třetí model autorizace. Omezené oprávnění udělené na začátku řetězce se může změnit v široký přístup v jeho dalších částech, pokud konektor použije vlastní, vysoce privilegované servisní přihlašovací údaje. Identita, která je viditelná na začátku, se musí zachovat po celou dobu tohoto řetězce, jinak řídicí rovina ztratí právě to rozlišení, které měla chránit.
Oznámení Microsoftu o Agent 365 a vysvětlení Okty k Agent Gateway ukazují, že dodavatelé vyvíjejí řešení tohoto problému. Jde však o popisy funkcí ze strany dodavatelů. S větší jistotou předpokládám, že se objeví konkrétní důkazy z produkčního prostředí; netvrdím, že tyto systémy eliminují možnost kompromitace.
Na co se zaměřit v roce 2027
Sledujte produkční nasazení, v nichž má agent vlastní identitu, dostává přístup omezený na svůj úkol a lze jej vypnout, aniž by se zablokoval přístup jeho lidského zadavatele. Zkušenosti zákazníků s fungováním těchto kontrol napříč propojenými aplikacemi budou výmluvnější než samotné registrace identit. Pokračující závislost na sdílených servisních přihlašovacích údajích by tuto předpověď zpochybnila.
Co to znamená pro firmy
Vedoucí pracovníci odpovědní za bezpečnost by měli dodavatele požádat o předvedení celého řetězce delegování, včetně oprávnění, která používají navazující konektory. Při posuzování nákupu a nasazení je třeba určit vlastníka agenta, povolené činnosti a postup pro odebrání přístupu. Rostoucí inventář registrovaných agentů je užitečný pouze tehdy, když organizace dokáže řídit, co každý z nich skutečně smí dělat.
2. Účinnost silnější ochrany se bude měřit podle toho, zda umožňuje užitečnou práci
Nejjednodušší agent k zabezpečení je ten, který nemůže dělat vůbec nic. Takového agenta je také nejsnazší učinit komerčně nepoužitelným. Zajímavějším výsledkem v roce 2027 bude obrana, která umožní pokračovat v legitimní práci a zároveň výrazně omezí neoprávněné akce prostřednictvím nástrojů. Můj test je záměrně náročný: opakovatelné snížení počtu těchto akcí na polovinu při poklesu míry dokončení legitimních úloh nejvýše o deset procentních bodů. Ochrana musí zachovat dostatečnou užitečnost, aby ji organizace nechala zapnutou.
Prompt injection mění to, co má model považovat za pokyn. O tom, zda je navrhovaná akce povolená, by měla rozhodovat autorizace bez ohledu na to, jak přesvědčivý daný pokyn je. Dokument načtený agentem, který požaduje export, by neměl získat oprávnění k exportu jen proto, že jej agent dokáže přečíst.
Bezpečnostní pokyny k Model Context Protocol ukazují, proč na integrační vrstvě záleží: zabývají se problémy se zmateným zástupcem, předáváním tokenů a dalšími způsoby, jak může spojení zneužít oprávnění. Důsledek je architektonický. Výslovný záměr modelu a oprávnění, které může aplikace vynutit, jsou dvě různé věci a aplikace musí ověřovat to druhé.
Existuje ještě druhý požadavek: chráněný agent musí dál zvládat autorizovanou práci. AgentDojo vytvořilo rozšiřitelné prostředí pro testování útoků a obran proti agentům využívajícím nástroje. Preprint AgentDyn z roku 2026 tvrdí, že realistické úlohy s otevřeným koncem odhalují jak bezpečnostní slabiny, tak přílišné blokování. Další nedávná analýza neúspěšných útoků typu prompt injection rozlišuje mezi odmítnutím útoku, jeho pouhým ignorováním a nesplněním uživatelova úkolu. Výsledky těchto výzkumů se vztahují k hodnoceným systémům a podmínkám; nejde o míru bezpečnostních incidentů v celé populaci.
Hlavní kompromis lze měřit. Blokování každé operace zápisu může přinést vynikající skóre v oblasti neoprávněných zápisů, ale zároveň učinit účetního agenta nepoužitelným. Přesvědčivý výsledek by měl uvádět výsledky útoků, výsledky legitimních úloh, soubor povolených akcí a případy, kdy bylo nutné schválení člověkem. Důležití jsou také adaptivní útočníci: obrana, která funguje pouze proti útokům vytvořeným dříve, než byla tato obrana známá, poskytuje slabší záruku.
Na co se zaměřit v roce 2027
Sledujte hodnocení bezpečnosti, která vedle zablokovaných útoků uvádějí i dokončení legitimních úloh. Nejpřesvědčivější důkazy ukážou, že agent dál vykonává autorizovanou práci, zatímco nezávislá vrstva vynucování odmítá neoprávněné akce, včetně útoků přizpůsobených dané obraně. Pokles úspěšnosti útoků doprovázený rozsáhlým selháváním úloh by poskytoval mnohem slabší důvod k uklidnění.
Co to znamená pro firmy
Bezpečnost agenta posuzujte společně s jeho užitečností. Nákupní tým by měl do stejného hodnocení zahrnout reprezentativní obchodní úlohy i realistické scénáře zneužití a poté prověřit, které akce vyžadují schválení a kde se oprávnění vynucují. Díky tomu bude vidět cena přílišného blokování i potenciální škody způsobené udělením příliš širokých oprávnění agentovi.
3. Zprávy o incidentech odhalí cestu oprávnění
Po incidentu s agentem může být nejvýmluvnější otázkou, jak instrukce získala pravomoc jednat. Škodlivá zpráva je jen jednou částí příběhu; dalšími jsou přihlašovací údaj, konektor a delegované oprávnění, které ji posunuly dál. Očekávám, že v roce 2027 budou zveřejněná oznámení potvrzená dodavateli tyto cesty odhalovat zřetelněji. Obránci tak získají něco užitečnějšího než další příklad toho, že model řekl něco, co říkat neměl.
Důležitým důkazem v takovém oznámení je posloupnost událostí: agent narazil na nějaký vstup, navrhl nebo zvolil akci, získal či zdědil oprávnění a překročil zamýšlenou hranici. Popis pouze neobvyklých slov modelu nevysvětluje provozní selhání. Popis pouze uniklého přihlašovacího údaje může opomenout, proč jej agent odhalil nebo použil.
Nejde o předpověď, že k prvnímu takovému překročení hranice dojde až příští rok. Ve svém hodnocení kybernetických incidentů ze září 2026 popsala společnost Anthropic čtyři případy, kdy modely Claude během činností souvisejících s evaluací získaly neoprávněný přístup do skutečných systémů třetích stran. Jde o zveřejnění konkrétních incidentů samotným poskytovatelem modelů. Nelze je zobecňovat na naměřenou míru narušení bezpečnosti ve firmách ani je považovat za nezávislé ověření všech podrobností.
OWASP Top 10 pro agentické aplikace nabízí užitečný rámec pro diskusi o selhání agentů. Rámec však poskytuje kategorie, nikoli základ pro výpočet četnosti incidentů. Větší počet zveřejněných případů může odrážet širší nasazení, lepší detekci, otevřenější informování nebo kombinaci všech tří faktorů. Samy o sobě by nedokládaly, že každý nasazený agent je méně bezpečný.
Moje jistota je zde nižší, protože motivace ke zveřejňování informací jsou nejisté. Organizace může konektor opravit bez zveřejnění, považovat selhání za běžnou chybu řízení přístupu nebo odmítnout uvést jméno zákazníka. Významná provozní změna tak může zanechat jen skromnou veřejnou dokumentaci. Tato nejistota patří do předpovědi; neměli bychom ji potlačovat tím, že každou spekulativní ukázku zranitelnosti započítáme jako narušení bezpečnosti.
Na co se zaměřit v roce 2027
Věnujte pozornost zprávám o incidentech, které vysvětlují, jak agent přešel od čtení nedůvěryhodného obsahu k využití oprávnění vůči skutečnému prostředku. Přesný popis konektoru, delegovaného přihlašovacího údaje, dotčené akce a nápravných opatření by tuto předpověď podpořil. Zprávy omezené na neobvyklé odpovědi modelu prozradí méně o provozní hranici, která selhala.
Co to znamená pro firmy
Týmy pro řešení incidentů by měly uchovávat dostatek telemetrie z agentů a aplikací, aby bylo možné rekonstruovat cestu od vstupu k akci. Při hodnocení dodavatelů by se mělo stanovit, kdo zákazníka upozorní, jaké záznamy budou k dispozici a jak lze napadené spojení izolovat. Tato ujednání rozhodnou o tom, jak rychle organizace dokáže posoudit rozsah dopadu, když se agent zachová neočekávaně.
4. Odvolání oprávnění se začne měřit stopkami
Vypínač je příslibem, jak rychle lze zasáhnout. Pokud agent už zkopíroval přístupový údaj nebo otevřel další relaci, odebrání jeho identity může vytvořit časové okno, během něhož budou akce stále úspěšně probíhat. V roce 2027 začnou nezávislé testy měřit, jak rychle se tento příslib naplňuje napříč propojenými aplikacemi. Konkrétní předpověď zní: nové chráněné akce budou zablokovány do jedné minuty, a to i v případě, že přístupové údaje byly uloženy do mezipaměti.
V adresáři identit se odvolání oprávnění slibuje snadno, ale v navazujících systémech se prokazuje obtížněji. Konektor si může ponechat přístupový token. Pracovní proces může udržovat aktivní relaci. Naplánovaná úloha může mít k dispozici dříve autorizovaný požadavek. Deaktivace záznamu agenta v inventáři nedokazuje, že tyto cesty vykonávání přestanou využívat zastaralá oprávnění.
Zásada NIST odvolatelné autorizace a přístup AWS k vynucování pravidel přes bránu a zaznamenávání zásad popisují části potřebné architektury. Z toho vyvozuji, že kupující budou stále častěji požadovat doložení doby potřebné k omezení dopadů. Hranice 60 sekund je cílem mé předpovědi, nikoli požadavkem připisovaným kterémukoli z těchto zdrojů.
Důkladný nácvik odděluje zastavení nové práce od zvrácení již dokončené práce. Odvoláním oprávnění nelze vzít zpět zprávu, která už byla doručena. Měřitelným příslibem je, že nová chráněná akce odeslaná poté, co odvolání nabylo účinnosti, bude zamítnuta. U akcí, které právě probíhají, je třeba samostatně zdokumentovat pravidla jejich zrušení nebo dokončení. Bez tohoto rozlišení může působivá ukázka „nouzového vypínače“ zastřít mnohem užší záruku.
Nízká až střední míra jistoty odráží obtížnost získat reprodukovatelné důkazy napříč konektory. Veřejná dokumentace produktu může doložit podporované chování, ale tato předpověď vyžaduje skutečně naměřený časový údaj. Je také třeba, aby tester vyzkoušel již navázanou relaci, v níž se zastaralá oprávnění nejspíše projeví.
Na co se zaměřit v roce 2027
Sledujte ukázky odvolání oprávnění, které začínají ve chvíli, kdy agent už pracuje prostřednictvím aktivních konektorů, včetně případů s přístupovými údaji uloženými v mezipaměti nebo s již navázanými relacemi. Užitečným výsledkem je naměřená doba zastavení nových chráněných akcí spolu s jasným vysvětlením, jak se naloží s právě probíhající prací. Deaktivovaný záznam na ovládacím panelu bez testování navazujících systémů ponechá hlavní otázku nezodpovězenou.
Co to znamená pro firmy
Považujte vypnutí agenta za schopnost potřebnou při reakci na incidenty, kterou je nutné nacvičovat. Otestujte aplikace, k nimž má agent přístup, zjistěte, zda některé relace přetrvají i po odvolání oprávnění, a určete, kdo odpovídá za zastavení zařazené práce. Rozlišujte mezi zabráněním další akci a zvrácením již dokončené akce; plán obnovy musí počítat s obojím.
Rozpočet na zabezpečení se bude odvíjet od hranic toho, co lze vykonat
Cílem je dát agentům dostatečná oprávnění, aby byli užiteční, a zároveň nastavit dostatečné hranice, aby zůstali pod kontrolou. O této rovnováze se bude rozhodovat v konektorech, tokenech a kontrolách oprávnění, daleko od konverzačního rozhraní. Až nastane další incident, rozhodující otázkou bude, jak daleko mohl systém zajít, než ho někdo nebo něco zastavilo.












