Partnerství
Microsoft spouští iniciativu pro transparentnost umělé inteligence v podnikových agentech

Klíčové bodyStávající kontroly sledují aktivitu kolem modelů, ale nedokážou ověřit, co se děje…
Zobrazit více
- Stávající kontroly sledují aktivitu kolem modelů, ale nedokážou ověřit, co se děje uvnitř nich.
- Rámec vyžaduje důkazy, které zůstanou přenositelné, když podniky přejdou na jiné modely nebo poskytovatele.
- Microsoft rozšíří svou účast v iniciativě SI Agent Standards Initiative organizace NIST s cílem vyvinout otevřené standardy.
Microsoft 17. listopadu 2026 na konferenci Microsoft Ignite oznámil Iniciativu pro transparentnost umělé inteligence, která sdružuje více než 40 organizací s cílem vytvořit otevřené standardy pro zabezpečení a řízení modelů a agentů umělé inteligence napříč poskytovateli.
Předseda představenstva a generální ředitel Satya Nadella představil tuto iniciativu společně se zákazníky a partnery, mezi něž patří Accenture, Adobe, KPMG, Mastercard a Volvo Cars. Cílem spolupráce je zajistit, aby systémy umělé inteligence nesly odpovědnost, bylo možné je nezávisle ověřovat a byly bezpečné již od návrhu, bez ohledu na model či poskytovatele. Jejím hlavním principem je, že s rostoucí autonomií umělé inteligence musí růst i její transparentnost.
Nedostatek důkazů v podnikovém prostředí
Podniky propojují modely s daty, nástroji, přihlašovacími údaji a infrastrukturou, což agentům umožňuje provádět úkony, aniž by při každém kroku potřebovali schválení člověkem. Microsoft uvádí, že stávající kontrolní mechanismy dokážou sledovat činnost v okolí modelů, ale nevidí, co se děje uvnitř nich, ani nemohou nezávisle ověřit tvrzení modelů o jejich vlastním chování.
Blog společnosti Microsoft věnovaný zabezpečení podobně rozlišuje mezi omezením činnosti agenta a porozuměním jeho chování: zjištění, řízení a izolace agenta stále neodhalí, jak se chová model, na němž je založen. Po činnosti se závažnými důsledky tak zůstávají tři otázky: co měla umělá inteligence nařízeno a k čemu byla oprávněna, co se odehrálo mezi požadavkem a výsledkem a zda lze tuto činnost nezávisle ověřit.
Microsoft přirovnává agenty s přístupem k datům, nástrojům a přihlašovacím údajům k privilegovaným zasvěceným osobám, které jednají strojovou rychlostí a v měřítku strojů. Vzniklý nedostatek důkazů s sebou nese bezpečnostní rizika i rizika pro dodržování předpisů, audit a vyvozování odpovědnosti. Odpovědnost přitom zůstává na organizaci, která agenty nasazuje, když se její vedení musí zodpovídat zákazníkům, zaměstnancům, správním radám, auditorům a regulačním orgánům.
Rámec Sledovat, ověřovat a řídit
Rámec této iniciativy rozděluje uvedené požadavky do tří částí. Sledovat zahrnuje požadavek a oprávnění, model a běhové prostředí, zpřístupněná data a nástroje i provedené úkony. Počítá také s nepřetržitým sledováním činnosti agentů a rizikových signálů v porovnání se zásadami a stanovenými prahovými hodnotami.
Ověřovat se zaměřuje na původ důkazů. Záznamy o identitě agenta, delegovaném záměru a provedených úkonech by ukázaly, zda informace pocházely z modelu, jeho běhového prostředí, nebo z nezávislých systémů správy identity a zásad. Signály hlášené modelem by pak bylo možné ověřovat porovnáním s nezávisle zaznamenanými údaji prostřednictvím vlastních bezpečnostních systémů a systémů pro kontrolu dodržování předpisů dané organizace, místo aby se spoléhalo pouze na tvrzení poskytovatele.
Řídit znamená využívat důkazy o účelu, vlastníkovi, datech a delegovaných oprávněních každého pracovního postupu k vynucování zásad ještě před provedením úkonů se závažnými důsledky. Stejné záznamy by umožnily zpětně rekonstruovat průběh událostí při vyšetřování, omezování incidentů, obnově a auditech. Mají zůstat použitelné i při změně modelů nebo poskytovatelů, a to napříč uzavřenými modely i modely s otevřenými váhami, aby vývojové týmy mohly agenty aktualizovat, aniž by ohrozily bezpečnostní řízení nebo audity dodržování předpisů.
Tvorba standardů a jejich zavádění do produktů
Microsoft rozšíří svou účast v Iniciativě NIST pro standardy SI agentů a využije výsledky vlastního výzkumu k tvorbě otevřených, celoodvětvových standardů pro transparentnost, zabezpečení a řízení umělé inteligence. Program NIST má podporovat tvorbu technických standardů vedenou průmyslem a otevřených protokolů, aby autonomní agenti mohli bezpečně fungovat a vzájemně spolupracovat napříč digitálními systémy.
Strategické pilíře zahrnují dobrovolná doporučení a analýzy nedostatků jako podklad pro tvorbu standardů vedenou průmyslem, činnosti zaměřené na odstraňování překážek pro interoperabilní protokoly spravované komunitou a výzkum autentizace agentů, infrastruktury identit a bezpečnostních hodnocení.
Microsoft také plánuje začlenit výsledky této iniciativy do Microsoft AI, Microsoft Foundry a Microsoft Copilot. Zákazníci budou moci získané důkazy využívat s nástroji společnosti Microsoft i dalších poskytovatelů pro zabezpečení a kontrolu dodržování předpisů.
Praktickou zkouškou této iniciativy bude, zda její účastníci dokážou tento rámec proměnit ve společné standardy a přenositelné důkazní záznamy, které podniku umožní řídit agenty ještě předtím, než začnou jednat, a následně rekonstruovat jejich chování, i když se změní používaný model nebo jeho poskytovatel.












