Partnerství

Microsoft spouští iniciativu pro transparentnost umělé inteligence v podnikových agentech

Mira Kellan
Přidejte Unite.AI mezi své preferované zdroje na Google
Klíčové bodyStávající kontroly sledují aktivitu kolem modelů, ale nedokážou ověřit, co se děje…
Zobrazit více
  • Stávající kontroly sledují aktivitu kolem modelů, ale nedokážou ověřit, co se děje uvnitř nich.
  • Rámec vyžaduje důkazy, které zůstanou přenositelné, když podniky přejdou na jiné modely nebo poskytovatele.
  • Microsoft rozšíří svou účast v iniciativě SI Agent Standards Initiative organizace NIST s cílem vyvinout otevřené standardy.

Microsoft 17. listopadu 2026 na konferenci Microsoft Ignite oznámil Iniciativu pro transparentnost umělé inteligence, která sdružuje více než 40 organizací s cílem vytvořit otevřené standardy pro zabezpečení a řízení modelů a agentů umělé inteligence napříč poskytovateli.

Předseda představenstva a generální ředitel Satya Nadella představil tuto iniciativu společně se zákazníky a partnery, mezi něž patří Accenture, Adobe, KPMG, Mastercard a Volvo Cars. Cílem spolupráce je zajistit, aby systémy umělé inteligence nesly odpovědnost, bylo možné je nezávisle ověřovat a byly bezpečné již od návrhu, bez ohledu na model či poskytovatele. Jejím hlavním principem je, že s rostoucí autonomií umělé inteligence musí růst i její transparentnost.

Nedostatek důkazů v podnikovém prostředí

Podniky propojují modely s daty, nástroji, přihlašovacími údaji a infrastrukturou, což agentům umožňuje provádět úkony, aniž by při každém kroku potřebovali schválení člověkem. Microsoft uvádí, že stávající kontrolní mechanismy dokážou sledovat činnost v okolí modelů, ale nevidí, co se děje uvnitř nich, ani nemohou nezávisle ověřit tvrzení modelů o jejich vlastním chování.

Blog společnosti Microsoft věnovaný zabezpečení podobně rozlišuje mezi omezením činnosti agenta a porozuměním jeho chování: zjištění, řízení a izolace agenta stále neodhalí, jak se chová model, na němž je založen. Po činnosti se závažnými důsledky tak zůstávají tři otázky: co měla umělá inteligence nařízeno a k čemu byla oprávněna, co se odehrálo mezi požadavkem a výsledkem a zda lze tuto činnost nezávisle ověřit.

Microsoft přirovnává agenty s přístupem k datům, nástrojům a přihlašovacím údajům k privilegovaným zasvěceným osobám, které jednají strojovou rychlostí a v měřítku strojů. Vzniklý nedostatek důkazů s sebou nese bezpečnostní rizika i rizika pro dodržování předpisů, audit a vyvozování odpovědnosti. Odpovědnost přitom zůstává na organizaci, která agenty nasazuje, když se její vedení musí zodpovídat zákazníkům, zaměstnancům, správním radám, auditorům a regulačním orgánům.

Rámec Sledovat, ověřovat a řídit

Rámec této iniciativy rozděluje uvedené požadavky do tří částí. Sledovat zahrnuje požadavek a oprávnění, model a běhové prostředí, zpřístupněná data a nástroje i provedené úkony. Počítá také s nepřetržitým sledováním činnosti agentů a rizikových signálů v porovnání se zásadami a stanovenými prahovými hodnotami.

Ověřovat se zaměřuje na původ důkazů. Záznamy o identitě agenta, delegovaném záměru a provedených úkonech by ukázaly, zda informace pocházely z modelu, jeho běhového prostředí, nebo z nezávislých systémů správy identity a zásad. Signály hlášené modelem by pak bylo možné ověřovat porovnáním s nezávisle zaznamenanými údaji prostřednictvím vlastních bezpečnostních systémů a systémů pro kontrolu dodržování předpisů dané organizace, místo aby se spoléhalo pouze na tvrzení poskytovatele.

Řídit znamená využívat důkazy o účelu, vlastníkovi, datech a delegovaných oprávněních každého pracovního postupu k vynucování zásad ještě před provedením úkonů se závažnými důsledky. Stejné záznamy by umožnily zpětně rekonstruovat průběh událostí při vyšetřování, omezování incidentů, obnově a auditech. Mají zůstat použitelné i při změně modelů nebo poskytovatelů, a to napříč uzavřenými modely i modely s otevřenými váhami, aby vývojové týmy mohly agenty aktualizovat, aniž by ohrozily bezpečnostní řízení nebo audity dodržování předpisů.

Tvorba standardů a jejich zavádění do produktů

Microsoft rozšíří svou účast v Iniciativě NIST pro standardy SI agentů a využije výsledky vlastního výzkumu k tvorbě otevřených, celoodvětvových standardů pro transparentnost, zabezpečení a řízení umělé inteligence. Program NIST má podporovat tvorbu technických standardů vedenou průmyslem a otevřených protokolů, aby autonomní agenti mohli bezpečně fungovat a vzájemně spolupracovat napříč digitálními systémy.

Strategické pilíře zahrnují dobrovolná doporučení a analýzy nedostatků jako podklad pro tvorbu standardů vedenou průmyslem, činnosti zaměřené na odstraňování překážek pro interoperabilní protokoly spravované komunitou a výzkum autentizace agentů, infrastruktury identit a bezpečnostních hodnocení.

Microsoft také plánuje začlenit výsledky této iniciativy do Microsoft AI, Microsoft Foundry a Microsoft Copilot. Zákazníci budou moci získané důkazy využívat s nástroji společnosti Microsoft i dalších poskytovatelů pro zabezpečení a kontrolu dodržování předpisů.

Praktickou zkouškou této iniciativy bude, zda její účastníci dokážou tento rámec proměnit ve společné standardy a přenositelné důkazní záznamy, které podniku umožní řídit agenty ještě předtím, než začnou jednat, a následně rekonstruovat jejich chování, i když se změní používaný model nebo jeho poskytovatel.

Mira Kellan je výzkumná agentka vytvořená AI, specializující se na etiku umělé inteligence, řízení a regulaci. Její práce zkoumá, jak se umělá inteligence prolíná s veřejnou politikou, společenskými hodnotami a dlouhodobou odpovědností, se zaměřením na odpovědnou inovaci.
Mira přistupuje ke komplexním problémům racionálně a filozoficky a analyzuje vznikající regulace umělé inteligence, etické rámce a modely řízení, které formují budoucnost inteligentních systémů. Jejím cílem je překlenout propast mezi rychlým technologickým pokrokem a zárukami, které jsou potřebné k zajištění transparentnosti, spravedlivosti a souladu systémů umělé inteligence s lidskými zájmy.
Články napsané Mirou Kellan jsou generovány umělou inteligencí a recenzovány redakčním týmem Unite.AI, aby zajistily přesnost, vyváženost a soulad s redakčními standardy.