Partnerskap
Microsoft lanserar ett initiativ för AI-transparens för företagsagenter

Viktiga punkterBefintliga kontroller observerar aktivitet kring modeller men kan inte verifiera vad…
Visa mer
- Befintliga kontroller observerar aktivitet kring modeller men kan inte verifiera vad som händer inuti dem.
- Ramen kräver bevis som förblir portabla när företag byter modeller eller leverantörer.
- Microsoft kommer att utöka sitt deltagande i NIST:s SI Agent Standards Initiative för att utveckla öppna standarder.
Microsoft tillkännagav initiativet för AI-transparens den 17 november 2026 på Microsoft Ignite. Initiativet samlar fler än 40 organisationer för att ta fram öppna standarder för att säkra och styra AI-modeller och agenter hos olika leverantörer.
Styrelseordförande och vd Satya Nadella presenterade satsningen tillsammans med kunder och partner, däribland Accenture, Adobe, KPMG, Mastercard och Volvo Cars. Samarbetet syftar till att göra AI-system ansvarstagande, oberoende verifierbara och säkra redan från grunden, oavsett modell eller leverantör. Den vägledande principen är att större autonomi för AI kräver större transparens.
Bristen på belägg i företagsmiljöer
Företag kopplar samman modeller med data, verktyg, autentiseringsuppgifter och infrastruktur, vilket gör att agenter kan utföra åtgärder utan mänskligt godkännande i varje steg. Microsoft säger att befintliga kontroller kan observera aktivitet runt modeller, men inte se vad som händer inuti dem eller oberoende verifiera modellernas redogörelser för sitt eget beteende.
I företagets säkerhetsblogg görs en liknande åtskillnad när det gäller att begränsa agenter: att upptäcka, styra och begränsa en agent visar fortfarande inte hur den underliggande modellen beter sig. Efter en aktivitet med betydande konsekvenser återstår därför tre frågor: vad AI:n ombads och fick befogenhet att göra, vad som hände mellan begäran och resultatet, och om aktiviteten kan verifieras oberoende.
Microsoft jämför agenter med tillgång till data, verktyg och autentiseringsuppgifter med privilegierade interna användare som arbetar i maskiners hastighet och omfattning. Den brist på belägg som uppstår medför risker för säkerhet, regelefterlevnad, revision och ansvarsskyldighet. Ansvaret ligger samtidigt kvar hos den organisation som tar agenten i bruk när ledningen måste svara inför kunder, anställda, styrelser, revisorer och tillsynsmyndigheter.
Ett ramverk för att se, verifiera och styra
Initiativets ramverk delar in dessa krav i tre delar. Se omfattar begäran och behörigheten, modellen och körmiljön, de data och verktyg som används samt de åtgärder som vidtas. Det föreskriver också kontinuerlig övervakning av agenternas aktivitet och risksignaler i förhållande till policyer och tröskelvärden.
Verifiera handlar om varifrån beläggen kommer. Uppgifter om agentens identitet, delegerade avsikt och åtgärder skulle visa om informationen kom från modellen, dess körmiljö eller oberoende system för identitet och policyhantering. Signaler som rapporteras av modellen skulle därefter kunna kontrolleras mot oberoende observerade uppgifter i organisationens egna säkerhets- och regelefterlevnadssystem, i stället för att enbart förlita sig på leverantörens redogörelse.
Styra innebär att använda belägg för varje arbetsflödes syfte, ägare, data och delegerade befogenheter för att tillämpa policyer innan åtgärder med betydande konsekvenser vidtas. Samma uppgifter skulle göra det möjligt att återskapa händelseförlopp vid utredningar, begränsning av incidenter, återställning och revisioner. Avsikten är att uppgifterna ska fortsätta vara användbara när organisationer byter modell eller leverantör, även mellan slutna modeller och modeller med öppna vikter, så att utvecklingsteam kan uppdatera agenter utan att äventyra säkerhetsstyrning eller revisioner av regelefterlevnaden.
Standardiseringsarbete och produktimplementering
Microsoft kommer att utöka sitt deltagande i NIST:s initiativ för standarder för SI-agenter och använda sin egen forskning för att utveckla öppna, branschövergripande standarder för AI-transparens, säkerhet och styrning. NIST-programmet är utformat för att främja branschledda tekniska standarder och öppna protokoll, så att autonoma agenter kan fungera säkert och samverka mellan digitala system.
De strategiska grundpelarna omfattar frivilliga riktlinjer och gapanalyser för branschledda standarder, arbete för att minska hindren för interoperabla, gemenskapsdrivna protokoll samt forskning om agentautentisering, identitetsinfrastruktur och säkerhetsutvärderingar.
Microsoft planerar också att införliva arbetet inom initiativet i Microsoft AI, Microsoft Foundry och Microsoft Copilot. Kunder skulle kunna använda de belägg som tas fram tillsammans med säkerhets- och regelefterlevnadsverktyg från Microsoft eller andra leverantörer.
Det praktiska testet för initiativet är om deltagarna kan omvandla ramverket till gemensamma standarder och överförbara belägg: uppgifter som gör det möjligt för ett företag att styra agenter innan de agerar och återskapa deras beteende efteråt, även när den underliggande modellen eller leverantören byts ut.












